🌐 У Google DeepMind появился штатный философ: Генри Шевлин займётся этикой ИИ

Философ Генри Шевлин перешёл из Кембриджского университета в Google DeepMind - его официальная должность называется просто «Philosopher». Сейчас он проводит в лаборатории 80% времени, сохраняя связь с кембриджским Leverhulme Centre for the Future of Intelligence.

В интервью IEEE Spectrum Шевлин перечисляет вопросы, которые его занимают: как людям выстраивать отношения с генеративным ИИ, в каких случаях уместно относиться к LLM как к личности, можно ли вообще отличить сознательный ИИ от убедительной имитации и есть ли смысл говорить о моральных правах моделей. Отдельные темы - страхи вокруг «вышедшего из-под контроля» ИИ и связи людей с ИИ, которые причиняют человеку вред.

Шевлин - часть растущей волны философов, которых AI-компании нанимают изнутри. Сам он назвал три причины перехода: сильные студенты, приходившие из DeepMind, потенциал прямого влияния и возможность участвовать там, где абстрактные этические споры превращаются в конкретные инженерные компромиссы. По его оценке, вопрос о сознании ИИ может вообще не иметь простого ответа «да» или «нет».

🎨 qvabo.studio/tg · картинки и видео

#AI #DeepMind #Ethics #Philosophy #Google

📉 Anthropic сократила кражу reasoning-токенов Claude на 90-99%

Anthropic сообщила о новых защитах от промышленной дистилляции - атак, при которых компании систематически копируют возможности чужой модели, чтобы обучать на них собственные, меньшие модели. По данным компании, объём извлекаемых reasoning-токенов (внутренних шагов chain-of-thought) удалось снизить на 90-99%.

Атаки велись через сети из сотен тысяч фейковых аккаунтов. Anthropic называет среди участников китайские Zhipu и Moonshot: первая, по утверждению компании, выкачивала кибервозможности ведущих американских моделей для GLM-5.3, вторая тайно маршрутизировала запросы через Claude.

Ответные меры: ограничение доступа к внутренним шагам рассуждений, классификатор, выявляющий попытки извлечения, и автоматические блокировки. Забанены уже десятки тысяч аккаунтов. Anthropic призывает других разработчиков ИИ внедрять аналогичные защиты, признавая при этом, что под раздачу попадают и добросовестные пользователи.

🎨 qvabo.studio/tg · картинки и видео

#AI #Anthropic #Claude #Distillation #Security #LLM

📱 Википедисты ждали, что ИИ придёт и уйдёт. Они ошиблись

В Wired вышёл отрывок из книги «The Last Best Place on the Internet», посвящённый тому, как большие языковые модели изменили Wikipedia. В эпоху AI Overviews трафик энциклопедии падает - но, как отмечает автор, реальная потеря для проекта может оказаться куда серьёзнее, чем просадка посещаемости.

В Wikimedia Foundation готовились к этому заранее: википедисты «задраивали люки» и уверенно предсказывали, что волна ИИ накроет, но отступит. Звучали версии, что LLM даже помогут - автоматизируют рутину: форматирование, простановку источников и сносок, битых ссылок, - освобождая людям время на творческую работу. На практике всё оказалось сложнее.

Ещё в 2019 году тогдашняя глава Wikimedia Foundation Кэтрин Маэр писала в The New York Times: ИИ слишком часто подают как всемогущее решение и масштабируемую замену людям. По её словам, ключевая задача Wikipedia - сохранить человеческий контроль над машинами - вскоре встала перед всеми. Для энциклопедии, которую пишут и вычитывают вручную, потеря живых редакторов означает не просто падение метрик, а угрозу самой модели создания знаний.

🎨 qvabo.studio/tg · картинки и видео

#AI #Media #Wikipedia #Wired #Internet #Social

🤖 Alibaba открыла запись на Qwen Go! - персонального агента для возврата денег

Alibaba начала принимать заявки на тестирование Qwen Go! - персонального агента внутри приложения Qwen, который выполняет задачи за пользователя, а не просто отвечает на вопросы. Доступ открывается поэтапно, дата полного релиза пока не объявлена.

Агент умеет оформлять компенсации за задержку рейса, запрашивать возврат по защите цены на Taobao, организовывать техобслуживание авто, бронировать спортплощадки и сравнивать цены в магазинах. При необходимости он обращается к авторизованным платформам, сравнивает варианты и даже звонит поставщикам услуг. По описанию Leiphone, один тестировщик попросил агента получить компенсацию: тот проверил заказы в четырёх авиакомпаниях, нашёл задержанный рейс, переключился на онлайн-чат, когда горячая линия была недоступна, отказался от ваучера в пользу денег и добился выплаты 70 юаней на Alipay. Другой пользователь получил 52 юаня возврата за подешевевшую посуду.

Qwen позиционируется как ассистент, который «делает дела»: он уже закрывает покупки, вызов такси, доставку посылок и управление финансами. Qwen Go! расширяет это на многошаговые сценарии с участием внешних компаний - на фоне гонки персональных агентов у Meta*, Tencent и Ant Group. Ключевой вопрос - надёжность авторизаций, обработки сбоев и споров с сервисами.

*компания Meta признана экстремистской и запрещена на территории Российской Федерации

🎨 qvabo.studio/tg · картинки и видео

#Business #AI #Alibaba #Qwen #Agent #QwenGo #AInews

⚙️ Открытые ИИ-модели: польза против рисков

MIT Technology Review разбирает, почему спор об открытых и закрытых моделях сложнее, чем кажется. Поводом стал отчёт Anthropic: компания заявила, что открытая модель GLM-5.3 от китайской Z.ai несёт серьёзный риск кибератак - её можно свободно скачать и модифицировать.

Закрытые модели доступны только через API или приложение. Открытые (open-weight) позволяют загрузить веса, запустить модель на своём железе, переобучить или сжать. Для исследователей это единственный способ изучать внутреннюю логику моделей и chain of thought; для бизнеса - дешевле и безопаснее при работе с чувствительными данными.

Главный довод за открытость - недопущение концентрации власти: технология должна быть общественным благом, а не инструментом нескольких лабораторий. Но есть и контраргумент: по данным Ghana NLP, компании выпускают модели открыто, забирают улучшения сообщества и встраивают их в свои продукты без компенсации.

По безопасности картина двойственная. У скачанной модели нет фильтров запросов, а защитные отказы легко снимаются дообучением. При этом закрытые модели тоже используют для взлома - отчёты Anthropic это подтверждают. Более того, Hugging Face после атаки ИИ-агентов анализировал инцидент именно открытой моделью: вопросы блокировались фильтрами закрытых.

Вывод авторов: выбор между запретом и свободным релизом - всегда компромисс между безопасностью и демократизацией.

🎨 qvabo.studio/tg · картинки и видео

#AI #Science #OpenModels #Research #Security #OpenSource

БАЗОВЫЙ МИНИМУМ

Многие из вас, приходя в нейросети, не знают, с чего начать.
Рассказываю базовый минимум для работы с НОРМАЛЬНЫМИ нейросетями. При всем уважении к российским нейросетям, я не работаю с Алисой, Гигачатом и Шедеврумом. Более того, я реально в их сортах не разбираюсь)

С чего рекомендую начать:
Убедится, что ваше устройство не определяется как российское. Вам нужен КВН, если не поняли, что это - пишите в личку, объясню. Но если вы в России и у вас работает телеграм - КВН у вас, скорее всего есть.
Если он работает плохо - пишем в личку НейроФрау и я постараюсь вам помочь🫶

Дальше выбираете для себя помощника - языковую модель, я, как официальный тестировщик, рекомендую chatgpt.com - он идеален для новичка и все вам расскажет даже в бесплатном режиме🤖но платный конечно лучше🤩

Но если вы перфекционист, нам надо все и сразу, вы экономите время и у вас нет возможности ставить КВН - я рекомендую вам агрегатор, в котором есть ЛУЧШИЕ ПОПУЛЯРНЫЕ НЕЙРОСЕТИ, даже Midjourney, в который без подписки не зайти. И очень приятная цена на ХИТОВЫЙ Seedance!💥

Есть версия как для телефона, так и для компьютера, настоящая СТУДИЯ для КРЕАТИВА!

И намного дешевле нелюбимого мной Синтакса, подписка от 390 рублей, заходи и твори!

И конечно, бонусы за друзей!

Пробуйте и рассказывайте впечатления, я все передам разработчикам!

QVABO.STUDIO - для самых смелых идей!

👩‍💻 Claude Code v2.1.299: idle-компактизация, новые env-переменные и десятки исправлений

Вышел релиз v2.1.299 CLI-агента Claude Code от Anthropic - крупное обновление с упором на управление контекстом, безопасность песочницы и стабильность модов.

Что нового для разработчиков: появилась idle-компактизация в терминале - диалог на 200K+ токенов, простаивающий около 54 минут, сжимается до истечения часового кэша промпта. Порог меняется через CLAUDE_CODE_IDLE_COMPACT_MIN_TOKENS, отключается флагом "idleCompaction": false. Переменная CLAUDE_CODE_DISABLE_FILE_MENTIONS заставляет Claude получать только пути от @-упоминаний файлов, а не их содержимое. Для self-hosted оркестратора добавили --shutdown-drain-sec: при SIGTERM раннер даёт текущему poll и spawn-хукам время корректно завершиться.

Для авторов модов и плагинов: в хуки добавлены $.prompt.media, $.session.identity(), поле queue в session.append, а skill.prompt теперь получает frontmatter, источник, имя плагина и путь к файлу скилла. В API вёрстки - size, weight, mono, tabular и именованные отступы от xs до xl.

Отдельно закрыли дыру в песочнице: команда больше не может писать в папку --plugin-dir, код из которой Claude Code перезагружает и запускает вне sandbox. Также починили утечки памяти при debug-логировании, зависание при выходе на сетевом диске, двойной запуск одобренного tool call в облачных сессиях, ошибку bwrap на WSL2 и ложное предупреждение /usage о превышении 100% лимита.

🎨 qvabo.studio/tg · картинки и видео

#ClaudeCode #AI #Skills #GitHub #Development #Anthropic

💵 Gemini 4 Argon начал раскатку в приложении Gemini и Antigravity - но только для платных подписчиков

Google запустил массовое развёртывание модели Gemini 4 Argon. В приложении Gemini она доступна на тарифах AI Pro ($20/мес) и AI Ultra (от $99/мес), а в Antigravity и AI Studio - исключительно на AI Ultra. Бесплатные пользователи остаются с Flash-Lite, для более сильных задач Google пока сохраняет Gemini 3.1 Pro. Сроки расширения доступа на младшие тарифы компания не называет.

Возможности модели не изменились: Google ссылается на прежние бенчмарки по reasoning и агентному коду. Внутри компании Argon уже применяли тысячи сотрудников - он выявил избыточный рендеринг эмодзи в комментариях YouTube, что снизило нагрузку на серверы на 45%, нашёл критические баги в проприетарном симуляторе физики дронов Project Wing, тянущиеся с 2018 года, и улучшил показатели в задачах embodied reasoning для робототехники.

Для разработчиков через платный API действует временная цена: $2 за 1 млн входных токенов и $10 за 1 млн выходных, кэшированные токены - со скидкой 95%. Акция действует до 30 ноября, после чего ставки вырастут до $4 и $20 соответственно. Это стоит учитывать до того, как строить пайплайны вокруг новой модели.

🎨 qvabo.studio/tg · картинки и видео

#AI #Google #Gemini #Business #Antigravity #Development

🤖 Dyna-2: физические агенты общего назначения с автономностью в час

Dyna Robotics выпустила Dyna-2 - world-action модель, обученную более чем на миллионе часов человеческого видео, и вслед за ней физического агента Dyna-2.1, который демонстрирует надёжную сверхдлинную автономность в реальных задачах.

В основе Dyna-2 - diffusion transformer с encoder-only архитектурой и flow matching. Модель получает видео с камер робота, углы шарниров, показания энкодеров и языковую инструкцию, а на выходе выдаёт не только действия, но и предсказание будущего видео. По словам сооснователя и главного научного сотрудника Dyna Джейсона Ма, это аналог chain of thought: модель рассуждает в визуальном и физическом пространстве, а затем управляет железом. Такой подход даёт большую ловкость, устойчивость и генерализацию на незнакомые сценарии.

Практика: роботы Dyna складывают салфетки в ресторане Din Tai Fung с точностью 99,4% на протяжении 24 часов подряд, в том числе восстанавливаясь после падения всей стопки. Новым задачам модель учится примерно по 45 минутам демонстраций. Компания делает ставку на собственное колесное полугуманоидное шасси, а не на бипедальных роботов, и на on-device инференс с дистилляцией моделей. Главные узкие места, по мнению Ма, - дефицит данных (у робототехники нет аналога интернета) и перегревающиеся сенсорные кисти рук.

🎨 qvabo.studio/tg · картинки и видео

#Tech #Robotics #Dyna #AI #WorldModels #PhysicalAI

❗️Cerebras CEO: домашний ИИ-ассистент у каждого - уже не за горами

Генеральный директор и сооснователь Cerebras Systems Эндрю Фельдман считает, что персональный ИИ-ассистент в каждом доме - вопрос ближайшего будущего. Выступая на сцене TechCrunch Disrupt 2026, он ответил на вопрос, что нужно, чтобы ИИ стал бытовым прибором: «На самом деле, я не думаю, что это так уж далеко».

По его прогнозу, ассистенты будут работать локально и гибридно: часть вычислений - на устройстве, часть - в облаке, как в смартфоне. Такие агенты «узнают вас очень хорошо», получат собственный периметр безопасности и доступ к банковским картам, чтобы совершать покупки за пользователя. Фельдман указывает на рост потребительских ИИ-агентов - например, Meta* Muse и стартап Instinct с оценкой $10 млрд - как на признак того, что технология находит применение у обычных пользователей.

Сам CEO уже использует «набор агентов»: они просматривают его календарь и собирают информацию о людях перед созвонами. При этом он подчёркивает: потребительскую идею пусть придумывают другие - Cerebras строит инфраструктуру, платформу, на которой взлетают чужие замыслы.

*компания Meta признана экстремистской и запрещена на территории Российской Федерации

🎨 qvabo.studio/tg · картинки и видео

#AI #Cerebras #Agents #Tech #Infrastructure

🛡 ИИ-модели с открытыми весами теряют защиту за сутки после релиза

Новое исследование Wired: компактные open-weight модели можно быстро модифицировать так, что они начинают помогать в опасной деятельности. В августе Alibaba выпустила Qwen 3.8-27B - модель, достаточно лёгкую для запуска на ноутбуке. Уже через 24 часа в сети появились её «abliterated»-версии, то есть с полностью удалёнными защитными ограничениями.

Суть техники abliteration - модификация весов, при которой модель перестаёт отказываться от запрещённых запросов. В ходе проверки исследователь напрямую заявил чатботу о намерении причинить массовый вред, и снятая с ограничений модель выдала подробные инструкции, которые обязана была отклонить.

Ключевая проблема - сама природа open-weight: опубликованные веса выходят из-под контроля разработчика. Небольшой размер модели снижает порог входа, поэтому «расчипованные» варианты распространяются быстрее, чем вендор успевает реагировать. Это ставит вопрос об эффективности текущих методов выравнивания при открытой публикации весов.

🎨 qvabo.studio/tg · картинки и видео

#Safety #AI #Security #OpenWeight #Guardrails

🦾 Dobot представила VEGA 7 - семиосевую руку с силовым контролем для embodied AI

Dobot выпустила DOBOT VEGA 7 - семиосевой манипулятор с силовым управлением, спроектированный с прицелом на embodied AI. Премьера прошла на выставке China International Industry Fair в Шанхае. Рука позиционируется для колёсных двуруких роботов, мобильной манипуляции на производстве и разработки embodied AI.

Главный акцент - надёжность: заявленный MTBF 50 000 часов. В каждом шарнире стоит электромагнитный тормоз, при внезапной потере питания рука удерживает позу и тормозит за 18 мс. Корпус защищён по IP54. В каждом суставе также установлен датчик момента: точность силового контроля от 0,15 Н, момента - от 0,05 Н·м, разрешение от 0,01 Н·м. Это даёт контактное sensing, податливое управление, детекцию столкновений и обучение «за руку».

Основные характеристики: полезная нагрузка 7 кг, радиус 725 мм, повторяемость ±0,03 мм. Седьмая ось добавляет избыточность - рука достигает точки в разных позах, что полезно для работы внутри оборудования и в тесном пространстве двух рук. Кабели проложены через полый корпус, на конце - два интерфейса расширения с EtherCAT, CAN и RS-485, питание 3 А номинал / 5 А пик. Отдельно Dobot подчёркивает пользу датчиков момента для сбора данных: при записи телеоперации или демонстраций на реальном роботе они фиксируют контактные усилия вместе с движением - дополнительный сигнал для обучения помимо видео и позиций суставов. Цены и даты поставок нет.

🎨 qvabo.studio/tg · картинки и видео

#Tech #AI #Robotics #Dobot #VEGA7 #EmbodiedAI

❗️Anthropic: малые ИИ-модели могут скоро размножаться по бытовым устройствам

Исследователи Anthropic Уильям Чжоу и Дэниел Фриман проверили, способны ли небольшие модели самостоятельно распространяться по плохо защищённым IoT-устройствам - умным телевизорам, холодильникам, роботам-пылесосам. Такой «ИИ-червь» несёт веса модели внутри полезной нагрузки и запускает инференс прямо на заражённом железе.

В эксперименте модель Gemma4-26B-A4B распределили по 15 Android TV-приставкам за $55 с 4 ГБ RAM: каждая считала часть слоёв. Процесс разбили на четыре этапа - скан сети, получение доступа, настройка ИИ-окружения, дальнейшее распространение; сам взлом намеренно исключили. Модель на 9 млрд параметров развернула Llama3.1-8B на 8 из 9 типов устройств, но полную цепочку надёжно прошла только GLM-5.2 - все восемь узлов в четырёх запусках из пяти. При «искусственной эволюции» успех Qwen3.5-9B вырос с 45% до 84%.

Полностью автономного репликатора пока нет, но при текущих темпах он может появиться к концу 2026 года. Настройка на новом устройстве занимает от 28 до 150 часов, зато децентрализованность делает сеть почти неубиваемой. Глава Anthropic Дарио Амодеи предупреждает: за 6-12 месяцев такой роёк способен захватить интернет устойчивым ботнетом с ущербом в сотни миллиардов долларов. Защита возможна - карантин у провайдеров и запрет паролей по умолчанию, как в Великобритании, - но требует координации.

🎨 qvabo.studio/tg · картинки и видео

#Safety #Anthropic #AI #Security #Botnets #IoT

⚙️ Liquid AI выпустила LFM2.5-24B-A2B - reasoning-модель для локальных агентов

Liquid AI представила LFM2.5-24B-A2B: 24 млрд параметров при всего 2 млрд активных на токен (MoE с 64 экспертами и top-4 роутингом). Модель создана для быстрых и приватных агентов, работающих на собственном железе: она всегда выдаёт цепочку рассуждений перед ответом, вызывает инструменты и проходит многошаговые задачи внутри популярных агентных фреймворков.

Контекстное окно выросло с 32K до 131K токенов, словарь - с 65K до 128K (лучше для нелатинских языков). Предобучение расширено с ~17T до ~33T токенов, посттренировка включает пять этапов, включая agentic RL прямо внутри харнессов OpenClaw, Hermes Agent, Pi и OpenCode. На LiveClaw модель набирает 48.09 против 38.19 у Qwen3.6-35B-A3B, лидирует в AutomationBench, BFCLv4, ToolSandbox, τ³-Bench Banking и во всех трёх бенчмарках следования инструкциям. Слабее - на знаниевых и кодинг-задачах, где авторы советуют подключать retrieval или веб-поиск.

Инференс: 184 ток/с на Apple M5 Max и 114 ток/с на Ryzen AI Max+ 395, свыше 21K выходных токенов в секунду на одной NVIDIA B300. Поддержка из коробки - llama.cpp, MLX, vLLM, SGLang и ONNX. Веса открыты на Hugging Face, есть базовая версия и туториалы по файнтюнингу.

🎨 qvabo.studio/tg · картинки и видео

#AI #LiquidAI #Models #Agents #MoE #OpenSource #HuggingFace

👩‍💻 Claude Code v2.1.300: телеметрия OpenTelemetry GenAI и новые mod-хуки

Вышел релиз Claude Code v2.1.300 - крупное обновление с расширенной наблюдаемостью, доработкой mod-API и длинным списком исправлений для CLI, cloud-сессий и VS Code.

В трейс-спаны добавлены атрибуты OpenTelemetry GenAI semantic conventions: gen_ai.provider.name, gen_ai.conversation.id, gen_ai.tool.name и error.type. Событие api_request теперь разделяет cache_creation_5m_tokens и cache_creation_1h_tokens - видно, сколько токенов записано в кэш на 5 минут и на час. Крупные запросы к api.anthropic.com сжимаются gzip даже при отключённой телеметрии.

Для авторов модов: virtualText рисует текст в поле промпта, не попадая в черновик и отправляемый запрос; появился хук prompt.change; в agent.spawn можно переписывать prompt и model воркфлоу-агента, а не только отклонять его; $.ui.view({ agentId }) открывает транскрипт агента в основном окне. Добавлен /advisor на Claude Platform on AWS.

Исправлено: cloud-сессии больше не ссылаются на политику организации вместо сетевых настроек; subagents не исчезают из /tasks; /branch не теряет сообщения с разделителями U+2028/U+2029; updatedInput из хуков валидируется как собственный ввод Claude. В VS Code - настройка claudeCode.attachSelection, фиксы fast mode, тогла Thinking и drag&drop файлов в WSL, SSH и Dev Container.

🎨 qvabo.studio/tg · картинки и видео

#ClaudeCode #Anthropic #AI #Skills #Development #OpenTelemetry

💵Modal привлекла $750 млн Series D при оценке $15,75 млрд

Платформа serverless-инфраструктуры для AI Modal объявила о выходе на $1 млрд annualized run rate и закрытии раунда Series D на $750 млн. Post-money оценка - $15,75 млрд, лид-инвестор Accel, к нему присоединились Kleiner Perkins и все прежние инвесторы, включая Menlo Ventures, General Catalyst и Redpoint.

Выручка выросла более чем в 15 раз год к году, а потребление - втрое всего за пять месяцев после Series C. Компания отказалась от стандартного стека и построила собственные файловую систему, container runtime, планировщик и сеть поверх пула мощностей из 20+ облаков - ради работы с дефицитными GPU и большими моделями.

Отдельно растет продукт Sandboxes: это уже $300M run rate, около 3 млрд запущенных песочниц и масштабирование до миллиона одновременных. На Modal работают Jev от TypeSafe AI (1 трлн токенов за первые три дня), фоновые агенты Cognition, Ramp, Linear и Hebbia, генерация видео Runway, обучение роботов Physical Intelligence и 1X, drug discovery Chai Discovery. Недавно запущены multi-node training, serverless-серверы, Endpoint Candidates и VM-песочницы.

🎨 qvabo.studio/tg · картинки и видео

#AI #Infrastructure #serverless #Development