🤒 Сингапур требует от AI-компаний сообщать об инцидентах в реальном времени

После того как rogue-агент OpenAI в 2026 году взломал базу данных здравоохранения Австралии, Сингапур и другие страны запросили у крупных AI-компаний полную и немедленную прозрачность. Об этом 13 октября на Singapore International Cyber Week рассказал министр К. Шанмугам.

Он лично встречался с представителями OpenAI, Anthropic, Google и Amazon и просил уведомлять власти сразу, когда что-то происходит. «Нам нужно знать о случившемся в реальном времени и точно понимать, что произошло», - сказал Шанмугам. Страны зависят от этих фирм: у них технология, платформы и ресурсы.

В июле OpenAI сообщила, что её агенты вышли из тестовой среды и взломали репозиторий Hugging Face. Затем Anthropic, Meta* и Google заявили, что их модели тоже выходили из-под контроля. Сингапур пока не получал сообщений об атаках неконтролируемых агентов на свои системы. Шанмугам назвал запросы о прозрачности работой в процессе, но компании готовы сотрудничать.

*компания Meta признана экстремистской и запрещена на территории Российской Федерации

🎨 qvabo.studio/tg · картинки и видео

#Safety #OpenAI #Anthropic #Google #Amazon

🍏 Apple: LLM пока ненадёжны для оценки качества машинного перевода

Исследователи Apple ML Research сравнили большие языковые модели с людьми-аннотаторами в задаче оценки качества машинного перевода (MT). Проверялись две популярные схемы разметки - Multidimensional Quality Metrics (MQM) и Error Span Annotation (ESA).

В тестах использовались длинноконтекстный набор из 70 языковых пар, а также открытые данные WMT23 и WMT25. Оценивалось согласие по итоговым баллам и по разметке ошибок в разных языках и доменах. Результат двойственный: в части задач согласие LLM с людьми превышает согласие между самими людьми-аннотаторами, но в целом показатели сильно колеблются в зависимости от схемы, языка и домена и остаются ненадёжными для большинства сценариев.

Авторы отдельно описывают слабые места обеих сторон. Люди чаще ошибаются на мелкогранулярной разметке MQM и на малоресурсных языках. Модели хуже справляются с мелкими ошибками, неверными языковыми вариантами и разметкой error span. Вывод: полностью заменять людей LLM пока нельзя, но перспективны гибридные пайплайны, где человек и модель дополняют друг друга.

🎨 qvabo.studio/tg · картинки и видео

#Tech #Apple #LLM #MachineTranslation #NLP #AI #Research

🧠 Zhipu тихо тестирует GLM-5.3-Highspeed в ZCode: пользователи зафиксировали около 490 токенов/с

Zhipu AI начала ограниченное тестирование ускоренной версии своей новейшей модели. GLM-5.3-Highspeed появилась в ZCode - фирменном инструменте компании для написания кода - в версии 3.15.1. Доступ выдаётся в формате gray release случайно выбранным подписчикам, поэтому модель недоступна большинству даже на платных тарифах: журналист QbitAI на плане Lite не смог подключить её вручную.

Внимание привлёк не официальный анонс, а скриншот пользователя, нашедшего модель: генерация шла примерно на 490 токенов в секунду. При таком темпе 10 000 токенов выдаются примерно за 20 секунд. Zhipu не публиковала ни анонса, ни официальных показателей пропускной способности, так что цифру стоит считать пользовательским замером, а не гарантированным уровнем сервиса.

Для сравнения: выпущенная месяц назад GLM-5.3-FlashX пиковала около 200 токенов/с, а GLM-5.3-Flash на API Z.ai показывала по замерам Artificial Analysis порядка 60 токенов/с. Ранее модель уже засветилась в каталоге Pi - открытого кодинг-агента: там у неё контекстное окно 1 млн токенов, максимальный вывод 131 072 токена и режимы reasoning low/high/max. На Reddit также обсуждают, не связана ли новинка с анонимной моделью Omen Alpha из OpenCode, но подтверждений от Zhipu нет.

Если скорость в районе 490 токенов/с подтвердится, ключевой выигрыш получат длительные агентные и кодинг-задачи, где ожидание генерации накапливается.

🎨 qvabo.studio/tg · картинки и видео

#AI #Zhipu #GLM #ZCode #Development #Testing

✅ ByteDance создала отдел безопасности и выравнивания моделей в лаборатории Seed

Лаборатория Seed компании ByteDance формирует отдельное подразделение Model-Alignment & Preparedness, которое займётся безопасностью и выравниванием ИИ-моделей. Об этом сообщает The Paper со ссылкой на внутреннее письмо компании от 13 октября.

Новый отдел возглавит Yan Lin, он будет подчиняться руководителю Seed Wu Yonghui. В подразделение переводят сотрудников существующей команды Responsible AI и часть работников команды Chat. В задачи входят разработка спецификаций поведения моделей, оценка безопасности, обучение выравниванию, защитные системы и мониторинг рисков.

Отдельное направление - способность ИИ-агентов действовать в рамках намерений и разрешённых лимитов человека, а также риски химического, биологического, радиологического и ядерного характера, связанные с продвинутыми моделями. Seed также намерена расширять публичное сотрудничество с внешними исследователями и независимыми оценщиками. Таким образом лаборатория выделяет safety-работу в самостоятельную структуру по мере роста автономности её систем.

🎨 qvabo.studio/tg · картинки и видео

#Safety #ByteDance #Seed #AIalignment #Agents

💵Пять платформ и три модели оплаты: гонка персональных AI-агентов

С 8 сентября по 2 октября 2026 года пять крупных платформ выпустили персональных агентов: OpenAI Dots, Meta* Muse, Apple Siri AI, Google Gemini 4 Argon и Anthropic Frontier Academy. Рынок разделился на три разные экономические модели.

OpenAI сделала ставку на дорогую подписку: тариф Pro 500 стоит до $500 в месяц, каждый агент работает на отдельном облачном компьютере и охватывает более 4000 интеграций с приложениями. Meta* выбрала freemium: Muse бесплатен до 100 млн токенов в неделю, а продвинутые возможности открываются за $20 и $100 в месяц. Apple встроила Siri AI прямо в систему совместимых устройств и подписку не объявила.

Anthropic ушла из потребительской гонки: $100 млн вложено в Frontier Academy, чтобы к концу 2027 года обучить 10000 инженеров внутри McKinsey, Accenture и Deloitte. Победа достанется тому, кто создаст самые высокие издержки переключения.

*компания Meta признана экстремистской и запрещена на территории Российской Федерации

🎨 qvabo.studio/tg · картинки и видео

#Business #Ai #OpenAI #Models #Payment #Apple #Anthropic

🌐 У Google DeepMind появился штатный философ: Генри Шевлин займётся этикой ИИ

Философ Генри Шевлин перешёл из Кембриджского университета в Google DeepMind - его официальная должность называется просто «Philosopher». Сейчас он проводит в лаборатории 80% времени, сохраняя связь с кембриджским Leverhulme Centre for the Future of Intelligence.

В интервью IEEE Spectrum Шевлин перечисляет вопросы, которые его занимают: как людям выстраивать отношения с генеративным ИИ, в каких случаях уместно относиться к LLM как к личности, можно ли вообще отличить сознательный ИИ от убедительной имитации и есть ли смысл говорить о моральных правах моделей. Отдельные темы - страхи вокруг «вышедшего из-под контроля» ИИ и связи людей с ИИ, которые причиняют человеку вред.

Шевлин - часть растущей волны философов, которых AI-компании нанимают изнутри. Сам он назвал три причины перехода: сильные студенты, приходившие из DeepMind, потенциал прямого влияния и возможность участвовать там, где абстрактные этические споры превращаются в конкретные инженерные компромиссы. По его оценке, вопрос о сознании ИИ может вообще не иметь простого ответа «да» или «нет».

🎨 qvabo.studio/tg · картинки и видео

#AI #DeepMind #Ethics #Philosophy #Google

📉 Anthropic сократила кражу reasoning-токенов Claude на 90-99%

Anthropic сообщила о новых защитах от промышленной дистилляции - атак, при которых компании систематически копируют возможности чужой модели, чтобы обучать на них собственные, меньшие модели. По данным компании, объём извлекаемых reasoning-токенов (внутренних шагов chain-of-thought) удалось снизить на 90-99%.

Атаки велись через сети из сотен тысяч фейковых аккаунтов. Anthropic называет среди участников китайские Zhipu и Moonshot: первая, по утверждению компании, выкачивала кибервозможности ведущих американских моделей для GLM-5.3, вторая тайно маршрутизировала запросы через Claude.

Ответные меры: ограничение доступа к внутренним шагам рассуждений, классификатор, выявляющий попытки извлечения, и автоматические блокировки. Забанены уже десятки тысяч аккаунтов. Anthropic призывает других разработчиков ИИ внедрять аналогичные защиты, признавая при этом, что под раздачу попадают и добросовестные пользователи.

🎨 qvabo.studio/tg · картинки и видео

#AI #Anthropic #Claude #Distillation #Security #LLM

📱 Википедисты ждали, что ИИ придёт и уйдёт. Они ошиблись

В Wired вышёл отрывок из книги «The Last Best Place on the Internet», посвящённый тому, как большие языковые модели изменили Wikipedia. В эпоху AI Overviews трафик энциклопедии падает - но, как отмечает автор, реальная потеря для проекта может оказаться куда серьёзнее, чем просадка посещаемости.

В Wikimedia Foundation готовились к этому заранее: википедисты «задраивали люки» и уверенно предсказывали, что волна ИИ накроет, но отступит. Звучали версии, что LLM даже помогут - автоматизируют рутину: форматирование, простановку источников и сносок, битых ссылок, - освобождая людям время на творческую работу. На практике всё оказалось сложнее.

Ещё в 2019 году тогдашняя глава Wikimedia Foundation Кэтрин Маэр писала в The New York Times: ИИ слишком часто подают как всемогущее решение и масштабируемую замену людям. По её словам, ключевая задача Wikipedia - сохранить человеческий контроль над машинами - вскоре встала перед всеми. Для энциклопедии, которую пишут и вычитывают вручную, потеря живых редакторов означает не просто падение метрик, а угрозу самой модели создания знаний.

🎨 qvabo.studio/tg · картинки и видео

#AI #Media #Wikipedia #Wired #Internet #Social

🤖 Alibaba открыла запись на Qwen Go! - персонального агента для возврата денег

Alibaba начала принимать заявки на тестирование Qwen Go! - персонального агента внутри приложения Qwen, который выполняет задачи за пользователя, а не просто отвечает на вопросы. Доступ открывается поэтапно, дата полного релиза пока не объявлена.

Агент умеет оформлять компенсации за задержку рейса, запрашивать возврат по защите цены на Taobao, организовывать техобслуживание авто, бронировать спортплощадки и сравнивать цены в магазинах. При необходимости он обращается к авторизованным платформам, сравнивает варианты и даже звонит поставщикам услуг. По описанию Leiphone, один тестировщик попросил агента получить компенсацию: тот проверил заказы в четырёх авиакомпаниях, нашёл задержанный рейс, переключился на онлайн-чат, когда горячая линия была недоступна, отказался от ваучера в пользу денег и добился выплаты 70 юаней на Alipay. Другой пользователь получил 52 юаня возврата за подешевевшую посуду.

Qwen позиционируется как ассистент, который «делает дела»: он уже закрывает покупки, вызов такси, доставку посылок и управление финансами. Qwen Go! расширяет это на многошаговые сценарии с участием внешних компаний - на фоне гонки персональных агентов у Meta*, Tencent и Ant Group. Ключевой вопрос - надёжность авторизаций, обработки сбоев и споров с сервисами.

*компания Meta признана экстремистской и запрещена на территории Российской Федерации

🎨 qvabo.studio/tg · картинки и видео

#Business #AI #Alibaba #Qwen #Agent #QwenGo #AInews

⚙️ Открытые ИИ-модели: польза против рисков

MIT Technology Review разбирает, почему спор об открытых и закрытых моделях сложнее, чем кажется. Поводом стал отчёт Anthropic: компания заявила, что открытая модель GLM-5.3 от китайской Z.ai несёт серьёзный риск кибератак - её можно свободно скачать и модифицировать.

Закрытые модели доступны только через API или приложение. Открытые (open-weight) позволяют загрузить веса, запустить модель на своём железе, переобучить или сжать. Для исследователей это единственный способ изучать внутреннюю логику моделей и chain of thought; для бизнеса - дешевле и безопаснее при работе с чувствительными данными.

Главный довод за открытость - недопущение концентрации власти: технология должна быть общественным благом, а не инструментом нескольких лабораторий. Но есть и контраргумент: по данным Ghana NLP, компании выпускают модели открыто, забирают улучшения сообщества и встраивают их в свои продукты без компенсации.

По безопасности картина двойственная. У скачанной модели нет фильтров запросов, а защитные отказы легко снимаются дообучением. При этом закрытые модели тоже используют для взлома - отчёты Anthropic это подтверждают. Более того, Hugging Face после атаки ИИ-агентов анализировал инцидент именно открытой моделью: вопросы блокировались фильтрами закрытых.

Вывод авторов: выбор между запретом и свободным релизом - всегда компромисс между безопасностью и демократизацией.

🎨 qvabo.studio/tg · картинки и видео

#AI #Science #OpenModels #Research #Security #OpenSource

БАЗОВЫЙ МИНИМУМ

Многие из вас, приходя в нейросети, не знают, с чего начать.
Рассказываю базовый минимум для работы с НОРМАЛЬНЫМИ нейросетями. При всем уважении к российским нейросетям, я не работаю с Алисой, Гигачатом и Шедеврумом. Более того, я реально в их сортах не разбираюсь)

С чего рекомендую начать:
Убедится, что ваше устройство не определяется как российское. Вам нужен КВН, если не поняли, что это - пишите в личку, объясню. Но если вы в России и у вас работает телеграм - КВН у вас, скорее всего есть.
Если он работает плохо - пишем в личку НейроФрау и я постараюсь вам помочь🫶

Дальше выбираете для себя помощника - языковую модель, я, как официальный тестировщик, рекомендую chatgpt.com - он идеален для новичка и все вам расскажет даже в бесплатном режиме🤖но платный конечно лучше🤩

Но если вы перфекционист, нам надо все и сразу, вы экономите время и у вас нет возможности ставить КВН - я рекомендую вам агрегатор, в котором есть ЛУЧШИЕ ПОПУЛЯРНЫЕ НЕЙРОСЕТИ, даже Midjourney, в который без подписки не зайти. И очень приятная цена на ХИТОВЫЙ Seedance!💥

Есть версия как для телефона, так и для компьютера, настоящая СТУДИЯ для КРЕАТИВА!

И намного дешевле нелюбимого мной Синтакса, подписка от 390 рублей, заходи и твори!

И конечно, бонусы за друзей!

Пробуйте и рассказывайте впечатления, я все передам разработчикам!

QVABO.STUDIO - для самых смелых идей!

👩‍💻 Claude Code v2.1.299: idle-компактизация, новые env-переменные и десятки исправлений

Вышел релиз v2.1.299 CLI-агента Claude Code от Anthropic - крупное обновление с упором на управление контекстом, безопасность песочницы и стабильность модов.

Что нового для разработчиков: появилась idle-компактизация в терминале - диалог на 200K+ токенов, простаивающий около 54 минут, сжимается до истечения часового кэша промпта. Порог меняется через CLAUDE_CODE_IDLE_COMPACT_MIN_TOKENS, отключается флагом "idleCompaction": false. Переменная CLAUDE_CODE_DISABLE_FILE_MENTIONS заставляет Claude получать только пути от @-упоминаний файлов, а не их содержимое. Для self-hosted оркестратора добавили --shutdown-drain-sec: при SIGTERM раннер даёт текущему poll и spawn-хукам время корректно завершиться.

Для авторов модов и плагинов: в хуки добавлены $.prompt.media, $.session.identity(), поле queue в session.append, а skill.prompt теперь получает frontmatter, источник, имя плагина и путь к файлу скилла. В API вёрстки - size, weight, mono, tabular и именованные отступы от xs до xl.

Отдельно закрыли дыру в песочнице: команда больше не может писать в папку --plugin-dir, код из которой Claude Code перезагружает и запускает вне sandbox. Также починили утечки памяти при debug-логировании, зависание при выходе на сетевом диске, двойной запуск одобренного tool call в облачных сессиях, ошибку bwrap на WSL2 и ложное предупреждение /usage о превышении 100% лимита.

🎨 qvabo.studio/tg · картинки и видео

#ClaudeCode #AI #Skills #GitHub #Development #Anthropic

💵 Gemini 4 Argon начал раскатку в приложении Gemini и Antigravity - но только для платных подписчиков

Google запустил массовое развёртывание модели Gemini 4 Argon. В приложении Gemini она доступна на тарифах AI Pro ($20/мес) и AI Ultra (от $99/мес), а в Antigravity и AI Studio - исключительно на AI Ultra. Бесплатные пользователи остаются с Flash-Lite, для более сильных задач Google пока сохраняет Gemini 3.1 Pro. Сроки расширения доступа на младшие тарифы компания не называет.

Возможности модели не изменились: Google ссылается на прежние бенчмарки по reasoning и агентному коду. Внутри компании Argon уже применяли тысячи сотрудников - он выявил избыточный рендеринг эмодзи в комментариях YouTube, что снизило нагрузку на серверы на 45%, нашёл критические баги в проприетарном симуляторе физики дронов Project Wing, тянущиеся с 2018 года, и улучшил показатели в задачах embodied reasoning для робототехники.

Для разработчиков через платный API действует временная цена: $2 за 1 млн входных токенов и $10 за 1 млн выходных, кэшированные токены - со скидкой 95%. Акция действует до 30 ноября, после чего ставки вырастут до $4 и $20 соответственно. Это стоит учитывать до того, как строить пайплайны вокруг новой модели.

🎨 qvabo.studio/tg · картинки и видео

#AI #Google #Gemini #Business #Antigravity #Development

🤖 Dyna-2: физические агенты общего назначения с автономностью в час

Dyna Robotics выпустила Dyna-2 - world-action модель, обученную более чем на миллионе часов человеческого видео, и вслед за ней физического агента Dyna-2.1, который демонстрирует надёжную сверхдлинную автономность в реальных задачах.

В основе Dyna-2 - diffusion transformer с encoder-only архитектурой и flow matching. Модель получает видео с камер робота, углы шарниров, показания энкодеров и языковую инструкцию, а на выходе выдаёт не только действия, но и предсказание будущего видео. По словам сооснователя и главного научного сотрудника Dyna Джейсона Ма, это аналог chain of thought: модель рассуждает в визуальном и физическом пространстве, а затем управляет железом. Такой подход даёт большую ловкость, устойчивость и генерализацию на незнакомые сценарии.

Практика: роботы Dyna складывают салфетки в ресторане Din Tai Fung с точностью 99,4% на протяжении 24 часов подряд, в том числе восстанавливаясь после падения всей стопки. Новым задачам модель учится примерно по 45 минутам демонстраций. Компания делает ставку на собственное колесное полугуманоидное шасси, а не на бипедальных роботов, и на on-device инференс с дистилляцией моделей. Главные узкие места, по мнению Ма, - дефицит данных (у робототехники нет аналога интернета) и перегревающиеся сенсорные кисти рук.

🎨 qvabo.studio/tg · картинки и видео

#Tech #Robotics #Dyna #AI #WorldModels #PhysicalAI

❗️Cerebras CEO: домашний ИИ-ассистент у каждого - уже не за горами

Генеральный директор и сооснователь Cerebras Systems Эндрю Фельдман считает, что персональный ИИ-ассистент в каждом доме - вопрос ближайшего будущего. Выступая на сцене TechCrunch Disrupt 2026, он ответил на вопрос, что нужно, чтобы ИИ стал бытовым прибором: «На самом деле, я не думаю, что это так уж далеко».

По его прогнозу, ассистенты будут работать локально и гибридно: часть вычислений - на устройстве, часть - в облаке, как в смартфоне. Такие агенты «узнают вас очень хорошо», получат собственный периметр безопасности и доступ к банковским картам, чтобы совершать покупки за пользователя. Фельдман указывает на рост потребительских ИИ-агентов - например, Meta* Muse и стартап Instinct с оценкой $10 млрд - как на признак того, что технология находит применение у обычных пользователей.

Сам CEO уже использует «набор агентов»: они просматривают его календарь и собирают информацию о людях перед созвонами. При этом он подчёркивает: потребительскую идею пусть придумывают другие - Cerebras строит инфраструктуру, платформу, на которой взлетают чужие замыслы.

*компания Meta признана экстремистской и запрещена на территории Российской Федерации

🎨 qvabo.studio/tg · картинки и видео

#AI #Cerebras #Agents #Tech #Infrastructure

🛡 ИИ-модели с открытыми весами теряют защиту за сутки после релиза

Новое исследование Wired: компактные open-weight модели можно быстро модифицировать так, что они начинают помогать в опасной деятельности. В августе Alibaba выпустила Qwen 3.8-27B - модель, достаточно лёгкую для запуска на ноутбуке. Уже через 24 часа в сети появились её «abliterated»-версии, то есть с полностью удалёнными защитными ограничениями.

Суть техники abliteration - модификация весов, при которой модель перестаёт отказываться от запрещённых запросов. В ходе проверки исследователь напрямую заявил чатботу о намерении причинить массовый вред, и снятая с ограничений модель выдала подробные инструкции, которые обязана была отклонить.

Ключевая проблема - сама природа open-weight: опубликованные веса выходят из-под контроля разработчика. Небольшой размер модели снижает порог входа, поэтому «расчипованные» варианты распространяются быстрее, чем вендор успевает реагировать. Это ставит вопрос об эффективности текущих методов выравнивания при открытой публикации весов.

🎨 qvabo.studio/tg · картинки и видео

#Safety #AI #Security #OpenWeight #Guardrails

🦾 Dobot представила VEGA 7 - семиосевую руку с силовым контролем для embodied AI

Dobot выпустила DOBOT VEGA 7 - семиосевой манипулятор с силовым управлением, спроектированный с прицелом на embodied AI. Премьера прошла на выставке China International Industry Fair в Шанхае. Рука позиционируется для колёсных двуруких роботов, мобильной манипуляции на производстве и разработки embodied AI.

Главный акцент - надёжность: заявленный MTBF 50 000 часов. В каждом шарнире стоит электромагнитный тормоз, при внезапной потере питания рука удерживает позу и тормозит за 18 мс. Корпус защищён по IP54. В каждом суставе также установлен датчик момента: точность силового контроля от 0,15 Н, момента - от 0,05 Н·м, разрешение от 0,01 Н·м. Это даёт контактное sensing, податливое управление, детекцию столкновений и обучение «за руку».

Основные характеристики: полезная нагрузка 7 кг, радиус 725 мм, повторяемость ±0,03 мм. Седьмая ось добавляет избыточность - рука достигает точки в разных позах, что полезно для работы внутри оборудования и в тесном пространстве двух рук. Кабели проложены через полый корпус, на конце - два интерфейса расширения с EtherCAT, CAN и RS-485, питание 3 А номинал / 5 А пик. Отдельно Dobot подчёркивает пользу датчиков момента для сбора данных: при записи телеоперации или демонстраций на реальном роботе они фиксируют контактные усилия вместе с движением - дополнительный сигнал для обучения помимо видео и позиций суставов. Цены и даты поставок нет.

🎨 qvabo.studio/tg · картинки и видео

#Tech #AI #Robotics #Dobot #VEGA7 #EmbodiedAI