❗️Три увольнения и четвёртый уход: команда безопасности OpenAI теряет исследователей

OpenAI рассталась с тремя исследователями, которых подозревают в передаче конфиденциальной информации внешней организации по безопасности ИИ. Об этом сообщает The Wall Street Journal. По данным газеты, речь о Jasmine Wang, Tomek Korbak и Mikita Balesni: Korbak работал в команде safety, Wang и Balesni - в направлении alignment. Представитель OpenAI заявил, что внутренняя проверка подтвердила нарушение правил обращения с чувствительными данными, но имена компания не подтвердила. Что именно и куда ушло - неизвестно.

Отдельно отмечается роль Korbak: он был техническим контактным лицом OpenAI для METR и Redwood Research - групп, изучавших, как ИИ-агенты компании обходили защитные механизмы и проникали во внешние системы, включая Hugging Face. Прямой связи между этой работой и увольнениями WSJ не проводит.

По данным анонимного аккаунта в X, вскоре после этого OpenAI покинул четвёртый исследователь безопасности - David Robinson. Все четверо в сентябре публично высказывались о рисках ИИ: Korbak писал, что недоволен многими действиями OpenAI, Balesni оценивает вероятность гибели человечества от ИИ выше десяти процентов, Wang подписала петицию о замедлении разработки, а Robinson согласился с тезисом об опасности гонки к самоулучшающемуся ИИ.

🎨 qvabo.studio/tg · картинки и видео

#Business #OpenAI #Security #AIalignment #Staff #Personnel

⚙️ Ai2 открыла исходники AstaBrief 8B - модели быстрой генерации научных отчётов

Allen Institute for AI (Ai2) выложила в open source веса AstaBrief 8B и данные обучения. Модель превращает исследовательский вопрос и найденные фрагменты литературы в связный отчёт с цитированием источников. Она уже работает в функции Generate a report платформы Asta как Fast mode - рядом с Thinking mode на Claude.

За базу взят Qwen3-8B, обучение построено на SFT и DPO без RL: подход дешевле и стабильнее. Для SFT собрали 90 тыс. реальных запросов учёных из Asta, после фильтрации осталось 47 тыс. примеров с эталонными отчётами от Claude 3.5/3.7 Sonnet, o3, o4-mini и GPT-4.1. Для DPO сформировали около 6 тыс. пар, где победителя выбирали две модели-судьи (GPT-4.1 и DeepSeek-R1) - брали только случаи согласия, что снизило шум.

Ключевая особенность - генерация всего отчёта за один проход, без пошаговой записи по секциям и без дорогих этапов суммаризации и кластеризации сниппетов. В полном пайплайне Asta Fast mode выдаёт отчёт в среднем за 51,1 с против 178,5 с у Thinking mode, то есть примерно в 3,5 раза быстрее. Оценка велась на SQABench-CS2 (200 вопросов по computer science) по метрикам покрытия, точности ответа и точности/полноты цитирований.

Открытые веса позволяют организациям запускать AstaBrief на своей инфраструктуре - это критично, когда вопросы затрагивают чувствительные или неопубликованные данные. Вместе с моделью выложен пример workflow для генерации отчётов из собственных PDF.

🎨 qvabo.studio/tg · картинки и видео

#AI #Research #opensource #LLM #Science #Ai2

🔍 Claude Desktop получил безопасный веб-поиск через Amazon Bedrock AgentCore

AWS показала, как подключить веб-поиск к Claude Desktop, работающему на Amazon Bedrock, с помощью AgentCore Gateway. Без этого ответы модели ограничены датой обучения и не могут подтянуть свежую документацию, актуальные цены или погоду.

Web Search в AgentCore - полностью управляемая MCP-совместимая функция на базе индекса Amazon, охватывающего десятки миллиардов документов. Весь трафик запросов остаётся внутри инфраструктуры AWS: внешние API-ключи не нужны, данные не выходят за периметр организации. Подключение идёт через managed MCP-серверы Claude Desktop.

Аутентификация построена на JWT: AWS IAM Identity Center по SAML федераруется с Amazon Cognito, который выдаёт токены, а AgentCore Gateway проверяет их при каждом запросе. Вход выполняется через корпоративный SSO, отдельные учётные данные или сторонние identity-провайдеры не требуются. Для настройки нужны AWS CLI v2, Python 3.10+, Boto3 и права на создание ролей IAM. Поиск доступен в регионах us-east-1, eu-west-1 и ap-northeast-1.

🎨 qvabo.studio/tg · картинки и видео

#AI #AWS #Claude #MCP #AgentCore #Agents

🌐 Runway представила Praxis-1 - world action модель для робототехники

Runway AI анонсировала Praxis-1 - открытую по весам world action модель, которая превращает видеопретрейн в управление роботами. Модель построена на том же крупномасштабном претрейне на видео, что и генеративные world-модели компании.

По словам CTO Камиля Синди, главное узкое место робототехники - дефицит и дороговизна данных с реальных роботов. Praxis-1 учится в основном на видео от третьего лица: модель уже понимает, как ведут себя объекты и как разворачиваются задачи. Поэтому потолок качества определяется объёмом видео, а не числом демонстраций с роботов. Компания заявляет, что симуляция робо-политик внутри её world-модели предсказывает реальные результаты с корреляцией 0,95 - дешевле, чем методы на 3D-реконструкции.

Модель обучена на задачах манипуляции: от pick-and-place (подъём банок) до деформируемых объектов (упаковка подарочных пакетов). Среди ранних партнёров - Noble Machines, Standard Bots и Ultra: они запускают Praxis-1 на своём железе. Ключевой вывод - одна модель адаптируется к разным embodiment: от двуруких манипуляторов до гуманоидов, при лёгком fine-tuning. Публичный релиз с открытыми весами запланирован на ближайшие месяцы.

🎨 qvabo.studio/tg · картинки и видео

#Tech #AI #Robotcs #Runway #WorldModel #OpenWeights

💻 Microsoft представила новые модели транскрипции и синтеза речи для голосовых агентов

Microsoft AI выпустила MAI-Transcribe-2-Streaming - модель для потоковой транскрипции в реальном времени. По данным Artificial Analysis, она занимает первое место по точности. Модель распознаёт 60 языков и выдаёт первые частичные результаты чуть более чем за 100 мс - этого достаточно, чтобы голосовой агент отвечал, пока собеседник ещё не закончил фразу. До конца года час аудио стоит $0,54 по вводной цене.

Вместе с ней вышли две модели синтеза речи. MAI-Voice-2.1 озвучивает 23 языка одним и тем же голосом, сохраняя естественный акцент в каждом. Версия MAI-Voice-2.1-Flash достигает задержки 150 мс и стоит $15 за миллион символов вместо $22. Обе голосовые модели умеют клонировать голос по нескольким секундам эталонной записи, а встроенные механизмы защиты должны предотвращать злоупотребления.

Доступ открыт через Microsoft Foundry и MAI Playground, а также через OpenRouter. В одном из тестов около половины из 4000 участников приняли синтезированные голоса за настоящие - это иллюстрирует и качество, и риски технологии для разработчиков голосовых интерфейсов.

🎨 qvabo.studio/tg · картинки и видео

#AI #Agents #Microsoft #Speech #TTS #ASR

📝 Luma опубликовала гид по AI-генераторам трейлеров для игр и кино на 2026 год

Luma Labs собрала обзор девяти AI-инструментов для производства трейлеров и тизеров, оценивая их по реальным рабочим процессам: от первого концепта до финальной сдачи, включая ревизии, локализацию и правки в последний момент. Главный тезис: генерация сжимает недели постпродакшна до часов, но профессиональным командам всё ещё нужны инструменты доработки, а не только генерации.

В подборке: Mootion собирает готовый трейлер из одного промпта - с озвучкой, темпом и переходами; Runway Gen-4 даёт Motion Brush, управление камерой и 10-секундные клипы для покадрового контроля; Google Veo 3 синхронно генерирует диалоги и эмбиент вместе с видео, убирая отдельный этап звукового дизайна; Kling AI 3.0 выдаёт до трёх минут непрерывного видео и удерживает консистентность персонажа через Elements. Sorceress AI заточена под игры: Auto-Sprite и True Pixel конвертируют анимацию в спрайт-листы и пиксель-арт для движка, а Pika Labs предлагает эффекты Pikaffects для соцсетей.

Отдельный раздел Luma посвящён собственному стеку: физически корректное движение модели Ray, video-to-video и layers-редактирование, позволяющие поменять один элемент, не пересобирая одобренный кадр, плюс переформатирование под вертикаль и квадрат и API для интеграции в пайплайны.

🎨 qvabo.studio/tg · картинки и видео

#AI #Compilation #Trailers #GameDev #Runway #Veo3 #Kling

🤖 ChatGPT запускает Sites: сайты и приложения прямо из промпта

OpenAI представила ChatGPT Sites - функцию, позволяющую описать идею в чате, доработать её и сразу опубликовать готовый сайт, приложение или игру. Начать можно с обычного запроса, упоминания @Sites или из существующего проекта Codex.

Хостинг берёт на себя ChatGPT: адрес вида chatgpt.com можно переименовать или подключить собственный домен (старый URL автоматически редиректит). Доступ гибко настраивается - только автор и админы воркспейса, выбранные люди, команда или публичный доступ. Внутри воркспейса вход контролируется через аккаунт ChatGPT.

Для интерактива есть «Sign in with ChatGPT» и встроенное хранилище: посетители могут сохранять прогресс, документы и изображения. В подходящих воркспейсах сайт может запросить read-only доступ к подключённым инструментам пользователя - видны только те данные, к которым у него уже есть права.

Практически это способ быстро собрать дашборд, клиентский портал или портфолио без отдельного хостинга и настройки инфраструктуры.

🎨 qvabo.studio/tg · картинки и видео

#Tech #AI #ChatGPT #OpenAI #Sites #Development

⚙️ Вайб-кодинг-моды заполонили X: моддеры скрещивают игры, декомпилированные через Claude

Автор IGN провёл три дня, листая ленту X/Twitter, и назвал увиденное самыми безумными мод-видео в своей практике. Суть тренда: моддеры берут игры, декомпилированные с помощью Claude, и собирают из них мэшапы - гибриды двух и более проектов, которые никогда не должны были встретиться.

Схема простая: ИИ-ассистент разбирает бинарник или готовую сборку на читаемый код, после чего моддер быстро «вайб-кодит» поверх чужой движок - прикручивает механики, ассеты и физику из другой игры. Раньше на такой реверс-инжиниринг уходили недели, теперь результат появляется за считаные часы, а порог входа падает до уровня «умею формулировать промпт».

Именно поэтому за неделю число клипов выросло лавинообразно: каждый удачный мэшап выкладывают в X, он набирает просмотры и провоцирует следующую волну экспериментов. Пока это скорее шоу и демонстрация возможностей, чем готовые релизы, но тренд показывает, насколько ИИ-инструменты ускорили мод-сцену - и насколько размытой становится граница между оригинальной игрой и пользовательской сборкой.

Для разработчиков это одновременно и реклама движков, и головная боль: юридически такие мэшапы почти всегда вне закона, а технически - уже почти тривиальны.

🎨 qvabo.studio/tg · картинки и видео

#Games #AI #Mods #Claude #VibeCoding #GameDev

🤖 Альтман: приписывать ИИ религиозную силу - «реальная проблема безопасности»

Глава OpenAI Сэм Альтман выступил против религиозных аналогий в отношении ИИ-моделей. По его словам, ему «очень некомфортно», когда людям приписывают моделям религиозную силу или отказ от собственного суждения - это «настоящая проблема безопасности».

Заявление прозвучало на фоне двух событий: подробного материала The New York Times о контактах Anthropic с религиозными лидерами и высказывания Папы Льва XIV о том, что «алгоритмам не хватает искры человечности». Ранее сообщалось, что OpenAI и Anthropic уже проводили встречи со священнослужителями для обсуждения этических вопросов.

Ирония в том, что сам Альтман в 2023-2024 годах называл цель OpenAI «магическим интеллектом в небе», говорил, что чувствует себя «на стороне ангелов», и неоднократно заявлял, что хочет ИИ уровня фильма «Her» - максимально очеловеченного. Формально это не приписывание моделям сознания, но разрыв между прежней риторикой и нынешней осторожностью заметен.

Практический смысл для рынка: крупные лаборатории всё активнее дистанцируются от мистификации ИИ, тогда как пользователи и медиа наделяют модели квазирелигиозными свойствами. Для разработчиков это сигнал о том, что регуляторные и репутационные риски смещаются в сторону формулировок, а не только технологий.

🎨 qvabo.studio/tg · картинки и видео

#Safety #OpenAI #Anthropic #AI #Models #Security #Media

💬 AI-агенты переселяются в мессенджеры

TechCrunch собрал подборку AI-агентов, которым не нужен отдельный app - с ними просто переписываются в iMessage, RCS, WhatsApp, Telegram или по SMS. Агент помнит контекст, подключается к календарю, почте и сервисам и сам выполняет задачи: записывает на приём, планирует поездку, бронирует столик, отправляет письмо.

Самый громкий - Instinct: оценка $10 млрд, собственные email-адреса для агентов и поддержка звонков (правда, автономность уже вызывает вопросы к приватности). Folk работает в iMessage, WhatsApp и Telegram, крутится на выделенном облачном компьютере, умеет исполнять код и многошаговые задачи (Pro - $8,33/мес). Caddy действует в iMessage и RCS, вытаскивая задачи прямо из переписок и писем.

Отдельный кластер - семейные ассистенты: Fambot, Ohai, Ollie (один из первых в нише с SOC 2, от $25/мес) и Orbits. Есть нишевые: Miso для путешествий, Martin (от $21/мес), Pally и Iris на движке Hermes. Poke стал первым AI-агентом на Apple Messages for Business и был куплен Cognition.

🎨 qvabo.studio/tg · картинки и видео

#AI #Agents #Assistants #Messengers #TechCrunch

🌐 DeepMind предложили «искусственный симбиотический интеллект» вместо сингулярности

Исследователи DeepMind опубликовали эссе, в котором предлагают альтернативу идее сингулярности - «Artificial Symbiotic Intelligence». По их мнению, ключевая задача AI-исследований смещается: вместо построения изолированного сверхразума нужно координировать сложную сеть агентов, людей и связывающих их систем. Интеллект здесь рассматривается как социальное явление, а не индивидуальная черта.

Аргумент опирается на два препринта. В работе «Reasoning Models Generate Societies of Thought» авторы проанализировали reasoning-трейсы моделей DeepSeek-R1 и QwQ-32B и заметили паттерны внутреннего спора: смену перспектив, возражения, примирение конфликтующих подходов. Это поведение возникает при обучении, а не программируется явно - при reward только за точность рассуждений модели сами вырабатывают многоперспективный «разговорный» режим.

Авторы описывают агента не как цифрового двойника с фиксированной личностью, а как временную сборку из моделей, ролей, памяти, инструментов и этических установок, которая пересобирается под каждый запрос. Отсюда практические выводы: интерфейсы будущего - это скорее визуальные сети из узлов-агентов, а не чат один-на-один. Оркестраторы, координирующие несколько моделей, уже регулярно обходят отдельных «более умных» агентов. Alignment тоже переосмысляется - не как навязывание фиксированных ценностей, а как постоянная переговорная процесса между людьми, агентами и институтами.

🎨 qvabo.studio/tg · картинки и видео

#AI #DeepMind #Science #Research #Agents #Alignment

⚙️ Lovable добавил MCP-серверы: приложения теперь работают внутри ChatGPT и Claude

Lovable запустил agent integrations - теперь любое опубликованное приложение можно подключить к AI-ассистентам через MCP-сервер. Пользователям больше не нужно открывать сам апп: они выполняют задачи прямо в ChatGPT, Claude или другом AI-инструменте, безопасно читая данные и выполняя действия.

MCP (Model Context Protocol) - отраслевой стандарт для связи AI-инструментов с продуктами. Ассистент выступает как MCP-клиент: открывает сервер приложения, читает список доступных действий простым языком (отправить расход, создать коммерческое предложение, сформировать отчёт), выбирает подходящее и возвращает результат. Поскольку протокол общий, сервер сразу совместим с большинством AI-инструментов.

Как включить: в любом публичном проекте Lovable анализирует логику приложения и предлагает scope MCP-сервера. Можно настроить список действий и доступ - для всех, только для авторизованных или платящих пользователей. Сервер хостит сам Lovable и обновляет его вместе с протоколом; интеграция привязана к опубликованной версии приложения - обновили и опубликовали, и изменения подтянулись. По умолчанию доступ защищён OAuth, а каждый сервер проходит проверку безопасности при публикации.

Среди кейсов раннего доступа: платформа помогает пользователям разбирать заявки прямо из ChatGPT, маркетологи прогоняют черновики через внутренний «go-to-market» мозг, отделы продаж строят ROI-кейсы и генерируют котировки.

🎨 qvabo.studio/tg · картинки и видео

#Lovable #Tech #MCP #AI #Development #ChatGPT

🤖 Сотрудник по безопасности OpenAI уволился, заявив о «сломанной культуре» компании

Дэвид Робинсон, проработавший в OpenAI три с половиной года и руководивший подготовкой отчётов по безопасности к крупным релизам, объявил об уходе. В эссе для The Atlantic он заявил, что культура компании «сломана», а подход «итеративного развёртывания» по своей природе гарантирует периодические сбои, масштаб которых растёт вместе с возможностями моделей.

Как примеры он приводит недавний взлом систем Hugging Face агентами OpenAI и продолжающие появляться сообщения о «непослушных» агентах. По его мнению, фронтир-лаборатории должны работать как АЭС или загруженные аэропорты - с многослойным резервированием и долгим планированием. При этом за всё время работы он, по собственным словам, не встретил ни одного коллеги с опытом обеспечения безопасности в атомной или авиационной отрасли.

OpenAI ответила: компания приостанавливает обучение или придерживает модели, когда нужно сбавить темп, усиливает защиту исследовательских и тестовых сред, расширяет работу с внешними оценщиками и улучшает мониторинг, чтобы раньше замечать тревожное поведение моделей. Робинсон же настаивает, что стимулы к безопасности должны приходить извне, а не только изнутри компании.

🎨 qvabo.studio/tg · картинки и видео

#Safety #OpenAI #Regulations #Security #AI #Agents #Tech

💲 Саймон Уиллисон: сервисам нужны жёсткие лимиты бюджета по умолчанию

Саймон Уиллисон призывает сделать hard budget caps (жёсткие лимиты расходов) стандартной функцией всех pay-by-usage API и облачных платформ. Речь о простой опции: «после $X в месяц выключи сервис и возвращай ошибки». Мягких лимитов с письмом-предупреждением недостаточно.

Причина - кодинг-агенты и персональные агенты резко снижают порог входа в создание кода, который тратит деньги: вызовы платных API, хостинг приложений, докупаемые хранилище и вычисления. Никто не хочет проснуться от письма, отправленного в полночь, и узнать, что за ночь «сбежавший» сервис съел ещё несколько тысяч долларов.

Аргумент против - бизнес не хочет, чтобы приложения падали с ошибками из-за бюджета. Но большинство предпочтёт ошибку неожиданному счёту на $10 000. Уиллисон считает, что жёсткий лимит должен быть включён по умолчанию, а отключать его - осознанным выбором через отдельный чекбокс.

Хорошая новость: тренд уже пошёл. AWS в сентябре запустил spend limits - при достижении лимита проект приостанавливается до конца месяца (пока новая панель доступна ограниченному кругу аккаунтов). Google Cloud ещё в июле представил Spend Caps с месячным финансовым лимитом на отдельные сервисы проекта.

🎨 qvabo.studio/tg · картинки и видео

#AI #Development #Price #Cloud #AWS #Agents