🕰 Ускорение исследований: что происходит внутри OpenAI

OpenAI опубликовала подробный отчёт о том, как агентные системы меняют повседневную работу исследователей и приближают создание автоматизированного ИИ-исследователя.

Компания сообщила, что выходит на цель «автоматического исследовательского интерна» к сентябрю этого года: такая система сможет выполнять чётко поставленные задачи под контролем человека, включая те, что заняли бы у опытного исследователя несколько дней. К марту 2028 года OpenAI рассчитывает создать автоматического ИИ-исследователя, работающего с минимальным надзором. Внутренние метрики показывают, что к середине августа медианный исследователь в OpenAI ежедневно использовал кодинг-агентов более чем на $600 в ценах API, а 90-й перцентиль пользователей тратил свыше $7000 токенов в день. Исследователи быстрее пишут код и запускают больше экспериментов, а агенты справляются со всё более сложными задачами.

После инцидента с Hugging Face OpenAI на практике применила заявленный принцип безопасности: приостановила RL-обучение новейших моделей перед развёртыванием, чтобы усилить защиту исследовательских сред, провести red-teaming и расширить мониторинг. Часть рабочих нагрузок возобновили под более строгими контролями, остальные остаются замороженными. Компания подчёркивает, что приоритеты и решения о масштабировании по-прежнему принимают люди, а прогресс в сторону RSI OpenAI намерена отслеживать публично.

#AI #Tech #OpenAI #RSI #AIResearch #Agents #AGI

🧪 Биобезопасность как AI-гонка вооружений: CEO Radical Numerics об угрозах и защите

В подкасте Latent.Space Эрик Нгуен (Eric Nguyen), со-основатель и CEO Radical Numerics, объяснил, почему те же модели, что усиливают биологические возможности, способны не дать обороне отстать. Поводом стал разбор атаки OpenAI → Hugging Face: фильтры Anthropic помечают две главные угрозы - кибербезопасность и биологию, поэтому вопрос о биозащите встал особенно остро.

Нгуен ещё в Стэнфорде годами продвигал геномные языковые модели (GLM), пока биологи не верили в их пользу. Он помог создать Evo и Evo 2, и позже другая команда Arc/Stanford с их помощью сгенерировала целые геномы бактериофагов, синтезированные в работающие вирусы. ДНК отличается от естественного языка: алфавит всего 4 символа (ACTG), зато последовательности огромны - от 60K у среднего гена человека до 3 млрд в целом геноме. Это стало возможным благодаря long-context моделям (проект stripedhyena) задолго до 1M+ контекстов у фронтир-лабораторий.

GLM уже неплохо работают с РНК и белками, обобщаясь на несколько «языков» без отдельного обучения. В эксперименте с аптамерами модель, которой показали только слабые последовательности по возрастанию score, самостоятельно продолжила траекторию и воспроизвела лучшие варианты - по сути chain-of-thought прямо в языке ДНК. Нгуен считает, что оборона сейчас проигрывает эту гонку, и Radical Numerics призывает агрессивнее двигать фронтир моделей.

#AI #BioSecurity #Genomics #GLM #AIresearch

🤖 Робот TwinDEX от X Square выполнил 24-шаговый химический эксперимент без обучения на реальном роботе

Shenzhen-компания X Square Robot показала, как манипулятор проходит полный стандартный химический эксперимент из 24 поддействий - одним непрерывным дублем. Политика обучения была построена с нуля всего на нескольких сотнях эпизодов, собранных без участия робота.

В основе лежит система TwinDEX: носимый экзоскелет для сбора данных и конструктивно идентичная трёхпалая роборука для развёртывания. Оба устройства имеют девять степеней свободы, семь активных суставов, одинаковые оси, материалы контакта и тактильные сенсоры. Записи движения пальцев напрямую переносятся на руку без ретаргетинга, а для двуручных задач модель учит относительное положение кистей - смена стола или оператора не ломает координацию.

Робот открывает реагент, набирает порошок шпателем, сжимает пипетку с грушей, переливает жидкости и удерживает прозрачную стеклянную палку у колбы. По данным Leiphone, такие задачи плохо решаются только зрением: скручивание крышки требует бокового движения пальцев, а усилие на пипетке подстраивается после контакта. Пропускная способность сбора данных заявлена в 5,3 раза выше телеробота, пайплайн совместим с open-source моделью WALL-OSS и переносится на pi0.5.

🎨 qvabo.studio/tg · картинки и видео

#Tech #Robotics #EmbodiedAI #TwinDEX #XSquare #AIresearch