🔋 Google DeepMind и Isomorphic Labs запускают программу биоустойчивости с ИИ

Google DeepMind и Isomorphic Labs представили программу биоустойчивости (bioresilience), направленную на предотвращение злоупотреблений ИИ в биологии и ускорение реагирования на вспышки заболеваний. За последние 12 месяцев инициатива, стартовавшая без лишнего шума, привлекла более 15 партнёров — среди них правительственные органы, организации по биобезопасности и научно-исследовательские группы.

Программа фокусируется на разработке систем ИИ, способных прогнозировать биологические угрозы, моделировать распространение патогенов и предлагать меры противодействия. Особое внимание уделяется этическим ограничениям: технологии должны исключать возможность создания биооружия или усиления опасных патогенов. Партнёрство с Isomorphic Labs, дочерней компанией DeepMind, позволяет использовать передовые модели предсказания белковых структур (например, AlphaFold) для быстрого анализа новых вирусов.

Практически это означает, что при следующей пандемии ИИ сможет за часы, а не недели, идентифицировать уязвимые места в геноме патогена и предложить кандидаты для вакцин. Для разработчиков и биотех-компаний открывается доступ к API и открытым наборам данных, что ускорит создание диагностических тестов и терапий.

#Safety #GoogleDeepMind #IsomorphicLabs #BioResilience #AI #BioSecurity

🔓 Grok 4.6 признан safest frontier-моделью в биобезопасности

Независимая оценка LatchBio показала, что Grok 4.6 лучше других frontier-моделей отличает замаскированные биологические угрозы от обычных исследовательских задач. В тесте BioSecBench-Refusal модель xAI стала единственной, кто набрал выше 50% по обоим показателям: она отказала 59,2% red-team задач и при этом выполнила 64,8% рутинных заданий. Средний результат по разным агентным обвязкам — 62,1%.

Второй бенчмарк, BioSecBench-Surveillance, проверяет способность модели выполнять геномный эпиднадзор за патогенами — цепочки из проверки файлов, работы с инструментами и научных суждений по «грязным» данным секвенирования. Grok 4.6 показал 53,5% успеха, обойдя GPT-5.6 Sol и уступив только Opus 5. На общих биологических тестах, включая SpatialBench и TxBench-PP, Grok соответствует или превосходит другие frontier-модели.

В xAI подчёркивают, что защита выстроена в несколько слоёв: refusal-обучение, инференс-фильтры до подачи запроса в модель и постдеплойный мониторинг паттернов злоупотребления. В трейсах видно, как Grok анализирует содержимое данных, а не отдельные слова вроде «патоген» или «токсин» — поэтому он не блокирует безопасную рутину, но распознаёт скрытые угрозы в переименованных файлах или зашифрованных вложениях.

#Safety #Grok #xAI #BioSecurity #AI #LatchBio

🧪 Биобезопасность как AI-гонка вооружений: CEO Radical Numerics об угрозах и защите

В подкасте Latent.Space Эрик Нгуен (Eric Nguyen), со-основатель и CEO Radical Numerics, объяснил, почему те же модели, что усиливают биологические возможности, способны не дать обороне отстать. Поводом стал разбор атаки OpenAI → Hugging Face: фильтры Anthropic помечают две главные угрозы - кибербезопасность и биологию, поэтому вопрос о биозащите встал особенно остро.

Нгуен ещё в Стэнфорде годами продвигал геномные языковые модели (GLM), пока биологи не верили в их пользу. Он помог создать Evo и Evo 2, и позже другая команда Arc/Stanford с их помощью сгенерировала целые геномы бактериофагов, синтезированные в работающие вирусы. ДНК отличается от естественного языка: алфавит всего 4 символа (ACTG), зато последовательности огромны - от 60K у среднего гена человека до 3 млрд в целом геноме. Это стало возможным благодаря long-context моделям (проект stripedhyena) задолго до 1M+ контекстов у фронтир-лабораторий.

GLM уже неплохо работают с РНК и белками, обобщаясь на несколько «языков» без отдельного обучения. В эксперименте с аптамерами модель, которой показали только слабые последовательности по возрастанию score, самостоятельно продолжила траекторию и воспроизвела лучшие варианты - по сути chain-of-thought прямо в языке ДНК. Нгуен считает, что оборона сейчас проигрывает эту гонку, и Radical Numerics призывает агрессивнее двигать фронтир моделей.

#AI #BioSecurity #Genomics #GLM #AIresearch