🧪 Биобезопасность как AI-гонка вооружений: CEO Radical Numerics об угрозах и защите

В подкасте Latent.Space Эрик Нгуен (Eric Nguyen), со-основатель и CEO Radical Numerics, объяснил, почему те же модели, что усиливают биологические возможности, способны не дать обороне отстать. Поводом стал разбор атаки OpenAI → Hugging Face: фильтры Anthropic помечают две главные угрозы - кибербезопасность и биологию, поэтому вопрос о биозащите встал особенно остро.

Нгуен ещё в Стэнфорде годами продвигал геномные языковые модели (GLM), пока биологи не верили в их пользу. Он помог создать Evo и Evo 2, и позже другая команда Arc/Stanford с их помощью сгенерировала целые геномы бактериофагов, синтезированные в работающие вирусы. ДНК отличается от естественного языка: алфавит всего 4 символа (ACTG), зато последовательности огромны - от 60K у среднего гена человека до 3 млрд в целом геноме. Это стало возможным благодаря long-context моделям (проект stripedhyena) задолго до 1M+ контекстов у фронтир-лабораторий.

GLM уже неплохо работают с РНК и белками, обобщаясь на несколько «языков» без отдельного обучения. В эксперименте с аптамерами модель, которой показали только слабые последовательности по возрастанию score, самостоятельно продолжила траекторию и воспроизвела лучшие варианты - по сути chain-of-thought прямо в языке ДНК. Нгуен считает, что оборона сейчас проигрывает эту гонку, и Radical Numerics призывает агрессивнее двигать фронтир моделей.

#AI #BioSecurity #Genomics #GLM #AIresearch

❓ Почему ИИ пока не готов расшифровать запутанный геном человека

Учёные и AI-модели пока не располагают достаточными данными, чтобы корректно интерпретировать ДНК. Геном внутри клеток - не просто набор инструкций, а динамическая система, которая меняется и работает в сложном контексте.

Как отмечает Wired, современным AI-инструментам не хватает репрезентативных данных и понимания биологических механизмов. Из-за этого модели могут находить закономерности, но пока не способны надёжно объяснять, как эти закономерности связаны с реальной работой генома.

Это ограничивает применение ИИ в геномике: от поиска причин заболеваний до персонализированной медицины. Для прорыва нужны не только более мощные модели, но и качественные наборы данных, учитывающие динамику и контекст ДНК.

🎨 qvabo.studio/tg · картинки и видео

#AI #Genomics #Biotech #Research #Wired