🤖 План A: как человечество может избежать катастрофы от сверхразумного ИИ

Группа исследователей из AI Futures Project представила сценарий «AI 2040: Plan A» — позитивное видение того, как мировое сообщество может предотвратить экзистенциальную катастрофу от создания сверхразумного ИИ. Авторы (Thomas Larsen, Romeo Dean, Brendan Halstead и другие) предлагают международную сделку: отложить разработку сверхинтеллекта до 2040 года, сделать все AI-исследования публичными и допустить десятки компаний по всему миру к frontier-разработкам.

Ключевая идея Plan A — режим «взаимно гарантированного уничтожения вычислительных мощностей» (mutually assured compute destruction). Вместо гонки в секретности предлагается полная прозрачность AI R&D, верификация со стороны всех стран и медленное масштабирование множества компаний одновременно. Это должно предотвратить концентрацию власти в руках одного CEO или государства.

Авторы подчёркивают, что текущая ситуация «ужасна и может убить всех»: компании вроде OpenAI, Anthropic и xAI осознают риски, но продолжают гонку, полагая себя «меньшим злом». Plan A противопоставляется четырём альтернативным сценариям (B, C, D, S), описывающим возможные пути развития событий при разных подходах США.

#Safety #AI2040 #PlanA #Alignment #ExistentialRisk #Security