Jan Leike, OpenAI (MIT AI Event)

Jan Leike из OpenAI обсуждает вопросы возможного появления суперинтеллекта в течение следующего десятилетия и сложности, связанные с проблемой выравнивания AI, то есть обеспечением того, чтобы системы искусственного интеллекта служили интересам человека.

Чтобы достичь это, он предлагает несколько подходов.

Один из них - AI-поддерживаемая обратная связь по достижениям, которая подразумевает обучение моделей помогать людям в таких задачах, как поиск багов в коде.

Другой подход - обучение меньших моделей, которые будут контролировать более крупные модели для повышения выравнивания.

Также важно внедрение техник валидации, включая автоматизированные контрастные объяснения и адверсарное тестирование с подкапывающими моделями.

Цель состоит в решении проблемы выравнивания суперинтеллекта в течение следующих 3 лет и 8 месяцев.

Чтобы достичь этого, необходимо привлечение и информирование общественности, включая привлечение AI-экспертов к обсуждению и контролю за разработчиками AI.

Leike призывает присоединиться к исследовательским группам по выравниванию или другим AI-лабораториям, чтобы внести свой вклад в исследования в области выравнивания.

#ArtificialIntelligence #AlignmentResearch #Superintelligence

Сверхразум решит судьбу мира в ближайшие 10 лет?

По мнению узкого круга экспертов из Кремниевой долины, человечество стоит на пороге беспрецедентного технологического прорыва.
Уже к 2025-2026 годам ИИ превзойдет интеллект выпускников вузов, а к концу десятилетия будет создан искусственный общий интеллект (AGI), превосходящий человеческий.
Ожидается, что затем произойдет стремительный переход к сверхразуму, который возьмет на себя дальнейшее развитие ИИ.
Ключевыми факторами гонки за AGI станут наращивание вычислительных мощностей, совершенствование алгоритмов и "расковывание" моделей.
Главный риск - потеря контроля над сверхразумными системами, что может иметь катастрофические последствия.

Аларм от бывшего сотрудника OpenAI

#AGI #Superintelligence #2030
-------
@tsingular

Meta* создаёт новую лабораторию для разработки суперинтеллекта

Meta* запускает специальное подразделение для создания искусственного суперинтеллекта - Fundamental AI Research (FAIR).

Новая лаборатория будет заниматься прорывными исследованиями в области ИИ, способного превзойти человеческие когнитивные способности во всех областях.

Марк Цукерберг заявил, что компания инвестирует миллиарды долларов в разработку следующего поколения ИИ-систем.

Лаборатория будет работать параллельно с существующими проектами Llama, но сосредоточится на долгосрочных целях создания универсального суперинтеллекта.

ASI так или иначе будет создан уже очень скоро.

*Meta - запрещенная в РФ организация

#MetaAI #Superintelligence #ASI
———
@tsingular

Сэм Альтман: эра сверхразума уже началась

Глава OpenAI заявил, что человечество перешло черту - эра искусственного сверхразума началась. "Мы прошли точку невозврата", - утверждает Альтман.

Он прогнозирует появление ИИ-агентов для реальной работы уже к 2026 году, систем с оригинальными открытиями - к 2027, а роботов для физических задач - к тому же периоду.

"ChatGPT уже мощнее любого человека в истории" - сотни миллионов полагаются на него ежедневно. Альтман видит ключевой момент в том, что ИИ помогает создавать более совершенный ИИ - рекурсивное самосовершенствование.

Целые классы профессий исчезнут, но мир станет намного богаче. Главный вызов - проблема выравнивания ценностей сверхразума с человеческими.

#Superintelligence #OpenAI #AGI
------
@tsingular

Microsoft создаёт команду по суперинтеллекту

Мустафа Сулейман, экс-сооснователь DeepMind, объявил о запуске MAI Superintelligence Team.

Цель — создать «гуманистический суперинтеллект», который решает конкретные задачи, а не становится всемогущим ИИ общего назначения.

Майкрософт активно инвестирует в развитие ИИ в целом, но Сулейман настаивает: не должно быть «суперинтеллекта любой ценой» и предлагает сфокусироваться на медицине, энергетике, образовании и прочих конкретных направлениях.

В медицинской диагностике, например Сулейман обещает достичь с ИИ экспертного уровня уже через 2-3 года.

Ставка на специализированный ИИ вместо AGI выглядит достаточно разумно.
Однако проблема в том, что другим игрокам все-равно.
Будут пилить общий сверх-интеллект до победного конца человечества.

#Microsoft #Superintelligence #AGI #MAI
———
@tsingular