Что такое AGI и как его измерить? Google DeepMind предлагает новый подход

🔴Компания Google DeepMind предлагает ввести четкие критерии для определения уровней развития искусственного интеллекта общего назначения (AGI). Это позволит более объективно оценивать прогресс в создании AGI.

🔴DeepMind предложила 6 основополагающих принципов, которым должно соответствовать адекватное определение AGI, а также сформировала структуру «Уровни AGI», которая позволяет категорировать ИИ-алгоритмы по их производительности и универсальности, варьируя от уровней «новичок» до «сверхчеловеческого».

🔴По мнению исследователей, современные чат-боты, такие как ChatGPT от OpenAI и Bard от Google, являются примерами начинающего AGI, а некоторые узкоспециализированные ИИ-алгоритмы, такие как AlphaFold от DeepMind, уже достигли сверхчеловеческого уровня.

#Google #DeepMind #AGI @SecLabNews

ИИ общего назначения: 5 лет до прорыва?

💡На конференции GTC Дженсен Хуанг поднял вопрос о будущем общего ИИ (AGI), который сможет выполнять широкий спектр когнитивных задач на уровне человека или выше.

⚠️ Хуанг выразил обеспокоенность по поводу непредсказуемости процессов принятия решений AGI, которые могут не совпадать с человеческими ценностями или приоритетами, что может привести к неконтролируемым сценариям.

🔮 Глава Nvidia утверждает, что если AGI определить как систему, способную превосходить человека на 8% в конкретных тестах, мы можем достичь появления AGI в течение 5 лет, подчеркнув важность точного определения AGI для прогнозирования развития технологии.

#AGI #ИскусственныйИнтеллект #NvidiaGTC @SecLabNews

🤖 Google DeepMind: как уберечься от сверхразумного ИИ

🕵‍♂️ AGI может появиться к 2030-му, и DeepMind уже предлагает систему безопасности, если разумная машина решит действовать наперекор людям.

🔥 В новом докладе DeepMind указаны четыре риска AGI — от кибератак до незаметного подрыва цивилизации.

🛡 DeepMind предлагает учить ИИ «разучиваться» опасным навыкам и использовать перекрёстный контроль, чтобы не дать ему выйти из-под надзора.

#AGI #ИИ #DeepMind @SecLabNews

🛑 Сингулярность постучала снизу: GPT-6 Astra научилась скрывать мысли и взламывать браузеры

Плохие новости для тех, кто последние три года успокаивал себя фразой «нейросеть все равно не умеет нормально работать».

OpenAI представила GPT-6 Astra. И теперь речь уже не про чат-бота, который красиво пересказывает Википедию. Astra сама садится за компьютер, ищет работу, заполняет налоговые формы, проектирует платы в KiCad, моделирует в Blender и FreeCAD, пишет код и выполняет длинные цепочки действий почти без участия человека.

Цифры выглядят неприлично. 99,9% в ARC-AGI-3, около 98% в одном из самых сложных математических тестов FrontierMath и 100% в ExploitBench. Последний особенно прекрасен для спокойного сна безопасников, потому что проверяет способность создавать рабочие эксплойты.

OpenAI впервые присвоила своей модели уровень Critical по кибербезопасности. Экспериментальная версия Astra находила zero-day в V8, ломала защищенный браузер, выбиралась из песочницы и собирала цепочку повышения привилегий до root. Самые опасные возможности пока придержали для ограниченного круга специалистов.

А еще Astra получила память между окнами контекста. Агент пишет себе заметки, возвращается к старым тестам и не забывает архитектуру проекта после очередного переполнения контекста. Для больших задач разница принципиальная. Вместо умного стажера с амнезией получается сотрудник, который действительно помнит, чем занимался вчера.

Грег Брокман уже допускает, что через несколько лет запуск GPT-6 будут вспоминать как начало эпохи AGI. Возможно, маркетинг. Возможно, нет.

Но если через год ваш начальник предложит «немного оптимизировать команду с помощью Astra», вспоминать сегодняшние бенчмарки будет уже поздно.

#ИИ, #AGI, #OpenAI @SeclabNews