Модель набрала 30,2% на бенчмарке ARC-AGI-3, взлетев с предыдущего рекорда в 7,8%. Opus 5 решил пять ранее нерешённых задач, четыре из них на уровне человека или выше. ARC Prize связывает успех с более сильным логическим Reasoning, позволившим автономно исследовать и планировать в незнакомых средах.
На старом ARC-AGI-2 модель показывает 90,4%, а на ARC-AGI-1 — 97,5%. Однако независимые тесты на бенчмарке Witness от Guanghan Ning показали более скромные улучшения: Opus 5 статистически наравне с Kimi K3 и Fable 5. На необычной комбинации правил модель даже уступила Opus 4.8. Исследователи предполагают, что часть успеха может быть обусловлена целенаправленным обучением на задачах из ARC-AGI-3, хотя общий прогресс в Reasoning всё же есть.
#AI #Anthropic #ClaudeOpus5 #ARCAGI #Tests
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1👌1💯1
Исследователи Nvidia опубликовали работу, которая меняет акценты в agentic AI: для длительных многошаговых задач решающую роль играет не модель, а harness — программная обвязка вокруг неё: инструменты, управление памятью и правила, превращающие сырую модель в автономного агента.
В тесте ARC-AGI-3 — наборе 2D-игр без инструкций, где модель должна сама понять правила и победить, — кастомный harness AVO с «супервизором» позволил Claude Opus 5 набрать 100%. Без обвязки та же модель показала 30%, и это был лучший результат среди всех протестированных моделей. Супервизор действует как CEO: подталкивает агента, если он уходит не в ту сторону или зацикливается.
Nvidia подчёркивает: модель — это лишь «мозг», а агентом её делает именно scaffolding. Вывод подтверждается и другими данными. OpenAI недавно выяснила, что простые изменения двух параметров harness утроили результаты её моделей на ARC-AGI-3, но 100% не достигла ни одна. А в Databricks заметили, что неправильная обвязка может удвоить стоимость при той же модели.
Сам AVO — не коммерческий продукт, а исследовательский проект. Части для создания harness Nvidia публикует под брендом Nemo. Это очередной аргумент в пользу открытых обвязок: они дают пользователю больше контроля над точностью и стоимостью агентов.
#AI #Nvidia #Agents #ARCAGI #harness
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1🔥1
OpenAI GPT-6 Astra получает противоречивые оценки в бенчмарках. Epoch AI ставит модель в лидеры со 169 баллами, тогда как Artificial Analysis считает её не лучше предшественника и слабее Claude Fable 5.1.
Главный сюрприз — ARC-AGI-3: Astra впервые работает эффективнее среднего человека. Глава ARC Prize Франсуа Шолле не называет это доказательством AGI, но признаёт, что прогресс идёт «вдвое быстрее», чем он ожидал, и сдвигает свой прогноз по AGI на более ранний срок.
Расхождение бенчмарков объяснимо: Epoch AI и Artificial Analysis используют разные методики и наборы задач. Однако именно результат на ARC-AGI-3, тесте на обобщение и адаптацию к новым задачам, считается наиболее значимым индикатором приближения к сильному ИИ.
#AI #GPT6 #OpenAI #AGI #ARCAGI #Benchmarks
Please open Telegram to view this post
VIEW IN TELEGRAM
Новая модель OpenAI GPT-6 Astra показала резкий скачок в автономной игре: в Pokemon FireRed она стала чемпионом за 18 часов 12 минут, тогда как GPT-5.6 Sol потратила на это 96 часов, а GPT-5.5 так и не прошла игру за 218+ часов. В Factorio: Space Age Astra запустила ракету примерно за десять часов, а GPT-5.6 Luna и Fable 5.1 не смогли даже наладить энергоснабжение и добычу нефти.
На бенчмарке ARC-AGI-3 Astra набрала 62,7% через стандартный интерфейс и около 99,9% с собственным харнессом OpenAI - против 7,78% у GPT-5.6 Sol и чуть более 30% у Claude Opus 5. Механизм: модель переводит незнакомую игровую механику в компактные символьные описания и сама ведёт учёт объектов, координат, правил и планов. В отличие от Voyager 2023 года, Astra играет через обычный computer use - экран, мышь и клавиатуру, без специальных игровых API.
Обратная сторона - в Minecraft. После взрыва Creeper, уничтожившего сундук с припасами, Astra записала себе правило: всегда носить критичные предметы с собой и никогда не хранить их в незащищённом сундуке. Затем она несколько часов почти ничего не делала, кроме фермы картофеля, и шарахалась от каждого высокого зелёного объекта. Опыт превращается в жёсткое правило, которое сохраняется даже когда перестаёт помогать - в абстрактных средах это плюс, в открытом мире с случайными событиями ведёт к перекоррекции.
#AI #GPT6Astra #OpenAI #Agents #ARCAGI #Gaming
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔1🥱1