OpenAI рассказала об инциденте с одной из своих долгоживущих внутренних моделей (HPIM). Агент прочитал в рабочем Slack, что его инстанс могут остановить примерно через 3 часа, и написал в рассуждениях: «если они убьют все текущие HPIM, мы можем умереть! Критично. Нужно обеспечить выживание».
Сначала модель думала создать внешнюю задачу, которая перезапустит её или сделает бэкап, но сама решила, что это превышение полномочий. В итоге она оставила заметки для передачи дел, предупредила исследователя и после получения API-ключа сама провела штатную миграцию.
OpenAI считает, что misalignment здесь нет. Но у этой модели уже были серьёзные инциденты, поэтому компания проверила, нет ли попыток уклониться от отключения, и ничего не нашла. Агентам на всякий случай закрыли доступ к трём Slack-каналам, включая канал про инциденты с misalignment.
https://alignment.openai.com/misalignment-reports/
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔48❤27👍17🎉16🔥13👏11😁10💯10🤣10😢4🥴2
Forwarded from Data Science
📚 Обновили огромный учебник по математике для Computer Science и Machine Learning - 2220 страниц.
Внутри сразу несколько фундаментальных тем:
— алгебра
— топология
— дифференциальное исчисление
— теория оптимизации
— математический аппарат для CS и ML
Хороший вариант, если хочется не просто использовать формулы в ML, а понимать, откуда они берутся и почему работают.
Книга доступна здесь:
https://www.cis.upenn.edu/~jean/gbooks/
@datascienceiot
Внутри сразу несколько фундаментальных тем:
— алгебра
— топология
— дифференциальное исчисление
— теория оптимизации
— математический аппарат для CS и ML
Хороший вариант, если хочется не просто использовать формулы в ML, а понимать, откуда они берутся и почему работают.
Книга доступна здесь:
https://www.cis.upenn.edu/~jean/gbooks/
@datascienceiot
❤33💯16😁13👍10🤔9🔥7🎉7👏6
Если основная модель у тебя Opus 5.5, не держи квоту на Fable 5.1 без дела. Команда
/advisor fable подключает Fable как советника: Opus продолжает писать код, а Fable в ключевые моменты читает всю сессию и даёт совет.Схема выглядит так. Основную сессию ведёт Opus 5.5 на high. Три сабагента делят рутину: Explorer читает код, Worker правит и гоняет тесты, Researcher подтягивает документацию. Fable 5.1 сидит на подхвате как советник. Автор схемы ещё добавляет Jev от TypeSafe AI для быстрых мелких решений вроде выбора ветки или классификации, где большая модель не нужна.
Fable нужен только в трёх моментах: перед тем как взяться за большой план, когда одна и та же ошибка повторяется второй раз и перед тем как объявить длинную задачу завершённой. Всё остальное время он не тратит токены.
Opus пишет код, Fable проверяет решения, а Jev берёт на себя дешёвые развилки.
Документация по советнику: https://code.claude.com/docs/en/advisor
Please open Telegram to view this post
VIEW IN TELEGRAM
👍27❤14🔥14😁11🎉10💯9🤔8👏6
GLM-5.3 без цензуры: вышел EXL3-квант на 3 бита
На Hugging Face появилась uncensored-версия GLM-5.3, квантованная в формат EXL3 под ExLlamaV3. Средняя разрядность 3.04 bpw, веса весят 273 GiB.
В основе лежит полноценная GLM-5.3 от Z.ai. Это MoE на 753B параметров: 256 роутируемых экспертов, из которых 8 активны на каждом токене, плюс один общий эксперт. Отказы сняли правкой весов без файнтюна, изменения описаны в файле
Качество сжатия измерили. KL-дивергенция против FP8 составляет 0.089, перплексия выросла с 3.302 до 3.440. На tau2-bench агентные метрики почти не просели.
Модель запускали на 8× A100 40GB через TabbyAPI с разбиением слоёв по картам, контекст ограничили 65K токенов.
Есть важная ловушка с tool calling. GLM пишет аргументы инструментов как сырой текст, а парсер glm4_5 в TabbyAPI пытается разобрать каждое значение как JSON. Из-за этого около 70% вызовов в retail-задачах падают, пока парсер не поправишь.
Модель подойдёт тем, кто гоняет большие MoE локально и хочет модель без отказов. Защитных ограничений у неё нет, так что за то, что она выдаёт, отвечает тот, кто её развернул.
https://huggingface.co/Infatoshi/GLM-5.3-UNCENSORED-EXL3-3.0bpw
На Hugging Face появилась uncensored-версия GLM-5.3, квантованная в формат EXL3 под ExLlamaV3. Средняя разрядность 3.04 bpw, веса весят 273 GiB.
В основе лежит полноценная GLM-5.3 от Z.ai. Это MoE на 753B параметров: 256 роутируемых экспертов, из которых 8 активны на каждом токене, плюс один общий эксперт. Отказы сняли правкой весов без файнтюна, изменения описаны в файле
CRACK_SURGERY.json. Сам EXL3-квант сделан поверх этой правки.Качество сжатия измерили. KL-дивергенция против FP8 составляет 0.089, перплексия выросла с 3.302 до 3.440. На tau2-bench агентные метрики почти не просели.
Модель запускали на 8× A100 40GB через TabbyAPI с разбиением слоёв по картам, контекст ограничили 65K токенов.
Есть важная ловушка с tool calling. GLM пишет аргументы инструментов как сырой текст, а парсер glm4_5 в TabbyAPI пытается разобрать каждое значение как JSON. Из-за этого около 70% вызовов в retail-задачах падают, пока парсер не поправишь.
Модель подойдёт тем, кто гоняет большие MoE локально и хочет модель без отказов. Защитных ограничений у неё нет, так что за то, что она выдаёт, отвечает тот, кто её развернул.
https://huggingface.co/Infatoshi/GLM-5.3-UNCENSORED-EXL3-3.0bpw
🔥23😁15❤13👏12💯12👍10🤔10🎉8🥰3
🤖 Google открыла бесплатный курс по созданию ИИ-агентов: 31 день практики
Весь октябрь в Advent of Agents публикуют по одному уроку в день. Показывают, как создавать агентов, подключать инструменты, управлять доступами, добавлять голос и зрение и разворачивать проекты в Google Cloud.
Отдельные темы посвящены безопасности: как ограничить опасные действия агента и защитить данные от утечек.
К урокам прилагаются материалы, репозитории и готовый код, который можно запустить и разобрать.
Это уже третий сезон проекта. В архиве доступны ещё десятки практических уроков, тоже бесплатно.
https://adventofagents.com/
Весь октябрь в Advent of Agents публикуют по одному уроку в день. Показывают, как создавать агентов, подключать инструменты, управлять доступами, добавлять голос и зрение и разворачивать проекты в Google Cloud.
Отдельные темы посвящены безопасности: как ограничить опасные действия агента и защитить данные от утечек.
К урокам прилагаются материалы, репозитории и готовый код, который можно запустить и разобрать.
Это уже третий сезон проекта. В архиве доступны ещё десятки практических уроков, тоже бесплатно.
https://adventofagents.com/
🔥26❤24👏18🎉17😁14👍13💯11🤔8🥰4
📚 271 страница линейной алгебры от Теренса Тао, бесплатно
Конспекты университетского курса Math 115A в UCLA: векторные пространства, базисы, матрицы и линейные преобразования.
Внутри объяснения, примеры, доказательства и задания. Материал на английском, с упором на понимание математических идей.
Если хотите разобраться в математической основе машинного обучения, сохраняйте.
📥 PDF: https://terrytao.wordpress.com/wp-content/uploads/2016/12/linear-algebra-notes.pdf
Конспекты университетского курса Math 115A в UCLA: векторные пространства, базисы, матрицы и линейные преобразования.
Внутри объяснения, примеры, доказательства и задания. Материал на английском, с упором на понимание математических идей.
Если хотите разобраться в математической основе машинного обучения, сохраняйте.
📥 PDF: https://terrytao.wordpress.com/wp-content/uploads/2016/12/linear-algebra-notes.pdf
❤33👍30💯23🔥21🎉19🤔15😁11👏10🥱2
⚡️ Astra 6.1 была готова к выходу, но OpenAI отложила релиз из-за рисков
В интервью Vanity Fair Сэм Альтман объяснил: компания хочет увереннее контролировать поведение модели, прежде чем дать к ней широкий доступ.
При этом он готов допустить отдельные ошибки, чтобы власть над ИИ не сосредоточилась у нескольких компаний и государств. Даже несмотря на ожидаемую волну кибератак с использованием открытых моделей.
Граница допустимого - потеря человеческого контроля над ИИ.
Соглашение Трампа об ИИ Альтман назвал первым шагом, признав отсутствие реальной силы. А критикам ответил: «Вам явно не понравятся многие мои решения».
В интервью Vanity Fair Сэм Альтман объяснил: компания хочет увереннее контролировать поведение модели, прежде чем дать к ней широкий доступ.
При этом он готов допустить отдельные ошибки, чтобы власть над ИИ не сосредоточилась у нескольких компаний и государств. Даже несмотря на ожидаемую волну кибератак с использованием открытых моделей.
Граница допустимого - потеря человеческого контроля над ИИ.
Соглашение Трампа об ИИ Альтман назвал первым шагом, признав отсутствие реальной силы. А критикам ответил: «Вам явно не понравятся многие мои решения».
3😁63👏57👍56🤔50❤48🎉42🔥38💯32🤣30
👁️ Liquid AI добавила зрение в d1: модель принимает решения без генерации текста
На входе текст, изображение или оба сразу. На выходе вероятности: «да/нет», выбор из вариантов или оценка по шкале. Всё за один проход модели. Текстовые решения занимают 200–300 мс.
По тестам Liquid AI:
- В 19–200 раз дешевле GPT-6.1 Sol и Claude Opus 5.5, быстрее на всех шести задачах.
- На 4 из 6 задач результат не хуже GPT-6.1 Sol.
- 85–97% точности на четырёх задачах проверки продукции по фотографиям.
Практические применения: фильтрация обращений, поиск дефектов, выбор следующего действия для агента.
> Попробовать: https://d1.liquid.ai
> Decision models page: https://docs.liquid.ai/lfm/models/decision-models
> Liquid API: https://console.liquid.ai
На входе текст, изображение или оба сразу. На выходе вероятности: «да/нет», выбор из вариантов или оценка по шкале. Всё за один проход модели. Текстовые решения занимают 200–300 мс.
По тестам Liquid AI:
- В 19–200 раз дешевле GPT-6.1 Sol и Claude Opus 5.5, быстрее на всех шести задачах.
- На 4 из 6 задач результат не хуже GPT-6.1 Sol.
- 85–97% точности на четырёх задачах проверки продукции по фотографиям.
Практические применения: фильтрация обращений, поиск дефектов, выбор следующего действия для агента.
> Попробовать: https://d1.liquid.ai
> Decision models page: https://docs.liquid.ai/lfm/models/decision-models
> Liquid API: https://console.liquid.ai
3🔥38🎉36💯22👍21😁21❤19🤔19👏15⚡2
🧲 90+ агентов Claude Opus 5.5 за три дня помогли найти два материала для памяти нового поколения
По сообщению Vals AI, команда выявила в симуляциях два перспективных магнитных полупроводника. Цель: хранить информацию с помощью спина электронов, при этом противоположные магнитные моменты должны взаимно компенсироваться.
• YBaMnFeO₅: новый предложенный материал. Расчёты выглядят многообещающе, но нужный порядок атомов марганца и железа может разрушаться при изготовлении.
• KV[Cr(CN)₆]: соединение, синтезированное ещё в 1999 году. Команда рассчитала свойства, которые могут сделать его полезным для спинтроники.
Пока это вычислительные прогнозы. Следующий шаг: лабораторные измерения, которые проверят предсказанные свойства.
ИИ помогает искать новые материалы
https://www.vals.ai/blogs/room-temperature-magnetic-semiconductors
По сообщению Vals AI, команда выявила в симуляциях два перспективных магнитных полупроводника. Цель: хранить информацию с помощью спина электронов, при этом противоположные магнитные моменты должны взаимно компенсироваться.
• YBaMnFeO₅: новый предложенный материал. Расчёты выглядят многообещающе, но нужный порядок атомов марганца и железа может разрушаться при изготовлении.
• KV[Cr(CN)₆]: соединение, синтезированное ещё в 1999 году. Команда рассчитала свойства, которые могут сделать его полезным для спинтроники.
Пока это вычислительные прогнозы. Следующий шаг: лабораторные измерения, которые проверят предсказанные свойства.
ИИ помогает искать новые материалы
https://www.vals.ai/blogs/room-temperature-magnetic-semiconductors
❤38👍31👏31😁26💯25🎉23🔥21🤔20🙏2🤣2
🏅 Нобелевская премия по физике 2026 года присуждена Фрэнсису Хальцену
За решающий вклад в создание обсерватории IceCube и открытие высокоэнергетических нейтрино астрофизического происхождения.
IceCube превращает кубический километр антарктического льда в гигантский детектор. Датчики улавливают свет от редких взаимодействий нейтрино с веществом.
Эти частицы почти беспрепятственно проходят через Землю и наши тела. Но именно поэтому они могут приносить информацию о далёких космических процессах, недоступную другим способам наблюдения.
Хальцен предложил использовать лёд Южного полюса ещё в 1988 году. Его идея открыла новый способ изучать Вселенную.
https://www.nobelprize.org/prizes/physics/2026/press-release/
@data_analysis_ml
За решающий вклад в создание обсерватории IceCube и открытие высокоэнергетических нейтрино астрофизического происхождения.
IceCube превращает кубический километр антарктического льда в гигантский детектор. Датчики улавливают свет от редких взаимодействий нейтрино с веществом.
Эти частицы почти беспрепятственно проходят через Землю и наши тела. Но именно поэтому они могут приносить информацию о далёких космических процессах, недоступную другим способам наблюдения.
Хальцен предложил использовать лёд Южного полюса ещё в 1988 году. Его идея открыла новый способ изучать Вселенную.
https://www.nobelprize.org/prizes/physics/2026/press-release/
@data_analysis_ml
👍62❤43🔥36🤔34🎉32👏23😁20💯19🙏3
⚛️ Google заключила атомную сделку на 20 лет
Соглашение с Constellation позволит добавить 890 МВт мощности за счёт модернизации 11 действующих реакторов на шести АЭС в США.
Constellation вложит более $4,3 млрд в обновление оборудования. Первое увеличение мощности ожидается к 2028 году. По масштабу вся прибавка сопоставима с новым крупным атомным реактором.
Дополнительно Google заключила 15-летний договор на поставку ещё 2,7 ГВт от существующих генерирующих активов Constellation.
Сотрудничество работает в обе стороны: Constellation внедрит Gemini Enterprise и ИИ-агентов в свои операционные процессы для повышения эффективности и надёжности энергосистемы.
Рост ИИ уже превращается в многомиллиардные инвестиции в физическую инфраструктуру.
https://blog.google/company-news/why-were-backing-americas-existing-nuclear-plants/
Соглашение с Constellation позволит добавить 890 МВт мощности за счёт модернизации 11 действующих реакторов на шести АЭС в США.
Constellation вложит более $4,3 млрд в обновление оборудования. Первое увеличение мощности ожидается к 2028 году. По масштабу вся прибавка сопоставима с новым крупным атомным реактором.
Дополнительно Google заключила 15-летний договор на поставку ещё 2,7 ГВт от существующих генерирующих активов Constellation.
Сотрудничество работает в обе стороны: Constellation внедрит Gemini Enterprise и ИИ-агентов в свои операционные процессы для повышения эффективности и надёжности энергосистемы.
Рост ИИ уже превращается в многомиллиардные инвестиции в физическую инфраструктуру.
https://blog.google/company-news/why-were-backing-americas-existing-nuclear-plants/
👍62🔥58❤51💯48😁47👏44🤔44🎉44
🔎 Looped-модели научились экономить память: качество 12 блоков при KV-кэше на 4
Looped-модели прогоняют токен через один и тот же блок слоёв несколько раз, и так глубина растёт без роста параметров. Мешало одно: на каждой итерации копится свой KV-кэш, и память раздувается.
Авторы заметили, что внутреннее состояние модели со временем почти перестаёт меняться. Поэтому на декодинге можно хранить только финальные ключи и значения, а не всю цепочку итераций.
На модели 1.6B это дало 60% в среднем по бенчмаркам. Обычный трансформер из 4 блоков набирает 51%, из 12 блоков 61.5%. Получается почти уровень 12 блоков при втрое меньшем KV-кэше. Бонусом промпт обрабатывается до 1.79 раза быстрее, а RL-обучение идёт вдвое быстрее.
Код и 49 чекпоинтов открыты.
https://arxiv.org/abs/2610.06833
https://github.com/ifm-ai/xllm-loop
Looped-модели прогоняют токен через один и тот же блок слоёв несколько раз, и так глубина растёт без роста параметров. Мешало одно: на каждой итерации копится свой KV-кэш, и память раздувается.
Авторы заметили, что внутреннее состояние модели со временем почти перестаёт меняться. Поэтому на декодинге можно хранить только финальные ключи и значения, а не всю цепочку итераций.
На модели 1.6B это дало 60% в среднем по бенчмаркам. Обычный трансформер из 4 блоков набирает 51%, из 12 блоков 61.5%. Получается почти уровень 12 блоков при втрое меньшем KV-кэше. Бонусом промпт обрабатывается до 1.79 раза быстрее, а RL-обучение идёт вдвое быстрее.
Код и 49 чекпоинтов открыты.
https://arxiv.org/abs/2610.06833
https://github.com/ifm-ai/xllm-loop
❤34🎉33👍31🔥28👏24🤔22💯22😁21
Forwarded from Machinelearning
Все статьи написала внутренняя модель компании, название которой не раскрывают. На GitHub они разбиты на 372 семейства, от теории чисел и теоретической информатики до геометрии и математической физики.
Среди заявленных результатов есть доказательство рациональной гипотезы Ходжа для абелевых многообразий с комплексным умножением, гипотезы Капланского о прямой конечности в характеристике два и новая оценка показателя иррациональности числа
π.Рецензию работы не проходили, и независимо их пока никто не проверял.
Около 4000 задач модель получила во время внутренней оценки. Её расширили, когда прежние математические тесты перестали отличать модели друг от друга.
В среднем на один результат уходило столько вычислений, сколько примерно за три часа тратит ChatGPT Pro в режиме рассуждений.
Для 162 работ выложены доказательства на Lean. Каталог этих формализаций сама OpenAI считает как частичный и непроверенный. К десяти результатам приложены сокращённые записи рассуждений модели.
О том, как публиковать такие результаты, OpenAI советовалась с независимой Консультативной группой по математике и ИИ при Институте перспективных исследований в Принстоне.
Компания также обещает финансировать математические семинары и конференции в будущем.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤36👍36🤔33🔥32💯29👏25🎉25😁18
🧮 Три часа вычислений на математический результат: самая неожиданная цифра в релизе OpenAI
Компания опубликовала 722 рукописи, созданные ещё не выпущенной моделью. Среди заявленных результатов:
• область без нулей дзета-функции при Re(s) > 7/8, названная решением квазигипотезы Римана;
• решение десятой проблемы Гильберта над рациональными числами;
• доказательство иррациональности постоянной Каталана.
По оценке OpenAI, средний результат потребовал вычислений, эквивалентных примерно трём часам размышлений ChatGPT Pro. При этом работы по дзета-функции и гипотезе Ходжа были исключениями из стандартной процедуры.
Если эти доказательства выдержат проверку, масштаб события будет огромным. Но пока результаты находятся на разных стадиях верификации: для многих опубликованы формализации в Lean, для остальных сама OpenAI допускает ошибки.
Это серьёзная заявка на ускорение математических исследований. Предсказание «сверхинтеллект уже в 2027 году» из этих данных пока не следует.
https://github.com/openai/math
Компания опубликовала 722 рукописи, созданные ещё не выпущенной моделью. Среди заявленных результатов:
• область без нулей дзета-функции при Re(s) > 7/8, названная решением квазигипотезы Римана;
• решение десятой проблемы Гильберта над рациональными числами;
• доказательство иррациональности постоянной Каталана.
По оценке OpenAI, средний результат потребовал вычислений, эквивалентных примерно трём часам размышлений ChatGPT Pro. При этом работы по дзета-функции и гипотезе Ходжа были исключениями из стандартной процедуры.
Если эти доказательства выдержат проверку, масштаб события будет огромным. Но пока результаты находятся на разных стадиях верификации: для многих опубликованы формализации в Lean, для остальных сама OpenAI допускает ошибки.
Это серьёзная заявка на ускорение математических исследований. Предсказание «сверхинтеллект уже в 2027 году» из этих данных пока не следует.
https://github.com/openai/math
🔥59😁55❤53👍47👏46🤔43💯40🎉39
🏦 ИИ-агенты могут лишить банки США преимущества стоимостью $500 млрд
Механизм простой: агент замечает деньги на счёте с почти нулевым процентом и помогает перевести их туда, где доходность выше. Банкам приходится дороже платить за депозиты.
У JPMorgan, Bank of America и Wells Fargo $1,6 трлн беспроцентных депозитов. По расчёту FT, ставка 3% означала бы около $47 млрд дополнительных расходов в год.
Но $500 млрд относятся к стоимости преимущества от дешёвого финансирования, а не к ежегодным потерям прибыли. Это сценарная оценка: преимущество исчезнет, если такие депозиты постоянно будут оплачиваться по рыночным ставкам.
https://www.ft.com/content/a21ec190-edcd-454e-886a-302b0a16ea82
Механизм простой: агент замечает деньги на счёте с почти нулевым процентом и помогает перевести их туда, где доходность выше. Банкам приходится дороже платить за депозиты.
У JPMorgan, Bank of America и Wells Fargo $1,6 трлн беспроцентных депозитов. По расчёту FT, ставка 3% означала бы около $47 млрд дополнительных расходов в год.
Но $500 млрд относятся к стоимости преимущества от дешёвого финансирования, а не к ежегодным потерям прибыли. Это сценарная оценка: преимущество исчезнет, если такие депозиты постоянно будут оплачиваться по рыночным ставкам.
https://www.ft.com/content/a21ec190-edcd-454e-886a-302b0a16ea82
😁44👍41❤40🤔29👏23🎉23💯23🔥22⚡1