Patch the Planet: global response coordination as agents uncover critical vulnerabilities
https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/
@datascienceiot
https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities/
@datascienceiot
At the Limits of Computability: Steps Towards Autonomous AI Discovery on the Busy Beaver Frontier
📓 Read
@datascienceiot
📓 Read
@datascienceiot
The Geometry of Agent Memory: Forecasting Retrieval-Bound Memory Failures, and Characterizing Its Limits
📓 Read
@datascienceiot
📓 Read
@datascienceiot
Working with Agentic `Teammates': When a New Organizational Actor Collides with the Human Ecosystem of Work
📓 Read
@datascienceiot
📓 Read
@datascienceiot
Бесплатная книга о больших языковых моделях – 315 страниц от предобучения до рассуждений.
Foundations of Large Language Models Тун Сяо и Цзинбо Чжу системно объясняет, как устроены LLM, как их обучают и применяют.
Внутри шесть основных тем:
- Предобучение: задачи обучения и архитектуры моделей.
- Генеративные модели: Transformer, подготовка данных, масштабирование и длинный контекст.
- Промптинг: обучение на примерах в контексте, декомпозиция задач, RAG и инструменты.
- Выравнивание: обучение выполнению инструкций и использование человеческой обратной связи.
- Инференс: декодирование, ускорение и дополнительные вычисления во время генерации.
- Рассуждения: методы улучшения способности решать сложные задачи.
Авторы делают акцент на фундаментальных принципах. Материал подойдёт студентам, разработчикам и ML-инженерам, которым хочется связать отдельные знания о LLM в целостную картину.
Книга на английском. Базовые знания машинного обучения и нейросетей помогут при чтении.
Скачать PDF бесплатно:
https://arxiv.org/pdf/2501.09223
Foundations of Large Language Models Тун Сяо и Цзинбо Чжу системно объясняет, как устроены LLM, как их обучают и применяют.
Внутри шесть основных тем:
- Предобучение: задачи обучения и архитектуры моделей.
- Генеративные модели: Transformer, подготовка данных, масштабирование и длинный контекст.
- Промптинг: обучение на примерах в контексте, декомпозиция задач, RAG и инструменты.
- Выравнивание: обучение выполнению инструкций и использование человеческой обратной связи.
- Инференс: декодирование, ускорение и дополнительные вычисления во время генерации.
- Рассуждения: методы улучшения способности решать сложные задачи.
Авторы делают акцент на фундаментальных принципах. Материал подойдёт студентам, разработчикам и ML-инженерам, которым хочется связать отдельные знания о LLM в целостную картину.
Книга на английском. Базовые знания машинного обучения и нейросетей помогут при чтении.
Скачать PDF бесплатно:
https://arxiv.org/pdf/2501.09223
"Large Flow Language Models"
What if we could turn existing LLMs into diffusionLMs that generate multiple tokens in parallel without losing accuracy?
📓 Read
@datascienceiot
What if we could turn existing LLMs into diffusionLMs that generate multiple tokens in parallel without losing accuracy?
📓 Read
@datascienceiot
Алгоритм знает, где вы будете 7-го ноября 😎
RecSys-митап в Москве для тех, кто уже строит рекомендательные системы и хочет делать это еще лучше.
В программе — доклады от топовых экспертов Сбера с разбором кейсов, свежих подходов и неочевидных решений.
После официальной части — нетворкинг. Время в узком кругу профессионалов и сообщества Зеленый RecSys.
Участие бесплатное, но количество мест ограничено.
Москва. Суббота. 7 ноября. RecSys!
➡ ️ регистрируйтесь
RecSys-митап в Москве для тех, кто уже строит рекомендательные системы и хочет делать это еще лучше.
В программе — доклады от топовых экспертов Сбера с разбором кейсов, свежих подходов и неочевидных решений.
После официальной части — нетворкинг. Время в узком кругу профессионалов и сообщества Зеленый RecSys.
Участие бесплатное, но количество мест ограничено.
Москва. Суббота. 7 ноября. RecSys!
Please open Telegram to view this post
VIEW IN TELEGRAM
Yoshua Bengio and collaborators just released a goldmine 182-page survey on mechanistic interpretability!
"Understanding AI from the Inside"
📓 Read
@datascienceiot
"Understanding AI from the Inside"
📓 Read
@datascienceiot
Claude решил задачу по физике чёрных дыр, которую не могли закрыть около 20 лет
Anthropic опубликовала исследование, в котором внутренняя исследовательская модель Claude получила новый результат в теоретической физике.
Работа посвящена переходу Хокинга - Пейджа. Это фазовый переход, связанный с термодинамикой чёрных дыр в пространстве анти-де Ситтера (AdS).
Исследователей интересовал вопрос: сохраняется ли этот переход при слабой связи, когда классическое геометрическое описание уже неприменимо?
Для ответа требовалось вычислить коэффициент, который впервые появляется на трёх петлях в теории возмущений. По словам авторов, этот коэффициент не удавалось вычислить примерно два десятилетия.
Claude получила значение:
b = −1,48 × 10⁻³ λ²
Отрицательный знак коэффициента показывает, что переход остаётся переходом первого рода. Он происходит немного ниже температуры Хагедорна.
Особенно интересна организация работы. Физик поставил задачу внутренней исследовательской модели Anthropic, после чего проверил результат на нескольких известных частных случаях. Отдельный запуск Claude с использованием другого метода независимо получил то же значение.
Позднее Anthropic связала эту внутреннюю модель с Claude Fable 5.2.
Это ещё один пример того, как современные языковые модели начинают участвовать в исследованиях на уровне сложных математических вычислений и теоретической физики.
При этом работа пока не прошла независимое научное рецензирование. Результат требует проверки со стороны физического сообщества.
📓 Read
@datascienceiot
Anthropic опубликовала исследование, в котором внутренняя исследовательская модель Claude получила новый результат в теоретической физике.
Работа посвящена переходу Хокинга - Пейджа. Это фазовый переход, связанный с термодинамикой чёрных дыр в пространстве анти-де Ситтера (AdS).
Исследователей интересовал вопрос: сохраняется ли этот переход при слабой связи, когда классическое геометрическое описание уже неприменимо?
Для ответа требовалось вычислить коэффициент, который впервые появляется на трёх петлях в теории возмущений. По словам авторов, этот коэффициент не удавалось вычислить примерно два десятилетия.
Claude получила значение:
b = −1,48 × 10⁻³ λ²
Отрицательный знак коэффициента показывает, что переход остаётся переходом первого рода. Он происходит немного ниже температуры Хагедорна.
Особенно интересна организация работы. Физик поставил задачу внутренней исследовательской модели Anthropic, после чего проверил результат на нескольких известных частных случаях. Отдельный запуск Claude с использованием другого метода независимо получил то же значение.
Позднее Anthropic связала эту внутреннюю модель с Claude Fable 5.2.
Это ещё один пример того, как современные языковые модели начинают участвовать в исследованиях на уровне сложных математических вычислений и теоретической физики.
При этом работа пока не прошла независимое научное рецензирование. Результат требует проверки со стороны физического сообщества.
📓 Read
@datascienceiot
New Carnegie Mellon and JetBrains paper finds that token spend shows how much engineers use AI agents, not how much they ship.
📓 Read
@datascienceiot
📓 Read
@datascienceiot
📊 AI VK Research придумали, как точнее предсказывать интерес к контенту
Метод называется HEGM (Hierarchical Exponential-Gaussian Mixture). Модель предсказывает распределение возможных сценариев: пролистают сразу, посмотрят частично, досмотрят до конца или пересмотрят.
Что дало на практике:
— в VK Клипах число роликов за один заход выросло на 10%
— досмотры (>10 сек) +6%
— дизлайки −8,3%
Проверяли на KuaiRec, VK-LSVD и внутреннем датасете из 282 млн обезличенных взаимодействий. По качеству ранжирования HEGM обошёл протестированные альтернативы.
Зачем это нужно: подход переносится на музыку (пропуски vs полное прослушивание), рекламу (длительность просмотра) и e-commerce (время изучения карточки). Одна модель — несколько метрик интереса, без перестройки архитектуры рекомендательной системы.
Код уже открыт на GitHub. Читаем подробнее тут.
Метод называется HEGM (Hierarchical Exponential-Gaussian Mixture). Модель предсказывает распределение возможных сценариев: пролистают сразу, посмотрят частично, досмотрят до конца или пересмотрят.
Что дало на практике:
— в VK Клипах число роликов за один заход выросло на 10%
— досмотры (>10 сек) +6%
— дизлайки −8,3%
Проверяли на KuaiRec, VK-LSVD и внутреннем датасете из 282 млн обезличенных взаимодействий. По качеству ранжирования HEGM обошёл протестированные альтернативы.
Зачем это нужно: подход переносится на музыку (пропуски vs полное прослушивание), рекламу (длительность просмотра) и e-commerce (время изучения карточки). Одна модель — несколько метрик интереса, без перестройки архитектуры рекомендательной системы.
Код уже открыт на GitHub. Читаем подробнее тут.
AI Isn’t Getting Dumber, We’re Getting Pickier: Rising Standards in Human Evaluation of Large Language Models
📓 Read
@datascienceiot
📓 Read
@datascienceiot
Коротко о цикле ReAct: агент рассуждает, выполняет действие, смотрит на результат и решает, что делать дальше. Это один из базовых паттернов агентных систем.
Как проектировать такие системы под задачи аналитиков и ML-инженеров, разберут на AI Analytics Week — бесплатном онлайн-интенсиве Школы анализа данных Яндекса. Регистрация закрывается 22 ноября, интенсив пройдёт с 23 по 27 ноября.
На кейсах Яндекса покажут, как агент вызывает инструменты через Tool Calling, как настроить ему доступ к данным через MCP и где решение остаётся за человеком (Human-in-the-loop).
Лекции будут в предзаписи на YouTube и VK, вопросы задавать можно. Для участия нужны знания SQL, Python, базовой статистики и основ ML.
Заявки принимают до 22 ноября включительно, ссылка здесь.
Как проектировать такие системы под задачи аналитиков и ML-инженеров, разберут на AI Analytics Week — бесплатном онлайн-интенсиве Школы анализа данных Яндекса. Регистрация закрывается 22 ноября, интенсив пройдёт с 23 по 27 ноября.
На кейсах Яндекса покажут, как агент вызывает инструменты через Tool Calling, как настроить ему доступ к данным через MCP и где решение остаётся за человеком (Human-in-the-loop).
Лекции будут в предзаписи на YouTube и VK, вопросы задавать можно. Для участия нужны знания SQL, Python, базовой статистики и основ ML.
Заявки принимают до 22 ноября включительно, ссылка здесь.
Forwarded from
Microsoft представила на конференции Ignite 2026 семь моделей для программирования, безопасности, обработки изображений, работы с голосом, транскрибации и маршрутизации.
Они работают в Copilot, Foundry и Azure, а для бизнеса появились MAI Licensed Weights - веса семейства MAI, которые можно дообучить на своих данных и запускать в собственной среде Azure.
Модель для повседневной корпоративной разработки.
В среднем по DeepSWE 1.1, Terminal Bench 2.1, SWE-Atlas и FrontierCode 1.1 она даёт 98% качества GPT-6.1 Sol за 40% её цены и 96% качества Opus 5.5 за 5%. Цену Microsoft считает по акции со скидкой 50%, по обычному тарифу доли вдвое выше.
В слепом сравнении фронтенд-кода разработчики выбрали её вместо GPT-6 Sol в 68% случаев.
Доступность: GitHub Copilot на тарифах от Pro до Enterprise.
Младшая версия для частых мелких задач (объяснить код, внести точечную правку, исправить ошибку).
На трёх тестах из списка выше она примерно на уровне GPT-6 Luna за 65% её цены и Haiku 5.5 за 20%, тоже по акционной цене.
Доступность: GitHub Copilot на всех тарифах, включая бесплатный, плюс ограниченное превью в Foundry.
Модель для защиты кода и инфраструктуры с контекстом 1 млн токенов (вчетверо больше, чем у предшественницы).
На CyberGym-E2E она набрала 92,3% против 91,5% у GPT-6 Astra меньше чем за 2% стоимости задачи.
Цена - 10 центов за миллион входных токенов и 50 центов за миллион выходных.
Доступность: только в продуктах безопасности Microsoft, в MDASH она заменит текущую модель с середины декабря.
Генерация и редактирование изображений, в том числе по пяти референсам.
В рейтинге редактирования Artificial Analysis новинка заняла первое место, обойдя GPT Image 2.6 Sunburst за пятую часть её цены.
Версия Flash рассчитана на поток и стоит 10 долларов за миллион выходных токенов изображений.
Доступность: MAI Labs, Foundry, OpenRouter и другие партнёрские площадки.
Первая модель Microsoft для живого голосового диалога, которая принимает речь и сразу отвечает речью.
На внешних тестах и тестах Dynamics 365 она обходит GPT-Realtime 2.1.
Цена - от 1 цента за минуту аудио, рассуждения оплачиваются отдельно.
Доступность: ограниченное превью в MAI Labs только для личного некоммерческого использования, бизнес может оставить заявку.
Медицинская транскрибация на базе MAI-Transcribe-2, которая расшифровывает все разговоры врача с пациентом в Dragon Copilot.
Доступность: в составе Dragon Copilot.
Модель для решений внутри приложений: маршрутизации запросов, классификации, приоритизации и проверки.
Построена на Gemma 4 26B A4B, плюс понимает изображения.
В индексе Artificial Analysis Decision 2.1 набирает 68 против 62 у прошлой версии и работает вдвое быстрее за ту же цену.
Доступность: общий доступ в Foundry, OpenRouter и Vercel.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
📊 Два российских вендора СУБД будут развивать вместе продукты
Yandex B2B Tech и Группа Arenadata заключили соглашение о стратегическом партнёрстве.
Что меняется на практике:
— YDB от Яндекса можно будет развернуть on-premises в инфраструктуре заказчика, команда Arenadata адаптирует СУБД под потребности крупного бизнеса.
— Arenadata DB появится как управляемый сервис в Yandex Cloud.
— Заказчики смогут использовать решения обеих компаний и в своём ИТ-контуре, и в облаке.
Кому это нужно:
Совместные продукты рассчитаны на критически важные системы и крупный бизнес, прежде всего в ритейле и финтехе. YDB — распределённая СУБД для высоконагруженных транзакционных и аналитических задач. Arenadata DB — массивно-параллельная СУБД на PostgreSQL для хранилищ данных от десятков до сотен терабайт. По прогнозам компаний, совместные решения позволят занять от 30 до 50% рынка СУБД в финансовом секторе и ритейле.
Yandex Cloud продолжает развивать Managed Service for Greenplum® и Apache Cloudberry™ в сервисе Yandex MPP Analytics for PostgreSQL, а Группа Arenadata - свою дата-платформу Arenadata One и open-source-проекта Greengage, лежащий в основе Arenadata DB. В перспективе компании рассматривают комплексное решение для корпоративной аналитики и усиление Yandex DataLens Platform.
Объединение технологий двух крупных разработчиков расширяет выбор отечественных решений для работы с данными и создаёт дополнительные возможности для импортозамещения.
Yandex B2B Tech и Группа Arenadata заключили соглашение о стратегическом партнёрстве.
Что меняется на практике:
— YDB от Яндекса можно будет развернуть on-premises в инфраструктуре заказчика, команда Arenadata адаптирует СУБД под потребности крупного бизнеса.
— Arenadata DB появится как управляемый сервис в Yandex Cloud.
— Заказчики смогут использовать решения обеих компаний и в своём ИТ-контуре, и в облаке.
Кому это нужно:
Совместные продукты рассчитаны на критически важные системы и крупный бизнес, прежде всего в ритейле и финтехе. YDB — распределённая СУБД для высоконагруженных транзакционных и аналитических задач. Arenadata DB — массивно-параллельная СУБД на PostgreSQL для хранилищ данных от десятков до сотен терабайт. По прогнозам компаний, совместные решения позволят занять от 30 до 50% рынка СУБД в финансовом секторе и ритейле.
Yandex Cloud продолжает развивать Managed Service for Greenplum® и Apache Cloudberry™ в сервисе Yandex MPP Analytics for PostgreSQL, а Группа Arenadata - свою дата-платформу Arenadata One и open-source-проекта Greengage, лежащий в основе Arenadata DB. В перспективе компании рассматривают комплексное решение для корпоративной аналитики и усиление Yandex DataLens Platform.
Объединение технологий двух крупных разработчиков расширяет выбор отечественных решений для работы с данными и создаёт дополнительные возможности для импортозамещения.