⚙️ Apple представила компактную модель для исправления ошибок ASR

Исследователи Apple ML опубликовали работу, в которой предлагают альтернативу использованию больших языковых моделей (LLM) для коррекции ошибок автоматического распознавания речи (ASR). Вместо LLM, страдающих от задержек и галлюцинаций, они используют компактные seq2seq-модели, обученные на реальных и синтетических ошибках ASR.

Ключевое нововведение — метод correction-first decoding: модель коррекции генерирует гипотезы, которые затем переранжируются с использованием акустических скоринг-функций ASR. Для масштабирования обучения авторы создали синтетические корпуса через каскад TTS→ASR, показав, что критически важно соответствие разнообразия распределения ошибок реальным данным.

Результаты впечатляют: при в 15 раз меньшем количестве параметров, чем у LLM, модель достигает WER 1.5/3.3% на LibriSpeech test-clean/other, превосходя LLM. Она обобщается на разные архитектуры ASR (CTC, Seq2seq, Transducer) и домены, а также даёт точные исправления в режиме низкой ошибки, где LLM терпят неудачу.

#AI #Agents #ASR #AppleML #SpeechRecognition #LLM

🍏Apple представила Pare — среду для тестирования проактивных AI-ассистентов

Исследователи Apple ML (совместно с UCSB и UW) опубликовали фреймворк Proactive Agent Research Environment (Pare), предназначенный для оценки проактивных цифровых ассистентов. В отличие от существующих подходов, где приложения моделируются как плоские API-вызовы, Pare представляет их в виде конечных автоматов с состоянием и контекстно-зависимыми действиями. Это позволяет симулировать активных пользователей, которые не просто ждут команд, а взаимодействуют с интерфейсами последовательно.

Вместе с фреймворком выходит бенчмарк Pare-Bench — 143 задачи из категорий коммуникации, продуктивности, планирования и lifestyle-приложений. Ассистент должен наблюдать контекст, выводить цели пользователя, выбирать момент для вмешательства и координировать работу нескольких приложений. Это принципиально сложнее, чем выполнение разовых инструкций: агенту нужно предугадывать потребности, а не просто реагировать на запросы.

Pare решает ключевую проблему современных LLM-ассистентов — отсутствие реалистичной среды для обучения проактивному поведению. Разработчики интеграций для Claude Code, Codex и Cursor смогут использовать Pare-Bench для тестирования своих агентов на сценариях, где требуется инициатива, а не только реакция на команды.

#AI #AppleML #ProactiveAI #Assistants #LLM #Research

💻 Простое самодистиллирование улучшает генерацию кода

Исследователи Apple ML представили метод SSD (Simple Self-Distillation), который позволяет LLM улучшать генерацию кода, используя только собственные выходы — без верификатора, учительской модели или RL. На Qwen3-30B-Instruct результат на LiveCodeBench v6 вырос с 42.4% до 55.3% pass@1, причём основной прирост пришёлся на сложные задачи.

Метод работает так: модель генерирует решения с определённой температурой и конфигурацией усечения, после чего дообучается на этих же сэмплах стандартным supervised fine-tuning. SSD показал обобщение на модели Qwen и Llama масштаба 4B, 8B и 30B. Это означает, что разработчики могут повышать качество кода без дорогих внешних ресурсов — достаточно запустить пайплайн самодистиллирования на своих данных.

Практическое значение: подход особенно полезен для команд, работающих с открытыми моделями (Codex, Cursor, Claude Code), где нет доступа к проприетарным учителям. SSD позволяет итеративно улучшать модель прямо в процессе эксплуатации, используя только её собственные предсказания.

#Tech #AI #AppleML #SSD #CodeGen #LLM #Research

⚙️ Новый метод LEAD от Apple ML Research: разрыв «бутылочного горлышка» в долгосрочных рассуждениях LLM

Исследователи Apple ML Research представили метод Lookahead-Enhanced Atomic Decomposition (LEAD), решающий проблему нестабильности выполнения длинных цепочек рассуждений в больших языковых моделях. В работе показано, что даже при наличии высокоуровневых стратегий декомпозиция задач на атомарные шаги приводит к «бутылочному горлышку без восстановления»: ошибки на нескольких «трудных» шагах становятся необратимыми из-за крайне неравномерного распределения ошибок.

LEAD добавляет краткосрочную будущую валидацию к каждому атому, что позволяет модели «заглядывать вперёд» и корректировать действия до того, как ошибка станет катастрофической. На контролируемых алгоритмических головоломках метод показал значительный прирост стабильности по сравнению с обычной атомарной декомпозицией.

#Tech #LLM #AppleML #AI #Research #Decomposition

📎 UMAP и наука о сетях: как граф kNN помогает понимать данные

Исследователи Apple ML Research предложили новый взгляд на UMAP — популярный метод визуализации многомерных данных. Обычно результаты сводятся к 2D-проекции, но внутренний граф k-ближайших соседей (kNN), который UMAP строит до проецирования, остаётся почти без внимания. Этот граф точно отражает структуру многообразия в исходном пространстве, без искажений, вносимых проекцией.

Авторы применили к этому графу стандартные алгоритмы теории графов: PageRank для выявления репрезентативных точек, k-ядерную декомпозицию для поиска плотных кластеров и другие методы. Результаты показывают, что такой подход даёт более глубокое понимание данных, чем просто смотр на 2D-картинку. Например, PageRank позволяет найти «типичные» объекты, а k-core выделяет устойчивые группы.

Практическая значимость – аналитики и исследователи получают дополнительный инструмент для сенсмейкинга, не требующий сложного тюнинга UMAP. Граф kNN уже построен – остаётся применить к нему классические алгоритмы.

#AI #UMAP #Science #Web #Internet #AppleML

🍏 DeepAmbigQA: новый бенчмарк Apple для проверки полноты ответов LLM

Исследователи Apple ML представили DeepAmbigQA — датасет с неоднозначными многошаговыми вопросами, который оценивает, насколько полно большие языковые модели отвечают на сложные open-domain запросы. LLM с интегрированными поисковыми инструментами часто дают неполные ответы на вопросы вроде «Какой актёр из фильма Heat получил хотя бы один „Оскар"?». Чтобы справиться, модели нужно отличить несколько фильмов с одинаковым названием и собрать доказательства по большому списку актёров.

Существующие бенчмарки редко проверяют обе задачи одновременно. DeepAmbigQA заполняет этот пробел. Вместе с бенчмарком авторы представили DEEPAMBIGQAGEN — автоматический пайплайн генерации данных, который строит такие QA-задания без ручной разметки. Это позволяет масштабировать тестирование и оценивать модели на случаях, где важно не просто дать ответ, а не упустить ни один из возможных вариантов.

#AI #LLM #AppleML #Benchmark #Development

⚛️ MVICAD2: новый метод анализа многоканальных данных мозга от Apple ML Research

Исследователи Apple ML Research представили MVICAD2 — метод многоканального анализа независимых компонент с учётом задержек и дилатаций. Разработка решает давнюю проблему машинного обучения в мультивью-задачах: интеграцию неоднородных данных, выравнивание признаковых пространств и борьбу со смещениями, специфичными для каждого канала.

Особенно важен метод для нейронауки. В магнитоэнцефалографии (MEG) сигналы регистрируются на уровне скальпа, и ключевая задача — оценить нижележащие источники активности мозга. В групповых исследованиях, где источники предполагаются схожими у всех испытуемых, классические подходы вроде Multi-View ICA часто пасуют. MVICAD2 добавляет моделирование временных задержек и разномасштабных (дилатационных) динамик, что позволяет точнее разделять общие нейронные паттерны и индивидуальные особенности.

Практически это значит более надёжное извлечение сигнала из шумных MEG-записей в кросс-субъектных экспериментах. Для исследователей, работающих с групповой нейродинамикой, это готовый инструмент, который снимает необходимость в ручном выравнивании данных и уменьшает вклад артефактов конкретных испытуемых.

#Tech #AI #NeuroScience #MVICAD2 #AppleML #MEG

🍏 Apple изучила человекоподобное поведение больших языковых моделей

Исследователи Apple ML Research представили многомерный анализ того, как LLM проявляют человекоподобные черты: выражают эмоции, строят отношения с пользователем, отказывают в просьбах и удерживают границы. В работе использованы 21 000 многоходовых диалогов четырёх популярных моделей — gpt-4o, gpt-4.1-mini, claude-sonnet-4.6 и gemini-2.5-flash.

Авторы оценивали распространённость таких поведений, их восприятие и управляемость с помощью LLM-as-a-judge и оценки людьми. Выяснилось, что человекоподобные паттерны встречаются повсеместно, но сильно различаются в зависимости от модели, цели разговора и профиля пользователя. При этом человеческие оценщики сочли самореферентные высказывания и попытки построения отношений менее уместными от ИИ, чем от человека, а вот удержание границ — наоборот, более уместным.

Отдельно исследователи показали, что системные промпты способны контролировать такие поведения, однако требуют тщательной настройки, чтобы избежать непреднамеренных эффектов. Работа даёт практические рекомендации по ответственному дизайну и оценке LLM, что важно для разработчиков чат-ботов и ассистентов.

#AI #LLM #AppleML #Research #Tech

🍏 Внутреннее визуальное мышление: новый подход Apple к видеорассуждениям ИИ

Исследователи Apple ML представили Internalized Visual Thinking (IVT) — фреймворк пост-тренировки мультимодальных LLM, который позволяет моделям «думать визуально» на этапе обучения, а не во время инференса.

Современные модели всё чаще используют visual chain-of-thought (Visual CoT): генерируют промежуточные изображения, чтобы рассуждать о пространстве, времени и окружении. Это даёт модели наглядное «мысленное» представление, но создаёт огромную вычислительную нагрузку — критично для проактивного видеорассуждения, где нужно анализировать поток кадров в реальном времени.

IVT решает эту проблему: визуальное мышление переносится на этап обучения, а на инференсе модель рассуждает напрямую, без генерации картинок. Совместная оптимизация текстовых предсказаний и внутренних визуальных представлений сохраняет преимущества Visual CoT, устраняя его главный недостаток. Для разработчиков это шаг к более эффективным видеомоделям, пригодным для робототехники, автономных систем и анализа видеопотоков.

#AI #AppleML #MultiModal #LLM #VideoReasoning #MachineLearning