Qvabo News
228 subscribers
2.46K photos
11 videos
479 links
Что нового в нейросетях: релизы, обновления, фишки, примеры генераций. Каждый день выбираем главное. Генерация картинок топовыми моделями: @qvabostudio_bot

Сайт: https://qvabo.studio/app
Download Telegram
➡️ Ускорение генерации видео по тексту с помощью калиброванного разреженного внимания

Исследователи Apple ML Research представили метод Calibrated Sparse Attention (CSA), который значительно ускоряет работу диффузионных моделей для генерации видео. Основная проблема современных моделей — медленная работа из-за огромных вычислительных затрат на пространственно-временное внимание в трансформерных архитектурах.

В ходе анализа авторы обнаружили, что значительная часть связей между токенами даёт пренебрежимо малые оценки (scores) независимо от входных данных, причём эти паттерны часто повторяются для разных запросов. Это позволяет пропускать вычисления внимания для таких связей без потери качества. Аналогичный эффект наблюдается и для локальных блоков токенов. CSA динамически определяет, какие вычисления можно безопасно пропустить, сохраняя при этом высокое качество выходного видео.

Практическое значение: метод позволяет сократить время генерации видео без ущерба для качества, что критично для приложений реального времени и интерактивных инструментов. Разработчики могут интегрировать CSA в существующие диффузионные пайплайны для ускорения инференса.

#Tech #Apple #VideoGen #Media #MachineLearning
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1🔥1
💰 Siri AI может стать платной для продвинутых пользователей

По данным TechCrunch, Apple рассматривает возможность монетизации расширенных функций Siri AI через подписку iCloud+. Глава компании Тим Кук допустил, что пользователи смогут докупать дополнительные вычислительные мощности для голосового ассистента в рамках существующей экосистемы Apple.

Ожидается, что базовые возможности Siri останутся бесплатными, а платный уровень затронет «тяжёлые» сценарии: обработку длинных запросов, расширенный контекст и более сложные генеративные функции. Это часть стратегии Apple по переносу части AI-нагрузки в облако и компенсации затрат на инфраструктуру. Для пользователей это означает рост расходов, но и доступ к более мощным моделям без необходимости покупать новое железо.

Источник не уточняет ни сроки запуска, ни возможные тарифы, однако сам сигнал показателен: Apple ищет способы превратить AI в регулярный источник дохода. Если модель будет реализована, iCloud+ станет не просто хранилищем, а точкой входа в платные AI-сервисы Apple.

#Business #Apple #Siri #AI #iCloud #Profit
Please open Telegram to view this post
VIEW IN TELEGRAM
😱1🥱1
⚖️ Apple подала в суд на OpenAI: «схема кражи» и 400 бывших сотрудников

10 июля Apple подала иск в федеральный суд Северного округа Калифорнии против OpenAI Foundation, OpenAI Group PBC, компании io Products и двух своих бывших сотрудников — инженера Чанга Лю и Танга Ю Тана, ранее вице-президента по продуктовому дизайну iPhone и Apple Watch. На 41 странице описана, по версии Apple, координированная кампания по выносу конфиденциальной информации: дизайны продуктов, производственные процессы и стратегии работы с цепочкой поставок. Цель, как утверждает Apple, — ускорить выход OpenAI на рынок потребительского железа. Отдельно в иске указано, что в OpenAI сейчас работает около 400 выходцев из Apple. Джони Айв в числе ответчиков не назван, хотя io — стартап, который OpenAI купила в 2025 году за $6,5 млрд, — фигурирует.

Самая яркая часть претензий касается Лю. Он проработал в Apple восемь лет и ушёл в OpenAI в январе 2026-го, не вернув рабочий ноутбук и не пройдя exit-интервью. По версии Apple, он обнаружил редкий баг аутентификации и через него зашёл в корпоративную сеть — с сообщением коллеге «LOL, я выяснил, что могу зайти в сетевое хранилище, очень смешно». После чего скачал десятки конфиденциальных файлов по железу: презентации, техспецификации, данные по неанонсированным продуктам. Тану вменяют другую тактику: на интервью с действующими сотрудниками Apple он якобы намеренно использовал кодовые названия проектов, чтобы вытянуть максимум информации, просил приносить CAD-модели и прототипы «показать», а новых сотрудников инструктировал не говорить Apple, куда они уходят.

Apple требует предварительного судебного запрета: сохранить доказательства, прекратить использование её технологий и вернуть все коммерческие тайны. Такой ордер мог бы серьёзно затормозить хардверное направление OpenAI. В компании называют поданное «верхушкой айсберга», поскольку доступ у них есть только к данным на собственных устройствах, и обещают, что discovery покажет масштаб «многократно больший». Представлять Apple наняли Weil, Gotshal & Manges — фирму, которая вела Enron. Фоном — распад партнёрства: в конце 2024-го Apple встроила ChatGPT в Siri, а в январе 2026-го выбрала основным ИИ-партнёром Google Gemini.

#Business #Apple #OpenAI #LawSuit #AI
👍1🔥1
📧 OpenAI ответила Apple: «Apple ошибается»

OpenAI опубликовала пост под заголовком «Apple is getting this wrong», назвав иск «небрежным, агрессивным и странно личным» и не соответствующим репутации компании, которая построила имя на внимании к деталям. Главный удар — по фактуре. Apple утверждала, что связалась с OpenAI в феврале и не получила ответа. Как теперь признаёт сама Apple, её внешний юрист Габриэль Гросс написал не тому человеку, спутав две азиатские фамилии — Wang и Chang, — причём выяснилось это только после того, как на ошибку указала OpenAI. Заявление о разговоре с генеральным юрисконсультом OpenAI Че Чангом тоже не подтвердилось, и в Apple это признали. Более того, конкретные обвинения из иска тогда вообще не поднимались, а Гросс написал, что вопросы «улаживаются». Дальше — пять месяцев молчания и сразу иск.

По Чангу Лю версия OpenAI прямо противоположная: доступ к файлам он получал не сам, а по просьбе бывших коллег из Apple, которые обращались к нему уже после его ухода. В подтверждение OpenAI выложила переписку в iMessage, где сотрудник Apple просит помочь найти файлы, копирует данные с его iCloud и в какой-то момент пишет: «Я вышел из твоего аккаунта. Когда спросили, хочу ли я оставить копию твоих материалов, я ответил нет». Термин «остаточный доступ», на который Apple переключилась, OpenAI разворачивает против неё же: это давняя проблема самой Apple, не отзывающей права при уходе людей, из-за чего у бывших сотрудников остаётся доступ к файлам, которого они не просили и о котором часто не знают. Про Тана сказано, что он всегда чётко доносил команде: чужая конфиденциальная информация не нужна и использоваться не должна.

Итоговый тезис: запрос на предварительный запрет построен на ложных сведениях и попросту излишен, поскольку коммерческих тайн Apple у OpenAI нет и они не нужны. Урегулировать до суда OpenAI предлагала, но Apple, по её словам, предпочла менять нарратив и добавлять размытые обвинения в адрес других бывших сотрудников. Финальная формулировка: «Нам гораздо интереснее создавать инновационные продукты и технологии, продвигающие фронтир, чем чужие секреты». Дело на этом не закрыто — суд ещё не рассматривал ходатайство о запрете, так что ждём следующих филингов.

#Business #OpenAI #Apple #Lawsuit #AI #Tech
👍1🤣1
🤝 Переговоры Apple с китайской CXMT упёрлись в цену

Apple рассматривает китайского производителя памяти ChangXin Memory Technologies (CXMT) как потенциального поставщика мобильной DRAM, включая LPDDR5X для смартфонов. Однако стороны пока не могут договориться о цене.

По данным TechNode, CXMT запрашивает цены на уровне котировок Samsung Electronics и SK hynix или выше, тогда как Apple добивается снижения. Китайский вендор может позволить себе жёсткую позицию благодаря заказам от местных производителей, включая Huawei и Xiaomi. О соглашении о поставках пока не объявлено.

Если сделка состоится, это станет важным шагом в диверсификации цепочки поставок Apple и усилением позиций китайских чипмейкеров на мировом рынке памяти. Пока же переговоры остаются на стадии обсуждения.

#Business #Tech #Apple #CXMT #DRAM #Semiconductors
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1🤔1
💻 В коде беты iOS 27 нашли намёки на китайскую версию Apple Intelligence

В пятой бете iOS 27 обнаружены строки, указывающие на подготовку отдельной версии Apple Intelligence для материкового Китая. Дата запуска и локальный партнёр при этом пока не называются.

Судя по найденному коду, запросы пользователей будут обрабатываться на устройстве и не будут отправляться ни в Apple, ни местной компании, которая предоставляет необходимый механизм безопасности. Apple также будет собирать информацию анонимно и передавать её в агрегированном виде, а сам механизм безопасности будет загружаться и обновляться автоматически.

Это косвенно подтверждает, что Apple продолжает искать способ запустить свои ИИ-функции в КНР в соответствии с местными требованиями к обработке данных. Однако бета-код не раскрывает ни имя провайдера, ни сроки появления Apple Intelligence на китайском рынке — Apple, как и раньше, хранит молчание по этому вопросу.

#AI #Apple #iOS #AppleIntelligence #China
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1🤔1
🍏 Apple поможет доказать, что фото на iPhone — не дипфейк

Компания Apple работает над механизмом проверки подлинности фотографий, сделанных на iPhone. Речь идёт о технологии, которая позволит отличать реальные снимки от изображений, сгенерированных или отредактированных нейросетями. По данным The Verge, решение связано с так называемым эталонным изображением (Reference Image) и метаданными снимка.

Суть подхода в том, что камера iPhone будет добавлять к каждому кадру цифровую информацию, подтверждающую его происхождение. При проверке система сможет сопоставить фото с эталонными данными и установить, были ли в него внесены изменения. Это особенно актуально на фоне роста числа реалистичных дипфейков и распространения AI-инструментов для редактирования изображений.

Если Apple внедрит такую систему, владельцы iPhone получат простой способ доказать, что их снимок действительно сделан на устройстве и не подвергался манипуляциям. Это может стать важным шагом для борьбы с дезинформацией — от новостных репортажей до юридически значимых доказательств. Ожидается, что детали технологии и сроки появления будут раскрыты позже.

#Safety #Apple #DeepFake #AI #Security #Photo #Detection #System
Please open Telegram to view this post
VIEW IN TELEGRAM
👏1😁1
🍏 Apple обучила собственную AI-модель для Китая при участии Alibaba

Apple разработала большую языковую модель специально для китайского рынка — при содействии Alibaba, сообщает Reuters со ссылкой на три источника. Это разворот стратегии: раньше предполагалось, что в Китае компания будет опираться в основном на модели местных разработчиков.

Предыстория такая. Apple Intelligence вышла в 2024 году, но в Китае два года не запускалась из-за отсутствия одобрения регулятора. 15 июля Управление киберпространства Китая согласовало сервис — на основе сделки об интеграции модели Qwen от Alibaba в iOS, iPadOS, macOS и visionOS. Baidu подтвердил, что тоже участвует в разработке функций для китайских пользователей. В начале августа Apple открыла владельцам Mac в Китае подключение к сервису Qwen.

Теперь у Apple выходит двухконтурная схема: собственная модель плюс одобренные местные партнёры. Как именно распределятся роли между ними, ещё не решено. Своя модель даёт компании больше контроля над технологией, при этом требования китайского регулирования закрываются локально сертифицированными компонентами.

Ставки высокие: во втором квартале Большой Китай принёс Apple $20,5 млрд выручки, на 28% больше год к году, компания вернула себе второе место на местном рынке смартфонов. Конкурировать приходится с Huawei, у которого ИИ-функции работают давно. Запуск Apple Intelligence в Китае ожидается в ближайшие месяцы вместе с обновлением ОС.

#Tech #LLM #Apple #AI #Alibaba #China
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1🔥1
✨ STARFlow2: объединение языковых моделей и нормализующих потоков для мультимодальной генерации

Исследователи Apple ML Research представили STARFlow2 — подход, который устраняет разрыв между языковыми моделями и нормализующими потоками (normalizing flows) для создания единой мультимодальной генерации. Работа нацелена на модели, способные понимать, рассуждать и генерировать перемежающиеся последовательности текста и изображений.

Существующие решения структурно фрагментированы: дискретная токенизация снижает визуальную точность, гибридные архитектуры с каузальным текстом и диффузионным шумоподавлением асимметричны, а адаптация vision-language моделей под генерацию ухудшает их предобученное понимание. Ключевое наблюдение авторов: авторегрессионные нормализующие потоки по своей сути являются авторегрессионными трансформерами — они разделяют с LLM каузальную маску, KV-cache и структуру слева направо. Это позволяет объединить текстовую и визуальную генерацию в одной архитектуре без потери качества.

Практически это значит более согласованную генерацию смешанного контента — например, текста с релевантными изображениями — и единый механизм обучения для понимания и синтеза. Работа продолжает линию STARFlow и предлагает более унифицированную альтернативу дискретным токенайзерам и диффузионным надстройкам.

#AI #Apple #MultimodalGen #Research #StarFlow2
👍1👌1
🧑‍🔬Исследователи Apple выяснили, что LLM не являются последовательно байесовскими

Новая работа Apple ML Research посвящена ключевой проблеме современных языковых моделей: насколько рационально они обновляют свои вероятностные убеждения при поступлении новых данных. В медицине, науке и праве не всегда существует единственно верный ответ — система должна уметь взвешивать неопределённость и корректировать выводы по мере получения свидетельств.

Авторы предлагают рассматривать LLM как правила обработки информации и вводят метрику information processing gap — величину отклонения от идеального байесовского обновления. Эксперименты показали: модели демонстрируют внутренние несоответствия — их «убеждения» зависят от формулировки вопроса, порядка подачи фактов и других факторов, не связанных с логикой вывода. Иными словами, вероятностные суждения LLM нестабильны и не всегда согласуются даже с их собственными предсказаниями.

Практический вывод для разработчиков: полагаться на «уверенность» модели в ответе как на надёжный сигнал достоверности пока рискованно. Метрика из исследования может стать инструментом для оценки и калибровки моделей перед развёртыванием в чувствительных областях, где цена ошибки высока.

#AI #Apple #LLM #Research #BayesianInference
🤔1🤨1
🧏‍♂️ Apple представила DiscoSign — перевод текста на жестовый язык с учётом дискурса

Команда Apple ML Research опубликовала работу DiscoSign — подход к переводу текста в глоссы жестового языка, который учитывает не отдельные предложения, а структуру всего высказывания.

Классические системы обработки жестовых языков работают на уровне предложения и игнорируют дискурсивные явления, критичные для понимания. DiscoSign построен как модульный фреймворк на базе большой языковой модели и закрывает три ключевых аспекта: пространственную кореференцию (сущности сохраняют единое место в жестовом пространстве на протяжении всего дискурса), Question-Answer Clauses — псевдоклефт-конструкции, характерные для жестовых языков, и связанные с ними дискурсивные механизмы.

Метод опирается на лингвистические исследования, а не только на статистику параллельных корпусов. Практический смысл — более связный и естественный автоматический перевод для глухих пользователей: система сохраняет пространственную логику повествования вместо механической склейки независимых предложений. Направление относится к accessibility-ML в Apple.

#Tech #Apple #SignLanguage #NLP #Gestures #AI #Research
Please open Telegram to view this post
VIEW IN TELEGRAM
✍1👏1
🍏 Apple представила SimpleDesign — модель для совместного дизайна последовательностей и структур белков

Apple ML Research опубликовала работу SimpleDesign — генеративную модель для совместного моделирования аминокислотной последовательности и трёхмерной структуры белка. Функция белка определяется сложным взаимодействием этих двух модальностей, поэтому их согласованный дизайн критичен для разработки лекарств и белковой инженерии.

Большинство существующих подходов используют многоэтапное обучение: сначала автоэнкодеры токенизируют данные в латентные представления, а затем на них отдельно тренируется генеративная модель. Такой конвейер усложняет обучение и может терять часть информации при переходе между этапами. SimpleDesign вместо этого моделирует последовательность и структуру совместно в единой архитектуре, что позволяет учитывать их взаимное влияние напрямую.

Практическая ценность — в задачах de novo дизайна белков, где нужно предложить последовательность, которая сворачивается в заданную структуру, и наоборот. Это направление особенно востребовано в фармацевтике и синтетической биологии, где поиск подходящих молекул традиционно занимает годы экспериментов.

#AI #Science #Bioinformatics #Proteins #ML #Apple
Please open Telegram to view this post
VIEW IN TELEGRAM
👏1🤯1
🧠 Apple представила общую избирательную память для агентных LLM-систем

Исследователи Apple ML предложили архитектуру shared selective persistent memory для агентных LLM-систем, которые пишут код через многошаговое использование инструментов. Проблема: каждая сессия начинается с нуля и теряет конфигурации, схемы данных и паттерны работы с инструментами.

Решение сохраняет четыре категории переиспользуемого контекста - спецификации задач, схемы данных, конфигурации инструментов и ограничения на вывод, - отбрасывая следы рассуждений конкретной сессии. Память общая: workspace можно передавать между пользователями с ролевым доступом. Реализовано в платформе, где агенты создают и поддерживают git-версионированные артефакты (дашборды, отчёты, документы) из CSV, SQL, REST API и MCP-серверов.

Результаты: 96% выполнения задач против 79% без памяти и 71% с полной историей. Механизм zero-token refresh убирает повторный вызов модели при обновлении данных - ускорение в 14 раз, а summary-генерация снижает стоимость токенов в 97 раз. Важный вывод: наивное сохранение всей истории ухудшает результат из-за устаревших рассуждений.

#AI #LLM #Agents #Research #Memory #Apple
🔥1👏1
❌ Открытый инструмент RemoveMacAI удаляет 12 ГБ данных Apple Intelligence на macOS

На macOS появился консольный инструмент с открытым исходным кодом, который полностью стирает модели Apple Intelligence с диска и отключает связанные с ними функции. Освободить таким образом можно около 12 ГБ - заметная прибавка к хранилищу для любого Mac.

Предыстория: раньше в «Настройках» был один переключатель для отключения Apple Intelligence, но в macOS 27 его убрали. Теперь ИИ-модели остаются на накопителе, а опции разбросаны примерно по десятку разных разделов, часть из них спрятана в «Экранном времени». RemoveMacAI делает то же, что когда-то делал старый тумблер: удаляет модели и выключает фичи разом.

Автор проекта рассказал о нём на Reddit, о находке ранее сообщил MacRumors. Инструмент распространяется бесплатно, код открыт - это не официальное решение Apple, а пользовательская альтернатива для тех, кому не нужны локальные ИИ-функции или не хватает места.

🎨 qvabo.studio/tg · картинки и видео

#Tech #Apple #macOS #AppleIntelligence #opensource #AI
Please open Telegram to view this post
VIEW IN TELEGRAM
👏1👌1
🍏 Apple представила Normalizing Trajectory Models: генерация за 4 шага с точным правдоподобием

Исследователи Apple (совместно с UPenn и UIUC) опубликовали работу о Normalizing Trajectory Models (NTM) - новом классе генеративных моделей, которые устраняют ключевое ограничение диффузии. Диффузионные модели разбивают сэмплирование на множество мелких гауссовых шагов, и это допущение ломается, когда генерацию сжимают до нескольких грубых переходов.

Существующие few-step методы (дистилляция, consistency training, adversarial-цели) решают проблему, но теряют рамку правдоподобия. В NTM каждый обратный шаг моделируется как выразительный условный normalizing flow с обучением по точному правдоподобию. Архитектурно метод сочетает неглубокие обратимые блоки внутри шага с глубоким параллельным предиктором вдоль всей траектории - сеть обучается с нуля или инициализируется из предобученных flow-matching моделей.

Точное правдоподобие траектории открывает self-distillation: лёгкий денойзер, обученный на score-функции самой модели, выдаёт качественные сэмплы всего за четыре шага. На text-to-image бенчмарках NTM догоняет или превосходит сильные базлайны генерации изображений, сохраняя точное правдоподобие по всей генеративной траектории.

🎨 qvabo.studio/tg · картинки и видео

#AI #ML #Apple #DiffusionModels #ImageGen
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1👌1
Apple готовит HomeView - умный домашний хаб на Siri с чипом A18

По данным Bloomberg (Марк Гурман), Apple представит новый домашний хаб HomeView во вторник, а релиз ожидается в середине ноября. Это Siri-устройство с дисплеем и чипом A18, которое управляет другими умными устройствами в доме. Выпустят две версии: настольную - для столешниц - и настенную.

HomeView станет самой серьёзной ставкой Apple на умный дом после того, как HomeKit и колонка HomePod не получили массового распространения. На том же мероприятии Apple покажет обновлённые Apple TV и HomePod mini, а ранее сообщалось о партнёрстве с LG для выпуска умного замка, термостата и дверного звонка.

Для разработчиков и интеграторов это значит расширение экосистемы: дисплей с Siri и полноценным чипом открывает новые сценарии для HomeKit-приложений и автоматизаций, а связка с устройствами LG может вывести Apple в сегмент, где сейчас доминируют Amazon и Google.

🎨 qvabo.studio/tg · картинки и видео

#Tech #AI #Apple #HomeView #Siri #SmartHouse #HomeKit
👍1👌1
🍏 Apple: LLM пока ненадёжны для оценки качества машинного перевода

Исследователи Apple ML Research сравнили большие языковые модели с людьми-аннотаторами в задаче оценки качества машинного перевода (MT). Проверялись две популярные схемы разметки - Multidimensional Quality Metrics (MQM) и Error Span Annotation (ESA).

В тестах использовались длинноконтекстный набор из 70 языковых пар, а также открытые данные WMT23 и WMT25. Оценивалось согласие по итоговым баллам и по разметке ошибок в разных языках и доменах. Результат двойственный: в части задач согласие LLM с людьми превышает согласие между самими людьми-аннотаторами, но в целом показатели сильно колеблются в зависимости от схемы, языка и домена и остаются ненадёжными для большинства сценариев.

Авторы отдельно описывают слабые места обеих сторон. Люди чаще ошибаются на мелкогранулярной разметке MQM и на малоресурсных языках. Модели хуже справляются с мелкими ошибками, неверными языковыми вариантами и разметкой error span. Вывод: полностью заменять людей LLM пока нельзя, но перспективны гибридные пайплайны, где человек и модель дополняют друг друга.

🎨 qvabo.studio/tg · картинки и видео

#Tech #Apple #LLM #MachineTranslation #NLP #AI #Research
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔1🆒1
💵Пять платформ и три модели оплаты: гонка персональных AI-агентов

С 8 сентября по 2 октября 2026 года пять крупных платформ выпустили персональных агентов: OpenAI Dots, Meta* Muse, Apple Siri AI, Google Gemini 4 Argon и Anthropic Frontier Academy. Рынок разделился на три разные экономические модели.

OpenAI сделала ставку на дорогую подписку: тариф Pro 500 стоит до $500 в месяц, каждый агент работает на отдельном облачном компьютере и охватывает более 4000 интеграций с приложениями. Meta* выбрала freemium: Muse бесплатен до 100 млн токенов в неделю, а продвинутые возможности открываются за $20 и $100 в месяц. Apple встроила Siri AI прямо в систему совместимых устройств и подписку не объявила.

Anthropic ушла из потребительской гонки: $100 млн вложено в Frontier Academy, чтобы к концу 2027 года обучить 10000 инженеров внутри McKinsey, Accenture и Deloitte. Победа достанется тому, кто создаст самые высокие издержки переключения.

*компания Meta признана экстремистской и запрещена на территории Российской Федерации

🎨 qvabo.studio/tg · картинки и видео

#Business #Ai #OpenAI #Models #Payment #Apple #Anthropic
Please open Telegram to view this post
VIEW IN TELEGRAM
🤔1👌1
🍏 Selection-Based Structured Reasoning: как Apple ускоряет мультимодальные поисковые агенты

Исследователи Apple ML представили SSR (Selection-based Structured Reasoning) - подход, который заменяет свободную генерацию рассуждений у мультимодальных агентов на выбор из заранее заданных кандидатов.

Проблема: небольшие модели (2B и 4B) тратят ёмкость на длинные цепочки рассуждений, которые мало помогают генерации действий, но сильно увеличивают стоимость инференса. SSR представляет повторяющиеся высокоуровневые рассуждения как предопределённые переиспользуемые natural-language кандидаты. На каждом шаге модель выбирает подходящий вариант по его вероятности с учётом текущего контекста - без вспомогательной task head.

Ключевая техническая деталь: предзаданные reasoning traces допускают параллельное скорингование. Teacher-forced prefilling вычисляет токенные вероятности одновременно внутри кандидатов и между ними через общий KV-кэш контекста.

Оценка на семи мультимодальных поисковых бенчмарках (модели 2B и 4B, RL и SFT) показала: средний success rate сопоставим с ведущими поисковыми агентами того же масштаба, при этом задержка рассуждений на шаг падает более чем на 90%, а общая задержка инференса на вопрос - на 28-54%.

🎨 qvabo.studio/tg · картинки и видео

#AI #Research #MultiModal #Agents #Apple #Inference #ML
Please open Telegram to view this post
VIEW IN TELEGRAM
⚙️ AnyLanguageModel 1.0: год локальных моделей на платформах Apple

Hugging Face выпустила AnyLanguageModel 1.0 - drop-in замену фреймворка Foundation Models от Apple, позволяющую приложению выбирать модель и провайдера. Достаточно поменять один import, и тот же код сессии работает с системной моделью, открытыми весами через llama.cpp, MLX и Core ML, а также с хостинговыми провайдерами.

За год добавили tool calling и guided generation для всех провайдеров (включая вложенные @Generable-типы), поддержку изображений в промптах, работу с моделями по протоколу LanguageModel на OS 27. Среди хостинговых провайдеров - OpenAI Chat Completions и Responses, Anthropic Messages с adaptive thinking, Gemini, Ollama, Private Cloud Compute и Hugging Face Inference Providers через кастомный baseURL. Reasoning-блоки теперь часть транскрипта и автоматически отбрасываются при смене провайдера, а API-ключи берутся из замыкания - можно выдавать короткоживущие токены со своего сервера.

Вместе с этим вышли swift-huggingface и swift-xet 1.0 для ускоренной загрузки моделей с Hub. Из популярных локальных вариантов: Gemma 4 E2B (~3,4 ГБ, GGUF) и LFM2.5 2.6B (~1,7 ГБ) помещаются на iPhone, Qwen3.8 27B в 4 битах (~16 ГБ) идёт на Mac с 32 ГБ памяти. AnyLanguageModel работает и на Linux - тот же код годится для сервера.

🎨 qvabo.studio/tg · картинки и видео

#AI #AnyLanguageModel #Swift #Apple #LocalModels #Development #LLM
Please open Telegram to view this post
VIEW IN TELEGRAM