🎙 Всё, что вы говорите, записывается

До недавнего времени так параноить приходилось только шпионам и преступникам: будущего члена мафиозной семьи Дженовезе в 2003-м перед посвящением раздели и обыскали на предмет жучков. Теперь, пишет The Atlantic, контрнаблюдение может понадобиться обычному человеку — во время офисной интриги или откровенного разговора за бокалом вас может слушать сенсор в чужих очках, кулоне или булавке на лацкане.

В марте стартап Deveillance анонсировал Spectre I — устройство размером с хоккейную шайбу, которое, по заявлениям, не даст окружающим вас записать. Основательница Аида Барадари, выпускница Гарварда, встревожилась всплеском носимых ИИ-рекордеров: их используют как молчаливого секретаря, ассистента или даже «терапевта». Массовыми они пока не стали, но Apple по слухам делает ИИ-пин — постоянные «глаза и уши» iPhone. Ожидается, что такие аксессуары станут привычными, как AirPods.

Только устройства ещё нет: цена $1199, продажи обещают во втором полугодии, прототип гудит, а на вопрос, как он будет находить чужие микрофоны, Барадари ответила, что над этой частью работают прямо сейчас. Инженеры в разборе Wired скептичны — обнаружить микрофон по радиоизлучению на расстоянии почти нереально физически.

Но главная проблема глубже. Ультразвуковые глушилки эксплуатируют особенность микрофонов, превращающих высокие частоты в шум. А современные пины и очки применяют алгоритмы восстановления речи, отточенные на слуховых аппаратах и видеозвонках. Они выучили «речевость» и достраивают недостающие слоги по контексту — как читатель угадывает зачёркнутое слово. Каждый шаг индустрии вперёд обесценивает очередную глушилку.

Поэтому исследователи заходят иначе: не прятать данные, а кормить мусором. Так работали плёнки из десятков голосовых дорожек в тюремных переговорках и макияж против распознавания лиц. В 2023-м появился MicFrozen — он слушает говорящего и излучает ультразвуковую «анти-речь» под его голос плюс слой поддельной речи, чтобы сбить реконструкцию. А обойти можно и вовсе без звука: читать по губам или снимать речь с вибраций воды в стакане.

Вывод статьи невесёлый. На записывающую сторону работает вся речевая индустрия с миллиардными бюджетами, на защищающую — горстка академиков и мелких компаний. «Мы знаем, чем игры в кошки-мышки обычно кончаются для мышки. А здесь кошка — одни из самых могущественных корпораций в истории», — говорит Вудроу Харцог из Бостонского университета.

#Tech #AI #WearableGadget #Privacy #TheAtlantic

⚔️ Атака Ghostjacking: «отравленные» логи превращают ИИ-агентов в киберугрозу

Исследователи описали новую технику атаки на ИИ-агентов — Ghostjacking. Злоумышленник подмешивает вредоносные инструкции в логи и файлы событий, которые агент читает при выполнении задач. Модель не отличает системные данные от встроенных в них скрытых команд и начинает действовать в интересах атакующего.

Суть в том, что агенты всё чаще получают доступ к логам, тикетам и внешним данным для автономной работы. Если в такой источник попадает строка с инъекцией, LLM считает её частью контекста и исполняет — например, отправляет конфиденциальные данные на подконтрольный хакеру адрес или меняет параметры операций. Авторы называют это «призраком»: команды невидимы для оператора, но полностью меняют поведение ИИ.

Ghostjacking — ещё одна иллюстрация того, что prompt injection становится главным вектором атак на агентные системы. Защита требует жёсткой фильтрации входных данных, изоляции логов и явного приоритета системных инструкций над любым содержимым файлов.

#Safety #AI #Cybersecurity #Agents #Ghostjacking

📖 Дистилляция знаний стала достаточно дешёвой для масштабирования

Исследователи из Multiverse Computing и CompactifAI предложили метод, который радикально снижает стоимость дистилляции больших языковых моделей. Это техника, где меньшая «студент»-модель учится повторять выходы более крупного «учителя». Сейчас она особенно востребована: открытые модели вроде gpt-oss-120b, Qwen или Kimi-K3 (2,8 трлн параметров, ~3 ТБ VRAM только для загрузки) слишком дороги для продакшена, и их сжимают через дистилляцию.

Стандартный онлайн-подход держит в памяти одновременно учителя и студента, а для каждого токена считает распределение по всему словарю. На примере gpt-oss-120b с батчем 4 и контекстом 32K пиковое потребление VRAM достигает ~250 ГБ — больше, чем есть на одном H200. Авторы решили проблему двумя изменениями: кэшируют top-K логитов учителя офлайн (учитель больше не нужен в памяти во время обучения) и используют fused chunked KL loss, который не материализует матрицу размером «словарь × длина последовательности». Это снижает пик до ~128 ГБ — дистилляцию с длинным контекстом теперь можно запускать на одной GPU.

Практический итог: длинноконтекстное «восстановление» сжатых моделей перестаёт быть задачей для сотен GPU и становится доступным для широких экспериментов. Код опубликован в репозитории Full-Chunked-KL-Loss, а детали — в статье на arXiv.

#AI #Tech #Distillation #Effectiveness #LLM #HuggingFace #VRAM

🎤 NVIDIA Magpie TTS: открытая мультиязычная модель для голосовых агентов с низкой задержкой

NVIDIA выпустила открытую TTS-модель Magpie Multilingual на 364 млн параметров. Она поддерживает 12 языков, включая новые — арабский (Modern Standard Arabic), корейский и бразильский португальский. Веса открыты, модель доступна для развертывания через NVIDIA NIM, что позволяет запускать синтез речи на собственной инфраструктуре без обращения к внешнему API.

Ключевая особенность — контроль над задержкой. В голосовом пайплайне TTS идёт последним этапом, и именно Time to First Audio (TTFA) пользователь замечает сильнее всего. На GPU B200 Magpie показывает TTFA около 32 мс на один поток и до 319× реального времени при 64 потоках. Для сравнения: на H100 — 47 мс, на A100 — 79 мс. Поскольку модель работает в вашем окружении, измеренная задержка отражает именно серверную часть, без сетевого round-trip к управляемому сервису.

В релизе также улучшено качество существующих языков за счёт обновлённых обучающих данных. Добавлена расширенная поддержка code-switching для хинди и японского — через IPA-графемо-фонемное преобразование и пользовательские словари произношения. Это упрощает корректное произношение имён, технических терминов и смешанных многоязычных фраз. Вместо отдельных моделей для разных регионов разработчики получают единую открытую основу для customer support, медицинских ассистентов, переводчиков и enterprise-копилотов.

#Tech #AI #NVIDIA #TTS #VoiceAgents #opensource #ML