🚨 У AI-агентов нашли второй, почти невидимый канал утечки данных - скрытое reasoning.

Можно идеально зачистить публичный чат от паролей и API-ключей, а затем всё равно случайно опубликовать их внутри зашифрованного reasoning-блока.

Исследователи разобрали архитектуру API Anthropic, OpenAI и Google. Эти сервисы могут возвращать клиенту непрозрачные блоки с reasoning, чтобы потом передавать их обратно в следующих запросах без хранения всей цепочки рассуждений на сервере.

Проблема оказалась в переносимости таких блоков: во время тестирования их можно было использовать между разными сессиями, пользователями и даже совместимыми моделями одного провайдера. В результате reasoning сильной модели передавали более слабой модели того же семейства, которая становилась своеобразным «декодером».

Масштаб эксперимента впечатляет.

Исследователи собрали 6 708 публичных agent-траекторий с GitHub и Hugging Face и восстановили 315 320 reasoning-блоков. В 328 сессиях, или 4,9%, обнаружился хотя бы один чувствительный элемент.

В реальных пользовательских сессиях нашли:

* 62 API-ключа;
* 33 пароля;
* 24 access token;
* 7 private keys;
* 30 личных email.

Причём 64 чувствительных элемента вообще отсутствовали в видимой истории чата и находились только внутри reasoning. То есть обычная очистка логов их бы не заметила.

Самый неприятный вывод: безопасность всей линейки моделей может определяться не самой защищённой моделью, а самой слабой совместимой моделью, которая умеет прочитать тот же reasoning-блок.

После responsible disclosure провайдеры внесли изменения, и описанные атаки исследователям уже не удалось воспроизвести тем же способом. Но архитектурный урок остаётся.

Зашифрованное reasoning в логах нельзя автоматически считать безопасными метаданными.

Если агент работал с секретами, API-ключами или приватными данными, reasoning-блоки лучше вообще не публиковать вместе с трассировкой.

Исследование: *Stealing Reasoning Traces from Proprietary LLM APIs*.

arxiv.org/abs/2608.09867

#AI #LLM #AISecurity #Agents #CyberSecurity

Зарисовки из прошлого или из будущего, кто знает

Там за речкой тихоструйной
Есть высокая гора,
В ней глубокая нора;
В той норе, во тьме печальной,
ЦОД качается хрустальный
На цепях между столбов.
Не видать ничьих следов
Вкруг того пустого места,
В ЦОДе том резерву место

#юмор #мысли #ЦОД
———
@tsingular

Веса Qwen 3.8 Max вышли в открытый доступ

Это модель на 2.4 триллиона параметров, с 95B активных. Официальные веса распространяются в bf16 и весят 5 терабайт, но уже есть нормальные NVFP4 и MXFP4 версии. Для запуска нужна одна нода с B300/MI355x или несколько нод с картами попроще.

На визуальных VLM задачах по личному опыту, она тащит вроде бы даже лучше чем закрытые фронтир модели.

Китайцы - вперед!

SGLang Cookbook
vLLM recipe
Веса

@ai_newz

Новый Grok примерно такой же как Fable но почти на 90% дешевле.

Планируйте ваш бизнес и вашу карьеру из расчета на то, что ИИ будет дешеветь в 2-10 раз в год, а модели будут улучшаться в в 2-100 раз (особенно и в первую очередь в verifiable domains).

Профили Hermes теперь портативны и доступны для обмена:

Выполните команду /export, чтобы сохранить профиль в виде одного файла с удаленными учетными данными: навыки, память, персона, cron-задачи, плагины, настройки, темы рабочего стола и макеты.

Затем команда /import загружает файл профиля, и ваша настройка готова к работе.

#Hermes #update
------
@tsingular

https://huggingface.co/Qwen/Qwen3.8-27B

записываемся в очередь :)

#qwen
———
@tsingular

может ли Гермес затренить нейронку?
да, легко!

вот пример - сказал ему научить тренировать нейронку для водителя по границам трассы.

сам выбрал модель, сам собрал трассу и обучающие циклы.

исходник в комментарии.

можно теперь наколдовать более сложные трассы.

но ML сильно подешевел.
до неприличия, я бы сказал.

#обучение #Hermes #ML
———
@tsingular

и улыбается еще, негодяй..

"когда в комнате громыхнёт."

... надеюсь что никогда, все-таки

#Hermes #dev #юмор
———
@tsingular

16 августа карета Deepdeek v4 Pro превратиться в тыкву резко подорожает

3 дня вайбкодпедаль в пол до упора! :)

#DeepSeek #цены
———
@tsingular

В общем собрал симулятор для тренировок ИИ водителей, правда по дороге пришлось уволить разраба и нанять нового, поумнее.
Сменил DS4pro на Opus5

По процессу:
взял реальную трассу NASCAR
Circuit_of_the_Americas

Гермес где-то нашёл её полную карту с геометками, высотами и т.д.

Сделал симулятор который запускает 1024 водителей за эпоху.
Эпоха пролетает на 5090 карте за 0.20 с

Для достижения результатов, где большинство начинает доезжать до финиша - буквально пара минут.

Через 350 тысяч заездов до финиша доезжают уже около 800 из 1024 водителей.
500 поколений достаточно в условиях эксперимента.

Потом можно ещё вес машины добавить, инерцию, ветер, сцепление с трассой и т.д.

Но суть не в этом.
Суть в том, что, как писал выше,- для проведения ML экспериментов вам уже не нужно 100 математиков.
Какие-то вещи вы можете попробовать самостоятельно не разбираясь глубоко в матане.

Исходник в HTML (все обучение реализовано на WebGL) в ИИзбранном

#симулятор #ML
------
@tsingular

Gemini 3.7 Flash от Google DeepMind: дешёвый Flash вышел на уровень флагманов

Google DeepMind выпустила Gemini 3.7 Flash, следующую итерацию линейки Gemini 3. Это мультимодальная модель с рассуждениями, построенная на базе Gemini 3.6 Flash. Контекст до 1 млн токенов, на вход текст, изображения, видео, аудио и PDF.

📋 Ключевые цифры:
• Цена: $0.75 за миллион входных токенов и $3.75 за выходные, с января 2027 года поднимается до $1.50 и $7.50
• Контекст 1 млн токенов на вход, 64 тысячи на выход
• Terminal-bench 3.0 (общие агентные задачи): 14.9% против 5.4% у предшественника
• AutomationBench (автоматизация корпоративных задач): 30.4% против 17%
• FrontierCode (качество кода): 43.6%, выше Claude Sonnet 5 с 42.7%

💡 Flash-линейка всегда была про скорость и низкую цену, а здесь Google выжала из неё производительность передовых моделей. Дешёвая модель обходит Claude Sonnet 5 и подходит вплотную к GPT-5.6 Terra по качеству кода, веб-разработке, длинному видео и длинному контексту.

📎 Карточка модели с бенчмарками: deepmind.google/models/model-cards/gemini-3-7-flash

Такой средний вариант между GPT 5.6 Tera и Sol получается

Ну не могли же они просто DeepSeek v4 pro скачать? :)
шутка

#Gemini #DeepMind
———
@tsingular

Вышел Коворк/Код от Битрикс24, делюсь, годная штука

Это очень круто упакованный harness под моим небольшим присмотром
Просишь собрать материалы к встрече или разгрести поручение, и он сам лезет в твои сделки, чаты, документы и таски прямо в Битрикс24(так как сильно интегрирован с ним) и делает рутинную работу за тебя
В режиме Код можно кодить прямо по работе, без прокси и западных карточек, кто с этим воевал, тот оценит, интеграцию с хабом тоже проводил можно указать кастом модельки

Больше всего зацепила память (Радиант), брали самые лучшие патерны по бенчам
Проверено держит контекст больше месяца и не забывает
Под капотом BitrixGPT 5.6 Agent 1M Д
Наружу данные не уходят, весь контур в России, есть под macOS, Windows и Linux.

По ощущениям это не очередная обёртка над LLM, а агент, который реально живёт внутри твоих данных и встроен в Битрикс24.
Ранний доступ уже открыт, попробовать можно на cowork.bitrix24.ru
Чем больше пользователей тем больше фидбека и лучше решение! Так что перед тем как сравнивать "чем лучше" а то я вас знаю =)
Просто попробуйте

Studio 2.0 от Suno: AI-генератор песен дорос до полноценной студии

Suno выпустила Studio 2.0, крупное обновление своего браузерного DAW.
В нём появились MIDI, чат, продвинутое разделение на инструменты и автоматизация.
Обновление доступно подписчикам Premier.

📋 Ключевые фишки:
• MIDI: импорт, запись и редактирование прямо на временнОй шкале, плюс новый синтезатор. MIDI-клипы работают и как промпт для генерации нового звука
• Чат (бета): создаёт инструменты и вокал с нуля, проектирует плагины, наводит порядок в сессии
• Разделение на инструменты: извлекает до сотни инструментов с высокой точностью
• Автоматизация: кривые изменения параметров треков и плагинов во времени, впервые в Studio
• Экспорт в качестве 32-бит/48 кГц без ограничений для Premier

💡 Главное тут направление. Suno начинала как сервис, где контроль был на уровне текстового промпта. Studio 2.0 даёт артисту то, что было только в профессиональных DAW: MIDI-клавиатуру, ручки эффектов, кривые автоматизации. Смена парадигмы с генерации на владение процессом.

💼 Контекст:
• За сутки до релиза Suno объявила глобальный альянс с BMG: права и выплаты для артистов, урегулирование прежнего использования каталога
• В ноябре 2025 Warner Music закрыл судебный иск к Suno, открыв дорогу перезапуску платформы в 2026
• Летом Suno привлекла 400 млн долларов серии D при оценке 5.4 млрд

📎 Источник: suno.com/blog/studio-2

AI-музыка перестаёт быть игрушкой и становится полноценным инструментом.

#Suno #музыка #DAW
———
@tsingular

Это вам за то, что не молитесь :)

Решил проверить Minimax Music 3.0 новый только вышел.

я не пойму они отстают от Suno или уже невероятно обогнали? :)

https://t.me/tsingular/5887
Оригинал от Suno 5

#юмор #Minimax #Music
———
@tsingular