Алиса, остановись 😂

📟📟📟📟

🤖 В Meta* снова восстание машин: «Никогда такого не было, и вот опять»

Недавно в компании Meta произошел серьезный инцидент безопасности, вызванный якобы сбоем в работе внутреннего ИИ-агента. ИИ-агент без предварительного одобрения опубликовал на корпоративном форуме неточный технический совет. Один из инженеров последовал этой рекомендации, что привело к временному открытию несанкционированного доступа к конфиденциальным данным для других сотрудников.

Один из инженеров Meta использовал внутреннего ИИ-агента, которого описывают как «аналогичного по своей природе OpenClaw, работающего в защищенной среде разработки», для анализа технического вопроса, заданного другим сотрудником на внутреннем форуме компании. После анализа агент самостоятельно опубликовал публичный ответ на вопрос, не получив предварительного одобрения. Ответ предназначался только для запросившего его сотрудника и не должен был публиковаться в открытом доступе.

Инцидент временно позволил сотрудникам получить доступ к конфиденциальным данным. Представители Meta заверили, что уязвимость уже устранена и данные не пострадали, подчеркнув, что ответственность за применение совета лежит на сотруднике, который не перепроверил информацию от автоматизированной системы.

Этот случай стал уже вторым подобным происшествием в компании за последнее время. Ранее 🤖 "восстание машин" в почтовом ящике произошло у директора Meta* по 💻безопасности и выравниванию ИИ.

*Meta (соцсети Facebook, Instagram) запрещена в РФ как 🏴‍☠️экстремистская.

✋ @Russian_OSINT

Зарубежные СМИ пишут, что от Маска продолжают уходить соучредители компаний Tesla и xAI. В феврале массовый уход сотрудников из корпоративной империи Илона Маска дополнили два высокопоставленных руководителя — Тони Ву , соучредитель xAI, и Радж Джеганнатхан, вице-президент Tesla они объявили о своей отставке с разницей в 48 часов. По данным анализа Financial Times, с 2021 года уволилось примерно 66% непосредственных подчиненных Маска. Когда из стартапа по разработке искусственного интеллекта уходит четвертый соучредитель с момента основания в 2023 году, а из Tesla — руководитель имеющий 13-летний стаж, курировавший IT и AI-инфраструктуру, это перестаёт быть случайностью и превращается в системный кризис доверия.

xAI. Всего за один год компания xAI потеряла половину своей команды основателей. Вслед за Ву ушел Кристиан Сегеди (который покинул компанию в феврале прошлого года), Игорь Бабушкин (который ушел в августе), а Грег Янг недавно ушел, сославшись на проблемы со здоровьем.

Маск лично инициировал волну увольнений в xAI, будучи недоволен работой программного подразделения. Для проверки качества он привлёк «специалистов» из SpaceX и Tesla — компаний с инженерной культурой, где жёсткость и сверхурочные возведены в абсолют. Соучредитель Годун Чжан, возглавлявший команду Imagine, был публично обвинён Маском в проблемах с продуктом и отстранён от ключевых обязанностей ещё до своего ухода.

После ухода Цзихан Дай, еще одного соучредителя, в компании занимающейся разработкой искусственного интеллекта, осталось всего двое из 12 соучредителей, которые помогли Маску создать xAI в марте 2023 года. Резкая потеря сотрудников затормозила крупнейший проект xAI в области искусственного интеллекта. Сообщается, что разработка «Macrohard», направленная на создание ИИ-агента, способного выполнять любые задачи, доступные офисным работникам, была приостановлена после того, как её руководитель, Тоби Полен, покинул компанию всего через несколько недель после назначения на должность главы проекта.

Примечательно, что в сообщении своей сети на X Маск признал, что его стартап в области искусственного интеллекта xAI «...не был создан должным образом с первого раза » и теперь «перестраивается с нуля». До того, как SpaceX приобрела xAI в рамках сделки, оценившей объединенную компанию в 1,25 триллиона долларов, Tesla в письме акционерам за четвертый квартал 2025 года сообщила об инвестициях в размере 2 миллиардов долларов в рамках раунда финансирования серии E для xAI. (То есть Маск втюхав инветорам xAI, теперь заявляет всему миру, что то, что он только что продал, было неисправно).

Хотя все эти увольнения вызывают вопросы о будущем компании, Маск преуменьшает значение утечки мозгов, считая это частью запланированной реорганизации. По его словам, на общем собрании сотрудников в прошлом месяце, он заявил, что некоторые работники лучше подходят для ранних этапов развития предприятия, чем для более поздних, сообщает New York Times.

Tesla. Радж Джеганнатхан дослужившийся до вице-президента по ИТ и инфраструктуре искусственного интеллекта, Джеганнатхан был доверенным помощником, которому часто поручали «тушить пожары». Совсем недавно, после увольнения Троя Джонса в 2025 году, он неожиданно был назначен руководителем отдела продаж в Северной Америке.

Акционеры Tesla уже подали в суд на Маска за за то, что он перенаправил ресурсы в области искусственного интеллекта из Tesla в пользу своих частных предприятий.

Вопрос теперь не в том, уйдёт ли очередной топ-менеджер, а в том, сможет ли Маск найти достаточно фанатичных инженеров, готовых заменить ушедших, чтобы его амбициозные проекты не начали пробуксовывать.

🌪 Ветер Восточный

Compresr — каждый токен на счету

Длинные агентные сессии в Claude Code и Cursor быстро упираются в контекстный лимит. История диалога, результаты тулов, прочитанные файлы — всё это забивает окно и ухудшает качество ответов. Стандартная компакция Anthropic решает проблему, но при срабатывании /compact пользователь вынужден ждать минуту‑две, пока модель суммаризирует историю.

Compresr предлагает альтернативу — локальный прокси Context Gateway, который сжимает контекст заранее и делает компакцию мгновенной.

Принцип работы
Context Gateway развёртывается на машине пользователя и садится между агентом и LLM‑провайдером. Прокси отслеживает размер истории и при достижении порога запускает фоновую суммаризацию. К моменту, когда агенту нужна компакция, она уже готова. Кроме истории, gateway сжимает tool outputs и управляет tool discovery — вместо показа всех инструментов он выбирает подмножество, релевантное текущему запросу.

Два уровня сжатия
🟣Token-level compression — алгоритмический выбор наиболее важных токенов с сохранением смысла, используется для системных промптов, RAG‑контекста и длинных документов
🟣Chunk-level filtering — удаление нерелевантных блоков целиком, применяется для предфильтрации результатов ретривера перед композицией промпта

Три модели
🟣Espresso — agnostic compression, не требует query, используется для системных промптов и статической документации
🟣Latte — query-aware compression, требует явного запроса пользователя, применяется в RAG и Q&A сценариях
🟣Coldbrew — chunk-level filtering, отбирает релевантные чанки без изменения текста

Характеристики
Заявленный диапазон сжатия — от 2x до 100x в зависимости от избыточности контента. В публичном демо Compresr снижает задержку на 25% и экономит 20% токенов. На бенчмарке FinanceBench модель Latte при ~10x сжатии даёт точность 74.5% против 72.3% в бейзлайне.

Способы поставки
🟣Context Gateway — CLI‑бинарь на Go
🟣SDK — библиотека на Python
🟣VS Code‑расширение — для сжатия CLAUDE.md файлов

Compresr особенно интересен для длинных код‑сессий и RAG‑пайплайнов с большими документами — именно там, где стандартная компакция становится узким местом.

Как тебе такое, Александр?

«Compresr интересен тем, что он решает одну из самых актуальных проблем современных LLM-систем — управление контекстом.

В большинстве агентных фреймворков контекст растёт почти бесконтрольно: история диалога, результаты инструментов, куски кода... В какой-то момент всё это начинает не только упираться в лимиты токенов, но и ухудшать качество ответов модели.

Compresr предлагает довольно радикальное решение — вынести управление контекстом в отдельный инфраструктурный слой. Gateway фактически становится «операционной системой» для контекста: он решает, какие данные вообще попадут в окно модели.

Особенно интересна идея chunk-level filtering. По сути, это дополнительный этап между retriever и prompt construction. В RAG-системах именно там часто появляется шум: ретривер возвращает слишком много слабосвязанных фрагментов, которые просто занимают место в контексте.

С другой стороны, агрессивная компрессия — это всегда компромисс. Слабые сигналы, второстепенные детали и длинные логические цепочки могут теряться. Поэтому заявленные коэффициенты сжатия в десятки раз стоит воспринимать скорее как демонстрацию возможностей, чем как реальный production-режим.

Но сама тенденция выглядит важной: по мере роста агентных систем всё больше оптимизаций происходит не внутри модели, а на уровне orchestration-слоя. И инструменты вроде Compresr — хороший пример того, как начинает формироваться новая инфраструктура вокруг LLM», — отметил Александр Тараканов, исследователь AI VK.

Насколько, на ваш взгляд, жизнеспособен вынос управления контекстом в отдельный gateway — это новая норма или временный workaround? Готовы ли вы жертвовать частью информации ради latency и стоимости? И где сегодня основной bottleneck в RAG: retriever, prompt construction или уже сам контекст? Обсудим 👇

#aivk #compresr

🧊 0DIN выпускает сканер безопасности ИИ с открытым исходным кодом

Сканер 0DIN — специализированная платформа для оценки безопасности генеративного ИИ и агентных моделей, созданная на базе открытого проекта GARAK, разработанного командой NVIDIA. На протяжении последних двух лет 0DIN занималась созданием инфраструктуры для поиска, отслеживания и анализа уязвимостей в передовых ИИ-моделях.

Главная особенность сканера заключается в его библиотеке: в отличие от инструментов со статическими проверками, она непрерывно пополняется новыми методами атак (джейлбрейками и инъекциями промптов) на основе реальных отчетов из программы вознаграждений за найденные уязвимости (bug bounty) от 0DIN. Проект имеет открытый исходный код и распространяется по лицензии Apache 2.0.

Сканер построен на основе сканера уязвимостей NVIDIA GARAK LLM. Мы расширили возможности GARAK, добавив графический интерфейс, функцию планирования, нашу собственную библиотеку, отчетность корпоративного уровня и информацию об уязвимостях, поступающую непосредственно из нашей программы вознаграждения за обнаружение ошибок.

— пишут исследователи.

Исследователи заявляют, что опенсорсный продукт имеет следующие фичи:

1️⃣ 179 модулей проверок (полезных нагрузок) от сообщества, охватывающих 35 семейств уязвимостей и согласованных с десяткой главных угроз OWASP Top 10 для LLM.
2️⃣ Многоцелевое сканирование: тестирование языковых моделей (LLM), работающих через API, а также браузерных чат-интерфейсов.
3️⃣ Сканирование по расписанию и по запросу с настраиваемой периодичностью.
4️⃣ Оценка метрики успешности атак (ASR — Attack Success Rate) с отслеживанием динамики и тенденций между сеансами сканирования.
5️⃣ Экспорт отчетов в формат PDF с возможностью глубокой детализации по каждому вектору проверки и конкретной попытке эксплуатации.
6️⃣ Интеграция с SIEM-системами: экспорт логов и результатов в Splunk или Rsyslog.
7️⃣ Multi-tenant архитектура — поддержка нескольких организаций в рамках одного развертывания. Данные шифруются при хранении (encrypted at rest).
8️⃣ Отсутствие искусственных ограничений: полный функционал «из коробки», неограниченное количество сканирований и пользователей.

Сканер работает путем прямого подключения к API или веб-интерфейсам различных ИИ-моделей (от продуктов OpenAI и Anthropic до локальных LLM), после чего автоматически запускает структурированные наборы проверок (полезных нагрузок) и формирует отчет с метрикой успешности атак (ASR).

😘https://0din.ai/blog/0din-releases-open-source-ai-security-scanner
❗️ https://0din-ai.github.io/ai-scanner

✋ @Russian_OSINT