Похек AI
3.17K subscribers
270 photos
19 videos
20 files
341 links
All materials published on the channel are for educational and informational purposes only.

AI is not second brain, when you don't use your main brain

Чат: @poxek_chat
Основной канал: @poxek
Download Telegram
У Артема Семенова aka PwnAI вышли просто восхитительные разборы того, как он проходил CTFку от GraySwan на пентест ИИшек.

Советую прочитать всё ОТСЮДА и до СЮДА.

Если у него выйдет что-то еще по этой теме, то я дополню пост.

Навалите ему кучу положительных реакций и комментов за такую проделанную работу)

🌚 @poxek_ai / Чат канала
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥85❤1👍1
Forwarded from Russian OSINT
🇨🇳360 научила мультимодальную ИИ-модель анализировать миллионные EDR-журналы как «видео»

Исследовательская группа Центра компетенций безопасности компании 360 представила фреймворк WatchLog, который вошёл в научную программу международной конференции ICML 2026. Разработка решает проблему анализа сверхдлинных журналов EDR при выявлении сложных APT-атак путём их преобразования в структурированный видеоряд.

WatchLog представляет собой исследовательский фреймворк, демонстрирующий возможность обработки колоссальных массивов телеметрии с помощью мультимодальных ИИ-моделей. В перспективе такой подход способен стать технологической основой для нового поколения систем обнаружения угроз на конечных точках, помогая автоматически восстанавливать цепочки атак и формировать понятные отчёты для аналитиков.

В 2026 году противостояние в сфере ИБ вступает в эпоху «ИИ против ИИ», когда атакующие группировки автоматизируют поиск уязвимостей, оркестрацию атак и генерацию вредоносного кода. Сложные целевые атаки длятся днями, затрагивают различные узлы и процессы, порождая телеметрию EDR объёмом в сотни тысяч и миллионы токенов. Стандартные языковые модели не приспособлены к эффективной обработке столь длинных последовательностей, из-за чего ключевые следы атаки растворяются в массиве легитимных событий.

EDR-телеметрия → изображения событий → временная последовательность → мультимодальная ИИ-модель → вердикт + объяснение.


То есть задача фреймворка — не просто сказать «на машине обнаружена атака», а восстановить 🔗цепочку поведения. Например:

WINWORD.exe → создание временных файлов в Temp → запуск исполняемых компонентов → сетевое взаимодействие с C2-сервером


🖥 Архитектура и методы WatchLog включают следующие компоненты:

▪️Преобразование телеметрии в видеопоток. Каждое событие безопасности кодируется как отдельное изображение, а вся цепочка выстраивается во временной последовательности. Миллионы токенов необработанных логов трансформируются в непрерывную визуальную запись поведения конечной точки, которую затем анализирует мультимодальная модель.
▪️Механизм временного перекрёстного внимания. Алгоритм сопоставляет события, разнесённые во времени, что даёт возможность выявлять скрытые взаимосвязи между действиями атакующих на интервалах в несколько часов или несколько дней.
▪️Интерпретируемость результатов. За счёт двухэтапного предобучения и последующего контролируемого дообучения система не просто фиксирует аномалии, но и формирует контекстные отчёты с описанием того, почему сработало оповещение и какие шаги предпринял злоумышленник.

📊Результаты испытаний:

На специализированном наборе данных EDR8M-20R, содержащем 8 млн событий, собранных через функции обратного вызова ядра Windows, WatchLog на базе Qwen2-VL-2B показал следующие результаты:
— Точность бинарной классификации составила 99,8% при полноте выявления атак 100%.
— Точность определения конкретных семейств вредоносного ПО достигла 90,3%.
— В испытании на ранее неизвестных угрозах вне обучающей выборки (OOD) фреймворк сохранил полноту обнаружения на уровне 74,0%, тогда как у Qwen2.5-1.5B-Instruct показатель упал до 32,0%, у Qwen2.5-7B-Instruct — до 21,0%, а у LLaMA3.1-8B-Instruct — до 17,0%.
— На сверхдлинном контексте в 1 млн токенов потребление видеопамяти составило 48,6 ГБ, а задержка до первого токена (TTFT) уложилась в 1,11 секунды. Для сравнения, модель Qwen2.5-1.5B-Instruct на том же объёме данных потребовала 98,5 ГБ памяти и 259 секунд.

WatchLog стал вторым крупным академическим успехом компании за 2026 год после принятия статьи по модели HyperGLLM на конференцию AAAI 2026. Прикладные наработки переводятся в практическую плоскость в рамках экосистемы защитных комплексов 360 наряду с представленными на ISC.AI 2026 платформами «Тулунфэн» и «Итяньчжэнь», отвечающими за выявление уязвимостей, детектирование атак и автоматизированное реагирование.

😎Нашёл этот 📄 pdf.

✋ @Russian_OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
👾6❤5🔥42
RAG-червю достаточно текста и приложения, которое помогает ему размножаться. В статье VXHEAVEN разбирают цепочку: внешний документ попадает в контекст → модель следует внедрённой инструкции → создаёт новый документ → тот индексируется и запускает следующий цикл. Для распространения нужен путь из сгенерированного ответа обратно в обработку, внутри приложения или между системами.

Критерий здесь — жизнеспособный потомок. Если один отравленный документ тысячу раз исказил ответы, это ещё RAG poisoning. Для червя нужно показать, что созданный под его влиянием материал сам способен вызвать дальнейшее размножение. Простое цитирование инструкции этого не доказывает. При пересказе или переводе формулировки могут измениться; проверять нужно сохранение поведения. Такую границу предлагают в RAG Worms.

Статья опирается на исследования с разными результатами:

• Morris II продемонстрировал самовоспроизводящиеся промпты в связанной среде почтовых AI-ассистентов с RAG. Исследователи оценивали цепочку извлечения конфиденциальных данных и влияние контекста, эмбеддингов и числа переходов на атаку.
• PoisonedRAG показал, как добавление вредоносных текстов в базу знаний направляет ответы на выбранные вопросы к нужному атакующему результату. Это эксперимент об управлении ответами через корпус.
• AgentPoison исследовал отравление долговременной памяти и базы знаний: специальный триггер повышает вероятность извлечения вредоносных примеров и вызывает заданное поведение без дообучения модели.

Смешивать успешность этих атак в единый «процент заражения» нельзя. VXHEAVEN предлагает отдельно считать жизнеспособные дочерние носители и новые затронутые экземпляры приложения через метрики R(ai). Размножение документов внутри одной системы не означает распространения между системами. Сама таксономия и метрики — авторское предложение; новых экспериментов и данных о массовости в статье нет.

Отдельно разобран предполагаемый цикл «база знаний → память агента → новый документ → база знаний». При восстановлении придётся учитывать производные записи: удаление исходного документа может оставить действующие инструкции в памяти. Полный такой цикл статья рассматривает как расширение модели, без заявления об экспериментальном подтверждении.

Для защиты есть конкретные границы контроля. OWASP рекомендует отделять извлечённые данные от инструкций, ограничивать права инструментов и проверять действия агента по исходной задаче, параметрам и разрешённым назначениям. Проверки нужны вне самой модели; классификатор инъекций остаётся одним из защитных слоёв. Для операций с высоким риском нужна проверка человеком. Это многоуровневая защита, в которой отказ одного фильтра не должен автоматически открывать доступ к действию.

Проверять такую архитектуру стоит в точке, где сгенерированный текст получает право стать долговременным знанием или памятью. Именно там приложение может сохранить вместе с полезным ответом инструкцию для следующего цикла.

@poxek_ai / Чат канала
❤62
Kimi K2.8 релизнулась на https://www.kimi.ai/
8
Forwarded from Russian OSINT
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥7❤21
Краткий дайджест новостей на вечер 22.09.2026:

1. Сделали нейронку Jev, которая вместо текста отвечает в таком формате:
• Choice — выбор одного из заранее заданных вариантов + вероятности вариантов / confidence.
• Score — оценка по заданной шкале + распределение / confidence.
• Noul — бинарное решение в виде вероятности 0…1 (по сути calibrated yes/no).
Логично использовать для задач классификации, где максимально понятные простые критерии и даже маленькая модель справляется. Довольно быстро появился форк OpenJev на HuggingFace, классно от русскоговорящего чувака. Заявлено что очень похожие характеристики относительного оригинального Jev

2. Вышел Anthropic Opus 5.5 (я вообще пропустил релизы между 5 и 5.5)
Просто стало лучше, я оценить не могу, у меня нет подписки на Anthropic. Буду рад если поделитесь своими результатами в комментариях. Дали ручной резет как в Codex дают, типо не всем принудительно сбросили, а вы сами выбираете когда сбросить лимиты. Ох уж эта живительная конкуренция))

3. Вышли OpenAI GPT 6 Sol и GPT 6 Luna. Эти модели дешевле и менее мощные относительно GPT 6 Astra (если вдруг по графику не понятно этого). То что Luna вышла супер годно. Я её всегда использую в качестве субагентов в Codex. Если хотите, то могу поделиться конфигом в комментариях) Пишите))

4. Вышла Mimo V2.6 Flash и V2.6 Pro и сразу открытые веса на HF - Flash и Pro. Это довольно неплохие модели от Xiaomi, но на подписке не очень понятная тарификация. Поэтому если на потестить, то по мне так лучше использовать по API на время тестов. Хотя я брал самую дешевую подписку, может на дорогих вариантах очень крутые лимиты. Её пользовались ребята на Standoff кибербитве. После того их как Anthropic аккаунты с CVP переманило)) В целом рекомендую потестить. Также у них вышло Mimo Desktop. Визуально копия ZCode, который недавно опенсоурснулся после скандала. (Точно такая же история была с Grok CLI, после чего Grok опенсурснули вырезав функционал слива данных))))

Скрины по порядку у вас на экране

🌚 @poxek_ai / Чат канала / 📲 MAX
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤9
Замечаете ли вы, что стали на автоматизме скипать очевидный AI контент?
Anonymous Poll
79%
Да, пропускаю
4%
Нет, не замечаю
17%
Нет, но вижу что это сделано AI
Привет! Это 🔹 PRIZMA 👋

Мы команда безопасников, и этот продукт вырос из очень знакомой нам боли. Компания запрещает ChatGPT, а через неделю в логах находится токен, который кто-то вставил в чат "просто спросить". Ругать человека бессмысленно, он хотел быстрее починить прод. Проблема в том, что у ИИ в компании нет нормальной точки контроля

Сегодня через ИИ ходит всё: код, логи, выгрузки клиентов, договоры. Агенты уже сами читают репозитории, запускают команды и ходят во внутренние системы. А классическая защита видит там только зашифрованный поток к api.openai[.]com

🔹 PRIZMA - это AI Firewall/Gateway, который встаёт в вашем контуре между людьми, AI-инструментами, агентами и моделями. Весь AI-трафик идёт через него, и каждый запрос проходит один и тот же путь проверок. Что внутри:

🔹 DLP в 9 слоёв. Секреты, ключи, персональные данные, промпт-инъекции, текст на картинках. Слои работают параллельно, скан занимает около ~ 43 мс. Секреты заменяются плейсхолдерами, персданные правдоподобными суррогатами, а автор получает ответ уже со своими данными
🔹 Защита вашего кода. Регистрируете критичные исходники, и PRIZMA узнаёт их в промпте, даже если там кусок функции, спрятанный в комментарии или base64. Сам код мы не храним, только отпечатки
🔹 RAG firewall. Документы из базы знаний считаются недоверенными: спрятанные инструкции, невидимые символы и попытки увести данные через картинки отсекаются до модели
🔹 Агенты под присмотром. Проверка аргументов каждого вызова инструмента, правила allow / ask / deny, подтверждение человеком, MCP-брокер для Cursor, Claude Desktop и VS Code. Риск агента пересчитывается по его реальным действиям, и если он начинает чудить, PRIZMA останавливает его сама
🔹 Kill-switch на семь уровней. От одного агента до всей платформы, быстрее миллисекунды
🔹 Деньги и доступ. Бюджеты на человека, команду и компанию, лимиты, стоимость каждого запроса, SSO, SCIM и LDAP
🔹 Аудит, который не подделать. Журнал с HMAC-цепочкой, выгрузка в SIEM, пакеты доказательств под 152-ФЗ, GDPR и SOC 2
🔹 Red team для своих моделей. Проверки на утечку системного промпта и сканирование файлов моделей на вредоносный код

И всё это без боли для команды. Claude Code, Codex, Cursor, opencode, VS Code, JetBrains и n8n подключаются за минуты, чаще всего сменой одного адреса. Модели любые: OpenAI, Anthropic, Gemini, DeepSeek или свои на vLLM и Ollama. PRIZMA работает целиком у вас, в том числе без интернета, и никуда не просит сходить, отправить телеметрию

Мы не пишем в фичах то, чего нет. Цифры берём из замеров, а про ограничения рассказываем так же открыто, как про возможности. Хочется, чтобы безопасник доверял PRIZMA так же, как скрипту, который написал сам

Отдельно про конкурентов. Если нас начнут копировать, мы правда будем рады и чуть-чуть горды 🙂. Значит, попали ровно в то, что нужно рынку. Список фич можно скопировать за вечер. Прожить каждый сценарий на пилотах и выпускать обновления в нашем темпе куда сложнее, так что встретимся на следующем релизе, когда всё ии хрючево развалится 🍽

Сейчас идут пилоты, и нам очень хочется показать PRIZMA тем, кому она действительно нужна. Если у вас стоит задача безопасно пустить ИИ в работу, напишите нам: развернём у вас и покажем, что на самом деле уходит в модели, а также можем отдельно построить Вам систему работы с ИИ практически с 0

А здесь будет всё самое интересное: разборы того, что происходит в мире AI security, новости о релизах и о том, что у нас под капотом, а также обзоры последних решений на рынке.

Да, вы не ослышались: вы сможете предлагать, что добавить, исправить или улучшить. Со своей стороны мы будем выделять процент от каждой продажи на нужды комьюнити. Эти деньги пойдут на развитие наших бесплатных проектов, розыгрыши и вознаграждения за "лучшую фичу", "неоценимый вклад в сообщество" и другие достижения. Номинации обсудим и опубликуем отдельно

Рады, что вы с нами 💙


🌎Сайт | 📱@k3ypt0 | 📱 @kerzaster | ✉️Почта
Please open Telegram to view this post
VIEW IN TELEGRAM
👎8😁7❤5🔥1
Forwarded from PWN AI (Artyom Semenov)
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥12👍8
Краткая сводка что представили OpenAI на своей конференции DevDay 2026

Я бы свел еще более кратко:
1. OpenAI переизобрела OpenClaw, а скорее Manus.
2. Представили GPT 6.1 Sol, я предполагаю что это пост трейн за счет GPT 6/7 Astra. Sol в 5 раз дешевле Astra по API.
3. Нагрев гоев. Вернули Pro x20 тариф за 200$ для покупки, но урезали его в 2 раза по лимитам. Добавили НОВЫЙ тариф за 500$, лимитов обещают х25. По мне так бред, и отмазка мол модели стали дешевле - не роляет. Добавили режим Ultra Fast, обещали примерно 300 tps.
4. Создали очередной co-op workspace для людей и агентов.
5. В целом норм конфа вышла, но хотелось интереснее/больше Сделали резет благодаря Тибо))
🔥4
Тема с абузом Google AI Pro на 18 месяцев уже стухивает. Поэтому раздобыл для вас последние рабочие ссылки. Юзайте пока не прикрыли)

Первая
Вторая
Третья
Четвертая
Пятая
Шестая
Седьмая

Взял с другого канала их

P.s. ссылки протухли

🌚 @poxek_ai / Чат канала / 📲 MAX
Please open Telegram to view this post
VIEW IN TELEGRAM
6👍2
Forwarded from 🕷 BugBountyRu
🥷 Как эффективно использовать нейронки: пошаговый гайд для багхантера

LLM ускоряют разведку и поиск багов, но часто буксуют на последнем шаге — доказательстве, что эксплойт работает. Тут без ручной работы не обойтись.

Как выстроить флоу поиска и подключить LLM к Burp Suite или Caido через MCP, вместо того чтобы просто натравить нейронку на корень? Разбираем в серии гайдов от YesWeHack ⬇️

Claude Code ▪️ Codex ▪️ Gemini CLI

@BugBountyRu 🕷 Буст каналу
Please open Telegram to view this post
VIEW IN TELEGRAM
👍7👎2🔥2
Неожиданное расширение Anthropic CVP + появление Mythos 5.1

Теперь вместо одного уровня CVP, их стало четыре. Буду стараться получить 3 уровень))

На 4 даже рыпаться не буду, а то въезд во многие страны себе перекрывать не хочется 💥

p.s. Второй уровень получен

🌚 @poxek_ai / Чат канала / 📲 MAX
Please open Telegram to view this post
VIEW IN TELEGRAM
❤7🔥33👏1
Похек AI
Юхуууу, до первой CVE рукой подать https://github.com/goauthentik/authentik/security/advisories/GHSA-rv9x-92g6-9cpf Проект на 22к звёзд, довольно популярный в мире опенсурс SSO сервис Authentik Информация по CVE будет тут, пока только RESERVED. Но правда…
Долго пришлось ждать, но долгожданные мои первые 3 CVE зареганы в итоге))

— authentik 26к ⭐ —
CVE-2026-94611 = GHSA-m9h4-7j9c-55x9 CVSS 8.1
CVE-2026-94609 = GHSA-h6c5-mpvq-j4jc CVSS 8.8
CVE-2026-61574 = GHSA-rv9x-92g6-9cpf CVSS 8.8

p.s. Возник вопрос почему GHSA? Потому что сейчас из РФ очень проблемно работать CNA (центры регистрации CVE), а в Гитхаб я увидел френдли путь к своим первым CVE, в чем оказался прав

Есть ещё два крита в менее популярном ПО (DocsGPT 18к ⭐):
GHSA-q463-hvr7-49m3 CVSS 9.1
GHSA-46rm-v974-c7gw CVSS 9.8

Не помню какая из них, но одна из GHSA была завышена на мой взгляд оценка критичности. Но приняли как есть

Поздравления принимаются в комментариях))

🌚 @poxek_ai / Чат канала / 📲 MAX
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
37🔥27👎8👍7❤52👾1