🎯 GPT-5 взломал DEF CON Finals CTF - впервые LLM автономно решила задачу уровня "Олимпиады хакеров"
Использование GPT-5 в связке с IDA MCP позволило за несколько часов с минимальным участием человека получить полный эксплоит + патч.
Как это работало:
GPT-5 через MCP анализировал дизассемблированный код в IDA Pro
Итеративно самостоятельно разбирался: код → гипотеза → эксплоит → анализ результата → обновление знаний
Самостоятельно обнаружил, что сервер хеширует флаг через MD5
Нашел уязвимость, создал эксплоит из 10 байт, который читает /flag через уязвимость в комментариях
Идеальный шторм:
✅ GPT-5 с активным tool-calling и MCP
✅ Частично проанализированный бинарник
✅ Прямолинейная логика без анти-реверс трюков
✅ Простая эксплуатация (всего 5 байт "/flag")
После этого команда бросила ручной реверс и пересела на LLM. Но больше ничего серьезного автоматически решить не удалось.
Итог: CTF меняется. нужны анти-LLM техники.
Эра "vibe-реверса" началась 🤖
Вообще, MCP для IDA,- шикарная идея.
Нужен MCP для Art-Money :)
#CTF #GPT5 #MCP #реверс #DEFCON #cybersecurity
———
@tsingular
Использование GPT-5 в связке с IDA MCP позволило за несколько часов с минимальным участием человека получить полный эксплоит + патч.
Как это работало:
GPT-5 через MCP анализировал дизассемблированный код в IDA Pro
Итеративно самостоятельно разбирался: код → гипотеза → эксплоит → анализ результата → обновление знаний
Самостоятельно обнаружил, что сервер хеширует флаг через MD5
Нашел уязвимость, создал эксплоит из 10 байт, который читает /flag через уязвимость в комментариях
Идеальный шторм:
✅ GPT-5 с активным tool-calling и MCP
✅ Частично проанализированный бинарник
✅ Прямолинейная логика без анти-реверс трюков
✅ Простая эксплуатация (всего 5 байт "/flag")
После этого команда бросила ручной реверс и пересела на LLM. Но больше ничего серьезного автоматически решить не удалось.
Итог: CTF меняется. нужны анти-LLM техники.
Эра "vibe-реверса" началась 🤖
Вообще, MCP для IDA,- шикарная идея.
Нужен MCP для Art-Money :)
#CTF #GPT5 #MCP #реверс #DEFCON #cybersecurity
———
@tsingular
🔥6⚡3👀2👾2❤1 1
DEF CON 33 тёмное фильтрованное.
Нафильтровал для вас избранные доклады по ИИ взлому и угрозам (из 312 видео):
Thinking Like a Hacker in the Age of AI
Exploiting Shadow Data from AI Models and Embeddings
Red teaming fraud prevention systems with GenAI
Securing Agentic AI Systems and Multi-Agent Workflows
They deployed Health AI on us: We’re bringing the rights & red teams
How AI + Hardware can Transform Point of Care Workflows
How AI + Hardware can Transforming Point-of-Care Workflows (2)
Prompt Scan Exploit AI’s Journey Through 0Days and 1000 Bugs
Let AI Autogenerate Neural ASR Rules for OT Attacks via NLP
Loading Models, Launching Shells: Abusing AI File Formats fr Code Execution
AppleStorm - Unmasking the Privacy Risks of Apple Intelligence
Полный плейлист
#Defcon #cybersecurity
———
@tsingular
Нафильтровал для вас избранные доклады по ИИ взлому и угрозам (из 312 видео):
Thinking Like a Hacker in the Age of AI
Exploiting Shadow Data from AI Models and Embeddings
Red teaming fraud prevention systems with GenAI
Securing Agentic AI Systems and Multi-Agent Workflows
They deployed Health AI on us: We’re bringing the rights & red teams
How AI + Hardware can Transform Point of Care Workflows
How AI + Hardware can Transforming Point-of-Care Workflows (2)
Prompt Scan Exploit AI’s Journey Through 0Days and 1000 Bugs
Let AI Autogenerate Neural ASR Rules for OT Attacks via NLP
Loading Models, Launching Shells: Abusing AI File Formats fr Code Execution
AppleStorm - Unmasking the Privacy Risks of Apple Intelligence
Полный плейлист
#Defcon #cybersecurity
———
@tsingular
👍9⚡3🔥3
90 дней на патч? Забыли! Всего 30 минут на эксплойт
По ИБ стандартам у вендоров обычно есть 90 дней чтобы выпустить патч после обнаружения уязвимости прежде чем исследователь опубликует информацию для всего мира.
Это создаёт запас времени, который позволяет снизить ущерб, но с появлением мощных моделей ситуация резко поменялась.
Himanshu Anand из Cloudflare разобрал несколько интересных кейсов в этой части.
🤖 Четыре устаревших допущения:
Уникальность исчезает: AI порождает волны дублей за дни. Десятки исследователей мгновенно на похожих промптах и навыках находят одно и то же. Эти волны выглядят как паттерн. Похоже причина именно в том, что и ИИ модели и навыки сканеров быстро дублируются.
Добросовестность: если нашлось 10 добросовестных исследователей, которые с ИИ нашли уязвимость и доложили о ней, то сколько нечестных продали её на чёрном рынке?
Фора вендора: временной гэп преодолевается за часы. При публикации Dirty Frag ни один Linux-дистрибутив не имел патча, но буквально через несколько часов появился эксплоит и была зафиксирована эксплуатация в дикой природе.
Окно патч → эксплойт: React выпустил патч и публичный пост.
Человек + LLM за 30 минут превратили diff в рабочий PoC (DoS).
Получается что как только патч вышел,- считай, что эксплойт уже существует.
Grace period умер.
💼 Бизнес эффекты:
90 дней ответственного раскрытия теперь это 90 дней форы тем, кто владеет уязвимостью.
Каждый критический баг = P0, патчить немедленно, никаких окон больше не существует!
LLM необходимо внедрять в пайплайне ИБ: автоматический анализ изменений патча, сканирование зависимостей, верификация патчей.
Атакующие выигрывают гонку прямо сейчас пока все спят.
#cybersecurity #Linux #эксплойты #DEFCON
------
@tsingular
По ИБ стандартам у вендоров обычно есть 90 дней чтобы выпустить патч после обнаружения уязвимости прежде чем исследователь опубликует информацию для всего мира.
Это создаёт запас времени, который позволяет снизить ущерб, но с появлением мощных моделей ситуация резко поменялась.
Himanshu Anand из Cloudflare разобрал несколько интересных кейсов в этой части.
🤖 Четыре устаревших допущения:
Уникальность исчезает: AI порождает волны дублей за дни. Десятки исследователей мгновенно на похожих промптах и навыках находят одно и то же. Эти волны выглядят как паттерн. Похоже причина именно в том, что и ИИ модели и навыки сканеров быстро дублируются.
Добросовестность: если нашлось 10 добросовестных исследователей, которые с ИИ нашли уязвимость и доложили о ней, то сколько нечестных продали её на чёрном рынке?
Фора вендора: временной гэп преодолевается за часы. При публикации Dirty Frag ни один Linux-дистрибутив не имел патча, но буквально через несколько часов появился эксплоит и была зафиксирована эксплуатация в дикой природе.
Окно патч → эксплойт: React выпустил патч и публичный пост.
Человек + LLM за 30 минут превратили diff в рабочий PoC (DoS).
Получается что как только патч вышел,- считай, что эксплойт уже существует.
Grace period умер.
💼 Бизнес эффекты:
90 дней ответственного раскрытия теперь это 90 дней форы тем, кто владеет уязвимостью.
Каждый критический баг = P0, патчить немедленно, никаких окон больше не существует!
LLM необходимо внедрять в пайплайне ИБ: автоматический анализ изменений патча, сканирование зависимостей, верификация патчей.
Атакующие выигрывают гонку прямо сейчас пока все спят.
#cybersecurity #Linux #эксплойты #DEFCON
------
@tsingular
🔥10🤯5 4❤3