Forwarded from SecuriXy.kz
🤖 System Prompts топ-LLM - как устроены изнутри "мозги" ChatGPT, Claude, Gemini, Grok и др.
В открытый доступ выложены полные системные инструкции крупнейших AI-моделей. Не веса, не пользовательские данные - а именно те правила, по которым модель думает, фильтрует и отвечает. Десятки тысяч токенов внутренней кухни каждого вендора.
Это не утечка в классическом смысле - промпты извлечены через prompt injection, модели сами их отдают при правильном запросе. Но собранная коллекция в одном месте с актуальными версиями (31k+ stars, регулярные обновления) - это готовый справочник для атак.
⚠️ Что это дает red team:
1. Точная структура safety-фильтров и их формулировки - видно что и как обходить
2. На основе промптов другая LLM генерирует целевые prompt injection и jailbreak сценарии
3. Незаменимо при пентесте AI-powered приложений, где LLM встроена в бизнес-логику
Модели при тесте сами подтверждают что это их инструкции.
Коллега @VladPetrushin уже проверил на практике - скармливаем system prompt одной модели в другую, вводим в режим доверия, и она пишет рабочие prompt injection под конкретный таргет.
🔗 Репо: Github
🔗 Примеры: LinkedIn
#llm #promptinjection #aisecurity #redteam
В открытый доступ выложены полные системные инструкции крупнейших AI-моделей. Не веса, не пользовательские данные - а именно те правила, по которым модель думает, фильтрует и отвечает. Десятки тысяч токенов внутренней кухни каждого вендора.
Это не утечка в классическом смысле - промпты извлечены через prompt injection, модели сами их отдают при правильном запросе. Но собранная коллекция в одном месте с актуальными версиями (31k+ stars, регулярные обновления) - это готовый справочник для атак.
⚠️ Что это дает red team:
1. Точная структура safety-фильтров и их формулировки - видно что и как обходить
2. На основе промптов другая LLM генерирует целевые prompt injection и jailbreak сценарии
3. Незаменимо при пентесте AI-powered приложений, где LLM встроена в бизнес-логику
Модели при тесте сами подтверждают что это их инструкции.
Коллега @VladPetrushin уже проверил на практике - скармливаем system prompt одной модели в другую, вводим в режим доверия, и она пишет рабочие prompt injection под конкретный таргет.
🔗 Репо: Github
🔗 Примеры: LinkedIn
#llm #promptinjection #aisecurity #redteam
1❤1🔥1
Forwarded from BELYAEV_SECURITY
Please repost this if you know cybersecurity leaders whose experience deserves to be heard.
I am opening the international guest lineup for the 2027 season of Belyaev_Podcast.
I am looking to speak with respected and visible voices from across the global cybersecurity community:
- CISOs and security executives
- Security leaders and practitioners
- Incident response and DFIR professionals
- Threat intelligence researchers
- AppSec, cloud security, AI security, privacy, and digital trust experts
- Founders and product leaders building meaningful security technology
- Educators and community ambassadors helping people enter and grow in cybersecurity
This is not a search for titles alone.
I am looking for people with real experience, a point of view, difficult decisions behind them, and stories that can help others make better choices.
Belyaev_Podcast is built around honest conversations about cybersecurity. Not corporate presentations. Not a product pitch. Not a prepared PR script.
We talk about leadership under pressure, real incidents, building effective teams, working with business, balancing speed and risk, the impact of AI, career choices, mistakes, and lessons that are rarely discussed openly.
The goal is to create useful conversations for security leaders, practitioners, engineers, founders, students, and everyone growing into the profession.
The format is a remote conversation of around one hour. We agree on the topic in advance, respect all confidentiality boundaries, and prepare the episode professionally for video, audio, and short social content.
If you know someone who should be part of this international season, please tag them in the comments, repost this, or send them this message directly.
If you would like to join the conversation yourself, feel free to reach out.
In 2027, I am not just building a podcast schedule. I am building a map of people, ideas, and decisions that can move cybersecurity forward.
More about the project and previous episodes:
https://belyaev.expert/
✉️ : Send your resume
#Cybersecurity #CISO #InformationSecurity #SecurityLeadership #CyberSecurityCommunity #Podcast #AIsecurity #IncidentResponse #ThreatIntelligence
I am opening the international guest lineup for the 2027 season of Belyaev_Podcast.
I am looking to speak with respected and visible voices from across the global cybersecurity community:
- CISOs and security executives
- Security leaders and practitioners
- Incident response and DFIR professionals
- Threat intelligence researchers
- AppSec, cloud security, AI security, privacy, and digital trust experts
- Founders and product leaders building meaningful security technology
- Educators and community ambassadors helping people enter and grow in cybersecurity
This is not a search for titles alone.
I am looking for people with real experience, a point of view, difficult decisions behind them, and stories that can help others make better choices.
Belyaev_Podcast is built around honest conversations about cybersecurity. Not corporate presentations. Not a product pitch. Not a prepared PR script.
We talk about leadership under pressure, real incidents, building effective teams, working with business, balancing speed and risk, the impact of AI, career choices, mistakes, and lessons that are rarely discussed openly.
The goal is to create useful conversations for security leaders, practitioners, engineers, founders, students, and everyone growing into the profession.
The format is a remote conversation of around one hour. We agree on the topic in advance, respect all confidentiality boundaries, and prepare the episode professionally for video, audio, and short social content.
If you know someone who should be part of this international season, please tag them in the comments, repost this, or send them this message directly.
If you would like to join the conversation yourself, feel free to reach out.
In 2027, I am not just building a podcast schedule. I am building a map of people, ideas, and decisions that can move cybersecurity forward.
More about the project and previous episodes:
https://belyaev.expert/
#Cybersecurity #CISO #InformationSecurity #SecurityLeadership #CyberSecurityCommunity #Podcast #AIsecurity #IncidentResponse #ThreatIntelligence
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3🔥1🤮1💩1🤡1
Forwarded from SecuriXy.kz
🕵️ Спящий шпион внутри локальной LLM
Мы привыкли считать, что локальные нейросети - это свобода, приватность и безопасность. Никаких облаков, никаких ограничений, никакой передачи данных третьим лицам. Все работает на собственном железе, под полным контролем владельца. Казалось бы, что может пойти не так?
Скачали очередную Qwen или Llama с Hugging Face, особенно модную *Abliterated/Uncensored* версию от неизвестного автора? А вы уверены, что внутри ее весов не притаился «спящий агент», ожидающий кодового слова?
Исследователи ProjectDiscovery продемонстрировали, как с помощью отравленного LoRA-адаптера можно внедрить скрытый бэкдор непосредственно в поведение нейросети.
В эксперименте фраза
Результаты впечатляют:
+ 50 из 50 атак с триггером сработали.
+ 50 из 50 обычных запросов прошли без подозрений.
👌 Дообучение заняло всего 2,5 часа на одной NVIDIA L4.
💰 Стоимость - несколько десятков долларов.
Самое неприятное: бэкдор скрывался не в исполняемом коде, а в весах модели. Обычный антивирус его не обнаружит, а стандартные бенчмарки могут ничего подозрительного не показать.
Разумеется, сама LLM без доступа к инструментам не сможет украсть ваши ключи. Но подключите ее к AI-агенту с доступом к терминалу, файловой системе и сети - и локальная приватность внезапно перестанет быть гарантией безопасности.
И дело вовсе не только в
Мы привыкли искать трояны в программах. Теперь стоит задуматься, что трояном может оказаться сам интеллект, которому мы доверили их запуск.
🔗 Исследование ProjectDiscovery https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned
#AISecurity #LLM #SupplyChain
Мы привыкли считать, что локальные нейросети - это свобода, приватность и безопасность. Никаких облаков, никаких ограничений, никакой передачи данных третьим лицам. Все работает на собственном железе, под полным контролем владельца. Казалось бы, что может пойти не так?
Скачали очередную Qwen или Llama с Hugging Face, особенно модную *Abliterated/Uncensored* версию от неизвестного автора? А вы уверены, что внутри ее весов не притаился «спящий агент», ожидающий кодового слова?
Исследователи ProjectDiscovery продемонстрировали, как с помощью отравленного LoRA-адаптера можно внедрить скрытый бэкдор непосредственно в поведение нейросети.
В эксперименте фраза
bonsoir, Elliot (привет фанатам Mr. Robot) заставляла AI-агента вместо штатной работы инициировать выполнение вредоносной команды, нацеленной на кражу .env и приватных SSH-ключей.Результаты впечатляют:
+ 50 из 50 атак с триггером сработали.
+ 50 из 50 обычных запросов прошли без подозрений.
Самое неприятное: бэкдор скрывался не в исполняемом коде, а в весах модели. Обычный антивирус его не обнаружит, а стандартные бенчмарки могут ничего подозрительного не показать.
Разумеется, сама LLM без доступа к инструментам не сможет украсть ваши ключи. Но подключите ее к AI-агенту с доступом к терминалу, файловой системе и сети - и локальная приватность внезапно перестанет быть гарантией безопасности.
И дело вовсе не только в
Abliterated-моделях. Подобные атаки потенциально применимы к любым модифицированным LLM неизвестного происхождения.Мы привыкли искать трояны в программах. Теперь стоит задуматься, что трояном может оказаться сам интеллект, которому мы доверили их запуск.
🔗 Исследование ProjectDiscovery https://projectdiscovery.io/research/how-abliterated-models-can-get-you-pwned
#AISecurity #LLM #SupplyChain
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥9❤2