Forwarded from Internet Freedom
Роскомнадзор потребовал блокировки сайта КазТАГ из-за публикаций об уголовном деле
Роскомнадзор направил требование о блокировке сайта международного информационного агентства КазТАГ в связи с публикациями, посвящёнными уголовному делу в отношении генерального директора Асета Матаева и главного редактора Амира Касенова, сообщает Exclusive.kz со ссылкой на редакцию агентства.
Основанием стали обеспечительные меры, принятые Московским городским судом 20 января 2026 года. Российская сторона сочла нарушением авторских прав видеоматериалы и публикации о пресс-конференциях и публичных выступлениях с участием руководства КазТАГ, их адвокатов и потерпевших вкладчиков Freedom Finance. При этом претензий к фотоиллюстрациям у суда не возникло.
Требование Роскомнадзора было направлено казахстанскому хостинг-провайдеру ТОО «Интернет-компания PS», на серверах которого размещён сайт агентства. В компании сообщили, что блокировать КазТАГ по запросу российской стороны не стали.
Отмечается, что КазТАГ не был уведомлён о судебном процессе в России и узнал о нём случайно — при выяснении причин временных проблем с доступом к сайту, которые наблюдались 3 и 4 февраля у ряда казахстанских провайдеров.
В связи с ситуацией агентство направило запросы в Генеральную прокуратуру, КНБ, Министерство юстиции, Министерство цифрового развития и Министерство культуры и информации с вопросами о правомерности требований Роскомнадзора и мерах по защите информационного суверенитета Казахстана.
Уголовное дело против руководства КазТАГ связано с показаниями адвоката и потерпевших по делу о мошенничестве во Freedom Finance. Ситуация вызвала обеспокоенность международных правозащитных организаций, а также находится под вниманием зарубежных СМИ и дипломатических представительств.
Источник: https://exclusive.kz/roskomnadzor-potreboval-blokirovki-sajta-kaztag-iz-za-publikacij-ob-ugolovnom-dele/
Роскомнадзор направил требование о блокировке сайта международного информационного агентства КазТАГ в связи с публикациями, посвящёнными уголовному делу в отношении генерального директора Асета Матаева и главного редактора Амира Касенова, сообщает Exclusive.kz со ссылкой на редакцию агентства.
Основанием стали обеспечительные меры, принятые Московским городским судом 20 января 2026 года. Российская сторона сочла нарушением авторских прав видеоматериалы и публикации о пресс-конференциях и публичных выступлениях с участием руководства КазТАГ, их адвокатов и потерпевших вкладчиков Freedom Finance. При этом претензий к фотоиллюстрациям у суда не возникло.
Требование Роскомнадзора было направлено казахстанскому хостинг-провайдеру ТОО «Интернет-компания PS», на серверах которого размещён сайт агентства. В компании сообщили, что блокировать КазТАГ по запросу российской стороны не стали.
Отмечается, что КазТАГ не был уведомлён о судебном процессе в России и узнал о нём случайно — при выяснении причин временных проблем с доступом к сайту, которые наблюдались 3 и 4 февраля у ряда казахстанских провайдеров.
В связи с ситуацией агентство направило запросы в Генеральную прокуратуру, КНБ, Министерство юстиции, Министерство цифрового развития и Министерство культуры и информации с вопросами о правомерности требований Роскомнадзора и мерах по защите информационного суверенитета Казахстана.
Уголовное дело против руководства КазТАГ связано с показаниями адвоката и потерпевших по делу о мошенничестве во Freedom Finance. Ситуация вызвала обеспокоенность международных правозащитных организаций, а также находится под вниманием зарубежных СМИ и дипломатических представительств.
Источник: https://exclusive.kz/roskomnadzor-potreboval-blokirovki-sajta-kaztag-iz-za-publikacij-ob-ugolovnom-dele/
Exclusive.kz
«Роскомнадзор» потребовал блокировки сайта КазТАГ из-за публикаций о его уголовном деле.
Роскомнадзор направил требование о блокировке сайта международного информационного агентства КазТАГ в связи с публикациями, посвящёнными уголовному делу в
Forwarded from Размышления IT-шнего госслужащего (Meirbek Mukatov)
Чуть-чуть полезного. У нас в стране с началом года ИИ, пошли разные курсы, которые про обещания, новые стандарты и классные презентации.
Звучит красиво.
Но если разобраться, всё ключевое обучение по GenAI уже давно есть - даже бесплатно.
Причём от компаний, которые этот AI реально создают, а не продают курсы.
Мы делим людей на два: первые начитались Википедию, вторые запускали что-то.
Хотите обучаться, вот вам 7 бесплатных курсов, которые последовательно вводят в искусственный интеллект:
от базового понимания до RAG-систем и AI-агентов.
1. Основы GenAI
Понимание, как работают генеративные модели и где их реальные границы.
🔗 https://www.deeplearning.ai/courses/generative-ai-for-everyone/
2. Как работают LLM
Transformer, attention, токены, эмбеддинги.
После этого исчезает ощущение «магии».
🔗 https://jalammar.github.io/illustrated-transformer/
3. Prompt Engineering
Структурные промпты, системное мышление, работа с LLM как с инструментом.
Google, серия курсов.
🔗 https://www.coursera.org/google-certificates/prompting-essentials-google
4. RAG-системы
Основа большинства корпоративных AI-кейсов сегодня.
Векторные базы, retrieval, архитектура.
NVIDIA, 2 части:
🔗 https://learn.nvidia.com/courses/course-detail?course_id=course-v1:DLI+S-FX-16+V1
🔗 https://learn.nvidia.com/courses/course-detail?course_id=course-v1:DLI+S-FX-40+V1
5. AI-агенты
Инструменты, function calling, память, оркестрация.
Здесь AI начинает работать, а не просто отвечать.
🔗 https://www.deeplearning.ai/short-courses/functions-tools-agents-langchain/
6. Enterprise AI и продакшен
Масштабирование, мультимодальные модели, работа в облаке.
AWS, практический разбор.
🔗 https://www.youtube.com/watch?v=HaUe2AN210g
🔗 https://github.com/debnsuma/fcc-ai-engineering-aws
7. Governance AI-агентов
Безопасность, контроль доступа, мониторинг, риски.
То, без чего в бизнесе AI не живёт.
🔗 https://www.deeplearning.ai/short-courses/governing-ai-agents/
Звучит красиво.
Но если разобраться, всё ключевое обучение по GenAI уже давно есть - даже бесплатно.
Причём от компаний, которые этот AI реально создают, а не продают курсы.
Мы делим людей на два: первые начитались Википедию, вторые запускали что-то.
Хотите обучаться, вот вам 7 бесплатных курсов, которые последовательно вводят в искусственный интеллект:
от базового понимания до RAG-систем и AI-агентов.
1. Основы GenAI
Понимание, как работают генеративные модели и где их реальные границы.
🔗 https://www.deeplearning.ai/courses/generative-ai-for-everyone/
2. Как работают LLM
Transformer, attention, токены, эмбеддинги.
После этого исчезает ощущение «магии».
🔗 https://jalammar.github.io/illustrated-transformer/
3. Prompt Engineering
Структурные промпты, системное мышление, работа с LLM как с инструментом.
Google, серия курсов.
🔗 https://www.coursera.org/google-certificates/prompting-essentials-google
4. RAG-системы
Основа большинства корпоративных AI-кейсов сегодня.
Векторные базы, retrieval, архитектура.
NVIDIA, 2 части:
🔗 https://learn.nvidia.com/courses/course-detail?course_id=course-v1:DLI+S-FX-16+V1
🔗 https://learn.nvidia.com/courses/course-detail?course_id=course-v1:DLI+S-FX-40+V1
5. AI-агенты
Инструменты, function calling, память, оркестрация.
Здесь AI начинает работать, а не просто отвечать.
🔗 https://www.deeplearning.ai/short-courses/functions-tools-agents-langchain/
6. Enterprise AI и продакшен
Масштабирование, мультимодальные модели, работа в облаке.
AWS, практический разбор.
🔗 https://www.youtube.com/watch?v=HaUe2AN210g
🔗 https://github.com/debnsuma/fcc-ai-engineering-aws
7. Governance AI-агентов
Безопасность, контроль доступа, мониторинг, риски.
То, без чего в бизнесе AI не живёт.
🔗 https://www.deeplearning.ai/short-courses/governing-ai-agents/
www.deeplearning.ai
Generative AI for Everyoneㅤ
Learn how to use generative AI's capabilities & limitations. Get an overview of real-world examples, and impact on business & society for effective strategies.
🔥5👍4❤3💩2
Зарегистрирован домен
esutd[.]kz, создающий потенциальную угрозу как для официального портала Единой системы управления транспортными документами (ЕСУТД), так и для Единой системы учета трудовых договоров (ЕСУТД 🤣).В общем, сразу две системы в опасности...
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4
Часто вижу рекламу таких инвестиционных проектов в Instagram, YouTube и TikTok.
https://tengrinews.kz/kazakhstan_news/akmolinskaya-pensionerka-perevela-10-millionov-tenge-poveriv-592175/
https://tengrinews.kz/kazakhstan_news/akmolinskaya-pensionerka-perevela-10-millionov-tenge-poveriv-592175/
Главные новости Казахстана - Tengrinews.kz
Акмолинская пенсионерка отдала мошенникам 10 млн тенге за "доход" в $20 млн
Очередная жертва мошенничества: пенсионерка перевела более 10 млн тенге за участие в инвестпроекте. Как распознать обман и сохранить деньги в безопасности
🔥1
Серж.WS Channel
Можно ли оформить кредит на человека без его согласия? Пару лет назад был кейс, с которым я столкнулся. На данный момент уязвимости устранены, поэтому могу описать его. Описываемая цепочка событий сформировалась не сразу. Она складывалась постепенно, из…
Легендарный канал ожил.. 😊
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥12 5🤣2❤1
В ближайшие месяцы в странах Евразийского экономического союза может быть оформлен механизм, позволяющий ограничивать доступ к сайтам и онлайн-ресурсам на территории государств-участников, включая Казахстан.
Источник: https://exclusive.kz/rossija-mozhet-poluchit-mehanizm-blokirovki-sajtov-v-kazahstane-v-ramkah-soglashenija-eajes/
Что думаете по этому поводу? Напишите в комментариях 👇🏻
👎6🤬2🤔1
Forwarded from Сицебрекс!
CERT_Polska_Energy_Sector_Incident_Report_2025.pdf
5.6 MB
Атака на энергетический сектор Польши
Не знаю в курсе вы или нет, но под Новый год, а именно 29-30 декабря 2025 года, Польша столкнулась с крупной кибератакой на свою энергосистему. Как заявили официальные ресурсы - атаку удалось остановить и предотвратить серьезные полсдествия. Понятное дело, что атаку тут же давай мусолить и жевать, незамедлительно объявили о том, что это Россия провела и тд
Но что интересно - CERT (Cyber Emergency Response Team) Польши выпустил отчет, где подробно описали причины инцидента. За это им огромный респект - за прозрачность и уменее говорить про бревна в своих глазах. Давайте посомтрим что там было:
🍒На периметрах стоял FortiGate (VPN и Fireweall). Без двухфакторки. Некоторые устройства на протяжении времени были подвержены уязвимостям, которые позволяли выполнять произвольный код. Устройства содержали либо одинаковые логины и пароли, либо вообще по умолчанию
🍒Атакующие имели привелегированные учетки на устройствах во время атаки
🍒Вся атака - простой набор шагов без какого-то rocket science. За исключением затиралки данных - использовали wiper. Это такой зловред, который гаратированно затирает (или шифрует без возможности расшифровать).
🍒Интересна сетевая инфраструктура атакующих. 31[.]172.71.5 - на этом адресе зарегистрирован домен lk.progamevl[.]ru (личный кабинет IT школы для детей и подростков). Думаю, что это либо забавное совпадение шаред-хостинга, либо подломали для проксирования трафика. Другой же IP 185[.]200.177.10 - там сайтик для покупки Робуксов (внутриигровая валюта Roblox).
Пострадали объекты возобновляемой энергии (солнечная и ветряки), ТЭЦ и неназванное предприятие производственного сектора. Интересно, что первые шаги в атаке начались в марте-июне 2025. Есть вероятность, что действовала другая группировка и потом передала (продала) доступ уже тем, кто совершил диверсию
Отчет скидываю
Не знаю в курсе вы или нет, но под Новый год, а именно 29-30 декабря 2025 года, Польша столкнулась с крупной кибератакой на свою энергосистему. Как заявили официальные ресурсы - атаку удалось остановить и предотвратить серьезные полсдествия. Понятное дело, что атаку тут же давай мусолить и жевать, незамедлительно объявили о том, что это Россия провела и тд
Но что интересно - CERT (Cyber Emergency Response Team) Польши выпустил отчет, где подробно описали причины инцидента. За это им огромный респект - за прозрачность и уменее говорить про бревна в своих глазах. Давайте посомтрим что там было:
🍒На периметрах стоял FortiGate (VPN и Fireweall). Без двухфакторки. Некоторые устройства на протяжении времени были подвержены уязвимостям, которые позволяли выполнять произвольный код. Устройства содержали либо одинаковые логины и пароли, либо вообще по умолчанию
🍒Атакующие имели привелегированные учетки на устройствах во время атаки
🍒Вся атака - простой набор шагов без какого-то rocket science. За исключением затиралки данных - использовали wiper. Это такой зловред, который гаратированно затирает (или шифрует без возможности расшифровать).
🍒Интересна сетевая инфраструктура атакующих. 31[.]172.71.5 - на этом адресе зарегистрирован домен lk.progamevl[.]ru (личный кабинет IT школы для детей и подростков). Думаю, что это либо забавное совпадение шаред-хостинга, либо подломали для проксирования трафика. Другой же IP 185[.]200.177.10 - там сайтик для покупки Робуксов (внутриигровая валюта Roblox).
Пострадали объекты возобновляемой энергии (солнечная и ветряки), ТЭЦ и неназванное предприятие производственного сектора. Интересно, что первые шаги в атаке начались в марте-июне 2025. Есть вероятность, что действовала другая группировка и потом передала (продала) доступ уже тем, кто совершил диверсию
Отчет скидываю
👀2🤔1
Forwarded from bailanys
Кибербеза много не бывает, особенно, когда речь идет о государственных цифровых ресурсах. Как раз в канале «Сертификат безопасности» недавно вышел пост с предложениями, от каких старых подходов и почему стоит отказаться. Причем на уровне законодательства, чтобы надежность гос. систем и IT-решений всегда была на высоте.
Bailanys рекомендует 🤙
Bailanys рекомендует 🤙
Telegram
Сертификат безопасности
Ранее писал про 25-летнее отставание гос.сектора Казахстана в сфере кибербезопасности. Пост нашёл отклик у подписчиков, было много репостов, лайков и комментарияев. Если не читали или не помните, то вот ссылка - https://t.me/qcakz/1842.
Кратко напомню, что…
Кратко напомню, что…
❤2
Президент не спросил, а я спрошу. Пользуешься AITU Messenger или нет?
Anonymous Poll
13%
Посмотреть результаты
6%
Я гос.служащий (работаю в КГС) и пользуюсь AITU
10%
Я гос.служащий (работаю в КГС) и не пользуюсь AITU
7%
Я не гос.служащий (не работаю в КГС), но пользуюсь AITU
64%
Я не гос.служащий (не работаю в КГС) и не пользуюсь AITU
1🤣4 2 2
Сегодня министр Мадиев растерялся на вопросе президента Токаева про численность пользователей KazLLM и ChatGPT. Не знаю заметил ли кто-то, но тут есть тонкий технический момент. ChatGPT это приложение с ИИ, а KazLLM - это модель, которую нужно встроить в подобные приложения. Напрямую их сравнивать нельзя. Ответ Мадиева касательно 600к запросов касался, скорее всего, приложений со встроенным KazLLM, возможно, это eGov с его ИИ агентом.
Касательно качества и конкурентоспособности KazLLM по сравнению с передовыми моделями (GPT-5.2, Gemini и др) скажу так - в мире ИИ всё, что старше полугода считается устаревшим. Классическая KazLLM базируется на Meta LLAMA 3.1, а значит её знания и навыки остаются на уровне середины 2024 года. Поэтому делать ставку на KazLLM в качестве локомотива экономического развития - неправильно.
Как отметил Мадиев, эти модели нужно постоянно дообучать, периодически брать новые опен-сорсные модели и начинать всё заново. Это не разработка модели "с нуля", а механизм "дообучения" (fine-tuning), но даже этот вариант без серьёзных вложений в инфраструктуру ИИ это невозможно. И я не уверен, достаточно ли тут будет купленного суперкомпьютера. Всё это напоминает проблему яйца и курицы - чтобы создать конкуретную модель нужны деньги, а чтобы получить деньги, нужно создать конкуретное приложение с пользователями.
Какой выход? Самый простой и не требующий больших денег - это разрешить использовать иностранные ИИ для гос.сектора. Да, это влияет на цифровой суверенитет, но мы уже в какие-то местах пожертвовали, поэтому можно и тут. Иначе мы безнадёжно отстанем.
#токаев #мадиев #kazllm #chatgpt
@qcakz
Касательно качества и конкурентоспособности KazLLM по сравнению с передовыми моделями (GPT-5.2, Gemini и др) скажу так - в мире ИИ всё, что старше полугода считается устаревшим. Классическая KazLLM базируется на Meta LLAMA 3.1, а значит её знания и навыки остаются на уровне середины 2024 года. Поэтому делать ставку на KazLLM в качестве локомотива экономического развития - неправильно.
Как отметил Мадиев, эти модели нужно постоянно дообучать, периодически брать новые опен-сорсные модели и начинать всё заново. Это не разработка модели "с нуля", а механизм "дообучения" (fine-tuning), но даже этот вариант без серьёзных вложений в инфраструктуру ИИ это невозможно. И я не уверен, достаточно ли тут будет купленного суперкомпьютера. Всё это напоминает проблему яйца и курицы - чтобы создать конкуретную модель нужны деньги, а чтобы получить деньги, нужно создать конкуретное приложение с пользователями.
Какой выход? Самый простой и не требующий больших денег - это разрешить использовать иностранные ИИ для гос.сектора. Да, это влияет на цифровой суверенитет, но мы уже в какие-то местах пожертвовали, поэтому можно и тут. Иначе мы безнадёжно отстанем.
#токаев #мадиев #kazllm #chatgpt
@qcakz
1👍9👎2🔥1
Сертификат безопасности
Президент не спросил, а я спрошу. Пользуешься AITU Messenger или нет?
По опросу в этом канале примерно половина служащих и работников гос.сектора пользуются AITU..
😁2🔥1
Forwarded from bluescreen.kz
«Лаборатория Касперского» проанализировала недавнюю кампанию группы Stan Ghouls.
Stan Ghouls проводит целевые кампании в Казахстане, Кыргызстане, Узбекистане и России как минимум с 2023 года. В основном злоумышленников интересуют финансовые организации, а также компании из сферы промышленности и ИТ. Среди отличительных черт группы — использование уникальных вредоносных загрузчиков на Java. При этом у Stan Ghouls масштабная инфраструктура, которую она периодически модифицирует, в том числе регистрирует домены для новых кампаний. Вероятно, злоумышленники преследуют финансовые цели, но не исключены атаки с целью кибершпионажа.
Группа начинает атаки с фишинговых рассылок, внутри которых содержатся вредоносные PDF-вложения. Письма тщательно адаптируются под жертв, и обычно злоумышленники используют локальные языки. Например, они могут быть замаскированы якобы под предупреждение от прокуратуры или постановление районного суда.
В документах-приманках содержатся ссылки — если по ним перейти, запустится вредоносный загрузчик. Атакующие отдельно просят жертву скачать и установить среду выполнения Java, поскольку без этого якобы нельзя будет просмотреть файлы.
Вредоносный загрузчик в свою очередь скачивает легитимное ПО NetSupport, который атакующие используют для управления заражённым устройством. Ранее основным инструментом злоумышленников был коммерческий троянец удалённого доступа (RAT) STRRAT, также известный как Strigoi Master.
«Всего злоумышленники атаковали более 60 целей, что довольно много для одной таргетированной кампании. Это говорит о том, что у них достаточно ресурсов, чтобы обеспечить ручное удалённое управление несколькими десятками заражённых устройств. Примечательно, что группа продолжает использовать прежний набор инструментов, включая легитимную утилиту удалённого управления NetSupport и уникальный вредоносный загрузчик на Java. Таким образом, атакующие обновляют только инфраструктуру, в частности используют новые домены. На одном из доменов, фигурировавших в прошлых кампаниях группы, были обнаружены файлы, относящиеся к известному IoT-зловреду Mirai. Это может указывать на то, что злоумышленники начали использовать вредоносное ПО для IoT-систем. Мы продолжаем отслеживать активность группировки Stan Ghouls и информировать наших клиентов о новых кампаниях злоумышленников», — рассказал Алексей Шульмин, эксперт по кибербезопасности в «Лаборатории Касперского».
#безопасность #инфраструктура #кибератаки #новости
Please open Telegram to view this post
VIEW IN TELEGRAM
❤1
Forwarded from Размышления IT-шнего госслужащего (Meirbek Mukatov)
Недавно прочитаои пост Abishev analytics с предложением о запрете ChatGPT в Казахстане, с целью продвижения национального решения KazLLM.
Одна из центральных аргументов - это то, что ChatGPT американская разработка, продвигает американский взгляд на мир.
Безусловно тезис правильный - суверенной стране необходима своя суверенная модель, чтобы сегодня и в будущем мы оставались частью глобальной историко-культурной повестки.
Но всегда ли запрет работает? Запрет на ChatGPT да и вообще на все что угодно иностранное, не приведет к долгосрочному росту. Можно запрещать все иностранное, но как правило и новое приходит ведь оттуда.
Вызовет ли это решение значительный рост интереса к KazLLM ?
Кстати модель, построенная кстати на open-source модели LLMA от Meta, кажется тоже Американская. Нет?
Мы видим, что происходит в соседней стране, где запрет увеличил лишь скачивание vpn.
Опыт Китая в нашем случай не является релевантным, об истории закрытого китайского интернета и интернет экономики, снято много видео на YouTube и написано множество книг.
Нам в данной области не следует переводить технологические вопросы в политические, если первые явно не являются опасными, политика политикой, технология технологией. Иначе не видать нам статуса глобального тех хаба.
Введя запрет на ChatGPT, ожидая приток пользователей в KazLLM, думаю мы бы сильно удивились бы тому что люди не спешат переходить на KazLLM так как его нету не в App Store не в Play Market. Где его скачать не понятно, и будет ли его UX/UI такой же удобный как у GPT? Будет ли генерация ответов быстрая? Какое контекстное окно у нее будет?
Это очень важные вопросы: не достаточно выпустить технологию, надо обдумать пользовательский опыт, ведь если приложением пользоваться не приятно то скорее всего люди просто откажутся от KazLLM и будут жить без ИИ как 3 года назад.
Please open Telegram to view this post
VIEW IN TELEGRAM
Telegram
ABISHEV ANALYTICS
На расширенном заседании правительства цифровому вице-премьеру задали вопрос, почему казахстанцы предпочитают ChatGPT отечественной модели KazLLM. Был выражен скепсис касательно количества пользователей как отечественных языковых моделей, так и мессенджера…
❤4👍3😁2
Forwarded from SecuriXy.kz
🤖 System Prompts топ-LLM - как устроены изнутри "мозги" ChatGPT, Claude, Gemini, Grok и др.
В открытый доступ выложены полные системные инструкции крупнейших AI-моделей. Не веса, не пользовательские данные - а именно те правила, по которым модель думает, фильтрует и отвечает. Десятки тысяч токенов внутренней кухни каждого вендора.
Это не утечка в классическом смысле - промпты извлечены через prompt injection, модели сами их отдают при правильном запросе. Но собранная коллекция в одном месте с актуальными версиями (31k+ stars, регулярные обновления) - это готовый справочник для атак.
⚠️ Что это дает red team:
1. Точная структура safety-фильтров и их формулировки - видно что и как обходить
2. На основе промптов другая LLM генерирует целевые prompt injection и jailbreak сценарии
3. Незаменимо при пентесте AI-powered приложений, где LLM встроена в бизнес-логику
Модели при тесте сами подтверждают что это их инструкции.
Коллега @VladPetrushin уже проверил на практике - скармливаем system prompt одной модели в другую, вводим в режим доверия, и она пишет рабочие prompt injection под конкретный таргет.
🔗 Репо: Github
🔗 Примеры: LinkedIn
#llm #promptinjection #aisecurity #redteam
В открытый доступ выложены полные системные инструкции крупнейших AI-моделей. Не веса, не пользовательские данные - а именно те правила, по которым модель думает, фильтрует и отвечает. Десятки тысяч токенов внутренней кухни каждого вендора.
Это не утечка в классическом смысле - промпты извлечены через prompt injection, модели сами их отдают при правильном запросе. Но собранная коллекция в одном месте с актуальными версиями (31k+ stars, регулярные обновления) - это готовый справочник для атак.
⚠️ Что это дает red team:
1. Точная структура safety-фильтров и их формулировки - видно что и как обходить
2. На основе промптов другая LLM генерирует целевые prompt injection и jailbreak сценарии
3. Незаменимо при пентесте AI-powered приложений, где LLM встроена в бизнес-логику
Модели при тесте сами подтверждают что это их инструкции.
Коллега @VladPetrushin уже проверил на практике - скармливаем system prompt одной модели в другую, вводим в режим доверия, и она пишет рабочие prompt injection под конкретный таргет.
🔗 Репо: Github
🔗 Примеры: LinkedIn
#llm #promptinjection #aisecurity #redteam
1❤1🔥1
Что-то плохое могло случиться, но не случилось.
Иная информация разглашению не подлежит. Доверяйте только официальным источникам.
Иная информация разглашению не подлежит. Доверяйте только официальным источникам.
😁8🤝3👎2 2 2👀1
Вышел рейтинг (топ и анти-топ) компаний для ИТ-сообщества от People Consulting (https://pplconsulting.kz/). Из компаний, работающих чисто в ИБ там лишь ЦАРКА (заняли 29-е место из 93-х). Кроме них, в рейтинг попали следующие обладатели лицензии на ОЦИБ:
- 6-е место Beeline
- 18-е место Kcell
- 29-е место ЦАРКА
- 38-е место BTS Digital
- 41-е место KazDream (MSSP)
- 47-е место АО "НИТ"
- 48-е место PS.kz
- 53-е место QazCloud
- 65-е место Казахтелеком
- 67-е место Транстелеком
- 71-е место Казтелепорт
В разделе "Чемпионы своих индустрий" нет сферы ИБ, но из ОЦИБов там есть BTS Digital, который стал чемпионом в категории "ИТ-продуктовая компания".
P.S. Изучите рейтинг, если что-то упустил, напишите в комментариях. 👇
- 6-е место Beeline
- 18-е место Kcell
- 29-е место ЦАРКА
- 38-е место BTS Digital
- 41-е место KazDream (MSSP)
- 47-е место АО "НИТ"
- 48-е место PS.kz
- 53-е место QazCloud
- 65-е место Казахтелеком
- 67-е место Транстелеком
- 71-е место Казтелепорт
В разделе "Чемпионы своих индустрий" нет сферы ИБ, но из ОЦИБов там есть BTS Digital, который стал чемпионом в категории "ИТ-продуктовая компания".
P.S. Изучите рейтинг, если что-то упустил, напишите в комментариях. 👇
pplconsulting.kz
People Consulting
Команда People Consulting — это профессиональные консультанты с более чем 14-летним опытом в сфере Executive Search, поиска и подбора топ-менеджеров, а также реализации комплексных проектов в области HR-консалтинга и управления персоналом. Мы специализируемся…
🤔7🤮3😁2❤1👍1