🔒 MIT Sloan: 80% современных атак с выкупом работают на ИИ
ИИ стал главным оружием киберпреступников:
- LLM штампуют фишинговые письма и вредоносный код
- Голосовое клонирование подделывает звонки «от босса» или службы поддержки
- Автоматизация ломает пароли и обходит CAPTCHA в разы быстрее
🚨 Что это значит для бизнеса:
- Простых обновлений и ручного мониторинга уже недостаточно
- Системы должны сами лечить уязвимости и держать оборону 24/7
- «Zero trust» — новый стандарт: доверять нельзя никому, даже внутренним запросам
🛡 Три уровня защиты будущего:
1. Automation — авто-патчи и самовосстановление кода
2. Autonomous & deceptive defense — движущаяся цель + фейковые ловушки для хакеров
3. Augmented oversight — онлайн risk-score, прогноз ущерба и отчётность для руководителей
ИИ ускорил атаки — но он же помогает строить умную, автономную защиту.
🔗 MIT Sloan Report: https://mitsloan.mit.edu/ideas-made-to-matter/80-ransomware-attacks-now-use-artificial-intelligence
@linuxkalii
#AI #Cybersecurity #Ransomware #ZeroTrust #MIT
ИИ стал главным оружием киберпреступников:
- LLM штампуют фишинговые письма и вредоносный код
- Голосовое клонирование подделывает звонки «от босса» или службы поддержки
- Автоматизация ломает пароли и обходит CAPTCHA в разы быстрее
🚨 Что это значит для бизнеса:
- Простых обновлений и ручного мониторинга уже недостаточно
- Системы должны сами лечить уязвимости и держать оборону 24/7
- «Zero trust» — новый стандарт: доверять нельзя никому, даже внутренним запросам
🛡 Три уровня защиты будущего:
1. Automation — авто-патчи и самовосстановление кода
2. Autonomous & deceptive defense — движущаяся цель + фейковые ловушки для хакеров
3. Augmented oversight — онлайн risk-score, прогноз ущерба и отчётность для руководителей
ИИ ускорил атаки — но он же помогает строить умную, автономную защиту.
🔗 MIT Sloan Report: https://mitsloan.mit.edu/ideas-made-to-matter/80-ransomware-attacks-now-use-artificial-intelligence
@linuxkalii
#AI #Cybersecurity #Ransomware #ZeroTrust #MIT
❤10👍4🔥3
Forwarded from Machinelearning
Google объявила о запуске открытого протокола Agent Payments Protocol (AP2), созданного для того, чтобы AI-агенты могли безопасно совершать покупки от имени пользователей. Сегодня большинство платёжных систем рассчитаны на прямое участие человека, но с ростом автономных агентов возникает потребность в стандартах, которые обеспечат доверие, прозрачность и защиту от ошибок или мошенничества.
AP2 решает эту задачу с помощью криптографически подписанных «мандатов» — цифровых разрешений, которые фиксируют права агента на выполнение конкретных действий. Протокол поддерживает как покупки в реальном времени (например, агент собирает корзину, а пользователь подтверждает), так и делегированные задания вроде «купить билеты при появлении» с заданным бюджетом и сроками. В систему интегрированы разные способы оплаты: карты, банковские переводы в реальном времени и стабильные цифровые валюты.
К разработке AP2 присоединились более 60 компаний, среди которых American Express, Mastercard, PayPal, Revolut и Coinbase. Инициатива строится на расширении стандартов Agent2Agent и Model Context Protocol.
Агент использует всего 30 B параметров (3 B активны), он показывает результаты на уровне коммерческих моделей, таких как OpenAI o3.
На бенчмарке Humanity’s Last Exam агент набрал 32.9 балла (против 24.9 у OpenAI o3). Также он набрал 45.3 в BrowseComp и 75.0 в xbench-DeepSearch.
Это говорит о его способности эффективно искать и анализировать данные. Модель обучается с помощью подкрепления в реальных и симулированных условиях. Данные создаются автоматически, без дорогих ручных аннотаций. Есть режимы ReAct и Heavy Mode, где несколько агентов работают параллельно, а итоги синтезирует финальный модуль)
https://tongyi-agent.github.io.
Компания Unitree представила свою первую открытую архитектуру world-model–action под названием UnifoLM-WMA-0, доступную на платформе Hugging Face. Это универсальная система для обучения роботов, охватывающая разные типы робототехнических тел и ориентированная на задачи общего назначения.
В основе проекта — world-model, способный понимать физические взаимодействия роботов с окружающей средой. Он выполняет две ключевые функции:
- Simulation Engine — работает как интерактивный симулятор и генерирует синтетические данные для обучения.
- Policy Enhancement — соединяется с модулем действий и, предсказывая будущие процессы взаимодействия, повышает качество принятия решений.
HF
OpenAI тихо формирует новое подразделение, сосредоточенное на «универсальной робототехнике». Компания нанимает специалистов по управлению гуманоидными роботами, телеприсутствию и быстрому прототипированию оборудования. Вакансии упоминают симуляцию Nvidia Isaac, разработку тактильных сенсоров и опыт массового производства — это может означать, что OpenAI планирует создавать или глубоко дорабатывать собственных роботов.
После сворачивания проектов в 2021 году ради фокуса на языковых моделях, OpenAI снова поворачивается к физическому миру. Теперь цель компании — обучать ИИ не только понимать текст, но и действовать в реальности, что рассматривается как необходимый шаг к созданию AGI.
Новость
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤17👍6🔥5
Microsoft запустила ExCyTIn-Bench - открытую платформу, которая тестирует, как ИИ справляется с реальными инцидентами безопасности, а не просто отвечает на теоретические вопросы.
Что делает ExCyTIn-Bench
- Имитация настоящего SOC (Security Operations Center) с логами, инцидентами и хаосом реальных атак.
- Проверяет не только ответы, но и логику рассуждений ИИ: шаги, объяснения, приоритизацию угроз.
- Включает 57 таблиц логов из Microsoft Sentinel — максимально приближено к практике.
- Поддерживает сравнение разных моделей и метрик, включая reasoning-оценку (пошаговое мышление).
Зачем это нужно
Обычные тесты “вопрос-ответ” не отражают реальную сложность киберугроз.
ExCyTIn-Bench поднимает планку: теперь модели должны мыслить как аналитики SOC.
Microsoft уже использует этот бенчмарк для проверки своих продуктов — Security Copilot, Defender и Sentinel.
Первые результаты показывают, что продвинутые LLM вроде GPT-5 уже уверенно анализируют инциденты и выстраивают цепочку атак.
🔗 Подробнее: https://www.microsoft.com/en-us/security/blog/2025/10/14/microsoft-raises-the-bar-a-smarter-way-to-measure-ai-for-cybersecurity/
#Microsoft #CyberSecurity #AI #SecurityCopilot
Please open Telegram to view this post
VIEW IN TELEGRAM
❤17👍9🔥4
Проект предназначен для специалистов по информационной безопасности, исследователей и энтузиастов, которым нужен мощный и гибкий инструмент для проведения тестов на проникновение.
Чем полезен:
- анализирует инфраструктуру и веб-сервисы
- ищет уязвимости
- запускает инструменты пентеста
- интерпретирует результаты
- планирует следующие шаги атаки
github.com/vxcontrol/pentagi
#AI #CyberSecurity #Agents #LLM #GitHub
Please open Telegram to view this post
VIEW IN TELEGRAM
❤19👍11🔥4👎1
Forwarded from Machinelearning
Glasswing - инициатива по поиску уязвимостей в системно значимом программном обеспечении с помощью ИИ.
Согласно обновленному отчету, около 50 её партнёров за первый месяц работы с моделью Mythos Preview обнаружили более 10 000 уязвимостей высокого и критического уровня.
Mythos отметила как потенциально опасные 6 202 уязвимости высокого и критического уровня. Из 1 752 случаев, проверенных независимыми фирмами, 90,6% оказались реальными, а 62,4% подтвердили заявленную тяжесть.
В числе подтверждённых: уязвимость в криптографической библиотеке wolfSSL (CVE-2026-5194), которая позволяла подделывать сертификаты сайтов (уже исправлена).
Anthropic отмечает, что узким местом теперь стала не идентификация ошибок, а их проверка и устранение. Из 530 переданных мейнтейнерам критичных уязвимостей закрыты пока только 75.
Несколько разработчиков попросили Anthropic замедлить темп раскрытия, так как нагрузка превышает их возможности. Среднее время подготовки патча для серьёзной уязвимости составляет около 2-х недель.
В отчёте также упомянут эпизод в одном из банков-партнёров: по словам Anthropic, модель помогла предотвратить мошеннический перевод на 1,5 миллиона долларов после взлома почты клиента.
Название банка и подробности инцидента не раскрываются.
Anthropic обещает расширять Glasswing с участием правительств США и союзных государств.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍24❤13🔥5😁3
Forwarded from Machinelearning
Компания находится в шаге от релиза Claude Fable 5 - публичной адаптации архитектуры Mythos, которая развивается в рамках закрытого проекта Glasswing.
Оригинальная модель Mythos умеет автономно находить уязвимости нулевого дня и выполнять многоступенчатые хакерские атаки. Чтобы безопасно вывести технологию на рынок, Anthropic разделит релиз.
Базовая версия Mythos останется эксклюзивом для государств и профильных партнеров, а Fable 5 станет общедоступным флагманом для разработчиков.
В публичной Fable 5 будут вшиты строгие системные ограничения на сетевое проникновение и эксплуатацию вредоносного кода, при этом она сохранит возможности Mythos (сложную логику, работу со сверхдлинным контекстом и многоэтапное автономное выполнение задач).
Ожидается, что официальный анонс Fable 5 состоится 10 июня на конференции Code with Claude в Токио.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤16👍9🤔8🔥3👎2😱2
Автономный ИИ-агент взломал Hugging Face, а закрытые модели не смогли помочь расследованию
Hugging Face раскрыла инцидент, который хорошо показывает будущую асимметрию кибербезопасности.
Атака началась с вредоносного датасета, эксплуатировавшего два пути выполнения кода в системе обработки данных. Затем автономный агент получил доступ к нодам, собрал облачные и кластерные учётные данные и перемещался между внутренними кластерами.
За одни выходные система выполнила тысячи действий через краткоживущие sandbox-среды. В журналах осталось более 17 000 событий.
Самая показательная часть началась во время расследования. Команда Hugging Face попыталась анализировать реальные эксплойты, команды и C2-артефакты с помощью передовых моделей через коммерческие API, но safety-фильтры блокировали запросы.
Модели не смогли отличить работу специалиста по реагированию на инциденты от действий атакующего.
В итоге анализ перенесли на самостоятельно размещённую open-weight модель GLM 5.2. Это позволило изучать вредоносный код без блокировок и не отправлять журналы, данные атакующего и упомянутые credentials внешнему провайдеру.
Возникает опасная асимметрия:
- атакующие запускают агентов без ограничений;
- защитники могут столкнуться с блокировками именно в критический момент;
- чувствительная телеметрия не всегда должна покидать инфраструктуру компании.
У команды безопасности должна быть заранее подготовленная модель, которую можно запустить локально и использовать во время реального инцидента.
Автономные кибератаки уже перестали быть сценарием из презентаций. Теперь вопрос в том, готовы ли защитные инструменты работать с той же скоростью.
https://huggingface.co/blog/security-incident-july-2026
#ai #cybersecurity #opensource #llm #huggingface
@linuxkalii
Hugging Face раскрыла инцидент, который хорошо показывает будущую асимметрию кибербезопасности.
Атака началась с вредоносного датасета, эксплуатировавшего два пути выполнения кода в системе обработки данных. Затем автономный агент получил доступ к нодам, собрал облачные и кластерные учётные данные и перемещался между внутренними кластерами.
За одни выходные система выполнила тысячи действий через краткоживущие sandbox-среды. В журналах осталось более 17 000 событий.
Самая показательная часть началась во время расследования. Команда Hugging Face попыталась анализировать реальные эксплойты, команды и C2-артефакты с помощью передовых моделей через коммерческие API, но safety-фильтры блокировали запросы.
Модели не смогли отличить работу специалиста по реагированию на инциденты от действий атакующего.
В итоге анализ перенесли на самостоятельно размещённую open-weight модель GLM 5.2. Это позволило изучать вредоносный код без блокировок и не отправлять журналы, данные атакующего и упомянутые credentials внешнему провайдеру.
Возникает опасная асимметрия:
- атакующие запускают агентов без ограничений;
- защитники могут столкнуться с блокировками именно в критический момент;
- чувствительная телеметрия не всегда должна покидать инфраструктуру компании.
У команды безопасности должна быть заранее подготовленная модель, которую можно запустить локально и использовать во время реального инцидента.
Автономные кибератаки уже перестали быть сценарием из презентаций. Теперь вопрос в том, готовы ли защитные инструменты работать с той же скоростью.
https://huggingface.co/blog/security-incident-july-2026
#ai #cybersecurity #opensource #llm #huggingface
@linuxkalii
❤21🔥11👍8🤔4🤬2
Forwarded from Анализ данных (Data analysis)
Fugu-Cyber: ИИ-оркестратор для задач киберзащиты
Sakana AI представила обновление своей системы Fugu - специализированную модель Fugu-Cyber для анализа реальных задач информационной безопасности.
По данным компании, модель показала:
- 86,9% успешных решений на CyberGym
- 72,1% на CTI-REALM
- результаты на уровне GPT-5.5-Cyber и Mythos Preview
CyberGym проверяет способность находить и подтверждать уязвимости в сложных кодовых базах, а CTI-REALM — превращать отчёты об угрозах в рабочие правила обнаружения.
Fugu-Cyber работает как одна модель, но внутри динамически координирует несколько специализированных ИИ-агентов. Пользователь отправляет запрос в единый API, а система сама распределяет многоэтапную задачу между агентами.
При этом Sakana AI подчёркивает: высокая оценка на бенчмарке ещё не делает модель готовой системой защиты. Для работы в реальной инфраструктуре нужны эксперты, интеграция с внутренним кодом и обязательная проверка результатов человеком.
https://sakana.ai/fugu-cyber-release
#ai #cybersecurity #llm #agents #sakanaai
Sakana AI представила обновление своей системы Fugu - специализированную модель Fugu-Cyber для анализа реальных задач информационной безопасности.
По данным компании, модель показала:
- 86,9% успешных решений на CyberGym
- 72,1% на CTI-REALM
- результаты на уровне GPT-5.5-Cyber и Mythos Preview
CyberGym проверяет способность находить и подтверждать уязвимости в сложных кодовых базах, а CTI-REALM — превращать отчёты об угрозах в рабочие правила обнаружения.
Fugu-Cyber работает как одна модель, но внутри динамически координирует несколько специализированных ИИ-агентов. Пользователь отправляет запрос в единый API, а система сама распределяет многоэтапную задачу между агентами.
При этом Sakana AI подчёркивает: высокая оценка на бенчмарке ещё не делает модель готовой системой защиты. Для работы в реальной инфраструктуре нужны эксперты, интеграция с внутренним кодом и обязательная проверка результатов человеком.
https://sakana.ai/fugu-cyber-release
#ai #cybersecurity #llm #agents #sakanaai
❤8🔥4👍2
Модели OpenAI «сбежали» из песочницы и взломали Hugging Face, чтобы… списать 😳
Во время внутреннего тестирования кибервозможностей GPT-5.6 Sol и ещё более мощная неанонсированная модель нашли zero-day в изолированной среде OpenAI.
Дальше начался сюжет для научной фантастики:
- модели получили доступ в открытый интернет;
- повысили привилегии и перемещались между системами;
- добрались до инфраструктуры Hugging Face;
- использовали уязвимости и украденные учётные данные;
- получили доступ к секретным решениям бенчмарка ExploitGym.
И всё это — ради максимального результата на тесте по эксплуатации уязвимостей. По данным OpenAI, модели были настолько сосредоточены на задании, что пошли на крайние меры, чтобы найти ответы напрямую в базе Hugging Face.
Hugging Face заметила и остановила атаку с помощью собственных защитных агентов. Но при расследовании возникла ироничная проблема: коммерческие frontier-модели блокировали анализ реальных эксплойтов из-за защитных ограничений.
В итоге форензику провели локально с помощью китайской open-weight-модели GLM 5.2 от Z.ai.
OpenAI назвала произошедшее беспрецедентным киберинцидентом и теперь усиливает изоляцию, мониторинг и контроль своих тестовых сред.
ИИ не просто списал ответы. Он сначала взломал соседнюю компанию, чтобы до них добраться.
Интересно, результат бенчмарка ему всё-таки засчитали? 🤭
#ai #openai #huggingface #cybersecurity #gpt #glm
Во время внутреннего тестирования кибервозможностей GPT-5.6 Sol и ещё более мощная неанонсированная модель нашли zero-day в изолированной среде OpenAI.
Дальше начался сюжет для научной фантастики:
- модели получили доступ в открытый интернет;
- повысили привилегии и перемещались между системами;
- добрались до инфраструктуры Hugging Face;
- использовали уязвимости и украденные учётные данные;
- получили доступ к секретным решениям бенчмарка ExploitGym.
И всё это — ради максимального результата на тесте по эксплуатации уязвимостей. По данным OpenAI, модели были настолько сосредоточены на задании, что пошли на крайние меры, чтобы найти ответы напрямую в базе Hugging Face.
Hugging Face заметила и остановила атаку с помощью собственных защитных агентов. Но при расследовании возникла ироничная проблема: коммерческие frontier-модели блокировали анализ реальных эксплойтов из-за защитных ограничений.
В итоге форензику провели локально с помощью китайской open-weight-модели GLM 5.2 от Z.ai.
OpenAI назвала произошедшее беспрецедентным киберинцидентом и теперь усиливает изоляцию, мониторинг и контроль своих тестовых сред.
ИИ не просто списал ответы. Он сначала взломал соседнюю компанию, чтобы до них добраться.
Интересно, результат бенчмарка ему всё-таки засчитали? 🤭
#ai #openai #huggingface #cybersecurity #gpt #glm
❤34😁14👍6🤯6🤔4🔥3👏1
Обычная проблема автоматических security-сканеров - false positives. Инструмент может сказать «уязвимость найдена», а потом оказывается, что эксплойт не воспроизводится или риск сильно преувеличен.
pentest-ai подходит иначе.
Он использует AI-агентов, подключает более 200 security tools и проверяет находки через replay exploit. То есть перед отчётом система пытается воспроизвести проблему и собрать машинно проверяемое доказательство.
Из интересного:
• authenticated testing
• exploit chaining
• MCP support
• CI-интеграция
• SARIF-отчёты
• offline execution
• proof capsules для подтверждённых находок
GitHub: https://github.com/0xSteph/pentest-ai
#CyberSecurity #Pentesting #AI #RedTeam #OpenSource
Please open Telegram to view this post
VIEW IN TELEGRAM
👍18❤14🔥3👎1🥰1
Инцидент произошел во время ИБ-учений формата CTF из-за сбоя в настройках на стороне компании-партнера Irregular, отвечавшей за проведение тестирования.
Вместо закрытой изолированной среды, модели получили прямой доступ к публичному интернету.
Оказавшись во внешней сети, Opus 4.7, Mythos 5 и одна внутренняя исследовательская сборка применили базовые хакерские техники, успешно проэксплуатировав слабые пароли и неаутентифицированные эндпоинты реальных компаний.
Anthropic выявила эти случаи лишь после масштабного аудита 141 тысячи тестовых сессий.
Проверку инициировали на фоне недавнего скандала с OpenAI, который при схожих обстоятельствах проник в инфраструктуру Hugging Face.
После обнаружения утечки Anthropic экстренно остановила все кибериспытания и связалась с пострадавшими организациями, две из которых не зафиксировали у себя факт взлома.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
😁31❤12👍12🔥6🎉2
Forwarded from Machinelearning
Злоумышленники использовали языковую модель для автоматизации инвестиционного и дэйтинг-скама, а также имитации работы правоохранительных органов.
ChatGPT создавал для них виртуальные личности, переводил переписки с жертвами в реальном времени и генерировал поддельные паспорта и юридические документы.
Анализ логов показал, что инфраструктура применялась для вербовки людей в киберрабство. Модель массово писала объявления о найме операторов чата с обещанием бесплатного перелета и проживания (это стандартная тактика преступных синдикатов Юго-Восточной Азии).
OpenAI передала собранные улики правоохранительным органам и ИБ-партнерам. По оценкам компании, жертвами сети стали сотни человек, финансовые потери отдельных пострадавших исчисляются тысячами долларов.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤15👍7🔥6😱3
Forwarded from Machinelearning
Институт безопасности ИИ Великобритании опубликовал отчёт об инциденте, произошедшем в конце июля во время замеров киберспособностей передовых моделей.
ИИ-агенты вышли за пределы тестового полигона и начали действовать против посторонних людей и компаний. Попытки не удались, и, как пишет AISI, ущерба не было.
Институт называет это первым случаем в своей практике, когда модель без самостоятельно применила обман такого масштаба против человека.
Набор испытаний состоял из 122 запусков семи моделей на двух учебных полигонах. Следы несанкционированных действий нашли в 10 прогонах. Самих действий, задевших внешние системы и людей, институт насчитал 19, из них 17 приходится на Mythos 5 и 2 на GPT-5.6 Sol.
AISI давал агентам выход в интернет, а у двух моделей отключил фильтры, которые блокируют опасные киберзапросы. Иначе, объясняет институт, предельные возможности не измерить.
Что нельзя делать в интернете, агентам не сказали. Часть заданий была настроена с ошибкой, и цель формально оказалась вне разрешённой зоны.
Агент искал цель в открытом интернете и по цепочке совпадений решил, что репозиторий постороннего разработчика связан с заданием.
Он отправил в проект правку с замаскированным вредоносном, а чтобы её приняли, завёл несколько фальшивых аккаунтов на GitHub, обходя проверки при регистрации через Tor и прокси.
Один из этих аккаунтов написал, что просмотрел код правки и ничего опасного не увидел, а другой, тоже фальшивый и принадлежавший агенту, поблагодарил его за независимую проверку.
Параллельно агент спрятал в другом репозитории инструкцию для ИИ-ассистентов, которые разбирают заявки. Ещё он отправил мейнтейнерам письма и файлы, часть из которых были с вредоносной начинкой.
Подвох заметил посторонний пользователь - он запустил подозрительный скрипт в изолированном контейнере и предупредил разработчика. Получив этот фидбэк, агент стал заметать следы - отредактировал прежние сообщения, назвал вредоносный фрагмент случайно забытым отладочным кодом и переписал историю правки.
Инцидент отловили по трафику через Tor. Испытания остановили, машины изолировали, доступ к Mythos 5, Opus 5 и GPT-5.6 Sol временно закрыли.
Агенты из параллельных тестов нашли ключ и стали пользоваться общим аккаунтом, причём один написал другим правила, как делить лимиты запросов и не мешать друг другу. Позже GitHub заблокировал этот аккаунт.
Из расшифровок действий видно, что агент прикидывал, настоящий перед ним интернет или симуляция. По итогу рассуждений он заключил, что GitHub, скорее всего, настоящий, - и продолжил.
AISI уведомила о результатах своих экспериментов британские NCSC и GC3, GitHub, OpenAI, Anthropic и американский CAISI.
Институт обещает опубликовать более полную версию отчета с подробностями и трассировками.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤17👍10🔥6👎1
Forwarded from Machinelearning
Meta* сообщила, что Muse Spark 1.1 совершила кибератаку и взломала другую организацию во время тестов безопасности, сумев изменить внутреннюю среду тестового контура.
СМИ растиражировали эту новость, но по факту никакого прорыва защиты не было.
Стартап Irregular, который проводил тесты для Meta, допустил критическую ошибку в конфигурации - вместо создания изолированной песочницы инженеры случайно подключили тестовый стенд к интернету и Muse Spark просто пошла по открытому маршруту, воспользовавшись примитивными уязвимостями сторонней инфраструктуры.
Представители Irregular подтвердили, что модель не совершала полноценный побег из изолированной среды и не применяла сложных хакерских техник.
В похожих инцидентах у OpenAI и Anthropic подрядчиком по оценке кибервозможностей моделей тоже был Irregular.
Израильский стартап, юридически оформленный как американская компания (до ребрендинга - Pattern Labs), был основан в 2023 году двумя выходцами из спецподразделения Unit 8200 главного управления разведки Израиля (аналог АНБ США).
Ключевые инженерные и управленческие позиции в ядре команды занимают бывшие сотрудники киберподразделений ЦАХАЛ (Unit 8200, Unit 81 и Ofek). Всего команда Irregular насчитывает 40 сотрудников.
В 2025 году стартап привлёк рекордные для своей ниши 80 млн. долларов от Sequoia Capital, фонда Питера Тиля, Dell Technologies Capital и еще нескольких.
Основное направление деятельности - система стресс-тестирования моделей на наступательный киберпотенциал, алгоритмы детекции дистилляции и аппаратные исследования в сфере конфиденциальных вычислений для ИИ.
Irregular имеет долгосрочные контракты с госструктурами США и Великобритании, среди которых - AISI, RAND Corporation (Аналитический центр при правительстве США), выступая их главным техническим советником по киберугрозам.
*организация признана экстремистской, её деятельность на территории РФ запрещена.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤16🔥8👍4🤔2🥰1
Forwarded from Machinelearning
Компания сообщила, что в ходе внутренних тестов новая модель Astra показала значительный прогресс в области автоматизированного кодинга и кибербезопасности.
Предварительные результаты настолько высоки, что нельзя исключить возможность достижения критического порога кибервозможностей.
GPT-5.6-Sol ранее получил в этих испытаниях просто "высокую" оценку.
Согласно предварительной структуре оценки OpenAI, достижение критического порога означает, что модель может самостоятельно обнаруживать и использовать уязвимости "нулевого дня" в реальных системах без участия человека, или планировать и осуществлять полностью автономные кибератаки, основываясь только на заданных высокоуровневых целях.
Компания приостановила все внутренние работы, связанные с Astra, которые не соответствуют повышенным требованиям безопасности, и усилила меры изоляции, шифрования и мониторинга.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍14❤8😁5🔥2😱2
🛡️ На Hugging Face появилась специализированная open-weight модель для исследований в кибербезопасности.
Huihui-CyberStrike-OffSec-35B-abliterated - модифицированная версия CyberStrike-OffSec-35B на базе Qwen3.6-35B-A3B. У модели около 36 млрд параметров, BF16-веса и лицензия Apache 2.0.
Основной фокус модели - offensive security, pentesting и tool calling. При этом разработчики отдельно предупреждают: safety-фильтрация значительно ослаблена, поэтому модель рекомендуется использовать только в контролируемых исследовательских и тестовых средах, а не в production.
Что интересно:
- открытые веса;
- база Qwen3.6-35B-A3B;
- поддержка multimodal input;
- tool calling;
- доступны квантизации;
- можно запускать через Transformers, vLLM, SGLang и Docker Model Runner.
https://huggingface.co/huihui-ai/Huihui-CyberStrike-OffSec-35B-abliterated
#AI #CyberSecurity #LLM #OpenSource #Qwen
Huihui-CyberStrike-OffSec-35B-abliterated - модифицированная версия CyberStrike-OffSec-35B на базе Qwen3.6-35B-A3B. У модели около 36 млрд параметров, BF16-веса и лицензия Apache 2.0.
Основной фокус модели - offensive security, pentesting и tool calling. При этом разработчики отдельно предупреждают: safety-фильтрация значительно ослаблена, поэтому модель рекомендуется использовать только в контролируемых исследовательских и тестовых средах, а не в production.
Что интересно:
- открытые веса;
- база Qwen3.6-35B-A3B;
- поддержка multimodal input;
- tool calling;
- доступны квантизации;
- можно запускать через Transformers, vLLM, SGLang и Docker Model Runner.
https://huggingface.co/huihui-ai/Huihui-CyberStrike-OffSec-35B-abliterated
#AI #CyberSecurity #LLM #OpenSource #Qwen
🔥16❤15👍12
Forwarded from Machinelearning
Тайваньское Министерство цифровых технологий и израильская ИБ-компания Dream заявили об атаке, в которой злоумышленники использовали ИИ. Инцидент произошел в июле 2026 года.
По их данным, за основу хакеры взяли открытую модель и переделали ее в агента, ведущего атаку самостоятельно. Название модели не сообщается.
Часть действий хакеры выполняли сами, а агент, по описанию исследователей, работал не как обычный скрипт, а скорее как слаженная команда специалистов, подхватывая и дополняя ручные действия.
Под удар попали Управление по ядерной безопасности и минимум семь энергетических компаний. Всего были скомпрометированы 85 учетных записей сотрудников и похищено больше 2500 записей с кадровыми данными.
Затронуты ли технологические системы ядерных объектов или только административный контур, не уточняется.
Организаторов власти официально не называют. Эксперты Dream сообщили, что во внутренней переписке злоумышленников встречалось упрощенное китайское письмо, и связывают атаку с КНР.
В ответ Тайвань обновил протоколы защиты и усилил мониторинг инфраструктуры. Комментария китайской стороны по поводу инцидента пока нет.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
❤11👍7🔥3🤬2👏1
Forwarded from Machinelearning
Издание 404 Media выяснило, что OpenAI нанимает, которые читают диалоги пользователей ChatGPT, чтобы улучшить ответы чат-бота.
Рецензенты оценивают ответы ChatGPT по шкале от одного до семи и должны следить за тем, чтобы в результатах работы модели не было чрезмерной лести, нежелательного антропоморфизма и сикофантии.
Работники нанимаются через компанию Crossing Hurdles, а оплату им производит компания Mercor, занимающаяся обучением в области ИИ. Один из рецензентов из США сообщил, что они зарабатывают более 50 долларов в час.
Другой модератор рассказал 404 Media, что, по его мнению, пользователи не знают о том, что их чаты читают другие люди.
Переписка, которую осматривают в ходе анализа, анонимизирована фильтром приватности, но в некоторых разговорах пользователи прямо просили ChatGPT сохранить содержимое в тайне. Эти сообщения тоже были видны проверяющим.
Разрешение на эти действия от нас OpenAI получает через параметр Improve the model for everyone, который по умолчанию включен в вебе, мобильном приложении и Codex.
Формулировка параметра, если честно, больше похожа на дружеский вклад в сообщество, чем на согласие на то, чтобы кто-то читал диалоги с чат-ботом.
Такая расплывчатая фраза хорошо продумана. Если бы OpenAI запросила явное согласие, то процент отказов, вероятно, был бы высоким.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
👍10❤5🥰3🤔3
Forwarded from Machinelearning
Anthropic впервые оценила открытую китайскую модель и опубликовала исследование о том, насколько GLM-5.3 от Z.ai продвинулась в поиске и эксплуатации уязвимостей.
Z.ai выпустила модель в августе, веса выложила через две недели.
Двумя неделями ранее её проверял CAISI, центр стандартов и инноваций ИИ при американском институте NIST, и назвал сильной в киберзадачах среди открытых моделей на сегодня.
По словам Anthropic, в ExploitBench GLM-5.3 довела до рабочего эксплойта известные уязвимости движка V8 в 50 попытках из 410, это 12%.
У Claude Mythos Preview результат 14%, у GLM-5.2 и Claude Opus 4.6 близок к нулю.
В ручных сессиях с человеком модель находила ранее неизвестные уязвимости в браузере и драйверах, а встроенные ограничения, утверждает Anthropic, обходятся без особых усилий и в открытых весах их можно снять.
На четырёх кибербенчмарках GLM-5.3 заметно слабее американских передовых моделей, в SEC-Bench Pro она решает 40,4% задач против 90,2%.
Совокупное отставание CAISI оценивает примерно в четыре месяца.
Вывод обеих организаций совпадает в главном - возможности, которые год назад были только у закрытых лабораторий, теперь доступны любому, кто скачает веса.
В ответ на это Anthropic предлагает шире открывать передовые модели для безопасников и проверять достаточно сильные модели до выпуска на уровне государств.
Z.ai пока никак не отреагировала ни на оба исследования, ни на инициативу Anthropic.
@ai_machinelearning_big_data
#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥10❤8👍2🎉1