Скованные одной цепью.

В последние пару недель были последовательно скомпрометированы сканер уязвимостей Trivy, а через него – инструмент вызова языковых ИИ‑моделей LiteLLM, библиотека с почти 100 млн загрузок в месяц. Ещё пару взломанных софтин от Checkmarx опустим для краткости.

Почему это так серьёзно, хотя широкой публике эти названия ни о чём не говорят?

Масштаб ущерба от атак на цепочки поставок в IT может быть совершенно зашкаливающим.

Как это работает? Фактически все, кто создают софт, используют готовые элементы. Зачем изобретать велосипед, если можно взять готовый?

Вот люди решили провести соревнование по скоростному сбору грибов в лесу. Они делают веб‑страницу, куда вставляют приём платежей для продажи билетов, а также карту местности с отметкой, куда надо ехать.

Попытка для такой страницы переписать с нуля яндокарту или платёжный шлюз очевидно не имеет смысла.

То же самое происходит и «под капотом» практически любого IT‑проекта.

И если какую‑то деталь протроянили негодяи — в нашем случае сканер Trivy — то все, кто его скачали в таком виде, получили вредонос себе в инфраструктуру. А если на его базе делали B2B‑инструмент, то и он (как LiteLLM) тоже оказался протроянен. И так далее по цепочке.

Волна заражений разошлась широко, и как пишет коллега Саша Гостев, негодяи "сообщили, что в данный момент вымогают деньги у нескольких компаний с многомиллиардной капитализацией, из которых были похищены данные".

Подробности про атаку можно почитать здесь, тут её технический анализ, а заодно вот ещё и подборка самых примечательных атак на цепочки поставок за 2025 год.

Картинка для привлечения внимания, увы, англоязычная, что-то на русском версии попадаются не те.

ИИ-агент под охраной.

Итак, относительно недавняя новость: исследователи предложили концепцию, в которой агентного ИИ-работника, умеющего что-то делать с последствиями в реальном мире, для безопасности стоит заключить в виртуальную камеру-песочницу.

И поставить на периметре ИИ-охранника, чтобы бил первого по рукам, когда тот попытается натворить что-то не то, в соответствии с политикой безопасности.

Инструкции для неё, то есть “конституцию безопасности”, можно писать на обычном языке, в данном случае английском.

Не специалист по соответствующим технологиям, по существу могут прокомментировать “настоящие сварщики”, например, Влад. Не могу сказать, взлетит ли, может и разумно звучит, время покажет.

Может быть, кривая развития так называемого ИИ приведёт к разнообразному разделению труда внутри наших устройств. Будет полная коробочка сущностей, первая пишет код, вторая созванивается, третья детали на складе заказывает, а четвёртая первых трёх стережёт, чтобы чего не удумали.

Ну а может быть, будет монолитный, шибко умный ИИ — и швец, и жнец, и на дуде игрец.

Тема немного рифмуется, например, с ломанием копий вокруг архитектуры ОС. Ну и мы тоже поучаствовали, и конечно же, для построения конструктивно безопасных ИТ-систем нужна полная изоляция компонентов!

Хочу напомнить, что, конечно, и “охранник”, и “агент-работник”, и прочие “сущности” – это не настоящие персонажи, не носители интеллекта, а алгоритмы, да, тяжёлые, сложные, требующие огромных вычислительных мощностей, просто непредставимых лет 30 назад.

Это не личности, а средства автоматизации самых разных задач, которые раньше не получалось автоматизировать, а теперь — получается. Участвовать в этой технологической волне, конечно, очень интересно.