Как безопасно внедрять облачных ИИ-агентов в разработку
ИИ-агенты помогают ускорять разработку, но их внедрение требует отдельного внимания к безопасности. Как не допустить утечки исходного кода и корпоративных данных и при этом дать агентам всё необходимое для работы?
 
В «Лаборатории Касперского» подготовили практический материал на основе собственного опыта внедрения. Он поможет разобраться в основных рисках, выбрать подходящие меры защиты и понять, что стоит предусмотреть до того, как ИИ-агенты начнут работать с реальными проектами.
 
Что внутри:
 
- основные риски внедрения облачных ИИ-агентов в разработку ПО;
- подходы «Лаборатории Касперского» к защите — изоляция рабочей среды, многоуровневое журналирование, LLM Gateway и другое;
- чек-лист безопасного внедрения ИИ-агентов.
 
Документ пригодится командам разработки и специалистам по ИБ, которые планируют внедрять ИИ-агентов и хотят заранее продумать меры защиты.
 
Скачать материал

• Недавно заметил на одном из сайтов интересную модель "переносного" компьютера от Apple, который назывался Macintosh Portable. Он был представлен публике в бородатом 1989 году. Меня заинтересовала клавиатура устройства, которую, между прочим, можно было переконфигурировать, а рядом с основным блоком клавиатуры стоял трекбол. Но, обо всем по порядку...

• Macintosh Portable был первым "портативным" компьютером от Apple! Слово "портативное" не зря взято в кавычки - устройство напоминало скорее системный блок с экраном и клавиатурой, а его вес составлял целых 7.2 Кг - носить его постоянно с собой было проблематично. Зато, в отличии от современных MacBook, Apple тогда не стеснялась запихивать в устройство все, что можно - в нем был и полноразмерный дисковод, и, как уже было сказано ранее, клавиатура с трекболом (до тачпада еще оставалось лет 5), полноразмерный 3.5" жесткий диск. Экран по современным меркам был, конечно, ужасным - 9.8 черно-белый дисплей с разрешением в 640х480, огромными задержками при движении курсора и низкой яркостью. Но по тем временам это был хороший дисплей для ноутбука.

• Ну и самой главной частью устройства, которая и обеспечивала портативную работу, стал свинцово-кислотный аккумулятор. Apple рассудила здраво - увеличение веса с 6 до 7 Кг заметят немногие, а вот то, что "ноутбук" может работать автономно 10 часов, должно прийти по вкусу многим. Цифра в 10 часов удивляет даже сейчас, однако в конце 80-х тут не было ничего странного - энергопотребление процессора не превышало ватта, то есть никаких кулеров. Экран также был достаточно тусклым и требовал немного. Единственными подвижными частями были дисковод и жесткий диск, но и на них нагрузка далеко не всегда была пиковая, так что в итоге даже небольшая АКБ без труда обеспечивала по 8-10 часов работы.

• По ОЗУ все было неплохо - 1 МБ, причем юзеры могли расширить этот объем аж до 9 мб. Стандартный жесткий диск был на 40 МБ, и его можно было при желании сменить на более емкий.

• Ну и одной из основных фишек можно выделить клавиатуру устройства! Рядом с основным блоком клавиатуры стоял трекбол, который юзер мог разместить с любой стороны - хоть справа, хоть слева, а также заменить на нампад, например, если подключал мышь. Однако эта редкая попытка учесть потребности левшей так и осталась экзотическим экспериментом.

• Во-первых, цена - целых 7300 баксов на старте (порядка $20.000 сейчас) - при том что непортативные Macintosh стоили 2500-3000 баксов. Во-вторых, вес - таскать с собой системный блок согласится не каждый, да и работать на коленях с ним было мягко говоря трудно. Ну и самое главное - очень малому числу людей он был нужен: в 1989 году Интернета в нашем понимании этого слова еще не было, иметь дома и на работе один ПК также было не нужно, потому что дома с него нечего было делать. Так что устройство по сути нужно было только на работе, а там вполне можно было обойтись обычным непортативным компьютером. В итоге все это привело к тому, что критики хорошо приняли данный девайс, а вот пользователи - нет...

S.E. ▪️ infosec.work ▪️ VT

Приглашаем принять участие в Студенческом чемпионате «Кибербезопасность в финансах» Молодежной программы 365!

Киберчемпионат Банка России — командное соревнование для тех, кто учится на ИТ- и ИБ-специальностях. Участников ждет погружение в мир кибербезопасности: решение практических задач, командная работа, взаимодействие с профильными экспертами, знакомство с единомышленниками и многое другое.

Какие будут этапы?

·         Онлайн-отбор: подача заявки, решение CTF-задач и командное интервью. Топ-10 команд получат приглашение в полуфинал
·         Подготовка к очному этапу: знакомство с киберполигоном, тестовые киберучения и совместная работа с профильными экспертами
·         Полуфинал и финал на Уральском форуме в Екатеринбурге: битва на киберполигоне, защита отчетов перед профильным жюри, а также доступ к деловой программе Форума

Кто может принять участие?

Команды из 4–5 человек — студентов бакалавриата, специалитета, магистратуры в возрасте от 18 до 25 лет.

Не упусти возможность испытать себя на киберполигоне, поработать над реальными задачами и сразиться за призовой фонд. Регистрация открыта по 3 декабря.

Подать заявку.

• Недавно рассказывал вам о Macintosh Portable и в качестве его особенности выделил клавиатуру с трекболом. Так вот, в то время практически все клавиатуры были с именно с нампадом (NumPad), только Apple решили пойти другим путем и реализовали в клаве Macintosh Portable трекбол... Но давайте расскажу про нампад. Откуда вообще он взялся и зачем его придумали?

• Все началось с идеи ускорить рутинный ввод цифр. Ведь нампад (или цифровой блок) - это не причуда промышленных дизайнеров, а прагматичное решение, позволяющее одной рукой быстро оперировать числами и выполнять расчеты. Хотя сегодня его компоновка кажется единственно верной, путь к этому "идеалу" занял десятилетия и был проложен в эпоху механических счетных машин - более 100 лет назад.

• Своим существованием нампад обязан изобретателю шведского происхождения Дэвиду Сандстранду, который придумал и запатентовал первую в мире механическую счетную машину с 10-клавишной клавиатурой (на фото).

• Дизайн был до гениальности прост - десять цифровых клавиш в три ряда по три кнопки и клавиша "0" в самом низу.

• Раскладка позиционировалась как более легкая и быстрая альтернатива. И как только срок действия патента истек, 10-клавишный дизайн тут же скопировали конкуренты. К 1950-м годам он стал отраслевым стандартом для настольных калькуляторов и счетных машин.

• С наступлением эры электроники в 1960-х раскладка перекочевала на электромеханические и электронные вычислительные устройства, а потом - и на ПК.

• Истоки числового блока начинаются в 1951 году. Пульт оператора UNIVAC I (на втором фото) - одного из первых коммерческих цифровых компьютеров - был оснащен отдельной панелью для ввода чисел.

• С наступлением эры персональных компьютеров в середине 1970-х нампад перекочевал и на их клавиатуры. Такие легенды, как Commodore PET и Sol-20 (на 3 и 4 фото), уже имели на борту привычную 10-клавишную цифровую клавиатуру. Интересное наблюдение: чем более "офисно-ориентированным" был ПК, тем выше была вероятность увидеть на нем нампад.

• Но настоящим эталоном стандарта стала клавиатура IBM, представленная в 1981 году. Конструкторы "голубого гиганта" не просто перенесли на неё проверенную раскладку, но и добавили ключевые усовершенствования: клавиши математических операций (+, -, *, /) и, что особенно важно, - клавишу Num Lock.

• Именно Num Lock наделила нампад двойным функционалом. В одном режиме с его помощью можно было быстро вводить цифры и производить вычисления, в другом он превращался в удобный блок навигации со стрелками и кнопками Home, End, Page Up / Page Down и другими. Эта простая, но блестящая идея позволила дать пользователям две полноценные функциональности на одном "островке" клавиатуры, не увеличивая ее размер. Именно с этого момента цифровой блок окончательно перестал быть опцией и стал стандартом де-факто для любого персонального компьютера.

• В 1984 году IBM представила 101-клавишную клавиатуру, известную сегодня как легендарная Model M. Цифровой блок, разумеется, занял на ней свое почетное место.

• Эта конструкция вскоре стала отраслевым стандартом для IBM PC-совместимых компьютеров, а со временем ее приняли другие платформы и производители - взгляните, к примеру, на Apple Extended Keyboard.

• Клонируя успешный дизайн IBM, производители сделали нампад обязательным атрибутом большинства ПК-клавиатур в 80-х, 90-х и 2000-х годах. Он перестал быть опцией и превратился в данность...

S.E. ▪️ infosec.work ▪️ VT

• Давайте на секунду вернемся в начало 90-х. Как тогда выглядели компьютеры? Огромный ЭЛТ-монитор, системный блок, который гудит, как пылесос, шариковая мышь. И никакой кнопки "Пуск"!

• Запуск любой программы в те времена напоминал небольшой квест. Сначала нужно было открыть Program Manager - главное окно с группами иконок, разбросанными в произвольном порядке - и найти нужное приложение. Вроде бы, звучит просто? Да, пока у вас 5 приложений. А если 50?

• Program Manager был довольно функционален, но не слишком интуитивен. Вот хотите вы открыть текстовый редактор. Где он? В группе "Accessories"? Или вы переместили его в "Office"? А может, вы давным давно создали собственную группу программ и забыли, как она называется?

• Конечно, пользователи адаптировались - создавали ярлыки на рабочем столе, запоминали путь к файлам, осваивали горячие клавиши. Однако для новичков это был серьезный квест для освоения ОС.

• Уже в середине 90-х Microsoft столкнулась с довольно сложным вызовом. Именно в эту пору персональные компьютеры переставали быть уделом гиков и офисных работников. Они появлялись на столах обывателей, ими учились пользоваться простые учителя, школьники, даже пенсионеры. Аудитория персонального компьютера как явления менялась. А вот интерфейс - нет.

• Разрабы Windows понимали - чтобы винда стала действительно массовой ОС, она должна начать говорить на языке пользователя. Новая версия винды должна понимать, чего от нее хочет обычный юзер.

• Именно так родилась идея единой точки входа - кнопки, на которую можно просто нажать и в один клик получить доступ ко всему, что нужно.

• Одновременно с этим разработчики понимали, что новой ОС нужен такой интерфейс, который бы одновременно снижал порог входа для новичков, не отпугивая более опытных пользователей, при этом выглядел бы современно, но не вычурно и успешно работал бы даже на слабом железе.

• Начав работу над интерфейсом Windows, сперва было принято решение понаблюдать за тем, как разные пользователи ведут себя в ОС (тогда это была версия 3.1). Результаты были довольно… красноречивы. Так, например, инженер из Boeing целых 20 минут пытался просто открыть текстовый редактор.

• Именно после подобных наблюдений и родилась идея единой кнопки, которая ведет ко всему, что может понадобиться пользователю. Сначала ее назвали "System" и разместили вверху экрана - но пользователи игнорировали ее как слишком сложную и техническую - мало ли в какие дебри системы она может вести...

• Было решено переименовать ее в "Start" (по-русски - Пуск) и перенести в нижний левый угол. Это сработало! Один пользователь в рамках тестирования смог выполнить базовую задачу еще до того, как ему дали инструкцию.

• Кстати, одновременно с этим появилась и панель задач - чтобы юзеры видели, какие программы запущены. Изначально это были вкладки вверху экрана (как в браузере), но позже их "спустили" вниз и превратили в кнопки. Ходят слухи, что такое решение приняли, чтобы не повторять дизайн Mac OS и избежать судебных рисков (но это неточно). Так и пошло...

S.E. ▪️ infosec.work ▪️ VT