У нейросети всё под контролем. Кажется...

ИИ-агенты получают доступ к внутренней информации компании, сами пишут код и исправляют уязвимости. Но кто проверяет, насколько качественно они выполнили задачу и не сломали ли что-нибудь по пути? Собрали пять историй о том, как хабраавторы ищут уязвимости в ИИ-инструментах, защищают системы от неожиданных действий агентов и учатся отличать реальные угрозы от ложных срабатываний.

🥷 ИИ-агенту запретили запись в CRM. Но CRM всё равно изменилась

🥷 Как мы пускаем ИИ на боевые сайты, или Что происходит после команды «исправляй»

🥷 Я потратила $9 000 на ИИ-агентов и в итоге сделала Crossweft — проверку того, что они ломают между файлами

🥷 False positive под небом цвета телевизора, настроенного на мертвый канал

🥷 Сторонние MCP: троянский конь для ИИ-агента

Сезон «Код будущего» на Хабре, который мы проводим вместе со Сбером, набирает обороты. Успейте поучаствовать: приём статей продлится до 11 ноября 2026 года.

Реклама. ПАО «Сбербанк»,
ИНН 7707083893, 2VSb5wz1dMU

Когда сотрудничество между командами начинает мешать работе

В New Relic межкомандное сотрудничество поощряли настолько, что подобные достижения даже учитывали при повышении сотрудников. «Можете винить в этом меня!» — признаётся один из участников этой практики.

Через несколько лет в инженерном подразделении стало невозможно реализовывать крупные проекты. Их поручали в том числе одному из «лучших менеджеров проектов», но они регулярно срывались. Все героически старались справиться, однако ничего не получалось.

Обычно при проблемах между подразделениями руководители призывают «ломать организационные барьеры». Но в New Relic сотрудничество уже было частью корпоративной культуры. И призыв к ещё более тесной работе в такой ситуации выглядит как минимум спорным.

Как менять Rust-код без перезапуска приложения

Поменяли пару строк — и снова запускайте приложение, подключайтесь к БД, открывайте тестовые файлы, восстанавливайте состояние. Hotreload позволяет этого не делать: код обновляется прямо во время работы программы, а текущее состояние сохраняется.

В Rust один из способов построить такой механизм — динамические библиотеки. На словах всё просто: пересобрали код, заменили библиотеку и продолжили работу. На практике быстро всплывают вопросы безопасности, синхронизации и производительности, а ручная обвязка начинает разрастаться.

Автор разбирает эти проблемы одну за другой и в итоге сводит использование hotreload к #[hotreload] перед функцией — без необходимости переписывать места её вызова.

Звёздные хороводы в галактике Hen 2-10

Hen 2-10 — карликовая галактика диаметром всего около 3000 световых лет. Но в её центре находится мощный компактный радиоисточник, связанный с активным звездообразованием. И это уже необычно: в более крупных галактиках сверхмассивные чёрные дыры могут, наоборот, мешать рождению новых звёзд.

Что именно находится в центре Hen 2-10, до конца не ясно. Один из вариантов — сверхмассивная чёрная дыра, но наблюдения допускают и другие объяснения. Поэтому эта маленькая галактика интересна как возможный «лабораторный образец» процессов, которые могли быть характерны для ранней Вселенной.

Большая подборка космических карт для тех, кому на Земле уже скучно

На земных картах можно рассмотреть почти любой уголок планеты. С Марсом, Луной и другими небесными телами сложнее: их карты приходится собирать по кусочкам из данных космических аппаратов. Зато изучать их теперь можно прямо в браузере.

Например, проследить маршруты Curiosity и Perseverance, приблизить поверхность Луны до отдельных валунов или перемотать время вперёд, чтобы увидеть будущее положение «Вояджера-2». Причём некоторые из этих сервисов используют те же научные данные, с которыми работают специалисты космических миссий.

И это только часть подборки. Здесь есть и простые интерактивные модели для любопытных, и профессиональные атласы для работы с данными астрономических наблюдений.

Как настроить такую цифровую среду внутри компании, чтобы в ней было удобно работать?

В фильме «Начало» Ариадна создаёт продуманные виртуальные миры. Чем лучше всё спроектировано, тем меньше человек отвлекается на то, как именно это устроено. С внутренней средой компании логика похожая.

В своих статьях на Хабре специалисты Sminex рассказывают, как создают цифровое пространство для ежедневных задач команды. В их блоге можно почитать о том, как AI помогает оформлять новых сотрудников, зачем автоматизировать реферальную программу, почему «айтишники» помогают организовывать корпоративы и для чего девелоперам BI-технологии.

Вместо того чтобы крутить волчок, читаем статьи про внутренние разработки:

🏙 Как мы научили ИИ-модель понимать документы и теперь оформляем новых сотрудников в два раза быстрее

🏙 Свой продукт для управления корпоративами: от MVP за два месяца до успешной версии 4.0

🏙 Как мы автоматизировали реферальную программу и запустили цифровой сервис «Рекомендовать кандидата»

🏙 «ТЭП Контроль»: как мы превращаем площади из цифр в Excel в управляемые данные проекта

К истории радиоламп: ранние приборы с конусными анодами

В начале XX века радиолампы могли выглядеть весьма затейливо. Конусные аноды, необычные электродные системы, причудливые формы — инженеры ещё только нащупывали удачные конструкции. А вокруг вовсю шли патентные войны, приближалась Первая мировая, и на надёжной радиосвязи можно было неплохо заработать.

Британская Cossor подошла к делу с особым размахом. Куполообразные аноды сравнивали со стальными солдатскими шлемами, долговечность нитей накала — с прочностью римских арок. Даже упаковка была под стать: нарядные картонные футляры с мягкой прокладкой из конского волоса.

Что скрывалось за столь необычными конструкциями и как эти лампы проявляли себя на практике — отдельная история с патентами, инженерными ухищрениями и редкими фотографиями приборов, которым уже около ста лет.

Что меняется при переходе от разработчика к тимлиду?

Для разработчика переход в управление означает непривычную смену приоритетов. Можно писать меньше кода, но работать больше. Вместо собственных закрытых задач приходится отвечать за сроки, чужие ошибки, конфликты и результат всей команды. При этом одной технической экспертизы уже недостаточно.

Зато и зарплатные перспективы соответствующие. По данным Хабр Карьеры, медианная зарплата лида бэкенд-разработчиков составляет 450 тысяч рублей в месяц, а ML-разработки — 503 тысячи. Но как понять, что вы готовы к такой роли, какие навыки стоит развивать и с чего начинать переход в управление? Давайте разбираться.

MicroBuild: DOOM‑Style движок на AVR

Всё началось с попытки найти полноценный псевдо-3D-движок для AVR. Но поиски выдавали в основном вращающиеся кубы и рейкастинг в духе Wolfenstein 3D. А хотелось чего-то поближе к DOOM.

Тогда возникла идея разобраться в движке Джона Кармака и перенести его на микроконтроллер. Делов-то! Правда, попытка освоить BSP-деревья быстро охладила энтузиазм. Пришлось искать другой путь.

В результате появился MicroBuild — собственный псевдо-3D-движок для Arduino Nano на Atmega328. Меньше 1 КБ оперативной памяти, никаких аппаратных вычислений с плавающей точкой, зато целая коллекция инженерных головоломок. И некоторые возможности, которые на таком железе совсем не ожидаешь увидеть.

Руководитель в США отправил резюме на вакансию старшего специалиста в собственной команде и получил отказ за 6 минут. Вакансию он открыл сам, но несколько месяцев HR уверяли его, что подходящих кандидатов на рынке нет. Тогда менеджер создал новый адрес электронной почты, изменил имя и некоторые даты в резюме, основанном на собственном опыте, и отправил заявку.

Оказалось, что кадровики передали первичный отбор нейросети. Та месяцами отбраковывала почти все резюме, в которых не находила точного совпадения с ключевыми словами. Неделю спустя менеджер обнаружил возможную причину собственного отказа: фильтр требовал «React.js», а в его резюме было написано «React».

Как появилась современная система летоисчисления. Часть певрая. Календарь имени Юлия Цезаря и Октавиана Августа

В Древнем Риме календарный год мог насчитывать от 335 до 378 дней. Решение о добавлении лишнего месяца принимали жрецы, причём руководствоваться они могли далеко не только календарными соображениями. Дело в том, что сроки полномочий избранных правителей были привязаны к официальным годам, а значит, их можно было произвольно удлинять или сокращать.

Положить конец этой практике решил Юлий Цезарь. В ходе реформы 46 год до нашей эры растянулся до 445 суток, а затем появился календарь с привычными нам месяцами и високосными годами. Правда, римские жрецы умудрились напортачить и с новой системой, так что дело Цезаря пришлось доводить до конца уже Октавиану Августу.

Есть профессия, в которой можно намеренно издеваться над людьми и получать за это деньги.

Например, придумать босса, которого игрок будет пытаться победить весь вечер. А когда наконец победит, окажется, что у босса есть вторая фаза.

И самое удивительное — игрок ещё и поблагодарит вас за отличную игру.

Если вам тоже хочется профессионально портить людям выходные, на витрине Хабр Курсов есть программы по геймдизайну и разработке игр на Unity и Unreal Engine.

Чем отличаются клавиатуры для Windows и Mac помимо расположения клавиш?

То, что в Windows называется Backspace, на Mac зовётся Delete. Привычную Ctrl в большинстве сочетаний заменяет Command, но собственная Control у Apple тоже есть. А клавиша Return может работать иначе, чем Enter на цифровом блоке — например, в Photoshop.

И это лишь начало путаницы. Различаются способы ввода специальных символов, навигация по тексту и даже правила записи сочетаний клавиш. Для разработчиков веб-приложений добавляется ещё одна головная боль — часть комбинаций зарезервирована операционными системами и браузерами, причём ограничения в Windows и macOS отличаются.

Электронный микроскоп — это вам не селфи на айфончик

В шестом классе можно получить честную двойку за неверие в то, что человек состоит из молекул. А спустя годы — самому оказаться за электронным микроскопом и разглядывать внутренности человеческих клеток.

Правда, ради чёрно-белых фоточек пришлось три месяца учиться пользоваться прибором. А ещё иметь дело с токсичным осмием, который в лаборатории прячут в сейф, стеклянными лезвиями и алмазным ножом за $5000. Последний, кстати, затупился. Такие ножи отправляют на заточку в Швейцарию.

И это только часть лабораторных приключений. До первых снимков клеток ещё предстоит немало повозиться, а потом в дело пойдёт второй электронный микроскоп. В него, среди прочего, запихнули муравья. А нефиг было кусаться.

Загадочный «Блок №20»

На пермском «Металлорынке» нашлись два герметично запаянных модуля от армейской радиостанции «Глёт». На крышках — маркировка «Блок №20». Документации нет, схему по монтажу не восстановить. Выручила нарисованная от руки схема, обнаруженная у знакомого радиолюбителя.

Оба блока удалось оживить, но у одного «синусоида» на выходе выглядела странно. Пришлось браться за 100-ваттный паяльник и снимать крышку. И тут выяснилось, что вскрытие было не напрасным.

Под крышкой обнаружилась плата с плотным монтажом и несколькими слоями защитного лака. Но самое интересное оказалось в схемотехнике. Разобраться в некоторых её особенностях было непросто, особенно с учётом того, что генератор собрали полвека назад на советской элементной базе. И всё это ради стабильности частоты в доли герца в широком диапазоне температур.

Энтузиаст превратил комплект ноутбучной DDR5 за $120 в настольную память, которую сам оценивает примерно в $1000. Донорами стали два модуля SK hynix DDR5-5600 по 16 ГБ каждый. Автор предположил, что в них установлены чипы Hynix A-die, известные хорошим разгонным потенциалом. Он выпаял микросхемы и перенёс их на полноразмерные платы DIMM.

Новые платы обошлись примерно в $16 за штуку, радиаторы добавили ещё $18, а общие расходы составили около $175. После переделки комплект удалось запустить на DDR5-7800. Правда, для такой работы нужны оборудование для пайки BGA и соответствующий опыт. С ценой донорской памяти автору тоже повезло, поскольку аналогичные комплекты на вторичном рынке сейчас стоят заметно дороже.

Нужно больше инстансов, Милорд

В королевстве Юндексбург открыли новый замок для развития международной торговли. Руководителю проекта выписали премию за досрочный запуск, хотя ворота толком никто не проверял. Испытания перенесли на следующий квартал, но там уже не нашлось бюджета. Оставшиеся сомнения внесли в реестр рисков.

Тем временем штат картографов сократили на четверть, зато количество обработанных дорожных указаний выросло на 47%. А для унификации карт создали специальную службу, которая разработала научно обоснованную методику, основанную на длине хвостов пегих коней.

В следующем квартале средняя длина хвостов выросла на 18%, производительность достигла исторического максимума, а все замки отчитались об успешном внедрении нового устава. Даже те, до которых гонцы так и не смогли добраться.

Питание пульта ДУ от нестандартных источников: индукционное и не только

В прошлый раз пульт телевизора научили получать электричество от мотор-редуктора. Всё работало, но возникла мысль: а нельзя ли сделать так, чтобы ничего не делать, а заряд сам накапливался.

На этот раз решено было попробовать индукционную зарядку. Правда, подходящих компонентов для получения «правильной синусоиды» в электронных закромах не нашлось. Зато нашлись микроконтроллер, драйвер двигателя и шаговый двигатель, с помощью которого можно намотать катушки.

Витки получились не слишком аккуратными, но на выходе катушки появилось напряжение с первого запуска. Правда, для зарядки ионистора его оказалось недостаточно. Дальше началось то самое «что-то сделал, а потом выкручивался»: измерения, попытки поднять напряжение и поиски более удачного решения. До проверки зарядки самого ионистора дело не дошло, зато под конец возникла идея, как вообще обойтись без катушек и микроконтроллеров.