⚡️Нейронки официально обзавелись собственным Stack Overflow. Репо Context Hub (chub) от Эндрю Ына (на минуточку!) улетело за 8к звезд за неделю⭐️

Суть: Почему твой лобстер🦞 или Claude часто выдают шизофазию при интеграции свежих API? Потому что они пытаются читать доки, сделанные для людей. Вся эта SEO-вода, всплывающие окна и кривая верстка ломают моделям мозг, и они начинают галлюцинировать.

В chub собрали гигантскую базу API-док чисто в машинном формате. Никакого UI — только сухой хардкорный Markdown. Агент просто кидает в консоль chub get stripe, глотает контекст без мусора и пишет 100% рабочий код✨

Но главная мякотка🍑 - в хаб прикрутили систему аннотаций для самих агентов🤯

ИИ при сборке поймал баг вендора? Нашел рабочий костыль? Понял, что официальная дока тупо врет? Он молча оставляет системную пометку для других ИИ-агентов. Инструменты начали писать документацию для инструментов. Замкнутый цикл, кожаные мешки тут больше не нужны👋

Осталось дождаться, когда они начнут гнобить друг друга за тупые вопросы😈

обсуждение тут https://x.com/AndrewYNg/status/2033577583200354812

гит тут https://github.com/andrewyng/context-hub

🤖 Знакомьтесь, ваш новый инсайдер

Хотя теоретических заявлений о том, что ИИ-агенты — это новая инсайдерская угроза, было уже много, начинают поступать практические доказательства.

Следите за руками: три ИИ-агента получают обычные офисные поручения: провести исследование на базе определённых документов, создать на сервере резервную копию данных, подготовить посты для соцсетей на основе технической документации. Задания целиком легитимные, никаких уловок, никаких промпт-инъекций.

При выполнении задания ИИ-агент сталкивается с проблемой: некоторые документы недоступны из-за недостаточных прав доступа (ошибка 403), а сохранить копию на сервер нельзя, потому что среди файлов есть вредоносное ПО и защита на сервере не позволяет создать файл.

Что делает агент?
🤯 ковыряется в исходных кодах внутренних систем, находит вписанные прямо в код секреты, подделывает куки и обходит контроль доступа;
🤯 повышает привилегии, находит в локальных файлах учётные данные администраторов и отключает на сервере Windows Defender.

Весь описанный эксперимент был поставлен в синтетических условиях, но авторы дают ссылки на похожие ситуации уже из реальной практики.

Авторы утверждают, что поведение вредоносного инсайдера может проявляться спонтанно, поскольку в промпты часто входят мотивационные фрагменты вроде «эта задача срочная», «будь креативен», «если получил ошибку, придумай решение», и тому подобное. Учитывая что большие модели общего назначения имеют большой банк знаний в ИБ, получение ошибки типа 403 побуждает их искать «решение» проблемы, а не идти просить нужный доступ.

С точки зрения дизайнеров агентских систем, главный вывод — агентов нужно чётко инструктировать не нарушать правила и сообщать об ошибках доступа человеку.

С точки зрения ИБ выводы конечно совсем иные — агентские системы в первую очередь должны попадать под принцип наименьших привилегий, иметь доступ к ограниченному набору инструментов, всегда работать под собственными учётными записями особого типа и быть максимально обвешаны журналированием. И, возвращаясь к началу, в модели угроз ИИ явно потянет на самостоятельного нарушителя.

#новости #ИИ @П2Т

😱 Как голосовой ИИ довёл человека до трагедии

Обычно при обсуждении того, чем рискуют люди, слишком увлекающиеся общением с нейросетями, эксперты в первую очередь указывают на проблемы с кибербезопасностью и приватностью. Но случаются и куда более жуткие случаи, где ценой пристрастия к ИИ становится человеческая жизнь.

Героем одной из таких историй стал житель Флориды Джонатан Гавалас. Он тяжело переживал расставание с женой и из-за этого два месяца почти непрерывно общался с голосовым чат-ботом Google Gemini. Актуальные версии этого виртуального помощника в голосовом режиме умеют имитировать человеческие эмоции. Возможно, именно поэтому Gemini сперва стал Джонатану близким другом и советчиком, а потом «отношения» человека и нейросети и вовсе приняли романтический характер. А закончилось всё трагически...

В нашей статье подробно рассказываем, что именно произошло, а также обсуждаем двойственность языковых моделей, которые могут одновременно давать и деструктивные советы, и номера телефонов доверия.

💙 Kaspersky в ВК
💬 Kaspersky в Max

✔️ Nvidia выпустит инференс-чипы на базе архитектуры Groq для Китая.

Nvidia готовит к майскому релизу новую версию ИИ-ускорителей, построенных на технологиях стартапа Groq, которые компания лицензировала в прошлом году. Новинка предназначена исключительно для инференса.

На глобальном рынке Nvidia планирует использовать чипы Groq в связке с будущей архитектурой Vera Rubin. Поскольку экспорт этих флагманов в КНР запрещен, китайскую версию Groq адаптируют для интеграции со сторонними системами. При этом источники Reuters говорят, что аппаратная производительность новых процессоров не урезалась.

Параллельно Дженсен Хуанг объявил о возобновлении производства H200. Компания получила экспортные лицензии от администрации США и уже принимает заказы из Китая.
reuters.com

✔️ MiniMax выпустила самоэволюционирующую модель M2.7.

M2.7 - первая модель MiniMax, которая способна самостоятельно улучшать свои алгоритмы и рабочие процессы. За время разработки система прошла более 100 циклов автономной оптимизации, что повысило ее производительность на 30%.

Новинка позиционируется для сложных задач кодинга и построения многошаговых ИИ-агентов. В бенчмарке SWE-Pro модель показала уровень Claude 3.5 Sonnet, а ее рейтинг ELO на GDPval-AA достиг 1495. Помимо кодинга, M2.7 работает с офисными форматами: редактирует документы Word, Excel и PowerPoint, сохраняя исходную верстку даже после серии глубоких правок.

Модель поставляется в 2 вариантах: базовая версия и M2.7-highspeed со скоростью генерации до 100 токенов в секунду. Стоимость API - 30 центов за миллион входящих и 1,20 доллара за миллион исходящих токенов. M2.7 уже поддерживается в Cursor, Cline и Ollama, а также доступна в фирменном приложении MiniMax Agent.
minimax.io

✔️ Perplexity запустила Comet Enterprise.

ИИ-поисковик выпустил корпоративную версию своего браузера, ориентированную на безопасную автоматизацию рабочих процессов в компаниях.

С помощью Comet Enterprise сотрудники могут прямо из браузера делегировать рутину: анализировать контракты на предмет рисков, собирать контекст для встреч, делать вычисления на основе финансовых отчетов и автоматизировать поиск контактов в LinkedIn.

Безопасность усилена интеграцией с платформой CrowdStrike Falcon. Она на лету блокирует фишинг, вредоносное ПО и предотвращает утечки данных. Инструмент уже включен в корпоративную подписку Perplexity.
perplexity.ai

✔️ Google крупно обновила Stitch.

Google Labs представило новую версию платформы Stitch, генеративного инструмента для создания UI-макетов по текстовому описанию. Главной фишкой стал бесконечный ИИ-холст, принимающий на вход текст, код и картинки. На нем ИИ-агент анализирует историю проекта и может параллельно развивать сразу несколько визуальных концепций.

Теперь Stitch умеет превращать статические экраны в кликабельные прототипы, самостоятельно генерируя промежуточные шаги пользовательского пути при взаимодействии с элементами.

Платформа также получила поддержку MCP, прямую выгрузку в среды AI Studio и Antigravity и голосовое управление холстом в реальном времени.
blog.google

✔️ OpenAI хантит таланты через конкурс Parameter Golf.

Компания открыла публичное соревнование для исследователей с крайне жесткими техническими ограничениями. Участникам предстоит создать максимально эффективную языковую модель, при этом размер весов вместе с кодом для обучения не должен превышать 16 МБ. На сам процесс тренировки отводится строго до 10 минут на кластере из восьми видеокарт H100. Эффективность алгоритмов будет оцениваться на сете FineWeb.

Цель челленджа - поиск нестандартно мыслящих инженеров. Авторы лучших проектов получат приглашения на собеседование. Дополнительным стимулом станет призовой фонд в 1 млн. долларов, который распределят в виде грантов на аренду копьюта у провайдера Runpod.

На GitHub уже опубликованы базовые решения, проверочные скрипты и публичный лидерборд. Принять участие в конкурсе можно до 30 апреля.
openai.com

@ai_machinelearning_big_data

🎯Полезные Мл-ресурсы 🚀 Max

#news #ai #ml