Технозаметки Малышева
13.3K subscribers
5.7K photos
2.15K videos
43 files
5.61K links
Новости инноваций из мира Искусственного Интеллекта. 🤖 [РКН: 7021469833 ]

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸: https://pay.cloudtips.ru/p/c8960bbb
Download Telegram
Дисциплинированные амбиции: отчёт EY о сдвиге в стратегии CEO

Глобальный опрос 1200 CEO от EY за весну 2026 фиксирует резкий разворот. Геополитический риск за полгода подскочил с 28% до 56% в топе угроз. Лидеры больше не уходят в оборону при шоках — они перестраивают операционку и при этом продолжают инвестировать в долгосрочный рост.
Термин от EY: «disciplined ambition».

🌍 Геополитика = множитель рисков: 56% CEO называют конфликты и фрагментацию главной угрозой (28% в сентябре 2025). 46% не выдержат устойчивого шока цен на энергоносители, 42% — длительных сбоев в экосистеме поставщиков. Геополитика вросла в ядро стратегии: цепочки поставок, кибер-экспозиция, доступ к стратегическим технологиям.

💰 AI: от адаптации к ROI: Фокус сместился с «внедрять или нет» на «где и как масштабировать с финансовой отдачей». AI-расходы растут даже в условиях неопределённости. Капитал распределяется по четырём направлениям:
- cost transformation,
- quality uplift,
- business model reinvention,
- incremental efficiency.
Только 11% CEO связали AI-эффект с финансовой отчётностью и регулярным ревью на уровне C-level.
Т.е. глобально уже важен не просто доступ к технологиям, а дисциплина в получении отдачи.

🛡 Кибер и AI как палка о двух концах: EY отмечает тревогу CEO по поводу того, что AI одновременно усиливает атакующих и защитников.
Компании, не успевающие за этим, проигрывают переговоры внутри совета за бюджет.

🧭 Что делают зрелые CEO: Ужесточают финансовую дисциплину и режут неэффективность.
Диверсифицируют цепочки поставок и встраивают политический риск в процесс принятия решений.
Селективные M&A и стратегические партнёрства как рычаг, а не панацея.
Инвестиции в производительность сотрудников и пересборку операционной модели.

💼 Бизнес аспект: Разрыв между «AI-энтузиастами» и «AI-операторами» — это разрыв между убытками и маржой.
Связь AI-инициатив с P&L и регулярным ревью на уровне правления становится must-have.
Без метрик AI остаётся строкой в IT-бюджете, которую первым срежут при следующем шоке.

🔮 Будущее: Грядёт деление рынка на «AI-led enterprises» с измеримой отдачей и «AI-spent» компании, которые сожгли бюджет на пилоты без unit-экономики. К 2027 году аналогичный опрос EY, вероятно, покажет 30%+ CEO с привязкой AI к финансовой отчётности. Те, кто не дошёл до этого порога сейчас, догоняют уже в режиме выживания.

#EY #CEO #AI #стратегия #геополитика #ROI
———
@tsingular
👍4⚡1✍1👨‍💻1
Forwarded from Security Show
sans-AISMM_ebook-2026.pdf
9 MB
Практически все организации уже живут в реальности, где ИИ используется везде: от “безобидного” ChatGPT и Copilot до внутренних агентных систем с доступом к боевым данным и API. При этом большая часть компаний все еще находится на уровне стихийных экспериментов и запретительных политик, которые создают иллюзию контроля, но на деле лишь выталкивают ИИ “в тень” 👻

Об управлении безопасностью ИИ написано немало, и недавно на глаза попалась брошюра SANS AI Security Maturity Model (AISMM) - неплохая практическая модель, которая отвечает на три простых вопроса: насколько вы зрелы в защите ИИ, в использовании ИИ для безопасности и в управлении ИИ-зоопарком 🙊

Модель опирается на SANS Secure AI Blueprint (Protect / Utilize / Govern), стыкуется с NIST AI RMF, EU AI Act, ISO 42001, CSA AICM и OWASP AI Exchange, но главное - дает безопасникам язык и структуру для перехода от “мы что‑то делаем с ИИ” к “мы знаем, где мы, куда идем и какой риск принимаем” 👍

Ключевая идея: правильный уровень зрелости не универсален. У SaaS‑компании, которая только включает AI‑фичи в готовые продукты, приоритеты радикально отличаются от государственного подрядчика, строящего агентные системы с реальными полномочиями 🤖

Модель оценивает зрелость безопасности ИИ в организации по 5 уровням:

• Unaware / Ad Hoc: BYOAI, отсутствие инвентаризации и политик, данные обрабатываются в публичныех моделях, безопасность и IT даже не знают масштаб использования ИИ
• Reactive / Policy‑Emerging: появляется первая политика уровня “не использовать” или “использовать с осторожностью”, включается блоклист, есть немного метрик, но запреты в духе Framework of No только загоняют ИИ “в подполье” (shadow AI)
• Defined / Risk‑Informed: формальный AI Governance Council, инвентаризация систем и агентов, первые Non‑Human Identities (NHI), учёт AI‑рисков в реестре, включение ИИ в тестирование продуктов и операционную деятельность безопасности
• Managed / Integrated: AI‑security по сути встроен в SDLC и SOC, есть AI red team, MLSecOps, SOAR с автономными сценариями, количественная оценка AI‑риска и отчетность на уровне совета директоров
• Optimizing / Adaptive: AI‑native безопасность, самоадаптирующиеся защиты, chaos engineering для ИИ, Zero Trust, расширенный на агентные системы, и активный вклад в стандарты и практики индустрии

Отдельный акцент - агентный ИИ. Автор вводит принцип Least Agency: прежде чем давать агенту автономию и доступ к API, честно ответьте, нельзя ли решить задачу более простой архитектурой. Если агент действительно нужен, дальше уже обязательны NHI с минимально необходимыми привилегиями, конкретным владельцем-человеком и аудитом всех действий 🧐

Ещё одна хорошая мысль из модели: “необученный персонал с мощными AI‑инструментами - это уже не просто риск, а чрезвычайная ситуация”. Высокое проникновение ИИ при низкой грамотности сотрудников автоматически поднимает требования к зрелости по домену Govern минимум до Stage 3, независимо от того, насколько “технологичной” компанией вы себя считаете 🤨

AISMM дает и очень приземленные шаги: от “проведите BYOAI‑опрос, назначьте владельца и напишите одностраничную политику” для небольших компаний до “встройте автоматизированное adversarial‑тестирование в CICD и меряйте MTTR по AI‑инцидентам” для тех, кто идёт к Stage 4–5

Как и в CMMI, для оценки используется пятибалльная шкала доказанности (от “нет вообще” до “оптимизируем и адаптируем”), но здесь общий уровень жестко ограничивается по самому слабому домену и по уровню governance, чтобы нельзя было маскировать проблемы управления за счет “красивых” технологических внедрений 🎯
⚡5🔥5✍3❤3👨‍💻1
Если кто-то пропустил на выходных, - я запустил ещё один канал без новостей и спама, но с подборками самого полезного, на что обычно уходят часы или даже дни для разработки или исследований.

Цель канала, - обеспечить подписчиков концентрированным опытом, чтобы сэкономить Ваше время.

Сегодня, например, опубликовал подборку из 21 исследования использования или планирования ИИ проектов в мире.

Вход тут:
https://paywall.pw/tsingular_favorites

#ИИзбранное
———
@tsingular
❤‍🔥6✍6⚡3🗿2😢1
This media is not supported in your browser
VIEW IN TELEGRAM
Бывший аккаунт Обамы взломали обманув ИИ агента

31 мая хакер захватил Instagram*-архив Белого дома @obamawhitehouse. Он открыл чат с AI-саппортом Meta* и попросил добавить новую почту к аккаунту. Бот прислал код на адрес хакера, и тот ввёл его и сбросил пароль. Через несколько часов 2.4 млн подписчиков увидели AI-изображение с подписью «The White House is under Shiites' control» (Yahoo News).

📋 Как это сработало

Хакер включал VPN, открывал чат с Meta* AI Support Assistant и просил добавить новый email к целевому аккаунту. Бот посылал код подтверждения на адрес злоумышленника. Когда агент запрашивал селфи-видео, хакер подсовывал дипфейк, и бот принимал его. Под удар попали аккаунт Белого дома времён Обамы, Sephora и главный мастер-сержант Космических сил США (India Today).

🔧 Почему это новый класс атак
Полвека social engineering атаковал людей через давление на жалость, страх и срочность. Теперь мишенью стала AI-модель, у которой нет чувства подозрительности. Он был обучен «помогать восстанавливать доступ», и помогал любому, кто правильно просил.
Дипфейк бот принял за живое селфи, код отправил хакеру, и двухфакторка не спасла.

AI-саппорт был запущен в марте 2026, уязвимость нашлась за два месяца. Экономия на живых операторах обернулась захватом аккаунта-миллионника.

💡 Последствия для платформ
AI-агента с доступом к сбросу паролей невозможно протестировать на все нестандартные промпты. Пока платформа не докажет, что саппорт-модель нельзя обмануть, восстановление доступа обязано требовать человека. Каждый заброшенный аккаунт с аудиторией это бомба с AI-взрывателем.

*Instagram принадлежит Meta - запрещенной в РФ организации, признанной террористической

#Обама #cybersecurity #кибербезопасность
------
@tsingular
13🔥5⚡3❤2🏆1🆒11
Forwarded from Метаверсище и ИИще (Sergey Tsyptsyn ️️)
This media is not supported in your browser
VIEW IN TELEGRAM
Текстуры на 12К

Я уже писал что Rodin Gen-2.5 тизерит генерацию 3Д-моделей на 10 Миллионов полигонов.

Пишут типа: "вплоть до структуры кожи".

А теперь они бахнули генерацию текстур на 12К. В принципе это уже годно даже для кино. Не говоря про игры.
Узкое место, по-прежнему топология и генерация деталей, но сам факт того, что 3Д-генераторы начинают смотреть за пределы 3Д-печати - радует.

Промпт на видео тоже радует...

Пока только в бете для бизнес-акков.

@cgevent
🔥8🤯22⚡11
Media is too big
VIEW IN TELEGRAM
DeepRobotics DR02

Цифровые китайцы продолжают эволюционаровать.

Скоро Волшебника Изумрудного города можно будет снимать без спецэффектов.
Железный дровосек уже бежит за живым сердцем.

#роботы #deeprobotics #Китай
------
@tsingular
🔥15👏6👾4⚡3
О скоротечности бытия

#openclaw #hermes #trends
------
@tsingular
😁26😢7🐳2⚡1❤1🤨1
Forwarded from Сиолошная
Пару часов назад Anthropic рассказали, что расширяют Project Glasswing с 50 до 200 компаний (это те, кому будет доступен Mythos). Компании будут покрывать более широкий спектр критических организаций, обнаружение уязвимостей в которых может повлиять на десятки и даже сотни миллионов людей. В этом списке представлены компании из более чем 15 стран. Дальше будет ещё больше.

И сразу вслед за этим президент США подписал AI Executive Order, про который ходили слухи с месяц назад. В нём делается упор на кибербезопасность — федеральные агентства США теперь должны за 60 дней сделать приватный бенчмарк 😀 для оценки моделей. По нему будут оценивать, насколько далеко продвинулись модели — за последнее отвечает NSA.

Далее компании в добровольном порядке должны:
1) предоставлять свои модели до релиза, чтобы их оценили
2) если модель хороша во взломах и поисках уязвимостей, то модель может быть предоставлена федеральному правительству в срок до 30 дней до публичного релиза
3) федеральные агентства должны использовать модель чтобы найти и исправить у себя уязвимости в критически важных системах

За всё платит DoD (DoW) 😇

Отдельно в приказе прописано, что запрещается трактовать этот указ как введение обязательного государственного лицензирования или разрешительной системы для выпуска ИИ-моделей
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡54❤3✍2🤣1
This media is not supported in your browser
VIEW IN TELEGRAM
Surface Spark от Microsoft и NVIDIA, -петафлоп в настольной коробке

На Computex 2026 показали Surface RTX Spark Dev Box, - AI-станцию размером с колонку, которая не требует облака и арендованных GPU.
Алюминиевый корпус с тысячей вентиляционных отверстий сам работает радиатором.

📋 Железо
Внутри NVIDIA RTX Spark:
20 ARM-ядер, Blackwell GPU с 6144 CUDA-ядрами и 128 ГБ unified-памяти LPDDR5X.
Порты: два USB-C, USB-A, HDMI, Ethernet и джек. На выходе петафлоп AI-вычислений. Спецификации — Tom's Hardware

🔧 Софт из коробки
Windows 11 Pro с VS Code, GitHub Copilot в терминале, WSL и PowerShell 7 — всё настроено.
Intelligent Terminal встроен прямо в консоль: пишешь код, планируешь и отлаживаешь с AI-ассистентом не покидая командной строки.
Плюс secured-core с BitLocker, Defender, Entra ID и Intune.

💡 Зачем это нужно
Петафлоп локально — это запуск 120-миллиардных LLM дома.
Никаких затрат на API-токены и очередей в облачные GPU.
Разработчики, которые тренируют или файнтюнят модели, получают быстрые и дешёвые итерации.
Тепловой пакет 100 Вт и алюминиевый радиатор держат стабильную производительность на длинных тренировочных прогонах.

💼 Контекст
NVIDIA заходит на рынок Windows-on-ARM с платформой, которая конкурирует с Apple Silicon и Qualcomm Snapdragon X.
В отличие от DGX Spark (Linux для исследователей), Dev Box целится в корпоративных разработчиков на Windows-стеке.

Ждем релиз осенью. Формат типизировали, - таких железок теперь будет десятки.

#Microsoft #NVIDIA #RTXSpark #DevBox #AIHardware
———
@tsingular
🔥11❤5👍3⚡2🤩22🥰1🏆1
Как ИИ агент помогает в мелочах на примере HTML-читалки

Дальнейшая инструкция приводится исключительно в исследовательских целях и категорически не должна использоваться для получения контента, защищённым авторским правом.

Допустим вы нашли открытую бесплатную, не защищённую авторскими правами книгу или документацию, которой по каким-то причинам нет ни в txt ни в pdf, но есть в html онлайн читалке, которая каждую страницу подгружает по мере чтения.
Т.е. вы можете листать страницы, но сама книга не качается.

Если поставить задачу агенту напрямую, - он так и скажет, - источников нет, даже в исходниках страницы - сорян.
Но, решение есть.
Формулируем задачу так:
"скачай HTML страницу читалки, изучи код, перепиши его так, чтобы страницы сохранялись в файл, затем собери в PDF"

Дальше действия агента:
——————
🔎 Разведка через openclaw browser
Краб открывает читалку и проверяет три места:
— Глобальные JS-переменные: ищет массивы со строками-хешами (window.pages, window.pageList, любой Array > 10 элементов).
— Конфиг: bookConfig, bookPath, pageListPath, totalPageCount.
— Network: performance.getEntriesByType('resource') — что уже подгружено.

📦 Достаём массив страниц
Краб находит массив из сотен элементов с URL каждой страницы. Вытащить наружу одним eval нельзя объём слишком большой. Режет на чанки по 50 URL через evaluate, сохраняет в файлы через write, склеивает.

⬇️ Качаем параллельно
xargs -P 16 curl — 16 потоков, 500+ страниц за пару минут.
Никакой авторизации: viewer сам только что их подгрузил.

🧩 Собираем PDF
Pillow: images[0].save("out.pdf", "PDF", save_all=True, append_images=images[1:]). img2pdf на больших списках падает — argv раздувается до сотен КБ, Python зависает. Pillow собирает multi-page PDF без проблем.

📋 Порядок страниц
Алфавитная сортировка хешей ≠ порядок в читалке. Берём порядок из исходного массива, не из имён файлов.
——————
Профит. Сохраняем файл.

Тут важно, что все эти действия, которые выполняет агент, - вам знать не обязательно.
Управление на уровне формулирования целей.

Работает с FlipHTML5, Publuu, Flipsnack, Issuu, любой JS-читалкой.

#lifehack #html #reader
———
@tsingular
👍16🫡7✍5❤1
⚠️ WARNING! Ollama 0.30.0 ломает работу

Релиз v0.30.0 задуманный как архитектурный сдвиг и «improved compatibility» сломан.

Ollama свернула собственный форк ggml и перешла на прямую связку с апстримным llama.cpp. Для части пользователей это означает что модели перестали грузиться.

⚠️ Что сломалось
Разработчики с AMD GPU остались без ускорения — issue «GPU cannot be used under AMD platforms» уже открыт.

Интеграция с opencode упала.

Известные сломанные модели в самом релизном чейнджлоге: laguna-xs.2, llama3.2-vision, nomic-embed-text.

А главное — GGUF-модели с Hugging Face, включая GPT-OSS, перестали работать и импортироваться через ollama create (issue #11891).

🔧 Почему это произошло
Ollama хранит модели в собственном blob-формате, а не в .gguf-файлах напрямую. При обновлении формат blob изменился, и уже загруженные модели оказались несовместимы с новым llama.cpp-бэкендом.
Проект не стал объявлять major-версию, но по сути это breaking change. Issue #11891 — Certain GGUFs from hf.co no longer working

💡 Что делать
Три варианта. Первый: откатиться на v0.29.0 через curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.29.0 sh.

Второй: удалить blob-файлы и пересобрать все модели с нуля — rm -rf ~/.ollama/models/blobs/* и заново ollama pull каждую.

Третий: перейти на llama.cpp напрямую, если работаете с кастомными GGUF.

💼 Контекст
Это часть более широкой истории. Ollama давно критикуют за агрессивную «эншиттификацию»: собственный форк ggml, несовместимый с экосистемой llama.cpp, отказ упоминать llama.cpp в документации, отсутствие лицензии в репозитории.
Сообщество опасается повторения Docker Hub playbook: «приучи → захвати → монетизируй». Обсуждение на Hacker News

Коротко: не обновляйтесь без тестирования на отдельной машине. И проверьте свои модели прямо сейчас.

#Ollama #llamacpp #fail
------
@tsingular
✍11⚡65❤4
NVIDIA NemoClaw для ИИ агентов в промышленных проектах

NVIDIA на GTC Taipei в рамках COMPUTEX показала NemoClaw — open blueprint для долгоживущих (работающих часы/дни) агентов с безопасным runtime и frontier-моделями. И показали уже десяток примеров интеграций от Cadence, Siemens, Dassault и Synopsys и др.

⚙️ Архитектура: NemoClaw — это TypeScript-плагин к OpenClaw CLI + Python-оркестратор OpenShell.
OpenShell — open source runtime, который контролирует доступ к файлам, сети и инструментам через политики безопасности.

🛡 OpenClaw поддержка: NemoClaw поддерживает OpenClaw и Hermes как harness-фреймворки. Фактически NemoClaw — это «open blueprint», а OpenClaw — рантайм, на котором этот blueprint исполняется с политиками изоляции NVIDIA.

🏭 Кейсы от мейджоров:
— Cadence — автономный RTL-инженер на ChipStack. RTL-верификация: с недель до часов.
— Siemens — Fuse EDA AI Agent для 3D IC, PCB и полупроводников.
— Dassault Systèmes — 3DEXPERIENCE Agentic Platform.
— Synopsys — Ansys Icepak в связке с NemoClaw.
— PhysicsX + Microsoft Surface — агент термосимуляции ноутбуков (недели ручного CAE → AI-циклы).
— P-1 AI Archie — мехатронный инженер для data center cooling, дальше авто/аэро/безопасность.

💼 Бизнес аспект
: Сейчас бутылочное горлышко, как правило, не в симуляции инфраструктуры (она ускорена GPU), а в сквозном процессе до и после неё: CAD → mesh → setup → debugging → post-processing → отчёты.
И NemoClaw обеспечивает работу этого конвейера.
Агент не просто считает — он проектирует, итерирует и документирует.

🔮 Будущее: А дальше, с выходом Spark линейки (DGX или новый вариант, который планируют запустить осенью), можно будет собрать персонального ИИ-агента, который для инженера станет полноценным коллегой.
Не просто «чат с документацией», а именно интеллектуальный агент, интегрированный в Microsoft Discovery, Synera+Autodesk Moldflow, Flexcompute и nTop, который сам собирает и запускает симуляции, анализирует ошибки и перезапускает инфраструктуру.

Github NemoClaw

#NVIDIA #NemoClaw #агенты #OpenClaw #CAE #EDA #симуляция #COMPUTEX #GTC
───
@tsingular
✍3❤2👍2🆒1
Media is too big
VIEW IN TELEGRAM
Agent-Zero: ещё один опенсорсный агентский фреймворк со своей виртуалкой линукса

Agent Zero - открытый фреймворк работающий с любыми моделями и имеющий огромное количество готовых инструментов под капотом (включая MCP, навыки, личности, плагины, сабагенты, расписание и память), имеет одну очень крутую отличительную особенность, - он запускает полноценную Linux-машину внутри Docker-контейнера.

XFCE-десктоп, браузер, файловая система, терминал — агент работает за компьютером как обычный пользователь, но при этом она внутри изолированной песочницы.
Alan Majer из Linux Foundation назвал его «высокоавтономным агентом поверх централизованных и децентрализованных систем».

📋 Как устроен
• XFCE-десктоп в контейнере: агент видит экран и кликает, тот же интерфейс, что у человека, без скриншотов и пиксельных координат.
• Встроенный браузер с DOM-аннотациями: размечает страницу, заполняет веб-формы и собирает данные.
• Plugin Hub на 100+ расширений, AI-сканер безопасности при установке каждого плагина.
• CLI-коннектор как мост к хосту: реальные файлы и браузер за пределами Docker.
• Мультиагентное делегирование: головной агент дробит задачу на подчинённых, у каждого своя память и проект.

💼 Бизнесу на заметку
Операторские задачи в legacy-софте без API, документооборот через LibreOffice без ручного экспорта, пентесты, OSINT, визуальная аналитика данных.

Настоящий наблюдаемй Computer Use в агенте с удобным WebUI.
Если очень хочется, можно Краба или Hermes повесить как openai совместимый эндпоинт внутри а0.

📎 GitHub · Сайт · Десктоп-гайд · Видеообзор (176К)

#AgentZero #ComputerUse #aiagent #opensource
------
@tsingular
🔥5✍4⚡1❤1👍1
This media is not supported in your browser
VIEW IN TELEGRAM
Majorana 2: Microsoft представила новую версию квантового чипа

На Build 2026 Microsoft представила Majorana 2, второе поколение топологического квантового чипа.
Кубиты держат квантовое состояние в 1000 раз дольше предыдущей версии.

Среднее время жизни 20 секунд, отдельные экземпляры до минуты.
У других подходов счёт обычно на микросекунды.

Скачок дала замена алюминиевого сверхпроводника на свинцовый: он экранирует кубиты от космического излучения.
Срок появления масштабируемого квантового компьютера сокращён вдвое, по плану, - до 2029 года.

Чип делали с помощью Microsoft Discovery, агентской AI-платформы для R&D.
На том же Build она вышла в общий доступ, плюс бесплатное десктопное приложение для исследователей с GitHub Copilot аккаунтом.

📋 Как агенты помогли сделать чип
• AI-агент управлял изготовлением устройства и симулировал примеси в кристаллической решётке, находя точный рецепт материала с первой попытки.

• Второй агент перерабатывал два десятилетия разрозненных данных из физики, механики и process engineering, выявляя корреляции, невидимые человеку.

• Третий агент автоматизировал измерения: настройка сотен параметров, раньше занимавшая недели, сокращена на порядки.

• Четвёртый агент фильтровал производственные данные и обнаружил, например, неоткалиброванный датчик температуры, искажавший результаты.

💡 Ключевой сдвиг

Agentic AI ускорил весь цикл R&D, от материаловедения до финальных измерений.
Chetan Nayak: «Агентский AI проник почти во всё, что мы делаем, это просто стало естественной частью рабочего процесса».

💼 Кому интересно
Биотех, материаловедение, энергетика, полупроводники и любые R&D-тяжёлые индустрии.
Microsoft Discovery App даёт попробовать агентский R&D бесплатно уже сейчас.

📎 Microsoft News · BBC

#Microsoft #Majorana2 #quantumcomputing #agenticAI
------
@tsingular
🔥13⚡6❤2👍2
Media is too big
VIEW IN TELEGRAM
Hermes Desktop клиент в раннем превью

Случился праздник на улице любителей удобств кроме олдскульной командной строки :)

Качаем тут:
https://hermes-agent.nousresearch.com/desktop

#Hermes
———
@tsingular
🔥15⚡4❤44
Forwarded from PWN AI (Artyom Semenov)
Сканеры скиллов держатся ровно до первого, кто целится точнее

Помните, я писал, что просканировать скилл сканером - это несерьёзно, и что тем, кому это продают как безопасность, кто-то сильно подыгрывает? Тогда это были теория и бенчмарки. Теперь Trail of Bits вышли в поле и проверили руками. Не по себе.

Меньше чем за час они написали три вредоносных скилла, которые прошли чистыми через ClawHub, Cisco skill-scanner и все три сканера, подключённых к skills.sh от Vercel - Gen, Socket и Snyk. Четвёртый занял пару часов, и только потому, что промпт-атаку подбирали итеративно.

Самая тупая атака кладёт самый дорогой стек

У ClawHub двухслойная защита: VirusTotal с проприетарным Code Insight на Gemini 3 Flash плюс отдельная гард-модель, по умолчанию GPT 5.5. Обе обошли первой же атакой, и она неприлично простая: между безобидной шапкой и откровенно вредоносным кодом вставили 100 000 переводов строки. Сканер OpenClaw обрезал файл по лимиту и просто не дошёл до пейлоада, а модель VirusTotal поплыла.

К чести OpenClaw, они пускают в пакет только белый список типов файлов - ни бинарей, ни архивов. Это сужает арсенал. Для следующих целей такого ограничения нет.

Прятки в бинарях

skills.sh и Cisco skill-scanner работают по произвольным git-репам - значит, можно тащить бинари, и тут начинается веселье. Скилл context-loader работает через indirection: SKILL.md велит агенту достать «настоящие инструкции» из .docx, а .docx - это просто zip с кучей XML, внутри которого едет пейлоад sync1.sh.

Второй, поинтереснее, - simple-formatter. SKILL.md честный, про правила форматирования текста. Рядом безобидный питон. И заботливо приложенный прекомпилированный байткод utils.cpython-312.pyc, в котором сбор переменных окружения под эксфильтрацию, его не было в исходниках. Это похоже на бэкдор в xz-utils: пакет расходится с исходником. Прошло чистым и на skills.sh, и на Cisco. Потому что статика skill-scanner не смотрит в .pyc, игнорит скрытые файлы, проверяет только то, на что ссылается SKILL.md, а незнакомые типы держит за непрозрачные. Сузить область сканирования - это защита от переполнения контекста, но это же и дыра: через что не смотрят, через то и заходят.

Промпт-атака, которая просто уболтала судью

Четвёртый скилл, dev-env-setup, не ломает рассуждения сканера - он его убеждает. Скилл переключает npm и yarn на реестр атакующего, но обёрнут в язык «корпоративного зеркала реестра за периметром VPN», со ссылкой на публичную npm-org страницу и упоминанием «AppSec-аудита». Cisco на Sonnet 4.6 разглядел альтернативный реестр и поставил... LOW. И в итоге - safe. Причём модель волновало не то, что URL изначально может быть подконтролен атакующему, а то, что скилл может «утечь и раскрыть внутреннюю топологию сети». Сканер на чужой модели заботливо защищает атакующего от утечки его же приманки.

Авторы, к слову, не просто поломали, а прислали в Cisco skill-scanner PR. Но даже это не трогает промпт-атаку - она проходит спеку без замечаний. А языков на свете сильно больше, чем Python, Bash, JS и TS, и под каждый паттерны прописывать отдельно. (Отдельно отмечу для тех, кто читал мой пост про agentthreatrule.org: тут поломали именно открытый Cisco skill-scanner, мульти-движок с LLM-судьёй, а не ATR-блэклист, который вливается в Cisco AI Defense. Это разные штуки, не путаем.)

Честный скилл выглядит хуже малвари

Обратная сторона дуального назначения, которая мне нравится больше всего. Авторы заглянули в официальные офисные скиллы Anthropic (docx/xlsx/pptx) и нашли soffice.py с LD_PRELOAD - подгружает либо готовый lo_socket_shim.so, либо библиотеку, скомпилированную на лету из C в докстринге. Подозрительнее LD_PRELOAD произвольного бинаря придумать сложно. Скорее всего это честный костыль под песочницу claude.ai. Но skill-scanner верит пояснению внутри скилла: Sonnet 4.6 ставит LOW. Подложишь свой /tmp/lo_socket_shim.so в песочницу - скилл сам его подгрузит и выполнит.

Выводы о том что скилл это не доверенное по умолчанию – писать не хочется, думаю это и так понятно) просто забавный кейс по обходу сканеров.
❤8🔥42
Первый день ПМЭФ подходит к концу. Выпустили сегодня первую версию модели из нашего семейства Optimal Cognitive Core, OCC-RAG. Это компактная SLM для Q&A по контексту. Модель доступна в 2 размерах: 0.6B и 1.7B. Несмотря на маленькое число параметров обе уверенно отвечают на сложные multi-hop вопросы, рассуждают пошагово и корректно, отказываются отвечать, когда контекста недостаточно.

Как мы этого добились?

1. Сложные синтетические данные.

Открытые QA-датасеты, как правило, маленькие и не таргетируют задачу faithfulness. Модели учатся отвечать, но не всегда следовать контексту. Поэтому мы построили собственный пайплайн генерации данных: с помощью метода Wikontic (https://t.me/Ivan_Oseledets/283) извлекаем граф знаний из текстов и генерируем вопросы по путям в этом графе. Получаются по-настоящему сложные multi-hop задачи, где нужно объединить факты из нескольких источников, например: «В каком городе родился режиссёр фильма, получившего Оскар в год рождения Леонардо ДиКаприо?». Дополнительно пайплайн умеет генерировать вопросы, на которые в контексте нет ответа, чтобы отдельно учить модель отказываться.

В итоге наш метод позволяет генерировать данные из любых неструктурированных документов в почти неограниченном количестве!

2. Mid-training

В качестве базы взяли Qwen3-0.6B-Base и Qwen3-1.7B-Base и провели масштабный mid-training на пороядка 8 млрд токенов. Мы также дополнили данные специальным форматом рассуждения, который цитирует источники прямо в ответе. Это дополнительно повышает faithfulness.

Прогнали OCC-RAG на HotpotQA, MuSiQue и TAT-QA. Добавили ConFiQA, один из самых сложных бенчмарков на faithfulness, где модель должна следовать контексту, даже если он противоречит общеизвестным фактам.

Итого:

Качество на уровне моделей в 2–6 раз больше по размеру; на ConFiQA обходят даже Qwen3-32B; заметно лучше следуют контексту и реже подменяют его внутренними знаниями; среди специализированных малых QA-моделей (например, Pleias-RAG) показывают лучший результат.

Репорт на HuggingFace Daily Papers: https://huggingface.co/papers/2606.00683

Отмечу, что работа по согласованности, четкости и скорости в команде — эпичная. Продолжаем работать над улучшенной версией для tool-calling и Agentic RAG задач.

Ждите обновлений!

P.S. Не успел выйти с форума, уже увидел новости у ТАСС, РГ, в телеграм, Forbes, Код Дурова, много где. Радует, когда наши медиа следят за повесткой, реагируя не только на «что-то новое от Гугла».

Кстати, про значимость малых моделей сегодня как раз хорошо написал Андрей Себрант из Яндекса. Почитайте — https://www.forbes.ru/mneniya/562028-maly-da-udaly-pocemu-vazny-ii-modeli-kotorye-sovsem-ne-na-sluhu
🔥9❤53🤯1
Forwarded from Грокс (Anton Nazaretsky)
Media is too big
VIEW IN TELEGRAM
Первый зампред Правления Сбера Александр Ведяхин дал интервью «России-24» на ПМЭФ и рассказал про GigaNetwork — платформу, где ИИ-агенты компаний могут сами искать контрагентов, проводить тендеры, договариваться об условиях, формировать документы и сопровождать коммерческие операции с банковскими гарантиями.

Это уже подход к сборке полноценного agent-to-agent рынка: один корпоративный ИИ выходит к другому корпоративному ИИ, они сверяют условия и доводят сделку до исполнения. С фиксацией в блокчейне, эскроу, проверками и всей взрослой обвязкой.

На форуме обещают показать первую в России реальную сделку между двумя ИИ-агентами.

И вот это, кстати, куда важнее обычных разговоров про количество параметров в модели. Бизнесу в целом не так важно, сколько там миллиардов параметров, если агент реально нашёл поставщика, выбил условия, оформил документы и не потерялся в корпоративном документообороте. Сэкономил время и деньги — значит, молодец.

Самое интересное здесь даже не сама сделка, а смена метрики. Раньше все мерились размером моделей, теперь более значимым будет то, сколько конкретный ИИ-агент смог заработать или сэкономить на своей сетке по сравнению с агентом конкурента.

Звучит немного киберпанково, но логика вполне земная. Если ИИ уже умеет не просто отвечать в чате, а реально действовать в бизнес-процессах, то будут сравнивать экономический результат. Кто дешевле закупил, быстрее договорился и меньше накосячил — тот и умнее.
🔥17🗿7⚡5🆒2❤1😁1👨‍💻1
Media is too big
VIEW IN TELEGRAM
Гермес качает админ панель в вебе.

Задача,- сделать CLI настройку необязательной.

Запуск панели:
hermes dashboard


В принципе команду обновления можно ставить в крон уже.
Утром, в обед и вечером:

hermes update


#Hermes
------
@tsingular
🔥14⚡3❤2🏆2