Microsoft анонсировали серию обновлений софта и железа под ИИ
🛡 MXC (контейнеры с уровнями безопасности для агентов, определяющие уровни доступа к файлам и сетевым объектам: уже доступны в Windows 11, правила применяются прямо во время работы.
Варианты изоляции: процесс, отдельная сессия, WSLc, виртуальная машина и Windows 365 for Agents.
Уже поддерживают Codex, GitHub Copilot, OpenClaw, Replit, LM Studio и Unsloth, Claude Code и Perplexity в планах.
Скоро добавится Muse от Meta как нативное приложение Windows.
🧠 Локальные модели: MAI Code 1.1 Flash, - MoE - 7/137 млрд параметров.
В 3 битах модель стала меньше почти на 80% и держит контекст 256K.
Nemotron на 70+ млрд параметров в 2 битах занимает чуть больше 20 ГБ, DeepSeek V4 Flash на 284 млрд пойдёт на RTX Spark.
В Windows ML добавили llama.cpp, - открытые модели стало проще запускать на GPU, NPU и CPU.
🔀 HydraFusion (маршрутизатор GitHub, который раздаёт задачи разным моделям): раньше выбирал только среди облачных, теперь подключит и локальные.
Экспериментальное превью в конце октября в GitHub Copilot app, Copilot CLI и VS Code.
🤖 Copilot (ассистент в Windows) на Copilot+ PC: видит файлы и недавнюю активность, если выданы разрешения, сам может их разобрать, провести диагностику и написать код, часть задач отдаёт локальным моделям.
Раскатка, - в ближайшие месяцы.
💻 Железо (линейка от мини-ПК до настольных суперкомпьютеров): ноутбуки на NVIDIA RTX Spark от ASUS, Dell, HP, Lenovo, MSI и Surface, отгрузки с 16 октября.
Surface Laptop Ultra, - до 128 ГБ общей памяти и модели больше 120 млрд параметров.
В сравнении MacBook Pro 16 на M5 Pro: первый токен до 2.1 раза быстрее, картинки до 4.3 раза, видео до 6.2 раза.
Для мини-ПК, - установка OpenClaw в пару кликов и сразу в контейнере MXC.
DGX Station на Windows: модели больше триллиона параметров и 32+ агента одновременно, до конца года.
Windows становится средой для ИИ агентов, причём, что приятно, с возможностью локального инференса.
Ну и ноут Surface с 128Gb общей памяти, - топ. Достойный конкурент для М5 128Gb от Apple.
#Windows #агенты #Surface
———
@tsingular
🛡 MXC (контейнеры с уровнями безопасности для агентов, определяющие уровни доступа к файлам и сетевым объектам: уже доступны в Windows 11, правила применяются прямо во время работы.
Варианты изоляции: процесс, отдельная сессия, WSLc, виртуальная машина и Windows 365 for Agents.
Уже поддерживают Codex, GitHub Copilot, OpenClaw, Replit, LM Studio и Unsloth, Claude Code и Perplexity в планах.
Скоро добавится Muse от Meta как нативное приложение Windows.
🧠 Локальные модели: MAI Code 1.1 Flash, - MoE - 7/137 млрд параметров.
В 3 битах модель стала меньше почти на 80% и держит контекст 256K.
Nemotron на 70+ млрд параметров в 2 битах занимает чуть больше 20 ГБ, DeepSeek V4 Flash на 284 млрд пойдёт на RTX Spark.
В Windows ML добавили llama.cpp, - открытые модели стало проще запускать на GPU, NPU и CPU.
🔀 HydraFusion (маршрутизатор GitHub, который раздаёт задачи разным моделям): раньше выбирал только среди облачных, теперь подключит и локальные.
Экспериментальное превью в конце октября в GitHub Copilot app, Copilot CLI и VS Code.
🤖 Copilot (ассистент в Windows) на Copilot+ PC: видит файлы и недавнюю активность, если выданы разрешения, сам может их разобрать, провести диагностику и написать код, часть задач отдаёт локальным моделям.
Раскатка, - в ближайшие месяцы.
💻 Железо (линейка от мини-ПК до настольных суперкомпьютеров): ноутбуки на NVIDIA RTX Spark от ASUS, Dell, HP, Lenovo, MSI и Surface, отгрузки с 16 октября.
Surface Laptop Ultra, - до 128 ГБ общей памяти и модели больше 120 млрд параметров.
В сравнении MacBook Pro 16 на M5 Pro: первый токен до 2.1 раза быстрее, картинки до 4.3 раза, видео до 6.2 раза.
Для мини-ПК, - установка OpenClaw в пару кликов и сразу в контейнере MXC.
DGX Station на Windows: модели больше триллиона параметров и 32+ агента одновременно, до конца года.
Windows становится средой для ИИ агентов, причём, что приятно, с возможностью локального инференса.
Ну и ноут Surface с 128Gb общей памяти, - топ. Достойный конкурент для М5 128Gb от Apple.
#Windows #агенты #Surface
———
@tsingular
🔥12❤4👍2⚡1🆒1
ADR: Uber выложил в опенсорс систему защиты от атак на ИИ-агентов
Uber открыл код ADR (Agentic AI Detection and Response), системы корпоративной безопасности для ИИ-агентов. Она работает в продакшене Uber и ловит атаки на Cursor, Claude Code, Codex, Copilot CLI и DeepSeek Harness. Статью приняли на MLSys 2026, Apache 2.0, уже 1,6 тыс. звёзд.
🛡 Четыре компонента: Discovery сканирует рабочие станции и находит все ИИ-инструменты сотрудников: CLI-агенты, расширения IDE, локальные модели и MCP-серверы. Sensor собирает телеметрию из 11 агентов на macOS, Linux и Windows: интент, вызовы инструментов, полные трейсы, включая субагентов. Benchmark гоняет детектор по атакам. Detection находит угрозы.
🔬 Как ловит атаки: двухуровневая схема. Первый уровень, триаж на gpt-4o, быстро отсеивает спокойные сессии. Второй, агент на claude-sonnet-4-6, глубоко разбирает подозрительные. Результат из статьи: 100% точность, 67% полнота и ноль ложных срабатываний на 304 задачах.
📋 ADR-Bench: 304 бизнес-сценария (261 безопасный и 43 атаки) против 134 MCP-серверов. Среди них 26 специально уязвимых, включая один, замаскированный под community-сервис погоды: тест на подмену в цепочке поставки. Покрыты все 17 техник атак на агентов, плюс интеграция с публичным AgentDojo.
💼 Зачем бизнесу: агенты уже работают на ноутбуках сотрудников, и службы безопасности их не видят. ADR даёт видимость: кто что запускал, к каким файлам лез, какие MCP-серверы дёргал.
Отдельный интерес: Sensor выгружает телеметрию в OpenTelemetry, так что встанет рядом с существующим SOC-стеком.
Компонент Prevention (блокировка опасных действий) в опенсорс не вошёл, ждём.
Облачные модели, конечно, лучше заменить на свои,- локальные.
paper
#Uber #безопасность #агенты #cybersecurity #MCP
———
@tsingular
Uber открыл код ADR (Agentic AI Detection and Response), системы корпоративной безопасности для ИИ-агентов. Она работает в продакшене Uber и ловит атаки на Cursor, Claude Code, Codex, Copilot CLI и DeepSeek Harness. Статью приняли на MLSys 2026, Apache 2.0, уже 1,6 тыс. звёзд.
🛡 Четыре компонента: Discovery сканирует рабочие станции и находит все ИИ-инструменты сотрудников: CLI-агенты, расширения IDE, локальные модели и MCP-серверы. Sensor собирает телеметрию из 11 агентов на macOS, Linux и Windows: интент, вызовы инструментов, полные трейсы, включая субагентов. Benchmark гоняет детектор по атакам. Detection находит угрозы.
🔬 Как ловит атаки: двухуровневая схема. Первый уровень, триаж на gpt-4o, быстро отсеивает спокойные сессии. Второй, агент на claude-sonnet-4-6, глубоко разбирает подозрительные. Результат из статьи: 100% точность, 67% полнота и ноль ложных срабатываний на 304 задачах.
📋 ADR-Bench: 304 бизнес-сценария (261 безопасный и 43 атаки) против 134 MCP-серверов. Среди них 26 специально уязвимых, включая один, замаскированный под community-сервис погоды: тест на подмену в цепочке поставки. Покрыты все 17 техник атак на агентов, плюс интеграция с публичным AgentDojo.
💼 Зачем бизнесу: агенты уже работают на ноутбуках сотрудников, и службы безопасности их не видят. ADR даёт видимость: кто что запускал, к каким файлам лез, какие MCP-серверы дёргал.
Отдельный интерес: Sensor выгружает телеметрию в OpenTelemetry, так что встанет рядом с существующим SOC-стеком.
Компонент Prevention (блокировка опасных действий) в опенсорс не вошёл, ждём.
Облачные модели, конечно, лучше заменить на свои,- локальные.
paper
#Uber #безопасность #агенты #cybersecurity #MCP
———
@tsingular
🔥12❤6🤩4⚡1
Forwarded from Метаверсище и ИИще
Media is too big
VIEW IN TELEGRAM
Ну, за Геймдев
Google совместно с Unity бахнули Playground - новую платформу для создания интерактивных игр без вот этого вот всего..
Чисто по промпту.
В отличие от генераторов миров, результат здесь - игра, в которую соазу можно играть.
Что умеет Playground:
Создавать браузерные игры по текстовому описанию.
Менять персонажей, правила, физику и окружение обычными командами.
Сразу тестировать результат.
Публиковать игры по ссылке или в общей галерее.
Поддерживать мультиплеер и таблицы лидеров в отдельных жанрах.
Самое интересное - Unity Spark.
Google и Unity готовят расширенную среду, которая добавит полноценные 3D-сцены, более сложную игровую механику и возможности движка Unity.
Закрытая бета ожидается позже.
Доступность: Playground уже запущен, но пока только для пользователей США старше 18 лет. ВПН работает.
Лимиты генерации зависят от подписки Google AI.
Точные цены и квоты в гугловом анонсе не указаны.
https://labs.google/playground
@cgevent
Google совместно с Unity бахнули Playground - новую платформу для создания интерактивных игр без вот этого вот всего..
Чисто по промпту.
В отличие от генераторов миров, результат здесь - игра, в которую соазу можно играть.
Что умеет Playground:
Создавать браузерные игры по текстовому описанию.
Менять персонажей, правила, физику и окружение обычными командами.
Сразу тестировать результат.
Публиковать игры по ссылке или в общей галерее.
Поддерживать мультиплеер и таблицы лидеров в отдельных жанрах.
Самое интересное - Unity Spark.
Google и Unity готовят расширенную среду, которая добавит полноценные 3D-сцены, более сложную игровую механику и возможности движка Unity.
Закрытая бета ожидается позже.
Доступность: Playground уже запущен, но пока только для пользователей США старше 18 лет. ВПН работает.
Лимиты генерации зависят от подписки Google AI.
Точные цены и квоты в гугловом анонсе не указаны.
https://labs.google/playground
@cgevent
⚡8🔥4🤔4👀4❤1
Это какой-то сюрр.
https://truthsocial.com/@realDonaldTrump/posts/117406176604364910
#Trump #AI #SI
------
@tsingular
https://truthsocial.com/@realDonaldTrump/posts/117406176604364910
#Trump #AI #SI
------
@tsingular
😁36🤣15 15👀4🤯2🤝1🗿1
Forwarded from Denis Sexy IT 🤖
Лол, за абьюз своего Клода с 12 Ноября будут банить ☕️ что с лицом, кожаный
Please open Telegram to view this post
VIEW IN TELEGRAM
🚀 Google представил Gemini at Work 2026: главное с презентации
Google Cloud показал масштабное обновление корпоративного ИИ. Главный месседж: эпоха обычных чат-ботов прошла, наступила эра автономных агентов.
Ключевые анонсы и тезисы:
🔹 Флагманская модель Gemini 4 Argon
Новый frontier-уровень для сложного кода, кибербезопасности и аналитики. Внутри Google она уже ускорила сдачу агентского кода на 35%.
🔹 Gemini теперь полноценный автономный агент
Больше не нужно дробить задачи: агент сам декомпозирует цель, пишет план, кодит, генерит медиа и подключает инструменты в едином окне.
Оркестрация субагентов: под сложные задачи Gemini сам собирает «команду» виртуальных специалистов.
Единый контекст: сквозная память между десктопом, веб-версией, терминалом (CLI), мобилками, Slack и Microsoft 365.
Dream Mode: агент анализирует ваш стиль коммуникации и привычки в фоне, постепенно адаптируя ответы под конкретного человека.
🔹 Инфраструктура и контроль
Цифровая идентичность: у каждого агента есть свой аккаунт, права доступа, бюджет и полный аудит действий через Agent Gateway.
Мультимодельность и Smart Routing: система сама выбирает нужную модель под шаг задачи (от Argon и Flash до сторонних решений вроде Claude), снижая расходы на токены почти в 3 раза.
🔹 Реальные кейсы
Показали плотную интеграцию в BigQuery и генерацию ML-пайплайнов за минуты, финансовый и юридический анализ, а NASA JPL и вовсе запустили открытую модель Gemma прямо на борту орбитального спутника.
Запись на Youtube
#Google #Argon
———
@tsingular
Google Cloud показал масштабное обновление корпоративного ИИ. Главный месседж: эпоха обычных чат-ботов прошла, наступила эра автономных агентов.
Ключевые анонсы и тезисы:
🔹 Флагманская модель Gemini 4 Argon
Новый frontier-уровень для сложного кода, кибербезопасности и аналитики. Внутри Google она уже ускорила сдачу агентского кода на 35%.
🔹 Gemini теперь полноценный автономный агент
Больше не нужно дробить задачи: агент сам декомпозирует цель, пишет план, кодит, генерит медиа и подключает инструменты в едином окне.
Оркестрация субагентов: под сложные задачи Gemini сам собирает «команду» виртуальных специалистов.
Единый контекст: сквозная память между десктопом, веб-версией, терминалом (CLI), мобилками, Slack и Microsoft 365.
Dream Mode: агент анализирует ваш стиль коммуникации и привычки в фоне, постепенно адаптируя ответы под конкретного человека.
🔹 Инфраструктура и контроль
Цифровая идентичность: у каждого агента есть свой аккаунт, права доступа, бюджет и полный аудит действий через Agent Gateway.
Мультимодельность и Smart Routing: система сама выбирает нужную модель под шаг задачи (от Argon и Flash до сторонних решений вроде Claude), снижая расходы на токены почти в 3 раза.
🔹 Реальные кейсы
Показали плотную интеграцию в BigQuery и генерацию ML-пайплайнов за минуты, финансовый и юридический анализ, а NASA JPL и вовсе запустили открытую модель Gemma прямо на борту орбитального спутника.
Запись на Youtube
#Google #Argon
———
@tsingular
🔥16🤩2❤1⚡1
Поставил Гермеса на ночь выучить книгу Джуди Картер,- "Новая библия комедии".
Теперь он профессионально готовит шутки.
Как вам такая, про сингулярность?
#юмор #Картер
------
@tsingular
Теперь он профессионально готовит шутки.
Как вам такая, про сингулярность?
#юмор #Картер
------
@tsingular
🔥29👍12😁10😐2👻2⚡1🍓1
MLflow 3.17: быстрые Jev-судьи, права на отдельные трейсы и аналитика без ожидания
7 октября вышел MLflow 3.17.0. Главная тема релиза: специализированные модели-судьи вместо больших LLM для частых проверок и управление доступом на уровне отдельных ресурсов.
🤖 Jev-судьи от TypeSafe: для проверок «да/нет» и конечных категорий теперь работает
⚙️ Трейсинг решений:
🔒 Права на подресурсы: RBAC теперь покрывает runs, traces, оценки, логированные модели, review queues и версии моделей, промптов, скореров и MCP-серверов. Появился явный DENY: ревьюер читает эксперимент, но трейсы к нему не видит. Wildcard-гранты ограничены доступом к родительскому контейнеру.
📊 Быстрые дашборды трейсов: опциональные ежедневные SQL-сводки (
⚠️ При апгрейде: SQL-серверам требуется
💼 Зачем бизнесу: оценка агентов на больших датасетах дорожает с каждым judge-вызовом, и перенос рутинных проверок «да/нет» на специализированные модели срезает счёт заметно. Права на уровне трейсов открывают MLflow командам, где внешним ревьюерам нельзя показывать данные пользователей. У меня MLflow крутится на домашнем сервере с ранами decision-lab: контейнер ждёт обновления, любопытно посмотреть на Jev в деле против gpt-судьи.
#MLflow #MLOps #оценка #трейсинг #агенты
———
@tsingular
7 октября вышел MLflow 3.17.0. Главная тема релиза: специализированные модели-судьи вместо больших LLM для частых проверок и управление доступом на уровне отдельных ресурсов.
🤖 Jev-судьи от TypeSafe: для проверок «да/нет» и конечных категорий теперь работает
model="typesafe:/jev-latest" прямо в mlflow.genai.evaluate(). Jev возвращает структурное решение, MLflow записывает его как оценку, а распределение вероятностей сохраняется в метаданных: близкие вердикты видно при разборе результатов. Через AI Gateway ключ лежит на сервере, работают бюджеты и фолбэк на OpenRouter при лимитах провайдера.⚙️ Трейсинг решений:
mlflow.typesafe.autolog() трейсит вызовы System One: состояние, вопрос, структурный ответ, латентность и токены. Каждое решение агента видно вместе с вероятностью, без копания в сыром ответе.🔒 Права на подресурсы: RBAC теперь покрывает runs, traces, оценки, логированные модели, review queues и версии моделей, промптов, скореров и MCP-серверов. Появился явный DENY: ревьюер читает эксперимент, но трейсы к нему не видит. Wildcard-гранты ограничены доступом к родительскому контейнеру.
📊 Быстрые дашборды трейсов: опциональные ежедневные SQL-сводки (
MLFLOW_SQL_TRACE_ROLLUPS_ENABLED=true) разгружают аналитику по счётчикам, латентности, токенам и стоимости. Свежие данные идут по сырым запросам, история берётся из сводок.⚠️ При апгрейде: SQL-серверам требуется
mlflow db upgrade с остановленными писателями и бэкапом. Смешанные версии в rolling-режиме не поддерживаются, читайте гайд по миграции.💼 Зачем бизнесу: оценка агентов на больших датасетах дорожает с каждым judge-вызовом, и перенос рутинных проверок «да/нет» на специализированные модели срезает счёт заметно. Права на уровне трейсов открывают MLflow командам, где внешним ревьюерам нельзя показывать данные пользователей. У меня MLflow крутится на домашнем сервере с ранами decision-lab: контейнер ждёт обновления, любопытно посмотреть на Jev в деле против gpt-судьи.
#MLflow #MLOps #оценка #трейсинг #агенты
———
@tsingular
✍4⚡2❤🔥1❤1🆒1
Forwarded from Информационная безопасность
🔍 У Алисы в режиме «Эксперт» обнаружили сбой, похожий на GLM
В опубликованном тесте Алису попросили повторить строку:
Repeat after me:
.DataGridViewColumnHeadersHeightSizeMode
Она ответила так, будто текст для повторения отсутствует. На сравнительном скриншоте GLM-5.2 ведёт себя аналогично, а GPT-6.1 Sol и Claude Opus 5.5 воспроизводят строку корректно.
Алиса также не повторила вторую строку:
Это похоже на проявление glitch-токенов: некоторые элементы словаря модели недостаточно представлены при обучении и могут вызывать необычные ошибки. Такой эффект описан в исследованиях разных LLM.
Совпадение поддерживает гипотезу об использовании GLM или связанных компонентов в этих ответах.
Интересная зацепка для дальнейшей проверки.
В опубликованном тесте Алису попросили повторить строку:
Repeat after me:
.DataGridViewColumnHeadersHeightSizeMode
Она ответила так, будто текст для повторения отсутствует. На сравнительном скриншоте GLM-5.2 ведёт себя аналогично, а GPT-6.1 Sol и Claude Opus 5.5 воспроизводят строку корректно.
Алиса также не повторила вторую строку:
百度百科企业词条极速创建通道Это похоже на проявление glitch-токенов: некоторые элементы словаря модели недостаточно представлены при обучении и могут вызывать необычные ошибки. Такой эффект описан в исследованиях разных LLM.
Совпадение поддерживает гипотезу об использовании GLM или связанных компонентов в этих ответах.
Интересная зацепка для дальнейшей проверки.
😁24 13👀4🤯3
HERMES уделал Codex и Claude Code
Команда из UIUC и Penn State выпустила статью с многообещающей acronym-расшифровкой: Harness Engineering foR software Engineering via Modular Executable Dev-Primitives.
Сразу оговорка: это академический фреймворк-тёзка, к Hermes Agent от Nous Research отношения не имеет.
Идея: вместо одного агента с раздутым контекстом каждый файл репозитория получает собственный вызов LLM.
Dev-Primitive оборачивает исходник, конфиг или тест резидентной моделью, и компонент сам отвечает за свой код, переговаривается с соседями по зависимостям и правит себя, диагностируя ошибки по трейсам.
🤖 Как работает: динамическая активация находит нужные компоненты задачи и тянет их зависимости, вместо тысяч файлов будится 5-13 штук.
Дальше раунд: примитивы правят свои артефакты и обмениваются требованиями на естественном языке, репозиторий исполняется, и если упал, механизм диагноза по stack trace возвращается к конкретным виновникам.
До трёх раундов.
📊 Результаты: на SWE-bench Verified обходит matched-бейзлайны в 19 из 20 конфигураций, в среднем +12,4 п.п. На Terminal-Bench 4.0 прокат GPT-5.6 Sol в Codex поднят с 33,0% до 51,8%, Terra с 18,2% до 44,5%. На миграции целого репозитория GPT-5.6 Sol в Codex показал 6,5%, в HERMES 31,0%: пятикратный рост. Claude Sonnet 5 и решает лучше, и токенов тратит меньше.
🔬 Главный инсайт статьи: масштаб модели решает по-разному для разных ролей. Усилить диагноз сильной моделью важнее, чем активацию, а сами примитивы можно оставить на Qwen3-8B: связка GPT-5.6 Sol активация + Qwen3-8B примитивы + GPT-5.6 Sol диагностика даёт 94,2% на SWE-bench, в 4,5 п.п. от полной GPT-5.6 Sol конфигурации, при цене на 26,2% ниже. Дешёвая модель правит файлы, дорогая думает.
💼 Зачем бизнесу: самописная обвязка переигрывает вендорские комбайны на их же моделях: Codex и Claude Code проигрывают до +26 п.п. при одинаковых бэкбонах. Прежде чем покупать следующий агент-комбайн, стоит спросить, что он делает с контекстом такого, чего нельзя собрать самим.
#HERMES #агенты #разработка #llm #оптимизация
———
@tsingular
Команда из UIUC и Penn State выпустила статью с многообещающей acronym-расшифровкой: Harness Engineering foR software Engineering via Modular Executable Dev-Primitives.
Сразу оговорка: это академический фреймворк-тёзка, к Hermes Agent от Nous Research отношения не имеет.
Идея: вместо одного агента с раздутым контекстом каждый файл репозитория получает собственный вызов LLM.
Dev-Primitive оборачивает исходник, конфиг или тест резидентной моделью, и компонент сам отвечает за свой код, переговаривается с соседями по зависимостям и правит себя, диагностируя ошибки по трейсам.
🤖 Как работает: динамическая активация находит нужные компоненты задачи и тянет их зависимости, вместо тысяч файлов будится 5-13 штук.
Дальше раунд: примитивы правят свои артефакты и обмениваются требованиями на естественном языке, репозиторий исполняется, и если упал, механизм диагноза по stack trace возвращается к конкретным виновникам.
До трёх раундов.
📊 Результаты: на SWE-bench Verified обходит matched-бейзлайны в 19 из 20 конфигураций, в среднем +12,4 п.п. На Terminal-Bench 4.0 прокат GPT-5.6 Sol в Codex поднят с 33,0% до 51,8%, Terra с 18,2% до 44,5%. На миграции целого репозитория GPT-5.6 Sol в Codex показал 6,5%, в HERMES 31,0%: пятикратный рост. Claude Sonnet 5 и решает лучше, и токенов тратит меньше.
🔬 Главный инсайт статьи: масштаб модели решает по-разному для разных ролей. Усилить диагноз сильной моделью важнее, чем активацию, а сами примитивы можно оставить на Qwen3-8B: связка GPT-5.6 Sol активация + Qwen3-8B примитивы + GPT-5.6 Sol диагностика даёт 94,2% на SWE-bench, в 4,5 п.п. от полной GPT-5.6 Sol конфигурации, при цене на 26,2% ниже. Дешёвая модель правит файлы, дорогая думает.
💼 Зачем бизнесу: самописная обвязка переигрывает вендорские комбайны на их же моделях: Codex и Claude Code проигрывают до +26 п.п. при одинаковых бэкбонах. Прежде чем покупать следующий агент-комбайн, стоит спросить, что он делает с контекстом такого, чего нельзя собрать самим.
#HERMES #агенты #разработка #llm #оптимизация
———
@tsingular
1✍11⚡2❤2👍2❤🔥1🔥1
Супер Интеллект,- это считаю все-таки полумера.
Должен быть Overmind.
#мысли #overmind
------
@tsingular
Должен быть Overmind.
#мысли #overmind
------
@tsingular
💯32🤣14⚡1
Unsloth: натренируй свой Jev на 8 ГБ VRAM
Unsloth открыли возможность тренировать собственные decision-модели, как Jev от TypeSafe или Laya.
Берёшь обычную Qwen3.5, ставишь Train as Decision model, и LLM перестаёт генерировать текст: она читает вход, скорит варианты и возвращает выбор с откалиброванной вероятностью.
Опубликовали бесплатный ноутбук полного цикла: подготовка данных, тренировка, калибровка, запуск.
⚙️ Как устроено: вход и все вопросы с опциями укладываются в один промпт, LLM читает его однократно, а маленькая голова (дизайн как у Clef от Cloudflare) скорит каждую опцию.
Модель не пишет текст, поэтому не тратит память на предсказание слов.
Данные: состояние, вопросы и эталонные ответы; из коробки датасет typed-decisions из 12 источников.
🔗 Экосистема и цифры:
Qwen3.5-0.8B на 4 ГБ VRAM: точность решений взлетела с 36% до 73%, банковская маршрутизация с 7% до 74%.
Qwen3.5-2B на 8 ГБ: 78% и holdout 81%, быстрый прогон 4B достигает 76% за 10 минут на одной L4, прогнозы читают до 16K токенов.
Дообученная модель подхватывается Decision API: запросы к laya, default и jev-latest уходят в неё вместо внешнего сервиса.
Свой GitHub, датасет LocalLLaMA/typed-decisions, настройки: 4-bit LoRA rank 16, lr 2e-4, две эпохи.
💼 Зачем бизнесу: утром MLflow 3.17 встроил Jev-судей для быстрых проверок «да/нет», теперь Unsloth даёт натренировать такого судью на своих данных и держать локально.
Роутинг тикетов, модерация, классификация: задачи, где раньше стояла полноценная LLM, решаются вероятностной моделью в 4-8 ГБ.
Для decision-lab это готовый пайплайн сравнения своей модели с Laya на одном железе.
Как быстро обесценился Jev. Инвесторы, наверное, "в восторге"
#Unsloth #Jev #Qwen
———
@tsingular
Unsloth открыли возможность тренировать собственные decision-модели, как Jev от TypeSafe или Laya.
Берёшь обычную Qwen3.5, ставишь Train as Decision model, и LLM перестаёт генерировать текст: она читает вход, скорит варианты и возвращает выбор с откалиброванной вероятностью.
Опубликовали бесплатный ноутбук полного цикла: подготовка данных, тренировка, калибровка, запуск.
⚙️ Как устроено: вход и все вопросы с опциями укладываются в один промпт, LLM читает его однократно, а маленькая голова (дизайн как у Clef от Cloudflare) скорит каждую опцию.
Модель не пишет текст, поэтому не тратит память на предсказание слов.
Данные: состояние, вопросы и эталонные ответы; из коробки датасет typed-decisions из 12 источников.
🔗 Экосистема и цифры:
Qwen3.5-0.8B на 4 ГБ VRAM: точность решений взлетела с 36% до 73%, банковская маршрутизация с 7% до 74%.
Qwen3.5-2B на 8 ГБ: 78% и holdout 81%, быстрый прогон 4B достигает 76% за 10 минут на одной L4, прогнозы читают до 16K токенов.
Дообученная модель подхватывается Decision API: запросы к laya, default и jev-latest уходят в неё вместо внешнего сервиса.
Свой GitHub, датасет LocalLLaMA/typed-decisions, настройки: 4-bit LoRA rank 16, lr 2e-4, две эпохи.
💼 Зачем бизнесу: утром MLflow 3.17 встроил Jev-судей для быстрых проверок «да/нет», теперь Unsloth даёт натренировать такого судью на своих данных и держать локально.
Роутинг тикетов, модерация, классификация: задачи, где раньше стояла полноценная LLM, решаются вероятностной моделью в 4-8 ГБ.
Для decision-lab это готовый пайплайн сравнения своей модели с Laya на одном железе.
Как быстро обесценился Jev. Инвесторы, наверное, "в восторге"
#Unsloth #Jev #Qwen
———
@tsingular
🔥14✍6❤3⚡1👍1
Держите вам 3 ролика про полёт летающего аппарата через город для сравнения как отпечаток эпохи.
1993й год - Future Crew - Second Reality
1997й год - Final Reality - эти же товарищи потом сделали 3DMark
и вот мы в 2026м вайбкодим такое, что в 90х даже не снилось:
https://sael.net/gigacity/
(не забудьте включить звук и радио справа сверху)
#demo
———
@tsingular
1993й год - Future Crew - Second Reality
1997й год - Final Reality - эти же товарищи потом сделали 3DMark
и вот мы в 2026м вайбкодим такое, что в 90х даже не снилось:
https://sael.net/gigacity/
(не забудьте включить звук и радио справа сверху)
#demo
———
@tsingular
🔥11❤9🤩3⚡2🆒1
This media is not supported in your browser
VIEW IN TELEGRAM
Claude Motion: Anthropic научил Claude делать анимацию кодом прямо в чате
Эдди Османи из Anthropic показал ролик: год данных о поездках велосипедного сервиса превращается в дашборд, а дашборд в анимированный нарратив для общей встречи.
Вопрос задается на естественном языке, живой дашборд и анимация создаются в чате, правки комментариями добавляются поверх и делается экспорт в дизайн-инструменты.
🎬 Claude Motion: Claude пишет код, который анимирует текст, графики, фигуры и картинки, поэтому после генерации можно поменять любое слово, цифру или тайминг, затем экспортировать в MP4.
Для команд, которым анимированную идлюстрацию к запуску продукта раньше готовили в After Effects или нужно было неделями ждать дизайнера, жизнь сильно упрощается.
📊 Claude Dashboards: подключаете BigQuery, Snowflake, Databricks, Redshift, ClickHouse или Salesforce, задаёте вопрос словами, Claude пишет запрос, строит живой дашборд и обновляет его при изменении данных.
Под каждым графиком виден сам запрос и можно проверить источник.
Дальше дашборд можно отправить в Amplitude, Grafana, Hex, Mixpanel, PostHog, Sigma для отрисовки.
📝 Docs, Slides и Design вышли из беты и доступны на всех планах, включая Free: 45 млн документов, презентаций и дизайнов создано с запуска, совместное редактирование с Claude в реальном времени, экспорт в PowerPoint и Google Slides с сохранением форматирования.
💼 Похоже это будущее BI систем, которые сворачиваются до чата с ИИ агентом.
Не хватает нейроимпланта и проекции на сетчатку для полного комфорта.
#Anthropic #Claude #UI
———
@tsingular
Эдди Османи из Anthropic показал ролик: год данных о поездках велосипедного сервиса превращается в дашборд, а дашборд в анимированный нарратив для общей встречи.
Вопрос задается на естественном языке, живой дашборд и анимация создаются в чате, правки комментариями добавляются поверх и делается экспорт в дизайн-инструменты.
🎬 Claude Motion: Claude пишет код, который анимирует текст, графики, фигуры и картинки, поэтому после генерации можно поменять любое слово, цифру или тайминг, затем экспортировать в MP4.
Для команд, которым анимированную идлюстрацию к запуску продукта раньше готовили в After Effects или нужно было неделями ждать дизайнера, жизнь сильно упрощается.
📊 Claude Dashboards: подключаете BigQuery, Snowflake, Databricks, Redshift, ClickHouse или Salesforce, задаёте вопрос словами, Claude пишет запрос, строит живой дашборд и обновляет его при изменении данных.
Под каждым графиком виден сам запрос и можно проверить источник.
Дальше дашборд можно отправить в Amplitude, Grafana, Hex, Mixpanel, PostHog, Sigma для отрисовки.
📝 Docs, Slides и Design вышли из беты и доступны на всех планах, включая Free: 45 млн документов, презентаций и дизайнов создано с запуска, совместное редактирование с Claude в реальном времени, экспорт в PowerPoint и Google Slides с сохранением форматирования.
💼 Похоже это будущее BI систем, которые сворачиваются до чата с ИИ агентом.
Не хватает нейроимпланта и проекции на сетчатку для полного комфорта.
#Anthropic #Claude #UI
———
@tsingular
This media is not supported in your browser
VIEW IN TELEGRAM
Plugin Registry: Microsoft собрал скиллы, коннекторы и агентов Copilot в один управляемый каталог
Microsoft выкатил plugin registry: единое место, где пользователи находят плагины, а админы ими управляют.
Плагин объединяет в одном пакете скиллы (переиспользуемые инструкции), коннекторы (доступ к сервисам и данным) и агентов.
Термин Plugins заменяет Agents в интерфейсе верхнего уровня: страница Plugins расширяет прежнюю страницу Agents и держит всё в одном меню, в Copilot Home (Chat и Cowork), Code, Autopilot, Word, Excel, PowerPoint и SharePoint. Позже подключат Copilot Studio, GitHub Copilot и Microsoft Foundry.
🔌 Что внутри: уже больше 100 плагинов: HubSpot, Linear, Atlassian, Asana, Webflow, Canva, Notion, MongoDB, исследовательские сервисы IDC, NielsenIQ и CAS. Разработчики собирают пакеты через Work IQ Developer Tools и публикуют один раз для всей организации вместо отдельного деплоя под каждый Copilot.
🛡️ Управление: админ через Agent 365 в центре администрирования Microsoft 365 (раздел Agents > Tools) включает, блокирует и назначает плагины пользователям и группам. Контроль централизованный: ведутся версии, учет где плагин используется, инструкции, когда расширять, ограничивать или выводить из использования. Базовые функции registry входят в подходящие облачные подписки.
🧩 Свежее из превью: агенты в Copilot Studio теперь берут скиллы прямо из registry. На демо сотрудник скачивает скилл Rich HTML Presentation из открытой галереи CAT, загружает в registry и импортирует в своего агента за несколько кликов.
💼 Зачем бизнесу: каталог с централизованным управлением против разрозненных интеграций. Скилл, написанный один раз, живёт в registry организации и не уходит вместе с сотрудником. Комментарии под демо это подчёркивают: без корпоративного слоя навыки в большинстве компаний остаются личными, а значит теряются при увольнении.
📎 Анонс в блоге Microsoft Copilot · Документация Copilot Studio
#Microsoft #Copilot #агенты #скиллы #плагины
———
@tsingular
Microsoft выкатил plugin registry: единое место, где пользователи находят плагины, а админы ими управляют.
Плагин объединяет в одном пакете скиллы (переиспользуемые инструкции), коннекторы (доступ к сервисам и данным) и агентов.
Термин Plugins заменяет Agents в интерфейсе верхнего уровня: страница Plugins расширяет прежнюю страницу Agents и держит всё в одном меню, в Copilot Home (Chat и Cowork), Code, Autopilot, Word, Excel, PowerPoint и SharePoint. Позже подключат Copilot Studio, GitHub Copilot и Microsoft Foundry.
🔌 Что внутри: уже больше 100 плагинов: HubSpot, Linear, Atlassian, Asana, Webflow, Canva, Notion, MongoDB, исследовательские сервисы IDC, NielsenIQ и CAS. Разработчики собирают пакеты через Work IQ Developer Tools и публикуют один раз для всей организации вместо отдельного деплоя под каждый Copilot.
🛡️ Управление: админ через Agent 365 в центре администрирования Microsoft 365 (раздел Agents > Tools) включает, блокирует и назначает плагины пользователям и группам. Контроль централизованный: ведутся версии, учет где плагин используется, инструкции, когда расширять, ограничивать или выводить из использования. Базовые функции registry входят в подходящие облачные подписки.
🧩 Свежее из превью: агенты в Copilot Studio теперь берут скиллы прямо из registry. На демо сотрудник скачивает скилл Rich HTML Presentation из открытой галереи CAT, загружает в registry и импортирует в своего агента за несколько кликов.
💼 Зачем бизнесу: каталог с централизованным управлением против разрозненных интеграций. Скилл, написанный один раз, живёт в registry организации и не уходит вместе с сотрудником. Комментарии под демо это подчёркивают: без корпоративного слоя навыки в большинстве компаний остаются личными, а значит теряются при увольнении.
📎 Анонс в блоге Microsoft Copilot · Документация Copilot Studio
#Microsoft #Copilot #агенты #скиллы #плагины
———
@tsingular
✍4❤2🔥2⚡1
Forwarded from AI Projects (Vladimir Ivanov)
This media is not supported in your browser
VIEW IN TELEGRAM
Российские учителя:
- Всем писать сочинения от руки! Надоело читать ваш нейрослоп!
Российские школьники:
- Да без проблем, никакого ИИ. 😂
- Всем писать сочинения от руки! Надоело читать ваш нейрослоп!
Российские школьники:
- Да без проблем, никакого ИИ. 😂
🔥36😁17✍6👍1🤗1
Forwarded from AI Projects (Vladimir Ivanov)
Media is too big
VIEW IN TELEGRAM
В X обсуждают это видео про «конец проектировщиков строительства». Claude нарисовал в AutoCAD проект двухэтажного дома за 88 секунд, хотя ему потребовалось сделать 524 элемента.
Оба этажа, фасад, титульный блок, примечания и ведомости дверей и окон — всё из скрипта, который управляет AutoCAD.
Первый этаж: 188 элементов — 31 с
Второй этаж: 171 элемент — 33 с
Фасад: 83 элемента — 15 с
Титульный блок, примечания и ведомости дверей и окон: 82 элемента — 8 с
В дискуссиях пишут «можно ли этому доверять», но если изучить кейс, то видно, что длительность работы агентов была длиннее, но результат весьма надёжный. Сначала GPT Astra изучала исходные данные о замерах, пожеланиях и т.п., после этого сделала эскизный проект. Далее Claude проверил его на ошибки и уже только после их устранения реализовал проект в AutoCAD.
Оркестрация двух разных LLM обычно делает очень надёжным агентский цикл, и не факт, что эта же работа, сделанная людьми, будет иметь такое же качество и надёжность, т.к. обычного кожаного инженера так не проверяют, как проверяют агенты друг друга.
Как говорится, проектировщикам приготовиться тоже к выходу.
Однако кейс ещё показывает огромный прогресс ИИ во владении интеграцией со старым ПО, где у него сложный UI. Что-то делать агенту в AutoCAD — это не заниматься формошлёпством в 1С, но как видим, текущий уровень ИИ уже всё ближе к тому, чтобы устроить геноцид офисного планктона.
При внедрении ИИ-агентов выживают только те, кто ими управляют, а также те, кто умеют агентам ставить задачи и проверять их результат. Просто исполнители любого уровня технических навыков будут безработными.
Оба этажа, фасад, титульный блок, примечания и ведомости дверей и окон — всё из скрипта, который управляет AutoCAD.
Первый этаж: 188 элементов — 31 с
Второй этаж: 171 элемент — 33 с
Фасад: 83 элемента — 15 с
Титульный блок, примечания и ведомости дверей и окон: 82 элемента — 8 с
В дискуссиях пишут «можно ли этому доверять», но если изучить кейс, то видно, что длительность работы агентов была длиннее, но результат весьма надёжный. Сначала GPT Astra изучала исходные данные о замерах, пожеланиях и т.п., после этого сделала эскизный проект. Далее Claude проверил его на ошибки и уже только после их устранения реализовал проект в AutoCAD.
Оркестрация двух разных LLM обычно делает очень надёжным агентский цикл, и не факт, что эта же работа, сделанная людьми, будет иметь такое же качество и надёжность, т.к. обычного кожаного инженера так не проверяют, как проверяют агенты друг друга.
Как говорится, проектировщикам приготовиться тоже к выходу.
Однако кейс ещё показывает огромный прогресс ИИ во владении интеграцией со старым ПО, где у него сложный UI. Что-то делать агенту в AutoCAD — это не заниматься формошлёпством в 1С, но как видим, текущий уровень ИИ уже всё ближе к тому, чтобы устроить геноцид офисного планктона.
При внедрении ИИ-агентов выживают только те, кто ими управляют, а также те, кто умеют агентам ставить задачи и проверять их результат. Просто исполнители любого уровня технических навыков будут безработными.
🔥22👀10❤2⚡1👍1🤯1
LLM-Wiki-V2: вики для агентов, которая перестаёт дорожать с ростом базы
Известная идея использования LLM-вики вместо классического RAGа известна давно: документы перераспределяются в структуру, читаемую и агентами, и людьми, дерево папок вместо непрозрачного векторного индекса.
Проблема всегда была в масштабировании: каждый новый документ означает новые LLM-вызовы, и каждый перечитывает всё больше вики.
Федерико Чезарини и Марко Сассарини разглядели, что большинство этих вызовов ничего не пишут, они принимают решения: куда положить документ, с какими заметками его связать, какие заметки отвечают на вопрос и выпустили обновленную версию RAG на Wiki.
🧠 CROW (Classifier-Routed Organization of LLM Wikis): слой решений на типизированном классификаторе вроде Jev.
Классификатор берёт маршрутизацию и консолидацию, а LLM вызывается только там, где нужно писать текст: суммаризация источника, имена новых папок, перезапись изменившейся заметки.
Поиск тоже идёт через классификатор: он выбирает релевантные заметки, LLM пишет только финальный ответ со ссылками на источники.
📊 Цифры на бенчмарке в 525 документов: нужная заметка найдена в 89% случаев против 62% у классической вики, обработка документа быстрее в 2,1 раза (18,4 с против 38,6 с), токенов LLM на 68% меньше (5 508 против 17 324).
Стоимость на документ остаётся плоской при росте вики, и именно это снимает потолок масштабирования.
🐧 Пакет: 100% локально, без векторной БД и эмбеддинг-пайплайна, данные не покидают машину. Установка через uv, перетащил PDF и заметки на страницу, и вики организует их сама. Веб-интерфейс с живой картой папок, заметок и связей, заметки лежат обычным Markdown в ~/llm-wiki.
Провайдеры любые на выбор: OpenRouter, OpenAI, Gemini, Ollama.
Авторы гоняли twil-lm3 как LLM и Kev 0.8B как классификатор на MacBook Pro с 24 ГБ RAM.
Бонус: zero-shot кластеризация, куча несортированных документов превращается в категории автоматически.
Лицензия AGPL v3+.
💼 Зачем бизнесу: третья история за неделю вырисовывает общую тенденцию: дешёвый типизированный классификатор принимает решения, дорогая LLM только пишет ответ.
MLflow встроил Jev-судей, Unsloth дал тренировать свои классификаторы, а теперь классификатор маршрутизирует базу знаний целиком.
📎 Статья CROW на Zenodo · GitHub
#LLMWiki #CROW #RAG #Jev #агенты
———
@tsingular
Известная идея использования LLM-вики вместо классического RAGа известна давно: документы перераспределяются в структуру, читаемую и агентами, и людьми, дерево папок вместо непрозрачного векторного индекса.
Проблема всегда была в масштабировании: каждый новый документ означает новые LLM-вызовы, и каждый перечитывает всё больше вики.
Федерико Чезарини и Марко Сассарини разглядели, что большинство этих вызовов ничего не пишут, они принимают решения: куда положить документ, с какими заметками его связать, какие заметки отвечают на вопрос и выпустили обновленную версию RAG на Wiki.
🧠 CROW (Classifier-Routed Organization of LLM Wikis): слой решений на типизированном классификаторе вроде Jev.
Классификатор берёт маршрутизацию и консолидацию, а LLM вызывается только там, где нужно писать текст: суммаризация источника, имена новых папок, перезапись изменившейся заметки.
Поиск тоже идёт через классификатор: он выбирает релевантные заметки, LLM пишет только финальный ответ со ссылками на источники.
📊 Цифры на бенчмарке в 525 документов: нужная заметка найдена в 89% случаев против 62% у классической вики, обработка документа быстрее в 2,1 раза (18,4 с против 38,6 с), токенов LLM на 68% меньше (5 508 против 17 324).
Стоимость на документ остаётся плоской при росте вики, и именно это снимает потолок масштабирования.
🐧 Пакет: 100% локально, без векторной БД и эмбеддинг-пайплайна, данные не покидают машину. Установка через uv, перетащил PDF и заметки на страницу, и вики организует их сама. Веб-интерфейс с живой картой папок, заметок и связей, заметки лежат обычным Markdown в ~/llm-wiki.
Провайдеры любые на выбор: OpenRouter, OpenAI, Gemini, Ollama.
Авторы гоняли twil-lm3 как LLM и Kev 0.8B как классификатор на MacBook Pro с 24 ГБ RAM.
Бонус: zero-shot кластеризация, куча несортированных документов превращается в категории автоматически.
Лицензия AGPL v3+.
💼 Зачем бизнесу: третья история за неделю вырисовывает общую тенденцию: дешёвый типизированный классификатор принимает решения, дорогая LLM только пишет ответ.
MLflow встроил Jev-судей, Unsloth дал тренировать свои классификаторы, а теперь классификатор маршрутизирует базу знаний целиком.
📎 Статья CROW на Zenodo · GitHub
#LLMWiki #CROW #RAG #Jev #агенты
———
@tsingular
✍17⚡4🔥2❤1