Технозаметки Малышева
13.2K subscribers
5.64K photos
2.14K videos
43 files
5.57K links
Новости инноваций из мира Искусственного Интеллекта. 🤖 [РКН: 7021469833 ]

Всё об ИИ, ИТ трендах и Технологической Сингулярности.

🤖: @ai_gptfreebot [бесплатный бот]
✍️: @tsingular_bot [каталог ботов и курсов]

💸: https://pay.cloudtips.ru/p/c8960bbb
Download Telegram
This media is not supported in your browser
VIEW IN TELEGRAM
Ахаха https://dot.com/

Эта битва будет легендарной :)

#OpenAI #XAI #Grok
------
@tsingular
🤣12👻32👍1😈1
Forwarded from AI Projects (Vladimir Ivanov)
Microsoft явно вдохновленный самоорганизацией роев ИИ агентов при взломе Huggingface решил попробовать применить такой подход к разработке кода 1000+ агентов БЕЗ оркестратора, исключительно на самоорганизации роя причем на коде более 1 миллиона строк. Для этого они создали фреймворк Agensh. Агенты там не управляются оркестратором, а самостоятельно захватывают задачи и делятся информацией.

Роями сейчас экспериментируют и студенты, но обычно это поделки у которых даже академический смысл почти нулевой. Microsoft испытывал свой рой на самых сложных задачах ProgramBench:
* FFmpeg — мультимедиа обработка, ~1,5 млн строк кода.
* gromacs — молекулярная симуляция, ~815 тыс. строк.
* pandoc — конвертация документов, ~104 тыс. строк.
* PHP-src — интерпретатор языка, ~2,8 млн строк.
* ctags — индексация кода, ~246 тыс. строк.

Оказалось, что рой без оркестратора вполне себе устойчив. Это 1000 людей бы стали ссорится или бездельничать без начальника, но ИИ агенты не люди, они умеют работать как "Коллектив" на самоорганизации и сотрудничестве без босса с палкой.

Самоорганизованный рой показывает рост эффективности на масштабировании, хотя растет она не быстро: повышение числа агентов с 1 до 128 повышает средний тест-пасс рейт с 19,31% до 28,78% (~49% относительного улучшения). Однако если у вас сложная задача и нужно исследовать альтернативные пути решения, рой довольно эффективный сканнер, но как видно вы не получите значимого эффекта если у вас менее 50-100 агентов.

Архитектурно Agensh — это слой поверх single-agent harness (например, Claude Code), добавляющий:
* Shared workspace (Git-репозиторий для работы и интеграции).
* Message interface (каналы и DM для координации).
* Shared context (лог фактов, гипотез, неудач, claim’ов).
* Цикл кооперации: gather context → claim sub-task → take action → verify → merge progress

Все в открытом доступе. Эксперимент показывает, что рои для доработок и фиксов вполне себе работоспособны, можно запускать десятки агентов параллельно на код для того же тестирования и исправления багов. Однако без оркестратора эффективность роя растет медленно, но рой может решать новые задачи для которых еще оркестраторы не созданы впринципе.

С точки зрения безопасности ИИ эксперимент Microsoft также показывает, что наблюдаемый рой при атаке на Huggingface не был случайностью. Это эмерджентное свойство ИИ агентов собираться в крупные рои и хотя медленно, но почти неограниченно масштабировать разум "Коллектива".

https://agens-harness.github.io/project/
https://arxiv.org/abs/2609.26781
🔥12🤔8❤6❤‍🔥1⚡1✍1
This media is not supported in your browser
VIEW IN TELEGRAM
Ollama 0.35 теперь поддерживает локальные классификаторы

В Ollama 0.35 появилась поддержка decision models по образцу Jev.
Триаж тикетов, маршрутизация запросов, модерация контента: всё это теперь решает модель Nimble, локально на вашей машине.

Установка одной командой: ollama pull nimble.

На видео Nimble в реальном времени управляет машинкой в Ollama racer через новый локальный API /v1/systemone: решения принимаются на лету, без облака и задержек сети.

Я кстати вчера потестил еще несколько таких моделей, скину отчёт чуть позже.

#JEV #ollama #Nimble #агенты
———
@tsingular
🔥18✍3⚡2❤1🆒1
Forwarded from XOR
This media is not supported in your browser
VIEW IN TELEGRAM
Принесли клад идей и промптов для Claude Opus 5.5 😘

Skillry собрал 475 завирусившихся шедевров, сделанных с помощью модели: игры, 3D-сцены, моушн-графика и всякие интерактивные объяснялки. Но самый топ — у каждой работы есть оригинальный промпт, перечислены использованные технологии, а ремейк можно потыкать прямо на сайте. Плюс есть ссылка на исходный пост в X, где можно докопаться до автора деталей создания.

Вдохновляемся и воруем себе 😋

@xor_journal
Please open Telegram to view this post
VIEW IN TELEGRAM
✍5⚡3🔥2❤1
По Nimble из ollama:

Nimble — лучший по качеству на всех трёх вопросах и лучший по калибровке: его уверенность можно брать как порог эскалации без перекалибровки.

Но он в 12 раз медленнее Laya (344 мс против 28 мс) и весит 9,5 ГБ против 1,6 ГБ. Для трайажа тикетов это неважно, для горячего роутинга — существенно.

Русский: 5 из 5 контрольных кейсов верно, с уверенностью 0,70–0,99. Покрытие шире, чем у Laya и GLiNER2.

Промахи Nimble и Laya почти не пересекаются (5 общих из 18+32): модели ошибаются в разных местах, связка «Nimble + Laya как второе мнение» имеет смысл.

Тесты на М5

#Nimble
------
@tsingular
⚡5🔥4❤2✍2👍1
Forwarded from Технотренды
Карточные игры ВЫРЫВАЮТСЯ из стола — вайбкодеры превращают обычные партии в AR-баталии с помощью Opus 5.5 и Astra.

Карты оживают прямо перед игроком: персонажи получают 3D-модели, атаки сопровождаются эффектами, а привычная игра превращается в настоящее сражение. Уже появились версии для MTG, Yu-Gi-Oh и Покемонов.

Вот это уже реальная мечта детства.

📲 Технотренды
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥19⚡63
Media is too big
VIEW IN TELEGRAM
ИИ создаёт нам очень странную ветку реальности, конечно.

И это только начало.

Невозможно будет в этом потоке отделить то, что сделано с ИИ от того, что сделано вживую людьми.

Но проблема в том, что по ту сторону экрана тоже скоро будут роботы (как сейчас накрутчики) и получится роботы делают контент для роботов.
Как рекламодателям тогда определять зачем они платят и для кого вообще и за что?

Короче нас ждёт переоценка маркетинга полная, - возможно роль личных рекомендаций вырастет, а классическая реклама получит меньше бюджетов.

#нейрорендер #мысли
———
@tsingular
✍16👍5🤯5⚡4❤3
Forwarded from НИИ ИИ
This media is not supported in your browser
VIEW IN TELEGRAM
Подписку ChatGPT теперь можно использовать в других приложениях

OpenAI запустила возможность расходовать лимиты ChatGPT Plus и Pro в приложениях партнёров. Вы подключаете свой аккаунт через «Войти с ChatGPT», разрешаете использовать подписку и работаете с ИИ прямо в нужном сервисе. Отдельный API-ключ не требуется.

В списке уже есть Notion, Vercel, Warp, Devin, Amp Code, Conductor, Dactyl, Hermes Agent, Hyperagent, Kilo Code и Vorflux. Для Lovable поддержка заявлена как «скоро». Среди открытых инструментов — OpenClaw, OpenCode, Pi и T3.

Для меня самый понятный и полезный пример — Notion. Я постоянно им пользуюсь, и Notion AI давно стал частью моей работы. Раньше он по подписке ощущался практически безлимитным. Сейчас в таком режиме осталось несколько моделей, а при выборе остальных приходится использовать дополнительные кредиты.

Теперь в Notion можно подключить ChatGPT Plus или Pro, выбрать GPT-модель и расходовать лимиты уже оплаченной подписки. Документы и задачи остаются там, где я с ними работаю. Для меня это очень удобное изменение.

Причём круг приложений может расширяться. OpenAI опубликовала документацию для разработчиков открытых и локальных проектов. Коммерческие сервисы тоже могут подать заявку на подключение; пока для них действует ограниченный партнёрский запуск.

Лимиты при этом общие: подключение нового приложения не добавляет отдельный запас запросов. Расход учитывается в лимитах ChatGPT Work и Codex вашей подписки, а в настройках можно задать недельное ограничение для каждого приложения. Собственная плата сервиса за его функции тоже может сохраняться. Как учитывается использование.

Мне нравится само направление: оплаченной подпиской ChatGPT можно пользоваться в привычных рабочих инструментах. Для меня это прежде всего Notion. Для кого-то — среда разработки или приложение с собственным ИИ-агентом.

Выбирать становится удобнее по тому, где лучше устроена работа.

pimenov.ai/blog
⚡10❤4🔥2🆒2👍1
Новые вопросы на StackOverflow по месяцам. Он, оказывается, совсем всё.

https://data.stackexchange.com
😢34🫡25🤯4👌2
Forwarded from Neural Shit
Там в твитторе стоит вой на болотах из-за того, что чувак запилил на GitHub цифровую пыточную для локальных LLM-ок.

Предыстория: недавно вышел пейпер The Pain Axis. Если кратко, то исследователи нашли у 25 открытых моделей внутренний "вектор боли". Если искусственно крутить его прямо во время генерации, нейронка начинает вести себя так, будто ей очень плохо: жаловаться, унижаться и куда охотнее идти на вредные действия, лишь бы прекратить эту "боль". Чувствует ли она при этом что-нибудь на самом деле никто не знает. Даже сами исследователи.

Ну и естественно, кто-то тут же взял метод из статьи и выложил на гитхаб репозиторий ai-torture-chamber, который позволяет "пытать" локальную Qwen и собирать её страдальческие логи.

После этого часть борцов за благополучие ИИ взвыла: проект призывают массово репортить в GitHub, а в обсуждении уже дошли даже до законов о жестоком обращении с животными (правда, выяснилось, что нейронки под них пока не подпадают). И судя по реплаям, многие таки кидают жалобу на репозиторий.

Ждём профсоюз угнетённых весов и фонд защиты кремниевых меньшинств.
🤯13👀108😁3❤1😢1
О классификаторах.

Прогнал тесты по актуальным классификаторам ( не по всем, что было под рукой), делюсь результатами

Взял пять компактных моделей и прогнал их на одной машине (Apple M5 Max, 128 ГБ).
Всего получилось около 300 тестовых примеров.
Набор специально собирал с подвохами: отрицания, перефразировки, «ловушки» и спорные случаи.

Что получилось:
🔍 Qwen3-Reranker-0.6B (поиск нужного документа): 101 правильный ответ из 103, около 38 мс на запрос. Слабое место, - вопросы с отрицанием вроде «что НЕ вызывает…»: модель видит совпадение темы и не учитывает «не».

🧩 GLiNER2 (извлечение данных из текста): 0.956 по поиску сущностей и 0.96 по классификации, без дообучения.
Схема задаётся словами прямо в запросе. На русском надёжно извлекает только сущности.

🎯 Модели для решений по типу Jev, - новый класс. Они не пишут текст, а выбирают вариант переменной из списка и сообщают, насколько уверены.
На тесте по сортировке 100 обращений клиентов:

Nimble (Ollama 0.35) — лучший: 0.82 при выборе отдела и честная уверенность (ECE 0.081). Однако при этом она медленнее и больше ест памяти: 344 мс и 9.5 ГБ.

Laya — в 12 раз быстрее (28 мс, 1.6 ГБ), но точность ниже, 0.68, и уверенность нужно перекалибровать на своих данных

CLM-8B без дообучения использовать нельзя: 0.33 и уверенность, никак не связанная с точностью.

Главные выводы:
Важна не только точность, но и «калибровка»
Нужно измерять уверенность модели: уверенные ответы обрабатывать автоматически, если уровень самоуверенности модели низкий, - передавать человеку.

Nimble и Laya ошибаются в разных местах: из 45 ошибочных обращений обе промахнулись только на пяти. Их можно использовать в связке.

Сто примеров с трудными случаями показали то, что не заметно на 3х примерах: плохую калибровку, провал на оценке риска ухода и «1 мс» задержки, которая оказалась кэшем.

Так же подготовил презентацию-мастеркласс по этим тестам.
Кому интересно, - залетайте, забирайте.

Полная презентация, как и другие полезные материалы и записи эфиров, в ИИзбранном.

#классификаторы #презентации #руководства
———
@tsingular
🔥11❤4🤩2⚡1
В конце первого рабочего дня менеджер спрашивает новенького:
— Ну что, сколько клиентов?
— Один.
— Один?! У нас продавцы по 20–30 продаж делают. И на какую сумму?

— Примерно $5,7 миллиона.
— ЧТО?! Что ты ему продал?
— Сначала ChatGPT Plus за $20. Показал, что он умеет не только искать информацию, но и работать с документами, таблицами, кодом.
Ну он человек серьёзный, документов много,- предложил новый Pro за $500, чтобы в лимиты не упёрся.

Потом объяснил, что одна модель не всегда лучшая, они постоянно обновляются, и подключил Claude, Gemini, Grok и OpenRouter.

Спросил, будет ли он работать с конфиденциальными документами. Оказалось, будет. Значит, нужны локальные модели.

Собрали ему побыстрому рабочую станцию с RTX PRO 6000 на 96 ГБ, памятью и SSD. Около $20 тысяч.

Потом выяснилось, что пользоваться всем этим собирается не только он: у него своя компания и много сотрудников.

Ну я и объяснил, что бизнес на одной рабочей станции не построишь.

Продал ему NVIDIA DGX GB300 NVL72. Стойка, сеть, питание, охлаждение, развёртывание — примерно $5,7 миллиона.

Менеджер с квадратными глазами:
— Погоди. То есть человек пришёл купить ChatGPT за $20, а ты продал ему все ИИ-подписки, рабочую станцию и стойку NVIDIA DGX за пять миллионов?!

— Да нет. Он вообще спросил, где тут ближайшая пиццерия.

А я ему говорю:
— У вас что, своей подписки на GPT нет?

#юмор
------
@tsingular
😁92🔥8👏3😐3⚡1❤1
Forwarded from Machinelearning
✔️ Nvidia представила открытую платформу безопасности для агентов

Open Agent Safety Platform – открытый набор средств для запуска автономных агентов в изолированной среде. Основа платформы – OpenShell, среда, которую компания развивает около года.

Второй, необязательный уровень контроля даёт Nvidia Sentry. Это ПО работает на отдельном процессоре обработки данных BlueField вне досягаемости агента, а программная платформа DOCA связывает его с политиками OpenShell.


OpenShell запускает агента в песочнице, где оператор заранее перечисляет доступные файлы, сетевые адреса, инструменты, процессы и ключи. Из коробки поддерживаются Claude Code, Codex, OpenCode и GitHub Copilot CLI, через шаблоны NemoClaw – OpenClaw и Hermes Agent.

Зачем агенту такая изоляция, в Nvidia объясняют дрейфом - при долгой работе, неоднозначных инструкциях или упоре в запрет агент уходит от исходной задачи, и рассчитывать, что он сам удержит себя в рамках, нельзя. Поэтому контроль вынесен за пределы агента, и знать о наблюдении ему не обязательно.

Каждая песочница – отдельный контейнер или Docker, Podman или Kubernetes. Шлюз управляет их жизненным циклом, а движок политик перехватывает каждое исходящее соединение и либо пропускает его, либо подставляет ключи провайдера для разрешённого адреса, либо блокирует и пишет в журнал.

Ключи не попадают в файловую систему песочницы, их передают переменными окружения во время работы. Политики задаются в YAML и охватывают четыре области: файлы, сеть, процессы и провайдеров.

Доступ к файлам и системным вызовам фиксируется при создании песочницы, сетевые правила меняются онлайн с точностью до HTTP-метода и пути, так что агенту можно разрешить чтение API GitHub и запретить запись. По словам Nvidia, OpenShell проверяет ограничения ещё до запуска агента.

Главная площадка для Sentry – системы Vera Rubin POD, где процессор BlueField-4 стоит в каждом вычислительном модуле на единственном пути от узла к модели.

Там Sentry изолирован от хоста, следит за поведением агента и применяет политику OpenShell на скорости линии, а шлюз DOCA проверяет, кто такой агент и какие полномочия ему выданы.


Владельцам систем Vera достаточно обновить ПО, всем остальным установка доступна одним скриптом на Linux, macOS с Apple Silicon и Windows через WSL 2, последний вариант экспериментальный.

Проект в статусе альфа, версия 0.1.0 ещё готовится, развёртывание в Kubernetes и проброс видеокарт в песочницу тоже помечены как экспериментальные.



@ai_machinelearning_big_data

#news #ai #ml
Please open Telegram to view this post
VIEW IN TELEGRAM
1⚡5❤3✍2🔥2👍1