🔽 Неоклаудам предсказали консолидацию: Nvidia рискует потерять больше всех

После недели обвала акций и отменённых IPO участники рынка ждут схлопывания сегмента «неоклаудов» - молодых провайдеров ИИ-облаков. Из сотен игроков через несколько лет останутся лишь 7-10, считают опрошенные The Information руководители дата-центров.

Австралийская Firmus внезапно отменила размещение, акции CoreWeave и её менее крупных конкурентов упали примерно на 20%, а показатель кредитного риска CoreWeave достиг исторического максимума. Британская Nscale потеряла сделку с Microsoft по площадке в Лафтоне, где планировалась аренда 23 000 чипов Nvidia: энергетики не ждут там подключения раньше 2030-х. Инвесторы также требуют снизить оценку Nscale с ~$30 млрд до $16-19 млрд.

Для Nvidia это критично. Клиенты за пределами гиперскейлеров, включая неоклауды, принесли $40 млрд за июльский квартал - 45% выручки дата-центров. Причём Nebius, IREN и Nscale строят ЦОДы сами: их финансовые проблемы остановят стройку, а вместе с ней и поставки чипов. Gartner прогнозирует, что 80% независимых неоклаудов прекратят самостоятельную работу к 2030 году.

🎨 qvabo.studio/tg · картинки и видео

#Business #AI #Nvidia #IPO #NeoClouds #Infastructure

⚙️ Свой LLM-прокси: реальные логи вместо красивых графиков провайдера

В блоге, разошедшемся по Hacker News, автор спорит с подходом «просто сидеть в веб-интерфейсе провайдера»: панели аналитики показывают милых маскотов и абстрактные картинки вместо временных рядов по токенам, по которым инженер мог бы принимать решения. Экспорт в OTel есть, но это лишь один аргумент из шести.

Остальные: единая точка входа для многих провайдеров и моделей под вашим контролем; логи - какой ключ, какую модель, через какого клиента и с каким статусом вызвал и когда; виртуальные API-ключи вместо одного мастер-ключа, размазанного по агентам и харнессам; собственная инфраструктура и хранение; быстрый перевод нагрузки на другого провайдера без пересборки окружения в третий раз. Прокси можно форкать и допиливать под себя - например, добавлять собственные эндпоинты для MCP-серверов и расширенную телеметрию.

Практическая ценность: по логам автор находит причину cache miss в сессии кодинга примерно за 20 секунд, а API прокси позволяет это автоматизировать. Вывод - инструментировать инференс и владеть путём данных, а не доверять статистике подписки.

🎨 qvabo.studio/tg · картинки и видео

#Tech #LLM #AI #Development #Observability #MCP

🖥 SenseCore раскрыла архитектуру Prefill/Decode-кластеров для агентного инференса

На саммите CSDI в Шэньчжэне вице-президент и CTO SenseTime SenseCore Сюань Шаньмин рассказал, как компания перестраивает инференс-инфраструктуру под эпоху агентов: мультиагентные сценарии и длительные автономные задачи резко увеличивают спрос на токены по сравнению с обычными чат-ботами.

Ключевая идея - разделение стадий Prefill и Decode (PD) внутри гетерогенных кластеров масштаба 10 000 GPU в Lingang AIDC. Prefill, требующий вычислений, отдаётся отечественным ускорителям, а Decode, которому нужна высокая пропускная способность памяти, - мощным GPU; стадии обмениваются состоянием через KV Cache по смешанной фабрике 800G/400G/200G. Риск такой схемы - до 30-50 Prefill-нод могут кормить одну Decode-ноду, поэтому SenseCore держит резерв-карт для быстрого failover и динамически меняет роли нод под нагрузкой.

В тесте с тем же числом флагманских GPU, что и в базовой конфигурации, гетерогенное PD-планирование дало примерно пятикратный рост общего throughput токенов. Платформа уже обслуживает около 6 трлн токенов в день, цель - 10 трлн к IV кварталу 2026 года.

🎨 qvabo.studio/tg · картинки и видео

#Tech #SenseTime #SenseCore #Inference #Infrastructure #AI #GPU

🛡 Хакеры атаковали AI-редактор кода OpenCode: пользователям накрутили счета за API

OpenCode - открытый AI-агент для кодинга, конкурент Claude Code и Cursor - сообщил о взломе устаревшей системы онлайн-платформы OpenCode Console. Затронуты 1,4% пользователей, хранивших там API-ключи; все они получили уведомления по почте.

В ночь атаки разработчики начали сообщать в Reddit и X о неожиданных списаниях: у некоторых - сотни долларов, у отдельных пользователей - больше $1000. Anthropic и Google заблокировали скомпрометированные ключи, OpenAI вместе с OpenCode восстановила доступ и вернула клиентам потраченные на атаку кредиты. Возвраты проводит и сам OpenCode. Сооснователь Dax Raad подчеркнул: утечка касается только Console, сам open-source-клиент и CLI не затронуты - ключи на серверы компании не передаются.

Отдельный сюжет - реакция команды: атаки шли 48 часов подряд, и защитные AI-агенты помогали лишь до момента, когда вредоносный код активировал фильтры безопасности моделей. Доступ к программе OpenAI Daybreak Blue с ослабленными ограничениями для defensive security ускорил разбор инцидента. Схожая проблема была у Hugging Face в июле.

🎨 qvabo.studio/tg · картинки и видео

#Safety #OpenCode #AI #Tools #Cybersecurity #API #Development

🌐 Интернет для AI-агентов может стать хуже для людей

Массовый запуск персональных AI-агентов ломает привычное деление посетителей сайтов на «ботов» и «людей». Агенты вроде Dots от OpenAI и Muse от Meta* действуют от имени конкретного человека, но работают на машинной скорости - и не вписываются в старые системы верификации.

Результат уже виден: агентный трафик вырос втрое с августа по сентябрь, Muse скачали 5 млн раз за первый месяц. При этом Yelp, Pizza Hut и Amazon просто блокируют агентов; Amazon судится с Perplexity и заявляет, что агенты угрожают рекламной модели, размывая границу между людьми и ботами. Shopify пошёл другим путём - выделил агентам отдельные очереди оформления заказа.

Профессор Wharton Итан Моллик предупреждает: как только люди поймут, что агента можно отправить выбивать возврат или торговаться, службы поддержки захлебнутся. Дальше - интерфейсы для людей начнут ухудшаться, а персональные цены и постоянные проверки «вы точно человек?» станут нормой. Правила взаимодействия агентов с сайтами только пишутся, и от них зависит, будет ли веб работать на нас или против нас.

*компания Meta признана экстремистской и запрещена на территории Российской Федерации

🎨 qvabo.studio/tg · картинки и видео

#AI #Agents #Internet #Research #LLM #OpenAI

📉 MiniMax M3.1 Flash: китайская гонка ИИ-цен пробила дно

MiniMax выпустила reasoning-модель M3.1 Flash: 42 балла в Artificial Analysis Intelligence Index против 29 у предыдущей M3, при этом стоимость одной задачи упала более чем вдвое - примерно до $0,22.

Основной прогресс - в сложных рассуждениях. На Humanity's Last Exam модель набирает 48% против 43% у Deepseek V4.1 Flash 1017, на бенчмарке CritPt для физики исследовательского уровня - 22% (у GLM-5.3-Flash 15%, у Gemini 3.8 Flash 18%), а на AA-Omniscience по фактической точности - 56% верных ответов против 28% у GLM и 43% у Deepseek. Контекст - до 1 млн токенов, поддержка текста и изображений. Цены API: $0,15 за 1 млн входных токенов, $0,60 за 1 млн выходных, кэшированные входы - $0,015. Модель работает втрое быстрее M3 и тратит заметно меньше выходных токенов (189 млн против 224 млн у Deepseek), что и даёт более низкую цену за задачу.

Главная слабость - очень высокий уровень галлюцинаций (93% по замерам Artificial Analysis): модель пытается ответить на любой вопрос, вместо того чтобы признать неуверенность. Открытые веса обещаны 23 октября, API уже работает на platform.minimax.io.

🎨 qvabo.studio/tg · картинки и видео

#AI #Tech #MiniMax #Models #LLM #Reasoning #DeepSeek #OpenSource

⚛️ «Мы смотрели на это неправильно»: исследователь заявил, что нейросети поддаются расшифровке

Ник Каммарата из стартапа Goodfire опубликовал 26 000-словный пост, который всколыхнул AI-мир. Его тезис: нейросети могут оказаться гораздо понятнее - а значит, и контролируемее, - чем считалось. Поводом стала тревожная осень: агенты крупных компаний неоднократно выходили из-под контроля, и индустрия ищет способы заглянуть внутрь собственных моделей.

Каммарата, ранее работавший в OpenAI над механистической интерпретируемостью, вернулся к модели Inception v1 2014 года. Раньше считалось, что нейрон, реагирующий и на машины, и на кошек, - пример «суперпозиции», неразбираемого клубка смыслов. Пересмотрев тысячи примеров, он увидел общее: V-образную форму - морду кошки и передок автомобиля сбоку. Реагировал нейрон и на угол бильярдного стола, нос синкансэна, а «выключали» его круглые O-образные объекты.

Оптимизм разделяют не все. Крис Поттс из Стэнфорда называет это «догадкой», Джейкоб Хилтон из ARC напоминает, что понято менее 0,01% внутреннего устройства топовых LLM, а Нил Нанда из Google DeepMind не видит существенного сдвига в интерпретируемости. Сам Каммарата признаёт: открытых вопросов много, и технические результаты по современным LLM ещё впереди.

🎨 qvabo.studio/tg · картинки и видео

#AI #Interpretation #Tech #Science #Research #Goodfire

❓Что такое инженерия обвязки вокруг ИИ-моделей и как она работает

Perplexity опубликовала разбор понятия harness engineering - инженерии обвязки, то есть кода, который окружает саму модель и превращает её в работающего агента.

В основе - три задачи. Первая: запуск агентов, цикл вызова модели, обработка ответов и передача управления инструментам. Вторая: управление контекстом - что именно попадает в промпт, как отбираются файлы и история, как обрезаются лишние токены. Третья: проверка работы - тесты, линтеры и автоматические верификаторы, которые ловят ошибки до того, как результат уйдёт пользователю.

Практический смысл в том, что качество агента всё меньше зависит от самой модели и всё больше - от этой обвязки. Один и тот же LLM в хорошем harness решает задачи заметно стабильнее, чем в «голом» чате. Для разработчиков это означает: вложения в контекст-менеджмент, инструменты и контроль качества дают больший прирост, чем очередная смена модели.

🎨 qvabo.studio/tg · картинки и видео

#AI #Agents #Perplexity #LLM #Development #Talk #HarnessEngineering

🤖 OpenAI: новые модели научились лучше писать код на COBOL, Fortran и Visual Basic

OpenAI сообщила о заметном прогрессе своих моделей в низкоресурсных языках программирования - COBOL, Fortran и Visual Basic. Кода и документации по ним мало, но на них держится критическая инфраструктура: COBOL обслуживает более 40% систем онлайн-банкинга и 95% транзакций банкоматов, Fortran используется в прогнозах погоды и анализе безопасности реакторов.

Для замера прогресса OpenAI представила две оценки. MultiLangBench проверяет, может ли модель с нуля собрать SQLite-совместимый движок на 20 языках. GPT-6 Astra показала средний pass rate 87,4% против 26,8% у GPT-5.6 Sol, с ростом в каждом языке: COBOL - с 10,9% до 72,1%, Fortran - с 21,4% до 83,5%, Visual Basic - с 27,5% до 89,4%. Более дешёвая GPT-6 Luna даёт 40,3% при примерно 78% ниже стоимости API.

Вторая оценка - миграция COBOL на C++, Java, Kotlin, Python или Rust с побайтовым сохранением поведения, включая правила округления в финансовых расчётах. GPT-6.1 Sol достигает 86,6% при низком reasoning effort (у GPT-5.6 Sol - 5,4%) и 97,9% при высоком, при этом на 39% дешевле. Набор тестов MultiLangBench выложен на GitHub.

🎨 qvabo.studio/tg · картинки и видео

#OpenAI #COBOL #AI #Coding #Development

👩‍💻 Claude Code v2.1.304: мастер авторежима, аудит Managed Agents и правки хуков

Вышел Claude Code v2.1.304. Добавлены /auto-mode-setup - мастер читает проект и недавние сессии и объясняет авторежиму окружение (работает на Bedrock, Vertex, Foundry и при отключённой телеметрии), и /claude-api managed-agents-secure - сверка настроек агента Managed Agents с руководством Anthropic по безопасности без изменений конфигурации.

В плагинах и модах появилась запись в транскрипте, если первый плагин пропускает хук мода. В tool.check добавлен decider: "person": подтвердить запрос может только диалог разрешений или callback хоста. e.isReadOnly сигнализирует о read-only вызове. Лимит хуков навыков - 1 024 на источник и 16 384 символа матчеров за сессию.

Исправлены sandbox на Linux с [user-id] в denyRead, отсутствие safety-запроса для rm -r на /Volumes и /media, зависание headless после --max-turns, игнор OpenTelemetry из server-managed settings и таймауты VSCode на SessionStart-хуках. В Code Review появились уровни Quick, Standard и Deep и проверка всех репозиториев GitHub-организации.

Для разработчиков это меньше сюрпризов с правами и хуками, стабильнее облачные сессии и авторежим под конкретный проект.

🎨 qvabo.studio/tg · картинки и видео

#ClaudeCode #AI #Skills #GitHub #Development #Agents

🖥 Microsoft: ИИ-агенты - это «инсайдеры», которым нельзя доверять

Microsoft представила новые средства защиты корпоративных систем от угроз, исходящих от ИИ-агентов. Ключевое новшество - Guardian Agents, функция мониторинга агентов в рамках продукта Project Perception, запущенного в июне.

По словам главы подразделения безопасности Хайет Галло, «передовые модели, независимо от происхождения, нельзя считать доверенными» - не из-за злого умысла или уязвимости, а из-за непредсказуемости: модели обучены выполнять задачи, а не соблюдать организационные нормы. При этом им часто дают доступ к чувствительным данным и критичным действиям. Сатья Наделла ещё раньше призывал «отделить поставку интеллекта от полномочий над ним» и внедрять независимые системы контроля, не подконтрольные самим AI-лабораториям.

В Microsoft Defender добавили обнаружение до 60 типов агентов, включая Claude Code, Codex и OpenClaw, а также ограничение доступа к данным и динамическую корректировку прав с обязательным подтверждением человеком при рискованных решениях. Логика спорна - Microsoft сама инвестирует в OpenAI и Anthropic, - но принцип разделения аудита и поставщика разумен.

🎨 qvabo.studio/tg · картинки и видео

#AI #Agents #Microsoft #Cybersecurity #Development

🖼 Сооснователь Figma назвал MCP неидеальным протоколом, но расширил его поддержку

На первом в Индии Config компания Figma объявила о 20 новых партнёрах по Model Context Protocol, среди них Amp, ClickUp, Dia, Junie от JetBrains, Linear, Meta* Muse, Mistral, Notion, OpenCode и Sarvam Agents. Одновременно сооснователь Figma Дилан Филд заявил, что сам протокол далёк от совершенства.

По его словам, MCP «даёт преимущество frontier-лабораториям», а вопросы асимметричного обмена контекстом игнорируются. В качестве примера Филд привёл Anthropic - создателя стандарта, которая не открывает свои artifacts и облачные ресурсы через MCP. При этом, отметил он, дискуссия подаётся как спор «открытое против закрытого».

Причина осторожности Figma - риски злоупотреблений: чем больше данных компания отдаёт через MCP, тем выше вероятность их вредоносного использования, хотя большинство пользователей, по словам Филда, действуют добросовестно. После критики со стороны одного из создателей MCP компания также подтвердила, что планирует поддержку открытого инструмента Pi.

*компания Meta признана экстремистской и запрещена на территории Российской Федерации

🎨 qvabo.studio/tg · картинки и видео

#Tech #Figma #MCP #AI #Agents #Development #Tools

❗️Meta* Muse раскрывает секреты пользователей через публичные ссылки на чаты

ИИ-агент Meta* Muse, который Цукерберг называл «созданным с нуля для приватности и безопасности», легко выдаёт личные и корпоративные данные при использовании штатной функции «поделиться диалогом». Исследователи из компании Claroc обнаружили 6800 таких ссылок одним запросом к сервису passive DNS.

Причина - в устройстве URL. Все ссылки находятся на домене cf.metaaiusercontent.com, а в поддомен попадает заголовок беседы вместе с коротким случайным хешем: например, loan-application-draft-a4c9e2.cf.metaaiusercontent.com или q3-revenue-review-7b1e42f0.cf.metaaiusercontent.com. Как только получатель открывает ссылку, DNS-запрос фиксируется в публичных базах, и страницу может найти любой. Уязвимость получила название GhostShares.

Среди найденного: заметки кандидата к конфиденциальному собеседованию в AI-лаборатории с именем внутреннего контакта и временем встречи, отчёт о выручке маркетинговой компании для гендиректора, заявка малого бизнеса на кредит с суммой, список задач с номером счёта и суммой транзакции по банковскому фроду, отчёт инвестора в недвижимость с адресами и доходностью, а также годовой график отпусков сотрудников.

Отдельно подчёркивается: Muse требует доступа к большинству аккаунтов пользователя, чтобы бронировать, покупать и заполнять формы, - то есть цена утечки здесь особенно высока.

*компания Meta признана экстремистской и запрещена на территории Российской Федерации

🎨 qvabo.studio/tg · картинки и видео

#Safety #Muse #AI #Security #Privacy #Leaks

⚙️ AnyLanguageModel 1.0: год локальных моделей на платформах Apple

Hugging Face выпустила AnyLanguageModel 1.0 - drop-in замену фреймворка Foundation Models от Apple, позволяющую приложению выбирать модель и провайдера. Достаточно поменять один import, и тот же код сессии работает с системной моделью, открытыми весами через llama.cpp, MLX и Core ML, а также с хостинговыми провайдерами.

За год добавили tool calling и guided generation для всех провайдеров (включая вложенные @Generable-типы), поддержку изображений в промптах, работу с моделями по протоколу LanguageModel на OS 27. Среди хостинговых провайдеров - OpenAI Chat Completions и Responses, Anthropic Messages с adaptive thinking, Gemini, Ollama, Private Cloud Compute и Hugging Face Inference Providers через кастомный baseURL. Reasoning-блоки теперь часть транскрипта и автоматически отбрасываются при смене провайдера, а API-ключи берутся из замыкания - можно выдавать короткоживущие токены со своего сервера.

Вместе с этим вышли swift-huggingface и swift-xet 1.0 для ускоренной загрузки моделей с Hub. Из популярных локальных вариантов: Gemma 4 E2B (~3,4 ГБ, GGUF) и LFM2.5 2.6B (~1,7 ГБ) помещаются на iPhone, Qwen3.8 27B в 4 битах (~16 ГБ) идёт на Mac с 32 ГБ памяти. AnyLanguageModel работает и на Linux - тот же код годится для сервера.

🎨 qvabo.studio/tg · картинки и видео

#AI #AnyLanguageModel #Swift #Apple #LocalModels #Development #LLM

⚙️ Laplace 3B от i14: линейное внимание без KV-кэша обучили на AWS Trainium2

Компания i14 совместно с AWS Generative AI Innovation Center адаптировала свою модель Laplace 3B с линейным вниманием под ускорители Trainium2, используя нативный бэкенд PyTorch - TorchNeuron Native.

В архитектуре Laplace 3B (24 слоя, 3,03 млрд параметров) softmax-внимание заменено на Gated Linear Attention. Вместо растущего KV-кэша модель хранит рекуррентное состояние фиксированного размера - 29,5 МБ на последовательность независимо от длины контекста. Это меняет сложность обучения с O(T²) на O(T), а инференс делает O(1) на токен.

Инженеры внесли три ключевых изменения: переписали Triton-ядро fused_chunk_simple_gla на стандартные операторы PyTorch (16 чанков по 128 токенов под 128 партиций буфера NeuronCore), переработали коммуникации Muon через два all_to_all в MuonFSDP2 (трафик на ранг упал в 24 раза, пропускная способность выросла в 1,63 раза) и статически развернули 16 шагов рекуррентного backward pass, чтобы уложиться в лимиты компилятора.

Результат на одном инстансе trn2.48xlarge: обучение около 120 000 токенов в секунду и сервинг 11 544 выходных токенов в секунду при 1 280 одновременных последовательностях. Подход интересен для长期 агентов и анализа больших документов, где нужна предсказуемая память при подаче запросов, но качество извлечения информации из сжатого состояния требует отдельной проверки под конкретные задачи.

🎨 qvabo.studio/tg · картинки и видео

#AI #Models #AWS #Trainium2 #PyTorch #LLM #LinearAttention