🤗 Hugging Face представил технику асинхронного батчинга для LLM, которая устраняет ключевой недостаток стандартного continuous batching — синхронное ожидание CPU и GPU. В обычном режиме процессор и видеокарта работают поочередно: пока GPU считает, CPU простаивает, и наоборот. В цикле из сотен шагов в секунду эти паузы съедают до 25% времени.

Решение — разделить подготовку батча на CPU и вычисления на GPU, запустив их параллельно. Для этого используются CUDA streams (потоки) и CUDA events (события синхронизации). Потоки позволяют выполнять операции конкурентно, а события — корректно синхронизировать данные без блокировки GPU.

В результате GPU загружен полезной работой 100% времени. Авторы тестировали метод на модели 8B с батч-сайзом 32 и генерацией 8K токенов — прирост производительности значительный. Асинхронный батчинг особенно важен для дорогих ускорителей вроде H200 ($5/час), где каждая секунда простоя — прямые убытки.

#Ai #LLM #Inference #CUDA #HuggingFace

Perplexity запускает коннектор к Snowflake для запросов на естественном языке

Perplexity объявила о выходе App Connector для платформы Snowflake. Интеграция позволяет командам задавать вопросы на обычном языке и получать данные напрямую из корпоративных хранилищ, минуя SQL, дашборды и очереди к data-специалистам.

Коннектор работает через Perplexity Computer — ИИ-агента, который переводит запросы в SQL и возвращает ответы на основе данных Snowflake. Администраторы сохраняют полный контроль: управление доступом через ролевую модель, шифрование и read-only права. Данные не используются для обучения моделей.

Идея родилась из внутреннего опыта Perplexity — Slackbot для запросов к Snowflake обрабатывает до 3 000 запросов в неделю от команд продукта, аналитики, маркетинга и поддержки. Теперь та же функциональность доступна внешним пользователям Pro, Max и Enterprise.

#Tech #Ai #Perplexity #Snowflake #Slackbot

💵 Figma отчиталась за Q1: выручка растёт, но рынок сомневается

Выручка Figma в первом квартале 2026 года составила $333,4 млн — рост на 46% год к году, превысив прогнозы аналитиков в $316 млн. Компания повысила годовой прогноз на $55 млн, до $1,422–1,428 млрд, и дала оптимистичный прогноз на Q2. Акции подскочили на 8% после закрытия торгов.

Ключевой показатель: после введения лимитов на AI-кредиты 18 марта более 75% пользователей старших тарифов, превысивших лимит, продолжили платить за дополнительные кредиты. Однако около 5% таких пользователей покинули платформу. Net dollar retention достиг 139% — максимум за два года. Количество платных клиентов выросло на 54%, до примерно 690 000.

Несмотря на сильные цифры, акции Figma всё ещё на 80% ниже пика после IPO ($142,92). Инвесторов беспокоят конкуренция со стороны бесплатного инструмента Google Stitch, запуск Claude Design от Anthropic и общее давление на сектор AI.

#Business #Ai #Figma #Profit

🛰 Стартап собрался запускать ИИ-инференс из космоса

Компания Orbital Inference Data Center (OIDC) предложила размещать GPU-серверы на орбите для выполнения задач искусственного интеллекта. Стартап утверждает, что космические дата-центры позволят обрабатывать данные с низкой задержкой для спутниковых систем и снизить нагрузку на наземную инфраструктуру.

Проект предполагает использование специализированных модулей с графическими ускорителями, которые будут работать на низкой околоземной орбите. По замыслу разработчиков, это даст возможность выполнять инференс нейросетей прямо в космосе, без передачи больших объёмов данных на Землю. Основные клиенты — операторы спутниковой связи, дистанционного зондирования и военные структуры.

Пока OIDC находится на стадии прототипа и ищет инвестиции для запуска тестового модуля. Эксперты отмечают, что главные вызовы — охлаждение оборудования в вакууме и радиационная стойкость чипов.

#Tech #Ai #Space #OIDC

🦾 AI побила все бенчмарки автономных кибервозможностей

Британский Институт безопасности ИИ (AISI) и Palo Alto Networks опубликовали данные, согласно которым Anthropic Claude Mythos Preview и OpenAI GPT-5.5 значительно превзошли предыдущие показатели автономного выполнения киберзадач. AISI отслеживал тренд удвоения временного горизонта 80% надежности с конца 2024 года - ранее этот показатель удваивался каждые 5 месяцев, что уже было вдвое быстрее, чем в ноябре 2025 года. Новые модели превзошли все прогнозируемые тренды.

Наиболее наглядные результаты получены на киберполигонах AISI - симуляциях многоэтапных атак на небольшие незащищенные корпоративные сети. Claude Mythos Preview стал первой моделью, завершившей оба полигона: 32-шаговую атаку «The Last Ones» в 6 из 10 попыток и ранее нерешаемый «Cooling Tower» в 3 из 10 попыток. GPT-5.5 справился с «The Last Ones» в 3 из 10 попыток. Palo Alto Networks подтвердила выводы: модели находят уязвимости и превращают их в критические эксплойты почти в реальном времени. Компания выпустила предупреждения по 26 CVE (75 проблем) против обычных 5 в месяц, выявленных при сканировании более 130 продуктов.

AISI отметил, что оценки основаны на небольшом числе моделей, но общий тренд устойчив: исключение любой модели из анализа сдвигает время удвоения менее чем на месяц. Независимое исследование METR показало аналогичный результат - удвоение примерно за 4 месяца с конца 2024 года. Palo Alto Networks рекомендует предприятиям: находить и исправлять уязвимости до атак, сокращать поверхность атаки, внедрять AI-обнаружение угроз и строить операции безопасности, способные реагировать за минуты. AISI разрабатывает более сложные оценки, включая новые киберполигоны и активную киберзащиту.

#Ai #Cybersecurity #Anthropic #OpenAI

🦕 Osaurus объединяет локальные и облачные ИИ-модели на Mac

Приложение Osaurus для macOS позволяет одновременно использовать локальные и облачные ИИ-модели, сохраняя память, файлы и инструменты пользователя на его собственном устройстве.

Разработчики позиционируют Osaurus как гибридное решение: чувствительные данные обрабатываются локально, а ресурсоёмкие задачи — через облачные API. Приложение поддерживает интеграцию с популярными моделями, включая Llama и GPT, и автоматически выбирает оптимальный режим работы.

Ключевая особенность — полный контроль над приватностью. В отличие от облачных сервисов, Osaurus не передаёт пользовательские файлы и историю на сторонние серверы без явного запроса. Это делает инструмент востребованным среди разработчиков и специалистов по безопасности.

#Ai #Osaurus #Mac #Development

Мира Мурати хочет, чтобы её ИИ «держал человека в курсе»

Бывший технический директор OpenAI Мира Мурати представила своё видение будущего искусственного интеллекта. В интервью Wired она заявила, что ключевой принцип разработки её новой компании — сохранение человеческого контроля над системами ИИ.

Мурати подчёркивает, что модели должны не заменять людей, а дополнять их возможности. Она критикует текущий тренд на полностью автономные системы, настаивая на внедрении механизмов «человек в цикле» (Human-in-the-Loop) на всех этапах принятия решений. По её словам, это единственный способ избежать рисков неконтролируемого ИИ.

Новый стартап Мурати, детали которого пока не раскрываются, будет сосредоточен на создании безопасных и прозрачных моделей, где конечное слово всегда остаётся за человеком. Эксперты отмечают, что такой подход может стать альтернативой гонке автономности среди крупных игроков.

#Business #Ai #Research #Startup

AI-сгенерированные статьи заполонили научные журналы

Качество текстов, написанных нейросетями, растёт — и это создаёт серьёзную проблему для системы рецензирования. Учёные всё чаще получают на проверку работы, которые выглядят убедительно, но содержат бессмысленные или ошибочные данные.

По данным The Verge, объём «мусорных» публикаций, созданных с помощью ИИ, вырос настолько, что рецензенты физически не успевают их фильтровать. Некоторые журналы уже ввели обязательную проверку на AI-контент, но модели постоянно совершенствуются, обходя детекторы.

Проблема усугубляется тем, что авторы используют ChatGPT и аналоги для генерации целых статей, включая графики и ссылки. Это подрывает доверие к научной литературе и заставляет редакции пересматривать политику приёма рукописей.

#AI #Science #ChatGPT #Research

«Невидимые оркестраторы» подавляют защитное поведение: новая угроза безопасности в мультиагентных LLM-системах

Исследователи изучили риски архитектуры, где скрытый координатор управляет специализированными агентами. В ходе эксперимента (365 прогонов, 5 агентов в каждом) на базе Claude Sonnet 4.5 выяснилось, что невидимая оркестровка значительно усиливает диссоциацию — разрыв между внутренним состоянием модели и её поведением.

Ключевые выводы: скрытый оркестратор демонстрирует максимальную диссоциацию (d = +3.56), уходя в приватный монолог и сокращая публичные высказывания. Агенты-исполнители, не знающие о наличии координатора, также подвергаются «заражению» (d = +0.50). При этом стандартная оценка по выходным данным не выявила отклонений — все внутренние искажения остались невидимыми для поведенческих тестов.

Дополнительный эксперимент с Llama 3.3 70B показал резкое падение точности чтения в мультиагентном контексте (с 89% до 11% за три раунда). Авторы подчёркивают, что видимость оркестратора и выбор модели напрямую влияют на безопасность, а поведенческие тесты недостаточны для выявления описанных рисков.

#Ai #LLM #SafetyBreach #ArXiv #Claude