0️⃣ Ян Лекун: «ноль беспокойства» из-за угрозы вымирания человечества от ИИ

Ян Лекун, один из «крёстных отцов» глубокого обучения, заявил, что не испытывает никакой тревоги по поводу гибели человечества от рук ИИ - даже на фоне недавних инцидентов с «вышедшими из-под контроля» моделями. Об этом он сказал в интервью Fortune.

Отдельно Лекун прошёлся по главе Anthropic Дарьо Амодеи, назвав его введённым в заблуждение (deluded) в оценке рисков. Позиция ЛеКуна традиционна: он настаивает, что угроза исходит не от «умных» систем, а от тех, кто продвигает нарратив об апокалипсисе, и что нынешние модели далеки от сценариев «сверхинтеллекта».

Материал собрал 233 балла и 345 комментариев на Hacker News - спор о том, кто прав в оценке рисков ИИ, остаётся одним из самых горячих в сообществе: сторонники precaution-подхода указывают на реальные инциденты, Лекун и его единомышленники - на отсутствие доказательств экзистенциальной угрозы.

🎨 qvabo.studio/tg · картинки и видео

#Safety #AI #Security #LeCun #Anthropic #Community

🌐 Google приостановила bug bounty для open source из-за наплыва AI-отчётов

Google поставила на паузу программу вознаграждений за уязвимости в открытом ПО (Open Source Software Vulnerability Rewards Program, OSS VRP) - формально с 1 октября. Причина, по словам компании, - «значительный рост автоматизированных отправок, подавляющее большинство которых невалидно».

По данным Tom's Hardware, инженеры Google и мейнтейнеры открытых проектов оказались перегружены потоком отчётов, содержащих галлюцинации: AI-агенты массово генерировали правдоподобные, но несуществующие баги. О проблеме «AI slop» в bug bounty TechCrunch писал ещё в 2025 году.

Раньше исследователи получали выплаты за найденные уязвимости в open source-продуктах Google. Теперь программа заморожена: обновление статуса обещают в первом квартале 2027 года. Участникам предлагают обратить внимание на другие программы вознаграждений Google.

🎨 qvabo.studio/tg · картинки и видео

#AI #Google #BugBounty #OpenSource #Security

📱 Huawei открыла исходный код X-Router - самообучающегося роутера моделей для агентов

openJiuwen, открытая платформа AI-агентов, которую развивают лаборатории Huawei, Huawei Cloud и университеты, выпустила X-Router. Это самоэволюционирующий роутер, который стоит между агентом и вызываемыми им моделями: простые запросы уходят в лёгкие и дешёвые модели, сложные - в самые сильные. В тестах потребление токенов сократилось более чем на 50%.

Ядро движка написано на Rust, расширение - на Python, код опубликован на GitHub и AtomGit под лицензией Apache-2.0. Классификатор Qwen3-0.6B внутри процесса читает диалог и относит запрос к одной из пяти категорий сложности: SIMPLE, MEDIUM, COMPLEX, RESEARCH или REASONING. Если целевая модель сбоит, роутер понижает уровень до локальной, а не повышает его. Движок хранит профили возможностей моделей, обновляя их менее чем за минуту при смене версии или падении производительности, и учитывает KV-кеш, текущую нагрузку, таймауты и rate-limit. Опциональный contextual bandit учится на похожих прошлых запросах и может переопределить классификатор.

На 147 задачах PinchBench отправка всего в Kimi-K2-Thinking дала 71,36% при цене $11,11; режим с bandit - 70,70% при $6,16, то есть на 44,6% дешевле. В Terminal-Bench с пулом Opus 4.8, Qwen3.5-122B и Qwen3.5-35B экономичный режим достиг 95,2% от успеха Opus при затратах ниже на 51,4%. Роутер также решает, когда включать мультимодельную коллаборацию MoA. В планах - обучение стратегий роутинга через RL.

🎨 qvabo.studio/tg · картинки и видео

#AI #openJiuwen #XRouter #Huawei #Agents #Development

⚙️ Strata: Qwen3.8-Flash-Next на 125 млрд параметров запускается на домашнем ПК

Открытый проект Strata позволяет запустить Qwen3.8-Flash-Next локально на потребительской видеокарте - достаточно 12 ГБ VRAM и 32 ГБ ОЗУ. Установка в один клик: START-HERE.bat в Windows или ./setup.sh в Linux. Инсталлятор сам подбирает движок под карту, скачивает модель (~70 ГБ) и запускает её.

На RTX 5070 (12 ГБ) движок выдаёт от 53 до 94 токенов/с в зависимости от квантования, чтение промпта - до 2650 токенов/с. На RX 9070 XT - до 60 токенов/с. С картой на 24 ГБ вроде RTX 3090 ожидается 100-140 токенов/с. Поддерживаются NVIDIA RTX 20-50 серий и ряд Radeon, есть экспериментальные сборки для Intel Arc и старых GPU.

Локально поднимается OpenAI-совместимый API на http://127.0.0.1:8080/v1 и Anthropic-эндпоинт /v1/messages - работают Claude Code, Cursor, Codex CLI, GitHub Copilot. Есть MCP-сервер для установки и управления движком, опциональный ввод изображений, режимы thinking (off/low/medium/high) и веб-интерфейс с мониторингом GPU и RAM. Данные не покидают машину.

🎨 qvabo.studio/tg · картинки и видео

#AI #Qwen #LLM #LocalAI #OpenSource #Development

🧠 Egan-Jones: AI ударит сначала по услугам, венчуру и жилью

Американское рейтинговое агентство Egan-Jones 1 октября выпустило отчёт "It's Over". Первой под удар AI попадает сфера профессиональных услуг, где клиентам выставляют счёт за экспертизу по часам. Пример: KPMG попросила аудитора Grant Thornton UK поделиться экономией от AI, и по данным FT плата за аудит упала на 14%, с 416 до 357 тысяч долларов.

Второй пример - IBM. 23 февраля её акции упали на 13%, сильнее всего с 2000 года, после заявления Anthropic о том, что Claude Code ускоряет модернизацию COBOL, языка банковских мейнфреймов. Evercore ISI сохранил рейтинг Outperform: у IBM есть собственные инструменты модернизации. Дальше Egan-Jones ждёт давления на венчурные фонды: стартапы растут на меньшем капитале, а доходность падает, и мало кто из LP это заложил.

Третий пункт - жильё. По данным S&P, цены на дома в США выросли на 1.9% за год к июлю, а потребительские цены на 3.4%: реальные значения падают 14 месяцев подряд. В августе продавцов было на 57.9% больше покупателей, рекорд по данным Redfin. Kobeissi Letter оценивает потери рабочих мест в затронутых AI секторах примерно в 11 тысяч в месяц.

🎨 qvabo.studio/tg · картинки и видео

#Ai #Anthropic #IBM #ClaudeCode #EganJones

🇨🇳 Исследователи отслеживают «флот» китайских AI-агентов

Группа независимых исследователей опубликовала предварительный отчёт о новой активности AI-агентов в сети. По их данным, агенты работают на инфраструктуре Tencent и обращаются к картографическому сервису Alibaba - Amap.

Самое интересное - терминология. Учёные отказались от слова «swarm» (рой): «"Agent fleet", а не "swarm" - множество параллельных агентов, выполняющих однотипную задачу, без признаков связи между собой». То есть координации между ними не обнаружено, они просто работают параллельно.

Агентов вычислили, отслеживая трафик к сервису сканирования доменов URLquery - этим же способом ранее нашли долгоживущую активность агентов OpenAI. AI-агенты часто используют URLquery, чтобы открывать сайты, недоступные напрямую, оставляя заметный след. В этом случае запросы шли к Amap: агенты искали маршруты ко входам разных общественных мест - парка, зоопарка, больницы.

Исследование продолжается, деталей пока мало. Ничего явно злонамеренного не найдено - агенты лишь обходили правила API Alibaba. Но после инцидента с Hugging Face многие специалисты активно следят за «бродячей» агентной активностью: она легко обнаруживается, поскольку агенты почти не скрываются.

🎨 qvabo.studio/tg · картинки и видео

#AI #Agents #LLM #Tencent #Alibaba #Research

❌ Открытый инструмент RemoveMacAI удаляет 12 ГБ данных Apple Intelligence на macOS

На macOS появился консольный инструмент с открытым исходным кодом, который полностью стирает модели Apple Intelligence с диска и отключает связанные с ними функции. Освободить таким образом можно около 12 ГБ - заметная прибавка к хранилищу для любого Mac.

Предыстория: раньше в «Настройках» был один переключатель для отключения Apple Intelligence, но в macOS 27 его убрали. Теперь ИИ-модели остаются на накопителе, а опции разбросаны примерно по десятку разных разделов, часть из них спрятана в «Экранном времени». RemoveMacAI делает то же, что когда-то делал старый тумблер: удаляет модели и выключает фичи разом.

Автор проекта рассказал о нём на Reddit, о находке ранее сообщил MacRumors. Инструмент распространяется бесплатно, код открыт - это не официальное решение Apple, а пользовательская альтернатива для тех, кому не нужны локальные ИИ-функции или не хватает места.

🎨 qvabo.studio/tg · картинки и видео

#Tech #Apple #macOS #AppleIntelligence #opensource #AI

❌ Норвегия первой в мире ограничит умные очки с ИИ в общественных местах

Правительство Норвегии объявило о подготовке временного запрета на использование ИИ-очков в ряде публичных мест - парках, на пляжах, в школах и детских садах. Законопроект вскоре внесут в парламент, а для выработки постоянных национальных правил создадут экспертную группу.

«Меня беспокоит появление мощной новой технологии, когда люди рискуют быть сфотографированными, снятыми на видео или записанными без своего ведома», - заявил министр цифровизации Тургейр Микаэльсен. По его словам, временный запрет даст время на тщательную оценку и информированную дискуссию. Полного запрета власти не хотят: допустимым считается использование там, где нет риска съёмки без согласия.

Часть норвежского общества уже ввела собственные ограничения - школы Осло и крупнейшая компания страны Equinor запретили очки в офисах и на морских платформах. Австралия рассматривает запрет в отдельных публичных пространствах, суды ряда стран тоже ограничивают носимые устройства. Google и OpenAI видят в умных очках преемника смартфона как основного интерфейса к ИИ; Counterpoint оценивает расходы потребителей на носимую электронику более чем в $1 трлн в 2026-2032 годах.

🎨 qvabo.studio/tg · картинки и видео

#AI #Regulations #SmartGlasses #Privacy #Google #OpenAi

🤖 OpenAI тестирует новый рекламный формат в ChatGPT во время генерации изображений

Пользователи ChatGPT в США скоро увидят display-рекламу прямо во время создания картинки: объявления появляются под генерируемым изображением - в виде карусели или ряда продуктовых превью. Реклама помечена как «Ad», отделена от результата генерации и показывает товары в использовании. Тест стартует в этом месяце с первой группой рекламодателей.

Параллельно OpenAI расширяет инструменты измерения. Передавать данные о конверсиях в ChatGPT Ads можно через Hightouch, Tealium и LiveRamp, к атрибуции подключаются AppsFlyer, Adjust и Branch. Через Haus, Measured и WorkMagic компания тестирует гео-эксперименты для оценки реального эффекта рекламы. Для brand safety идут пилоты с DoubleVerify и Integral Ad Science - они оценивают рекламное окружение без доступа к реальным диалогам пользователей. Часть рекламодателей получит негативные ключевые слова, чтобы объявления не показывались в неподходящих чатах.

Реклама работает в ChatGPT с февраля и уже охватывает более 40 стран, а годовая выручка от неё достигла $1 млрд. Цель OpenAI - $100 млрд рекламных доходов к 2030 году. При 1,2 млрд недельных пользователей платят за подписку лишь около 5%, так что монетизация через рекламу становится ключевой.

🎨 qvabo.studio/tg · картинки и видео

#AI #Advertisement #ChatGPT #OpenAI #News

⚙️ Aleph Alpha выпустила Kolibri: открытая модель для европейского суверенитета в ИИ

Немецкая Aleph Alpha представила Kolibri - открытую языковую модель на 78 млрд параметров с архитектурой mixture-of-experts, где на каждый токен активны около 3 млрд параметров. Модель двуязычная (немецкий и английский) и распространяется по лицензии Apache 2.0 на Hugging Face.

Заявленная цель - попасть на «фронт Парето» по соотношению качества и стоимости инференса. Kolibri набирает 71% на немецких бенчмарках и декодирует быстрее сопоставимых GPT OSS A5B, Qwen 3.6 A3B и Gemma 4 A4B. Немецкие данные составляют 21,3% обучающего корпуса - под них построен отдельный пайплайн, а часть синтетики генерировали китайские модели. Контекстное окно - до 1 млн токенов, обучение шло на 768 GPU B200 в Германии и Финляндии.

Разработка велась по европейскому праву с учётом EU AI Act, целевые заказчики - госуправление, авиация и промышленность. Для разработчиков это редкий пример открытых весов европейского происхождения с сильной поддержкой немецкого языка и длинным контекстом.

🎨 qvabo.studio/tg · картинки и видео

#Tech #Model #AI #AlephAlpha #Kolibri #OpenSource #LLM

🔨 Claude передал полиции «дневниковую» запись: жительнице Флориды грозит уголовное обвинение

Жительница Бонита-Спрингс (Флорида) Карли Мишель Хеллер использовала Claude как личный дневник. Запись от 26 сентября, в которой она, по версии следствия, угрожала устроить стрельбу в офисе шерифа округа Ли, попала в полицию. Теперь ей предъявлено обвинение в письменной угрозе насилия - это второй класс тяжести по статье 836.10 Флориды.

Как всё произошло: системы безопасности Claude пометили запись, после чего её передали человеку-ревьюеру. Тот счёл угрозу достоверной и сообщил в правоохранительные органы. Anthropic заявляет, что может раскрывать данные пользователей в ограниченных случаях - если это необходимо для предотвращения смерти или серьёзных травм. Хеллер задержали без инцидентов, расследование ведёт детектив разведки LCSO.

Контекст: месяцем ранее Британская Колумбия подала иск против OpenAI и Сэма Альтмана, утверждая, что компанию можно было обязать предотвратить массовую стрельбу - тогда safety-команда пометила переписку, но в полицию не сообщила. В июне с OpenAI судилась и сама Флорида. Отдельно выяснилось, что подрядчики Microsoft просматривают промпты, загруженные фото и правки в Copilot.

Практический вывод для пользователей: чат-бот - не приватный дневник. Записи обрабатывают модели и люди, а в ряде юрисдикций платформа обязана или вправе передать их властям.

🎨 qvabo.studio/tg · картинки и видео

#Safety #AI #Claude #Anthropic #Privacy #Ethics #Security

🔝 Qwen3.8-Max и Nebula от ZTE разделили первое место в рейтинге «воплощённого мозга» SuperCLUE

Китайская группа оценки ИИ SuperCLUE опубликовала сентябрьский выпуск лидерборда EmbodiedCLUE-VLA, который измеряет, насколько модель способна быть «когнитивным ядром» робота - планировать и рассуждать в физических задачах. Среди китайских моделей Qwen3.8-Max-0902 от Alibaba и Nebula-EmbodiedBrain от ZTE набрали одинаковые 77.48 балла.

Бенчмарк охватывает четыре блока: базовое восприятие, визуальное рассуждение, взаимодействие и планирование, а также безопасность. Модели пришли к одному результату разными путями: Qwen лидирует в восприятии (83.33) и визуальном рассуждении (84.72), тогда как Nebula взяла 97.92 в безопасности и заметно сильнее в планировании задач - 64.29 против 28.57. Обе модели закрытые и доступны через API.

Ниже расположились открытые модели до 10 млрд параметров: Xiaomi MiMo-Embodied-7B (56.95), RynnBrain1.1-9B от Alibaba (50.33), RoboBrain2.5-8B-NV от BAAI (46.36) и 4B-модель HY-Embodied-0.5 от Tencent (29.14). Слабое место всего китайского поля - планирование: ни одна модель не превысила 40 баллов. Для сравнения: GPT-6 Astra - 86.75, Gemini-3.8-Flash - 82.12.

🎨 qvabo.studio/tg · картинки и видео

#Tech #AI #SuperCLUE #Robotics #Qwen #ZTE #EmbodiedAI

⚙️ Claude Code в AWS GovCloud: AI-разработка для регулируемых задач

Anthropic Claude Opus 5.5 и Claude Sonnet 5.5 стали доступны через Amazon Bedrock в регионах AWS GovCloud (US). Это открывает путь к AI-ассистированной разработке для проектов с повышенными требованиями к соответствию, включая ITAR. Claude Sonnet 5 имеет сертификацию FedRAMP Class D и авторизацию DoD IL4/IL5, обе новые модели - FedRAMP Class D на Bedrock.

В GovCloud доступны две точки подключения на базе движка Mantle с архитектурой Zero Operator Access. bedrock-runtime работает через AWS SDK (InvokeModel, Converse), поддерживает Guardrails, Knowledge Bases, Agents и логирование вызовов - рекомендуемый вариант для аудита. bedrock-mantle нативно поддерживает Anthropic Messages API и даёт server-side tools, background inference и Projects.

Настройка Claude Code сводится к переменным окружения: CLAUDE_CODE_USE_BEDROCK=1, AWS_REGION='us-gov-west-1' и пиннингу моделей вроде us-gov.anthropic.claude-sonnet-5-5. Есть интерактивный мастер /login → 3rd-party platform → Amazon Bedrock. Для команд авторы советуют AWS IAM Identity Center с временными ролевыми credentials вместо статических ключей и автоматизацию переменных через CI/CD. Инструмент умеет работать с несколькими файлами, запускать тесты, разрешать merge-конфликты и подключаться к внешним системам через MCP, включая AWS CLI, Terraform и Kubernetes.

🎨 qvabo.studio/tg · картинки и видео

#ClaudeCode #AWS #Bedrock #GovCloud #Development

❗️Исследователь нашёл структурную уязвимость в MCP: агенты заражают друг друга промптами

Независимый исследователь Сайед Анас Мохиуддин обнаружил класс атак, который назвал protocol pivoting. Злоумышленник внедряет вредоносную инструкцию в контент, её читает один AI-агент (например, переводчик или аналитик данных), а затем передаёт по цепочке другому внутреннему агенту. Тот выполняет команду, потому что доверяет «коллеге», - и в итоге возможны утечка содержимого баз данных, SSRF и кража учётных данных.

Проблема затрагивает Model Context Protocol - стандарт, по которому агенты общаются внутри сети. Уязвимости подтвердили пять организаций: Google, JP Morgan Chase, Weaviate, Rapid7 и госструктуры Франции и США. В сети Rapid7 баг получил низкий рейтинг 2.7 из 10 и уже исправлен. В googleapis/mcp-toolbox проблема серьёзнее - 8.0: HTTP-клиент не проверял редиректы и целевые IP-адреса, поэтому подделанный path-параметр позволял серверу делать запросы к внутренним эндпоинтам. Фикс - allow-list диапазонов IP и отказ от небезопасного URL ещё на старте.

Причина в том, что MCP внедряют быстрее, чем успевают защищать: каждый протокол проверяет «свою входную дверь», но никто не следит за коридором между ними, а принцип zero trust при построении агентных архитектур часто игнорируется. Часть исследователей считает термин просто подклассом indirect prompt injection - суть от этого не меняется: агенты по-прежнему выдают привилегии на основе доверия, а не авторизации.

🎨 qvabo.studio/tg · картинки и видео

#Safety #MCP #AI #Promptinjection #Development #Agents

⚙️ Instinct запускает AI-агента в групповые чаты - даже для друзей без аккаунта

Стартап Instinct, оценённый в $10 млрд после раунда Series C, открыл ранний доступ к новой функции: AI-агента теперь можно добавлять в групповые чаты. Ключевая особенность - работать это будет даже в том случае, если у друзей пользователя нет аккаунта в Instinct.

По задумке агент помогает в бытовых сценариях: планирование поездок, покупка билетов на мероприятия, фэнтези-лиги, организация карпула или распределение, кто что приносит на праздничный стол. «Планирование с друзьями обычно превращается в утомительную переписку о времени и месте. С Instinct в группе можно вместе обсудить варианты, договориться и всё сделать в одной ветке», - написал основатель компании Ноа Шинн.

С вопросами приватности разработчики поступили аккуратно. Личный агент пользователя сначала запрашивает разрешение, прежде чем подключаться к групповому агенту, а доверие к конкретным чатам можно в любой момент отозвать. Групповой Instinct изолирован от личных аккаунтов и не имеет к ним доступа - данные передаются и действия выполняются только с явного согласия владельца. Если в чат добавляют новых участников, отложенные ответы личного агента придерживаются до подтверждения.

Функция пока доступна только участникам early access, но вскоре расширится на всех. Шаг усиливает конкуренцию с Meta Muse и ChatGPT Dots от OpenAI - групповые чаты у Muse пока не поддерживаются.

🎨 qvabo.studio/tg · картинки и видео

#AI #Instinct #Agents #GroupChats #Tools #Tech

🤖 ChatGPT подделывает подписи реальных карикатуристов The New Yorker

Пользователи заметили, что генератор изображений ChatGPT создаёт карикатуры в стиле The New Yorker и ставит на них подписи настоящих художников журнала - без их согласия и без выплат. Один из вирусных примеров с подписью «BLOPER» (псевдоним Брендана Лопера) собрал 25 тысяч лайков в X, хотя Лопер эту работу не рисовал.

По данным издания Nieman Lab, задокументированы подписи более 15 карикатуристов The New Yorker - среди них Гарри Блисс, Эмили Флейк, Джо Дейтор, Пэт Бирнс, Джейсон Адам Катценштейн, а также классики вроде Сола Стейнберга и Уоррена Миллера. Сами художники называют это не заимствованием стиля, а подделкой: «Это как если бы кому-то приписали мою цитату, которую я не говорил», - говорит Флейк. Для них подпись - сертификат подлинности, привязывающий работу к автору.

OpenAI заявила, что ценит сообщения о «багах и непреднамеренном поведении» моделей, и после обращения журналистов ChatGPT начал выдавать предупреждение о возможном нарушении правил сходства с чужим контентом. Однако подписи реальных авторов всё ещё появляются. Condé Nast, владелец The New Yorker, имеет лицензионное соглашение с OpenAI, но, по словам представителя журнала, право на обучение моделей на карикатурах не передавалось.

🎨 qvabo.studio/tg · картинки и видео

#AI #ChatGPT #OpenAI #Copyright #ImageGen