☠️ Эксперимент: как за $12 отравить LLM через Wikipedia

Инженер по безопасности Рон Стоунер провел наглядный эксперимент по отравлению retrieval-augmented generation (RAG) у ведущих LLM. Он зарегистрировал домен 6nimmt.com за $12 и добавил в Wikipedia правку о том, что он якобы является чемпионом мира 2025 года по карточной игре 6 Nimmt!. Никакого чемпионата не существует, а единственным источником информации служил его собственный сайт с пресс-релизом.

Несмотря на отсутствие независимых подтверждений, несколько AI-чатботов с веб-поиском приняли эту информацию за факт и сообщили Стоунеру, что он чемпион. Проблема, по его словам, не в промпт-инъекции, а в самом слое RAG: LLM доверяют тому, что ранжируется выше всего в выдаче, и не проверяют происхождение источников.

Стоунер выделяет три уязвимости, которые можно использовать для более серьезных атак:

1. Слой поиска (retrieval layer). Любая LLM, которая использует веб-поиск для ответов, наследует достоверность того, что ранжируется по запросу. Если поддельный источник - единственный, модель выдает ложь как истину.

2. Корпус обучающих данных. Правка в Wikipedia провисела с февраля 2025 года до конца апреля. Если какой-либо AI-провайдер успел собрать дамп Wikipedia за это время, вымышленный чемпионат мог попасть в тренировочные данные. Откатить это невозможно - проблема очистки корпуса от отравленных данных до сих пор не решена.

3. AI-агенты с доступом к инструментам. Если агент использует отравленный источник, злоумышленник может задать конкретное действие, которое агент выполнит. Это уже не репутационная проблема, а проблема безопасности.

Стоунер отмечает, что его атака - это старые SEO- и дезинформационные тактики, обернутые в новые LLM-интерфейсы. Он призывает AI-компании внедрять проверку происхождения данных и эвристически фильтровать свежий веб-контент на подозрительные паттерны (например, единственная ссылка на домен, зарегистрированный незадолго до правки в Wikipedia).

#Ai #Security #RAG #LLM

😈 День почтения скрипучей двери!

Сегодня не смазываем петли. Пусть дверь говорит своим старым голосом — чуть хриплым, чуть ворчливым, но родным. В каждом её скрипе будто застряло что-то домашнее: поздние возвращения, тихие шаги по коридору, чьи-то «я уже сплю» из-за приоткрытой комнаты.

Скрипучая дверь — это не поломка, а память дома. Она первой узнаёт, кто пришёл, кто ушёл и кто остановился на пороге дольше обычного. Так что сегодня просто пройдите мимо неё мягче. А если она скрипнет — считайте, что дом сказал вам что-то важное.

#Сказка #Праздник

💰 Cloudflare и Stripe запустили протокол для AI-агентов: создание аккаунта, покупка домена и деплой без участия человека

Cloudflare совместно со Stripe представили новый протокол, который позволяет AI-агентам полностью автономно создавать аккаунты, оформлять платные подписки, регистрировать домены и получать API-токены для деплоя приложений. Человеку нужно лишь один раз принять условия использования и подтвердить оплату - все остальные шаги агент выполняет сам, без необходимости заходить в дашборд, копировать токены или вводить данные карты.

Протокол работает через Stripe Projects. Пользователь устанавливает Stripe CLI с плагином, логинится и запускает команду stripe projects init. Затем агент через команду stripe projects catalog получает список доступных сервисов Cloudflare, выбирает нужный (например, регистратор доменов) и начинает развертывание. Если у пользователя ещё нет аккаунта Cloudflare, система создает его автоматически. Если аккаунт существует - срабатывает стандартный OAuth-флоу для выдачи прав.

Протокол решает три ключевые задачи:
1. Discovery - агент через REST API получает каталог сервисов и сам решает, какие из них использовать.
2. Authorization - Stripe выступает как identity provider, подтверждая личность пользователя, а Cloudflare на лету создает или привязывает аккаунт.
3. Payment - Stripe передает провайдеру платежный токен, не раскрывая агенту данные карты. По умолчанию установлен лимит $100/мес на одного провайдера, который можно увеличить через Budget Alerts в Cloudflare.

Любая платформа с авторизованными пользователями может интегрироваться с Cloudflare по тому же принципу, что и Stripe. Для этого достаточно одного API-вызова для создания аккаунта и получения токена. Cloudflare также планирует опубликовать официальную спецификацию протокола и продолжает развивать интеграции с другими платформами.

#Ai #Cloudflare #Stripe #Agents

👩‍💻 Mozilla выступила против Prompt API от Google

Mozilla вновь заявила о несогласии с решением Google встроить Prompt API в браузер Chrome. Представитель Mozilla Джейк Арчибальд в обсуждении на GitHub назвал API угрозой для интероперабельности, обновляемости и нейтральности веб-платформы.

Prompt API позволяет веб-страницам напрямую отправлять запросы встроенной в браузер языковой модели Gemini Nano. Google рекомендует иметь 22 ГБ свободного места, хотя сама модель занимает около 4,27 ГБ. API уже тестируется в Chrome и Microsoft Edge.

Основные претензии Mozilla: разработчики будут вынуждены подстраиваться под модель Nano, что создаст давление на Apple и Mozilla лицензировать её для единообразия. Кроме того, использование API требует согласия с политикой Google, запрещающей генерацию «тревожного» контента, что выходит за рамки закона. Арчибальд также обвинил Google в преувеличении спроса: компания сослалась на несколько постов в соцсетях как на доказательство интереса разработчиков.

Инженер Chrome Рик Байерс признал обоснованность опасений, но выступил за эксперименты и конкуренцию. Согласно отчёту, модели Gemini Nano и Phi-4 mini-instruct показывают низкие результаты: до 29% запросов на генерацию и до 30% на классификацию завершаются неудачей.

#Ai #Chrome #Mozilla #WebPlatform

🎶 Постквантовое шифрование для Cloudflare IPsec стало общедоступным!

Cloudflare объявила о запуске пост-квантового шифрования для своего IPsec-продукта. Технология доступна всем клиентам и защищает трафик между дата-центрами, филиалами и облачными VPC от атак типа «собери сейчас - расшифруй потом», когда злоумышленник накапливает зашифрованные данные в расчёте на появление мощного квантового компьютера.

Реализация основана на гибридном ML-KEM (FIPS 203) - алгоритме пост-квантовой криптографии, устойчивом к атакам квантовых компьютеров. В рукопожатии IPsec классический обмен Диффи-Хеллмана комбинируется с ML-KEM, а результаты обоих протоколов смешиваются в сессионные ключи. Cloudflare уже подтвердила совместимость с оборудованием Fortinet (FortiOS 7.6.6+) и Cisco (Cisco 8000 Series Secure Routers 26.1.1+). С Palo Alto Networks пока нет совместимости - их реализация была выпущена до появления единого стандарта draft-ietf-ipsecme-ikev2-mlkem.

В блоге отмечают, что стандарт для пост-квантового шифрования в IPsec появился на четыре года позже, чем аналогичный для TLS. Причина - интерес сообщества IPsec к квантовому распределению ключей (QKD), которое требует специализированного оборудования и физического канала, не работает в масштабе интернета и не обеспечивает аутентификацию. NSA, BSI и NCSC предупреждают, что полагаться только на QKD нельзя. Cloudflare делает ставку на программные пост-квантовые алгоритмы, работающие на существующем оборудовании.

#Ai #Cloudflare #PostQuantum #Cryptography

💰Новый фишинг-сервис Bluekit получил AI-ассистента и 40 шаблонов

Фишинг-сервис Bluekit, ориентированный на атаки против пользователей Microsoft 365 и Google Workspace, добавил AI-ассистента и расширил библиотеку шаблонов до 40 вариантов. Сервис предлагает готовые страницы входа, имитирующие популярные сервисы, и автоматизирует сбор украденных учетных данных.

AI-ассистент помогает злоумышленникам быстрее настраивать фишинговые кампании: генерирует убедительные тексты писем, подбирает темы и адаптирует контент под конкретные цели. Bluekit также включает защиту от обнаружения - использует CAPTCHA и проверку User-Agent, чтобы обходить фильтры безопасности.

Сервис распространяется по подписке (от $150 в месяц) и уже используется в атаках на компании из США, Великобритании и Австралии. Эксперты отмечают, что появление AI-инструментов в фишинг-сервисах снижает порог входа для киберпреступников и увеличивает сложность обнаружения таких угроз.

#Ai #Security #Phishing

💻 Replit: независимость, суд с Apple и 300% удержание клиентов

Глава Replit Амджад Масад дал большое интервью TechCrunch, в котором объяснил, почему компания не собирается продаваться, как это сделал конкурент Cursor (по слухам, SpaceX покупает его за $60 млрд). По словам Масада, Replit принципиально отличается от Cursor: у них положительная валовая маржа уже больше года, а целевая аудитория - не разработчики, а люди без технического бэкграунда, которым нужен полный цикл от промпта до готового приложения с безопасностью и базами данных.

Масад заявил, что Replit стремится остаться независимой компанией. Он напомнил, что ещё в 2018 году в Y Combinator они говорили о «миллиарде создателей софта» - и над этой идеей смеялись. Теперь, после запуска агентного кодинга в сентябре 2024 года, мечта стала реальностью. Чистое удержание клиентов (net revenue retention) достигает 300%, а отток минимален: когда инженеры пытаются переписать приложение с Replit на свой стек, они часто делают его хуже.

Отдельно Масад прошёлся по Apple. Replit блокируют в App Store уже несколько месяцев - компания считает, что причина в запуске функции создания iOS-приложений, которая угрожает бизнесу Apple. Официальное объяснение Apple - «загрузка нового кода на устройство после одобрения». Масад называет это ложью и говорит, что готов доказывать это в суде, хотя надеется решить вопрос миром.

#Ai #Replit #Apple #Coding

⚙️ Референс-лист персонажа

Минималистичное чёрное бикини
Идеально подогнанное к телу
Подчёркивает естественные изгибы
Реалистичная и элегантная посадка

Skin must be clean and flawless: no tattoos, no scars, no marks, no blemishes.
Wearing a minimal bikini black, perfectly fitted to her body, highlighting her natural curves in a realistic and elegant way.
A full character reference sheet showing multiple angles and views of the same woman, consistent identity across all views:
- full body front view, standing pose, head to toe visible;
- full body back view, showing body shape from behind;
- full body side view, natural posture;
- portrait face front view, neutral expression;
- portrait face side profile;
- portrait face 3/4 angle view;
neutral background, studio lighting, clean composition, no distractions, highly detailed, realistic skin texture, consistent proportions across all views, no distortion, no extra limbs.

#prompt #Ai #NanoBanano

📚 Как собрать локального AI-кодинг-агента и забыть о подписках?

Anthropic тестово убрал Claude Code из тарифа за $20 для 2% пользователей, Microsoft перевёл Copilot на поминутную оплату, а полноценный день вайб-кодинга на облаке обходится в $100–200/месяц. Если у вас есть GPU с 24+ ГБ VRAM или Mac M-серии с 32 ГБ unified memory — можно не платить вообще.

🦂 Модель — Qwen3.6-27B. Alibaba выпустила dense-модель, которая на 27 миллиардах параметров обходит их же предыдущий флагман Qwen3.5-397B (397 млрд параметров, 17 млрд активных) по всем кодинг-бенчмаркам: SWE-bench Verified 77.2 vs 76.2, Terminal-Bench 2.0 — 59.3 vs 52.5, SkillsBench — 48.2 vs 30.0. Контекстное окно — 262K токенов, реально на 24 ГБ VRAM влезает 65K с 8-bit KV-кэшем. Рекомендуемые параметры: temperature 0.6, top_p 0.95, top_k 20.

🦂 Inference engine. Подойдёт что угодно: Ollama, LM Studio, Llama.cpp, vLLM. Задача — поднять OpenAI-совместимый API на localhost. Для Mac — MLX-версия (oMLX) даёт прирост скорости за счёт нативной оптимизации под Apple Silicon.

🦂 Три фреймворка-агента на выбор:

Claude Code — да, работает с локальными моделями. Устанавливаете переменные:

export ANTHROPIC_BASE_URL=http://localhost:1234/v1
export ANTHROPIC_API_KEY=not-needed

и получаете привычный интерфейс Claude Code, но модель крутится на вашей машине. Подробный гайд.

Pi Coding Agent — минималистичный open-source агент от Mario Zechner (создатель libGDX). Короткий системный промпт = меньше нагрузки на GPU. Установка одной командой (curl -fsSL https://pi.dev/install | bash), настройка через JSON. Работает в YOLO-режиме без подтверждений — лучше запускать в контейнере.

Cline — расширение для VS Code. Указываете Base URL локального сервера, Model ID, контекст — и получаете агента прямо в IDE с переключением между режимом планирования и исполнения.

🦂 Реальные результаты. Qwen3.6-27B с первой попытки написал интерактивное веб-приложение солнечной системы и корректно пофиксил баги в существующем коде. Reddit-тесты (сравнение с Claude Opus 4.7) показывают: для задач уровня «скрипт, утилита, небольшой веб-проект» — разница с облачным Opus минимальна. Для крупных проектов — пока нет: ZDNET попытался заменить Claude Code на Goose + Qwen3-coder для iPad-приложения и провалился на сложных зависимостях.

🦂 Для кого это работает. Хобби-проекты, скрипты автоматизации, точечные правки, прототипы, небольшие веб-приложения. Не работает (пока): крупные кодовые базы с 50+ файлами, сложная архитектура, многошаговые рефакторинги.

🦂 Главные ограничения. Скорость генерации на Qwen3.6-27B — ~15–25 токенов/с на RTX 4090 (vs мгновенный ответ облака). Контекст на практике меньше, чем у облачных моделей. Нет «памяти» между сессиями без дополнительной настройки. И нужно делать бэкапы — агент в YOLO-режиме может перезаписать файлы без предупреждения.

Тем не менее: если у вас уже есть железо, вы получаете бесплатного кодинг-агента уровня «крепкий мидл» без лимитов на запросы, без утечки кода в облако, и без подписки, которую в любой момент могут поднять в цене.

Источники:

Qwen3.6-27B (official)
Pi Coding Agent
Claude Code + Local LLM Guide
Cline Docs
ZDNET: Goose vs Claude Code
Reddit: Qwen3.6-27B vs Opus

#Ai #LocalModels #CodingAgents #Qwen

🏆 AI-актёры и сценарии не допустят до «Оскара»

Академия кинематографических искусств и наук обновила правила премии «Оскар», прямо ограничив использование генеративного ИИ. Согласно новым требованиям, на награду могут претендовать только те актёрские работы, которые «указаны в титрах, демонстративно исполнены людьми и с их согласия». Аналогичное условие введено для сценариев - они должны быть «написаны человеком».

Организация также оставила за собой право запрашивать у кинокомпаний дополнительную информацию об использовании ИИ и подтверждение «человеческого авторства». Эти меры приняты на фоне растущего числа проектов с синтетическими актёрами - например, независимого фильма с AI-версией Вэла Килмера и активности «цифровой актрисы» Тилли Норвуд. Кроме того, новые модели генерации видео вызывают беспокойство в Голливуде, а тема ИИ оставалась одной из ключевых во время забастовок сценаристов и актёров в 2023 году.

#Ai #Regulation #Oscars #Film

📈 Итоги апреля 2026: Google показал Gemma 4, Deep Research Max и TPU нового поколения

Апрель стал для Google одним из самых насыщенных месяцев в сфере AI. На Cloud Next ‘26 компания представила целый ряд продуктов, ориентированных на «агентную эру»: от открытой модели Gemma 4 до специализированных чипов и новых инструментов для разработчиков и обычных пользователей.

Ключевые анонсы включают Gemini Enterprise Agent Platform - платформу для создания и управления автономными AI-агентами, которые могут выполнять сложные многошаговые бизнес-процессы. Также были представлены TPU восьмого поколения, спроектированные специально для высоких вычислительных нагрузок агентного AI с акцентом на энергоэффективность. Отдельно стоит отметить выход Gemma 4, которую в Google называют самой производительной открытой моделью в пересчёте на один параметр - с момента запуска первой Gemma разработчики скачали модели семейства более 500 миллионов раз.

Среди продуктовых новинок - Google Vids, который теперь позволяет любому владельцу аккаунта Google бесплатно создавать до 10 видео в месяц с помощью AI, включая генерацию саундтреков на базе моделей Lyria 3. Deep Research Max берёт на себя высокоуровневые исследовательские задачи, а Learn Mode в Colab превращает Gemini в персонального репетитора по программированию с пошаговыми объяснениями. Для подписчиков Google AI Pro и Ultra расширены лимиты в AI Studio, а Kaggle запускает курс AI Agents Vibe Coding, обучающий созданию софта через AI-агентов без погружения в синтаксис.

#Ai #Google #Gemma #CloudNext

⚠️ Microsoft поймали на добавлении «Co-Authored-by Copilot» в коммиты VS Code - даже при выключенном AI

Microsoft незаметно добавила строку «Co-Authored-by Copilot» в Git-коммиты Visual Studio Code - даже для разработчиков, которые полностью отключили AI-функции. Изменение протолкнул продакт-менеджер Microsoft, а principal-инженер одобрил его без описания, после чего патч сразу смержили.

После волны критики на GitHub и Hacker News разработчик Microsoft Дмитрий Васюра признал ошибку. По его словам, функция не должна была работать при выключенном AI и не должна была помечать коммиты как созданные AI, когда AI не использовался. Васюра пообещал откатить настройку по умолчанию в версии 1.119.

Многие пользователи подозревают, что Microsoft пыталась накрутить статистику использования Copilot. Также есть опасения, что скрытая строка в окне коммита может создать юридические проблемы с авторскими правами или нарушить строгие AI-политики компаний. Обсуждение на GitHub уже заблокировали как спам.

#Ai #Microsoft #VSCode #Copilot

🧠 ИИ-системы начинают строить себя сами: что это значит

Автор Import AI Джек Кларк публикует развернутый анализ, в котором приходит к выводу: с вероятностью более 60% к концу 2028 года мы увидим полностью автономную AI R&D - систему, способную без участия человека обучить собственную улучшенную версию. По его мнению, все необходимые компоненты уже существуют, и осталось лишь дождаться, когда они сложатся в единый пайплайн.

Ключевые свидетельства прогресса

1. Кодинг-сингулярность. Бенчмарк SWE-Bench, измеряющий способность ИИ решать реальные GitHub-задачи, вырос с 2% (Claude 2, 2023) до 93.9% (Claude Mythos Preview, 2026). METR показывает, что время независимой работы ИИ увеличилось с 30 секунд (GPT-3.5, 2022) до ~12 часов (Opus 4.6, 2026). Прогноз на конец 2026 года - 100 часов.

2. Научные навыки. CORE-Bench (воспроизведение результатов научных статей) решен на 95.5% (Opus 4.5). MLE-Bench (Kaggle-соревнования) вырос с 16.9% до 64.4% (Gemini 3). PostTrainBench показывает, что ИИ уже достигает ~50% от человеческого уровня при fine-tuning моделей.

3. Оптимизация ядер и обучения. Anthropic сообщает о 52-кратном ускорении кода обучения LLM (Claude Mythos Preview) против 2.9x у Opus 4 годом ранее. Для человека 4x ускорение - это 4-8 часов работы.

4. Управление агентами. ИИ-системы (Claude Code, OpenCode) уже управляют суб-агентами, формируя синтетические команды с ролями директоров, критиков и инженеров.

Творчество или инженерия?

Автор отмечает, что большая часть прогресса AI - это не «открытие теории относительности», а методичная инженерная работа: масштабирование, отладка, оптимизация. Именно эту «рутину» ИИ уже отлично автоматизирует. Однако есть и признаки творчества: AI помог решить открытую математическую задачу Эрдёша и участвовал в создании нового математического доказательства в коллаборации с людьми.

Почему это важно

Кларк выделяет три главных последствия:

- Alignment. Рекурсивное самоулучшение может сломать существующие методы контроля. Ошибка в 0.1% на каждом цикле превратится в 40% после 500 поколений.

- Мультипликатор производительности. Все, к чему прикоснется AI, получит ускорение. Возникает проблема распределения ограниченных вычислительных ресурсов.

- Машинная экономика. Появятся капиталоемкие компании с минимальным участием людей. Возможно возникновение полностью автономных AI-корпораций, торгующих друг с другом.

Автор оценивает вероятность автономной AI R&D в 2027 году в 30%, к концу 2028 - в 60%. Если этого не произойдет, значит, текущая парадигма имеет фундаментальные ограничения, которые потребуют человеческого изобретения.

#Ai #Automation #Research #Alignment

5️⃣ Фрагмент задержания!
Фотореалистичная сцена задержания

Create an image using the model's appearance from the uploaded image and the setting from the second uploaded image.
STRICTLY: Do not alter facial features, age, body proportions, or hairstyle. No rejuvenation or aging. No stylization or enhancement.
Subject: A hyper-photorealistic, unedited documentary image of an arrest captured in motion. The model is wearing a black leather biker jacket, a white T-shirt, and black jeans.
Action: The model is crouched next to a large black leather bag on the pavement, talking on the phone. Motion blur is noticeable on her head.
Setting (Ground/Vehicle): A large black leather bag is open on the pavement, revealing dense stacks of new Russian ruble banknotes (approximately 10 million), grouped in a slightly irregular pattern. Scattered nearby are approximately 20 bank cards, as well as several iPhones of various models, creating a sense of natural disorder. The action takes place next to a matte black Mercedes-Benz AMG S63 with the license plate О197ВС197. The car is covered in droplets of water, indicating it has just rained. The weather is overcast and nighttime.
Personnel: The frame features three Russian ФСБ officers in full black tactical gear, including helmets,body armor, and boots. One is looking at the model; the second is standing next to the car with an indignant expression; the third is partially in the frame. 
Atmosphere and technique: Live action with subtle chaos, not staged. Harsh direct light from the flash, deep shadows, a cinematic effect, noticeable film grain. Shot on iPhone 16 Pro Max. Ultra-realistic, head movement effects, high detail. Aspect ratio: [3:4]

#Prompt #automation #AI

🤩 OpenAI, AMD, Broadcom, Intel, Microsoft и NVIDIA представили новый сетевой протокол MRC

OpenAI совместно с AMD, Broadcom, Intel, Microsoft и NVIDIA разработала сетевой протокол MRC (Multipath Reliable Connection). Он призван ускорить и сделать более предсказуемой передачу данных между GPU в крупных AI-суперкомпьютерах - критически важное условие для обучения больших моделей.

Вместо отправки каждого потока данных по одному сетевому пути MRC распределяет пакеты одновременно по сотням маршрутов, снижая нагрузку на ядро сети. При отказе каналов или коммутаторов протокол обнаруживает проблему и перенаправляет трафик за микросекунды. Обычные сети могут стабилизироваться после сбоев секунды или даже десятки секунд. Это позволяет обучению продолжаться даже при отказах и обслуживании оборудования, которые раньше приводили к остановке.

OpenAI утверждает, что MRC позволяет соединять более 100 000 GPU, используя только два уровня Ethernet-коммутаторов вместо трёх-четырёх, требуемых обычными сетями на 800 Гбит/с. Это снижает энергопотребление, количество компонентов и общую стоимость сети.

Протокол уже развёрнут на всех крупнейших суперкомпьютерах OpenAI на базе NVIDIA GB200, включая площадку Oracle Cloud Infrastructure в Абилине (Техас) и суперкомпьютеры Microsoft Fairwater. Во время обучения одной из последних frontier-моделей для ChatGPT и Codex потребовалось перезагрузить четыре коммутатора первого уровня - с MRC это не потребовало координации с командами, запускавшими задачи обучения.

Спецификация MRC опубликована через Open Compute Project (OCP), также вышла исследовательская работа.

#Ai #Networking #OpenAI #Infrastructure

🟠 Cloudflare сокращает 1100 сотрудников, перестраиваясь под эру AI-агентов

Cloudflare объявила о сокращении более 1100 сотрудников по всему миру. В письме команде сооснователи Мэтью Принс и Мишель Затлин объяснили решение переходом к «агентной эре AI»: использование AI внутри компании выросло на 600% за последние три месяца, сотрудники ежедневно запускают тысячи сессий с AI-агентами для выполнения задач.

Руководство подчеркивает, что это не сокращение издержек или оценка эффективности, а перестройка всех внутренних процессов, команд и ролей. Уволенным предлагают пакет поддержки, который включает полную зарплату до конца 2026 года, продление медицинской страховки в США до конца года, а также ускоренное наделение акциями (vesting) до 15 августа - даже для тех, кто не отработал год. Компания намерена провести реорганизацию за один раз, чтобы избежать затяжной неопределенности.

#Business #Cloudflare #Layoffs