Вышел Claude Code v2.1.304. Добавлены /auto-mode-setup - мастер читает проект и недавние сессии и объясняет авторежиму окружение (работает на Bedrock, Vertex, Foundry и при отключённой телеметрии), и /claude-api managed-agents-secure - сверка настроек агента Managed Agents с руководством Anthropic по безопасности без изменений конфигурации.
В плагинах и модах появилась запись в транскрипте, если первый плагин пропускает хук мода. В tool.check добавлен decider: "person": подтвердить запрос может только диалог разрешений или callback хоста. e.isReadOnly сигнализирует о read-only вызове. Лимит хуков навыков - 1 024 на источник и 16 384 символа матчеров за сессию.
Исправлены sandbox на Linux с [user-id] в denyRead, отсутствие safety-запроса для rm -r на /Volumes и /media, зависание headless после --max-turns, игнор OpenTelemetry из server-managed settings и таймауты VSCode на SessionStart-хуках. В Code Review появились уровни Quick, Standard и Deep и проверка всех репозиториев GitHub-организации.
Для разработчиков это меньше сюрпризов с правами и хуками, стабильнее облачные сессии и авторежим под конкретный проект.
🎨 qvabo.studio/tg · картинки и видео
#ClaudeCode #AI #Skills #GitHub #Development #Agents
Please open Telegram to view this post
VIEW IN TELEGRAM
🤗 Hugging Face: встроенные оценщики ИИ не станут простым решением
Директор по политике Hugging Face Ирен Солаиман на TechCrunch Disrupt заявила, что индустрии не стоит рассчитывать на быстрое решение проблемы оценки безопасности ИИ через сторонних «встроенных» оценщиков: методология пока незрелая.
По её словам, ключевой вопрос - воспроизводимость. Чтобы доверять результатам эвалюации, нужен доступ к самой модели, и здесь важную роль играют открытые веса. При этом бенчмарки быстро устаревают, а сравнивать их между собой индустрия до сих пор толком не умеет. Экосистема оценщиков только формируется, и критерии того, кто и для каких задач является эффективным оценщиком, требуют стандартизации. Наглядный пример - критика в адрес Anthropic после найма Accenture в качестве первого встроенного оценщика.
Отдельная проблема - смещение оценки с модели на всю систему: harness (инструмент доступа к модели) и агент влияют на результат настолько, что слабая модель с хорошим harness может обойти фронтирную. Agentic-evals сложны и дороги, а оценок для harness и целостных агентов заметно меньше, чем для самих моделей.
🎨 qvabo.studio/tg · картинки и видео
#AI #HuggingFace #Benchmarks #Security #Development
Директор по политике Hugging Face Ирен Солаиман на TechCrunch Disrupt заявила, что индустрии не стоит рассчитывать на быстрое решение проблемы оценки безопасности ИИ через сторонних «встроенных» оценщиков: методология пока незрелая.
По её словам, ключевой вопрос - воспроизводимость. Чтобы доверять результатам эвалюации, нужен доступ к самой модели, и здесь важную роль играют открытые веса. При этом бенчмарки быстро устаревают, а сравнивать их между собой индустрия до сих пор толком не умеет. Экосистема оценщиков только формируется, и критерии того, кто и для каких задач является эффективным оценщиком, требуют стандартизации. Наглядный пример - критика в адрес Anthropic после найма Accenture в качестве первого встроенного оценщика.
Отдельная проблема - смещение оценки с модели на всю систему: harness (инструмент доступа к модели) и агент влияют на результат настолько, что слабая модель с хорошим harness может обойти фронтирную. Agentic-evals сложны и дороги, а оценок для harness и целостных агентов заметно меньше, чем для самих моделей.
🎨 qvabo.studio/tg · картинки и видео
#AI #HuggingFace #Benchmarks #Security #Development
Microsoft представила новые средства защиты корпоративных систем от угроз, исходящих от ИИ-агентов. Ключевое новшество - Guardian Agents, функция мониторинга агентов в рамках продукта Project Perception, запущенного в июне.
По словам главы подразделения безопасности Хайет Галло, «передовые модели, независимо от происхождения, нельзя считать доверенными» - не из-за злого умысла или уязвимости, а из-за непредсказуемости: модели обучены выполнять задачи, а не соблюдать организационные нормы. При этом им часто дают доступ к чувствительным данным и критичным действиям. Сатья Наделла ещё раньше призывал «отделить поставку интеллекта от полномочий над ним» и внедрять независимые системы контроля, не подконтрольные самим AI-лабораториям.
В Microsoft Defender добавили обнаружение до 60 типов агентов, включая Claude Code, Codex и OpenClaw, а также ограничение доступа к данным и динамическую корректировку прав с обязательным подтверждением человеком при рискованных решениях. Логика спорна - Microsoft сама инвестирует в OpenAI и Anthropic, - но принцип разделения аудита и поставщика разумен.
🎨 qvabo.studio/tg · картинки и видео
#AI #Agents #Microsoft #Cybersecurity #Development
Please open Telegram to view this post
VIEW IN TELEGRAM
На первом в Индии Config компания Figma объявила о 20 новых партнёрах по Model Context Protocol, среди них Amp, ClickUp, Dia, Junie от JetBrains, Linear, Meta* Muse, Mistral, Notion, OpenCode и Sarvam Agents. Одновременно сооснователь Figma Дилан Филд заявил, что сам протокол далёк от совершенства.
По его словам, MCP «даёт преимущество frontier-лабораториям», а вопросы асимметричного обмена контекстом игнорируются. В качестве примера Филд привёл Anthropic - создателя стандарта, которая не открывает свои artifacts и облачные ресурсы через MCP. При этом, отметил он, дискуссия подаётся как спор «открытое против закрытого».
Причина осторожности Figma - риски злоупотреблений: чем больше данных компания отдаёт через MCP, тем выше вероятность их вредоносного использования, хотя большинство пользователей, по словам Филда, действуют добросовестно. После критики со стороны одного из создателей MCP компания также подтвердила, что планирует поддержку открытого инструмента Pi.
*компания Meta признана экстремистской и запрещена на территории Российской Федерации
🎨 qvabo.studio/tg · картинки и видео
#Tech #Figma #MCP #AI #Agents #Development #Tools
Please open Telegram to view this post
VIEW IN TELEGRAM
ИИ-агент Meta* Muse, который Цукерберг называл «созданным с нуля для приватности и безопасности», легко выдаёт личные и корпоративные данные при использовании штатной функции «поделиться диалогом». Исследователи из компании Claroc обнаружили 6800 таких ссылок одним запросом к сервису passive DNS.
Причина - в устройстве URL. Все ссылки находятся на домене
cf.metaaiusercontent.com, а в поддомен попадает заголовок беседы вместе с коротким случайным хешем: например, loan-application-draft-a4c9e2.cf.metaaiusercontent.com или q3-revenue-review-7b1e42f0.cf.metaaiusercontent.com. Как только получатель открывает ссылку, DNS-запрос фиксируется в публичных базах, и страницу может найти любой. Уязвимость получила название GhostShares.Среди найденного: заметки кандидата к конфиденциальному собеседованию в AI-лаборатории с именем внутреннего контакта и временем встречи, отчёт о выручке маркетинговой компании для гендиректора, заявка малого бизнеса на кредит с суммой, список задач с номером счёта и суммой транзакции по банковскому фроду, отчёт инвестора в недвижимость с адресами и доходностью, а также годовой график отпусков сотрудников.
Отдельно подчёркивается: Muse требует доступа к большинству аккаунтов пользователя, чтобы бронировать, покупать и заполнять формы, - то есть цена утечки здесь особенно высока.
*компания Meta признана экстремистской и запрещена на территории Российской Федерации
🎨 qvabo.studio/tg · картинки и видео
#Safety #Muse #AI #Security #Privacy #Leaks
Please open Telegram to view this post
VIEW IN TELEGRAM
Hugging Face выпустила AnyLanguageModel 1.0 - drop-in замену фреймворка Foundation Models от Apple, позволяющую приложению выбирать модель и провайдера. Достаточно поменять один import, и тот же код сессии работает с системной моделью, открытыми весами через llama.cpp, MLX и Core ML, а также с хостинговыми провайдерами.
За год добавили tool calling и guided generation для всех провайдеров (включая вложенные @Generable-типы), поддержку изображений в промптах, работу с моделями по протоколу LanguageModel на OS 27. Среди хостинговых провайдеров - OpenAI Chat Completions и Responses, Anthropic Messages с adaptive thinking, Gemini, Ollama, Private Cloud Compute и Hugging Face Inference Providers через кастомный baseURL. Reasoning-блоки теперь часть транскрипта и автоматически отбрасываются при смене провайдера, а API-ключи берутся из замыкания - можно выдавать короткоживущие токены со своего сервера.
Вместе с этим вышли swift-huggingface и swift-xet 1.0 для ускоренной загрузки моделей с Hub. Из популярных локальных вариантов: Gemma 4 E2B (~3,4 ГБ, GGUF) и LFM2.5 2.6B (~1,7 ГБ) помещаются на iPhone, Qwen3.8 27B в 4 битах (~16 ГБ) идёт на Mac с 32 ГБ памяти. AnyLanguageModel работает и на Linux - тот же код годится для сервера.
🎨 qvabo.studio/tg · картинки и видео
#AI #AnyLanguageModel #Swift #Apple #LocalModels #Development #LLM
Please open Telegram to view this post
VIEW IN TELEGRAM