📚 Как собрать локального AI-кодинг-агента и забыть о подписках?

Anthropic тестово убрал Claude Code из тарифа за $20 для 2% пользователей, Microsoft перевёл Copilot на поминутную оплату, а полноценный день вайб-кодинга на облаке обходится в $100–200/месяц. Если у вас есть GPU с 24+ ГБ VRAM или Mac M-серии с 32 ГБ unified memory — можно не платить вообще.

🦂 Модель — Qwen3.6-27B. Alibaba выпустила dense-модель, которая на 27 миллиардах параметров обходит их же предыдущий флагман Qwen3.5-397B (397 млрд параметров, 17 млрд активных) по всем кодинг-бенчмаркам: SWE-bench Verified 77.2 vs 76.2, Terminal-Bench 2.0 — 59.3 vs 52.5, SkillsBench — 48.2 vs 30.0. Контекстное окно — 262K токенов, реально на 24 ГБ VRAM влезает 65K с 8-bit KV-кэшем. Рекомендуемые параметры: temperature 0.6, top_p 0.95, top_k 20.

🦂 Inference engine. Подойдёт что угодно: Ollama, LM Studio, Llama.cpp, vLLM. Задача — поднять OpenAI-совместимый API на localhost. Для Mac — MLX-версия (oMLX) даёт прирост скорости за счёт нативной оптимизации под Apple Silicon.

🦂 Три фреймворка-агента на выбор:

Claude Code — да, работает с локальными моделями. Устанавливаете переменные:

export ANTHROPIC_BASE_URL=http://localhost:1234/v1
export ANTHROPIC_API_KEY=not-needed

и получаете привычный интерфейс Claude Code, но модель крутится на вашей машине. Подробный гайд.

Pi Coding Agent — минималистичный open-source агент от Mario Zechner (создатель libGDX). Короткий системный промпт = меньше нагрузки на GPU. Установка одной командой (curl -fsSL https://pi.dev/install | bash), настройка через JSON. Работает в YOLO-режиме без подтверждений — лучше запускать в контейнере.

Cline — расширение для VS Code. Указываете Base URL локального сервера, Model ID, контекст — и получаете агента прямо в IDE с переключением между режимом планирования и исполнения.

🦂 Реальные результаты. Qwen3.6-27B с первой попытки написал интерактивное веб-приложение солнечной системы и корректно пофиксил баги в существующем коде. Reddit-тесты (сравнение с Claude Opus 4.7) показывают: для задач уровня «скрипт, утилита, небольшой веб-проект» — разница с облачным Opus минимальна. Для крупных проектов — пока нет: ZDNET попытался заменить Claude Code на Goose + Qwen3-coder для iPad-приложения и провалился на сложных зависимостях.

🦂 Для кого это работает. Хобби-проекты, скрипты автоматизации, точечные правки, прототипы, небольшие веб-приложения. Не работает (пока): крупные кодовые базы с 50+ файлами, сложная архитектура, многошаговые рефакторинги.

🦂 Главные ограничения. Скорость генерации на Qwen3.6-27B — ~15–25 токенов/с на RTX 4090 (vs мгновенный ответ облака). Контекст на практике меньше, чем у облачных моделей. Нет «памяти» между сессиями без дополнительной настройки. И нужно делать бэкапы — агент в YOLO-режиме может перезаписать файлы без предупреждения.

Тем не менее: если у вас уже есть железо, вы получаете бесплатного кодинг-агента уровня «крепкий мидл» без лимитов на запросы, без утечки кода в облако, и без подписки, которую в любой момент могут поднять в цене.

Источники:

Qwen3.6-27B (official)
Pi Coding Agent
Claude Code + Local LLM Guide
Cline Docs
ZDNET: Goose vs Claude Code
Reddit: Qwen3.6-27B vs Opus

#Ai #LocalModels #CodingAgents #Qwen

🔍 Mistral запустила удалённых агентов для кодинга и новую модель Medium 3.5

Mistral AI представила Mistral Medium 3.5 - новую флагманскую модель с открытыми весами (модифицированная лицензия MIT). Это плотная модель на 128B параметров с контекстным окном 256k, объединяющая следование инструкциям, рассуждения и кодинг в едином наборе весов. Модель можно запускать локально всего на четырёх GPU. На SWE-Bench Verified она набирает 77.6%, обходя Devstral 2 и Qwen3.5 397B A17B. Уровень рассуждений теперь настраивается для каждого запроса - одна и та же модель может как быстро отвечать в чате, так и решать сложные агентные задачи.

Вместе с моделью Mistral запустила удалённых агентов для кодинга в Vibe. Сессии теперь работают в облаке, могут выполняться параллельно и уведомляют о завершении. Запускать их можно из CLI Mistral Vibe или прямо из Le Chat - описанная в чате задача уходит на тот же удалённый рантайм и возвращается готовой веткой или черновиком PR. Локальную CLI-сессию можно «телепортировать» в облако, сохранив историю и состояние. Каждая сессия работает в изолированном песочнице, а агент может открыть пул-реквест на GitHub и уведомить разработчика, избавляя его от проверки каждого шага.

#Ai #Mistral #OpenSource #CodingAgents