📚 Как собрать локального AI-кодинг-агента и забыть о подписках?

Anthropic тестово убрал Claude Code из тарифа за $20 для 2% пользователей, Microsoft перевёл Copilot на поминутную оплату, а полноценный день вайб-кодинга на облаке обходится в $100–200/месяц. Если у вас есть GPU с 24+ ГБ VRAM или Mac M-серии с 32 ГБ unified memory — можно не платить вообще.

🦂 Модель — Qwen3.6-27B. Alibaba выпустила dense-модель, которая на 27 миллиардах параметров обходит их же предыдущий флагман Qwen3.5-397B (397 млрд параметров, 17 млрд активных) по всем кодинг-бенчмаркам: SWE-bench Verified 77.2 vs 76.2, Terminal-Bench 2.0 — 59.3 vs 52.5, SkillsBench — 48.2 vs 30.0. Контекстное окно — 262K токенов, реально на 24 ГБ VRAM влезает 65K с 8-bit KV-кэшем. Рекомендуемые параметры: temperature 0.6, top_p 0.95, top_k 20.

🦂 Inference engine. Подойдёт что угодно: Ollama, LM Studio, Llama.cpp, vLLM. Задача — поднять OpenAI-совместимый API на localhost. Для Mac — MLX-версия (oMLX) даёт прирост скорости за счёт нативной оптимизации под Apple Silicon.

🦂 Три фреймворка-агента на выбор:

Claude Code — да, работает с локальными моделями. Устанавливаете переменные:

export ANTHROPIC_BASE_URL=http://localhost:1234/v1
export ANTHROPIC_API_KEY=not-needed

и получаете привычный интерфейс Claude Code, но модель крутится на вашей машине. Подробный гайд.

Pi Coding Agent — минималистичный open-source агент от Mario Zechner (создатель libGDX). Короткий системный промпт = меньше нагрузки на GPU. Установка одной командой (curl -fsSL https://pi.dev/install | bash), настройка через JSON. Работает в YOLO-режиме без подтверждений — лучше запускать в контейнере.

Cline — расширение для VS Code. Указываете Base URL локального сервера, Model ID, контекст — и получаете агента прямо в IDE с переключением между режимом планирования и исполнения.

🦂 Реальные результаты. Qwen3.6-27B с первой попытки написал интерактивное веб-приложение солнечной системы и корректно пофиксил баги в существующем коде. Reddit-тесты (сравнение с Claude Opus 4.7) показывают: для задач уровня «скрипт, утилита, небольшой веб-проект» — разница с облачным Opus минимальна. Для крупных проектов — пока нет: ZDNET попытался заменить Claude Code на Goose + Qwen3-coder для iPad-приложения и провалился на сложных зависимостях.

🦂 Для кого это работает. Хобби-проекты, скрипты автоматизации, точечные правки, прототипы, небольшие веб-приложения. Не работает (пока): крупные кодовые базы с 50+ файлами, сложная архитектура, многошаговые рефакторинги.

🦂 Главные ограничения. Скорость генерации на Qwen3.6-27B — ~15–25 токенов/с на RTX 4090 (vs мгновенный ответ облака). Контекст на практике меньше, чем у облачных моделей. Нет «памяти» между сессиями без дополнительной настройки. И нужно делать бэкапы — агент в YOLO-режиме может перезаписать файлы без предупреждения.

Тем не менее: если у вас уже есть железо, вы получаете бесплатного кодинг-агента уровня «крепкий мидл» без лимитов на запросы, без утечки кода в облако, и без подписки, которую в любой момент могут поднять в цене.

Источники:

Qwen3.6-27B (official)
Pi Coding Agent
Claude Code + Local LLM Guide
Cline Docs
ZDNET: Goose vs Claude Code
Reddit: Qwen3.6-27B vs Opus

#Ai #LocalModels #CodingAgents #Qwen

❓ Как запустить чат-бот на своём компьютере

Wired объясняет, зачем нужны локальные LLM и как их поставить у себя. Вместо облачных ChatGPT и Claude можно запустить модель прямо на своём «железе» — тогда промпты не уходят на серверы, не действуют лимиты подписки и нет задержек из-за сети.

Для старта достаточно трёх вещей: относительно современного компьютера, программы для запуска вроде Ollama или LM Studio и самой модели — например, Llama 3 или Mistral. Тяжёлые модели требуют видеокарту с 8–16 ГБ VRAM, но для простых задач хватает и CPU: ответы будут медленнее, зато всё работает офлайн.

Главный плюс локального чат-бота — приватность. Данные не покидают устройство, что критично для работы с документами, кодом или личной перепиской. Минус — качество ответов ниже, чем у топовых облачных моделей, а обновления нужно ставить вручную. Для разработчиков это ещё и способ экспериментировать: можно дообучать модель под свои задачи и интегрировать её в приложения без API-ключей.

#AI #LLM #LocalModels #Privacy #Safety #Wired