Ко мне пришёл фаундер строительной компании, для понимания возможностей нейросетей и их применения в жизни и бизнесе.
За четыре занятия разобрали, как модель выдаёт ответ: что такое контекстное окно и токены, откуда берутся выдуманные факты, почему модель соглашается с собеседником. Как ресерчить, как сделать память, где можно встроить ее в бизнес и как. Отдельно разобрали персональные данные и что в модель не отправляют.
Дальше работали на его задаче, он получил план с цифрами. Там же проверили эти цифры и увидели, что два прогона одного запроса дают разные суммы и где модель может ошибаться.
Его слова: "Многие вещи, о которых раньше имел только общее представление, стали гораздо понятнее, а главное, появилось понимание, как ИИ уже сегодня можно использовать в реальных задачах".
Формат: занятия по часу и переписка между ними. Подходит руководителю, который решает, что делать с ИИ у себя в компании.
Написать мне: @DJWOMS
За четыре занятия разобрали, как модель выдаёт ответ: что такое контекстное окно и токены, откуда берутся выдуманные факты, почему модель соглашается с собеседником. Как ресерчить, как сделать память, где можно встроить ее в бизнес и как. Отдельно разобрали персональные данные и что в модель не отправляют.
Дальше работали на его задаче, он получил план с цифрами. Там же проверили эти цифры и увидели, что два прогона одного запроса дают разные суммы и где модель может ошибаться.
Его слова: "Многие вещи, о которых раньше имел только общее представление, стали гораздо понятнее, а главное, появилось понимание, как ИИ уже сегодня можно использовать в реальных задачах".
Формат: занятия по часу и переписка между ними. Подходит руководителю, который решает, что делать с ИИ у себя в компании.
Написать мне: @DJWOMS
🔥10👍2😁1💯1
Forwarded from AI для каждого | AISferaic
Media is too big
VIEW IN TELEGRAM
На GitHub набирает популярность Godogen проект с открытым исходным кодом, который фактически автоматизирует создание полноценных игр. Репозиторий уже собрал более 5 тысяч звезд.
Система берет на себя весь цикл производства: от проработки архитектуры и создания ресурсов до написания кода и запуска движка. Уникальность Godogen заключается в собственном цикле контроля качества, ИИ сам делает скриншоты запущенной игры, анализирует визуальные ошибки и тут же пытается их исправить.
Инструмент поддерживает движки Godot 4, Bevy и Babylon.js, работая на базе Claude Code или Codex. Внутри него зашиты справочники и документация для 850+ классов GDScript, которые подгружаются по мере необходимости. При этом весь процесс генерации можно запускать прямо на обычном домашнем компьютере.
Система берет на себя весь цикл производства: от проработки архитектуры и создания ресурсов до написания кода и запуска движка. Уникальность Godogen заключается в собственном цикле контроля качества, ИИ сам делает скриншоты запущенной игры, анализирует визуальные ошибки и тут же пытается их исправить.
Инструмент поддерживает движки Godot 4, Bevy и Babylon.js, работая на базе Claude Code или Codex. Внутри него зашиты справочники и документация для 850+ классов GDScript, которые подгружаются по мере необходимости. При этом весь процесс генерации можно запускать прямо на обычном домашнем компьютере.
👍8🔥3😁2🎉2💯1
Многие уверены, если купить команде доступ к нейросети, дальше люди сами разберутся и начнут работать быстрее. А через месяц оказывается, что всё идёт по-старому. Почему так выходит?
В новом выпуске подкаста я снова поговорил с основателями школы Стратоплан, Александром Орловым и Вячеславом Панкратовым. Те же, с кем в июле разбирали уход из кода в менеджмент.
Разобрали, почему инструмент, за который заплатили, лежит без дела.
Заодно поговорили про то, что делать, когда сотрудник говорит, что с нейросетью работает медленнее. Это саботаж или он говорит правду, и как это проверить не на одном человеке, а на контрольной группе.
А ещё обсудили, можно ли требовать использовать нейросеть так же, как требуют соблюдать регламент. Где заканчивается управление и начинается слежка, если переписку команды обрабатывать нейронкой.
Разговор получился про то, с чем возможно столкнётесь, когда принесёте нейросеть команде.
👉 Смотреть на YouTube
👉 Смотреть на Rutube
А у вас инструмент прижился или лежит купленным?
В новом выпуске подкаста я снова поговорил с основателями школы Стратоплан, Александром Орловым и Вячеславом Панкратовым. Те же, с кем в июле разбирали уход из кода в менеджмент.
Разобрали, почему инструмент, за который заплатили, лежит без дела.
Заодно поговорили про то, что делать, когда сотрудник говорит, что с нейросетью работает медленнее. Это саботаж или он говорит правду, и как это проверить не на одном человеке, а на контрольной группе.
А ещё обсудили, можно ли требовать использовать нейросеть так же, как требуют соблюдать регламент. Где заканчивается управление и начинается слежка, если переписку команды обрабатывать нейронкой.
Разговор получился про то, с чем возможно столкнётесь, когда принесёте нейросеть команде.
👉 Смотреть на YouTube
👉 Смотреть на Rutube
А у вас инструмент прижился или лежит купленным?
👍15🔥10🎉4💯2😁1
Forwarded from AI для каждого | AISferaic
Anthropic выкатила Claude Fable 5.1 и Mythos 5.1.
Fable 5.1, это новый флагман для всех пользователей. Mythos 5.1, это та же модель с ослабленными ограничениями по кибербезопасности и биологии, доступная только проверенным организациям.
По бенчмаркам апдейт заметный:
- Terminal-Bench 4.0: 55,8%, у Mythos 60,9%
- Terminal-Bench-Science: 52,6% против 24,7% у прошлой версии
- Humanity's Last Exam: 60,9% без инструментов и 65% с ними
- OSWorld 2.0: 77,9%
Цена прежняя, $10/$50 за миллион токенов, зато чтение кэша подешевело на 75%, до $0,25 за миллион. По оценке Anthropic, это снижает расходы примерно на 25% в обычных сценариях и до 45% в агентных.
На Low/Medium effort Fable 5.1 уже может выдавать результат уровня Fable 5 дешевле. В Claude Code по умолчанию High, в Cowork и claude.ai Medium.
Фильтры кибербезопасности срабатывают примерно на 60% реже, а модель разрешили использовать для поиска уязвимостей, но не для написания эксплойтов.
https://www.anthropic.com/claude-fable-and-mythos-5-1
Fable 5.1, это новый флагман для всех пользователей. Mythos 5.1, это та же модель с ослабленными ограничениями по кибербезопасности и биологии, доступная только проверенным организациям.
По бенчмаркам апдейт заметный:
- Terminal-Bench 4.0: 55,8%, у Mythos 60,9%
- Terminal-Bench-Science: 52,6% против 24,7% у прошлой версии
- Humanity's Last Exam: 60,9% без инструментов и 65% с ними
- OSWorld 2.0: 77,9%
Цена прежняя, $10/$50 за миллион токенов, зато чтение кэша подешевело на 75%, до $0,25 за миллион. По оценке Anthropic, это снижает расходы примерно на 25% в обычных сценариях и до 45% в агентных.
На Low/Medium effort Fable 5.1 уже может выдавать результат уровня Fable 5 дешевле. В Claude Code по умолчанию High, в Cowork и claude.ai Medium.
Фильтры кибербезопасности срабатывают примерно на 60% реже, а модель разрешили использовать для поиска уязвимостей, но не для написания эксплойтов.
https://www.anthropic.com/claude-fable-and-mythos-5-1
🔥5😁1🎉1💯1
Forwarded from AI для каждого | AISferaic
OpenAI представила GPT-6 Astra новый флагман, который, судя по первым цифрам, совершил серьезный скачок относительно прошлого поколения.
По бенчмаркам Astra демонстрирует впечатляющее превосходство: в Terminal-Bench 4.0 она набрала 57,7%, обойдя Fable 5.1 и значительно опередив GPT-5.6 Sol. В научных задачах Terminal-Bench Science отрыв еще заметнее 64,6% против 52,6% у ближайшего конкурента, а в тестах ARC-AGI-3 и ExploitBench модель показала практически абсолютный результат.
Стоимость в API составит 10 за миллион входных и 50 за миллион выходных токенов, а для тех, кому важна скорость, доступен режим Fast mode, работающий в 2,5 раза быстрее при двойном тарифе. Пока Astra доступна лишь ограниченному числу организаций, но в ближайшие дни OpenAI обещает открыть доступ всем платным пользователям.
Теперь остается дождаться массового релиза и первых независимых тестов.
По бенчмаркам Astra демонстрирует впечатляющее превосходство: в Terminal-Bench 4.0 она набрала 57,7%, обойдя Fable 5.1 и значительно опередив GPT-5.6 Sol. В научных задачах Terminal-Bench Science отрыв еще заметнее 64,6% против 52,6% у ближайшего конкурента, а в тестах ARC-AGI-3 и ExploitBench модель показала практически абсолютный результат.
Стоимость в API составит 10 за миллион входных и 50 за миллион выходных токенов, а для тех, кому важна скорость, доступен режим Fast mode, работающий в 2,5 раза быстрее при двойном тарифе. Пока Astra доступна лишь ограниченному числу организаций, но в ближайшие дни OpenAI обещает открыть доступ всем платным пользователям.
Теперь остается дождаться массового релиза и первых независимых тестов.
🔥8👍2🎉2
Открываю набор в новый сезон клуба по AI агентам. Стартуем 22 сентября.
Сезон устроен так: месяц на понимание базы (написан новый курс), дальше три месяца один общий проект на всех участников.
Первый месяц идёт без проекта, уроки курса по LangChain с дедлайнами, плюс теория на встречах. Теория отвечает на вопрос "что это такое и почему устроено именно так". Что занимает контекстное окно, откуда берётся цикл агента, чем субагент отличается от инструмента и т.д.
Со второго месяца начинается общий проект. В этом сезоне это агент археолог легаси.
Он отвечает на вопросы, которые возникают в любом незнакомом репозитории. Для этого обходит код, собирает граф зависимостей, а свой ответ проверяет запуском.
У него восемь слоёв, от обхода репозитория до оценки качества. В каждом из трёх блоков проекта вы берёте новый слой, а прежний передаёте другому участнику вместе с описанием, как он устроен и где грабли.
1. За сезон вы работает руками над трема слоями из восьми. Остальные пять видите на разборах и принимаете от коллег вместе с описанием, как они устроены.
2. Встречи по вторникам в 18:00 мск, каждую неделю. Разбор идёт вживую, поэтому сезон рассчитан на участие, а записи нужны, чтобы догнать пропущенное
3. Первый месяц идёт по курсу с дедлайнами и к началу проекта у всех есть база
Для участия нужен опыт разработки на python. Языковые модели знать не нужно.
Сезон длится с 22 сентября по 22 января, четыре месяца по четыре встречи, с пропуском недели на новогодние каникулы.
Стоимость 5 000 ₽ в месяц, оплата помесячная.
Созвоны в Телемосте, общение в Телеграм чате клуба. Беру 10-12 человек, отбор по анкете.
Анкету принимаю до 21 сентября, потом закрываю набор. Присылайте мне в личку, @DJWOMS.
Анкета:
1. Что вы уже умеете и на чём пишете: язык, фреймворки, сколько лет в разработке, работали ли с языковыми моделями и агентами.
2. Чего вы ждёте от клуба, своими словами
3. Чему конкретно хотите научиться за эти четыре месяца. Чем конкретнее ответ, тем точнее я распределю участников по проекту
4. Сможете ли участвовать по вторникам в 18:00 мск: да, нет, или могу не всегда, поясню
Если сомневаетесь, подходит ли вам, тоже напишите.
Сезон устроен так: месяц на понимание базы (написан новый курс), дальше три месяца один общий проект на всех участников.
Первый месяц идёт без проекта, уроки курса по LangChain с дедлайнами, плюс теория на встречах. Теория отвечает на вопрос "что это такое и почему устроено именно так". Что занимает контекстное окно, откуда берётся цикл агента, чем субагент отличается от инструмента и т.д.
Со второго месяца начинается общий проект. В этом сезоне это агент археолог легаси.
Он отвечает на вопросы, которые возникают в любом незнакомом репозитории. Для этого обходит код, собирает граф зависимостей, а свой ответ проверяет запуском.
У него восемь слоёв, от обхода репозитория до оценки качества. В каждом из трёх блоков проекта вы берёте новый слой, а прежний передаёте другому участнику вместе с описанием, как он устроен и где грабли.
1. За сезон вы работает руками над трема слоями из восьми. Остальные пять видите на разборах и принимаете от коллег вместе с описанием, как они устроены.
2. Встречи по вторникам в 18:00 мск, каждую неделю. Разбор идёт вживую, поэтому сезон рассчитан на участие, а записи нужны, чтобы догнать пропущенное
3. Первый месяц идёт по курсу с дедлайнами и к началу проекта у всех есть база
Для участия нужен опыт разработки на python. Языковые модели знать не нужно.
Сезон длится с 22 сентября по 22 января, четыре месяца по четыре встречи, с пропуском недели на новогодние каникулы.
Стоимость 5 000 ₽ в месяц, оплата помесячная.
Созвоны в Телемосте, общение в Телеграм чате клуба. Беру 10-12 человек, отбор по анкете.
Анкету принимаю до 21 сентября, потом закрываю набор. Присылайте мне в личку, @DJWOMS.
Анкета:
1. Что вы уже умеете и на чём пишете: язык, фреймворки, сколько лет в разработке, работали ли с языковыми моделями и агентами.
2. Чего вы ждёте от клуба, своими словами
3. Чему конкретно хотите научиться за эти четыре месяца. Чем конкретнее ответ, тем точнее я распределю участников по проекту
4. Сможете ли участвовать по вторникам в 18:00 мск: да, нет, или могу не всегда, поясню
Если сомневаетесь, подходит ли вам, тоже напишите.
🔥6👍2😁1🤔1🎉1💯1
Окно на миллион токенов не отменило работу с контекстом
Окна моделей выросли до миллиона токенов и появилось ощущение, что можно складывать в контекст всё подряд, места хватит.
Давайте разберёмся, почему это не сработало.
В июле 2025 года Chroma прогнала 18 моделей на входах разной длины: Claude, GPT, Gemini, Qwen. Chroma делает базу для векторного поиска, то есть интерес в этой теме у неё большой и читать замер стоит с поправкой на это.
Вывод, модели не держат одинаковое качество на разной длине входа. Причём деградация начинается задолго до физического предела окна и идёт она неровно, провалами.
У этого есть название, context rot, гниение контекста.
Anthropic в статье про контекст инжиниринг (context engineering) называет контекст конечным ресурсом с убывающей отдачей. Объясняет через бюджет внимания: он у модели ограничен, каждый новый токен его тратит и поэтому чем длиннее контекст, тем строже приходится отбирать, что в него класть.
Поэтому большое окно не заменило работу с контекстом. Оно отодвинуло точку, где отсутствие этой работы становится заметным и подняло цену ошибки, за лишнее в окне вы платите на каждом шаге, и платите не один раз.
Источники:
1) Замер Chroma "Context Rot: How Increasing Input Tokens Impacts LLM Performance"
2) Anthropic, "Effective context engineering for AI agents"
Окна моделей выросли до миллиона токенов и появилось ощущение, что можно складывать в контекст всё подряд, места хватит.
Давайте разберёмся, почему это не сработало.
В июле 2025 года Chroma прогнала 18 моделей на входах разной длины: Claude, GPT, Gemini, Qwen. Chroma делает базу для векторного поиска, то есть интерес в этой теме у неё большой и читать замер стоит с поправкой на это.
Вывод, модели не держат одинаковое качество на разной длине входа. Причём деградация начинается задолго до физического предела окна и идёт она неровно, провалами.
У этого есть название, context rot, гниение контекста.
Anthropic в статье про контекст инжиниринг (context engineering) называет контекст конечным ресурсом с убывающей отдачей. Объясняет через бюджет внимания: он у модели ограничен, каждый новый токен его тратит и поэтому чем длиннее контекст, тем строже приходится отбирать, что в него класть.
Поэтому большое окно не заменило работу с контекстом. Оно отодвинуло точку, где отсутствие этой работы становится заметным и подняло цену ошибки, за лишнее в окне вы платите на каждом шаге, и платите не один раз.
Источники:
1) Замер Chroma "Context Rot: How Increasing Input Tokens Impacts LLM Performance"
2) Anthropic, "Effective context engineering for AI agents"
❤🔥3👍3🎉1💯1
Давно хотел собрать себе Джарвиса, и вчера дособирал последнее, чего не хватало, управление голосом.
🔥8👍6❤🔥3😁2
Четыре способа сломать себе контекст
Когда агент начинает нести чушь, говорят что "модель слабая". Чаще дело в том, что накопилось у неё в контексте.
Есть разбор Дрю Бройнига (Drew Breunig), где эти вещи разложены по четырём видам. Он вышел 22 июня 2025 года и с тех пор эти четыре названия закрепились, в разборах про агентов я встречаю именно их.
1) Отравление. В контекст попала ошибка или галлюцинация, и агент дальше на неё ссылается как на факт. Пример из разбора: агент на Gemini, игравший в Pokemon, выдумал несуществующее состояние игры и дальше добивался невозможной цели.
2) Отвлечение. Контекст разросся настолько, что модель залипает на истории и перестаёт опираться на то, чему училась. Тот же агент после 100 000 токенов начал повторять свои прошлые действия вместо новых стратегий.
3) Путаница. В контексте лежит лишнее и модель всё равно тащит это в ответ. Бройниг ссылается тут на Berkeley Function-Calling Leaderboard: при большом наборе подключённых инструментов модели иногда вызывают не тот.
4) Столкновение. Новая информация противоречит тому, что уже лежало в промпте. Бройниг ссылается тут на совместную работу Microsoft и Salesforce: качество падает на 39%, когда задачу выдают по частям за несколько шагов вместо сразу целой.
Четвёртый пункт неприятнее остальных, потому что так работает обычный диалог. Вы уточняете задачу по ходу дела, а агент тащит за собой все прежние версии условия и путается между ними.
Если разговор с агентом ушёл в сторону, дописывать в него ещё одно уточнение, это чаще всего проигрышный ход. Надёжнее собрать условие заново и начать с чистого контекста, вы теряете накопленную историю, зато возвращаете себе управляемое окно.
Источник: Drew Breunig, "How Long Contexts Fail"
Когда агент начинает нести чушь, говорят что "модель слабая". Чаще дело в том, что накопилось у неё в контексте.
Есть разбор Дрю Бройнига (Drew Breunig), где эти вещи разложены по четырём видам. Он вышел 22 июня 2025 года и с тех пор эти четыре названия закрепились, в разборах про агентов я встречаю именно их.
1) Отравление. В контекст попала ошибка или галлюцинация, и агент дальше на неё ссылается как на факт. Пример из разбора: агент на Gemini, игравший в Pokemon, выдумал несуществующее состояние игры и дальше добивался невозможной цели.
2) Отвлечение. Контекст разросся настолько, что модель залипает на истории и перестаёт опираться на то, чему училась. Тот же агент после 100 000 токенов начал повторять свои прошлые действия вместо новых стратегий.
3) Путаница. В контексте лежит лишнее и модель всё равно тащит это в ответ. Бройниг ссылается тут на Berkeley Function-Calling Leaderboard: при большом наборе подключённых инструментов модели иногда вызывают не тот.
4) Столкновение. Новая информация противоречит тому, что уже лежало в промпте. Бройниг ссылается тут на совместную работу Microsoft и Salesforce: качество падает на 39%, когда задачу выдают по частям за несколько шагов вместо сразу целой.
Четвёртый пункт неприятнее остальных, потому что так работает обычный диалог. Вы уточняете задачу по ходу дела, а агент тащит за собой все прежние версии условия и путается между ними.
Если разговор с агентом ушёл в сторону, дописывать в него ещё одно уточнение, это чаще всего проигрышный ход. Надёжнее собрать условие заново и начать с чистого контекста, вы теряете накопленную историю, зато возвращаете себе управляемое окно.
Источник: Drew Breunig, "How Long Contexts Fail"
👍7🔥2🎉1💯1
Три приёма как исправить разросшийся контекст
В прошлый раз разобрали, как ломается контекст. Теперь про то, чем это исправляют.
В сентябре 2025 года Anthropic описала три приёма для долгих задач в статье про контекст инжиниринг (context engineering). Те же три вы увидите в обвязках, которыми пользуетесь: в Claude Agent SDK и в deep agents у LangChain.
1) Сжатие истории. Когда контекст подходит к пределу, старые сообщения заменяются на сводку: что была за задача, что уже сделано, что дальше. Разговор продолжается, но история в окне занимает столько, сколько занимает сводка, вся переписка туда больше не идёт.
2) Внешние заметки. Агент пишет выводы в файлы и читает их, когда нужно. Память находится вне контекстного окна и переживает и сжатие, и перезапуск сессии.
3) Изоляция через субагентов. Тяжёлая работа уходит отдельному агенту со своим чистым окном, а наверх возвращается только результат. Вызовы инструментов остаются в окне субагента, главный агент получает сжатый итог. Цену приёма Anthropic называет в другой своей статье, про мультиагентные схемы (январь 2026): такие схемы тратят в 3-10 раз больше токенов, чем один агент, из-за дублирования контекста и накладных расходов на координацию.
Это уточняет вывод первого поста, за лишнее в окне вы платите на каждом шаге и качеством, и деньгами. А изоляция возвращает качество, но поднимает счёт. Поэтому третий приём берут ради того, чтобы главный агент дожил до конца задачи.
Вот пороги из документации LangChain по deep agents.
1) Результат вызова инструмента больше 20 000 токенов (порог по умолчанию) в историю целиком не кладётся. Он уходит в файл, а в контексте остаётся путь и первые десять строк.
2) Сжатие включается по умолчанию на 85% от max_input_tokens модели, свежими остаются последние 10% токенов.
3) Если профиля модели нет, работает запасной порог 170 000 токенов и шесть последних сообщений.
Смотрите, где стоят пороги, они заметно раньше предела окна. Это тот же вывод, что в первом посте, только уже зашитый в код обвязки.
Пороги отвечают на вопрос, когда чистить. Второй вопрос, что происходит с вычищенным: оно либо переезжает туда, откуда его можно достать, либо снимается.
Снятие, это частный случай первого приёма: Anthropic называет вычистку старых результатов вызовов инструментов самой безопасной формой сжатия, потому что своё дело эти результаты уже сделали и пересказывать их незачем. Плохо не удаление само по себе. Плохо, когда из окна пропадает то, что понадобится дальше и достать это уже неоткуда.
Источники:
1) Anthropic, "Effective context engineering for AI agents"
2) Anthropic, "When to use multi-agent systems and when not to use"
3) Документация LangChain, пороги deep agents
В прошлый раз разобрали, как ломается контекст. Теперь про то, чем это исправляют.
В сентябре 2025 года Anthropic описала три приёма для долгих задач в статье про контекст инжиниринг (context engineering). Те же три вы увидите в обвязках, которыми пользуетесь: в Claude Agent SDK и в deep agents у LangChain.
1) Сжатие истории. Когда контекст подходит к пределу, старые сообщения заменяются на сводку: что была за задача, что уже сделано, что дальше. Разговор продолжается, но история в окне занимает столько, сколько занимает сводка, вся переписка туда больше не идёт.
2) Внешние заметки. Агент пишет выводы в файлы и читает их, когда нужно. Память находится вне контекстного окна и переживает и сжатие, и перезапуск сессии.
3) Изоляция через субагентов. Тяжёлая работа уходит отдельному агенту со своим чистым окном, а наверх возвращается только результат. Вызовы инструментов остаются в окне субагента, главный агент получает сжатый итог. Цену приёма Anthropic называет в другой своей статье, про мультиагентные схемы (январь 2026): такие схемы тратят в 3-10 раз больше токенов, чем один агент, из-за дублирования контекста и накладных расходов на координацию.
Это уточняет вывод первого поста, за лишнее в окне вы платите на каждом шаге и качеством, и деньгами. А изоляция возвращает качество, но поднимает счёт. Поэтому третий приём берут ради того, чтобы главный агент дожил до конца задачи.
Вот пороги из документации LangChain по deep agents.
1) Результат вызова инструмента больше 20 000 токенов (порог по умолчанию) в историю целиком не кладётся. Он уходит в файл, а в контексте остаётся путь и первые десять строк.
2) Сжатие включается по умолчанию на 85% от max_input_tokens модели, свежими остаются последние 10% токенов.
3) Если профиля модели нет, работает запасной порог 170 000 токенов и шесть последних сообщений.
Смотрите, где стоят пороги, они заметно раньше предела окна. Это тот же вывод, что в первом посте, только уже зашитый в код обвязки.
Пороги отвечают на вопрос, когда чистить. Второй вопрос, что происходит с вычищенным: оно либо переезжает туда, откуда его можно достать, либо снимается.
Снятие, это частный случай первого приёма: Anthropic называет вычистку старых результатов вызовов инструментов самой безопасной формой сжатия, потому что своё дело эти результаты уже сделали и пересказывать их незачем. Плохо не удаление само по себе. Плохо, когда из окна пропадает то, что понадобится дальше и достать это уже неоткуда.
Источники:
1) Anthropic, "Effective context engineering for AI agents"
2) Anthropic, "When to use multi-agent systems and when not to use"
3) Документация LangChain, пороги deep agents
🔥5👍3😁1🎉1
Спор года: сжимать историю или нет
Тут как всегда есть НО. Сжатие истории выглядит очевидным решением, но единого мнения в отрасли нет.
Позиция большинства людей, сжимать и желательно не дожидаясь предела. В прошлых постах писал, что качество проседает раньше, чем кончается окно, поэтому чем короче история, тем лучше рассуждение модели.
В августе 2026 года, Луи Бушар написал, что у себя они сжимать перестали, потому что есть кэш промпта.
Поясню, о чём речь. Провайдеры кэшируют начало запроса и повторно отправленные токены стоят дешевле. Размер скидки у каждого провайдера разный.
Пока вы дописываете к истории новые сообщения, вся её прежняя часть идёт по цене кэша. Как только вы историю собрали в сводку, начало запроса изменилось, кэш сбросился и следующий запрос оплачивается полностью.
Получается, что сжатие экономит место в окне, а кэш экономит деньги, и одно ломает другое.
Автор статьи пишет, что идёт против общего мнения и его довод не всегда работает. Кэш не вечен и срок жизни у каждого провайдера разный. Выигрыш есть только при плотной работе без пауз. На редких запросах кэш всё равно протухнет и держать полную историю окажется дороже.
Прежде чем настраивать сжатие, посмотрите, какой у вас режим работы. Сессия без длинных пауз, кэш важнее сжатия. Если работа дольше, чем живёт кэш, сжимайте. Платить полную ставку за историю, которая всё равно не в кэше, смысла нет.
Источник: Context Engineering in 2026: Why We Stopped Compacting Our Agent's Context
Тут как всегда есть НО. Сжатие истории выглядит очевидным решением, но единого мнения в отрасли нет.
Позиция большинства людей, сжимать и желательно не дожидаясь предела. В прошлых постах писал, что качество проседает раньше, чем кончается окно, поэтому чем короче история, тем лучше рассуждение модели.
В августе 2026 года, Луи Бушар написал, что у себя они сжимать перестали, потому что есть кэш промпта.
Поясню, о чём речь. Провайдеры кэшируют начало запроса и повторно отправленные токены стоят дешевле. Размер скидки у каждого провайдера разный.
Пока вы дописываете к истории новые сообщения, вся её прежняя часть идёт по цене кэша. Как только вы историю собрали в сводку, начало запроса изменилось, кэш сбросился и следующий запрос оплачивается полностью.
Получается, что сжатие экономит место в окне, а кэш экономит деньги, и одно ломает другое.
Автор статьи пишет, что идёт против общего мнения и его довод не всегда работает. Кэш не вечен и срок жизни у каждого провайдера разный. Выигрыш есть только при плотной работе без пауз. На редких запросах кэш всё равно протухнет и держать полную историю окажется дороже.
Прежде чем настраивать сжатие, посмотрите, какой у вас режим работы. Сессия без длинных пауз, кэш важнее сжатия. Если работа дольше, чем живёт кэш, сжимайте. Платить полную ставку за историю, которая всё равно не в кэше, смысла нет.
Источник: Context Engineering in 2026: Why We Stopped Compacting Our Agent's Context
❤🔥4😁2💯2👍1🔥1
Не грузите агенту всё заранее
Есть подход, который кажется разумным, а в длинной сессии работает против вас. Собрать заранее всё, что может пригодиться и вывалить агенту в контекст на старте. Всю документацию, все инструкции, описания всех подключённых инструментов.
Отрасль от этого подхода отходи.
Подгружайте по требованию. Агент получает способ достать данные: список файлов, поиск, вызов инструмента. Что нужно для текущего шага, то он и читает.
Это называется прогрессивным раскрытием и работает в скиллах. У каждого скилла есть короткая шапка с названием и описанием, и на старте агент читает только её. Полный текст скилла подтягивается тогда, когда агент решил, что он относится к задаче.
В промпте держите только то, что нужно в каждой задаче. Соглашения команды, правила проекта, стиль ответов. Всё остальное лежит рядом и подгружается по требованию.
Но это лишние шаги: агент сначала ищет, потом читает, потом делает. Вы меняете токены на задержку и в коротких задачах это может не окупиться.
Источники:
1) Anthropic, Effective context engineering for AI agents
2) Документация Anthropic про Agent Skills и прогрессивное раскрытие
Есть подход, который кажется разумным, а в длинной сессии работает против вас. Собрать заранее всё, что может пригодиться и вывалить агенту в контекст на старте. Всю документацию, все инструкции, описания всех подключённых инструментов.
Отрасль от этого подхода отходи.
Подгружайте по требованию. Агент получает способ достать данные: список файлов, поиск, вызов инструмента. Что нужно для текущего шага, то он и читает.
Это называется прогрессивным раскрытием и работает в скиллах. У каждого скилла есть короткая шапка с названием и описанием, и на старте агент читает только её. Полный текст скилла подтягивается тогда, когда агент решил, что он относится к задаче.
В промпте держите только то, что нужно в каждой задаче. Соглашения команды, правила проекта, стиль ответов. Всё остальное лежит рядом и подгружается по требованию.
Но это лишние шаги: агент сначала ищет, потом читает, потом делает. Вы меняете токены на задержку и в коротких задачах это может не окупиться.
Источники:
1) Anthropic, Effective context engineering for AI agents
2) Документация Anthropic про Agent Skills и прогрессивное раскрытие
❤🔥4👍3😁2🎉1
Сколько тебе лет?
Anonymous Poll
2%
До 15
1%
От 16 до 18
13%
От 19 до 25
12%
От 26 до 30
35%
От 31 до 40
36%
Больше 41
😁3❤🔥2👍1🎉1
Please open Telegram to view this post
VIEW IN TELEGRAM
👍3❤🔥2😁2
Какой контент хочешь видеть на канале?
Anonymous Poll
52%
Бэкенд и веб-разработка
52%
Архитектура и качество кода
25%
Карьера разработчика: собесы, зарплата, повышение грейда
23%
Управление в IT: Tech Lead, CTO, COO
66%
Внедрение AI в работу: Claude Code, Cursor и др.
45%
AI Deep Dive: RAG, MCP, и пр.
64%
Новые AI инструменты, эксперименты и мои кейсы
❤🔥3💯3🎉2