🧑‍🔬 ИИ-системы теряют инструкции пользователя при сжатии контекста

Исследователи из Penn State выяснили, что при автоматическом сжатии истории диалога модели теряют большинство пользовательских ограничений. В среднем после «компакции» сохраняется лишь 17% таких правил, как «подтверждай перед изменением» или «не используй моё имя».

Проблема в том, что системы сжатия оптимизированы под сохранение задачи и текущего состояния, а временные условия пользователя отбрасываются. Из-за этого агент может начать отправлять письма без согласия, раскрывать данные или пропускать обязательные проверки. Авторы представили набор COMPINT и протестировали популярные компакторы: большинство справляются хуже, чем работа без сжатия, а даже специальный промпт для сохранения ограничений даёт меньше 40% удержания.

Решение — небольшой модуль на базе Qwen3.5-9B, который сканирует входные сообщения, выделяет сессионные ограничения и добавляет их отдельным списком к итоговой сводке. Он не требует дообучения и изменений в системе. Удержание правил — 95,6% для траекторий агента, 95,1% для долгих исследовательских задач и 90,3% для многоходовых чатов. Код и набор COMPINT доступны на GitHub.

#AI #Context #Infromation #Research #LLM #Tech #COMPINT