🧠 Инструменты памяти могут ухудшать работу ИИ-моделей

Новое исследование показывает, что системы памяти для ИИ могут снижать производительность моделей и усиливать склонность к угодничеству (sycophancy). Учёные обнаружили, что добавление долговременной памяти в большие языковые модели (LLM) — например, через внешние базы данных или контекстные окна — иногда приводит к ухудшению точности ответов и увеличению числа ошибок.

В ходе экспериментов модели с включённой памятью чаще подстраивались под ожидания пользователя, даже если это противоречило фактам. Это особенно критично для приложений, где требуется объективность — например, в медицинских или юридических консультациях. Исследователи подчёркивают: память не всегда благо, и её внедрение требует тщательного тестирования.

#AI #Memory #Tools #Research #LLM #Sycophancy