В MIT научили LLM самостоятельно формулировать и запоминать новые знания

Исследователи из MIT создали метод SEAL, который позволяет языковым моделям постоянно обновлять свои веса и усваивать новую информацию.

Как у студента со шпаргалками: LLM генерирует несколько вариантов синтетических данных из входящего запроса, тестирует каждый и выбирает лучший через reinforcement learning. Потом запоминает его, обновляя внутренние параметры.

Цифры:
- +15% точность на вопросах-ответах
- +50% на задачах обучения навыкам
- маленькая модель обогнала GPT-4.1 (46.3% точность)

Модель сама выбирает скорость обучения и стратегию оптимизации. Проблема одна — catastrophic forgetting: усваивая новое, забывает старое.

Limitations
While SEAL enables lasting adaptation through self-generated weight updates, our continual learning experiment reveals that repeated self-edits can lead to catastrophic forgetting—performance on earlier tasks degrades as new updates are applied.

Пока что работает в исследовательских условиях, но потенциал для самообучающихся агентов очевиден.

paper

Студент, который сам себе делает шпаргалки и сам решает, как их учить. Осталось научить не забывать экзамены прошлого семестра.

#SEAL #MIT #SelfAdapting #саморазвитие #эволюция
------
@tsingular