😭 Исследователи Microsoft: ИИ расширяет человеческий интеллект, а не заменяет его

Microsoft Research опубликовала работу «The Origins of Artificial Intelligence in Natural Intelligence», в которой предлагает новый взгляд на природу современных ИИ-систем. Авторы утверждают: языковые модели работают не потому, что становятся разумными, а потому, что опираются на структуры, уже заложенные в человеческом познании и языке.

В основе подхода — феноменология Эдмунда Гуссерля. Человек воспринимает мир не как поток сырых данных, а как устойчивые объекты, разворачивающиеся во времени. Язык фиксирует эти структуры в концептуальной форме. LLM обучаются на статистических связях внутри этого языкового мира — отсюда их беглость и широта знаний. Но именно отсутствие «живого опыта» объясняет галлюцинации и провалы в композиционном рассуждении: модель продолжает паттерны текста, но не сверяется с реальностью.

Исследование объясняет «композиционный разрыв» — когда модели отлично справляются со знакомыми схемами, но ломаются при необходимости комбинировать концепции по-новому. Это не просто инженерное ограничение, а структурная граница: ИИ не порождает новые смыслы, а лишь экстраполирует осаждённые в языке связи.

Отдельно переосмысляется безопасность ИИ. Авторы считают, что риски возникают не из-за «злонамеренного сверхразума», а из-за способности системы правдоподобно продолжать рассуждения без ответственности перед миром. Управление ИИ — это системная инженерная и управленческая задача, а не борьба с «восставшими машинами».

#Ai #Microsoft #Tech #Intellect #LLM