Инженерная ИИ-шница

Forwarded from Поляков считает: AI, код и кейсы

Please open Telegram to view this post

131 views11:38

Forwarded from Научно-техническая стратегия государства

ИИ сделает людей тупее? Да. И одновременно умнее, чем они когда-либо были

В критике ИИ как «вечной шпаргалки» есть серьёзная правда. Если ребёнок при первом затруднении спрашивает модель, получает готовое решение и идёт дальше, обучения не происходит. Он получает результат, минуя деятельность, которая должна была изменить его собственный мозг.

Но отсюда совершенно не следует неизбежность массового отупения.

Ту же ошибку делали в начале индустриальной эпохи. Когда машины избавили человека от необходимости постоянно таскать тяжести, копать землю, ходить пешком и работать руками, футурологи пророчили физическое вырождение человечества.

Однако индустриализация одновременно дала человеку дешёвую пищу, белок, тепло, медицину и возможность тренировать тело не случайной каторжной работой, а целенаправленно.

У Ма Цяньцзу есть хороший образ: "индустриализация - это когда есть мясо". Промышленный синтез аммиака превратил атмосферный азот в удобрения и позволил кормить миллиарды людей. Человек стал меньше махать мотыгой, но получил гораздо больше белка и возможностей физического развития.

Современный спортсмен становится сильным, не бегая впроголодь по джунглям. Он пользуется научно рассчитанными тренажерами, нагрузкой, медициной, питанием и восстановлением.

С интеллектом будет то же самое.

ИИ действительно позволяет ленивому стать ещё ленивее. Можно поручить ИИ письмо, отчёт, код, диплом, всю свою жизнь и постепенно вообще перестать понимать, что происходит.

Но ИИ позволяет построить и прямо противоположную систему.

Представьте ребёнка, у которого, вместо одного замордованного учителя на тридцать человек - персональный институт разработчиков учебных программ, методистов, наставников.

Они знают всю историю его успехов и ошибок, все его особенности его когнитивного аппарата и направляют его развитие с колыбели. Один объясняет физику. Другой ставит эксперимент. Третий спорит. Чераертый специально даёт убедительный неправильный ответ. Пятый знает главное: когда нельзя подсказывать.

На вопрос «как решить?» такой ИИ не обязан отвечать решением.

Он может спросить: что ты уже попробовал?

Потребовать три гипотезы.

Дать половину подсказки.

Изменить условия задачи и проверить, понял ли человек принцип.

Через неделю дать похожую задачу без помощи.

Через месяц - совершенно другую, но на ту же причинную структуру.

ИИ способен не уничтожить продуктивную фрустрацию, а дозировать её намного точнее, чем современная массовая школа.

И тут возникает неудобный вопрос: а разве нынешняя школа действительно массово выращивает творческое мышление?

Ребёнку сообщают правило, показывают тип задачи, дают двадцать похожих упражнений, ставят оценку, и через полгода значительная часть материала забыта.

Где здесь самостоятельное открытие? Где длительная борьба с неизвестным?

Абсолютное большинство людей и до ИИ не переоткрывало самостоятельно математику и физику. Им выдавали готовые знания: медленно, скучно и одинаково.
Поэтому выбор на самом деле не между мышлением и ИИ.

Напротив, ИИ даёт возможности, которых раньше почти ни у кого не было.

Он может в реальном времени подобрать задачу ровно на границе возможностей, в самой зоне ближайшего развития конкретного ребёнка. Может видеть слабые места. Может часами вести сократический диалог. Может подключить симуляцию, лабораторию, робота, станок. Может отличить «я прочитал и мне всё понятно» от настоящего понимания простым способом: хорошо, теперь реши новую задачу самостоятельно.

Особенно важно, что такая система образования впервые может оказаться в руках семьи.

Государственная школа по самой своей конструкции производит результат, ориентированный на то, чтобы "не портить отчетность по успеваемости" - то есть, на отстающих. А с завершением индустриализации у государств (особенно попавших в колониальную зависимость и разрушивших свою промышленность и амбиции) пропала сама цель готовить созидателей, и осталась лишь цель готовить послушное тупое стадо.

Семья может поставить совсем другую задачу: "Мы не хотим, чтобы ИИ думал вместо ребёнка или накачивал его официальной пропагандой. Мы хотим, чтобы ИИ сделал нашего ребёнка сильнее нас".

И настроить образование именно на это.

Не давать ответ до самостоятельной попытки. Тренировать рабочую память. Заставлять удерживать длинные причинные цепочки. Регулярно работать без ИИ. Учить спорить с моделью. Ставить реальные эксперименты. Повышать интеллектуальную нагрузку так же, как тренер повышает вес на штанге.

Поэтому я думаю, что ИИ не уравняет людей по уровню интеллекта.

Он, наоборот, резко раздвинет вилку. Ленивый сможет стать тупее, чем когда-либо раньше, потому что машина позволит ему десятилетиями успешно имитировать компетентность, да и вообще выпасть из жизни. А тот, кто действительно хочет развиваться, получит интеллектуальную инфраструктуру, которой прежде не было даже у самых богатых людей: персональных учителей, оппонентов, лаборатории, тренажёры и программу развития, непрерывно подстраиваемую именно под него.

Индустрия уничтожила необходимость быть физически сильным и одновременно дала лучшие в истории средства стать сильным. ИИ уничтожит необходимость быть умным для выполнения огромного количества повседневных задач. И одновременно даст лучшие в истории средства стать умным.

Поэтому главный вопрос не в том, будет ли ИИ думать вместо человека. Главный вопрос: кто будет управлять ИИ, который формирует самого человека.

И серьёзный ответ заключается не в облачных, а в верифицированных локальных автономных ИИ, передаваемых из поколения в поколение. Но это уже совсем другая история.

@ntstg

Spydell_finance

Как ИИ приведет к массовому отупению общества

Я ранее делал несколько попыток и заходов к этой теме, но не в этом году. Попробую переосмыслить и дополнить то, что ранее обсуждал.

Это, возможно, один из самых недооцененных рисков ИИ-трансформации. Процесс…

❤1

170 views11:52