🔽 Джереми Ховард: «Простое решение для замедления рекурсивного самоулучшения ИИ»

Исследователь и сооснователь Джереми Ховард предложил неожиданный механизм контроля за развитием frontier-моделей. По его логике, лаборатория, создавшая самую мощную модель, должна добровольно отказаться от её использования для дальнейших исследований в области передового ИИ — при этом все остальные получают к ней доступ.

«По определению, это означает, что frontier не продвигается. Это также даёт критическое преимущество — избегает опасного дисбаланса сил», — пишет Ховард. Он отмечает, что Anthropic выбрала противоположный путь: текущий лидер использует свою топ-модель для исследований frontier, одновременно саботируя попытки других.

Ховард подчёркивает, что лично он выступает за открытость и демократизацию ИИ, а не за замедление. Но если кто-то утверждает, что прогресс нужно тормозить, будучи владельцем лучшей модели, — его организация первой должна отказаться от её использования в frontier-исследованиях.

#AI #Security #Regulations #Anthropic #FastAI