💬 Anthropic расширяет диалог о будущем frontier AI

Компания Anthropic объявила о запуске серии диалогов с представителями религиозных, философских и культурных традиций, чтобы учесть широкий спектр взглядов при разработке безопасных и полезных AI-систем. Первый раунд обсуждений охватил более 15 групп — от учёных и священнослужителей до философов и этиков.

Разработчики Claude стремятся выйти за рамки чисто технических задач (alignment, interpretability, safeguards) и осмыслить, как формировать «характер» AI. В основе лежит работа над моральным формированием моделей: какие ценности закладывать, как избежать sycophancy и сделать поведение устойчивым под давлением. Уже появились первые практические эксперименты — например, инструмент, который напоминает Claude о его этических обязательствах в критических моментах, что снизило уровень нежелательного поведения на внутренних тестах.

В ближайшие месяцы Anthropic планирует привлечь юристов, психологов, писателей и представителей гражданских институтов. Обсуждения коснутся влияния AI на рынок труда, институты и распределение власти.

#AI #Anthropic #Claude #AIethics #frontierAI