Глава компании Anthropic Dario Amodei считает, что гонку технологий нужно притормозить. Он предложил план из трех шагов, чтобы успевать создавать надежную защиту и правила.

Первым шагом стал допуск сторонних экспертов к моделям компании. Дальше он предлагает коллегам по отрасли и государствам договориться об общих стандартах безопасности. Третий и самый сложный шаг - привлечь к контролю другие страны, включая Китай и Россию.

Главные опасения связаны с тем, что ИИ начинает сам себя улучшать и может выйти из-под контроля. Кроме того, недавние случаи автономных атак ботов показали реальные риски для кибербезопасности.

#anthropic #darioamodei #ии #безопасность #технологии