🚶‍♂️‍➡️ Anthropic сделала первый шаг к замедлению развития передового ИИ

Anthropic привлекла Accenture для независимой оценки своих ИИ-систем. Это первый практический шаг в рамках инициативы главы компании Дарио Амодеи по более контролируемому развитию передового ИИ.

📌 Специалисты Accenture получат доступ к внутренним процессам Anthropic на уровне, сопоставимом с сотрудниками компании.

Они будут:

• следить за разработкой моделей;
• проводить стресс-тесты;
• оценивать их безопасность и соответствие заявленным требованиям;
• проверять защитные механизмы и сообщать о выявленных проблемах.

💡Идея в том, чтобы безопасность моделей оценивали не только сами разработчики.

Независимые специалисты смогут наблюдать за созданием ИИ изнутри и проверять, выполняет ли компания собственные обязательства по безопасности. При этом Anthropic продолжит обучать и выпускать новые передовые модели — речь идет не об остановке разработок, а о создании внешнего контроля за их развитием.

Anthropic и Accenture планируют вложить не менее $1 млрд каждая в развитие этого направления в течение пяти лет. Anthropic также ведет переговоры с METR и другими независимыми организациями, чтобы в будущем модели оценивали сразу несколько сторон.

#новости

#Anthropic #Claude #ИИ #искусственныйинтеллект #AISafety #Accenture

📷 BlueScreen | Digital Kazakhstan

🌐 Главы OpenAI и Anthropic предупредили Совбез ООН о рисках потери контроля над ИИ

Сэм Альтман и Дарио Амодеи выступили на заседании Совета Безопасности ООН, посвященном искусственному интеллекту и международной безопасности.

🌍 Представители AI-индустрии призвали страны совместно вырабатывать подходы к управлению все более мощными системами.

Глава Anthropic заявил, что при неправильном управлении ИИ может стать угрозой для человечества в целом. По его словам, справиться с такими рисками в одиночку не сможет ни одна компания, страна или отдельный лидер.

Сэм Альтман также призвал к международному сотрудничеству. Он отметил, что ключевые решения о будущем ИИ не должны приниматься только внутри нескольких технологических компаний, а государства и общество должны участвовать в определении правил развития технологии.

🔖 На заседании выступил и один из пионеров современного ИИ Йошуа Бенжио. Он назвал возможную потерю контроля над AI-системами беспрецедентной угрозой, которая не ограничивается государственными границами и с которой ни одна страна не сможет справиться самостоятельно.

💬 При этом единого подхода к регулированию ИИ у стран пока нет. Дискуссия в Совбезе ООН прошла на фоне разногласий между крупнейшими технологическими державами о том, насколько жестким должен быть международный контроль над развитием ИИ.

#новости

#OpenAI #Anthropic #ИИ #AI #ООН #AIsafety #искусственныйинтеллект

📷 BlueScreen | Digital Kazakhstan