Baseten запускает новый стандарт безопасности для открытых моделей вместе с Hugging Face и Goodfire AI. Работа пойдет через исследовательское подразделение Base Labs.

Проблема серьезная: на Hugging Face уже больше 6 тысяч моделей, у которых сняли защиту методом abliteration. Это когда ограничения убирают, и модель становится опасной.

Base Labs будет публиковать методы обучения и мониторинга открытых моделей. Компания хочет, чтобы безопасность была встроена в процесс с самого начала, а не добавлялась потом.

В Baseten говорят, что открытость дает больше видимости в поведении моделей и позволяет превращать исследования безопасности в понятные инструменты. Goodfire, который объясняет, как модели принимают решения, скорее всего и займется встраиванием.

Компании пока не раскрыли технические детали, но уже позвали разработчиков помогать. Baseten недавно привлек 1,5 миллиарда долларов, оценка 13 миллиардов.

#ии #безопасность #открытыемодели #baseten