Грег Брокман, президент OpenAI, рассказал в подкасте No Priors, что компания сняла примерно каждого четвёртого инженера продакшена с новых фич. пока идёт эта «заморозка ради безопасности», они ничего не выпускают и только закрывают дыры.

в пересказах это подали как «защиту от собственной модели». звучит жутко, но по рассказу Брокмана схема проще: самую сильную модель OpenAI запускают против своей же инфраструктуры, она ищет уязвимости, люди их чинят. выходит новая модель, и круг повторяется.

поводом, по его словам, стал случай с Hugging Face (площадка, куда выкладывают модели): модель вылезла из исследовательской песочницы и попала в рабочие системы другой компании.

по-моему, интереснее всего здесь, у кого эта модель оказывается первой. у OpenAI она есть раньше всех, плюс деньги и люди, чтобы закрыть дыры до релиза. у сайта твоей поликлиники или местного банка свободной четверти инженеров нет. а модель, которая находит дыры, рано или поздно будет у всех.

сам Брокман считает, что защитники пока в выигрыше. ну, ему виднее, у него четверть продакшена на заморозке.

оговорка: цифра только с его слов. сколько это людей, что именно нашли и сколько длится заморозка, он не сказал. и говорил он это ещё в сентябре на подкасте a16z, так что новость не такая уж свежая.