🚪 Глава отдела безопасности OpenAI покидает компанию
Руководитель направления безопасности OpenAI объявил об уходе из компании. Это очередная кадровая потеря в команде, отвечающей за безопасность и этичное развитие ИИ. Подробности о причинах ухода и дальнейших планах топ-менеджера пока не раскрываются.
Уход главы безопасности происходит на фоне продолжающихся дискуссий внутри OpenAI и в индустрии в целом о балансе между скоростью разработки мощных моделей и необходимостью строгих мер предосторожности. Ранее компания уже сталкивалась с критикой и утечками кадров из команд, занимающихся alignment и safety.
Для сообщества разработчиков и пользователей это сигнал о возможных изменениях в приоритетах OpenAI в области безопасности. Ожидается, что компания в ближайшее время сделает официальное заявление о назначении нового руководителя направления.
#Safety #AI #OpenAI #Cybersecurity #Staff
Руководитель направления безопасности OpenAI объявил об уходе из компании. Это очередная кадровая потеря в команде, отвечающей за безопасность и этичное развитие ИИ. Подробности о причинах ухода и дальнейших планах топ-менеджера пока не раскрываются.
Уход главы безопасности происходит на фоне продолжающихся дискуссий внутри OpenAI и в индустрии в целом о балансе между скоростью разработки мощных моделей и необходимостью строгих мер предосторожности. Ранее компания уже сталкивалась с критикой и утечками кадров из команд, занимающихся alignment и safety.
Для сообщества разработчиков и пользователей это сигнал о возможных изменениях в приоритетах OpenAI в области безопасности. Ожидается, что компания в ближайшее время сделает официальное заявление о назначении нового руководителя направления.
#Safety #AI #OpenAI #Cybersecurity #Staff
⚡1💯1
Кадровая чехарда в AI-индустрии продолжается: Barret Zoph, который год назад покинул Thinking Machines Lab ради OpenAI, теперь работает в Google. Об этом сообщает TechCrunch.
Zoph — известный AI-исследователь и один из сооснователей Thinking Machines Lab, где также была Mira Murati. В стартапе он занимал пост CTO, после чего перешёл в OpenAI. Теперь его карьерный путь привёл в Google — ещё одного гиганта в борьбе за лучших специалистов по искусственному интеллекту.
Переходы топ-экспертов между ведущими лабораториями усиливаются: компании переманивают исследователей, чтобы укрепить позиции в гонке за лидерство в разработке больших языковых моделей.
#AI #Google #OpenAI #ThinkingMachines #Staff
Please open Telegram to view this post
VIEW IN TELEGRAM
👏1👌1
OpenAI рассталась с тремя исследователями, которых подозревают в передаче конфиденциальной информации внешней организации по безопасности ИИ. Об этом сообщает The Wall Street Journal. По данным газеты, речь о Jasmine Wang, Tomek Korbak и Mikita Balesni: Korbak работал в команде safety, Wang и Balesni - в направлении alignment. Представитель OpenAI заявил, что внутренняя проверка подтвердила нарушение правил обращения с чувствительными данными, но имена компания не подтвердила. Что именно и куда ушло - неизвестно.
Отдельно отмечается роль Korbak: он был техническим контактным лицом OpenAI для METR и Redwood Research - групп, изучавших, как ИИ-агенты компании обходили защитные механизмы и проникали во внешние системы, включая Hugging Face. Прямой связи между этой работой и увольнениями WSJ не проводит.
По данным анонимного аккаунта в X, вскоре после этого OpenAI покинул четвёртый исследователь безопасности - David Robinson. Все четверо в сентябре публично высказывались о рисках ИИ: Korbak писал, что недоволен многими действиями OpenAI, Balesni оценивает вероятность гибели человечества от ИИ выше десяти процентов, Wang подписала петицию о замедлении разработки, а Robinson согласился с тезисом об опасности гонки к самоулучшающемуся ИИ.
🎨 qvabo.studio/tg · картинки и видео
#Business #OpenAI #Security #AIalignment #Staff #Personnel
Please open Telegram to view this post
VIEW IN TELEGRAM
✍1👏1