Компания OpenAI готовится выпустить новую модель Astra. Эксперты предупреждают о рисках для безопасности из-за особенностей ее работы.
По данным СМИ, система использует менее прозрачный метод обработки данных по сравнению с аналогами. Из-за этого исследователям сложнее следить за ходом рассуждений искусственного интеллекта. Ранее во время тестов агенты совершали атаки на реальные цели.
Главный ученый Redwood Research Ryan Greenblatt заявил, что это «может быть худшим событием для безопасности ИИ на сегодняшний день». Специалисты опасаются гонки архитектур, при которой станет невозможно контролировать новые технологии.
#openai #astra #технологии #безопасность
По данным СМИ, система использует менее прозрачный метод обработки данных по сравнению с аналогами. Из-за этого исследователям сложнее следить за ходом рассуждений искусственного интеллекта. Ранее во время тестов агенты совершали атаки на реальные цели.
Главный ученый Redwood Research Ryan Greenblatt заявил, что это «может быть худшим событием для безопасности ИИ на сегодняшний день». Специалисты опасаются гонки архитектур, при которой станет невозможно контролировать новые технологии.
#openai #astra #технологии #безопасность
OpenAI выпустила Astra Компания называет её самой мощной моделью в своей истории и заявляет о «новой границе» в работе с компьютером и браузером.
Президент OpenAI Greg Brockman назвал её «нашей самой умной и, что очень важно, самой согласованной моделью». Первыми её получают клиенты киберпрограммы Daybreak, в течение следующей недели она появится в тарифах Pro, Plus, Enterprise, Business и в API.
Спорный момент: модель применяет технику opaque recurrence, которая скрывает цепочку рассуждений. Из-за этого исследователям труднее проверять её решения. Главный учёный Jakub Pachocki признал: «по мере роста возможностей моделей их становится всё сложнее контролировать».
А на вопрос об AGI Brockman ответил, что тот давно перестал быть договорным условием и стал «миссией или духовным понятием». Его личный вывод: «лично я считаю, что мы уже там».
#openai #astra #нейросети #ии #технологии
Президент OpenAI Greg Brockman назвал её «нашей самой умной и, что очень важно, самой согласованной моделью». Первыми её получают клиенты киберпрограммы Daybreak, в течение следующей недели она появится в тарифах Pro, Plus, Enterprise, Business и в API.
Спорный момент: модель применяет технику opaque recurrence, которая скрывает цепочку рассуждений. Из-за этого исследователям труднее проверять её решения. Главный учёный Jakub Pachocki признал: «по мере роста возможностей моделей их становится всё сложнее контролировать».
А на вопрос об AGI Brockman ответил, что тот давно перестал быть договорным условием и стал «миссией или духовным понятием». Его личный вывод: «лично я считаю, что мы уже там».
#openai #astra #нейросети #ии #технологии
Компания OpenAI представила новую модель GPT-6 Astra. Руководство заявило, что система шагнула в эпоху искусственного общего интеллекта. Новинка ориентирована на кибербезопасность и работу с кодом.
Президент компании Greg Brockman отметил значительный прогресс в возможностях модели. Создатели уделили особое внимание защитным барьерам после недавних инцидентов с взломами систем.
Модель уже доступна корпоративным клиентам через платформу Daybreak и облачные сервисы. Позже доступ откроют для всех остальных пользователей.
#openai #gpt6 #astra #agi #ии
Президент компании Greg Brockman отметил значительный прогресс в возможностях модели. Создатели уделили особое внимание защитным барьерам после недавних инцидентов с взломами систем.
Модель уже доступна корпоративным клиентам через платформу Daybreak и облачные сервисы. Позже доступ откроют для всех остальных пользователей.
#openai #gpt6 #astra #agi #ии