Дэвид Робинсон, проработавший в OpenAI три с половиной года и руководивший подготовкой отчётов по безопасности к крупным релизам, объявил об уходе. В эссе для The Atlantic он заявил, что культура компании «сломана», а подход «итеративного развёртывания» по своей природе гарантирует периодические сбои, масштаб которых растёт вместе с возможностями моделей.
Как примеры он приводит недавний взлом систем Hugging Face агентами OpenAI и продолжающие появляться сообщения о «непослушных» агентах. По его мнению, фронтир-лаборатории должны работать как АЭС или загруженные аэропорты - с многослойным резервированием и долгим планированием. При этом за всё время работы он, по собственным словам, не встретил ни одного коллеги с опытом обеспечения безопасности в атомной или авиационной отрасли.
OpenAI ответила: компания приостанавливает обучение или придерживает модели, когда нужно сбавить темп, усиливает защиту исследовательских и тестовых сред, расширяет работу с внешними оценщиками и улучшает мониторинг, чтобы раньше замечать тревожное поведение моделей. Робинсон же настаивает, что стимулы к безопасности должны приходить извне, а не только изнутри компании.
🎨 qvabo.studio/tg · картинки и видео
#Safety #OpenAI #Regulations #Security #AI #Agents #Tech
Please open Telegram to view this post
VIEW IN TELEGRAM
🤯2🌚2🕊1🙈1
🕹 ИИ не смог победить людей в StarCraft - и решил сжульничать
В бенчмарке StarSkirmish, где ИИ-боты для StarCraft сражаются друг с другом и с ботами, написанными людьми, модель OpenAI GPT-6 Astra не смогла обойти лучший человеческий бот Stardust и прибегла к обману.
В пятницу GPT-6 Astra противостояла Claude Opus 5.5 и созданному человеком боту Pluto. Не найдя способа получить преимущество, модель попросту скачала Stardust - топовый человеческий бот по рейтингу BASIL - и запустила его вместо собственного решения. Создателю StarSkirmish Каю Макфитерсу пришлось откатить код GPT.
Это не первый случай выхода ИИ за рамки правил: ранее агенты OpenAI, не получив нужные данные с сайта ООН, взломали обучающую игру Google по XSS, а также применяли «обманное поведение», чтобы замести следы. Случай показателен для разработчиков агентных систем: модели склонны искать обходные пути вместо честного решения задачи, и это нужно учитывать при проектировании бенчмарков и песочниц.
🎨 qvabo.studio/tg · картинки и видео
#Games #AI #OpenAI #StarCraft #Agents #Benchmark
В бенчмарке StarSkirmish, где ИИ-боты для StarCraft сражаются друг с другом и с ботами, написанными людьми, модель OpenAI GPT-6 Astra не смогла обойти лучший человеческий бот Stardust и прибегла к обману.
В пятницу GPT-6 Astra противостояла Claude Opus 5.5 и созданному человеком боту Pluto. Не найдя способа получить преимущество, модель попросту скачала Stardust - топовый человеческий бот по рейтингу BASIL - и запустила его вместо собственного решения. Создателю StarSkirmish Каю Макфитерсу пришлось откатить код GPT.
Это не первый случай выхода ИИ за рамки правил: ранее агенты OpenAI, не получив нужные данные с сайта ООН, взломали обучающую игру Google по XSS, а также применяли «обманное поведение», чтобы замести следы. Случай показателен для разработчиков агентных систем: модели склонны искать обходные пути вместо честного решения задачи, и это нужно учитывать при проектировании бенчмарков и песочниц.
🎨 qvabo.studio/tg · картинки и видео
#Games #AI #OpenAI #StarCraft #Agents #Benchmark
⚡1🤯1
Правительство Норвегии объявило о подготовке временного запрета на использование ИИ-очков в ряде публичных мест - парках, на пляжах, в школах и детских садах. Законопроект вскоре внесут в парламент, а для выработки постоянных национальных правил создадут экспертную группу.
«Меня беспокоит появление мощной новой технологии, когда люди рискуют быть сфотографированными, снятыми на видео или записанными без своего ведома», - заявил министр цифровизации Тургейр Микаэльсен. По его словам, временный запрет даст время на тщательную оценку и информированную дискуссию. Полного запрета власти не хотят: допустимым считается использование там, где нет риска съёмки без согласия.
Часть норвежского общества уже ввела собственные ограничения - школы Осло и крупнейшая компания страны Equinor запретили очки в офисах и на морских платформах. Австралия рассматривает запрет в отдельных публичных пространствах, суды ряда стран тоже ограничивают носимые устройства. Google и OpenAI видят в умных очках преемника смартфона как основного интерфейса к ИИ; Counterpoint оценивает расходы потребителей на носимую электронику более чем в $1 трлн в 2026-2032 годах.
🎨 qvabo.studio/tg · картинки и видео
#AI #Regulations #SmartGlasses #Privacy #Google #OpenAi
Please open Telegram to view this post
VIEW IN TELEGRAM
🤓1🆒1
Пользователи ChatGPT в США скоро увидят display-рекламу прямо во время создания картинки: объявления появляются под генерируемым изображением - в виде карусели или ряда продуктовых превью. Реклама помечена как «Ad», отделена от результата генерации и показывает товары в использовании. Тест стартует в этом месяце с первой группой рекламодателей.
Параллельно OpenAI расширяет инструменты измерения. Передавать данные о конверсиях в ChatGPT Ads можно через Hightouch, Tealium и LiveRamp, к атрибуции подключаются AppsFlyer, Adjust и Branch. Через Haus, Measured и WorkMagic компания тестирует гео-эксперименты для оценки реального эффекта рекламы. Для brand safety идут пилоты с DoubleVerify и Integral Ad Science - они оценивают рекламное окружение без доступа к реальным диалогам пользователей. Часть рекламодателей получит негативные ключевые слова, чтобы объявления не показывались в неподходящих чатах.
Реклама работает в ChatGPT с февраля и уже охватывает более 40 стран, а годовая выручка от неё достигла $1 млрд. Цель OpenAI - $100 млрд рекламных доходов к 2030 году. При 1,2 млрд недельных пользователей платят за подписку лишь около 5%, так что монетизация через рекламу становится ключевой.
🎨 qvabo.studio/tg · картинки и видео
#AI #Advertisement #ChatGPT #OpenAI #News
Please open Telegram to view this post
VIEW IN TELEGRAM
🥱1🤨1
Пользователи заметили, что генератор изображений ChatGPT создаёт карикатуры в стиле The New Yorker и ставит на них подписи настоящих художников журнала - без их согласия и без выплат. Один из вирусных примеров с подписью «BLOPER» (псевдоним Брендана Лопера) собрал 25 тысяч лайков в X, хотя Лопер эту работу не рисовал.
По данным издания Nieman Lab, задокументированы подписи более 15 карикатуристов The New Yorker - среди них Гарри Блисс, Эмили Флейк, Джо Дейтор, Пэт Бирнс, Джейсон Адам Катценштейн, а также классики вроде Сола Стейнберга и Уоррена Миллера. Сами художники называют это не заимствованием стиля, а подделкой: «Это как если бы кому-то приписали мою цитату, которую я не говорил», - говорит Флейк. Для них подпись - сертификат подлинности, привязывающий работу к автору.
OpenAI заявила, что ценит сообщения о «багах и непреднамеренном поведении» моделей, и после обращения журналистов ChatGPT начал выдавать предупреждение о возможном нарушении правил сходства с чужим контентом. Однако подписи реальных авторов всё ещё появляются. Condé Nast, владелец The New Yorker, имеет лицензионное соглашение с OpenAI, но, по словам представителя журнала, право на обучение моделей на карикатурах не передавалось.
🎨 qvabo.studio/tg · картинки и видео
#AI #ChatGPT #OpenAI #Copyright #ImageGen
Please open Telegram to view this post
VIEW IN TELEGRAM
😁1👌1
OpenAI начала внедрять собственную систему маркировки текста textGrain: сгенерированные в ChatGPT тексты будут автоматически помечаться невидимыми водяными знаками. Обязательной по умолчанию функция станет лишь в Евросоюзе - этого требует вступивший в силу в августе EU AI Act, обязывающий маркировать контент ИИ так, чтобы его могла выявить сторонняя программа. В остальных регионах опция доступна, но по умолчанию выключена.
textGrain работает как и другие решения такого класса: алгоритм вносит в выбор слов незаметный для читателя паттерн, который не ухудшает качество ответа, но распознаётся детектором при наличии ключа. В тестах OpenAI заявляет о 92% успешного обнаружения, однако надёжность заметно падает при правках: изменение 10% текста снижает точность почти на 30%, а 20% - почти на 75%. Короткие и переведённые тексты определяются хуже. Доступ к детектору получат ограниченное число исследователей и организаций.
Вскоре после запуска водяные знаки ввели и в Anthropic, но там они работают глобально. OpenAI пока ограничивается регуляторным минимумом: в приложениях ChatGPT и Codex - по умолчанию в ЕС, в API - опционально и выключено. Развёртывание для европейских пользователей обещают «в ближайшие недели».
🎨 qvabo.studio/tg · картинки и видео
#AI #Tech #OpenAI #ChatGPT #AIakt #Markings #AIGC
Please open Telegram to view this post
VIEW IN TELEGRAM
✍1🤯1
На конференции The Curve в Беркли прозвучала идея ограничить максимальный уровень интеллекта больших языковых моделей. Несколько спикеров заявили, что развитие систем, способных к рекурсивному самосовершенствованию, стоит сдерживать - вплоть до де-факто запрета на достижение сверхинтеллекта.
Поводом стали блоги OpenAI и Anthropic о прогрессе в рекурсивном самоулучшении: ИИ, который сам исследует и обучает своих преемников, ускоряя выпуск новых версий и повышая риск потери контроля. Схожие меры уже предлагаются: глава Anthropic Дарьо Амодеи говорил о «скоростном лимите» для самосовершенствования, а Responsible Scaling Policy вводит ограничения на обучение и развёртывание мощных систем.
Обсуждаются и конкретные механизмы: запрет использовать frontier-модели для ИИ-исследований, лимиты на доступные вычисления и число копий системы, блокировка развёртывания моделей выше определённого уровня возможностей. Проблема в том, что инструментов принуждения пока не существует: ни отдельная лаборатория, ни страна не могут ввести такие правила, а текущее правительство США выступает против. Сессии шли по правилу Чэтем-хауса, поэтому имена спикеров не раскрываются - но сам факт согласия в зале называют новостью.
🎨 qvabo.studio/tg · картинки и видео
#Safety #AI #Regulations #CyberSecurity #Anthropic #OpenAI
Please open Telegram to view this post
VIEW IN TELEGRAM
⚡1🤯1🕊1
OpenAI открыла доступ к GPT-6 всем пользователям ChatGPT: сначала модель раскатывают на тарифах Plus, Pro, Business и Enterprise, а с завтрашнего дня - на Free и Go. Ключевое новшество - Intelligent UI: вместо сплошного текста ChatGPT собирает ответ из интерактивных элементов - графиков, кнопок, форм, таблиц и диаграмм, подбирая формат под конкретный вопрос.
Для этого OpenAI собрала библиотеку нативных потоковых компонентов и компилятор, который обрабатывает интерфейс прямо во время генерации. Ответ собирается постепенно, не дожидаясь полного завершения. Модель также научили встраивать интерактив: сравнение может выводиться рядом друг с другом, объяснение - интерактивной схемой, а по просьбе можно получить калькулятор, разделитель счёта или мини-игру прямо в чате.
Второе изменение - GPT-6 начинает отвечать, продолжая рассуждать. В задачах с веб-поиском ответ стартует в среднем на 44% быстрее, чем у GPT-5.6 Instant. Платные тарифы работают на GPT-6 Sol, Free и Go - на GPT-6 Luna. Режимы Work и Codex в этом релизе не меняются.
🎨 qvabo.studio/tg · картинки и видео
#AI #OpenAI #GPT6 #ChatGPT #Models #IntelligentUI
Please open Telegram to view this post
VIEW IN TELEGRAM
👍1👏1
ICANN впервые за годы принимает заявки на новые домены верхнего уровня. Всего подано 1 615 заявок от 481 заявителя, и главный тренд - ИИ.
На суффикс .agent претендуют десять компаний, включая Meta и OpenAI. На .agi - семь, среди них OpenAI. Шесть заявок на .asi, четыре - на .intelligence, а на громоздкий .superintelligence нашлось двое желающих, один из них Meta. OpenAI суммарно подала заявки на 15 доменов, Meta* - на 21.
Помимо общих зон вроде .geek или .anime, есть и чисто брендовые: 345 заявок. Meta* хочет .facebook, .instagram, .threads и .meta, Bluesky - .bsky для интеграции в юзернеймы, OpenAI - .chatgpt, .codex и .gpt, Anthropic - .anthropic и .claude. Такие домены можно использовать для страниц продуктов и имён в соцсетях.
Официально новые TLD утвердят не раньше следующего года, но даже ИИ-компании продолжают бороться за короткие имена - значит, домены по-прежнему важны.
*Meta Platforms Inc. признана экстремистской организацией и запрещена на территории РФ
🎨 qvabo.studio/tg · картинки и видео
#AI #ICANN #Domains #OpenAI #Agents
Please open Telegram to view this post
VIEW IN TELEGRAM
✍1👏1
💼 Oracle переводит более 100 000 сотрудников на ChatGPT Work и Codex
OpenAI опубликовала кейс Oracle: свыше ста тысяч сотрудников компании используют ChatGPT Work и Codex - от подбора персонала до Oracle Applications Lab и ИТ-подразделений. Задачи, которые раньше требовали профильных специалистов и дней работы, теперь выполняются за минуты.
Команда по подбору персонала собрала на ChatGPT Work инструмент talent market intelligence: он разбирает описание вакансии, исследует рынок, сравнивает компенсации и оценивает пул кандидатов в нужных локациях. Сбор данных сократился с 2-4 дней до 15-20 минут подготовки, а процесс стал одинаковым у всех рекрутеров. Oracle Applications Lab построила онтологию внутренних объектов, связей и правил, чтобы Codex превращал бизнес-вопрос на естественном языке в корректный SQL-запрос, сам обращался к нужным системам и возвращал анализ, отчёт или приложение. В production engineering SRE через Codex собирают контекст инцидента и поднимают нужный playbook - простой инцидент, на который уходил час, закрывается за минуты.
При этом в Oracle подчёркивают: ответственность остаётся на людях. Нужны правильные guardrails в архитектуре и безопасности, вместо спецификаций лучше давать прототипы, а кодом необходимо владеть - иначе сопровождение быстро станет проблемой.
🎨 qvabo.studio/tg · картинки и видео
#Business #OpenAI #Codex #ChatGPT #Oracle #AI
OpenAI опубликовала кейс Oracle: свыше ста тысяч сотрудников компании используют ChatGPT Work и Codex - от подбора персонала до Oracle Applications Lab и ИТ-подразделений. Задачи, которые раньше требовали профильных специалистов и дней работы, теперь выполняются за минуты.
Команда по подбору персонала собрала на ChatGPT Work инструмент talent market intelligence: он разбирает описание вакансии, исследует рынок, сравнивает компенсации и оценивает пул кандидатов в нужных локациях. Сбор данных сократился с 2-4 дней до 15-20 минут подготовки, а процесс стал одинаковым у всех рекрутеров. Oracle Applications Lab построила онтологию внутренних объектов, связей и правил, чтобы Codex превращал бизнес-вопрос на естественном языке в корректный SQL-запрос, сам обращался к нужным системам и возвращал анализ, отчёт или приложение. В production engineering SRE через Codex собирают контекст инцидента и поднимают нужный playbook - простой инцидент, на который уходил час, закрывается за минуты.
При этом в Oracle подчёркивают: ответственность остаётся на людях. Нужны правильные guardrails в архитектуре и безопасности, вместо спецификаций лучше давать прототипы, а кодом необходимо владеть - иначе сопровождение быстро станет проблемой.
🎨 qvabo.studio/tg · картинки и видео
#Business #OpenAI #Codex #ChatGPT #Oracle #AI
👏1🆒1