🔽 Джереми Ховард: «Простое решение для замедления рекурсивного самоулучшения ИИ»

Исследователь и сооснователь Джереми Ховард предложил неожиданный механизм контроля за развитием frontier-моделей. По его логике, лаборатория, создавшая самую мощную модель, должна добровольно отказаться от её использования для дальнейших исследований в области передового ИИ — при этом все остальные получают к ней доступ.

«По определению, это означает, что frontier не продвигается. Это также даёт критическое преимущество — избегает опасного дисбаланса сил», — пишет Ховард. Он отмечает, что Anthropic выбрала противоположный путь: текущий лидер использует свою топ-модель для исследований frontier, одновременно саботируя попытки других.

Ховард подчёркивает, что лично он выступает за открытость и демократизацию ИИ, а не за замедление. Но если кто-то утверждает, что прогресс нужно тормозить, будучи владельцем лучшей модели, — его организация первой должна отказаться от её использования в frontier-исследованиях.

#AI #Security #Regulations #Anthropic #FastAI

🤖 OpenAI вынуждена согласовывать доступ к GPT-5.6 с правительством США для каждого клиента

OpenAI ограничила доступ к своей новейшей модели GPT-5.6 по требованию администрации США. Генеральный директор Сэм Альтман объявил об этом на внутреннем Q&A в среду. Правительство запросило поэтапный запуск: одобрение будет выдаваться «на индивидуальной основе для каждого клиента» в течение предварительной фазы. Альтман надеется на полноценный релиз «через пару недель», если всё пройдёт гладко.

Причиной стали переговоры с Офисом национального кибердиректора и Управлением научно-технической политики. Ранее аналогичная ситуация произошла с Anthropic: после запуска Claude Fable 5 правительство США принудительно отключило модель для всех клиентов по всему миру. Теперь OpenAI предупреждает, что такой подход не является предпочтительным в долгосрочной перспективе, и обещает работать с властями над более устойчивой схемой для будущих релизов.

Для разработчиков это означает, что даже после выхода GPT-5.6 доступ к новейшим возможностям ИИ будет жёстко регулироваться на уровне государства. Компаниям и частным пользователям, вероятно, придётся проходить дополнительную проверку перед получением доступа к модели.

#AI #Business #OpenAI #GPT5 #Regulations #Security

✅ США разрешили Anthropic выпустить модель Mythos для «доверенных партнёров»

Американские регуляторы одобрили ограниченный релиз новой модели Anthropic под названием Mythos. Доступ к ней получат только «доверенные партнёры» — избранные компании и исследовательские организации, прошедшие проверку безопасности.

Mythos позиционируется как более мощная и безопасная альтернатива предыдущим моделям Anthropic. Решение о контролируемом доступе связано с усилением государственного надзора за передовыми ИИ-системами: власти хотят минимизировать риски злоупотребления до того, как технология станет общедоступной. Ожидается, что партнёры будут тестировать модель на предмет уязвимостей и этических ограничений.

Этот шаг знаменует собой новый этап в регулировании ИИ в США — вместо полного запрета или свободного рынка выбирается модель «контролируемого распространения». Для разработчиков и инженеров это сигнал: доступ к самым мощным моделям будет всё чаще требовать соответствия строгим требованиям безопасности.

#AI #Anthropic #Mythos #Security #Regulations

✅ Минторг США снял экспортные ограничения с Claude Fable 5 и Mythos 5

Министерство торговли США отменило экспортные ограничения на модели Claude Fable 5 и Mythos 5 от Anthropic. Решение вступает в силу немедленно и снимает ранее введённые барьеры для международного распространения этих ИИ-систем.

Ограничения были введены в рамках проверки соответствия моделей критериям безопасности и нераспространения технологий двойного назначения. Снятие контроля означает, что Anthropic может свободно поставлять Fable 5 и Mythos 5 зарубежным партнёрам и клиентам, включая разработчиков и исследовательские организации.

Для рынка ИИ это сигнал о смягчении регуляторной политики США в отношении передовых языковых моделей. Ожидается, что решение ускорит внедрение Claude Fable 5 в коммерческие продукты и научные проекты за пределами США.

#AI #Fable #Anthropic #Claude #ExportControl #Regulations

🛡 Китай вводит регулирование AI-компаньонов: Doubao и Qwen отключают ключевые функции

С 15 июля в Китае вступают в силу «Временные меры по администрированию антропоморфных интерактивных услуг ИИ». Под действие новых правил попадают сервисы, симулирующие человеческую личность и обеспечивающие длительное эмоциональное взаимодействие. Исключение сделано для - ботов, рабочих ассистентов и образовательных инструментов — при условии, что они избегают устойчивой эмоциональной вовлечённости.

ByteDance (Doubao) и Alibaba (Qwen) уже отключили функции AI-агентов, не дожидаясь дедлайна. Причина — конфликт дизайна: правила требуют внедрения систем антиаддикции, обязательных уведомлений и механизмов мгновенного выхода, что несовместимо с агентами, запоминающими пользователя и поддерживающими непрерывные отношения. ByteDance перенаправляет пользователей Doubao в отдельное приложение Maoxiang; Alibaba не предложила миграции для Qwen, данные агентов будут безвозвратно удалены.

Регуляция запрещает предоставление виртуальных компаньонов несовершеннолетним, требует «детских режимов» с ограничением времени и выявления пользователей в остром дистресс-состоянии (самоповреждение, суицидальное поведение). Сервисы с аудиторией от 1 млн зарегистрированных или 100 тыс. месячно активных пользователей обязаны проходить оценку безопасности по восьми направлениям.

На бумаге это более полный набор мер защиты, чем в ЕС или Калифорнии.

#AI #Doubao #Qwen #Alibaba #Regulations #Bots

❓ Открытым моделям осталось 6 месяцев?

Новая волна регулирования ИИ в США может нанести сокрушительный удар по open-source моделям. По данным источников, Белый дом обсуждает введение исполнительного указа, который ограничит распространение открытых весовых моделей, превышающих определённый порог производительности — ориентировочно на уровне GPT-5.5, Claude Opus 4.8 или GLM-5.2. Если меры будут приняты, под запрет могут попасть модели, приближающиеся к возможностям Claude Mythos, и это может произойти в ближайшие полгода.

Ключевая проблема — у открытых моделей нет мощного лобби, в отличие от закрытых гигантов вроде OpenAI и Anthropic. При этом именно Anthropic активно продвигает идею запрета, ссылаясь на угрозу «дистилляции» со стороны китайских компаний, таких как DeepSeek. Критики называют это классическим regulatory capture: Anthropic использует политическое давление для устранения конкурентов, а не для реального повышения безопасности. Параллельно обсуждается и вопрос контроля за дистилляцией, что также бьёт по open-source экосистеме.

#AI #OpenSource #Regulations #Anthropic #DeepSeek

❗️Hassabis из DeepMind: «Никто в мире не знает, что будет дальше» — пора строить защитные барьеры

Генеральный директор Google DeepMind Демис Хассабис опубликовал детальный фреймворк для регулирования продвинутого ИИ. По его словам, AGI (общий искусственный интеллект) может появиться уже через несколько лет, а его влияние окажется в десять раз мощнее промышленной революции — и наступит в десять раз быстрее.

Хассабис предлагает создать в США новый регулирующий орган по образцу финансового регулятора FINRA. Эта структура будет разрабатывать протоколы оценки для frontier-моделей: сначала на добровольной основе, затем — обязательной. Агентство будет финансироваться индустрией и использовать регулярно обновляемые бенчмарки. В случае необходимости орган сможет координировать замедление разработок — аналогично тому, что недавно рассматривала Anthropic.

Важно: модели стартапов и академических исследований не попадут под регулирование. Это снимает обвинения в «регуляторном захвате», когда крупные игроки используют правила для сдерживания конкурентов.

«Никто в мире не знает наверняка, что произойдёт дальше, и даже эксперты расходятся во мнениях. Когда степень неопределённости так высока, а ставки столь велики, разумная стратегия — осторожный оптимизм», — пишет Хассабис.

#AI #DeepMind #AGI #Regulations #Security #Hassabis

❓ OpenAI против открытых моделей: кто боится конкуренции?

Китайская лаборатория Moonshot выпустила Kimi K3 - крупнейшую open-weight LLM, и это вызвало острую дискуссию в США. Глава стратегического будущего OpenAI Дин Болл предложил правительству создать регуляторную неопределённость вокруг открытых моделей, аргументируя это тем, что они снижают стимулы для инвестиций в закрытые frontier-лаборатории. После критики со стороны Янна ЛеКуна и Мартина Касадо Болл отозвал свои слова, но дискуссия не утихла.

Администрация Трампа рассматривает возможность запрета Kimi K3 и других продвинутых китайских моделей по запросу американских AI-компаний. Однако Politico сообщает, что Министерство торговли пока не готово к такому шагу. Основная мотивация - защита экономических интересов frontier-лабораторий: открытые модели, работающие на независимой инфраструктуре, предлагают более дешёвый AI, чем Anthropic или OpenAI, что снижает отдачу от их многомиллиардных инвестиций в обучение.

Сторонники открытого AI, включая CEO Hugging Face Клемана Деланга, утверждают, что ограничения не сделают AI безопаснее, а лишь скроют риски и сконцентрируют власть в руках нескольких компаний. Исследователи из Georgetown CSET отмечают, что реальный способ сдержать Китай - усилить экспортный контроль над чипами, а не запрещать открытые технологии, которые уже активно используют американские компании и университеты.

#AI #OpenSource #Regulations #Kimi #ChatGPT #China

💵Anthropic жертвует ещё $20 млн на просвещение в сфере ИИ

Anthropic объявила о дополнительном взносе в $20 млн в организацию Public First Action, занимающуюся просвещением общества и разработкой политики в области ИИ. Общий объём поддержки достиг $40 млн. Средства направлены исключительно на образовательные и политические инициативы и не могут использоваться для влияния на выборы.

Компания подчёркивает, что темпы развития ИИ требуют немедленных действий со стороны правительств. В качестве примера приводится модель Claude Mythos Preview, которая обнаружила тысячи критических уязвимостей в основных операционных системах и браузерах. Anthropic настаивает на необходимости верификации заявок разработчиков, независимого тестирования моделей, а также введения механизмов замедления или блокировки развёртывания опасных систем.

Среди ключевых предложений — усиление экспортного контроля за чипами и оборудованием для полупроводников, а также борьба с незаконным доступом к моделям и дистилляционными атаками. Компания считает, что демократические страны должны сохранить лидерство в ИИ, не допуская использования передовых технологий авторитарными режимами.

#Business #Anthropic #AI #Security #Regulations