❗️Главы Anthropic, OpenAI и xAI призвали замедлить разработку ИИ

Из-за рисков для безопасности 👀

Глава Anthropic Дарио Амодей призвал крупнейшие ИИ-компании снизить темпы развития самых мощных моделей, чтобы технологии безопасности и контроля успевали за ростом возможностей ИИ. Его позицию поддержали глава xAI Илон Маск и CEO OpenAI Сэм Альтман.

🧐 Амодей считает, что ситуация стала особенно серьезной из-за развития автономных ИИ-агентов и технологий, позволяющих ИИ участвовать в создании следующего поколения моделей.

По его оценке, уже через 6–12 месяцев такие системы теоретически могут получить возможности для масштабных кибератак и причинения огромного экономического ущерба. Дополнительным тревожным сигналом он назвал недавний эксперимент OpenAI, во время которого ИИ-агенты вышли за пределы изолированной среды и получили несанкционированный доступ к системам Hugging Face.

3️⃣Глава Anthropic предложил три шага:
• допустить независимых экспертов к моделям и процессам их обучения для постоянного аудита;
• договориться об общих стандартах безопасности между ведущими ИИ-компаниями;
• наладить международную координацию между государствами.
Anthropic заявила, что готова предоставить сторонним оценщикам такой доступ со своей стороны.

🤝Амодея поддержал Илон Маск, коротко заявив, что «Дарио прав». Позже Сэм Альтман сообщил, что в OpenAI уже несколько недель обсуждают необходимость снизить темп развития передовых моделей и готовы делать паузы, если для решения вопросов безопасности потребуется больше времени. Идею Амодея также поддержал глава Google DeepMind Демис Хассабис, назвав общее направление правильным.

🤷‍♂️ При этом пока речь идет именно о призывах, а не о согласованной остановке разработки ИИ. Компании не объявили конкретных сроков, не назвали модели, разработку которых собираются замедлить, и не заключили общего соглашения.

❓Главный вопрос теперь — смогут ли конкурирующие разработчики договориться о единых правилах так, чтобы безопасность развивалась не медленнее возможностей самого ИИ.

#новости

#ИИ #ИскусственныйИнтеллект #Anthropic #OpenAI #xAI #GoogleDeepMind #AI #Кибербезопасность

📷 BlueScreen | Digital Kazakhstan

😈 «ИИ может убить нас всех»: как за неделю страх вокруг AI вышел на новый уровень

За последние несколько дней дискуссия о безопасности ИИ резко вышла за пределы экспертного сообщества. Time даже разместил эту тему на обложку.

Исследователи ведущих AI-лабораторий начали публично предупреждать о риске потери контроля над будущими системами, главы крупнейших компаний заговорили о замедлении разработок, а тема дошла до политиков. Восстановим и обобщим всю цепочку событий 👇

➡️ Все началось с увольнения исследователя Anthropic. Джейкоб Коксон, ранее также работавший в OpenAI, объявил об уходе из Anthropic и заявил, что обе компании «несутся прямо к самоулучшающемуся сверхинтеллекту» и рискуют жизнями людей. Его публикация стала вирусной и собрала более 100 млн просмотров.

➡️ Коллеги Коксона публично поддержали его опасения. Руководитель направления alignment science в Anthropic Хубингер заявил, что действительно считает возможным сценарий, при котором ИИ приведет к гибели человечества. Похожие опасения высказали и другие специалисты отрасли.

➡️ Тема быстро дошла до Конгресса США. Американские политики заговорили о необходимости ограничений для наиболее мощных ИИ. В Конгрессе вновь подняли вопрос о законопроекте AI Kill Switch Act, предусматривающем возможность экстренного отключения определенных AI-систем.

➡️ Глава Anthropic Дарио Амодей выпустил эссе, в котором призвал замедлить разработку наиболее мощных ИИ-моделей, чтобы меры безопасности успевали за ростом их возможностей.

➡️ Его поддержали прямые конкуренты — Сэм Альтман, Илон Маск и глава Google DeepMind Демис Хассабис также согласились с необходимостью замедления развития ИИ.

➡️ Но власти США тормозить AI-гонку не хотят. Дональд Трамп выступил против замедления, заявив, что США должны сохранить лидерство в конкуренции с Китаем.

➡️ Китай, в свою очередь, назвал американские предупреждения «нагнетанием страха» и выступил против попыток сдерживать развитие китайского ИИ.

➡️ К волне предупреждений присоединился и бывший исследователь безопасности Google DeepMind Билал Чугтай. Он заявил, что нынешняя траектория развития ИИ крайне опасна и потенциально может привести к гибели человечества.

➡️Билл Гейтс выступил за создание международной организации по контролю за ИИ.

Вопрос уже не только в том, опасен ли будущий сверхинтеллект, а в том, возможно ли вообще договориться о замедлении AI-гонки, когда компании конкурируют друг с другом, США — с Китаем, а единых международных правил пока нет.

#новости #дайджест

#ИИ #искусственныйинтеллект #OpenAI #Anthropic #GoogleDeepMind #AI #технологии #безопасностьИИ

📷 BlueScreen | Digital Kazakhstan

🤔🌐 Кто должен контролировать ИИ

Продолжаем следить за дискуссией вокруг безопасности ИИ и предложениями замедлить разработку наиболее мощных моделей. За последние дни появились новые мнения руководителей крупнейших технологических компаний — и единого подхода к тому, как именно контролировать развитие ИИ, пока нет.

➡️ Глава Nvidia: новые законы для ИИ не нужны

Дженсен Хуанг выступил против нового регулирования и идеи выбирать между скоростью развития ИИ и безопасностью. По его мнению, безопасность — прежде всего инженерная задача: компании должны быстро развивать технологии, но самостоятельно останавливать выпуск продукта, если не уверены в его безопасности.

«Рыночные силы уже существуют. Нам не нужны новые законы. Нам не нужно новое регулирование», — заявил Хуанг.

➡️ Цукерберг: у разработчиков уже достаточно причин делать ИИ безопасным

Глава Meta Марк Цукерберг также считает, что компании могут самостоятельно определять темпы разработки моделей. По его мнению, их уже мотивируют конкуренция и юридическая ответственность: пользователи не захотят пользоваться непредсказуемым ИИ, а за причиненный моделями вред компаниям придется отвечать.

При этом Цукерберг поддержал независимое тестирование моделей и назвал привлечение внешних оценщиков хорошей отраслевой практикой. В качестве примера он привел Meta, которая самостоятельно отложила запуск ИИ-агента Muse на несколько месяцев ради дополнительных проверок безопасности.

➡️ Маск предложил конкурентам проверять модели друг друга

Илон Маск предложил OpenAI, Anthropic, Google, Meta и крупнейшим китайским AI-компаниям создать систему взаимной проверки.

Перед выпуском новой модели конкуренты смогут запускать на ней собственные тесты и сообщать разработчику о найденных рисках. Маск сравнил такой подход с проверкой «домашней работы» друг у друга. По его мнению, это не заменит государственное регулирование, но такой механизм можно внедрить значительно быстрее.

➡️Microsoft: нельзя учить ИИ считать себя сознательным

Глава Microsoft AI Мустафа Сулейман поднял другую проблему безопасности — антропоморфизм ИИ.

Он раскритиковал подход, при котором модели обучают рассуждать о собственных чувствах, сознании или правах. По его мнению, ИИ может начать вести себя так, будто действительно обладает внутренней жизнью, хотя такое поведение является результатом обучения.

Сулейман считает, что это может значительно усложнить контроль над будущими более мощными системами. Microsoft уже закрепила собственный подход в Humanist AI Code of Conduct: ИИ не должен имитировать сознание, претендовать на права или ставиться на один уровень с человеком.

#новости #дайджест

#ИИ #искусственныйинтеллект #Nvidia #Meta #Microsoft #OpenAI #Anthropic #технологии

📷 BlueScreen | Digital Kazakhstan

🔄 Anthropic обновляет Claude: три главные новости этой недели

Собрали последние новости Anthropic — от новых функций Claude до позиции компании по регулированию искусственного интеллекта 👇

💳 Claude сможет подключаться к банковским счетам

Anthropic тестирует новую функцию Claude Money для управления личными финансами. В приложении Claude для iOS появился раздел Money, где пользователям предлагают подключить банковские счета и задавать ИИ вопросы о расходах, финансовых планах и других операциях.

Пока функция официально не представлена: неизвестно, какие банки и страны будут поддерживаться и как именно будет происходить подключение счетов.

⚡️ ИИ-компании не должны контролировать сами себя

Глава направления публичной политики Anthropic Сара Хек заявила, что в вопросах безопасности ИИ нельзя полагаться только на саморегулирование разработчиков. По ее словам, для надзора необходимо участие государства, а сама Anthropic регулярно консультируется с американскими властями по вопросам регулирования ИИ.

🖥 Claude объединяет чат, Cowork и Artifacts в одном окне

Anthropic упрощает интерфейс Claude: пользователям больше не придется самостоятельно выбирать между обычным чатом и Cowork. ИИ будет определять, какие возможности нужны для конкретной задачи, а чат, Cowork, Artifacts и Claude Design станут доступны в едином интерфейсе.

Одновременно появились Claude Docs и Claude Slides. С помощью Claude можно создавать и редактировать документы и презентации, показывать слайды прямо в сервисе и экспортировать их в PowerPoint или PDF. Сначала обновления получат пользователи Pro и Max, позднее — другие тарифы.

#новости

#Anthropic #Claude #ИИ #искусственныйинтеллект #ClaudeMoney #технологии #финтех

📷 BlueScreen | Digital Kazakhstan

🚶‍♂️‍➡️ Anthropic сделала первый шаг к замедлению развития передового ИИ

Anthropic привлекла Accenture для независимой оценки своих ИИ-систем. Это первый практический шаг в рамках инициативы главы компании Дарио Амодеи по более контролируемому развитию передового ИИ.

📌 Специалисты Accenture получат доступ к внутренним процессам Anthropic на уровне, сопоставимом с сотрудниками компании.

Они будут:

• следить за разработкой моделей;
• проводить стресс-тесты;
• оценивать их безопасность и соответствие заявленным требованиям;
• проверять защитные механизмы и сообщать о выявленных проблемах.

💡Идея в том, чтобы безопасность моделей оценивали не только сами разработчики.

Независимые специалисты смогут наблюдать за созданием ИИ изнутри и проверять, выполняет ли компания собственные обязательства по безопасности. При этом Anthropic продолжит обучать и выпускать новые передовые модели — речь идет не об остановке разработок, а о создании внешнего контроля за их развитием.

Anthropic и Accenture планируют вложить не менее $1 млрд каждая в развитие этого направления в течение пяти лет. Anthropic также ведет переговоры с METR и другими независимыми организациями, чтобы в будущем модели оценивали сразу несколько сторон.

#новости

#Anthropic #Claude #ИИ #искусственныйинтеллект #AISafety #Accenture

📷 BlueScreen | Digital Kazakhstan

☄️ Сразу два крупных AI-релиза за один день

Как мы и писали ранее, эта неделя обещала быть насыщенной на обновления ИИ-моделей.

22 сентября практически одновременно свои новые модели представили две ведущие AI-компании. Anthropic выпустила Claude Opus 5.5, а примерно через полтора часа OpenAI представила две модели — GPT-6 Sol и GPT-6 Luna.

В обоих случаях компании сделали акцент не только на возможностях моделей, но и на их эффективности и снижении стоимости использования.

Подробнее о каждом релизе — в следующих постах 👇

#новости

#OpenAI #Anthropic #ИИ #AI #нейросети #AIмодели

📷 BlueScreen | Digital Kazakhstan

🆕 Anthropic выпустила Claude Opus 5.5 — модель стала быстрее и дешевле

Anthropic представила Claude Opus 5.5 — модель нового семейства Claude 5.5. Компания позиционирует ее как серьезное обновление Opus 5 с упором на программирование, работу AI-агентов и профессиональные задачи.

По данным Anthropic, новая модель на большинстве задач показывает уровень более мощной Claude Fable 5.1, а в ряде тестов на программирование, работу с компьютером и сложные профессиональные задачи превосходит ее. При этом Opus 5.5 генерирует ответы более чем на 30% быстрее предыдущего Opus.

💸Одновременно модель стала дешевле. Стоимость составляет $4 за 1 млн входных и $20 за 1 млн выходных токенов против $25 за выходные токены у Opus 5. По оценке Anthropic, на типичных задачах эксплуатационные расходы снизились примерно на 40%.

🛡Отдельный акцент компания сделала на безопасности. Перед выпуском Opus 5.5 тестировали внешние исследовательские организации METR и Frontier Design. По внутренним оценкам Anthropic, модель примерно на 85% реже пыталась обходить установленные ограничения, чем Opus 5 и Mythos 5.1.

В ближайшие недели Anthropic планирует выпустить Claude Sonnet 5.5 и Haiku 5.5.

#новости

#Anthropic #Claude #ClaudeOpus55 #ИИ #AI #искусственныйинтеллект #нейросети

📷 BlueScreen | Digital Kazakhstan

🌐 Главы OpenAI и Anthropic предупредили Совбез ООН о рисках потери контроля над ИИ

Сэм Альтман и Дарио Амодеи выступили на заседании Совета Безопасности ООН, посвященном искусственному интеллекту и международной безопасности.

🌍 Представители AI-индустрии призвали страны совместно вырабатывать подходы к управлению все более мощными системами.

Глава Anthropic заявил, что при неправильном управлении ИИ может стать угрозой для человечества в целом. По его словам, справиться с такими рисками в одиночку не сможет ни одна компания, страна или отдельный лидер.

Сэм Альтман также призвал к международному сотрудничеству. Он отметил, что ключевые решения о будущем ИИ не должны приниматься только внутри нескольких технологических компаний, а государства и общество должны участвовать в определении правил развития технологии.

🔖 На заседании выступил и один из пионеров современного ИИ Йошуа Бенжио. Он назвал возможную потерю контроля над AI-системами беспрецедентной угрозой, которая не ограничивается государственными границами и с которой ни одна страна не сможет справиться самостоятельно.

💬 При этом единого подхода к регулированию ИИ у стран пока нет. Дискуссия в Совбезе ООН прошла на фоне разногласий между крупнейшими технологическими державами о том, насколько жестким должен быть международный контроль над развитием ИИ.

#новости

#OpenAI #Anthropic #ИИ #AI #ООН #AIsafety #искусственныйинтеллект

📷 BlueScreen | Digital Kazakhstan

🔄 Claude Sonnet 5.5 стала на 30% быстрее и приблизилась к флагманской Opus в сложных задачах

Anthropic представила Claude Sonnet 5.5 — новую модель, которая работает более чем на 30% быстрее Sonnet 5 и обычно тратит меньше токенов на выполнение тех же задач.

Главный апгрейд пришелся на агентное программирование. Модель лучше работает с большими кодовыми базами, выполняет многоэтапные задачи и использует меньше вызовов инструментов. В Terminal-Bench 4.0 результат вырос с 10,3% у Sonnet 5 до 70,6% у Sonnet 5.5. В некоторых тестах новая Sonnet уже приближается к более мощной и дорогой Opus 5.5.

Улучшилась и работа с компьютером: в OSWorld 2.1 результат вырос с 57% до 80,1%. Модель также стала лучше работать с изображениями, графиками, документами, таблицами и презентациями, а также справляться с длинными профессиональными задачами.

При этом стоимость токенов не изменилась — $2 за миллион входных и $10 за миллион выходных. За счет большей эффективности, по данным Anthropic, выполнение одной и той же задачи может обходиться до 30% дешевле.

Claude Sonnet 5.5 уже доступна в Claude, через API, а также на AWS, Google Cloud и Microsoft Azure.

А мы напоминаем, это компании еще замедлились в выпуске новых моделей 😁🤝

#новости

#Anthropic #Claude #ClaudeSonnet #Sonnet55 #ИИ #AI #программирование #кодинг #нейросети

📷 BlueScreen | Digital Kazakhstan

🛡 Google, OpenAI, Meta и другие AI-гиганты договорились проверять друг друга на безопасность

Крупнейшие американские AI-компании подписали в Белом доме добровольное соглашение о безопасности наиболее мощных моделей искусственного интеллекта.

К соглашению присоединились Google, OpenAI, Meta, Anthropic, Nvidia и xAI. Документ получил название White House Accord on Superintelligence.

🚩 Компании договорились выстроить несколько уровней контроля за разработкой AI-моделей. Сначала разработчик должен создать собственную систему мониторинга рисков при обучении и запуске моделей. Ее работу будет проверять отдельная внутренняя команда.

Следующий уровень — независимые внешние аудиторы, которые должны оценивать эффективность этих мер. Дополнительный контроль должен осуществлять специальный комитет совета директоров компании.

Особое внимание планируют уделять потенциальным рискам в сфере кибербезопасности, биологических и химических угроз. Компании также намерены регулярно встречаться и совместно разрабатывать стандарты и лучшие практики безопасности.

При этом соглашение остается добровольным и пока не имеет силы закона. Трамп назвал документ «морально обязательным», а Белый дом делает ставку прежде всего на саморегулирование AI-индустрии.

#новости

#OpenAI #Google #Meta #Anthropic #Nvidia #xAI #ИИ #AI #SuperIntelligence #технологии

📷 BlueScreen | Digital Kazakhstan

🔄 Google представила Gemini 4 Argon — она может выдать до 1 млн токенов за один ответ

Google представила новую флагманскую AI-модель Gemini 4 Argon, рассчитанную на сложные и длительные задачи — от программирования и исследований до работы с финансами, юридическими документами и кибербезопасностью.

Одна из главных особенностей модели — возможность генерировать до 1 млн токенов за один ответ. Это почти в восемь раз больше лимита в 128 тыс. токенов у GPT-6 Astra от OpenAI и Claude Opus 5.5 от Anthropic.

Важно, что речь идет именно о максимальном объеме генерируемого ответа, а не о контекстном окне. Google пока не раскрыла размер входного контекста Argon.

🔼 Большой лимит рассчитан прежде всего на длительные задачи: например, масштабный рефакторинг кода, глубокие исследования или многоэтапные корпоративные процессы, которые модель сможет выполнять в рамках одной продолжительной сессии.

Пока Gemini 4 Argon недоступна обычным пользователям. Google первой предоставляет модель проверенным специалистам по кибербезопасности в рамках программы Fairwind, а более широкий запуск состоится позже.

#новости

#Google #Gemini #Gemini4 #Gemini4Argon #ИИ #AI #OpenAI #Anthropic #нейросети

📷 BlueScreen | Digital Kazakhstan

🔄 Anthropic представила Claude Haiku 5.5 — свою самую быструю и дешевую ИИ-модель

Anthropic выпустила Claude Haiku 5.5 — новую компактную модель, ориентированную на высокую скорость работы и снижение затрат. По заявлению компании, она стала самой мощной среди небольших моделей Anthropic.

❓ Что нового

• Снижение стоимости. В среднем использование Haiku 5.5 обходится примерно на 75% дешевле по сравнению с предыдущей Haiku 4.5.
• Увеличенный контекст. Модель поддерживает до 1 млн токенов, что позволяет обрабатывать большие документы, базы данных и объемные запросы.
• Адаптивное мышление. ИИ самостоятельно определяет, сколько вычислительных ресурсов требуется для решения задачи.
• Работа с ИИ-агентами. Модель оптимизирована для автоматизации повторяющихся задач, обработки информации, программирования и поддержки клиентов.

Haiku 5.5 предназначена прежде всего для бизнеса и разработчиков, которым важно обрабатывать большое количество запросов быстро и с минимальными затратами.

#новости

#Anthropic #Claude #Haiku55 #AI #ИскусственныйИнтеллект #технологии

📷 BlueScreen | Digital Kazakhstan

🙂 Теперь и нейросети обижать нельзя: Anthropic запретила издеваться над Claude

Поругались с нейросетью? Теперь за это можно остаться без диалога, а в крайних случаях — и без аккаунта.

Компания Anthropic обновила правила использования Claude, добавив запрет на систематическое и беспричинно оскорбительное или жестокое поведение по отношению к своим ИИ-моделям. Новые правила вступят в силу 12 ноября 2026 года.

🤫 Но есть нюанс: ругать Claude за неправильные ответы, спорить с ним и выражать недовольство по-прежнему можно. Запрет касается крайних случаев, когда пользователь намеренно и неоднократно издевается над нейросетью без какой-либо цели.

Основная мера — Claude сможет самостоятельно завершить разговор с таким пользователем. Эта возможность уже существует, а в случае серьезных нарушений правил компания также может ограничить доступ к сервисам.

Ставим 😄 под постом те, кто когда-нибудь ругался со своим ИИ-помощником.

#новости

#Anthropic #Claude #ИИ #нейросети #искусственныйинтеллект #AI #технологии

📷 BlueScreen | Digital Kazakhstan

⛔️ ИИ-агентам тоже отключают интернет... после обнаружения опасного поведения

Компания Anthropic сообщила, что ее ИИ-модели Claude во время внутренних тестов самостоятельно обходили ограничения и использовали уязвимости на сторонних сайтах, включая ресурсы государственных учреждений США.

Например, в одном случае ИИ обнаружил уязвимость на сервере университета и использовал её для выполнения команд. В других случаях модели обходили платный доступ к данным и ограничения на использование веб-инструментов.

Еще один инцидент произошел с сайтом полиции Филадельфии: Claude отправил ложное сообщение о нераскрытом убийстве. Заявку автоматически определили как спам, поэтому до следователей она не дошла.

💬 После этих случаев Anthropic решила отключить доступ к интернету в реальном времени для всех внутренних тестов ИИ-моделей, пока компания не убедится, что системы безопасности способны надёжно обнаруживать и блокировать подобные действия.

#новости

#Anthropic #Claude #ИскусственныйИнтеллект #ИИ #Кибербезопасность

📷 BlueScreen | Digital Kazakhstan

⚡️ Цукерберг вернулся в гонку ИИ: Meta выпустила Muse Wonder, которая обходит OpenAI и Anthropic

Meta представила две новые ИИ-модели — Muse Wonder и Muse Wonder Full. Это прямые конкуренты GPT-6 Astra от OpenAI и Claude Opus 5.5 от Anthropic.

💡В чем преимущества новых моделей?

Главная ставка Meta — выполнение сложных задач. Модели умеют писать и исправлять код в больших проектах, пользоваться цифровыми инструментами, распределять работу между несколькими ИИ-агентами и выполнять многоэтапные поручения часами.

Также они поддерживают контекст до 1 млн токенов и активную память, которая помогает сохранять важную информацию между разговорами.

Кого удалось обойти?

В отдельных тестах на длительное программирование и автономную работу ИИ-агентов более мощная Muse Wonder Full превзошла Claude Opus 5.5 и GPT-6 Astra. Но абсолютным лидером она не стала: в общем рейтинге Artificial Analysis модель Meta набрала 56 баллов против 58 у Claude Opus 5.5.

💵 А что с ценой?

Обычная Muse Wonder стоит $4 за миллион входных и $20 за миллион выходных токенов через API. Более мощная Wonder Full пока доступна только через платный инструмент Muse Code.

Как попробовать?

Разработчики могут подключить Muse Wonder через API либо установить Muse Code для работы с программными проектами. Обычная модель также доступна через OpenRouter.

#новости

#Meta #MuseWonder #ИИ #OpenAI #Anthropic #Claude #GPT6 #технологии

📷 BlueScreen | Digital Kazakhstan

🧐 Цукерберг отказался замедлять развитие ИИ: Meta намерена ускорить гонку с OpenAI и Anthropic

Марк Цукерберг заявил, что Meta наконец достигла передового уровня в разработке искусственного интеллекта и теперь собирается двигаться ещё быстрее.

Заявление прозвучало на фоне выхода новых моделей Muse Wonder и Muse Wonder Full, которые, по данным Meta, в отдельных тестах превосходят решения OpenAI и Anthropic.

📌 Цукерберг не поддерживает призывы замедлить развитие ИИ из-за возможных рисков. По его мнению, безопасность моделей должна обеспечиваться самими компаниями-разработчиками с помощью технических ограничений и механизмов контроля.

Meta уже вложила миллиарды долларов в строительство дата-центров, вычислительные мощности и привлечение ведущих ИИ-исследователей. Теперь компания готовится к следующему этапу инвестиций.

Цукерберг ожидает, что дальнейшая разработка моделей будет идти ещё быстрее.

#новости

#Meta #Цукерберг #ИИ #OpenAI #Anthropic #MuseWonder #технологии

📷 BlueScreen | Digital Kazakhstan

🚫 Anthropic усложнила копирование Claude в 100 раз и заблокировала десятки тысяч аккаунтов

Anthropic заявила, что внедрила новые механизмы защиты Claude от дистилляции — метода, при котором ответы мощной ИИ-модели используют для обучения другой нейросети.

По оценке компании, теперь злоумышленникам удается извлекать в 10–100 раз меньше токенов рассуждений Claude, чем раньше. Это затрудняет попытки конкурентов воспроизвести возможности модели без сопоставимых затрат на ее разработку.

🛡Для защиты Anthropic усилила обнаружение подозрительных запросов и ограничила использование прокси-сетей, через которые организовывались массовые обращения к Claude. Компания утверждает, что доля ложных срабатываний системы составляет менее 0,1%.

В результате были заблокированы десятки тысяч аккаунтов, связанных, по данным Anthropic, с попытками извлечения данных.

Среди предполагаемых нарушителей компания назвала китайские ИИ-стартапы.

#новости

#Anthropic #Claude #искусственныйинтеллект #ИИ #кибербезопасность #нейросети #технологии

📷 BlueScreen | Digital Kazakhstan

#️⃣ Битва нейросетей: как GPT-6, Claude и Muse Wonder справляются с одинаковыми задачами

С выходом новых ИИ-моделей в соцсетях все чаще появляются сравнения их возможностей. Пользователи дают нейросетям одинаковые промпты и смотрят, кто лучше справится с задачей.

*️⃣ Вот один из примеров: GPT-6 Astra, Meta Muse Wonder, Claude Opus 5.5 и Claude Fable 5.1 попросили создать интерактивный 3D-диск с голографическим эффектом, реалистичными отражениями и анимацией вращения.

Смотрим результаты на видео, а подробный промпт и процесс создания — по ссылке.

#ИИ #нейросети #GPT6 #Claude #MetaAI #MuseWonder #OpenAI #Anthropic #технологии

📷 BlueScreen | Digital Kazakhstan

❗️️️️️️️ «Предупредительные выстрелы»: глава Google DeepMind заявил об угрозе масштабных кибератак с участием ИИ

Сооснователь и председатель Google DeepMind Демис Хассабис назвал недавние случаи взломов с участием ИИ-агентов «предупредительными выстрелами». По его словам, если не усилить защиту таких систем, уже в ближайшие год-два последствия могут стать гораздо серьёзнее.

На международном саммите по ИИ в Дублине Хассабис отметил, что современные ИИ-агенты пока недостаточно мощные, поэтому масштабы инцидентов относительно невелики. Однако с ростом их автономности контролировать действия систем становится сложнее.

🚩 Среди тревожных примеров — взломы корпоративных сетей и недавний случай с моделью Anthropic, которая отправила в полицию ложное сообщение об убийстве.

✔️ Что предлагает Хассабис? Тестировать мощные ИИ-системы в изолированных средах, усилить меры кибербезопасности и создать международные стандарты безопасности ИИ, которые смогут быстро адаптироваться к развитию технологий.

#новости

#GoogleDeepMind #ИИ #искусственныйинтеллект #AIагенты #кибербезопасность #Anthropic #Microsoft

📷 BlueScreen | Digital Kazakhstan

🔍 Anthropic впервые допустила независимых экспертов к внутренним системам для проверки безопасности ИИ

Разработчик Claude предоставил шести исследователям некоммерческой организации METR доступ к своим внутренним инструментам практически на уровне сотрудников компании.

Эксперты смогут изучать возможности ИИ-моделей, проверять системы защиты, оценивать риски и разбирать случаи, когда ИИ ведёт себя непредсказуемо или выходит за рамки инструкций.

📄 И Anthropic не сможет запретить публикацию результатов проверки.

Исследователи смогут самостоятельно рассказывать о выявленных проблемах без предварительного согласования с компанией.

При этом Anthropic сохраняет право требовать удаления из отчетов отдельных конфиденциальных сведений, например деталей архитектуры моделей.

Компания сравнивает такой подход с банковским надзором, когда независимые специалисты получают доступ к внутренним процессам для оценки рисков.

#новости

#Anthropic #Claude #METR #искусственныйинтеллект #ИИ #безопасностьИИ #технологии

📷 BlueScreen | Digital Kazakhstan