Google показала, как агент сам чинит аварию и свои инструменты
Google Cloud выложила архитектуру Chrysalis.
Агент на Gemini 4 Argon и ADK не отвлекает дежурного инженера, а сам пишет код исправления и ставит его в работающий шлюз.
В демо примере обвал кэша Memorystore обнуляет попадания, пул соединений Cloud SQL упирается в 100%.
Готового инструмента нет и агент синтезирует ограничитель на 10 токенов и 40 запросов в секунду, проверяет дерево разбора, подписывает ключом Cloud KMS и монтирует в шлюз.
На второй симулятора волне из 50 запросов ошибки 5xx падают с 72,7–80,0% до нуля, P99 с 519,8 до 18,2 мс, первое смягчение приходит за 1,8 с вместо 15–45 минут.
Дальше агент считает вклад шагов: перезапуск базы получает минус за латентность 3 800 мс, ограничитель плюс 0,97.
Правило «при обвале кэша базу не перезапускать» сохраняется в памяти с подписью, а в схему агентов добавляется регулятор трафика.
💼 Действие ограничено четырьмя гейтами:
Model Armor чистит телеметрию от инъекций,
OPA держит нижний порог,
Binary Authorization не пускает неподписанный код, смену состава агентов подтверждает дежурный.
Агент меняет живую прод систему и при этом остаётся проверяемым.
📎 Код: https://github.com/GoogleCloudPlatform/generative-ai/tree/main/agents/self-evolving-ai
Архитектура как пример, можно переработать под себя.
#Google #Агенты #DevOps #AI
———
@tsingular
Google Cloud выложила архитектуру Chrysalis.
Агент на Gemini 4 Argon и ADK не отвлекает дежурного инженера, а сам пишет код исправления и ставит его в работающий шлюз.
В демо примере обвал кэша Memorystore обнуляет попадания, пул соединений Cloud SQL упирается в 100%.
Готового инструмента нет и агент синтезирует ограничитель на 10 токенов и 40 запросов в секунду, проверяет дерево разбора, подписывает ключом Cloud KMS и монтирует в шлюз.
На второй симулятора волне из 50 запросов ошибки 5xx падают с 72,7–80,0% до нуля, P99 с 519,8 до 18,2 мс, первое смягчение приходит за 1,8 с вместо 15–45 минут.
Дальше агент считает вклад шагов: перезапуск базы получает минус за латентность 3 800 мс, ограничитель плюс 0,97.
Правило «при обвале кэша базу не перезапускать» сохраняется в памяти с подписью, а в схему агентов добавляется регулятор трафика.
💼 Действие ограничено четырьмя гейтами:
Model Armor чистит телеметрию от инъекций,
OPA держит нижний порог,
Binary Authorization не пускает неподписанный код, смену состава агентов подтверждает дежурный.
Агент меняет живую прод систему и при этом остаётся проверяемым.
📎 Код: https://github.com/GoogleCloudPlatform/generative-ai/tree/main/agents/self-evolving-ai
Архитектура как пример, можно переработать под себя.
#Google #Агенты #DevOps #AI
———
@tsingular
✍5🔥2⚡1
Forwarded from e/acc
Я прочитал гигастатью "Командные высоты" о стратегии в мире с ИИ, хочу поделиться некоторыми основными трендами из статьи. Значительная часть текста посвящена стратегии американского ИИ. Статья названа как эхо идее Ленина о командных высотах как способу перехода к НЭП - государство должно контролировать главное, а именно промышленность, финансы, транспорт.
В случае ИИ нас ждет не НЭП, а диффузия в экономику, но командные высоты по-прежнему остаются. Вчера это были лабы, чипы и датацентры, завтра это "рельсы" доставки ИИ в экономику. Мультимиллиардерами станут те, кто создают околомонопольные системы создания ценности в экономике. В статье вырезан кусок о том что это именно такое, но очевидные вещи — платежи и новые финансы (стейблы как способ экспорта доллара), дистрибуция на миллиарды людей, легализация ответственности (лицензии и юрисдикции), ролапы и трансформация старых компаний через ИИ.
Кроме этого, есть ряд трендов, с которыми сложно поспорить, но важно держать в голове при планировании:
- Образование перестаёт быть социальным лифтом
Идея "получил диплом - получил работу" мертва. Учиться по-прежнему важно, но это больше не гарантия. Молодые специалисты на старых ролях больше не нужны. Либо прыжок веры до пост-скарсити (хз, лет 10-20-30?), либо придумать себе занятость а не искать на рынке. Первыми страдают начинающие позиции: компании не столько увольняют, сколько перестают нанимать молодых.
- Гражданство дорожает
Эмиграция как способ выбраться закрывается: богатые страны больше не нуждаются в лишних рабочих руках. Паспорт США или ЕС становится одним из самых ценных активов (хотя ЕС летит прямиком в ад).
- Данные ценны сейчас, но это ненадолго.
Сегодня лаборатории платят за уникальные данные, особенно за полные датасеты многих лет работы крупных компаний. Но когда модели достаточно обучатся + заведется continual learning, большинство датасетов обесценится, так что продавать нужно сейчас.
- Неравенство растет, но между богатыми
Раньше разрыв был между владельцами активов и наёмными работниками. Теперь он пройдёт между владельцами старых активов и новых. IPO SpaceX, OpenAI, Anthropic создаст больше миллиардеров, чем когда-либо за один год или даже десятилетие.
Авторы приводят пример газет: в 1984 году Баффет писал, что экономика доминирующей городской газеты одна из лучших в бизнесе, причём качество газеты почти не важно, важна монополия на местную рекламу. Потом реклама ушла в Google, командная высота изменилась. Баффет продолжал покупать газеты до 2012 года, всего примерно на $344M, а в 2020 продал их все за $140M.
Вывод: что вчера было высотой, стало газетой. Главный риск - остаться в рынке или с активами, которые обесцениваются.
В случае ИИ нас ждет не НЭП, а диффузия в экономику, но командные высоты по-прежнему остаются. Вчера это были лабы, чипы и датацентры, завтра это "рельсы" доставки ИИ в экономику. Мультимиллиардерами станут те, кто создают околомонопольные системы создания ценности в экономике. В статье вырезан кусок о том что это именно такое, но очевидные вещи — платежи и новые финансы (стейблы как способ экспорта доллара), дистрибуция на миллиарды людей, легализация ответственности (лицензии и юрисдикции), ролапы и трансформация старых компаний через ИИ.
Кроме этого, есть ряд трендов, с которыми сложно поспорить, но важно держать в голове при планировании:
- Образование перестаёт быть социальным лифтом
Идея "получил диплом - получил работу" мертва. Учиться по-прежнему важно, но это больше не гарантия. Молодые специалисты на старых ролях больше не нужны. Либо прыжок веры до пост-скарсити (хз, лет 10-20-30?), либо придумать себе занятость а не искать на рынке. Первыми страдают начинающие позиции: компании не столько увольняют, сколько перестают нанимать молодых.
- Гражданство дорожает
Эмиграция как способ выбраться закрывается: богатые страны больше не нуждаются в лишних рабочих руках. Паспорт США или ЕС становится одним из самых ценных активов (хотя ЕС летит прямиком в ад).
- Данные ценны сейчас, но это ненадолго.
Сегодня лаборатории платят за уникальные данные, особенно за полные датасеты многих лет работы крупных компаний. Но когда модели достаточно обучатся + заведется continual learning, большинство датасетов обесценится, так что продавать нужно сейчас.
- Неравенство растет, но между богатыми
Раньше разрыв был между владельцами активов и наёмными работниками. Теперь он пройдёт между владельцами старых активов и новых. IPO SpaceX, OpenAI, Anthropic создаст больше миллиардеров, чем когда-либо за один год или даже десятилетие.
Авторы приводят пример газет: в 1984 году Баффет писал, что экономика доминирующей городской газеты одна из лучших в бизнесе, причём качество газеты почти не важно, важна монополия на местную рекламу. Потом реклама ушла в Google, командная высота изменилась. Баффет продолжал покупать газеты до 2012 года, всего примерно на $344M, а в 2020 продал их все за $140M.
Вывод: что вчера было высотой, стало газетой. Главный риск - остаться в рынке или с активами, которые обесцениваются.
🔥8✍5⚡4👍3❤2❤🔥1
Forwarded from НИИ ИИ
Media is too big
VIEW IN TELEGRAM
ElevenLabs выпустила SFX v3, новую модель для звуковых эффектов. Модель уже работает в ElevenCreative и ElevenAPI.
В ElevenLabs исходят из того, что большая сцена редко держится на одном звуке. Поэтому SFX v3 по одному текстовому промпту собирает более насыщенные и точные эффекты, чем раньше.Отдельно в новой версии подтянули музыку и вокал.
ElevenLabs продолжает развивать свою платформу, и каждое новое обновление подтверждает, что они далеко впереди всех остальных генераторов: сначала голоса, теперь и эффекты.
pimenov.ai/blog
В ElevenLabs исходят из того, что большая сцена редко держится на одном звуке. Поэтому SFX v3 по одному текстовому промпту собирает более насыщенные и точные эффекты, чем раньше.Отдельно в новой версии подтянули музыку и вокал.
ElevenLabs продолжает развивать свою платформу, и каждое новое обновление подтверждает, что они далеко впереди всех остальных генераторов: сначала голоса, теперь и эффекты.
pimenov.ai/blog
👍8🔥3❤2⚡2
Пузырь ИИ продолжает лопаться, рынки рушатся, как и цены на подписку на ИИзбранное
Мы же сегодня тыквенный спас отмечаем? :)
Посмотрел тут в магазине тыква стоит около 100р за кг.
Т.е. выбор такой у вас, - 1 тыква или подписка на месяц отборных материалов, руководств и эфиров по ИИ!
За 5 месяцев собралась и продолжает пополняться еженедельно большая практическая библиотека.
🎓 16 записей обучающих эфиров — более 20 часов видео. От основ LLM и промпт-инжиниринга до RAG, агентов, дообучения моделей, GPU-инфраструктуры и мультиагентной разработки.
📚 Десятки руководств, презентаций и шпаргалок. Архитектура корпоративного ИИ, локальные модели, безопасность, автоматизация, инструменты и фреймворки.
🛠 Готовые навыки для ИИ-агентов. Проверка компаний, работа с документами, генерация презентаций и инфографики, программирование, исследования и автоматизация бизнес-процессов.
📊 Исследования и справочники. 21 отчёт о внедрении ИИ крупнейшими компаниями, каталог 366 российских ИИ-компаний, подборки инструментов и практических кейсов.
💻 Реальные эксперименты. Собственные ИИ-агенты, команды разработчиков, системы самоулучшения, обучение моделей, работающие прототипы и разборы полученных результатов.
🏢 ИИ для бизнеса. Методологии внедрения, экономическая эффективность, стратегии трансформации, архитектуры и корпоративные сценарии.
Уже 175 публикаций, а главное — материалы, которые можно скачать, изучить и применить на практике.
Это не новостной канал. Это растущая база знаний, инструментов и моего личного опыта работы с ИИ.
Помимо всего прочего подписчикам открывается доступ к обучающему порталу для самостоятельного изучения.
Ну и, конечно, прямые эфиры, не только формате лекций, но и в формате совместных обсуждений и обменом опытом. (ближайший завтра в 20:00 мск)
Заходите!
Акция продлится до 23:59 воскресенья:
всего 975р.1500р
https://paywall.pw/tsingular_favorites
#ИИзбранное
------
@tsingular
Мы же сегодня тыквенный спас отмечаем? :)
Посмотрел тут в магазине тыква стоит около 100р за кг.
Т.е. выбор такой у вас, - 1 тыква или подписка на месяц отборных материалов, руководств и эфиров по ИИ!
За 5 месяцев собралась и продолжает пополняться еженедельно большая практическая библиотека.
🎓 16 записей обучающих эфиров — более 20 часов видео. От основ LLM и промпт-инжиниринга до RAG, агентов, дообучения моделей, GPU-инфраструктуры и мультиагентной разработки.
📚 Десятки руководств, презентаций и шпаргалок. Архитектура корпоративного ИИ, локальные модели, безопасность, автоматизация, инструменты и фреймворки.
🛠 Готовые навыки для ИИ-агентов. Проверка компаний, работа с документами, генерация презентаций и инфографики, программирование, исследования и автоматизация бизнес-процессов.
📊 Исследования и справочники. 21 отчёт о внедрении ИИ крупнейшими компаниями, каталог 366 российских ИИ-компаний, подборки инструментов и практических кейсов.
💻 Реальные эксперименты. Собственные ИИ-агенты, команды разработчиков, системы самоулучшения, обучение моделей, работающие прототипы и разборы полученных результатов.
🏢 ИИ для бизнеса. Методологии внедрения, экономическая эффективность, стратегии трансформации, архитектуры и корпоративные сценарии.
Уже 175 публикаций, а главное — материалы, которые можно скачать, изучить и применить на практике.
Это не новостной канал. Это растущая база знаний, инструментов и моего личного опыта работы с ИИ.
Помимо всего прочего подписчикам открывается доступ к обучающему порталу для самостоятельного изучения.
Ну и, конечно, прямые эфиры, не только формате лекций, но и в формате совместных обсуждений и обменом опытом. (ближайший завтра в 20:00 мск)
Заходите!
Акция продлится до 23:59 воскресенья:
всего 975р.
https://paywall.pw/tsingular_favorites
#ИИзбранное
------
@tsingular
🔥5🤩5❤2👾2⚡1🏆1🗿1
Learn Harness Engineering: бесплатный курс про инженерию окружения для ИИ-агентов
🎯 Нашел интересный курс по сборке агентского окружения.
Курс из 14 лекций и 8 практических проектов, лицензия MIT, есть русский перевод.
Задача курса,- показать, как контролировать агента в длительной автономной работе, сохраняя управляемость и качество результата.
🏗 Что разбирают в программе. Архитектуры окружений Claude Code, Codex, Pi и DeepSeek: память, сжатие контекста, хуки, изоляция задач в отдельных рабочих копиях.
Работа между сессиями: журнал прогресса, список функций, история коммитов и передача задачи так, чтобы новая сессия начиналась с места остановки.
Автономные циклы Goal Loop и Timer Loop и схема Maker–Checker, где исполнитель и проверяющий разделены.
Переход от циклов к графам выполнения: параллельные ветки, синхронизация, условный откат и точка согласования с человеком.
Экспериментальная оценка обвязки: варианты с отключёнными компонентами, чтобы видеть, что даёт прирост, а что нет.
🖥 Практика и материалы. Практическая работа построена на одном приложении на Electron, личной базе знаний; усложняется в первую очередь агентская инфраструктура, от базовых инструкций до мультиагентных процессов.
В комплекте шаблоны AGENTS.md, init.sh, feature_list.json и навык harness-creator для собственного проекта.
💡 Авторы держат агентскую разработку в рамках инженерии: состояние на диске, проверяемый результат, оценка решений сравнением.
Хороший материал для тех, кто уже работает с кодовыми агентами и хочет научиться самостоятельно систематизировать окружение.
📎 https://walkinglabs.github.io/learn-harness-engineering/
#обучение #курсы #агенты #Harness #Engineering
------
@tsingular
🎯 Нашел интересный курс по сборке агентского окружения.
Курс из 14 лекций и 8 практических проектов, лицензия MIT, есть русский перевод.
Задача курса,- показать, как контролировать агента в длительной автономной работе, сохраняя управляемость и качество результата.
🏗 Что разбирают в программе. Архитектуры окружений Claude Code, Codex, Pi и DeepSeek: память, сжатие контекста, хуки, изоляция задач в отдельных рабочих копиях.
Работа между сессиями: журнал прогресса, список функций, история коммитов и передача задачи так, чтобы новая сессия начиналась с места остановки.
Автономные циклы Goal Loop и Timer Loop и схема Maker–Checker, где исполнитель и проверяющий разделены.
Переход от циклов к графам выполнения: параллельные ветки, синхронизация, условный откат и точка согласования с человеком.
Экспериментальная оценка обвязки: варианты с отключёнными компонентами, чтобы видеть, что даёт прирост, а что нет.
🖥 Практика и материалы. Практическая работа построена на одном приложении на Electron, личной базе знаний; усложняется в первую очередь агентская инфраструктура, от базовых инструкций до мультиагентных процессов.
В комплекте шаблоны AGENTS.md, init.sh, feature_list.json и навык harness-creator для собственного проекта.
💡 Авторы держат агентскую разработку в рамках инженерии: состояние на диске, проверяемый результат, оценка решений сравнением.
Хороший материал для тех, кто уже работает с кодовыми агентами и хочет научиться самостоятельно систематизировать окружение.
📎 https://walkinglabs.github.io/learn-harness-engineering/
#обучение #курсы #агенты #Harness #Engineering
------
@tsingular
1👍6✍4⚡3🤩1🆒1
Character.ai обанкротилась, и теперь переписки пользователей могут уйти в Disney
🎯 12 октября Character Technologies, владелец Character.ai, подала заявление о банкротстве.
Убыток 8–9 млн долларов в месяц при 12 млн активных пользователей; продажу активов ждут в конце ноября.
🧾 Что продают. Disney предложила 20 млн за бессрочную лицензию на часть интеллектуальной собственности; данные в сделку не входят, но в судебных документах указано, что их можно продать отдельно: переписки с персонажами остаются доступны к покупке.
👥 Почему это касается всех.
С персонализированным ботом люди рассказывают много всего личного,- обсуждают психологические проблемы, здоровье, близких, политику.
Причем в датасете оказываются даже те, кто сервисом не пользовался, но пользователи обсуждают их с ботом и сливают данные.
📜 Защиты нет. Политика конфиденциальности называет банкротство исключительным случаем.
В ЕС покупатель обязан соблюдать исходную политику, а она разрешает обучать модели и строить рекламные профили.
🧹 Что делать. Удалить данные, пока сервис работает: инструкция есть в объявлении о банкротстве.
Собирайте своих ботов. Ваши данные должны принадлежать вам.
📎 https://support.character.ai/hc/en-us/articles/15063461160475-How-do-I-delete-my-account
#CharacterAI #Приватность #AISafety
------
@tsingular
🎯 12 октября Character Technologies, владелец Character.ai, подала заявление о банкротстве.
Убыток 8–9 млн долларов в месяц при 12 млн активных пользователей; продажу активов ждут в конце ноября.
🧾 Что продают. Disney предложила 20 млн за бессрочную лицензию на часть интеллектуальной собственности; данные в сделку не входят, но в судебных документах указано, что их можно продать отдельно: переписки с персонажами остаются доступны к покупке.
👥 Почему это касается всех.
С персонализированным ботом люди рассказывают много всего личного,- обсуждают психологические проблемы, здоровье, близких, политику.
Причем в датасете оказываются даже те, кто сервисом не пользовался, но пользователи обсуждают их с ботом и сливают данные.
📜 Защиты нет. Политика конфиденциальности называет банкротство исключительным случаем.
В ЕС покупатель обязан соблюдать исходную политику, а она разрешает обучать модели и строить рекламные профили.
🧹 Что делать. Удалить данные, пока сервис работает: инструкция есть в объявлении о банкротстве.
Собирайте своих ботов. Ваши данные должны принадлежать вам.
📎 https://support.character.ai/hc/en-us/articles/15063461160475-How-do-I-delete-my-account
#CharacterAI #Приватность #AISafety
------
@tsingular
🔥 +42 записи за две недели. Волна открытых аналогов коммерческого ПО продолжается
Продолжаю следить за каталогом Remade.wiki, где собирают проекты по воссозданию известных коммерческих программ.
На 19 октября было 136 записей, на 1 ноября — уже 178 (+30,9%).
Это и релизы и вспомогательные инструменты.
Что интересного появилось в каталоге:
🎨 Графика и 3D
- Hew — альтернатива SketchUp
- Serpentine3D — Rhinoceros 3D
- AniCraft — Adobe Animate
- WoodSketch — SketchUp для деревообработки
💻 Офис и совместная работа
- ElixirOffice — Word, Excel, PowerPoint
- Rusty Teams — Microsoft Teams
- Royal Tasks — Trello
- DashCraft — Microsoft Power BI
⚙️ Системное ПО и инструменты
- LiberNT — Windows
- RSEdit — Sublime Text
- Recordly — Loom
- Open Notebook — Google NotebookLM
- SimpMusic — YouTube Music
А что с качеством?
Пока картина неоднородная. Есть развивающиеся приложения, экспериментальные реализации, форки и проекты, существующие лишь в виде планов.
Например, AssetCraft пока в основном реализует CLI для работы с Fab, а полноценный графический интерфейс ещё только планируется. PhotonForge вообще имеет статус Planned.
Вопрос, конечно, пока один,- сколько из этих проектов переживёт первые 3–6 месяцев? :)
Поэтому запустил ежемесячный мониторинг каталога: буду отслеживать новые проекты, релизы, содержательные коммиты, исчезнувшие репозитории и признаки прекращения разработки.
🔗 https://remade.wiki/explore/
#OpenSource #Remade #Разработка #VibeCoding
------
@tsingular
Продолжаю следить за каталогом Remade.wiki, где собирают проекты по воссозданию известных коммерческих программ.
На 19 октября было 136 записей, на 1 ноября — уже 178 (+30,9%).
Это и релизы и вспомогательные инструменты.
Что интересного появилось в каталоге:
🎨 Графика и 3D
- Hew — альтернатива SketchUp
- Serpentine3D — Rhinoceros 3D
- AniCraft — Adobe Animate
- WoodSketch — SketchUp для деревообработки
💻 Офис и совместная работа
- ElixirOffice — Word, Excel, PowerPoint
- Rusty Teams — Microsoft Teams
- Royal Tasks — Trello
- DashCraft — Microsoft Power BI
⚙️ Системное ПО и инструменты
- LiberNT — Windows
- RSEdit — Sublime Text
- Recordly — Loom
- Open Notebook — Google NotebookLM
- SimpMusic — YouTube Music
А что с качеством?
Пока картина неоднородная. Есть развивающиеся приложения, экспериментальные реализации, форки и проекты, существующие лишь в виде планов.
Например, AssetCraft пока в основном реализует CLI для работы с Fab, а полноценный графический интерфейс ещё только планируется. PhotonForge вообще имеет статус Planned.
Вопрос, конечно, пока один,- сколько из этих проектов переживёт первые 3–6 месяцев? :)
Поэтому запустил ежемесячный мониторинг каталога: буду отслеживать новые проекты, релизы, содержательные коммиты, исчезнувшие репозитории и признаки прекращения разработки.
🔗 https://remade.wiki/explore/
#OpenSource #Remade #Разработка #VibeCoding
------
@tsingular
🤩4⚡2❤1🔥1
ChatGPT: ссылка на общий чат выполняла чужой код в аккаунте
🎯 18 октября Parameter сообщила OpenAI об уязвимости, через восемь дней веб-интерфейс её закрыли. Оценку подняли до P1, за отчёт заплатили 5 000 долларов.
🔗 Приманка. Обычная ссылка на публичный чат: её присылают письмом, в мессенджере или в тикете. Жертва открывает страницу и один раз нажимает Preview; в поздней версии превью открывалось само.
⚙️ Цепочка. Превью рисует HTML в изолированном фрейме, и песочница устояла. Выход нашёлся рядом: интерактивный график подгружал MathLive в основную страницу, её обработчик принимал раскладку клавиатуры от любого отправителя и пропускал HTML. Из него собирался фрейм, который браузер считал частью chatgpt.com, а код брался с YouTube.
🕵️ Что получал атакующий. Код работал с правами вошедшего пользователя и обращался к внутренним API: перечислил недавние чаты, открыл приватный диалог, который никому не расшаривали, и отправил часть переписки на сервер исследователей.
🛠 Что делать. Ничего: исправление на стороне OpenAI. Блокировка шага с YouTube проблему не решала, путь передачи HTML в основную страницу оставался.
💡 Песочница в окне не спасает, если рядом живёт компонент, который принимает сообщения без проверки отправителя.
📎 https://www.parameter.ai/labs/we-found-a-gap-at-openai
#ChatGPT #OpenAI #cybersecurity #AISafety
------
@tsingular
🎯 18 октября Parameter сообщила OpenAI об уязвимости, через восемь дней веб-интерфейс её закрыли. Оценку подняли до P1, за отчёт заплатили 5 000 долларов.
🔗 Приманка. Обычная ссылка на публичный чат: её присылают письмом, в мессенджере или в тикете. Жертва открывает страницу и один раз нажимает Preview; в поздней версии превью открывалось само.
⚙️ Цепочка. Превью рисует HTML в изолированном фрейме, и песочница устояла. Выход нашёлся рядом: интерактивный график подгружал MathLive в основную страницу, её обработчик принимал раскладку клавиатуры от любого отправителя и пропускал HTML. Из него собирался фрейм, который браузер считал частью chatgpt.com, а код брался с YouTube.
🕵️ Что получал атакующий. Код работал с правами вошедшего пользователя и обращался к внутренним API: перечислил недавние чаты, открыл приватный диалог, который никому не расшаривали, и отправил часть переписки на сервер исследователей.
🛠 Что делать. Ничего: исправление на стороне OpenAI. Блокировка шага с YouTube проблему не решала, путь передачи HTML в основную страницу оставался.
💡 Песочница в окне не спасает, если рядом живёт компонент, который принимает сообщения без проверки отправителя.
📎 https://www.parameter.ai/labs/we-found-a-gap-at-openai
#ChatGPT #OpenAI #cybersecurity #AISafety
------
@tsingular
🤨3✍2⚡1🎉1
ИИПанорама: Заблокированные пользователи массово вступают в браки с гражданами США ради семейного доступа к Claude
Зафиксирован резкий рост числа международных браков с гражданами США. Причиной неожиданного всплеска интереса к американским женихам и невестам стали новейшие модели искусственного интеллекта компании Anthropic.
По данным источников в брачных агентствах, главным критерием при выборе супруга теперь стали не возраст, внешность или материальное положение, а наличие действующей подписки Claude и американского платёжного средства.
«Раньше девушки интересовались, есть ли у мужчины дом и автомобиль. Теперь интересуются лимитами токенов, доступом к Opus и размером контекстного окна», — рассказала руководитель брачного агентства.
Особой популярностью пользуются жители Калифорнии, обладающие не только американским гражданством, но и низкой сетевой задержкой до серверов Anthropic.
В миграционной службе США уже предложили считать такие браки фиктивными, если молодожёны за первые полгода совместной жизни обменялись менее чем десятью романтическими сообщениями, но потратили более миллиарда токенов.
Между тем в США появились первые сообщения о разводах после исчерпания месячных лимитов. Один из пострадавших американцев рассказал журналистам, что супруга перестала с ним разговаривать сразу после появления сообщения «You've reached your usage limit».
В Anthropic ситуацию комментировать отказались, однако источники утверждают, что компания рассматривает возможность введения семейного тарифа с обязательным подтверждением супружеских отношений каждые 200 тысяч токенов.
#юмор #ИИПанорама
———
@tsingular
Зафиксирован резкий рост числа международных браков с гражданами США. Причиной неожиданного всплеска интереса к американским женихам и невестам стали новейшие модели искусственного интеллекта компании Anthropic.
По данным источников в брачных агентствах, главным критерием при выборе супруга теперь стали не возраст, внешность или материальное положение, а наличие действующей подписки Claude и американского платёжного средства.
«Раньше девушки интересовались, есть ли у мужчины дом и автомобиль. Теперь интересуются лимитами токенов, доступом к Opus и размером контекстного окна», — рассказала руководитель брачного агентства.
Особой популярностью пользуются жители Калифорнии, обладающие не только американским гражданством, но и низкой сетевой задержкой до серверов Anthropic.
В миграционной службе США уже предложили считать такие браки фиктивными, если молодожёны за первые полгода совместной жизни обменялись менее чем десятью романтическими сообщениями, но потратили более миллиарда токенов.
Между тем в США появились первые сообщения о разводах после исчерпания месячных лимитов. Один из пострадавших американцев рассказал журналистам, что супруга перестала с ним разговаривать сразу после появления сообщения «You've reached your usage limit».
В Anthropic ситуацию комментировать отказались, однако источники утверждают, что компания рассматривает возможность введения семейного тарифа с обязательным подтверждением супружеских отношений каждые 200 тысяч токенов.
#юмор #ИИПанорама
———
@tsingular
😁18🤣4🎃2⚡1