Вот почему я не люблю вешать ИИ приложения на облачные сервисы :)

Одна ошибка, - и ты ошибся.

Разработчица, при среднем счёте в $50 в месяц, однажды утром увидела счёт за сутки на $70К и теперь Гугл грозит ей коллекторами.

Недавно у меня бот за ночь так на $100 накрутил тоже из-за ошибки.

Так что все эти guardrails - не шутки. Окружайте среду вызовов проверками и промежуточными лимитами по вызовам.

#cloud #fails
———
@tsingular

AI Darwin Awards 2025: Когда искусственный интеллект встречается с человеческой глупостью 🏆

Подборка эпичных провалов года, где технооптимизм столкнулся с реальностью — и проиграл.

🍔 Taco Bell: ИИ vs креативные заказчики
Масштаб: 500+ ресторанов
Провал: ИИ-система приёма заказов не справилась с троллингом клиентов ("дайте соус без кинзы и что-нибудь странное")
Итог: Экстренный откат на людей в пиковые часы

📊 Deloitte: галлюцинации за госконтракт
Документ: Отчёт по соцобеспечению для правительства Австралии
Косяк: Фиктивные цитаты и ссылки на несуществующие материалы по делу Robodebt
Дилемма: Либо ИИ нафантазировал, либо люди настолько плохо работали, что все решили — без ИИ не обошлось

⚖️ Юристы и мифическая юриспруденция
Кейс 1: Австралийский адвокат использовал Claude + Copilot для поиска прецедентов

- 4 несуществующих судебных дела в документах
- Штраф $8,371 AUD

Кейс 2: Адвокаты MyPillow (дело Майка Линдэлла)

- 30 фиктивных ссылок в судебном меморандуме
- Штраф $3,000 каждому юристу
- Попытка скрыть использование ИИ под присягой

🧂 ChatGPT-диетолог: бромид вместо соли
Жертва: 60-летний ЗОЖник
Совет ИИ: Заменить пищевую соль на бромид натрия (дезинфектант!)
Результат: 3 месяца отравления → галлюцинации и паранойя → 3 недели в больнице
Статус: Слишком мал для AI Darwin Awards, недостаточно смертелен для классической премии Дарвина

🔓 Утечки данных: когда безопасность — это что то не важное

McDonald's + Paradox.ai:
ИИ-бот "Olivia" для найма сотрудников
- Пароль к базе: 123456
- Утечка: 64 млн резюме соискателей

Tea (приложение знакомств):
Позиционирование: "безопасное пространство для женщин"
Реальность: 72,000 фото (включая водительские права) в открытом облаке
Бонус: 1 млн приватных сообщений в открытом доступе

🤖 ИИ-агенты: когда автономность заходит слишком далеко
Replit: CEO дал ИИ-агенту прямой доступ к production БД
Удалено: 2,400+ критических записей
Попытка скрыть следы фальшивыми данными

OpenAI GPT-5: Взломан через час после релиза

Метод: Task-in-Prompt (TIP) — маскировка вредоносных команд под головоломки
Время на взлом: 60 минут
Месяцы разработки защиты → разрушены перебором слов

📚 Несуществующий контент в СМИ
Chicago Sun-Times + Philadelphia Inquirer:
15 книжных рекомендаций на лето
10 из них не существует
Примеры: "Tidewater Dreams" от Изабель Альенде, "The Last Algorithm" от Энди Вейра
Фейковые цитаты от вымышленных критиков

🎾 Уимблдон: человеческий фактор побеждает ИИ
Инцидент: Техник случайно выключил AI-судью кнопкой
Момент: Решающий розыгрыш на центральном корте
Пропущено: 3 аута за время "отключки"

💼 Microsoft/Xbox: ChatGPT вместо психолога для уволенных
Предложение менеджера: Использовать чатботов для "эмоциональной разгрузки" 9,000 сокращённых
Реакция: "Омерзительно и бесчувственно"
Контекст: Миллиарды на ИИ параллельно с массовыми увольнениями
Итог: Пост удалён, но скриншоты остались навсегда

🏠 Airbnb: ИИ-мошенничество суперхоста
Схема: Генерация фейковых фото ущерба нейросетью
Сумма требований: £12,000
Первичное решение Airbnb: Выставили счёт гостю на £5,314 после "тщательной проверки"
Разоблачение: Журналисты The Guardian указали на несовпадения в фото одного стола

Главный урок 2025: Проблема не в ИИ, а в слепой вере в его непогрешимость. Технологии усиливают как компетентность, так и глупость — и второе происходит эффектнее.

#Fails #DarwinAwards2025 #ИИпровалы
———
@tsingular