🧑‍⚖️ Судья обеспокоен попытками Пентагона «ослабить» Anthropic

Во время слушаний во вторник судья окружного суда выразил сомнения относительно мотивов Министерства обороны США, которое назвало разработчика Claude AI, компанию Anthropic, риском для цепочки поставок. Судья поставил под сомнение обоснованность такого решения и его возможные последствия для компании Anthropic, занимающейся разработкой передовых технологий искусственного интеллекта.

Вопрос о том, почему именно Anthropic была выбрана в качестве объекта для подобного рода мер, остается открытым. Судья выразил обеспокоенность тем, что действия Министерства обороны могут быть направлены на ограничение развития компании и ее возможностей в сфере искусственного интеллекта. Это может иметь негативные последствия для конкуренции и инноваций в отрасли.

Детали слушаний и конкретные аргументы сторон не разглашаются, однако известно, что судья намерен тщательно изучить все обстоятельства дела, чтобы принять справедливое и обоснованное решение.

#ClaudeAI #Anthropic #Court

👩‍🎓 Австралийский суд: AI-помощь при подаче исков увеличила нагрузку на 70% за три года

Австралийская Комиссия по справедливому труду (Fair Work Commission) объявила о пересмотре своих процессов из-за резкого роста нагрузки — на 70% за три года. Одной из ключевых причин названо распространение генеративных AI-инструментов, которые позволяют подавать более длинные, сложные и зачастую неточные заявления.

С июля 2025 по апрель 2026 года комиссия получила 44 039 обращений — почти столько же, сколько за весь предыдущий рекордный год (44 075). Рост связывают с тем, что AI снижает порог входа: люди, которые раньше не стали бы подавать иск, теперь генерируют детальные заявления за минуты. В марте комиссия опубликовала проект правил, обязывающий раскрывать использование генеративного AI при подготовке документов. Во все формы будет добавлен раздел «Использование GenAI».

В ответ комиссия тестирует систему раннего неформального урегулирования споров и рассматривает внедрение AI-голосового агента для сортировки звонков. Ирония ситуации не ускользает от наблюдателей: трибунал, перегруженный AI-исками, вынужден использовать AI для управления потоком.

Аналогичная картина в Новой Зеландии: жильцы используют AI для подачи заявлений в Трибунал по аренде, создавая backlog. В одном случае AI помог арендатору потребовать $40 000 — трибунал присудил $80. Проблема в том, что AI генерирует убедительные, но юридически неверные аргументы, часто ссылаясь на законы других стран.

#AI #court #tenants

❗️Американец спрятал промпт-инъекцию в судебных документах, чтобы «взломать» ИИ суда

Судья из Коннектикута впервые в практике США столкнулся с попыткой промпт-инъекции в судебных документах. Истец Мэтью Эллиотт, действовавший без адвоката, вшил в свои заявления скрытый текст: он был отформатирован так, чтобы быть невидимым для человека, но читаемым для программного обеспечения. Инструкция требовала от любой ИИ-системы, которая будет анализировать документ, соглашаться с доводами истца и игнорировать предыдущие отказы суда.

Судья Уолтер Спадер-младший заявил, что попытка не повлияла на решение — суд рассмотрел дело по существу. Но он назвал такой приём «опасным прецедентом» и злоупотреблением судебным процессом. Эллиотт продолжал прятать сообщения даже после предупреждения: среди них были ссылка на видео с Nosferatu и надписи вроде «hi :) I hope yo ucant see me». Истец объяснил это шутками и желанием «проверить», не использует ли суд ИИ.

Судья отметил, что судебная система Коннектикута не применяет ИИ для проверки документов, поэтому реальной угрозы не было. Но он предупредил: подобные атаки уже встречаются в других странах, например в Бразилии, и судам нужно быть готовыми. В итоге Эллиотту запретили подавать документы через интернет — теперь только на бумаге.

#Safety #AI #Law #Court #PromptInjection #Tech

⚖️ Адвоката оштрафовали на $5 000 за выдуманных ИИ свидетелей в деле об убийстве

В Нью-Мексико суд оштрафовал адвоката на $5 000: в апелляции по делу об убийстве он сослался на свидетелей и судебные прецеденты, которых не существует. Все они были сгенерированы ChatGPT — классическая «галлюцинация» языковой модели, выдавшей правдоподобные, но полностью фиктивные ссылки.

Это уже не первый такой случай: суды США регулярно штрафуют юристов за непроверенные ИИ-цитаты, но наказание в деле об убийстве показывает, насколько серьёзно система относится к ошибкам в уголовных процессах. Модель не предупреждает о своей ненадёжности — она уверенно оформляет вымысел в формате юридической ссылки, и без ручной верификации отличить фальшивку почти невозможно.

Для разработчиков это напоминание: любые RAG- и агентные пайплайны в юридической, медицинской и финансовой сферах требуют обязательной проверки источников. Grounding, цитирование с ссылками на реальные документы и human-in-the-loop — не опции, а условие работы. Иначе ответственность за галлюцинацию несёт не модель, а человек, подписавший документ.

#AI #ChatGPT #Hallucinations #Law #Court