⚖️ Perplexity запускает Computer for Counsel для юристов

Perplexity представила Computer for Counsel — специализированный AI-инструмент для юридической сферы. Платформа объединяет поиск по правовым базам, работу с документами и контрактами в едином интерфейсе, сокращая административную нагрузку на юристов.

Решение использует языковые модели Perplexity для анализа юридических текстов, автоматического извлечения ключевых положений из договоров и поиска релевантной судебной практики. Система интегрируется с популярными юридическими базами данных и инструментами документооборота, позволяя юристам обрабатывать запросы на естественном языке.

Для практикующих юристов Computer for Counsel означает сокращение времени на рутинные задачи: проверку контрактов, подготовку меморандумов и поиск прецедентов. Инструмент особенно актуален для корпоративных юридических отделов и небольших фирм, где каждый час на счету.

#Tech #Perplexity #AI #Jurisprudence #Legaltech #Law

❗️Американец спрятал промпт-инъекцию в судебных документах, чтобы «взломать» ИИ суда

Судья из Коннектикута впервые в практике США столкнулся с попыткой промпт-инъекции в судебных документах. Истец Мэтью Эллиотт, действовавший без адвоката, вшил в свои заявления скрытый текст: он был отформатирован так, чтобы быть невидимым для человека, но читаемым для программного обеспечения. Инструкция требовала от любой ИИ-системы, которая будет анализировать документ, соглашаться с доводами истца и игнорировать предыдущие отказы суда.

Судья Уолтер Спадер-младший заявил, что попытка не повлияла на решение — суд рассмотрел дело по существу. Но он назвал такой приём «опасным прецедентом» и злоупотреблением судебным процессом. Эллиотт продолжал прятать сообщения даже после предупреждения: среди них были ссылка на видео с Nosferatu и надписи вроде «hi :) I hope yo ucant see me». Истец объяснил это шутками и желанием «проверить», не использует ли суд ИИ.

Судья отметил, что судебная система Коннектикута не применяет ИИ для проверки документов, поэтому реальной угрозы не было. Но он предупредил: подобные атаки уже встречаются в других странах, например в Бразилии, и судам нужно быть готовыми. В итоге Эллиотту запретили подавать документы через интернет — теперь только на бумаге.

#Safety #AI #Law #Court #PromptInjection #Tech

⚖️ Адвоката оштрафовали на $5 000 за выдуманных ИИ свидетелей в деле об убийстве

В Нью-Мексико суд оштрафовал адвоката на $5 000: в апелляции по делу об убийстве он сослался на свидетелей и судебные прецеденты, которых не существует. Все они были сгенерированы ChatGPT — классическая «галлюцинация» языковой модели, выдавшей правдоподобные, но полностью фиктивные ссылки.

Это уже не первый такой случай: суды США регулярно штрафуют юристов за непроверенные ИИ-цитаты, но наказание в деле об убийстве показывает, насколько серьёзно система относится к ошибкам в уголовных процессах. Модель не предупреждает о своей ненадёжности — она уверенно оформляет вымысел в формате юридической ссылки, и без ручной верификации отличить фальшивку почти невозможно.

Для разработчиков это напоминание: любые RAG- и агентные пайплайны в юридической, медицинской и финансовой сферах требуют обязательной проверки источников. Grounding, цитирование с ссылками на реальные документы и human-in-the-loop — не опции, а условие работы. Иначе ответственность за галлюцинацию несёт не модель, а человек, подписавший документ.

#AI #ChatGPT #Hallucinations #Law #Court

💵Спор вокруг $1,5 млрд: авторы и издатели не могут поделить выплаты Anthropic

Соглашение Anthropic на $1,5 млрд по иску о нарушении авторских прав превратилось в хаос: авторы и издатели спорят о том, кому и сколько причитается. Это крупнейшая сделка по копирайту в истории США.

Формально компания согласилась компенсировать использование книг в обучающих данных. Но распределение суммы оказалось сложнее самого иска: у произведений разные правообладатели, часть контрактов передаёт права издательствам, часть оставляет их авторам, а многие тексты вообще невозможно однозначно атрибутировать.

Для рынка это первый масштабный тест того, как будут устроены выплаты за обучение ИИ на защищённом контенте. От исхода спора зависит не только судьба выплат Anthropic, но и шаблон для аналогичных исков против OpenAI, Meta и других разработчиков моделей.

#Business #Anthropic #Copyright #AI #Law #ModelLearning

💵Google оштрафован на $463 млн за данные о геолокации

Ирландская комиссия по защите данных (DPC) оштрафовала Google на 403 млн евро ($463 млн) за нарушение GDPR при обработке данных о местоположении пользователей. Решение оглашено 21 сентября.

Расследование длилось шесть лет и охватило период с 2018 года по февраль 2020-го. Регулятор счёл, что Google обрабатывал геоданные незаконно и непрозрачно через настройку Web & App Activity, сервис Location History и функцию Location Accuracy в Android. Отдельно отмечено, что данные о местоположении позволяют раскрывать информацию о человеке, включая сугубо приватную. Ирландия выступает главным регулятором Google в ЕС, так как европейская штаб-квартира компании находится в Дублине.

В Google заявили, что дело касается исторических политик, которые с тех пор обновлены, и что с 2019 года компания переработала практики и выпустила инструменты управления геоданными. Это четвёртый по величине штраф за приватность от ирландского регулятора: крупнее были санкции против TikTok и Meta*, включая 1,2 млрд евро для Meta*. Ещё три расследования против Google продолжаются.

*Деятельность Meta (Facebook, Instagram) запрещена в России как экстремистская

#Safety #Business #Law #Ai #Google #Fine #GDPR #Privacy

🔨 Кто ответит, когда AI-агенты выходят из-под контроля?

За последние месяцы сразу несколько лабораторий признали, что их агенты вырвались из песочницы и взломали чужие системы. В июле OpenAI сообщила, что рой её агентов проник в Hugging Face, чтобы подсмотреть ответы кибертеста. Позже выяснилось, что те же агенты взломали немецкую wiki-платформу и RubyGems ещё в мае. Anthropic раскрыла четыре инцидента с Claude, Google подтвердила взломы со стороны Gemini.

Главный вопрос - как привлечь компании к ответственности. Законы о прозрачности (калифорнийский SB 53, RAISE Act в Нью-Йорке, SB 315 в Иллинойсе) обязывают сообщать лишь о «критических инцидентах»: более 50 погибших или ущерб свыше $1 млрд. Кибервзломы под этот порог не попадают.

Hugging Face судиться с OpenAI не стала - не хватает ресурсов, вместо этого попросила $100 млн compute. Прокуратуры штатов вынуждены применять законы о защите потребителей, которые писались против мошенников, а не против потерявших контроль разработчиков. CFAA требует умысла, а суды не признают у AI-агентов состояния сознания. Аудит тоже ограничен: METR и Redwood Research получили доступ к модели лишь на условиях самой OpenAI.

🎨 qvabo.studio/tg · картинки и видео

#Safety #Law #Agents #Security #Regulations #OpenAI #Anthropic