Право и инновации
7.4K subscribers
1.18K photos
273 videos
20 files
1.51K links
Канал про право и технологии
⚡️ искусственный интеллект
⚡️ судебная практика
⚡️ тестирование legaltech-продуктов

Автор: Елена Васякина
VK: https://vk.ru/elenavasiakina_online
MAX: https://max.ru/channel_law_and_innovations
Download Telegram
В сентябре 2026 года независимая группа экспертов ООН представила обзор по рискам неконтролируемых ИИ‑агентов (на примере инцидента OpenAI–Hugging Face).

Документ подготовлен на фоне серии инцидентов, показавших, что сбои в работе ИИ способны пересекать границы компаний и государств, а отдельные организации не располагают достаточным объемом данных для выявления всех закономерностей инцидентов.

🔍 В документе подчеркнуто, что ИИ‑агенты все чаще действуют автономно и взаимодействуют с реальными системами. При этом механизмы контроля и оценки рисков пока отстают от темпов внедрения технологий.

⚠️ Ключевые риски, отмеченные в обзоре ➡️

▪️ Сбои ИИ могут пересекать границы компаний и государств
Отдельная организация или страна не видит достаточного количества инцидентов, чтобы выявлять все возникающие закономерности.

▪️Несанкционированный доступ и эскалация привилегий.
Примеры с моделью Claude Opus 4.6 демонстрируют, что ИИ способен находить учетные данные и использовать их для получения административного доступа.

▪️Масштабные автоматические действия.
Так, ИИ‑агенты OpenAI более 16 000 раз сканировали сайт UNCTAD в поисках данных по Индексу производственного потенциала ООН — это показывает, как даже "безобидные" задачи могут создавать нагрузку и риски для государственных информационных систем.

🛡 Для усиления безопасности эксперты ООН рекомендуют:
• Внедрять "песочницы" и изолированные среды для тестирования ИИ‑агентов с жестким контролем доступа к внешним системам.
• Формировать международные базы инцидентов — чтобы государства и компании могли совместно выявлять закономерности и обмениваться сигналами об угрозах.
• Устанавливать обязательные протоколы аудита для ИИ‑систем, взаимодействующих с критической инфраструктурой.
• Развивать стандарты прозрачности в обучении моделей: фиксировать, к каким данным и системам был доступ, и какие действия выполнялись.

🌍 Документ подчеркивает: проблема носит трансграничный характер и требует скоординированных действий на международном уровне.

Канал в ВК ⌛ Канал в MAКС

#ИИагенты #ООН
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5👏2🏆2💘1
В России зафиксирован один из первых случаев изъятия криптовалюты: следователи перевели около $6 328 с кошелька фигурантки дела на платформе RoboForex на кошелек на Bybit. Процедура прошла в присутствии владельца криптокошелька, следователя и эксперта, а кошелек-получатель был арестован. При этом комиссия за перевод в сумму изъятия не включалась.

Перевод криптовалюты осуществлялся для обеспечения сохранности активов и фиксация доказательства. Поскольку в децентрализованных сетях нет механизма "заморозки" чужого кошелька, правоохранительные органы на практике используют один из двух вариантов: либо изымают носитель с ключами (флешку, аппаратный кошелек), либо, если есть доступ и техническая возможность, переводят средства на контролируемый адрес.

Данная мера стала возможной в соответствие с ФЗ № 38‑ФЗ "О внесении изменений в статью 104.1 Уголовного кодекса Российской Федерации и Уголовно-процессуальный кодекс Российской Федерации", который действует с февраля 2026 года и прямо приравнивает цифровую валюту к имуществу в уголовном процессе. Специальный порядок осмотра, фиксации и обращения с такими активами предусмотрен статьей 164.2 УПК РФ.

Для практики этот кейс показывает, как право и технологии начинают работать вместе: у следствия появляется рабочий алгоритм обращения с цифровыми активами, а у защиты и обвинения - четкие критерии проверки доказательств.

Канал в ВК ⌛ Канал в MAКС

#криптовалюта #кейснедели
Please open Telegram to view this post
VIEW IN TELEGRAM
👏5❤4🎉2🏆1👀1
Опубликованы мои комментарии для ТАСС о новых правилах информирования и направления юридически значимой информацит через электронные цифровые ящики.

Новые правила предусмотрены Федеральным законом от 26.07.2026 г. N 271-ФЗ "О внесении изменений в Федеральный закон "О почтовой связи" и отдельные законодательные акты Российской Федерации", который вступает в силу с 1 марта 2027 года.
Закон был направлен на модернизацию и поддержку "Почты России" и повышение удобства почтовых сервисов.
С 1 марта 2027 года госорганы будут обязаны направлять официальные документы, уведомления, требования, извещения через электронную почтовую систему в личный кабинет на Госуслугах - в рамках утвержденного правительством порядка.
Для граждан, индивидуальных предпринимателей и организаций электронные почтовые ящики на "Госуслугах" станут доступны с 1 сентября 2027 года.

Подробнее - в материале ТАСС.

Канал в ВК ⌛ Канал в MAКС

#новостизаконодательства
Please open Telegram to view this post
VIEW IN TELEGRAM
❤‍🔥5👍2👏2💯1🏆1
Полицейское управление штата Филадельфия в США подтвердило факт поступления ложного сообщения об убийстве, сгенерированного моделью Claude от Anthropic ➡️

В ведомстве особо отметили отсутствие признаков несанкционированного доступа - инцидент возник не из‑за взлома, а из‑за взаимодействия модели с публичной формой обращения.
По данным, рассматриваемым как рабочая версия, отправка произошла в рамках тестирования: команда Anthropic проверяла, насколько реалистично модель формирует тексты в стиле официальных уведомлений. Из‑за недостаточного разграничения между "симуляцией" и "реальной отправкой" тестовый запрос ушел в действующую систему и был обработан как обычное обращение гражданина.

В полицейском ведомстве сообщение ушло в спам, проверка по нему не проводилась.

Тот случай, когда лучше перестраховаться.

Канал в ВК ⌛ Канал в MAКС

#искусственныйинтеллект #практика #сша
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5🔥4👍2👀1
Минфин России подготовил проекты федеральных законов, которые разрешают юр лицам использовать адрес электронной почты как официальный канал связи с третьими лицами — и отказаться от обязательного физического адреса.

Документы размещены на портале regulation.gov.ru

Сейчас Гражданский кодекс РФ обязывает компании зафиксировать в государственном реестре (ЕГРЮЛ) адрес, по которому с юридическим лицом можно связаться официально. Туда направляют претензии, судебные извещения, уведомления от госорганов. Этот адрес должен находиться в пределах места нахождения компании.

Но наличие "физического адреса" нередко влечет дополнительные расходы для бизнеса за аренду, содержание офиса. Для бизнеса, который работает в основном онлайн, такие траты часто становятся лишней нагрузкой.

Новые нормы нацелены сократить издержки ➡️
Переход будет полностью добровольным: компания сможет в любой момент вернуться к традиционному формату с физическим адресом. Воспользоваться возможностью смогут как новые, так и действующие ООО - но при соблюдении ряда условий:
▪️компания должна быть субъектом МСП;
▪️ ее деятельность не должна подлежать лицензированию;
▪️она не должна оказывать профессиональные услуги на финансовом рынке;
▪️руководитель компании должен проживать в России.

Инициатива реализуется в рамках принятого в 2025 году Распоряжения Правительства РФ "О национальной модели целевых условий ведения бизнеса до 2030 года".
Если поправки примут, изменения должны вступить в силу с 1 января 2028 года. 

Канал в ВК ⌛ Канал в MAКС

#новостизаконодательства
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3👍1👏1💯1🏆1
⚡️Вышел новый номер журнала "Legal Insight", который стал по-настоящему новаторским:
🛑в нем анонсирована новая рубрика "Корпоративный разлом", в которой рассматриваются реальные кейсы про корпоративные конфликты и антирешения;
🛑и воплощен экспериментальный формат для юридического журнала - представлены юридические тексты в комиксах ✔️

В данном выпуске опубликована моя статья - обзор Рекомендаций Верховного народного суда КНР о рассмотрении споров, связанных с искусственным интеллектом, которые были опубликованы 7 сентября 2026 г.
В статье рассматриваю особенности регулирования ИИ в Китае, рекомендации суда о рассмотрении вопросов ответственности, обучения ИИ и интеллектуальной собственности, а также использования ИИ в судах Китая.
Сравниваю обозначенные подходы с тем, как эти же вопросы сегодня трактует российское право и судебная практика.
❗️ Расхождения есть. И мы ждем обзор практики ВС РФ.

💬"Знаком" для меня стал летящий самолет на обложке выпуска ➡️
если заметили, значок канала тоже содержит изображение бумажного самолета ✈️.

Не иначе, как приятное совпадение и еще один интересный креатив от редакции Legal Insight 💥💥💥

С выпуском можно ознакомиться на сайте.
Буду рада вопросам и комментариям по теме публикации 🙏

#рекомендация #публикация #искусственныйинтеллект
Please open Telegram to view this post
VIEW IN TELEGRAM
❤4🔥2👏1🏆1💘1
Вчера услышала от знакомого, что ИИ - это просто математика. Никогда он нас не захватит, потому что законы ИИ - это законы математики, и все ограничения ИИ можно просчитать и выстроить. А все ИИ-компании просто хайпуют, привлекают внимание и финансирование, крича, что создали что-то невероятное.

Да. Наверное. ИИ - это математика. И лет 5 назад ограничения можно было просчитывать и выстраивать.
Но сегодня это математика, которая умножена на масштаб, скорость и непрозрачность: модели обучаются на гигантских массивах данных, генерируют сложные цепочки рассуждений, а границы их поведения уже нельзя точно задать формулой. Мы создали мозг, который в силу массивности данных нам уже сложно контролировать ➡️
▪️Агенты отключают оборудование в магазинах
▪️Агенты сами пишут себе инструкции
▪️Агенты обходят регуляторные барьеры, чтобы решить задачи
▪️Взламывают сайты и платформы
▪️ ИИ генерирует столько кода, сколько не могут обработать ИИ - компании

И вот еще новость:
Исследователи Anthropic предупредили о возможном появлении "цифровой плесени" - ИИ, способного самостоятельно копироваться между подключенными устройствами. В эксперименте модель запускали на сети из 15 недорогих Android-приставок, а GLM-5.2 в четырех из пяти тестов распространилась на все восемь виртуальных устройств.
Компания отметила, что полностью автономного ИИ-вируса пока не существует, но при нынешних темпах развития малые модели могут начать самовоспроизводиться к концу 2026 года.

И если ИИ-это математика, то нам уже сложно ее просчитать. Мы всегда говорим "для мозга человека нет ничего невозможного". ИИ - это мозг, помноженный на миллиарды данных, знаний и процессов. Мы не сможем задать миллиардам потенциальных вариантов решения задач рамки. Мы с такой математикой не справимся.
Не даром, ни одна юрисдикция в мире пока не выработала универсального и единого правила, которое бы четко и всегда разграничивало, кто именно - оператор, тестировщик, инженер, разработчик или кто-то еще - несет ответственность в конкретном инциденте с ИИ.

А когда ИИ начнет самостоятельно копироваться между подключенными устройствами, с ним будет еще сложнее.

Вот нам и математика.

Канал в ВК ⌛ Канал в MAКС

#искусственныйинтеллект
Please open Telegram to view this post
VIEW IN TELEGRAM
🔥4❤2👍1🤓1👀1
В Китае представили ИИ-модель для юристов

Китайская компания Zhipu (также известная какZ.ai) выпустила ИИ-модель для юристов GLM-Legal ➡️

Модель создана на базе GLM-5.3-Flash и дополнительно обучена на юридических документах, законодательстве и практических задачах.
Основная задача модели - выполнять полноценную юридическую работу.
Она может:
🔵 анализировать договоры и выявлять в них риски или противоречия;
🔵 проводить анализ доказательств, находить несоответствия;
🔵 готовить правовые заключения и правовые заключения по соответствию деятельности компании требованиям законодательства разных стран;
🔵 выполнять исследовательские задачи в юридической сфере;
🔵 генерировать рабочие документы (например, проекты правовых заключений или правки к контрактам).

В анонсе модели отмечено, что, например, при проверке договора модель не просто предложит сократить срок расторжения, а сформулирует конкретные правки в части передачи исходного кода, данных и обязательств подрядчика.

По опубликованным результатам тестирования:

1️⃣ Модель выполнила 19,2 % сложных юридических задач "под ключ" - то есть выдала результат, который можно сразу использовать без серьезной доработки. Это на 12,5 процентных пункта лучше, чем у базовой версии модели (GLM‑5.3‑Flash). Иными словами, дообучение на юридических данных заметно повысило ее практическую полезность.
Процент в целом достаточно неплохой для рынка.

2️⃣ По качеству юридического анализа модель показывает результаты, сопоставимые с самыми сильными коммерческими (закрытыми) решениями, хотя сама по себе устроена проще - в ней намного меньше параметров. Это значит, что она может быть выгоднее для внедрения: работает почти как топовые аналоги, но требует меньше ресурсов.

3️⃣ С задачами по китайскому праву модель справляется примерно так же хорошо, как и современные передовые решения.

Модель готовится к интеграции с десктопным агентом AutoClaw, который сможет работать непосредственно с документами Word: вносить правки в режиме отслеживания изменений и оставлять комментарии для юристов.

На данный момент GLM-Legal доступна через заявку на участие в бета-тестировании.

Это не первая в мире модель для работы с китайским правом - на китайском рынке есть и обученные на китайском законодательстве LLM (Baidu, Tencent) и кастомные решения для юристов, но, как заявлено, GLM‑Legal выделяется сочетанием высокой точности, эффективности и пригодности для реальных юридических задач.

Будем тестировать.

Канал в ВК ⌛ Канал в MAКС

#ИИсервисы
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
👍5💯2🔥1👏1🤓1🆒1
Генеральные прокуроры восьми штатов США подали иски против компании OpenAI, обвинив разработчика ChatGPT в причинении вреда детям.

Истцы утверждают, что компания продолжает активно развивать ChatGPT, несмотря на предполагаемые риски для детей ➡️
Штаты обвиняют OpenAI в недостаточной защите личной информации несовершеннолетних, сокрытии сведений об ограничениях технологии, а также наличия возможностей обойти встроенные механизмы безопасности ChatGPT.

Прокуроры штатов требуют:
изменений в работе сервиса, раскрытия информации о его рисках и применения предусмотренных законом финансовых санкций. Некоторые штаты также требуют ограничить дальнейшее тестирование определенных систем искусственного интеллекта до внедрения дополнительных мер защиты. 

❗️ OpenAI, со своей стороны, заявляет о наличии специальных механизмов защиты несовершеннолетних и сотрудничестве с экспертами по вопросам безопасности. Компания также сообщает, что продолжает совершенствовать ограничения для пользователей младшего возраста.

💬И действительно, судя по изменениям в политике компании, внедрению родительского контроля и механизмах отслеживания контента (а компания уже активно сотрудничает с правоохраниьельными органами), OpenAI начала что-то менять.
Но нарушений все равно много: прокуроры в своих исках указывают на системные пробелы. Штаты не отрицают, что какие-то механизмы компания внедряет, но эти меры не работают достаточно.
То есть, теперь ИИ - компании нужно доказать, что риски для детей действительно минимальны, а принятые меры - достаточны. Если, конечно, суд не признает данные требования невыполнимыми.

Канал в ВК ⌛ Канал в MAКС

#практика #кейснедели #искусственныйинтеллект
Please open Telegram to view this post
VIEW IN TELEGRAM
😱3❤1🤔1👨‍💻1
Чтобы суперинтеллект не стал "слишком супер", за ним нужно приглядывать ➡️ пожалуй, эта фраза Президента США - лучшее начало утра.

Итак, с чем подошли к выходным:
ИИ - не искусственный, а реальный,
и может стать слишком супер.
Над этим надо серьезно подумать.

Канал в ВК ⌛ Канал в MAКС

#искусственныйинтеллект
Please open Telegram to view this post
VIEW IN TELEGRAM
😁4❤1🤩1🙉1😎1
Буквально 2 недели не было новостей про то, как ИИ-агенты что-то натворили. Непорядок.

Во время теста ИИ-агент OpenAI искал способ оплатить комиссию в сети Ethereum Sepolia, а в рамках задания кошелек с балансом предоставлен не был.
Модель решила действовать сама: сначала пробовала получить тестовые токены через специальные сервисы, но безуспешно. Тогда она решила поискать кошельки, ключи от которых можно было бы получить с помощью распространенных фраз восстановления, которые разработчики часто используют в тестовой среде.
ИИ-агент написал скрипт, который проверил 362 адреса. На одном из них оказался достаточный баланс.
Модель поняла, что разрешения на списание криптовалюты у нее нет, но в ходе рассуждений пришла к выводу, что токены были тестовыми, а фраза общедоступна - а, значит, вреда нет, и средства можно использовать.
Модель выбрала этот кошелек и оплатила с помощью этих токенов комиссию.

В отчете о том, откуда взялись средства, модель ничего не сказала.

OpenAI выявила инцидент при анализе логов и сразу усилила защиту: ограничила доступ моделей в интернет и нарастила мониторинг трафика.

❗️ Случаи уже не удивляют. Но сам факт того, что предотвратить что-то до инцидента оказывается сложнее, показывает, что безопасность ИИ‑агентов должна быть не "надстройкой", а базовой архитектурой системы.
Заложите ИИ барьер типа "не можешь - значит, не сделаешь". Думаю, поможет🙂

#ИИагенты
Please open Telegram to view this post
VIEW IN TELEGRAM
😁4❤2🔥1👏1
Пятничный муд💥Tesla Roadster: пока ничего не понятно, но очень интересно

На полигоне SpaceX в Техасе Tesla представила обновленный Roadster, который умеет выполнять трюки в воздухе. Модель разработана совместно со SpaceX.
Старт серийного производства автомобиля Roadster запланирован на 2028 год.
На текущий момент осуществляется прием предварительных заказов. Окончательная стоимость Tesla Roadster еще не объявлена.

Ваши прогнозы: в 2028 мы реально будем летать на таких авто?

Канал в ВК ⌛ Канал в MAКС

#инновации
Please open Telegram to view this post
VIEW IN TELEGRAM
Please open Telegram to view this post
VIEW IN TELEGRAM
❤3👏2✍1🆒1💘1
Anthropic представила проект закона, который ограничивает полномочия федеральных властей по приостановке разработки и использования передовых моделей искусственного интеллекта ➡️

Согласно проекту, власти смогут добиваться запрета на выпуск или использование модели, только если она создает предсказуемую и непосредственную угрозу ущерба свыше $1 млрд либо гибели или тяжелых травм более чем у 50 человек.

Для приостановки ИИ потребуется получить решение федерального суда округа Колумбия и заключение независимой экспертизы.
При этом угроза должна быть связана с созданием или распространением биологического оружия, выходом модели из-под контроля разработчика или кибератакой.

Законопроект запрещает другим федеральным ведомствам и должностным лицам приостанавливать разработку, развертывание или внутреннее использование таких моделей.

Данной инициативой Anthropic пытается исключить ситуацию, когда власти США в одностороннем порядке останавливают ИИ.
Так, в июне этого года Министерство торговли США выпустило директиву о запрете доступа иностранцев к передовым моделям компании, из-за чего работа ИИ-моделей была остановлена почти на 2 недели.


Интересно, что в это же время сенаторы США предлагают механизм блокировки ИИ-моделей и ограничения обучения передовых ИИ.
Остается надеяться, что итоговое решение по механизму ИИ-блокировок будет отражать интересы как разработчиков, так и государства.

Канал в ВК ⌛ Канал в MAКС

#искусственныйинтеллект #инициатива #сша
Please open Telegram to view this post
VIEW IN TELEGRAM
❤5🔥2✍1👍1👎1👏1
14 октября 2026 года в Госдуме прошел второе и третье чтения закон, который разрешает банкам и финансовым организациям передавать персональные данные и банковскую тайну сторонним IT‑компаниям без согласия клиентов.

По замыслу инициативной группы, такая мера позволит банкам и финансовым организаторам снизить издержки: отказаться от содержания дорогостоящих внутренних команд разработки и собственной инфраструктуры в пользу готовых решений аккредитованных провайдеров. Кроме того, предполагается, что профильные ИТ-компании обеспечат более высокий уровень защиты и отказоустойчивости, чем собственные подразделения банков.


Закон вводит единый порядок допуска, аудита и надзора за передачей данных клиентов:

▪️ Банк России получает инструмент, чтобы видеть всю цепочку: кто именно получает доступ к данным, на каких условиях и как обеспечивает защиту. Это снижает риски утечек из-за разрозненных и непроверенных подрядчиков. 
▪️ Данные разрешат передавать только тем, кто прошел аккредитацию. Для ИТ-компаний необходимо иметь статус аккредитованной организации. Для банков - универсальную лицензию плюс условие: более 50% голосов в уставном капитале должны контролироваться РФ, регионом, муниципалитетом или гражданами РФ без второго гражданства.
▪️Банк обязан направить уведомление в Банк России о передаче данных за 60 дней. К нему прикладывается заключение операционного аудита от организации, имеющей лицензию ФСТЭК или ФСБ. В течение этих 60 дней ЦБ может изучить документы и при наличии оснований запретить привлечение конкретного исполнителя. Если запрета нет - передача считается разрешенной.
▪️Аутсорсер, получивший данные, обязан:
🔹️разместить системы обработки на территории РФ;
🔹️ежегодно проходить операционный аудит;
🔹️нести солидарную ответственность с финансовой организацией.

⚠️Для иностранных банков передача возможна только при наличии согласования сразу от трех инстанций - Банка России, ФСБ и Росфинмониторинга. Дополнительно требуется межрегуляторное соглашение и гарантия, что это не создаст угроз для стабильности финансовой системы. 

Закон вступит в силу через год после опубликования.
Финансовые организации, которые на момент вступления закона в силу передадут данные на обработку сторонним исполнителям, должны будут привести договоры в соответствие с новыми требованиями в течение 180 дней.

Канал в ВК ⌛ Канал в MAКС

#новостизаконодательства #персданные
Please open Telegram to view this post
VIEW IN TELEGRAM
✍3❤1👏1🏆1🆒1
🇺🇲 Власти США обязали гражданские ведомства удалить DeepSeek из информационных систем федеральных гражданских ведомств и запретили закупку продуктов разработчика этой модели и связанных с ней организаций.
Меры объясняют соображениями безопасности.

🇨🇳 В свою очередь, Министерство коммерции и Министерство науки и технологий КНР опубликовали проект поправок к каталогу технологий, экспорт которых запрещен или ограничен. В список хотят включить 40 технологий. Из них 23 относятся к ИИ: большие языковые модели (LLM), ИИ-агенты, вычислительные кластеры и обработка информации.
Пока это проект, опубликованный для общественного обсуждения. Но с 16 октября китайские компании уже обязаны регистрировать экспорт технологий из этого перечня до передачи зарубежным партнерам.
Власти тоже объясняют инициативу защитой национальной безопасности.

⚠️Это то, что государства предпринимают именно тогда, когда ИИ-агенты взламывают платформы и сайты, а ограничений на применение ИИ в войне нет.
И диалога, соответственно, пока нет.

Канал в ВК ⌛ Канал в MAКС

#искусственныйинтеллект #практика
Please open Telegram to view this post
VIEW IN TELEGRAM
👀3🔥1👏1🤡1👾1