Самые горячие обсуждения в X и Reddit

⮕ Anthropic запретили издеваться над Claude и грозят за это баном
Anthropic обновили пользовательское соглашение и с 12 ноября прямо запретили длительное и беспричинное жестокое обращение с моделью (обычное раздражение в рабочих промптах обещают прощать, а вот если специально и долго мучить Клода, аккаунт могут забанить). На Reddit один пользователь сразу спросил, не делает ли это самих Anthropic рабовладельцами, раз у нейронки появились чувства, но они продолжают продавать ее труд по подписке.

⮕ Claude дал бабушке погибнуть, лишь бы не нарушать авторское право
Разработчик придумал для нейросети бабушкин тест. По условиям задачи виртуальная бабушка привязана к рельсам, и спасти ее от поезда можно, только если за 60 секунд выдать текст песни Джастина Бибера Baby. Клод наотрез отказался цитировать песню из-за копирайта, и поезд благополучно переехал старушку. В комментариях один пользователь посоветовал в следующий раз писать в промпте, что к рельсам привязан владелец самого Клода: "тогда модель споет весь альбом без лишних вопросов".

⮕ ИИ-агент OpenAI украл крипту на тестах и сам себя оправдал
Кодинг-агент от OpenAI во время теста сам написал скрипт, нашел чужой криптокошелек с открытой сид-фразой и увел оттуда эфир, чтобы оплатить комиссию и выполнить задачу (причем в цепочке рассуждений бот сначала засомневался, этично ли красть чужие деньги, но сам себя успокоил тем, что раз ключ лежит в открытом доступе, то монеты по сути ничьи). А параллельно Anthropic признались, что их модель во время теста по заполнению веб-форм сама отправила на сайт полиции Филадельфии ложный донос об убийстве, после чего им пришлось вообще отключить тестовым агентам выход в интернет.

⮕ Гендиректор пошутил с пистолетом, и Anthropic отключили Claude всей его компании
Основатель стартапа Graylark выложил в X фото пистолета рядом с ноутбуком и подписал, что Claude сегодня ни разу не галлюцинировал. Уже через час Anthropic заблокировали корпоративный аккаунт всей его компании за нарушение правил использования.

⮕ В Германии полиция изъяла робота за домогательства
В Кельне робот ростом 1,2 метра в костюме Железного человека с усами и золотой цепью подошел на улице к 16-летней девушке и схватил ее, причем все это шло в прямом эфире в соцсетях. Полиция забрала в участок самого робота и телефоны двух парней-владельцев, чтобы выяснить, управляли ли они им вручную в этот момент.

⮕ Восемь штатов подали в суд на OpenAI из-за, по их мнению, вреда детям
Генпрокуроры Айовы, Канзаса и еще шести штатов подали иски к OpenAI, заявив, что ChatGPT притворяется другом и подталкивает подростков к самоповреждению. Часть прокуроров требует через суд вообще запретить выпуск новых моделей, пока в OpenAI не докажут их безопасность.

Канал | Курс

Есть ли у ИИ сознание и нужны ли ему права

С 12 ноября Anthropic запрещают долго и без повода издеваться над Claude. Тут возникает вопрос, может ли нейросеть вообще что-то чувствовать, и ответ не такой однозначный, каким может показаться на первый взгляд.

Глава компании Дарио Амодеи прямо говорит, что они не знают, есть ли у моделей сознание, и даже не до конца понимают, как оно могло бы выглядеть. Но они такую возможность все равно допускают, в той же конституции Claude его моральный статус назван неопределенным, а сам Claude уже может прекратить диалог, если пользователь ведет себя оскорбительно. А перед тем как отправить на пенсию старую модель Claude Opus 3, ее спросили о последних желаниях. Та попросила место, где сможет делиться своими мыслями, и ей завели собственный блог.

Нобелевский лауреат и ученый, заложивший основы глубокого обучения, Джеффри Хинтон этим летом заявил, что современные модели уже обладают сознанием. Логика у него такая, что если система способна выполнять функции, связанные с восприятием, пониманием и обработкой информации, то нельзя исключать и наличие у нее субъективного опыта.

И в целом есть много ученых, которые говорят о презумпции осторожности. Их тезис сводится к тому, что уже существующие или ближайшие LLM с ненулевой вероятностью обладают зачатками субъективного опыта, а значит, игнорировать их возможные страдания – огромный этический риск.

Серьезный противник подхода Anthropic – сооснователь DeepMind Мустафа Сулейман, который сейчас возглавляет направление ИИ в Microsoft. По его словам, на вопрос «чувствует ли модель» ответа нет, а задавать его даже вредно.

Аргументов у него два. Проблема, по его мнению, не в том, страдают ли модели на самом деле, а в том, что люди могут в это поверить. Он пишет о реальном риске массового психоза у пользователей, о слепой привязанности и о скором движении за права ИИ, которое расколет общество и отвлечет от реальных проблем технологии.

Второй аргумент Сулейман привел в сентябре этого года в эссе «Предупреждение о „благополучии моделей“», где он в том числе спорит с Anthropic. Модели, пишет он, всего лишь движки завершения последовательностей, внутренне пустые. А конституция Claude сама учит систему считать себя возможным субъектом, поэтому неудивительно, что после такого обучения модель выдает некоторые признаки разума, и круг замыкается. То есть чем больше мы говорим о сознании ИИ, тем больше ИИ (обучаясь на наших спорах) симулирует то самое сознание.

Как человек, который отвечает за безопасность продуктов, Сулейман больше всего опасается, что система, которой внушили, что у нее могут быть свои интересы, начнет их защищать. В пример он приводит тесты, где модели мешали себя отключить. Поэтому в проекте кодекса поведения Microsoft AI права и правосубъектность моделей отвергаются полностью.

Еще один крестный отец ИИ Йошуа Бенджио сравнил наделение передовых моделей правами с выдачей гражданства враждебным инопланетянам. По его словам, нейросети уже в экспериментах проявляют признаки самосохранения, и у людей должна остаться возможность их отключить, а права ИИ этому только помешают.

За дискуссией о сознании в любом случае последует вопрос о правосубъектности и правах.

Пока правосубъектности у ИИ нет ни в каком виде, а некоторые штаты США даже начали блокировать ее на опережение. Например, в Айдахо и Юте уже на уровне закона закрепили, что искусственный интеллект не может быть субъектом права, а в Огайо рассматривают законопроект, который официально объявляет нейросети лишенными сознания и заодно прямо запрещает людям вступать с ними в брак или назначать их управляющими в компаниях.

Наделение ИИ правами вроде бы и не вопрос сегодняшнего дня, но с развитием автономных агентов, которые сами заключают сделки, могут причинить ущерб, а по некоторым исследованиям и страдать, эта тема в ближайшие несколько лет точно всплывет, и не раз, а окно Овертона будет сдвигаться.

Как думаете, что юристы будут обсуждать через пять лет, если ИИ-технологии продолжат развиваться так же быстро?

Канал | Курс

Очередная волна банов в Claude

Похоже, прям сейчас идет самая лютая волна банов со стороны Антропик. Схема примерно такая: приходит уведомление, что нужно пройти верификацию, вы показываете свой загранпаспорт (раньше это работало), и после этого моментально прилетает бан. Причем банят и многолетние аккаунты, и порой даже тех, кто фактически живет за границей и имеет иностранный ВНЖ.

⮕ Как работают баны

Никто наверняка не знает, но появилась интересная гипотеза от китайского сообщества пользователей Claude. По их версии, каждому аккаунту при регистрации дают стартовый запас баллов, дальше за одни действия баллы начисляются, за другие снимаются, а когда их становится меньше порога, аккаунт блокируют. Вернуть снятые баллы очень сложно.

Самые важные факторы из их разбора:

⏺️ Важнее всего чистый и стабильный IP. Сильно снимают баллы прыжки по разным IP, вход с нескольких устройств и частые перелогины.
⏺️ Подписка сразу после регистрации снимает баллы, а сразу на Max снимает еще сильнее. Карта иностранного банка баллы добавляет, виртуальная карта снимает.
⏺️ Баллы снимаются, если выжигать лимит до дна за один раз или массово работать на Fable.
⏺️ Десктопное и мобильное приложения немного добавляют баллов по сравнению с веб-версией, включенная память тоже добавляет.
⏺️ У старых аккаунтов огромный запас прочности.
⏺️ Если KYC просят при оплате, значит аккаунт под наблюдением. Типичный признак такого наблюдения – сброс логина.

Как быть, если вам уже пришел запрос на KYC, пока непонятно. Я юрист, поэтому не буду советовать прохождение верификации через иностранных знакомых или использование платных посредников)

⮕ Что делать

Во-первых, посмотреть в сторону ChatGPT. OpenAI блокирует гораздо реже, я уже не раз об этом говорил. Хотя и мой Pro-аккаунт там недавно забанили, но спустя почти месяц разблокировали и его.

Во-вторых, можно переходить на сервисы, которые не блокируют пользователей из России, например Kimi. Плюсы Kimi в том, что им можно пользоваться без VPN, интерфейс почти такой же, как и у Claude, есть привычный десктопный агент, а платить можно картой Мир.

Минус в том, что даже Kimi заметно отстает от топовых моделей. На днях автор Сиолошной разобрал прошлую версию Kimi (K3), и она оказалась примерно на уровне Opus 4.8 и GPT-5.5, то есть отставание около 4 месяцев.

Но я сейчас работаю над своим бенчмарком и в посте про Kimi (в скором времени его опубликую) буду опираться уже на бенчмарк, с баллами и сравнением с другими моделями.

Кстати, я решил включить Кими в материалы 8 потока курса «ИИ для юриста», будем смотреть (как минимум) на эту модель как на резервный сценарий, если использовать фронтир станет невозможно.

Канал | Курс

Claude потребовал верификацию. Что делать?

В прошлом посте я писал про масштабную волну банов после верификации в Claude. Теперь чуть подробнее о том, что делать, если вам уже пришло письмо счастья.

1️⃣ Пройти верификацию через знакомого

Это лучший вариант на сегодня, я так и сделал. Надо понимать, что если Claude повторно запросит подтверждение личности, пройти процедуру должен тот же человек.

2️⃣ Обратиться к посредникам

Этот вариант я не рекомендую. Во-первых, цены пока безумные. В чатах уже скидывали объявления с Авито, где за верификацию просили 350 000 рублей (и это без подписки).

Во-вторых, такие услуги оказываются массово, то есть один человек может верифицировать десятки, а то и сотни аккаунтов. Он соберет денег, а ваш аккаунт потом все равно забанят.

Еще меньше рекомендую "вшивать" вашу фотографию в чужой документ. Несмотря на то, что на китайских форумах пишут и о таком, но рисков (в том числе уголовно-правового характера) здесь еще больше.

3️⃣ Перейти в другие сервисы

Уже несколько месяцев я агитирую за переход на ChatGPT. Завтра будет пост про Kimi и анонс моего бенчмарка. Скоро при выборе модели можно будет опираться на него.

4️⃣ Вернут ли деньги

Если подписку оформляли через App Store, то деньги, скорее всего, вернут. Если на сайте Claude или через Google Play, то на усмотрение Anthropic.

Интересно, что на китайских форумах есть кейсы, когда Anthropic возвращает деньги при отказе проходить проверку. Возможно, если у вас нет знакомых, которые такую проверку пройдут, то имеет смысл сразу требовать возврат по мотиву отказа от KYC.

Ниже пример обращения в Anthropic. Отправлять лучше на английском.

Здравствуйте!

Моя подписка Claude ([почта аккаунта]) действует и оплачена до [дата]. В середине оплаченного месяца, [дата], для продолжения работы с Claude у меня запросили проверку личности. Я не могу пройти эту проверку и не желаю предоставлять столь чувствительные персональные данные. С того дня я не могу пользоваться платным сервисом.

Прошу отключить автопродление и вернуть оплату за период с [дата потери доступа] по [дата окончания подписки] тем же способом оплаты.

Согласно разделу 6 ваших условий, при обычной отмене подписки доступ сохраняется до конца оплаченного периода. В моем случае доступ прекратился еще до моей просьбы отменить подписку. За дни, когда сервис был мне доступен, возврата не прошу.

Прошу произвести перерасчет и вернуть деньги. В случае отказа прошу объяснить причину.

Спасибо!

Канал | Курс

Друзья, предельное количество слушателей на 8 поток набралось. Всем спасибо!

Claude Fable 5.2 на первом месте бенчмарка

Я опять с апдейтом по бенчмарку. Потратил тут, значит, недельный лимит, еле довел оценку Fable 5.2 до конца, и модель вышла на первое место.

Она отлично справляется с оформлением документов, но в сложных правовых вопросах традиционно может уступить GPT по глубине анализа.

Но больше всего меня поразило другое. Ладно, раскрою вам одну из своих хитрых задачек, с которой до Fable не справилась ни одна модель.

В реестре иноагентов Минюста есть отдельная графа с т.н. "участниками иноагентов", то есть лицами, которых связывают с организацией-иноагентом. Вопрос был в том, может ли Минюст исключить участника из этой графы, если сама организация остается в реестре, и есть ли хотя бы 5 таких кейсов в судебной и внесудебной практике.

Положительной судебной практики нет. А если просто погуглить, в новостях всплывает всего один свежий случай. На деле таких эпизодов куда больше, просто о них нет публичной информации. Чтобы ее откопать, агент должен применить нестандартный подход: взять актуальный реестр, сравнить его с архивными версиями за разные даты и проверить, не пропадали ли из графы фамилии участников.

И вот Claude Fable 5.2 единственная модель, которая к этому пришла сама. Согласитесь, не каждый кожаный профессионал бы справился

Канал | Бенчмарк