Саня Технадзор 🦾

Глава Antropic, Дарио Амодей, написал простыню о том, как ИИ-индустрия должна "замедлить свой ход", иначе людям будет п[непросто]да.

По его мнению, примерно с лета этого года, развитие ИИ значительно ускорилось (в том числе благодаря тому, что ИИ теперь проектирует следующее поколение ИИ), а взломы huggingface руками OpenAI, в которых рой ИИ-агентов действовал сообща, сильно пугают и вызывают вопросики.

Амодей предлагает трёхэтапный план:

1) Встроить оценщиков. Каждая ИИ-компания обязуется предоставлять постоянный доступ, аналогичный доступу своих сотрудников, к своим моделям, для команды сторонних оценщиков. Их роль заключается в проверке соблюдения нейросетями правил и обязательств в области безопасности, сообщении об инцидентах и помощи в оценке соответствия не только готовых моделей ИИ, но и конвейеров и процессов обучения. В качестве примера Амодей приводит банковскую деятельность. Anthropic в одностороннем порядке берет на себя это обязательство уже сейчас.

2) Демократическая координация. Компании, работающие в сфере ИИ в демократических странах, координируют свои действия для установления общих стандартов безопасности, а также ограничений на темпы бесконтрольного развития ИИ. Некоторые формы такой координации, по словам Амодея, потребуют государственной поддержки.

3) Глобальная координация. США и другие демократические правительства будут координировать свои действия с авторитарными правительствами, в той мере, в какой это возможно.

Не знаю, насколько полезная эта информация от меня лично, как я это вижу: Дипсик Flash 4.1 разнёс не только Фейбл, Астру и Грока по уровню решений, поэтому читай и запоминай, %username%.

То есть так же чётенько, но и за какие-то микроскопические копейки + китайцы выкатили какой-то лютый кеш, который порвал по скорости ответа и качеству свою же модель DeepSeek 4 Pro.

Итого имеем -- просто базовую цену Дипсика 0,15–0,30 против 2–3$ за млн токенов у остальных.

Сам контекст прямо в ценник не берём, каждый с ним работает и биллит как умеет: кто-то кеширует файлы, а кто-то каждый раз их пересчитывает, что это, мол, новый запрос контекста, кто-то дает хорошую скидку на кеш, кто-то не очень, а кто-то не дает (Грок).

Все по-разному считают, но тут кеш Дипсик вот в чём.

Каждый раз, когда ты пишешь запрос или уточняешь, то на каждый круг Грок и друзья условно активируют все свои 100+ миллиардов параметров просто для того, чтобы прочитать твою правку или уточнение того, что было в контексте сессии.

Вот за это ты каждый раз платишь, без вариантов. И вроде даже у Grok как я бачу, судя по сожженому тарифу supergrok в наносекунды, -- нет кеша отправленных файлов и запросов, у остальных вроде есть, то есть ты каждой правкой ещё жжёшь один и тот же контекст, выжигаешь тарифчик элементарно. Эффективити.

Китайцы как я понял докрутили сейчас в 4.1 Flash процесс на чтение и уже работу в своей нейронке -- ты шлёшь запрос и на него выделяется около 8 млрд параметров, как микромозг, чтобы прочитать и подготовить дальше. Это биллится как вход по ценникам.

А выход уже включает основной декодер и выдаёт ответы.

Короче, если ты, %username%, что-то там из этих слов знаешь, скажу на крестьянском -- они строят за тебя твоё типа векторное хранилище твоих скрижалей в моменте за тебя у себя и потом его же переиспользуют.

То есть на следующих запросах он не читает то, что прислал, он условно довекторизует, если ты докинул новое, и с ним работает, а если не докинул -- работает по старым площадям тяньаньмэнь из своей памяти.

И когда он читает из кеша, то внимание, ценник 0,003 за 1 млн токенов.

Учитывая, что это основной hit в работе, ну я так понимаю процентов 90 -- то это ещё сильнее роняет весь ценник вниз.

Качество то же, уровень цены невероятно низкий, уровень кеша вообще непонятно дешёвый, таким образом вывод ясен.

Ровно после выхода этой темы Anthropic в очередной раз заныли, что надо срочно контроировать лабы, включая Китай и останавливать развитие ИИ.

Got bless America!
Думайте.

😁8

328 viewsedited 07:43