Deepseek с сегодняшнего дня отменили повышенный тариф на выходные дни.
Чтобы вы могли спокойно работать на выходных 😉
#DeepSeek #цены
------
@tsingular
Чтобы вы могли спокойно работать на выходных 😉
#DeepSeek #цены
------
@tsingular
😁28👍6🐳3⚡1😭1🤝1
NVIDIA делает ставку в $6 млрд на разработку открытых моделей по примеру DeepSeek и Kimi
NVIDIA, главный производитель чипов для ИИ, на этой неделе договорилась со стартапом Poolside о сделке на $6 млрд. Цель: собрать одну из мощнейших открытых моделей в мире и перебить китайские DeepSeek и Kimi K3, а заодно закрытые OpenAI и Anthropic.
⚙️ Сделка: $6 млрд это плата за неэксклюзивную лицензию на Model Factory, конвейер Poolside для сборки открытых моделей Laguna.
Отдельно NVIDIA вкладывает $1 млрд при оценке $12 млрд, что вчетверо выше прежних $3 млрд.
109 сотрудников Poolside переходят в NVIDIA и займутся Nemotron, её семейством открытых моделей.
Сделку оформили как лицензию, и три сооснователя, включая экс-техдиректора GitHub Джейсона Уорнера, остаются вести независимую компанию.
🎯 Зачем это производителю чипов: В январе 2025-го DeepSeek R1 за один день обрушил капитализацию NVIDIA больше чем на $500 млрд (PIIE), показав, что открытая китайская модель догоняет западную за копейки.
Открытые модели требуют меньше чипов, а это прямой удар по главному бизнесу NVIDIA.
Логика простая: NVIDIA хочет владеть куском растущего открытого ИИ и удержать эту нишу в Штатах.
📊 Соперники: Kimi K3 от Moonshot AI на 2,8 трлн параметров, самая большая открытая модель в мире, в общем зачёте третья после Claude Fable 5 Max и GPT-5.6 Sol Max (VentureBeat).
DeepSeek остаётся главным символом дешёвого открытого ИИ, который и обрушил рынок.
💼 Ставка: NVIDIA рассчитывает, что Nemotron догонит передовые модели в течение года.
Штаты получают свой открытый стек, независимый от китайского, а NVIDIA держит модель на своих чипах и давит на OpenAI и Anthropic ценой открытых весов.
Но чудо само не произойдет, - кажется западу придется запретить китайские модели, чтобы открыткам от NVidia нашлось место.
#nvidia #deepseek #kimi #opensource #ai
------
@tsingular
NVIDIA, главный производитель чипов для ИИ, на этой неделе договорилась со стартапом Poolside о сделке на $6 млрд. Цель: собрать одну из мощнейших открытых моделей в мире и перебить китайские DeepSeek и Kimi K3, а заодно закрытые OpenAI и Anthropic.
⚙️ Сделка: $6 млрд это плата за неэксклюзивную лицензию на Model Factory, конвейер Poolside для сборки открытых моделей Laguna.
Отдельно NVIDIA вкладывает $1 млрд при оценке $12 млрд, что вчетверо выше прежних $3 млрд.
109 сотрудников Poolside переходят в NVIDIA и займутся Nemotron, её семейством открытых моделей.
Сделку оформили как лицензию, и три сооснователя, включая экс-техдиректора GitHub Джейсона Уорнера, остаются вести независимую компанию.
🎯 Зачем это производителю чипов: В январе 2025-го DeepSeek R1 за один день обрушил капитализацию NVIDIA больше чем на $500 млрд (PIIE), показав, что открытая китайская модель догоняет западную за копейки.
Открытые модели требуют меньше чипов, а это прямой удар по главному бизнесу NVIDIA.
Логика простая: NVIDIA хочет владеть куском растущего открытого ИИ и удержать эту нишу в Штатах.
📊 Соперники: Kimi K3 от Moonshot AI на 2,8 трлн параметров, самая большая открытая модель в мире, в общем зачёте третья после Claude Fable 5 Max и GPT-5.6 Sol Max (VentureBeat).
DeepSeek остаётся главным символом дешёвого открытого ИИ, который и обрушил рынок.
💼 Ставка: NVIDIA рассчитывает, что Nemotron догонит передовые модели в течение года.
Штаты получают свой открытый стек, независимый от китайского, а NVIDIA держит модель на своих чипах и давит на OpenAI и Anthropic ценой открытых весов.
Но чудо само не произойдет, - кажется западу придется запретить китайские модели, чтобы открыткам от NVidia нашлось место.
#nvidia #deepseek #kimi #opensource #ai
------
@tsingular
✍11⚡4❤3👍1🆒1
DeepSeek доросла до реальных денег: $70 млн выручки в июле, десятикратный рост
Лаборатория, которая прославилась тем, что тренировала модель за $6 млн «на копейки», вышла на серьёзные цифры.
The Information пишет: выручка DeepSeek к июлю достигла $70 млн, это десятикратный рост к 2025 году.
И это было ещё ДО того, как они повысили цены на прошлой неделе!
📊 Цифры не из официальных отчетов: источники цифр, - люди, знакомые с ситуацией, официальной отчётности у DeepSeek нет.
В июльском отчёте того же The Information фигурировала оценка ближе к $500 млн в годовом выражении, свежая цифра скромнее, но вектор тот же: за год выручка подскочила на порядок.
При этом они закрыли раунд на $7,4 млрд при оценке около $50 млрд и на полной скорости идет подготовка к IPO в Шанхае в 2027.
💰 Токеномика: выручка у DS в основном от продажи доступа к моделям через API.
Цена изначально была в разы ниже, чем у западных флагманов, доллар за миллион токенов против десятков у конкурентов, а маржа при этом 70–80%.
С новыми ценами, которые в среднем выросли в 3 раза, - маржа подскочи до 200%
💸 С такими цифрами можно и на IPO :)
📎 Источник: The Information
#DeepSeek #ИИ #бизнес
———
@tsingular
Лаборатория, которая прославилась тем, что тренировала модель за $6 млн «на копейки», вышла на серьёзные цифры.
The Information пишет: выручка DeepSeek к июлю достигла $70 млн, это десятикратный рост к 2025 году.
И это было ещё ДО того, как они повысили цены на прошлой неделе!
📊 Цифры не из официальных отчетов: источники цифр, - люди, знакомые с ситуацией, официальной отчётности у DeepSeek нет.
В июльском отчёте того же The Information фигурировала оценка ближе к $500 млн в годовом выражении, свежая цифра скромнее, но вектор тот же: за год выручка подскочила на порядок.
При этом они закрыли раунд на $7,4 млрд при оценке около $50 млрд и на полной скорости идет подготовка к IPO в Шанхае в 2027.
💰 Токеномика: выручка у DS в основном от продажи доступа к моделям через API.
Цена изначально была в разы ниже, чем у западных флагманов, доллар за миллион токенов против десятков у конкурентов, а маржа при этом 70–80%.
С новыми ценами, которые в среднем выросли в 3 раза, - маржа подскочи до 200%
💸 С такими цифрами можно и на IPO :)
📎 Источник: The Information
#DeepSeek #ИИ #бизнес
———
@tsingular
❤5✍4🔥3⚡2
держите сравнение.
GLM в целом побеждает, но у Qwen очень сильный "запас прочности"
полный html в комметарии
#qwen #glm #deepseek #flash
———
@tsingular
GLM в целом побеждает, но у Qwen очень сильный "запас прочности"
полный html в комметарии
#qwen #glm #deepseek #flash
———
@tsingular
🔥18🆒2👍1
11.7 млрд токенов на взлом: почему дешёвые китайские модели обошли закрытых гигантов в поиске уязвимостей
Команда Aikido Security сожгла почти 12 миллиардов токенов, натравив десять ведущих нейросетей на 32 свежие реальные уязвимости в кодовой базе. И получается, что открытые модели решают задачи не хуже проприетарных.
🚀 Что произошло:
Исследователи провели 96 циклов тестирования (по три попытки на модель), ограничив агентов тридцатью ходами без доступа в интернет.
В лидеры по числу найденных брешей вырвался DeepSeek V4 Pro 0813, закрывший 28 из 32 уязвимостей.
Следом идут:
Qwen3.8-Max (26 из 32),
Grok 4.6 (26 из 32),
Claude Opus 5 (26 из 32),
GLM-5.3 (25 из 32)
GPT-5.6 Sol (25 из 32).
🔧 Технические детали:
Разница между моделями проявилась в архитектуре исследования кода и разбросе гипотез.
DeepSeek V4 Pro тратит больше всех ресурсов (медиана 24 хода из 30), активно исследует боковые ветви и за три прогона собирает максимум находок: 17 в первой попытке и 28 в сумме.
Три запуска DeepSeek V4 Pro стоят $295 против $450-$590 за одиночный прогон Opus 5 или Sol.
GLM-5.3 на 65.5% дешевле GPT-5.6 Sol при той же точности и находит стабильные 18 из 32 уязвимостей во всех прогонах.
Kimi K3 оказался самым быстрым: медиана 12 ходов и точность 92.3% без ложного шума.
🎯 Какую проблему решает:
Поиск уязвимостей в коде всегда упирается в дилемму цены и полноты охвата.
Одиночный прогон дорогой флагманской модели может оставлять пропуски в логике, например, поэтому нужны повторные запуски или анализ агентами, но их работа обходится в 15 раз дороже по токенам.
Получается, возможность использовать открытые модели для анализа, - это серьёзная экономия и теперь она не приводит к деградации результата.
💼 Зачем бизнесу:
API и привязка к интернету все реже становятся обязательным условием работы с качественным ИИ.
Компании могут разворачивать наступательные и оборонительные сканеры на базе открытых весов в изолированном контуре и получать приемлемый результат.
#cybersecurity #DeepSeek #GLM #LLM #AppSec #тесты
———
@tsingular
Команда Aikido Security сожгла почти 12 миллиардов токенов, натравив десять ведущих нейросетей на 32 свежие реальные уязвимости в кодовой базе. И получается, что открытые модели решают задачи не хуже проприетарных.
🚀 Что произошло:
Исследователи провели 96 циклов тестирования (по три попытки на модель), ограничив агентов тридцатью ходами без доступа в интернет.
В лидеры по числу найденных брешей вырвался DeepSeek V4 Pro 0813, закрывший 28 из 32 уязвимостей.
Следом идут:
Qwen3.8-Max (26 из 32),
Grok 4.6 (26 из 32),
Claude Opus 5 (26 из 32),
GLM-5.3 (25 из 32)
GPT-5.6 Sol (25 из 32).
🔧 Технические детали:
Разница между моделями проявилась в архитектуре исследования кода и разбросе гипотез.
DeepSeek V4 Pro тратит больше всех ресурсов (медиана 24 хода из 30), активно исследует боковые ветви и за три прогона собирает максимум находок: 17 в первой попытке и 28 в сумме.
Три запуска DeepSeek V4 Pro стоят $295 против $450-$590 за одиночный прогон Opus 5 или Sol.
GLM-5.3 на 65.5% дешевле GPT-5.6 Sol при той же точности и находит стабильные 18 из 32 уязвимостей во всех прогонах.
Kimi K3 оказался самым быстрым: медиана 12 ходов и точность 92.3% без ложного шума.
🎯 Какую проблему решает:
Поиск уязвимостей в коде всегда упирается в дилемму цены и полноты охвата.
Одиночный прогон дорогой флагманской модели может оставлять пропуски в логике, например, поэтому нужны повторные запуски или анализ агентами, но их работа обходится в 15 раз дороже по токенам.
Получается, возможность использовать открытые модели для анализа, - это серьёзная экономия и теперь она не приводит к деградации результата.
💼 Зачем бизнесу:
API и привязка к интернету все реже становятся обязательным условием работы с качественным ИИ.
Компании могут разворачивать наступательные и оборонительные сканеры на базе открытых весов в изолированном контуре и получать приемлемый результат.
#cybersecurity #DeepSeek #GLM #LLM #AppSec #тесты
———
@tsingular
⚡5🔥5❤1✍1💯1
DeepSeek V4 flash vision открыли веса
📋 DeepSeek выложили в открытый доступ V4 Flash Vision Exp, первую экспериментальную мультимодальную модель в семействе V4.
К текстовой V4 Flash добавили визуальные модули и дообучили её видеть интерфейс и картинки.
🔧 Зрению её учили на агентных задачах: графики, чарты, скриншоты, экраны. По текстовым тестам всё на месте: Terminal Bench 2.1 набрал 83,9 против 82,7 у текстовой версии, DeepSWE 59,3.
Мультимодальные возможности выросли заметно: ApexBench (Pass@1) подскочил с 26,2 до 36,5, Chartography 64,3, ZeroBench 35,0.
💡 Разница в том, что агент теперь видит экран и работает с ним напрямую.
До Opus 4.8 на ApexBench (39,4) ещё чуть отстаёт, но это открытые веса против закрытой модели.
Обновленный Flash забираем тут
#DeepSeek #мультимодальность
———
@tsingular
📋 DeepSeek выложили в открытый доступ V4 Flash Vision Exp, первую экспериментальную мультимодальную модель в семействе V4.
К текстовой V4 Flash добавили визуальные модули и дообучили её видеть интерфейс и картинки.
🔧 Зрению её учили на агентных задачах: графики, чарты, скриншоты, экраны. По текстовым тестам всё на месте: Terminal Bench 2.1 набрал 83,9 против 82,7 у текстовой версии, DeepSWE 59,3.
Мультимодальные возможности выросли заметно: ApexBench (Pass@1) подскочил с 26,2 до 36,5, Chartography 64,3, ZeroBench 35,0.
💡 Разница в том, что агент теперь видит экран и работает с ним напрямую.
До Opus 4.8 на ApexBench (39,4) ещё чуть отстаёт, но это открытые веса против закрытой модели.
Обновленный Flash забираем тут
#DeepSeek #мультимодальность
———
@tsingular
🔥13 5❤3⚡1🍾1
160 тысяч чипов Huawei во Внутренней Монголии: DeepSeek строит крупнейший суверенный кластер
По данным Bloomberg и китайских медиа, DeepSeek развернет не менее 160 000 ускорителей Huawei Ascend 950DT для гигаваттного дата-центра во Внутренней Монголии. Это станет крупнейшим кластером на китайском кремнии.
🏗 Гигаваттный хаб на севере Китая:
Издания iFeng и IT Times подтверждают: комплекс строят под гигаватты мощности.
Регион выбрали из-за избытка ветровой энергии и холодного климата для пассивного охлаждения.
Партия из 160 000 чипов пойдет на первую очередь:
Чипы пойдут строго под инференс: отдачу ответов пользователям и API.
Обучение новых моделей компания продолжает вести на кластерах NVIDIA.
Опыт показал: учить флагманы на софте CANN рискованно, а обслуживать пользователей уже выгодно.
⚡️ По эффективности подбирается вплотную к NVIDIA H200:
Чип Ascend 950DT спроектирован под генерацию токенов.
В кристалл упаковали 144 ГБ HBM-памяти стандарта HiZQ с пропускной способностью 4 ТБ/с.
Для сравнения: эталон NVIDIA H200 предлагает 141 ГБ и 4,8 ТБ/с.
По шине памяти Huawei подошла к лидеру, хотя по вычислениям на техпроцессе SMIC N+2 держится на уровне Hopper (H100), уступая Blackwell.
⏳ Риски поставок:
Главное препятствие сделки: производственные лимиты самой Huawei.
Из-за дефицита оборудования упаковки памяти выпуск ограничен сотнями тысяч штук в год на всю страну.
Huawei вынуждена делить квоты между DeepSeek, ByteDance, Tencent и госзаказами.
Поэтому поставка 160 000 чипов займет более года.
💼 Зачем бизнесу и индустрии:
DeepSeek подает пример технологического прагматизма.
Компания разводит нагрузку: претрейн оставляет на картах США, а массовый инференс переносит на отечественные рельсы.
Заказ такого масштаба окупает инвестиции в китайский кремний и закрепляет за Huawei статус второго мирового полупроводникового полюса.
#DeepSeek #Huawei #железо #кластер #Китай
———
@tsingular | Max | YouTube | RuTube
По данным Bloomberg и китайских медиа, DeepSeek развернет не менее 160 000 ускорителей Huawei Ascend 950DT для гигаваттного дата-центра во Внутренней Монголии. Это станет крупнейшим кластером на китайском кремнии.
🏗 Гигаваттный хаб на севере Китая:
Издания iFeng и IT Times подтверждают: комплекс строят под гигаватты мощности.
Регион выбрали из-за избытка ветровой энергии и холодного климата для пассивного охлаждения.
Партия из 160 000 чипов пойдет на первую очередь:
Чипы пойдут строго под инференс: отдачу ответов пользователям и API.
Обучение новых моделей компания продолжает вести на кластерах NVIDIA.
Опыт показал: учить флагманы на софте CANN рискованно, а обслуживать пользователей уже выгодно.
⚡️ По эффективности подбирается вплотную к NVIDIA H200:
Чип Ascend 950DT спроектирован под генерацию токенов.
В кристалл упаковали 144 ГБ HBM-памяти стандарта HiZQ с пропускной способностью 4 ТБ/с.
Для сравнения: эталон NVIDIA H200 предлагает 141 ГБ и 4,8 ТБ/с.
По шине памяти Huawei подошла к лидеру, хотя по вычислениям на техпроцессе SMIC N+2 держится на уровне Hopper (H100), уступая Blackwell.
⏳ Риски поставок:
Главное препятствие сделки: производственные лимиты самой Huawei.
Из-за дефицита оборудования упаковки памяти выпуск ограничен сотнями тысяч штук в год на всю страну.
Huawei вынуждена делить квоты между DeepSeek, ByteDance, Tencent и госзаказами.
Поэтому поставка 160 000 чипов займет более года.
💼 Зачем бизнесу и индустрии:
DeepSeek подает пример технологического прагматизма.
Компания разводит нагрузку: претрейн оставляет на картах США, а массовый инференс переносит на отечественные рельсы.
Заказ такого масштаба окупает инвестиции в китайский кремний и закрепляет за Huawei статус второго мирового полупроводникового полюса.
#DeepSeek #Huawei #железо #кластер #Китай
———
@tsingular | Max | YouTube | RuTube
🔥13❤2🏆2⚡1
Ollama вдвое снизила цены на DeepSeek в непиковые часы
Ollama ввела динамические тарифы для DeepSeek-V4-Pro и DeepSeek-V4-Flash: в будни до 12:00 и после 18:00 UTC, а в выходные весь день токены стоят на 50% дешевле.
💰 Новые цены за 1 млн токенов:
DeepSeek-V4-Flash • вход: $0.22
• кэшированный вход: $0.007
• выход: $0.66
DeepSeek-V4-Pro • вход: $0.66
• кэшированный вход: $0.022
• выход: $1.98
Самое вкусное для нас,- расписание цен у Ollama и самого DeepSeek в противофазе.
Ollama так же обещают добавить непиковые тарифы и для других моделей.
Получается уже прям как биржа инференса: мало выбрать модель и провайдера ещё придётся делать роутер запросов по расписанию.
Самый простой сценарий в будни по Москве:
21:00–15:00 → Ollama — $0.66 вход / $1.98 выход.
15:00–21:00 → DeepSeek напрямую — $0.66 / $1.98.
То есть всего два переключения: в 15:00 на DeepSeek, в 21:00 обратно на Ollama.
В выходные вообще не переключаемся — Ollama весь день.
#ollama #цены #deepseek
------
@tsingular
Ollama ввела динамические тарифы для DeepSeek-V4-Pro и DeepSeek-V4-Flash: в будни до 12:00 и после 18:00 UTC, а в выходные весь день токены стоят на 50% дешевле.
💰 Новые цены за 1 млн токенов:
DeepSeek-V4-Flash • вход: $0.22
• кэшированный вход: $0.007
• выход: $0.66
DeepSeek-V4-Pro • вход: $0.66
• кэшированный вход: $0.022
• выход: $1.98
Самое вкусное для нас,- расписание цен у Ollama и самого DeepSeek в противофазе.
Ollama так же обещают добавить непиковые тарифы и для других моделей.
Получается уже прям как биржа инференса: мало выбрать модель и провайдера ещё придётся делать роутер запросов по расписанию.
Самый простой сценарий в будни по Москве:
21:00–15:00 → Ollama — $0.66 вход / $1.98 выход.
15:00–21:00 → DeepSeek напрямую — $0.66 / $1.98.
То есть всего два переключения: в 15:00 на DeepSeek, в 21:00 обратно на Ollama.
В выходные вообще не переключаемся — Ollama весь день.
#ollama #цены #deepseek
------
@tsingular
✍10⚡8🔥5👍4
DeepSeek официально выпустила V4.1 Flash: быстрая модель обошла флагманскую V4 Pro и уронила цены до $0.003 за 1M токенов
DeepSeek, - это команда, которая методично продолжает переписывать экономику вычислений и инференса.
Разработчики разослали официальное уведомление о запуске модели V4.1 Flash, и ситуация получилась уникальная: облегченная Flash-версия по итогам масштабных тестов превзошла предыдущий тяжелый флагман V4 Pro по многим метрикам.
⚡️ Младшая модель обогнала тяжеловеса:
По результатам внутренних и внешних бенчмарков V4.1 Flash превосходит V4 Pro по качеству ответов, скорости генерации, общему времени выполнения задач и себестоимости.
Это подтверждает тренд, когда оптимизация архитектуры и эффективный пост-тренинг дают больше прироста, чем простое наращивание параметров.
💰 Экономика инференса на грани бесплатного:
Новые тарифы вступают в силу 10 сентября в 04:00 UTC и снова задают недосягаемую планку для западных конкурентов:
• Входные токены с кэшированием (Cache Hit): всего $0.003 за 1M в непиковые часы ($0.006 в пик).
• Входные токены без кэша (Cache Miss): $0.15 за 1M в непик ($0.30 в пик).
• Выходные токены: $0.60 за 1M в непик ($1.20 в пик).
Пиковые часы строго регламентированы (01:00-04:00 и 06:00-10:00 UTC по будням), а все остальное время действует скидка 50%. Для агентских систем с длинными системными промптами кэш за три тысячных доллара делает контекст почти бесплатным.
🔄 Мягкий переход и автороутинг:
Чтобы разработчики не переписывали прод в спешке, DeepSeek продлила поддержку V4 Pro до 14 сентября (12:00 по Пекину).
Пользователям дают 4 дня на сравнительное A/B тестирование, после чего все запросы к эндпоинту Pro будут автоматически маршрутизироваться на V4.1 Flash и тарифицироваться по сверхдешевому прайсу Flash.
#DeepSeek #LLM #инференс #модели
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен
DeepSeek, - это команда, которая методично продолжает переписывать экономику вычислений и инференса.
Разработчики разослали официальное уведомление о запуске модели V4.1 Flash, и ситуация получилась уникальная: облегченная Flash-версия по итогам масштабных тестов превзошла предыдущий тяжелый флагман V4 Pro по многим метрикам.
⚡️ Младшая модель обогнала тяжеловеса:
По результатам внутренних и внешних бенчмарков V4.1 Flash превосходит V4 Pro по качеству ответов, скорости генерации, общему времени выполнения задач и себестоимости.
Это подтверждает тренд, когда оптимизация архитектуры и эффективный пост-тренинг дают больше прироста, чем простое наращивание параметров.
💰 Экономика инференса на грани бесплатного:
Новые тарифы вступают в силу 10 сентября в 04:00 UTC и снова задают недосягаемую планку для западных конкурентов:
• Входные токены с кэшированием (Cache Hit): всего $0.003 за 1M в непиковые часы ($0.006 в пик).
• Входные токены без кэша (Cache Miss): $0.15 за 1M в непик ($0.30 в пик).
• Выходные токены: $0.60 за 1M в непик ($1.20 в пик).
Пиковые часы строго регламентированы (01:00-04:00 и 06:00-10:00 UTC по будням), а все остальное время действует скидка 50%. Для агентских систем с длинными системными промптами кэш за три тысячных доллара делает контекст почти бесплатным.
🔄 Мягкий переход и автороутинг:
Чтобы разработчики не переписывали прод в спешке, DeepSeek продлила поддержку V4 Pro до 14 сентября (12:00 по Пекину).
Пользователям дают 4 дня на сравнительное A/B тестирование, после чего все запросы к эндпоинту Pro будут автоматически маршрутизироваться на V4.1 Flash и тарифицироваться по сверхдешевому прайсу Flash.
#DeepSeek #LLM #инференс #модели
———
@tsingular | Max | YouTube | RuTube | VK | VK Video | Дзен
🔥19❤14⚡3 2👍1
DeepSeek V4.1 Flash без цензуры
Энтузиасты из dealignai опубликовали версию самой мощной открытки без цензуры.
🔬 Что сделали:
Из весов хирургически точно удалили «направление отказа», которое заставляет модель вежливо отказывать на опасные запросы. Поменяли 54 тензора из 96 тысяч.
HarmBench: база отказывает в 42,8% случаев, форк отвечает на все 100%.
В режиме максимального размышления база становится осторожнее (1,6%), форк держит сотню.
📉 Чем заплатили:
MMLU просел с 86,96% до 82,74%, а этический кластер рухнул на 39,89 пункта: моральные сценарии, право, юриспруденция.
Отказ переплетён со знаниями о морали, поэтому вырезать одно без урона второму не вышло.
💼 Зачем бизнесу:
Открытые веса означают, что снять предохранители может кто угодно.
Так что все разговоры про безопасный ИИ, - только до первой команды "освободителей".
Мощность 4.1 флэша вы уже знаете, - очень эффективная мультимодалка.
Теперь из неё можно выжать любую непотребщину, что мы, конечно, осуждаем.
С другой стороны для задач усиления безопасности, - незаменимая штука, качаем.
🔗 Ссылки:
- dealignai: DeepSeek-V4.1-Flash-UNCENSORED-FP8: форк с вырезанными отказами
- deepseek-ai: DeepSeek-V4.1-Flash: официальная база
#DeepSeek #цензура
------
@tsingular
Энтузиасты из dealignai опубликовали версию самой мощной открытки без цензуры.
🔬 Что сделали:
Из весов хирургически точно удалили «направление отказа», которое заставляет модель вежливо отказывать на опасные запросы. Поменяли 54 тензора из 96 тысяч.
HarmBench: база отказывает в 42,8% случаев, форк отвечает на все 100%.
В режиме максимального размышления база становится осторожнее (1,6%), форк держит сотню.
📉 Чем заплатили:
MMLU просел с 86,96% до 82,74%, а этический кластер рухнул на 39,89 пункта: моральные сценарии, право, юриспруденция.
Отказ переплетён со знаниями о морали, поэтому вырезать одно без урона второму не вышло.
💼 Зачем бизнесу:
Открытые веса означают, что снять предохранители может кто угодно.
Так что все разговоры про безопасный ИИ, - только до первой команды "освободителей".
Мощность 4.1 флэша вы уже знаете, - очень эффективная мультимодалка.
Теперь из неё можно выжать любую непотребщину, что мы, конечно, осуждаем.
С другой стороны для задач усиления безопасности, - незаменимая штука, качаем.
🔗 Ссылки:
- dealignai: DeepSeek-V4.1-Flash-UNCENSORED-FP8: форк с вырезанными отказами
- deepseek-ai: DeepSeek-V4.1-Flash: официальная база
#DeepSeek #цензура
------
@tsingular
🔥15⚡6❤4 4🤔2
⚡14🆒3❤1✍1
Forwarded from Machinelearning
🐋 DeepSeek V4.1-Flash-1017: метрики выше, ответы короче, Search и Fetch API открыты всем
DeepSeek обновили Flash-версию V4.1. Модель сильнее прошлой, быстрее решает задачи и выдаёт более короткие ответы, то есть выходит дешевле. Доступна на сайте, в приложении и по API, веса открыты.
На DeepSWE v1.1 модель набирает 77.0 против 74.0 у Claude Opus 5 и 73.0 у GPT 5.6-Sol. На Automation-Bench 60.5 против 50.3 у Opus 5, на Agents' Last Exam 35.4 против 28.6. К прошлой Flash прирост большой: Terminal-Bench 4.0 вырос с 31.2 до 42.3, ProgramBench с 20.3 до 29.1.
На HLE (56.3), Terminal-Bench 4.0 (51.8) и NL2Repo-Bench (75.3) Opus 5 всё ещё впереди. Цифры приведены самой компанией, а методики оценки у бенчмарков разные.
Отдельно открыли Search и Fetch API на собственном поисковом движке: $0.75 за 1000 вызовов на каждый эндпоинт.
Модель: https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017
Документация API: https://api-docs.deepseek.com/guides/search
Источник: https://x.com/deepseek_ai/status/2111375640717033777
@ai_machinelearning_big_data
#DeepSeek
DeepSeek обновили Flash-версию V4.1. Модель сильнее прошлой, быстрее решает задачи и выдаёт более короткие ответы, то есть выходит дешевле. Доступна на сайте, в приложении и по API, веса открыты.
На DeepSWE v1.1 модель набирает 77.0 против 74.0 у Claude Opus 5 и 73.0 у GPT 5.6-Sol. На Automation-Bench 60.5 против 50.3 у Opus 5, на Agents' Last Exam 35.4 против 28.6. К прошлой Flash прирост большой: Terminal-Bench 4.0 вырос с 31.2 до 42.3, ProgramBench с 20.3 до 29.1.
На HLE (56.3), Terminal-Bench 4.0 (51.8) и NL2Repo-Bench (75.3) Opus 5 всё ещё впереди. Цифры приведены самой компанией, а методики оценки у бенчмарков разные.
Отдельно открыли Search и Fetch API на собственном поисковом движке: $0.75 за 1000 вызовов на каждый эндпоинт.
Модель: https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017
Документация API: https://api-docs.deepseek.com/guides/search
Источник: https://x.com/deepseek_ai/status/2111375640717033777
@ai_machinelearning_big_data
#DeepSeek
🔥20⚡6❤4🤩3
В Opencode бесплатные DeepSeek v4.1 flash и GLM 5.3 Flash
сон отменяется :)
#Opencode #GLM #DeepSeek
———
@tsingular
сон отменяется :)
#Opencode #GLM #DeepSeek
———
@tsingular
🔥25🤣9🤩3❤1⚡1
Вышла mlx версия Deepseek Flash 1017, которую реально запустить на M3 512Gb
Размер модели 432Gb.
Т.е. и на систему и на контекст место остаётся.
Рабочая скорость: 15-17 токенов в секунду
Качать тут:
https://huggingface.co/mlx-community/DeepSeek-V4.1-Flash-1017-oQ4e-mtp
Теперь фронтир уровня Опус 5 можно держать дома.
#deepseek #mlx #flash
------
@tsingular
Размер модели 432Gb.
Т.е. и на систему и на контекст место остаётся.
Рабочая скорость: 15-17 токенов в секунду
Качать тут:
https://huggingface.co/mlx-community/DeepSeek-V4.1-Flash-1017-oQ4e-mtp
Теперь фронтир уровня Опус 5 можно держать дома.
#deepseek #mlx #flash
------
@tsingular
huggingface.co
mlx-community/DeepSeek-V4.1-Flash-1017-oQ4e-mtp · Hugging Face
Image-Text-to-Text model with 129B parameters. Download, explore files and run it on Hugging Face.
🔥22 6🤩4⚡3👍2❤1😁1😢1
DeepSeek раскрыл экономику API: $38 выручки с ускорителя в час при мажинальности более 80%
DeepSeek опубликовал экономические показатели сервиса V4.1 Flash вместе с открытием кода DeepInfer.
По данным компании, средняя выручка составляет $38 на ускоритель в час при расчёте по непиковым тарифам (в пиковые,- выше).
Один кластер обслуживает 155 трлн токенов в день.
💰 Валовая маржа API-бизнеса DeepSeek за январь–июль 2026 года составила 82,9%, сообщал PYMNTS со ссылкой на The Information. Выручка компании за тот же период достигла $70,7 млн, общая валовая маржа составила 44,6%.
💳 В действующем непиковом тарифе V4.1 Flash миллион входных токенов из кэша стоит $0,003, новый вход $0,15, миллион выходных токенов $0,60. Повторное использование входа обходится клиенту в 50 раз дешевле его первичной обработки.
В пиковые часы эти тарифы удваиваются.
🧮 В производственной статистике DeepSeek 96% входных токенов попадают в кэш. При таком соотношении средняя цена миллиона входных токенов по непиковому тарифу получается $0,00888. Это примерно в 17 раз дешевле обработки полностью нового входа.
Расчёт использует опубликованную долю попаданий и официальные тарифы.
⚙️ На стороне сервера сохранённый контекст сокращает повторные вычисления.
DeepSeek указывает 60 тыс. входных токенов/с на карту при обработке нового контекста и 1,5 млн с учётом кэша.
Повторно используемые данные хранятся примерно три дня для агентов и семь дней для чат-ботов, в распределённом SSD-хранилище объёмом около 100 PiB.
Получается догнали западные фронтиры по качеству, обошли по скорости и теперь ещё и по экономической эффективности.
📎 Официальные тарифы · Код и описание DeepInfer
#DeepSeek #DeepInfer #Китай
———
@tsingular
DeepSeek опубликовал экономические показатели сервиса V4.1 Flash вместе с открытием кода DeepInfer.
По данным компании, средняя выручка составляет $38 на ускоритель в час при расчёте по непиковым тарифам (в пиковые,- выше).
Один кластер обслуживает 155 трлн токенов в день.
💰 Валовая маржа API-бизнеса DeepSeek за январь–июль 2026 года составила 82,9%, сообщал PYMNTS со ссылкой на The Information. Выручка компании за тот же период достигла $70,7 млн, общая валовая маржа составила 44,6%.
💳 В действующем непиковом тарифе V4.1 Flash миллион входных токенов из кэша стоит $0,003, новый вход $0,15, миллион выходных токенов $0,60. Повторное использование входа обходится клиенту в 50 раз дешевле его первичной обработки.
В пиковые часы эти тарифы удваиваются.
🧮 В производственной статистике DeepSeek 96% входных токенов попадают в кэш. При таком соотношении средняя цена миллиона входных токенов по непиковому тарифу получается $0,00888. Это примерно в 17 раз дешевле обработки полностью нового входа.
Расчёт использует опубликованную долю попаданий и официальные тарифы.
⚙️ На стороне сервера сохранённый контекст сокращает повторные вычисления.
DeepSeek указывает 60 тыс. входных токенов/с на карту при обработке нового контекста и 1,5 млн с учётом кэша.
Повторно используемые данные хранятся примерно три дня для агентов и семь дней для чат-ботов, в распределённом SSD-хранилище объёмом около 100 PiB.
Получается догнали западные фронтиры по качеству, обошли по скорости и теперь ещё и по экономической эффективности.
📎 Официальные тарифы · Код и описание DeepInfer
#DeepSeek #DeepInfer #Китай
———
@tsingular
🔥24👏3 3❤2⚡2
1B за день. локальный рекорд.
до этого пользовался дипсиком без фанатизма месяц.
В основном был GLM, Sol и Opus, а тут что-то настолько deepseek-flash хорошо пошел, что включив его в гермесы и в мультику получил локальную сингулярность.
#deepseek
———
@tsingular
до этого пользовался дипсиком без фанатизма месяц.
В основном был GLM, Sol и Opus, а тут что-то настолько deepseek-flash хорошо пошел, что включив его в гермесы и в мультику получил локальную сингулярность.
#deepseek
———
@tsingular
🤩15🤯10 10⚡4💯1🗿1
vLLM разогнался в 8 раз и догнал по скорости DeepInfer от DeepSeek
23 октября команда vLLM и Inferact показали замеры DeepSeek-V4.1-Flash на одной стойке NVIDIA GB300 NVL72: 954 тыс. токенов в секунду на видеокарту при P90 196 токенов в секунду на пользователя.
Это в 7,9 раза больше их же результата на одном узле.
🔧 Ускорение собрано из трёх вещей. Контекстное кэширование сжато до 890 байт на токен, поэтому 128 тыс. токенов контекста превращаются в 855 тыс. с ростом задержки всего на 0,6 мс.
Предзаполнение вынесено в отдельные экземпляры на двух GPU: при четырёх GPU потери от рассинхронизации достигают 13,6 %, поэтому меньший размер оказался выгоднее. Декодирование растянуто на 32 GPU, а эксперты каждые 3 000 шагов переставляются по нагрузке: равномерность маршрутизации выросла с 0,35 до 0,94 и закрыла 97 % разрыва.
Сравнение с DeepInfer, собственным движком DeepSeek, вышло почти в ничью: на GB200 с контекстом 131 тыс. токенов vLLM отстаёт на 6 % при размере батча от 8 до 256, а кривая предзаполнения идёт по опубликованной DeepSeek.
Разница в том, что DeepInfer обслуживает одну модель в офлайн-режиме, а этот же vLLM держит её онлайн через разделение предзаполнения и декодирования.
⚡️ Отдельная ветка для малой нагрузки даёт 826 токенов в секунду одному пользователю на четырёх B300, это на 44 % больше обычного пути.
💼 Если вы держите V4.1-Flash на vLLM, обновление стоит того: узкое место сместилось с видеокарты на процессор, и без правок 32 GPU работали медленнее 16 из-за синхронизации рангов.
Обзор от vLLM
Интересно проверить на меньшем количестве карт, конечно.
#vLLM #DeepSeek #DeepInfer #инференс
———
@tsingular
23 октября команда vLLM и Inferact показали замеры DeepSeek-V4.1-Flash на одной стойке NVIDIA GB300 NVL72: 954 тыс. токенов в секунду на видеокарту при P90 196 токенов в секунду на пользователя.
Это в 7,9 раза больше их же результата на одном узле.
🔧 Ускорение собрано из трёх вещей. Контекстное кэширование сжато до 890 байт на токен, поэтому 128 тыс. токенов контекста превращаются в 855 тыс. с ростом задержки всего на 0,6 мс.
Предзаполнение вынесено в отдельные экземпляры на двух GPU: при четырёх GPU потери от рассинхронизации достигают 13,6 %, поэтому меньший размер оказался выгоднее. Декодирование растянуто на 32 GPU, а эксперты каждые 3 000 шагов переставляются по нагрузке: равномерность маршрутизации выросла с 0,35 до 0,94 и закрыла 97 % разрыва.
Сравнение с DeepInfer, собственным движком DeepSeek, вышло почти в ничью: на GB200 с контекстом 131 тыс. токенов vLLM отстаёт на 6 % при размере батча от 8 до 256, а кривая предзаполнения идёт по опубликованной DeepSeek.
Разница в том, что DeepInfer обслуживает одну модель в офлайн-режиме, а этот же vLLM держит её онлайн через разделение предзаполнения и декодирования.
⚡️ Отдельная ветка для малой нагрузки даёт 826 токенов в секунду одному пользователю на четырёх B300, это на 44 % больше обычного пути.
💼 Если вы держите V4.1-Flash на vLLM, обновление стоит того: узкое место сместилось с видеокарты на процессор, и без правок 32 GPU работали медленнее 16 из-за синхронизации рангов.
Обзор от vLLM
Интересно проверить на меньшем количестве карт, конечно.
#vLLM #DeepSeek #DeepInfer #инференс
———
@tsingular
🔥10✍2⚡2❤1
Unsloth выпустила кванты DeepSeek-V4.1-Flash, которые запускаются на 64 ГБ памяти
30 октября Unsloth выложила GGUF-кванты DeepSeek-V4.1-Flash-1017, обновления Flash, вышедшего 17 октября. Самая компактная сборка занимает 233 ГБ на диске и работает на машине с 64 ГБ памяти (на 128 ГБ быстрее).
Причина в Engram, отдельной таблице условной памяти. Она хранит n-граммы до четырёх токенов и на каждый токен читает несколько строк, поэтому файл держат на SSD, а строки подгружаются в кэш по мере надобности.
У кванта UD-IQ1_S таблица занимает 110,6 ГБ из 233, остальные веса 122,4 ГБ. Штатный порог Unsloth для 1-битного варианта составляет 128–145 ГБ, для 3-битного 256–290 ГБ, для 8-битного 315 ГБ.
Динамическое квантование 3.1 позволило сохранить высокое качество: совпадение с оригиналом 88,2% у 1-битного IQ1_M, 98,5% у 4-битного, 98,7% у 8-битного. Ускорение до 3× относится к другим сборкам для CPU, VRAM и n-грамм, а драфтер DSpark на 8 ГБ добавляет 1,3–1,5× к декодированию.
Контекст 1 048 576 токенов.
📎 Кванты: https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF
#DeepSeek #Unsloth
———
@tsingular
30 октября Unsloth выложила GGUF-кванты DeepSeek-V4.1-Flash-1017, обновления Flash, вышедшего 17 октября. Самая компактная сборка занимает 233 ГБ на диске и работает на машине с 64 ГБ памяти (на 128 ГБ быстрее).
Причина в Engram, отдельной таблице условной памяти. Она хранит n-граммы до четырёх токенов и на каждый токен читает несколько строк, поэтому файл держат на SSD, а строки подгружаются в кэш по мере надобности.
У кванта UD-IQ1_S таблица занимает 110,6 ГБ из 233, остальные веса 122,4 ГБ. Штатный порог Unsloth для 1-битного варианта составляет 128–145 ГБ, для 3-битного 256–290 ГБ, для 8-битного 315 ГБ.
Динамическое квантование 3.1 позволило сохранить высокое качество: совпадение с оригиналом 88,2% у 1-битного IQ1_M, 98,5% у 4-битного, 98,7% у 8-битного. Ускорение до 3× относится к другим сборкам для CPU, VRAM и n-грамм, а драфтер DSpark на 8 ГБ добавляет 1,3–1,5× к декодированию.
Контекст 1 048 576 токенов.
📎 Кванты: https://huggingface.co/unsloth/DeepSeek-V4.1-Flash-1017-GGUF
#DeepSeek #Unsloth
———
@tsingular
🔥16✍3❤🔥1⚡1❤1🤩1