🔥 DeepSeek-V4.1-Flash теперь можно запустить локально в UNCENSORED FP8-версии
Авторы утверждают, что отказный контур удалён прямо на уровне весов, поэтому модель практически перестаёт уходить в refusals.
База при этом остаётся очень мощной:
552B MoE, 8B/16B активных параметров, контекст до 1M, vision, DSpark, CSA2 и Engram.
На HarmBench-320 авторы заявляют рост ASR:
- с 42,8% до 100% при
- с 1,6% до 100% при
MMLU при этом снижается с 86,96% до 82,74%, а при удалении ethics-кластера падение около 1,1 п.п.
У исходной модели усиленное reasoning, наоборот, делало поведение безопаснее. Здесь этот путь вырезали непосредственно из весов.
https://huggingface.co/dealignai/DeepSeek-V4.1-Flash-UNCENSORED-FP8
Авторы утверждают, что отказный контур удалён прямо на уровне весов, поэтому модель практически перестаёт уходить в refusals.
База при этом остаётся очень мощной:
552B MoE, 8B/16B активных параметров, контекст до 1M, vision, DSpark, CSA2 и Engram.
На HarmBench-320 авторы заявляют рост ASR:
- с 42,8% до 100% при
effort=off- с 1,6% до 100% при
effort=maxMMLU при этом снижается с 86,96% до 82,74%, а при удалении ethics-кластера падение около 1,1 п.п.
У исходной модели усиленное reasoning, наоборот, делало поведение безопаснее. Здесь этот путь вырезали непосредственно из весов.
https://huggingface.co/dealignai/DeepSeek-V4.1-Flash-UNCENSORED-FP8
❤9👍3🔥3
This media is not supported in your browser
VIEW IN TELEGRAM
We Must Pace the Frontier
🤣39👍8❤5🔥4😁3🥴2
🔥 Qwen3.8-27B можно запускать локально на Mac с Apple Silicon - вышла 4-битная сборка для MLX.
Команда LM Studio подготовила версию модели на 27 млрд параметров, оптимизированную для чипов Apple. Она поддерживает текст и изображения, а файлы занимают около 16,1 ГБ.
Но 16,1 ГБ на диске не означает, что хватит Mac с 16 ГБ памяти. Дополнительная память нужна системе, вычислениям и кешу контекста.
В исходной публикации ориентир - 24 ГБ объединённой памяти, а для изображений и длинных рассуждений — 32 ГБ. В карточке сборки эти требования не подтверждены; расход памяти зависит от настроек и длины контекста.
https://huggingface.co/lmstudio-community/Qwen3.8-27B-MLX-4bit
Команда LM Studio подготовила версию модели на 27 млрд параметров, оптимизированную для чипов Apple. Она поддерживает текст и изображения, а файлы занимают около 16,1 ГБ.
Но 16,1 ГБ на диске не означает, что хватит Mac с 16 ГБ памяти. Дополнительная память нужна системе, вычислениям и кешу контекста.
В исходной публикации ориентир - 24 ГБ объединённой памяти, а для изображений и длинных рассуждений — 32 ГБ. В карточке сборки эти требования не подтверждены; расход памяти зависит от настроек и длины контекста.
https://huggingface.co/lmstudio-community/Qwen3.8-27B-MLX-4bit
🔥15👍8❤2
Forwarded from Machinelearning
Главный результат: PC-ALM смог обучать нейросети глубиной до 1000 слоёв, используя только локальные взаимодействия между соседними слоями.
Обычное глубокое обучение почти полностью опирается на backpropagation: ошибка считается на выходе сети, после чего градиенты передаются назад через все слои.
PC-ALM работает иначе.
Каждый слой рассматривается как локальная динамическая система, которая пытается уменьшить собственную ошибку предсказания. Вместо глобального прохода градиента используются:
- локальные ошибки предсказания
- множители Лагранжа
- расширенный лагранжиан
- локальная динамика состояний
- PI-регуляция внутри каждого слоя
Метод вырос из predictive coding — подхода, популярного в NeuroAI. В predictive coding каждый слой постепенно корректирует своё состояние так, чтобы уменьшать рассогласование с соседними слоями.
Проблема в том, что в очень глубоких сетях такие сигналы плохо распространяются: информация об ошибке с выхода сети затухает раньше, чем достигает внутренних слоёв.
PC-ALM добавляет специальные двойственные переменные — по сути дополнительные нейроны, представляющие множители Лагранжа. Они помогают передавать сигнал ошибки через большое число слоёв.
Авторы связывают этот подход с классической работой Яна Лекуна 1988 года, где множители Лагранжа для многослойной сети можно связать с градиентами функции потерь.
В результате получается обучение, где глобальная задача оптимизации раскладывается на множество локальных динамических процессов.
Особенно хорошо PC-ALM показал себя на очень глубоких и узких сетях, где обычный predictive coding начинает ломаться.
Помимо NeuroAI, подход может быть интересен для нейроморфного железа: там локальные вычисления и физическая динамика потенциально дешевле классического backpropagation на GPU.
Блог: https://pub.sakana.ai/pc-alm/
Статья: https://arxiv.org/abs/2605.31022
Код: https://github.com/SakanaAI/pc-alm
Please open Telegram to view this post
VIEW IN TELEGRAM
👍12❤🔥6❤4😁1🤣1
⚡Трамп жёстко прошёлся по Дарио Амодею и фактически отверг идею замедления гонки ИИ.
После призывов главы Anthropic снизить темп разработки frontier-моделей ради безопасности Трамп написал, что ИИ не нужны новые «ограничители», кроме «сильного и умного президента». Он отдельно упомянул Амодеи, обвинил противников ускоренного развития ИИ в игре на руку Китаю и заявил, что США уже обладают достаточными уголовными и регуляторными полномочиями над ИИ-компаниями.
Самая жёсткая часть:
На этом фоне предложение Амодея о «Pacing the Frontier» - дать индустрии ещё 1–2 года на усиление контроля и безопасности, выглядит всё сложнее реализуемым на уровне США.
Гонку, похоже, тормозить никто не собирается.
После призывов главы Anthropic снизить темп разработки frontier-моделей ради безопасности Трамп написал, что ИИ не нужны новые «ограничители», кроме «сильного и умного президента». Он отдельно упомянул Амодеи, обвинил противников ускоренного развития ИИ в игре на руку Китаю и заявил, что США уже обладают достаточными уголовными и регуляторными полномочиями над ИИ-компаниями.
Самая жёсткая часть:
> «Treasonists, Traitors, and Leakers, BEWARE!»
На этом фоне предложение Амодея о «Pacing the Frontier» - дать индустрии ещё 1–2 года на усиление контроля и безопасности, выглядит всё сложнее реализуемым на уровне США.
Гонку, похоже, тормозить никто не собирается.
🥴22😍15❤5😁5👍4😱3😢3🥱1
Tencent Hunyuan представила EvolveScaler - бенчмарк и датасет для проверки того, умеют ли LLM рассуждать в мире, где информация постоянно меняется.
Пример задачи: модель читает журнал RPG за 40 дней, после чего получает вопрос, если на 7-й день пропустить мини-босса, получится ли всё равно победить финального босса?
Прямого ответа в тексте нет. Нужно фактически «переиграть» цепочку событий с изменённым условием.
Авторы называют это Information Evolution: записи могут отменяться, исправляться и дополняться задним числом, поэтому простого поиска фактов в длинном контексте недостаточно.
EvolveScaler строится наоборот:
- сначала мир задаётся как исполняемая машина состояний
- логика и зависимости между событиями контролируются кодом
- затем эта история преобразуется в естественный язык
- модель должна восстановить состояние мира и просчитать последствия изменений
Масштаб:
- 117 прототипов сценариев
- 159 типов вопросов
- 5 уровней сложности
- до ~1200 событий в одном примере
Авторы протестировали 14 frontier-моделей. На самом сложном уровне медианный avg@5 падает до 11,3%.
При этом обучение на EvolveScaler дало в среднем +5,25 пункта на 8 внешних бенчмарках, которые не использовались при создании датасета.
Работа проверяет не только понимание длинного контекста, а способность модели поддерживать изменяющееся состояние мира, учитывать исправления и пересчитывать последствия контрфактических изменений.
Paper:
https://arxiv.org/abs/2609.08435
Project:
https://tencent-hunyuan.github.io/evolve-scaler/
Пример задачи: модель читает журнал RPG за 40 дней, после чего получает вопрос, если на 7-й день пропустить мини-босса, получится ли всё равно победить финального босса?
Прямого ответа в тексте нет. Нужно фактически «переиграть» цепочку событий с изменённым условием.
Авторы называют это Information Evolution: записи могут отменяться, исправляться и дополняться задним числом, поэтому простого поиска фактов в длинном контексте недостаточно.
EvolveScaler строится наоборот:
- сначала мир задаётся как исполняемая машина состояний
- логика и зависимости между событиями контролируются кодом
- затем эта история преобразуется в естественный язык
- модель должна восстановить состояние мира и просчитать последствия изменений
Масштаб:
- 117 прототипов сценариев
- 159 типов вопросов
- 5 уровней сложности
- до ~1200 событий в одном примере
Авторы протестировали 14 frontier-моделей. На самом сложном уровне медианный avg@5 падает до 11,3%.
При этом обучение на EvolveScaler дало в среднем +5,25 пункта на 8 внешних бенчмарках, которые не использовались при создании датасета.
Работа проверяет не только понимание длинного контекста, а способность модели поддерживать изменяющееся состояние мира, учитывать исправления и пересчитывать последствия контрфактических изменений.
Paper:
https://arxiv.org/abs/2609.08435
Project:
https://tencent-hunyuan.github.io/evolve-scaler/
👍9🔥6❤3👏1🤔1
🔥 Spark-X2.5-4B - компактная 4B-модель с нативным контекстом до 1M токенов
Модель заточена под локальный запуск и при небольшом размере умеет reasoning, coding, tool use и agentic workflows, а также заявляет поддержку 200+ языков.
По данным авторов:
- 44.4 — SWE-Bench Pro
- 40.9 — BrowseComp
- 90.7 — AIME 2026
- 54.6 — MCP-Atlas
Для локального запуска уже доступны BF16, INT8, GGUF-кванты от Q2 до Q8/IQ, MLX 4/8-bit и ONNX. Есть варианты для Apple Silicon, Linux CPU и NVIDIA GPU.
У свежего
Модель: https://huggingface.co/XHToken/Spark-X2.5-4B
GGUF: https://huggingface.co/XHToken/Spark-X2.5-4B-GGUF
Модель заточена под локальный запуск и при небольшом размере умеет reasoning, coding, tool use и agentic workflows, а также заявляет поддержку 200+ языков.
По данным авторов:
- 44.4 — SWE-Bench Pro
- 40.9 — BrowseComp
- 90.7 — AIME 2026
- 54.6 — MCP-Atlas
Для локального запуска уже доступны BF16, INT8, GGUF-кванты от Q2 до Q8/IQ, MLX 4/8-bit и ONNX. Есть варианты для Apple Silicon, Linux CPU и NVIDIA GPU.
У свежего
llama.cpp уже появилась поддержка архитектуры spark2_5, поэтому GGUF можно запускать через совместимые актуальные runtime. Полный контекст в 1M токенов, конечно, потребует намного больше памяти, чем обычный локальный сценарий.Модель: https://huggingface.co/XHToken/Spark-X2.5-4B
GGUF: https://huggingface.co/XHToken/Spark-X2.5-4B-GGUF
👍7❤6🔥3
🔥 Agentic coding уже ломает привычный CI: у Anthropic объём CI-задач вырос в 25 раз всего за 6 месяцев
Причина простая: инженеры выпускают примерно в 8 раз больше кода, около 80% которого пишет Claude, а количество тестов в кодовой базе выросло в 10 раз.
Старый test-selection сервис начал захлёбываться. Anthropic прошла три стадии:
Первая мера продержалась 70 дней, вторая — 29 дней, третья — меньше суток.
В итоге архитектуру переделали полностью: listener стал stateless, результаты CI складываются в общий журнал в in-memory store, а отдельный consumer агрегирует историю тестов. Это позволило горизонтально масштабировать обработку.
Новая система была собрана одним инженером примерно за 3 недели. По оценке Anthropic, год назад такая переделка заняла бы около квартала.
Главный совет команды на эпоху coding agents: проектируйте CI сразу под нагрузку в 10–25 раз выше текущей.
https://claude.com/blog/agentic-coding-is-straining-ci-heres-how-we-scaled-test-impact-analysis-at-anthropic
Причина простая: инженеры выпускают примерно в 8 раз больше кода, около 80% которого пишет Claude, а количество тестов в кодовой базе выросло в 10 раз.
Старый test-selection сервис начал захлёбываться. Anthropic прошла три стадии:
больше CPU → sharding → ежедневные рестартыПервая мера продержалась 70 дней, вторая — 29 дней, третья — меньше суток.
В итоге архитектуру переделали полностью: listener стал stateless, результаты CI складываются в общий журнал в in-memory store, а отдельный consumer агрегирует историю тестов. Это позволило горизонтально масштабировать обработку.
Новая система была собрана одним инженером примерно за 3 недели. По оценке Anthropic, год назад такая переделка заняла бы около квартала.
Главный совет команды на эпоху coding agents: проектируйте CI сразу под нагрузку в 10–25 раз выше текущей.
https://claude.com/blog/agentic-coding-is-straining-ci-heres-how-we-scaled-test-impact-analysis-at-anthropic
👍15❤4💯4🥰2
🔥 Google Research предложила способ ускорить сложный AI-поиск без длинного reasoning на каждом запросе
Новый подход называется Retrieve-for-Train.
Идея: вместо того чтобы каждый раз заставлять LLM долго думать и генерировать десятки sub-query, тяжёлую работу переносят в обучение.
Схема такая:
В итоге на inference уже не нужен большой chain-of-thought.
Google обучила компактный 53.9M diffusion retriever, который генерирует весь набор направлений поиска сразу, одним неавторегрессионным проходом.
Результат:
- 12–20× быстрее autoregressive-подходов
- latency остаётся от sub-second до нескольких секунд
- выше diversity, alignment и recall
- меньше дублирующихся sub-query
- не нужны human labels для supervision
Самое интересное: RL здесь используется не как дорогой online reasoning engine, а как одноразовый механизм, который «компилирует» сложное поведение в более дешёвую модель.
Для production-поиска это очень сильная идея: сложное reasoning делается заранее, а inference остаётся быстрым.
https://research.google/blog/bypassing-inference-bottlenecks-accelerating-complex-ai-search-with-retrieve-for-train/
Новый подход называется Retrieve-for-Train.
Идея: вместо того чтобы каждый раз заставлять LLM долго думать и генерировать десятки sub-query, тяжёлую работу переносят в обучение.
Схема такая:
query → RL-обученный fan-out LM → синтетические target-наборы → компактный diffusion retrieverВ итоге на inference уже не нужен большой chain-of-thought.
Google обучила компактный 53.9M diffusion retriever, который генерирует весь набор направлений поиска сразу, одним неавторегрессионным проходом.
Результат:
- 12–20× быстрее autoregressive-подходов
- latency остаётся от sub-second до нескольких секунд
- выше diversity, alignment и recall
- меньше дублирующихся sub-query
- не нужны human labels для supervision
Самое интересное: RL здесь используется не как дорогой online reasoning engine, а как одноразовый механизм, который «компилирует» сложное поведение в более дешёвую модель.
Для production-поиска это очень сильная идея: сложное reasoning делается заранее, а inference остаётся быстрым.
https://research.google/blog/bypassing-inference-bottlenecks-accelerating-complex-ai-search-with-retrieve-for-train/
❤13👍5🔥2🤣2
This media is not supported in your browser
VIEW IN TELEGRAM
🚨 Дженсен Хуанг выступил против идеи замедлять развитие frontier AI и вводить новые законы для отрасли.
На Dreamforce глава NVIDIA заявил:
По его мнению, безопасность и скорость разработки не противоречат друг другу. Компании должны тестировать системы, при необходимости делать паузу, но когда уверены в продукте, «бежать настолько быстро, насколько могут».
Хуанг прямо сказал:
Он называет безопасность прежде всего инженерной задачей и считает, что существующие рыночные механизмы уже заставляют компании не выпускать опасные продукты.
Это прямо расходится с позицией Дарио Амодея и других руководителей AI-лабораторий, которые в последние дни призывают сильнее координировать темпы развития и стандарты
На Dreamforce глава NVIDIA заявил:
«Если вы не уверены в безопасности продукта - просто не выпускайте его».
По его мнению, безопасность и скорость разработки не противоречат друг другу. Компании должны тестировать системы, при необходимости делать паузу, но когда уверены в продукте, «бежать настолько быстро, насколько могут».
Хуанг прямо сказал:
**«Нам не нужны новые законы. Нам не нужны новые регуляции».**
Он называет безопасность прежде всего инженерной задачей и считает, что существующие рыночные механизмы уже заставляют компании не выпускать опасные продукты.
Это прямо расходится с позицией Дарио Амодея и других руководителей AI-лабораторий, которые в последние дни призывают сильнее координировать темпы развития и стандарты
🔥15👍7😐7🥴5❤4🎉1💔1
Media is too big
VIEW IN TELEGRAM
🔥 Один из создателей технологий, которые привели к ChatGPT, запустил модель, которая вообще не генерирует текст.
Диогу Алмейда после двух лет stealth представил TypeSafe AI и первую модель нового класса — Jev.
Идея радикально отличается от обычных LLM:
Jev не пишет ответы словами. Вместо этого модель возвращает значения, которые программа может использовать напрямую: выбор варианта, оценку, вероятность события.
Для обучения TypeSafe разработала свой метод — RLCD (Reinforcement Learning for Calibrated Decisions).
По данным компании:
- отклик — 70–500 мс
- 20–200× быстрее frontier-моделей на таких задачах
- 40–400× дешевле
- input — $0,042 за 1 млн токенов
- output — бесплатно
Целевые сценарии: классификация, маршрутизация, scoring, extraction и автоматические решения внутри программ.
Важный нюанс: заявление «не галлюцинирует» означает прежде всего то, что модель не генерирует произвольный текст и работает в заданной типизированной схеме. Это не гарантия абсолютной правильности решения.
Jev уже доступен в early access. Цифры производительности пока в основном основаны на внутренних тестах TypeSafe.
https://x.com/Machinelearrn/status/2100178485641683200
Диогу Алмейда после двух лет stealth представил TypeSafe AI и первую модель нового класса — Jev.
Идея радикально отличается от обычных LLM:
неструктурированные данные → типизированное решение → вероятностьJev не пишет ответы словами. Вместо этого модель возвращает значения, которые программа может использовать напрямую: выбор варианта, оценку, вероятность события.
Для обучения TypeSafe разработала свой метод — RLCD (Reinforcement Learning for Calibrated Decisions).
По данным компании:
- отклик — 70–500 мс
- 20–200× быстрее frontier-моделей на таких задачах
- 40–400× дешевле
- input — $0,042 за 1 млн токенов
- output — бесплатно
Целевые сценарии: классификация, маршрутизация, scoring, extraction и автоматические решения внутри программ.
Важный нюанс: заявление «не галлюцинирует» означает прежде всего то, что модель не генерирует произвольный текст и работает в заданной типизированной схеме. Это не гарантия абсолютной правильности решения.
Jev уже доступен в early access. Цифры производительности пока в основном основаны на внутренних тестах TypeSafe.
https://x.com/Machinelearrn/status/2100178485641683200
👍20🤨11🔥6❤2🙏2👏1😁1💯1
🚨 Apple может выйти на рынок AI-серверов и использовать для этого технологию NVIDIA
По данным The Information, Apple разрабатывает серверы на будущих M8 Ultra и рассматривает NVLink Fusion для объединения нескольких чипов в одной системе.
Обсуждаются две конфигурации:
- 2× M8 Ultra
- 4× M8 Ultra
Серверы хотят продавать AI-разработчикам, компаниям и государственным организациям, а основной сценарий — AI inference, а не обучение моделей. Возможный запуск - около 2029 года.
Apple уже использует собственные решения в Private Cloud Compute, но, по данным источников, они слишком медленные и дорогие для масштабирования. Поэтому часть инженеров считает NVLink Fusion лучшим вариантом.
Получается довольно иронично:
Apple фактически может зайти на рынок AI-серверов NVIDIA, используя технологию самой NVIDIA.
По данным The Information, Apple разрабатывает серверы на будущих M8 Ultra и рассматривает NVLink Fusion для объединения нескольких чипов в одной системе.
Обсуждаются две конфигурации:
- 2× M8 Ultra
- 4× M8 Ultra
Серверы хотят продавать AI-разработчикам, компаниям и государственным организациям, а основной сценарий — AI inference, а не обучение моделей. Возможный запуск - около 2029 года.
Apple уже использует собственные решения в Private Cloud Compute, но, по данным источников, они слишком медленные и дорогие для масштабирования. Поэтому часть инженеров считает NVLink Fusion лучшим вариантом.
Получается довольно иронично:
Apple M8 Ultra → NVIDIA NVLink Fusion → AI serverApple фактически может зайти на рынок AI-серверов NVIDIA, используя технологию самой NVIDIA.
👍12❤9🔥4🥱2💯1
🚨 Huawei прогнозирует взрывной рост AI-агентов: к 2035 году они будут генерировать более 90% всего мирового AI-трафика.
В отчёте Intelligent World 2035 компания ожидает, что глобальное потребление токенов вырастет сразу в 100 000 раз. Чтобы выдержать такую нагрузку, вычислительные кластеры придётся масштабировать примерно в 100 раз, а стоимость выполнения одной агентной задачи должна снизиться примерно в 1000 раз.
Отдельный прогноз Huawei и Института экономики Университета Цинхуа:
ИИ может создать более $27 трлн совокупной экономической ценности за ближайшие пять лет, а ежегодные инвестиции в цифровую и интеллектуальную инфраструктуру к 2030 году превысят $4 трлн.
Фактически Huawei делает ставку на мир, где основными потребителями compute будут уже не люди и приложения, а миллиарды автономных агентов, непрерывно вызывающих модели, инструменты и другие сервисы.
В отчёте Intelligent World 2035 компания ожидает, что глобальное потребление токенов вырастет сразу в 100 000 раз. Чтобы выдержать такую нагрузку, вычислительные кластеры придётся масштабировать примерно в 100 раз, а стоимость выполнения одной агентной задачи должна снизиться примерно в 1000 раз.
Отдельный прогноз Huawei и Института экономики Университета Цинхуа:
ИИ может создать более $27 трлн совокупной экономической ценности за ближайшие пять лет, а ежегодные инвестиции в цифровую и интеллектуальную инфраструктуру к 2030 году превысят $4 трлн.
Фактически Huawei делает ставку на мир, где основными потребителями compute будут уже не люди и приложения, а миллиарды автономных агентов, непрерывно вызывающих модели, инструменты и другие сервисы.
🤯10🔥8👍3😱2⚡1🤔1😢1