📂 Huawei открыла исходный код AscendNPU IR — ядра компилятора BiSheng
На техническом салоне Meet AI Compiler от HyperAI архитектор Huawei Хай Лицзюань представила открытую компиляторную основу для чипов Ascend. AscendNPU IR — это tile-level абстракция на базе MLIR: она соединяется вниз с LLVM IR и компилирует код в бинарные файлы Ascend, а сверху принимает сторонние языки и компиляторы, включая Triton.
Архитектура первого поколения состоит из двух уровней: аппаратно-независимый HFusion отвечает за многомерную оптимизацию слияния операций, а аппаратно-зависимый HIVM выполняет маппинг ядер, памяти и вычислительных блоков. В версии для Ascend 950 HFusion остаётся стабильным, а HIVM расширяется с memory-based SIMD до register-based SIMD и SIMT. Добавлены улучшенный InsertCVLoadStore для сложных управляющих потоков, MultiBuffer с отдельным счётчиком буферов, AutoBlockify, CV Pipeline для конвейеризации cube-vector в стиле flash-attention и режим CV 1:2, где два векторных ядра обрабатывают данные против одного cube-ядра.
Triton-Ascend и AscendNPU IR уже открыты для совместной разработки. Сообщество Ascend запустило открытые стажировки и задачи с вознаграждениями, а разработчикам без доступа к железу доступна бесплатная платформа HiDevLab со 100 часами вычислений.
#Tech #Ai #Huawei #Ascend #Compilator #Triton #MLIR
На техническом салоне Meet AI Compiler от HyperAI архитектор Huawei Хай Лицзюань представила открытую компиляторную основу для чипов Ascend. AscendNPU IR — это tile-level абстракция на базе MLIR: она соединяется вниз с LLVM IR и компилирует код в бинарные файлы Ascend, а сверху принимает сторонние языки и компиляторы, включая Triton.
Архитектура первого поколения состоит из двух уровней: аппаратно-независимый HFusion отвечает за многомерную оптимизацию слияния операций, а аппаратно-зависимый HIVM выполняет маппинг ядер, памяти и вычислительных блоков. В версии для Ascend 950 HFusion остаётся стабильным, а HIVM расширяется с memory-based SIMD до register-based SIMD и SIMT. Добавлены улучшенный InsertCVLoadStore для сложных управляющих потоков, MultiBuffer с отдельным счётчиком буферов, AutoBlockify, CV Pipeline для конвейеризации cube-vector в стиле flash-attention и режим CV 1:2, где два векторных ядра обрабатывают данные против одного cube-ядра.
Triton-Ascend и AscendNPU IR уже открыты для совместной разработки. Сообщество Ascend запустило открытые стажировки и задачи с вознаграждениями, а разработчикам без доступа к железу доступна бесплатная платформа HiDevLab со 100 часами вычислений.
#Tech #Ai #Huawei #Ascend #Compilator #Triton #MLIR
👍1🎉1
Huawei перенесла запуск нового AI-чипа Ascend 960DT на первый квартал 2027 года - ранее речь шла о третьем квартале. Об этом на конференции Huawei Connect объявил Дэвид Ван, исполняющий обязанности председателя компании. По его словам, чипы Ascend 960 выйдут раньше срока и удвоят производительность по сравнению с предыдущим поколением.
Ключевая ставка Huawei - архитектура Peerium Computing, позволяющая объединять сотни тысяч, а в перспективе миллионы AI-чипов в единый вычислительный кластер. Связку обеспечивает технология UnifiedBus, соединяющая процессоры с памятью, хранилищами и сетевым оборудованием. Первые системы на новой архитектуре - Atlas 950 SuperPoD и SuperCluster, способный подключать до 256 000 ускорителей. Системы рассчитаны как на обучение, так и на инференс моделей.
Однако аналитик Руи Ма отметила расхождение: ранее Huawei заявляла о масштабировании Atlas 960 SuperPoD до 15 488 чипов Ascend 960, а теперь говорит о 4 096. Чип выходит значительно раньше, но кластер оказался меньше заявленного. Несмотря на ограничения США на доступ Китая к передовым полупроводникам, Huawei продолжает развивать собственные чипы.
#Tech #Huawei #Nvidia #CPU #Ascend #AI
Please open Telegram to view this post
VIEW IN TELEGRAM
China Telecom AI выложила в открытый доступ Xing4.0-29B-A4B - Mixture-of-Experts модель на 29 млрд параметров (около 4 млрд активных на токен) с нативным контекстом 256K, расширяемым до 512K. Веса и конфиги опубликованы на Hugging Face и ModelScope под организацией XingChen-AGI. Компания называет релиз первой моделью такого масштаба, полностью обученной на NPU Ascend с фреймворком MindSpore.
Архитектура: 40 слоёв, MLA-внимание, 64 routed-эксперта (4 активных на токен) плюс один общий эксперт, стек mHC + MLA + MTP, заточенный под многошаговое планирование, вызов инструментов и длинный контекст. Co-оптимизация на кластерах Ascend 910C через MindSpore/MindFormers, включая fused mHC-операторы и настройку MoE-коммуникаций, по заявлению вендора дала прирост пропускной способности обучения примерно на 96% относительно базовых настроек.
Для инференса поддерживаются Transformers, vLLM, SGLang и KTransformers; дообучение - через LLaMA-Factory и MindFormers, с выравниванием форматов под агентные харнессы OpenCode, Claude Code, OpenClaw и Hermes. 4-битное квантование, по непроверенным сторонним данным, снижает потребление памяти до ~15 ГБ для локального длинноконтекстного запуска. Практическая ценность - скачиваемые веса с явной обученностью на MindSpore и открытыми хуками инференса, а не закрытый API.
#AI #OpenSource #China #MoE #Ascend #MindSpore
Please open Telegram to view this post
VIEW IN TELEGRAM
👏1🆒1
🐳 DeepSeek выпускает open-source инструменты для чипов Huawei Ascend
Китайский разработчик DeepSeek совместно с Huawei создал открытый набор инструментов для программирования ИИ-чипов Ascend. Центральный элемент - язык TileLang, который должен быть проще в освоении, чем CUDA от Nvidia. Об этом DeepSeek сообщил в своём канале WeChat, работу партнёра Huawei «полностью поддержала».
В релиз вошли библиотеки для вычислений и передачи данных между чипами. Компании также оптимизировали так называемый суперузел - кластер из 128 ускорителей Ascend 950. TileLang изначально разработали исследователи Пекинского университета; DeepSeek использует его около года и называет своим основным инструментом в работе над AGI. Первые тесты языка проходили на старых чипах Nvidia.
Ставка понятна: главная проблема китайской ИИ-индустрии - не кремний, а софт. Могущество Nvidia держится на экосистеме CUDA и примерно четырёх миллионах разработчиков, которую конкуренты не могут преодолеть даже при сопоставимом железе. TileLang призван дать китайским чипам универсальный и удобный язык программирования. По данным SemiAnalysis, CANN от Huawei - единственный стек, кроме CUDA, поддержавший DeepSeek V4 в день релиза, хотя в агентных нагрузках Nvidia по-прежнему впереди.
🎨 qvabo.studio/tg · картинки и видео
#Tech #DeepSeek #Huawei #Ascend #CPU #OpenSource
Китайский разработчик DeepSeek совместно с Huawei создал открытый набор инструментов для программирования ИИ-чипов Ascend. Центральный элемент - язык TileLang, который должен быть проще в освоении, чем CUDA от Nvidia. Об этом DeepSeek сообщил в своём канале WeChat, работу партнёра Huawei «полностью поддержала».
В релиз вошли библиотеки для вычислений и передачи данных между чипами. Компании также оптимизировали так называемый суперузел - кластер из 128 ускорителей Ascend 950. TileLang изначально разработали исследователи Пекинского университета; DeepSeek использует его около года и называет своим основным инструментом в работе над AGI. Первые тесты языка проходили на старых чипах Nvidia.
Ставка понятна: главная проблема китайской ИИ-индустрии - не кремний, а софт. Могущество Nvidia держится на экосистеме CUDA и примерно четырёх миллионах разработчиков, которую конкуренты не могут преодолеть даже при сопоставимом железе. TileLang призван дать китайским чипам универсальный и удобный язык программирования. По данным SemiAnalysis, CANN от Huawei - единственный стек, кроме CUDA, поддержавший DeepSeek V4 в день релиза, хотя в агентных нагрузках Nvidia по-прежнему впереди.
🎨 qvabo.studio/tg · картинки и видео
#Tech #DeepSeek #Huawei #Ascend #CPU #OpenSource
👍1👌1
🐳 DeepSeek открыла Ascend-версии TileLang, DeepGEMM и DeepEP
DeepSeek выложила в open source набор инфраструктурных компонентов для платформы Huawei Ascend: поддержку языка ядер TileLang, библиотеки вычислительных ядер и библиотеку распределённой коммуникации. Каждый компонент один-к-одному соответствует аналогам для GPU NVIDIA - разработчики смогут использовать одни и те же инструменты на обеих платформах.
TileLang в центре: он оборачивает низкоуровневые инструкции Ascend C, и каждый оператор, применяемый DeepSeek при обучении V4, получил высокопроизводительную Ascend-реализацию. DeepGEMM-Ascend для матричного умножения API-совместим с оригиналом и поддерживает BF16, FP8 и FP4 на Ascend 950. TileKernels даёт единый Python-интерфейс для GPU и NPU, FlashMLA отвечает за sparse attention, DeepSelect - за top-k отбор. DeepEP-Ascend обслуживает all-to-all коммуникацию для MoE: на Ascend 950DT при EP8 заявлено 373-375 ГБ/с dispatch и 345-347 ГБ/с combine - почти предел железа.
Huawei предоставила суперузел SuperPoD Flex и сеть UBL128: 128 карт, одноуровневое scale-up на 3,2 Тбит/с и scale-out до 256K карт, плюс библиотеку ASC-COMM для своих операторов связи. В офлайн-тестах EP32 с контекстом 128K DeepSeek-V4.1-Flash выдал 2469 токенов/с на карту при 5 мс на токен. Полномасштабное обучение V4 на Ascend пока не подтверждено.
🎨 qvabo.studio/tg · картинки и видео
#AI #DeepSeek #Huawei #Ascend #OpenSource #Infrastructure
DeepSeek выложила в open source набор инфраструктурных компонентов для платформы Huawei Ascend: поддержку языка ядер TileLang, библиотеки вычислительных ядер и библиотеку распределённой коммуникации. Каждый компонент один-к-одному соответствует аналогам для GPU NVIDIA - разработчики смогут использовать одни и те же инструменты на обеих платформах.
TileLang в центре: он оборачивает низкоуровневые инструкции Ascend C, и каждый оператор, применяемый DeepSeek при обучении V4, получил высокопроизводительную Ascend-реализацию. DeepGEMM-Ascend для матричного умножения API-совместим с оригиналом и поддерживает BF16, FP8 и FP4 на Ascend 950. TileKernels даёт единый Python-интерфейс для GPU и NPU, FlashMLA отвечает за sparse attention, DeepSelect - за top-k отбор. DeepEP-Ascend обслуживает all-to-all коммуникацию для MoE: на Ascend 950DT при EP8 заявлено 373-375 ГБ/с dispatch и 345-347 ГБ/с combine - почти предел железа.
Huawei предоставила суперузел SuperPoD Flex и сеть UBL128: 128 карт, одноуровневое scale-up на 3,2 Тбит/с и scale-out до 256K карт, плюс библиотеку ASC-COMM для своих операторов связи. В офлайн-тестах EP32 с контекстом 128K DeepSeek-V4.1-Flash выдал 2469 токенов/с на карту при 5 мс на токен. Полномасштабное обучение V4 на Ascend пока не подтверждено.
🎨 qvabo.studio/tg · картинки и видео
#AI #DeepSeek #Huawei #Ascend #OpenSource #Infrastructure
⚡1👨💻1