📂 Huawei открыла исходный код AscendNPU IR — ядра компилятора BiSheng

На техническом салоне Meet AI Compiler от HyperAI архитектор Huawei Хай Лицзюань представила открытую компиляторную основу для чипов Ascend. AscendNPU IR — это tile-level абстракция на базе MLIR: она соединяется вниз с LLVM IR и компилирует код в бинарные файлы Ascend, а сверху принимает сторонние языки и компиляторы, включая Triton.

Архитектура первого поколения состоит из двух уровней: аппаратно-независимый HFusion отвечает за многомерную оптимизацию слияния операций, а аппаратно-зависимый HIVM выполняет маппинг ядер, памяти и вычислительных блоков. В версии для Ascend 950 HFusion остаётся стабильным, а HIVM расширяется с memory-based SIMD до register-based SIMD и SIMT. Добавлены улучшенный InsertCVLoadStore для сложных управляющих потоков, MultiBuffer с отдельным счётчиком буферов, AutoBlockify, CV Pipeline для конвейеризации cube-vector в стиле flash-attention и режим CV 1:2, где два векторных ядра обрабатывают данные против одного cube-ядра.

Triton-Ascend и AscendNPU IR уже открыты для совместной разработки. Сообщество Ascend запустило открытые стажировки и задачи с вознаграждениями, а разработчикам без доступа к железу доступна бесплатная платформа HiDevLab со 100 часами вычислений.

#Tech #Ai #Huawei #Ascend #Compilator #Triton #MLIR