🤗 Hugging Face выпустила 207 WebGPU-ядер для локального ИИ в браузере
Команда WebAI из Hugging Face представила первый слой своего пайплайна ускорения браузерного инференса — библиотеку @huggingface/kernels и коллекцию из 207 оптимизированных WebGPU-ядер. Они опубликованы в организации webgpu-kernels на Hub под лицензией Apache-2.0.
Каждое ядро выпущено как отдельный версионированный пакет со своей карточкой: интерфейс, шаблоны шейдеров WGSL, тесты корректности и бенчмарки хранятся вместе. В репозиторий входят manifest.json (контракт операции: входы, выходы, типы), test.json (кейсы проверки), bench.json (сценарии нагрузки) и параметризованные файлы *.wgsl.jinja. Такой подход превращает шейдер в переиспользуемый артефакт: интерфейс можно изучить без чтения WGSL, а рантаймы загружают конкретные версии ядер без зависимости от неверсионированных URL.
Вместе с ядрами запущен Fleet — браузерный инструмент бенчмаркинга и тестирования, который оценивает производительность и корректность прямо на железе пользователя. Каждый прогон добавляет анонимные данные с реальных GPU, помогая находить патологически медленные случаи и улучшать варианты ядер. Для разработчиков это эталонные реализации операций (от elementwise Add до сложных примитивов), которые уже можно встраивать в свои WebGPU-проекты или использовать как ориентир при написании собственных шейдеров.
#Tech #WebGPU #HuggingFace #AI #Browser #Inference #Development
Команда WebAI из Hugging Face представила первый слой своего пайплайна ускорения браузерного инференса — библиотеку @huggingface/kernels и коллекцию из 207 оптимизированных WebGPU-ядер. Они опубликованы в организации webgpu-kernels на Hub под лицензией Apache-2.0.
Каждое ядро выпущено как отдельный версионированный пакет со своей карточкой: интерфейс, шаблоны шейдеров WGSL, тесты корректности и бенчмарки хранятся вместе. В репозиторий входят manifest.json (контракт операции: входы, выходы, типы), test.json (кейсы проверки), bench.json (сценарии нагрузки) и параметризованные файлы *.wgsl.jinja. Такой подход превращает шейдер в переиспользуемый артефакт: интерфейс можно изучить без чтения WGSL, а рантаймы загружают конкретные версии ядер без зависимости от неверсионированных URL.
Вместе с ядрами запущен Fleet — браузерный инструмент бенчмаркинга и тестирования, который оценивает производительность и корректность прямо на железе пользователя. Каждый прогон добавляет анонимные данные с реальных GPU, помогая находить патологически медленные случаи и улучшать варианты ядер. Для разработчиков это эталонные реализации операций (от elementwise Add до сложных примитивов), которые уже можно встраивать в свои WebGPU-проекты или использовать как ориентир при написании собственных шейдеров.
#Tech #WebGPU #HuggingFace #AI #Browser #Inference #Development