Coflex - автоматизация проектирования ASIC для LLM

Вышел open-source фреймворк Coflex, который автоматически оптимизирует ASIC чипы под LLM.

Ключевая фишка - снижение вычислительной сложности с O(n³) до почти линейной O(nm²).

По сути это исследователь, который разбирается в железной архитектуре и ищет сходимость узлов программной архитектуры с микросхемной топологией.

В каждой оптимизационной итерации фреймворк рассчитывает потери с точки зрения количества ошибок и эффективности железа в части задержек в прохождении сигнала и подбирает оптимальное соотношение.

Система использует Sparse Gaussian Processes для навигации по пространству с 10¹⁸ конфигураций аппаратного и программного обеспечения.
Вместо медленного полного перебора создает "карту" всего пространства через небольшой набор репрезентативных точек.

Доступен на GitHub
Paper

АСИКИ для LLM!
Биткоин фермеры опасносте.

#Coflex #ASIC
———
@tsingular