🔋 Google DeepMind выпустила DiffusionGemma — модель для локального AI с ускорением в 4 раза

Исследовательское подразделение Google представило DiffusionGemma — открытую диффузионную языковую модель, которая работает на локальном устройстве в 4 раза быстрее традиционных трансформеров. В отличие от классических LLM, DiffusionGemma генерирует текст не последовательно (токен за токеном), а итеративно, приближаясь к финальному результату за меньшее число шагов.

Модель построена на архитектуре диффузии, ранее применявшейся в генерации изображений (Stable Diffusion, DALL-E), но адаптированной для текста. Такой подход позволяет распараллеливать вычисления и значительно сокращает время инференса на CPU и GPU среднего класса. Веса модели опубликованы в открытом доступе, что даёт разработчикам возможность запускать её локально без обращения к облачным API.

Практическое значение: DiffusionGemma подходит для приложений, где критична скорость ответа и конфиденциальность данных — чат-боты на устройстве, автодополнение кода, офлайн-перевод. Это шаг к демократизации AI: мощная генеративная модель, работающая на обычном ноутбуке, а не в дата-центре.

#AI #LLM #GoogleDeepMind #DiffusionGemma #OpenModel #Diffusion