DiffusionGemma от Google DeepMind запускают на NVIDIA для задач генерации текста в реальном времени

Разработчики систем реального времени, таких как chat assistants, copilots и agentic workflows, часто сталкиваются с ограничениями скорости генерации текста по одному токену. Такой подход снижает отзывчивость сервисов, увеличивает стоимость обслуживания и усложняет создание плавного интерактивного взаимодействия.

DiffusionGemma, созданная Google DeepMind и оптимизированная для эффективной работы на платформах NVIDIA, предлагает новый подход к генерации текста. Решение ориентировано на сценарии, где требуется высокая производительность и быстрая реакция моделей в приложениях реального времени.