Разработчик показал плагин QuantFunc для ComfyUI, ускоряющий генерацию изображений до 11,7× на RTX 4090

Независимый разработчик представил QuantFunc, плагин для ускорения инференса диффузионных моделей в ComfyUI. Как сообщает r/StableDiffusion (Reddit), инструмент использует пользовательские низкобитные CUDA‑ядра NVFP4 и INT4. За счет этого время генерации изображений заметно сокращается, при этом качество остается близким к полноразмерной модели. Автор утверждает, что по сравнению с конфигурациями FP8, которые часто применяются сейчас, ускорение может достигать от 2× до 11× в зависимости от конкретной модели.

На видеокарте RTX 4090 некоторые модели способны создавать изображение размером около 1K примерно за одну секунду. В опубликованных бенчмарках модель Qwen-Image сократила время генерации с 10,5 до 0,9 секунды, это ускорение 11,7×. У Z-Image-Turbo показатель изменился с 5,0 до 1,2 секунды, что соответствует 4,2×. Сейчас заявлена поддержка Z-Image, Qwen-Image, Qwen-Image-Edit, Flux.2 Klein и Ideogram. При этом Klein и Ideogram распространяются по некоммерческим лицензиям. Поддержку Wan и LTX разработчик планирует добавить позже.

Плагин работает на потребительских GPU RTX 20-, 30-, 40- и 50-й серий с минимум 8 ГБ VRAM, а также на серверных ускорителях вроде A100, H100 и B200. Используются CUDA 12 и 13. Подключить инструмент можно двумя способами: через узлы ComfyUI в существующих пайплайнах или через недавно добавленный Python API. Среди заявленных возможностей есть квантование моделей diffusers (BF16/FP16) до 4 бит при загрузке, стекование LoRA без дополнительной стоимости, а также экспорт квантованных моделей с объединенными LoRA.

Автор уточняет, что сами плагины, включая узлы ComfyUI и Python API, распространяются как open source. При этом движок инференса остается закрытым. Сейчас проект доступен бесплатно, однако разработчик не исключает появления платного уровня в будущем для поддержки разработки.