SeFi-Image: модель генерации изображений с подходом semantic-first diffusion
Исследователи представили SeFi-Image, text-to-image foundation model, основанную на подходе semantic-first diffusion. Авторы описывают его как новый парадигмальный вариант latent diffusion. Обычно обучение моделей генерации изображений требует больших вычислительных ресурсов. Ранее уже предлагались методы с семантическим руководством, но их проверяли в основном на простых датасетах вроде ImageNet, при низких разрешениях и на небольших моделях.
SeFi-Image выпущена в трёх масштабах: 1B, 2B и 5B параметров. Такой набор позволяет изучать поведение модели при масштабировании и выбирать конфигурацию под разные вычислительные бюджеты. Самая крупная версия на 5B параметров обучалась всего 125K A800 GPU hours, это примерно 10–20% вычислений, использованных при обучении Z-Image. При этом по качеству она показывает результаты на уровне или выше, чем Qwen-Image и Z-Image.
Несмотря на сравнительно скромные вычислительные затраты, модель демонстрирует высокие показатели на нескольких бенчмарках: GenEval, DPG, LongTextBench, OneIG и CVTG-2K. Как сообщает r/StableDiffusion (Reddit), для каждой из трёх версий также подготовлены DMD2-distilled few-step turbo варианты. Они рассчитаны на разные аппаратные ограничения и требования к задержке. Разработчики уже выложили код и веса модели и рассчитывают, что работа поможет сообществу продвинуть исследования semantic-guided diffusion в задачах T2I.
Ключевые факты
SeFi-Image, модель генерации изображений по тексту на основе подхода semantic-first diffusion, представленного как новый парадигмальный вариант latent diffusion.
Модель выпущена в трёх масштабах: 1B, 2B и 5B параметров.
Версия на 5B параметров обучена с использованием 125K A800 GPU‑часов, что составляет примерно 10–20% вычислений, использованных для обучения Z-Image.
Авторы сообщают о результатах, сопоставимых или превосходящих Qwen-Image и Z-Image, а также о сильной производительности на бенчмарках GenEval, DPG, LongTextBench, OneIG и CVTG-2K.