LDGen: Улучшение синтеза изображений из текста с помощью языковых представлений, управляемых крупными языковыми моделями

LDGen: Enhancing Text-to-Image Synthesis via Large Language Model-Driven Language Representation

February 25, 2025

Авторы: Pengzhi Li, Pengfei Yu, Zide Liu, Wei He, Xuhao Pan, Xudong Rao, Tao Wei, Wei Chen

cs.AI

Аннотация

В данной статье мы представляем LDGen — новый метод интеграции больших языковых моделей (LLMs) в существующие диффузионные модели для генерации изображений по тексту с минимальными вычислительными затратами. Традиционные текстовые кодировщики, такие как CLIP и T5, демонстрируют ограничения в обработке многоязычных данных, что затрудняет генерацию изображений на различных языках. Мы решаем эти проблемы, используя передовые возможности LLMs. Наш подход включает стратегию языкового представления, которая применяет иерархическую оптимизацию подписей и методы человеческих инструкций для извлечения точной семантической информации. Затем мы интегрируем легковесный адаптер и кросс-модальный уточнитель для эффективного согласования и взаимодействия признаков между LLMs и изображениями. LDGen сокращает время обучения и обеспечивает генерацию изображений на нескольких языках в режиме zero-shot. Экспериментальные результаты показывают, что наш метод превосходит базовые модели как в точности следования запросам, так и в эстетическом качестве изображений, одновременно поддерживая несколько языков. Страница проекта: https://zrealli.github.io/LDGen.

English

In this paper, we introduce LDGen, a novel method for integrating large language models (LLMs) into existing text-to-image diffusion models while minimizing computational demands. Traditional text encoders, such as CLIP and T5, exhibit limitations in multilingual processing, hindering image generation across diverse languages. We address these challenges by leveraging the advanced capabilities of LLMs. Our approach employs a language representation strategy that applies hierarchical caption optimization and human instruction techniques to derive precise semantic information,. Subsequently, we incorporate a lightweight adapter and a cross-modal refiner to facilitate efficient feature alignment and interaction between LLMs and image features. LDGen reduces training time and enables zero-shot multilingual image generation. Experimental results indicate that our method surpasses baseline models in both prompt adherence and image aesthetic quality, while seamlessly supporting multiple languages. Project page: https://zrealli.github.io/LDGen.