Vloeibaar: Schalen van Autoregressieve Tekst-naar-afbeelding Generatieve Modellen met Continue Tokens

Fluid: Scaling Autoregressive Text-to-image Generative Models with Continuous Tokens

October 17, 2024

Auteurs: Lijie Fan, Tianhong Li, Siyang Qin, Yuanzhen Li, Chen Sun, Michael Rubinstein, Deqing Sun, Kaiming He, Yonglong Tian

cs.AI

Samenvatting

Het opschalen van autoregressieve modellen in visie heeft zich niet zo gunstig bewezen als bij grote taalmodellen. In dit werk onderzoeken we dit schalingsprobleem in de context van tekst-naar-afbeelding generatie, waarbij we ons richten op twee kritieke factoren: of modellen discrete of continue tokens gebruiken, en of tokens worden gegenereerd in een willekeurige of vaste raster volgorde met BERT- of GPT-achtige transformer architecturen. Onze empirische resultaten tonen aan dat, hoewel alle modellen effectief schalen wat betreft validatieverlies, hun evaluatieprestaties - gemeten aan de hand van FID, GenEval score en visuele kwaliteit - verschillende trends vertonen. Modellen gebaseerd op continue tokens behalen aanzienlijk betere visuele kwaliteit dan die welke discrete tokens gebruiken. Bovendien beïnvloeden de generatievolgorde en aandachtsmechanismen aanzienlijk de GenEval score: modellen met een willekeurige volgorde behalen opmerkelijk betere GenEval scores in vergelijking met raster-gebaseerde modellen. Geïnspireerd door deze bevindingen trainen we Fluid, een autoregressief model met willekeurige volgorde op continue tokens. Het Fluid 10.5B model behaalt een nieuwe state-of-the-art zero-shot FID van 6.16 op MS-COCO 30K, en een totale score van 0.69 op de GenEval benchmark. We hopen dat onze bevindingen en resultaten toekomstige inspanningen zullen aanmoedigen om de kloof in schaling tussen visie- en taalmodellen verder te overbruggen.

English

Scaling up autoregressive models in vision has not proven as beneficial as in large language models. In this work, we investigate this scaling problem in the context of text-to-image generation, focusing on two critical factors: whether models use discrete or continuous tokens, and whether tokens are generated in a random or fixed raster order using BERT- or GPT-like transformer architectures. Our empirical results show that, while all models scale effectively in terms of validation loss, their evaluation performance -- measured by FID, GenEval score, and visual quality -- follows different trends. Models based on continuous tokens achieve significantly better visual quality than those using discrete tokens. Furthermore, the generation order and attention mechanisms significantly affect the GenEval score: random-order models achieve notably better GenEval scores compared to raster-order models. Inspired by these findings, we train Fluid, a random-order autoregressive model on continuous tokens. Fluid 10.5B model achieves a new state-of-the-art zero-shot FID of 6.16 on MS-COCO 30K, and 0.69 overall score on the GenEval benchmark. We hope our findings and results will encourage future efforts to further bridge the scaling gap between vision and language models.