Apprendimento dei campi di flusso nell'attenzione per la generazione controllabile di immagini di persone.

Learning Flow Fields in Attention for Controllable Person Image Generation

December 11, 2024

Autori: Zijian Zhou, Shikun Liu, Xiao Han, Haozhe Liu, Kam Woh Ng, Tian Xie, Yuren Cong, Hang Li, Mengmeng Xu, Juan-Manuel Pérez-Rúa, Aditya Patel, Tao Xiang, Miaojing Shi, Sen He

cs.AI

Abstract

La generazione controllabile di immagini di persone mira a generare un'immagine di persona condizionata a immagini di riferimento, consentendo un controllo preciso sull'aspetto o sulla posa della persona. Tuttavia, i metodi precedenti spesso distorcono dettagli testuali dettagliati dell'immagine di riferimento, nonostante raggiungano un'alta qualità complessiva dell'immagine. Attribuiamo tali distorsioni a una scarsa attenzione alle regioni corrispondenti nell'immagine di riferimento. Per affrontare questo problema, proponiamo pertanto di apprendere campi di flusso nell'attenzione (Leffa), che guidano esplicitamente la query di destinazione a prestare attenzione alla corretta chiave di riferimento nello strato di attenzione durante l'addestramento. In particolare, ciò è realizzato tramite una perdita di regolarizzazione in cima alla mappa di attenzione all'interno di un modello di base basato sulla diffusione. I nostri ampi esperimenti mostrano che Leffa raggiunge prestazioni all'avanguardia nel controllo dell'aspetto (prova virtuale) e della posa (trasferimento di posa), riducendo significativamente la distorsione dei dettagli dettagliati mentre mantiene un'alta qualità dell'immagine. Inoltre, dimostriamo che la nostra perdita è indipendente dal modello e può essere utilizzata per migliorare le prestazioni di altri modelli di diffusione.

English

Controllable person image generation aims to generate a person image conditioned on reference images, allowing precise control over the person's appearance or pose. However, prior methods often distort fine-grained textural details from the reference image, despite achieving high overall image quality. We attribute these distortions to inadequate attention to corresponding regions in the reference image. To address this, we thereby propose learning flow fields in attention (Leffa), which explicitly guides the target query to attend to the correct reference key in the attention layer during training. Specifically, it is realized via a regularization loss on top of the attention map within a diffusion-based baseline. Our extensive experiments show that Leffa achieves state-of-the-art performance in controlling appearance (virtual try-on) and pose (pose transfer), significantly reducing fine-grained detail distortion while maintaining high image quality. Additionally, we show that our loss is model-agnostic and can be used to improve the performance of other diffusion models.