ART: Анонимный трансформатор регионов для генерации изображений с переменным многослойным прозрачным эффектом.

ART: Anonymous Region Transformer for Variable Multi-Layer Transparent Image Generation

February 25, 2025

Авторы: Yifan Pu, Yiming Zhao, Zhicong Tang, Ruihong Yin, Haoxing Ye, Yuhui Yuan, Dong Chen, Jianmin Bao, Sirui Zhang, Yanbin Wang, Lin Liang, Lijuan Wang, Ji Li, Xiu Li, Zhouhui Lian, Gao Huang, Baining Guo

cs.AI

Аннотация

Генерация многослойных изображений является фундаментальной задачей, которая позволяет пользователям изолировать, выбирать и редактировать конкретные слои изображений, тем самым революционизируя взаимодействие с генеративными моделями. В данной статье мы представляем Анонимный Трансформатор Регионов (ART), который облегчает прямую генерацию переменных многослойных прозрачных изображений на основе глобального текстового запроса и анонимной компоновки регионов. Вдохновленный теорией Схемы, предполагающей, что знания организованы в структуры (схемы), которые позволяют людям интерпретировать и учиться на основе новой информации, связывая ее с предыдущими знаниями, данный подход к анонимной компоновке регионов позволяет генеративной модели автономно определять, какой набор визуальных токенов должен соответствовать каким текстовым токенам, что противопоставляется ранее доминировавшей семантической компоновке для задачи генерации изображений. Кроме того, механизм обрезки регионов по слоям, который выбирает только визуальные токены, принадлежащие каждому анонимному региону, значительно снижает затраты на вычисление внимания и обеспечивает эффективную генерацию изображений с многочисленными различными слоями (например, 50+). По сравнению с подходом полного внимания, наш метод работает более чем в 12 раз быстрее и показывает меньше конфликтов слоев. Кроме того, мы предлагаем высококачественный автоэнкодер многослойных прозрачных изображений, который поддерживает прямое кодирование и декодирование прозрачности переменных многослойных изображений совместно. Обеспечивая точный контроль и масштабируемую генерацию слоев, ART устанавливает новую парадигму для интерактивного создания контента.

English

Multi-layer image generation is a fundamental task that enables users to isolate, select, and edit specific image layers, thereby revolutionizing interactions with generative models. In this paper, we introduce the Anonymous Region Transformer (ART), which facilitates the direct generation of variable multi-layer transparent images based on a global text prompt and an anonymous region layout. Inspired by Schema theory suggests that knowledge is organized in frameworks (schemas) that enable people to interpret and learn from new information by linking it to prior knowledge.}, this anonymous region layout allows the generative model to autonomously determine which set of visual tokens should align with which text tokens, which is in contrast to the previously dominant semantic layout for the image generation task. In addition, the layer-wise region crop mechanism, which only selects the visual tokens belonging to each anonymous region, significantly reduces attention computation costs and enables the efficient generation of images with numerous distinct layers (e.g., 50+). When compared to the full attention approach, our method is over 12 times faster and exhibits fewer layer conflicts. Furthermore, we propose a high-quality multi-layer transparent image autoencoder that supports the direct encoding and decoding of the transparency of variable multi-layer images in a joint manner. By enabling precise control and scalable layer generation, ART establishes a new paradigm for interactive content creation.