Wan: Offene und fortschrittliche großskalige generative Video-Modelle

Wan: Open and Advanced Large-Scale Video Generative Models

March 26, 2025

Autoren: WanTeam, Ang Wang, Baole Ai, Bin Wen, Chaojie Mao, Chen-Wei Xie, Di Chen, Feiwu Yu, Haiming Zhao, Jianxiao Yang, Jianyuan Zeng, Jiayu Wang, Jingfeng Zhang, Jingren Zhou, Jinkai Wang, Jixuan Chen, Kai Zhu, Kang Zhao, Keyu Yan, Lianghua Huang, Mengyang Feng, Ningyi Zhang, Pandeng Li, Pingyu Wu, Ruihang Chu, Ruili Feng, Shiwei Zhang, Siyang Sun, Tao Fang, Tianxing Wang, Tianyi Gui, Tingyu Weng, Tong Shen, Wei Lin, Wei Wang, Wei Wang, Wenmeng Zhou, Wente Wang, Wenting Shen, Wenyuan Yu, Xianzhong Shi, Xiaoming Huang, Xin Xu, Yan Kou, Yangyu Lv, Yifei Li, Yijing Liu, Yiming Wang, Yingya Zhang, Yitong Huang, Yong Li, You Wu, Yu Liu, Yulin Pan, Yun Zheng, Yuntao Hong, Yupeng Shi, Yutong Feng, Zeyinzi Jiang, Zhen Han, Zhi-Fan Wu, Ziyu Liu

cs.AI

Zusammenfassung

Dieser Bericht stellt Wan vor, eine umfassende und offene Suite von Video-Foundation-Modellen, die die Grenzen der Videogenerierung erweitern soll. Basierend auf dem Mainstream-Diffusion-Transformer-Paradigma erzielt Wan bedeutende Fortschritte in den generativen Fähigkeiten durch eine Reihe von Innovationen, darunter unser neuartiges VAE, skalierbare Pre-Training-Strategien, groß angelegte Datenkuratierung und automatisierte Bewertungsmetriken. Diese Beiträge verbessern gemeinsam die Leistung und Vielseitigkeit des Modells. Insbesondere zeichnet sich Wan durch vier Schlüsselmerkmale aus: Führende Leistung: Das 14B-Modell von Wan, das auf einem umfangreichen Datensatz mit Milliarden von Bildern und Videos trainiert wurde, demonstriert die Skalierungsgesetze der Videogenerierung in Bezug auf Daten- und Modellgröße. Es übertrifft konsequent die bestehenden Open-Source-Modelle sowie state-of-the-art kommerzielle Lösungen in mehreren internen und externen Benchmarks und zeigt eine klare und signifikante Leistungsüberlegenheit. Umfassendheit: Wan bietet zwei leistungsstarke Modelle, d.h. 1,3B und 14B Parameter, für Effizienz und Effektivität. Es deckt auch mehrere Downstream-Anwendungen ab, darunter Bild-zu-Video, instruktionsgesteuerte Videobearbeitung und persönliche Videogenerierung, die bis zu acht Aufgaben umfassen. Verbraucherfreundliche Effizienz: Das 1,3B-Modell zeigt eine außergewöhnliche Ressourceneffizienz und benötigt nur 8,19 GB VRAM, was es mit einer breiten Palette von verbrauchertauglichen GPUs kompatibel macht. Offenheit: Wir stellen die gesamte Serie von Wan, einschließlich des Quellcodes und aller Modelle, als Open-Source zur Verfügung, mit dem Ziel, das Wachstum der Videogenerierungsgemeinschaft zu fördern. Diese Offenheit soll die kreativen Möglichkeiten der Videoproduktion in der Industrie erheblich erweitern und der Wissenschaft hochwertige Video-Foundation-Modelle zur Verfügung stellen. Der gesamte Code und die Modelle sind unter https://github.com/Wan-Video/Wan2.1 verfügbar.

English

This report presents Wan, a comprehensive and open suite of video foundation models designed to push the boundaries of video generation. Built upon the mainstream diffusion transformer paradigm, Wan achieves significant advancements in generative capabilities through a series of innovations, including our novel VAE, scalable pre-training strategies, large-scale data curation, and automated evaluation metrics. These contributions collectively enhance the model's performance and versatility. Specifically, Wan is characterized by four key features: Leading Performance: The 14B model of Wan, trained on a vast dataset comprising billions of images and videos, demonstrates the scaling laws of video generation with respect to both data and model size. It consistently outperforms the existing open-source models as well as state-of-the-art commercial solutions across multiple internal and external benchmarks, demonstrating a clear and significant performance superiority. Comprehensiveness: Wan offers two capable models, i.e., 1.3B and 14B parameters, for efficiency and effectiveness respectively. It also covers multiple downstream applications, including image-to-video, instruction-guided video editing, and personal video generation, encompassing up to eight tasks. Consumer-Grade Efficiency: The 1.3B model demonstrates exceptional resource efficiency, requiring only 8.19 GB VRAM, making it compatible with a wide range of consumer-grade GPUs. Openness: We open-source the entire series of Wan, including source code and all models, with the goal of fostering the growth of the video generation community. This openness seeks to significantly expand the creative possibilities of video production in the industry and provide academia with high-quality video foundation models. All the code and models are available at https://github.com/Wan-Video/Wan2.1.