효율적인 확산 모델: 원리에서 실무까지의 포괄적인 조사

초록

최근 몇 년간 가장 인기 있는 생성 모델 중 하나로 손꼽히는 확산 모델은 밀도 있는 이론적 원리와 신뢰할 수 있는 응용 실천을 기반으로 이미지 합성, 비디오 생성, 분자 설계, 3D 장면 렌더링 및 다중 모달 생성과 같은 다양한 생성 작업에서 우수한 장점을 안정적으로 보여주며 많은 연구자들의 관심을 끌었습니다. 이러한 최근 확산 모델에 대한 놀라운 성공은 주로 점진적인 설계 원칙과 효율적인 아키텍처, 훈련, 추론 및 배포 방법론에서 비롯됩니다. 그러나 이러한 원칙과 실천을 요약하여 확산 모델의 신속한 이해와 적용을 돕기 위한 포괄적이고 깊이 있는 검토가 아직 이루어지지 않았습니다. 본 조사에서는 기존 노력에 대한 새로운 효율성 중심적 시각을 제시하여, 주로 아키텍처 설계, 모델 훈련, 빠른 추론 및 신뢰할 수 있는 배포에서의 깊은 원리와 효율적인 실천에 초점을 맞추어 이론적 연구, 알고리즘 이관 및 새로운 시나리오에 대한 모델 응용을 안내하는 방식으로 독자 친화적으로 제시합니다.

English

As one of the most popular and sought-after generative models in the recent years, diffusion models have sparked the interests of many researchers and steadily shown excellent advantage in various generative tasks such as image synthesis, video generation, molecule design, 3D scene rendering and multimodal generation, relying on their dense theoretical principles and reliable application practices. The remarkable success of these recent efforts on diffusion models comes largely from progressive design principles and efficient architecture, training, inference, and deployment methodologies. However, there has not been a comprehensive and in-depth review to summarize these principles and practices to help the rapid understanding and application of diffusion models. In this survey, we provide a new efficiency-oriented perspective on these existing efforts, which mainly focuses on the profound principles and efficient practices in architecture designs, model training, fast inference and reliable deployment, to guide further theoretical research, algorithm migration and model application for new scenarios in a reader-friendly way. https://github.com/ponyzym/Efficient-DMs-Survey

효율적인 확산 모델: 원리에서 실무까지의 포괄적인 조사

Efficient Diffusion Models: A Comprehensive Survey from Principles to Practices

초록

Summary

Support