합성 이미지 탐지기의 현재와 미래에 대한 일반화

Present and Future Generalization of Synthetic Image Detectors

September 21, 2024

저자: Pablo Bernabeu-Perez, Enrique Lopez-Cuena, Dario Garcia-Gasulla

cs.AI

초록

새로운 그리고 더 나은 이미지 생성 모델의 지속적인 출시로 합성 이미지 탐지기에 대한 수요가 증가하고 있습니다. 이러한 동적인 분야에서 탐지기는 넓게 일반화되고 제어되지 않은 변경에 강건해야 합니다. 본 연구는 시간, 이미지 변환 및 데이터 소스의 역할을 살펴볼 때 이러한 상황에서 동기부여를 받았습니다. 이러한 실험에서 평가된 탐지기 중에는 보편적인 것이 없지만 결과는 앙상블이 가능함을 나타냅니다. 야외에서 수집된 데이터에 대한 실험은 대규모 데이터셋으로 정의된 것보다 더 도전적인 작업임을 보여주며 실험과 실제 실무 간의 격차를 가리킵니다. 마지막으로, 더 나은 생성기가 더 나은 탐지기로 이끄는 경쟁 균형 효과를 관찰합니다. 이로 인해 분야가 생성기와 탐지기 간에 영원히 가까운 경쟁을 이끌 것으로 가설을 세웁니다.

English

The continued release of new and better image generation models increases the demand for synthetic image detectors. In such a dynamic field, detectors need to be able to generalize widely and be robust to uncontrolled alterations. The present work is motivated by this setting, when looking at the role of time, image transformations and data sources, for detector generalization. In these experiments, none of the evaluated detectors is found universal, but results indicate an ensemble could be. Experiments on data collected in the wild show this task to be more challenging than the one defined by large-scale datasets, pointing to a gap between experimentation and actual practice. Finally, we observe a race equilibrium effect, where better generators lead to better detectors, and vice versa. We hypothesize this pushes the field towards a perpetually close race between generators and detectors.