I Modelli Linguaggio Multimodali Possono Ragionare sull'Estetica in Zero-Shot

Multimodal LLMs Can Reason about Aesthetics in Zero-Shot

January 15, 2025

Autori: Ruixiang Jiang, Changwen Chen

cs.AI

Abstract

Presentiamo il primo studio su come la capacità di ragionamento dei Modelli Linguaggio Multimodali (MLLMs) debba essere sollecitata per valutare l'estetica delle opere d'arte. Per agevolare questa indagine, costruiamo MM-StyleBench, un nuovo dataset di alta qualità per il benchmark dello stile artistico. Successivamente sviluppiamo un metodo basato su principi per la modellazione delle preferenze umane e conduciamo un'analisi sistematica della correlazione tra le risposte dei MLLMs e le preferenze umane. I nostri esperimenti rivelano un problema di allucinazione intrinseco dei MLLMs nella valutazione artistica, associato alla soggettività delle risposte. Viene proposto ArtCoT, dimostrando che la decomposizione delle attività specifiche dell'arte e l'uso di un linguaggio concreto potenziano la capacità di ragionamento dei MLLMs per l'estetica. Le nostre scoperte offrono preziose intuizioni sui MLLMs per l'arte e possono beneficiare una vasta gamma di applicazioni derivate, come il trasferimento di stile e la generazione di immagini artistiche. Codice disponibile su https://github.com/songrise/MLLM4Art.

English

We present the first study on how Multimodal LLMs' (MLLMs) reasoning ability shall be elicited to evaluate the aesthetics of artworks. To facilitate this investigation, we construct MM-StyleBench, a novel high-quality dataset for benchmarking artistic stylization. We then develop a principled method for human preference modeling and perform a systematic correlation analysis between MLLMs' responses and human preference. Our experiments reveal an inherent hallucination issue of MLLMs in art evaluation, associated with response subjectivity. ArtCoT is proposed, demonstrating that art-specific task decomposition and the use of concrete language boost MLLMs' reasoning ability for aesthetics. Our findings offer valuable insights into MLLMs for art and can benefit a wide range of downstream applications, such as style transfer and artistic image generation. Code available at https://github.com/songrise/MLLM4Art.