Os Modelos de Linguagem Multimodais Podem Raciocinar sobre Estética em Zero-Shot

Multimodal LLMs Can Reason about Aesthetics in Zero-Shot

January 15, 2025

Autores: Ruixiang Jiang, Changwen Chen

cs.AI

Resumo

Apresentamos o primeiro estudo sobre como a capacidade de raciocínio dos Modelos de Linguagem Multimodais (MLLMs) deve ser explorada para avaliar a estética de obras de arte. Para facilitar essa investigação, construímos o MM-StyleBench, um novo conjunto de dados de alta qualidade para avaliar a estilização artística. Em seguida, desenvolvemos um método fundamentado para modelagem de preferência humana e realizamos uma análise sistemática de correlação entre as respostas dos MLLMs e a preferência humana. Nossos experimentos revelam um problema inerente de alucinação dos MLLMs na avaliação artística, associado à subjetividade das respostas. O ArtCoT é proposto, demonstrando que a decomposição de tarefas específicas de arte e o uso de linguagem concreta impulsionam a capacidade de raciocínio dos MLLMs para estética. Nossas descobertas oferecem insights valiosos sobre os MLLMs para arte e podem beneficiar uma ampla gama de aplicações posteriores, como transferência de estilo e geração de imagens artísticas. Código disponível em https://github.com/songrise/MLLM4Art.

English

We present the first study on how Multimodal LLMs' (MLLMs) reasoning ability shall be elicited to evaluate the aesthetics of artworks. To facilitate this investigation, we construct MM-StyleBench, a novel high-quality dataset for benchmarking artistic stylization. We then develop a principled method for human preference modeling and perform a systematic correlation analysis between MLLMs' responses and human preference. Our experiments reveal an inherent hallucination issue of MLLMs in art evaluation, associated with response subjectivity. ArtCoT is proposed, demonstrating that art-specific task decomposition and the use of concrete language boost MLLMs' reasoning ability for aesthetics. Our findings offer valuable insights into MLLMs for art and can benefit a wide range of downstream applications, such as style transfer and artistic image generation. Code available at https://github.com/songrise/MLLM4Art.