Grafo della scena intercalato per la generazione intercalata di testo e immagini Valutazione
Interleaved Scene Graph for Interleaved Text-and-Image Generation Assessment
November 26, 2024
Autori: Dongping Chen, Ruoxi Chen, Shu Pu, Zhaoyi Liu, Yanru Wu, Caixi Chen, Benlin Liu, Yue Huang, Yao Wan, Pan Zhou, Ranjay Krishna
cs.AI
Abstract
Molte query degli utenti reali (ad esempio "Come fare il riso fritto all'uovo?") potrebbero beneficiare di sistemi capaci di generare risposte con passaggi testuali accompagnati da immagini, simili a un libro di cucina. I modelli progettati per generare testo e immagini in modo intercalato affrontano sfide nel garantire coerenza all'interno e tra queste modalità. Per affrontare tali sfide, presentiamo ISG, un quadro di valutazione completo per la generazione di testo e immagini intercalati. ISG sfrutta una struttura a grafo della scena per catturare le relazioni tra i blocchi di testo e immagine, valutando le risposte su quattro livelli di granularità: olistico, strutturale, a livello di blocco e specifico dell'immagine. Questa valutazione a più livelli consente una valutazione sfumata di coerenza, coesione e precisione, e fornisce un feedback interpretabile domanda-risposta. In congiunzione con ISG, introduciamo un benchmark, ISG-Bench, che comprende 1.150 campioni distribuiti su 8 categorie e 21 sottocategorie. Questo dataset di benchmark include dipendenze complesse tra linguaggio e visione e risposte d'oro per valutare efficacemente i modelli su compiti centrati sulla visione come il trasferimento di stile, un'area sfidante per i modelli attuali. Utilizzando ISG-Bench, dimostriamo che i recenti modelli unificati di visione e linguaggio hanno prestazioni scadenti nella generazione di contenuti intercalati. Mentre gli approcci compositivi che combinano modelli separati di linguaggio e immagine mostrano un miglioramento del 111% rispetto ai modelli unificati a livello olistico, le loro prestazioni rimangono non ottimali a livello di blocco e immagine. Per agevolare il lavoro futuro, sviluppiamo ISG-Agent, un agente di base che impiega un pipeline "pianifica-esegui-affina" per invocare strumenti, ottenendo un miglioramento delle prestazioni del 122%.
English
Many real-world user queries (e.g. "How do to make egg fried rice?") could
benefit from systems capable of generating responses with both textual steps
with accompanying images, similar to a cookbook. Models designed to generate
interleaved text and images face challenges in ensuring consistency within and
across these modalities. To address these challenges, we present ISG, a
comprehensive evaluation framework for interleaved text-and-image generation.
ISG leverages a scene graph structure to capture relationships between text and
image blocks, evaluating responses on four levels of granularity: holistic,
structural, block-level, and image-specific. This multi-tiered evaluation
allows for a nuanced assessment of consistency, coherence, and accuracy, and
provides interpretable question-answer feedback. In conjunction with ISG, we
introduce a benchmark, ISG-Bench, encompassing 1,150 samples across 8
categories and 21 subcategories. This benchmark dataset includes complex
language-vision dependencies and golden answers to evaluate models effectively
on vision-centric tasks such as style transfer, a challenging area for current
models. Using ISG-Bench, we demonstrate that recent unified vision-language
models perform poorly on generating interleaved content. While compositional
approaches that combine separate language and image models show a 111%
improvement over unified models at the holistic level, their performance
remains suboptimal at both block and image levels. To facilitate future work,
we develop ISG-Agent, a baseline agent employing a "plan-execute-refine"
pipeline to invoke tools, achieving a 122% performance improvement.Summary
AI-Generated Summary
Paper Overview
Core Contribution
- Introduzione di ISG (Interleaved Scene Graph), un framework di valutazione per la generazione intervallata di testo e immagini.
- Creazione di ISG-BENCH, un benchmark con 1.150 campioni per valutare la generazione multimodale.
- Proposta di ISG-AGENT, un agente basato su un pipeline "plan-execute-refine" per migliorare la generazione intervallata.
Research Context
- Sfide nella generazione multimodale: coerenza tra testo e immagini, coerenza interna e cross-modale.
- Mancanza di benchmark adeguati per valutare la generazione intervallata di testo e immagini.
Keywords
- Generazione intervallata di testo e immagini
- Valutazione multimodale
- Scene graph
- Benchmark
- Agente multimodale
Background
Research Gap
- Mancanza di framework di valutazione granulari per la generazione intervallata di testo e immagini.
- Benchmark esistenti focalizzati su task dominati dal linguaggio, non adeguati per task vision-centrici.
Technical Challenges
- Mantenere la coerenza tra testo e immagini.
- Generare immagini multiple con relazioni semantiche coerenti.
- Valutare la qualità della generazione a diversi livelli di granularità.
Prior Approaches
- Modelli unificati per la generazione multimodale (es. Show-o, Anole).
- Approcci composizionali che combinano modelli di linguaggio e generazione di immagini separati.
Methodology
Technical Architecture
- ISG utilizza una struttura a grafo per rappresentare le relazioni tra blocchi di testo e immagini.
- Valutazione su quattro livelli: olistico, strutturale, a livello di blocco e specifico per immagini.
Implementation Details
- Parsing automatico delle query in una struttura simile a un grafo.
- Generazione di domande e risposte interpretabili per valutare la coerenza e l'accuratezza.
Innovation Points
- Valutazione multi-livello per una valutazione più sfumata.
- Integrazione di un agente basato su pipeline "plan-execute-refine" per migliorare la generazione.
Results
Experimental Setup
- Valutazione di 10 framework di generazione intervallata, inclusi modelli unificati e approcci composizionali.
- Confronto con valutazioni umane per validare l'affidabilità di ISG.
Key Findings
- Modelli unificati mostrano prestazioni scarse nella generazione intervallata.
- Approcci composizionali migliorano significativamente le prestazioni, ma rimangono subottimali a livello di blocco e immagine.
- ISG-AGENT ottiene miglioramenti significativi in tutti i livelli di valutazione.
Limitations
- Modelli unificati faticano a seguire istruzioni complesse.
- Valutazione MLLM-as-a-Judge non adeguata per valutazioni granulari.
- Sfide nella generazione di immagini accurate per task vision-centrici.
DeepSeek-R1: Incentivizzare la capacità di ragionamento nei LLM tramite Apprendimento per RinforzoDeepSeek-R1: Incentivizing Reasoning Capability in LLMs via
Reinforcement Learning
DeepSeek-R1: Incentivizzare la capacità di ragionamento nei LLM tramite Apprendimento per Rinforzo
DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via
Reinforcement Learning
DeepSeek-AI, Daya Guo, Dejian Yang, Haowei Zhang, Junxiao Song, Ruoyu Zhang, Runxin Xu, Qihao Zhu, Shirong Ma, Peiyi Wang, Xiao Bi, Xiaokang Zhang, Xingkai Yu, Yu Wu, Z. F. Wu, Zhibin Gou, Zhihong Shao, Zhuoshu Li, Ziyi Gao, Aixin Liu, Bing Xue, Bingxuan Wang, Bochao Wu, Bei Feng, Chengda Lu, Chenggang Zhao, Chengqi Deng, Chenyu Zhang, Chong Ruan, Damai Dai, Deli Chen, Dongjie Ji, Erhang Li, Fangyun Lin, Fucong Dai, Fuli Luo, Guangbo Hao, Guanting Chen, Guowei Li, H. Zhang, Han Bao, Hanwei Xu, Haocheng Wang, Honghui Ding, Huajian Xin, Huazuo Gao, Hui Qu, Hui Li, Jianzhong Guo, Jiashi Li, Jiawei Wang, Jingchang Chen, Jingyang Yuan, Junjie Qiu, Junlong Li, J. L. Cai, Jiaqi Ni, Jian Liang, Jin Chen, Kai Dong, Kai Hu, Kaige Gao, Kang Guan, Kexin Huang, Kuai Yu, Lean Wang, Lecong Zhang, Liang Zhao, Litong Wang, Liyue Zhang, Lei Xu, Leyi Xia, Mingchuan Zhang, Minghua Zhang, Minghui Tang, Meng Li, Miaojun Wang, Mingming Li, Ning Tian, Panpan Huang, Peng Zhang, Qiancheng Wang, Qinyu Chen, Qiushi Du, Ruiqi Ge, Ruisong Zhang, Ruizhe Pan, Runji Wang, R. J. Chen, R. L. Jin, Ruyi Chen, Shanghao Lu, Shangyan Zhou, Shanhuang Chen, Shengfeng Ye, Shiyu Wang, Shuiping Yu, Shunfeng Zhou, Shuting Pan, S. S. Li, Shuang Zhou, Shaoqing Wu, Shengfeng Ye, Tao Yun, Tian Pei, Tianyu Sun, T. Wang, Wangding Zeng, Wanjia Zhao, Wen Liu, Wenfeng Liang, Wenjun Gao, Wenqin Yu, Wentao Zhang, W. L. Xiao, Wei An, Xiaodong Liu, Xiaohan Wang, Xiaokang Chen, Xiaotao Nie, Xin Cheng, Xin Liu, Xin Xie, Xingchao Liu, Xinyu Yang, Xinyuan Li, Xuecheng Su, Xuheng Lin, X. Q. Li, Xiangyue Jin, Xiaojin Shen, Xiaosha Chen, Xiaowen Sun, Xiaoxiang Wang, Xinnan Song, Xinyi Zhou, Xianzu Wang, Xinxia Shan, Y. K. Li, Y. Q. Wang, Y. X. Wei, Yang Zhang, Yanhong Xu, Yao Li, Yao Zhao, Yaofeng Sun, Yaohui Wang, Yi Yu, Yichao Zhang, Yifan Shi, Yiliang Xiong, Ying He, Yishi Piao, Yisong Wang, Yixuan Tan, Yiyang Ma, Yiyuan Liu, Yongqiang Guo, Yuan Ou, Yuduan Wang, Yue Gong, Yuheng Zou, Yujia He, Yunfan Xiong, Yuxiang Luo, Yuxiang You, Yuxuan Liu, Yuyang Zhou, Y. X. Zhu, Yanhong Xu, Yanping Huang, Yaohui Li, Yi Zheng, Yuchen Zhu, Yunxian Ma, Ying Tang, Yukun Zha, Yuting Yan, Z. Z. Ren, Zehui Ren, Zhangli Sha, Zhe Fu, Zhean Xu, Zhenda Xie, Zhengyan Zhang, Zhewen Hao, Zhicheng Ma, Zhigang Yan, Zhiyu Wu, Zihui Gu, Zijia Zhu, Zijun Liu, Zilin Li, Ziwei Xie, Ziyang Song, Zizheng Pan, Zhen Huang, Zhipeng Xu, Zhongyu Zhang, Zhen Zhang•Jan 22, 2025•3685
Rapporto Tecnico Qwen2.5Qwen2.5 Technical Report
Rapporto Tecnico Qwen2.5
Qwen2.5 Technical Report
Qwen, An Yang, Baosong Yang, Beichen Zhang, Binyuan Hui, Bo Zheng, Bowen Yu, Chengyuan Li, Dayiheng Liu, Fei Huang, Haoran Wei, Huan Lin, Jian Yang, Jianhong Tu, Jianwei Zhang, Jianxin Yang, Jiaxi Yang, Jingren Zhou, Junyang Lin, Kai Dang, Keming Lu, Keqin Bao, Kexin Yang, Le Yu, Mei Li, Mingfeng Xue, Pei Zhang, Qin Zhu, Rui Men, Runji Lin, Tianhao Li, Tingyu Xia, Xingzhang Ren, Xuancheng Ren, Yang Fan, Yang Su, Yichang Zhang, Yu Wan, Yuqiong Liu, Zeyu Cui, Zhenru Zhang, Zihan Qiu•Dec 19, 2024•36311
MiniMax-01: Scalare i modelli di base con attenzione lampeggianteMiniMax-01: Scaling Foundation Models with Lightning Attention
MiniMax-01: Scalare i modelli di base con attenzione lampeggiante
MiniMax-01: Scaling Foundation Models with Lightning Attention
MiniMax, Aonian Li, Bangwei Gong, Bo Yang, Boji Shan, Chang Liu, Cheng Zhu, Chunhao Zhang, Congchao Guo, Da Chen, Dong Li, Enwei Jiao, Gengxin Li, Guojun Zhang, Haohai Sun, Houze Dong, Jiadai Zhu, Jiaqi Zhuang, Jiayuan Song, Jin Zhu, Jingtao Han, Jingyang Li, Junbin Xie, Junhao Xu, Junjie Yan, Kaishun Zhang, Kecheng Xiao, Kexi Kang, Le Han, Leyang Wang, Lianfei Yu, Liheng Feng, Lin Zheng, Linbo Chai, Long Xing, Meizhi Ju, Mingyuan Chi, Mozhi Zhang, Peikai Huang, Pengcheng Niu, Pengfei Li, Pengyu Zhao, Qi Yang, Qidi Xu, Qiexiang Wang, Qin Wang, Qiuhui Li, Ruitao Leng, Shengmin Shi, Shuqi Yu, Sichen Li, Songquan Zhu, Tao Huang, Tianrun Liang, Weigao Sun, Weixuan Sun, Weiyu Cheng, Wenkai Li, Xiangjun Song, Xiao Su, Xiaodong Han, Xinjie Zhang, Xinzhu Hou, Xu Min, Xun Zou, Xuyang Shen, Yan Gong, Yingjie Zhu, Yipeng Zhou, Yiran Zhong, Yongyi Hu, Yuanxiang Fan, Yue Yu, Yufeng Yang, Yuhao Li, Yunan Huang, Yunji Li, Yunpeng Huang, Yunzhi Xu, Yuxin Mao, Zehan Li, Zekang Li, Zewei Tao, Zewen Ying, Zhaoyang Cong, Zhen Qin, Zhenhua Fan, Zhihang Yu, Zhuo Jiang, Zijia Wu•Jan 14, 2025•2826