Potenzialità e Pericoli dei Grandi Modelli Linguistici come Giudici dei Dati Testuali Non Strutturati

Potential and Perils of Large Language Models as Judges of Unstructured Textual Data

January 14, 2025

Autori: Rewina Bedemariam, Natalie Perez, Sreyoshi Bhaduri, Satya Kapoor, Alex Gil, Elizabeth Conjar, Ikkei Itoku, David Theil, Aman Chadha, Naumaan Nayyar

cs.AI

Abstract

I rapidi progressi nei grandi modelli di linguaggio hanno sbloccato capacità notevoli per quanto riguarda l'elaborazione e la sintesi di dati testuali non strutturati. Ciò ha implicazioni per l'analisi di set di dati ricchi e aperti, come le risposte ai sondaggi, dove i grandi modelli di linguaggio promettono di estrarre in modo efficiente temi chiave e sentimenti. Tuttavia, poiché le organizzazioni si rivolgono sempre più a questi potenti sistemi AI per dare senso ai feedback testuali, sorge una domanda critica: possiamo fidarci dei grandi modelli di linguaggio per rappresentare accuratamente le prospettive contenute in questi set di dati basati su testo? Sebbene i grandi modelli di linguaggio eccellano nella generazione di sintesi simili a quelle umane, c'è il rischio che le loro uscite possano deviare involontariamente dalla vera sostanza delle risposte originali. Discrepanze tra le uscite generate dai grandi modelli di linguaggio e i temi effettivi presenti nei dati potrebbero portare a decisioni sbagliate, con conseguenze di vasta portata per le organizzazioni. Questa ricerca indaga l'efficacia dei grandi modelli di linguaggio come modelli giudici per valutare l'allineamento tematico delle sintesi generate da altri grandi modelli di linguaggio. Abbiamo utilizzato un modello Claude antropico per generare sintesi tematiche dalle risposte ai sondaggi aperti, con Titan Express di Amazon, Nova Pro e Llama di Meta a fungere da giudici dei grandi modelli di linguaggio. L'approccio dei grandi modelli di linguaggio come giudici è stato confrontato con valutazioni umane utilizzando il kappa di Cohen, il rho di Spearman e l'alfa di Krippendorff, convalidando un'alternativa scalabile ai tradizionali metodi di valutazione centrati sull'uomo. I nostri risultati rivelano che, sebbene i grandi modelli di linguaggio come giudici offrano una soluzione scalabile paragonabile ai valutatori umani, gli esseri umani potrebbero ancora eccellere nel rilevare sfumature sottili e specifiche del contesto. Questa ricerca contribuisce al crescente corpus di conoscenze sull'analisi testuale assistita dall'AI. Discutiamo delle limitazioni e forniamo raccomandazioni per future ricerche, sottolineando la necessità di una considerazione attenta quando si generalizzano i modelli giudici dei grandi modelli di linguaggio attraverso vari contesti e casi d'uso.

English

Rapid advancements in large language models have unlocked remarkable capabilities when it comes to processing and summarizing unstructured text data. This has implications for the analysis of rich, open-ended datasets, such as survey responses, where LLMs hold the promise of efficiently distilling key themes and sentiments. However, as organizations increasingly turn to these powerful AI systems to make sense of textual feedback, a critical question arises, can we trust LLMs to accurately represent the perspectives contained within these text based datasets? While LLMs excel at generating human-like summaries, there is a risk that their outputs may inadvertently diverge from the true substance of the original responses. Discrepancies between the LLM-generated outputs and the actual themes present in the data could lead to flawed decision-making, with far-reaching consequences for organizations. This research investigates the effectiveness of LLMs as judge models to evaluate the thematic alignment of summaries generated by other LLMs. We utilized an Anthropic Claude model to generate thematic summaries from open-ended survey responses, with Amazon's Titan Express, Nova Pro, and Meta's Llama serving as LLM judges. The LLM-as-judge approach was compared to human evaluations using Cohen's kappa, Spearman's rho, and Krippendorff's alpha, validating a scalable alternative to traditional human centric evaluation methods. Our findings reveal that while LLMs as judges offer a scalable solution comparable to human raters, humans may still excel at detecting subtle, context-specific nuances. This research contributes to the growing body of knowledge on AI assisted text analysis. We discuss limitations and provide recommendations for future research, emphasizing the need for careful consideration when generalizing LLM judge models across various contexts and use cases.