ProSA: Het beoordelen en begrijpen van de gevoeligheid van prompts van LLM's

ProSA: Assessing and Understanding the Prompt Sensitivity of LLMs

October 16, 2024

Auteurs: Jingming Zhuo, Songyang Zhang, Xinyu Fang, Haodong Duan, Dahua Lin, Kai Chen

cs.AI

Samenvatting

Grote taalmodellen (LLM's) hebben indrukwekkende mogelijkheden laten zien bij verschillende taken, maar hun prestaties zijn zeer gevoelig voor de gebruikte prompts. Deze variabiliteit vormt uitdagingen voor nauwkeurige beoordeling en gebruikerstevredenheid. Huidig onderzoek besteedt vaak te weinig aandacht aan promptvariaties op instantieniveau en hun implicaties voor subjectieve beoordelingen. Om deze tekortkomingen aan te pakken, introduceren we ProSA, een raamwerk dat is ontworpen om promptgevoeligheid in LLM's te evalueren en te begrijpen. ProSA omvat een nieuwe gevoeligheidsmaatstaf, PromptSensiScore, en maakt gebruik van decoderingsvertrouwen om onderliggende mechanismen toe te lichten. Onze uitgebreide studie, die meerdere taken beslaat, onthult dat promptgevoeligheid varieert over datasets en modellen, waarbij grotere modellen verbeterde robuustheid vertonen. We merken op dat few-shot voorbeelden dit gevoeligheidsprobleem kunnen verlichten, en dat subjectieve beoordelingen ook vatbaar zijn voor promptgevoeligheden, met name bij complexe, redeneringsgerichte taken. Bovendien geven onze bevindingen aan dat hoger modelvertrouwen correleert met verhoogde promptrobuustheid. Wij geloven dat dit werk zal dienen als een nuttig instrument om de promptgevoeligheid van LLM's te bestuderen. Het project is beschikbaar op: https://github.com/open-compass/ProSA.

English

Large language models (LLMs) have demonstrated impressive capabilities across various tasks, but their performance is highly sensitive to the prompts utilized. This variability poses challenges for accurate assessment and user satisfaction. Current research frequently overlooks instance-level prompt variations and their implications on subjective evaluations. To address these shortcomings, we introduce ProSA, a framework designed to evaluate and comprehend prompt sensitivity in LLMs. ProSA incorporates a novel sensitivity metric, PromptSensiScore, and leverages decoding confidence to elucidate underlying mechanisms. Our extensive study, spanning multiple tasks, uncovers that prompt sensitivity fluctuates across datasets and models, with larger models exhibiting enhanced robustness. We observe that few-shot examples can alleviate this sensitivity issue, and subjective evaluations are also susceptible to prompt sensitivities, particularly in complex, reasoning-oriented tasks. Furthermore, our findings indicate that higher model confidence correlates with increased prompt robustness. We believe this work will serve as a helpful tool in studying prompt sensitivity of LLMs. The project is released at: https://github.com/open-compass/ProSA .