DeCoRe: Decoderen door het tegenover elkaar stellen van ophaalkoppen om hallucinaties te verminderen

DeCoRe: Decoding by Contrasting Retrieval Heads to Mitigate Hallucinations

October 24, 2024

Auteurs: Aryo Pradipta Gema, Chen Jin, Ahmed Abdulaal, Tom Diethe, Philip Teare, Beatrice Alex, Pasquale Minervini, Amrutha Saseendran

cs.AI

Samenvatting

Grote Taalmodellen (LLM's) hallucineren vaak, waarbij ze ontrouwe of feitelijk onjuiste resultaten produceren door de verstrekte context verkeerd voor te stellen of interne kennis verkeerd te herinneren. Recente studies hebben specifieke aandachtskoppen binnen de Transformer-architectuur geïdentificeerd, bekend als ophaalkoppen, die verantwoordelijk zijn voor het extraheren van relevante contextuele informatie. Wij veronderstellen dat het maskeren van deze ophaalkoppen hallucinaties kan induceren en dat het contrasteren van de resultaten van het basis LLM en het gemaskerde LLM hallucinaties kan verminderen. Met dit doel stellen wij Decoding by Contrasting Retrieval Heads (DeCoRe) voor, een nieuw trainingsvrij decodeerstrategie die informatie in de context en modelparameters versterkt. DeCoRe vermindert potentieel gehallucineerde reacties door dynamisch de resultaten van het basis LLM en het gemaskerde LLM te contrasteren, waarbij conditionele entropie als leidraad dient. Onze uitgebreide experimenten bevestigen dat DeCoRe de prestaties aanzienlijk verbetert bij taken die een hoge contextuele trouw vereisen, zoals samenvatting (XSum met 18,6%), instructieopvolging (MemoTrap met 10,9%), en open-boek vraagbeantwoording (NQ-Open met 2,4% en NQ-Swap met 5,5%).

English

Large Language Models (LLMs) often hallucinate, producing unfaithful or factually incorrect outputs by misrepresenting the provided context or incorrectly recalling internal knowledge. Recent studies have identified specific attention heads within the Transformer architecture, known as retrieval heads, responsible for extracting relevant contextual information. We hypothesise that masking these retrieval heads can induce hallucinations and that contrasting the outputs of the base LLM and the masked LLM can reduce hallucinations. To this end, we propose Decoding by Contrasting Retrieval Heads (DeCoRe), a novel training-free decoding strategy that amplifies information found in the context and model parameters. DeCoRe mitigates potentially hallucinated responses by dynamically contrasting the outputs of the base LLM and the masked LLM, using conditional entropy as a guide. Our extensive experiments confirm that DeCoRe significantly improves performance on tasks requiring high contextual faithfulness, such as summarisation (XSum by 18.6%), instruction following (MemoTrap by 10.9%), and open-book question answering (NQ-Open by 2.4% and NQ-Swap by 5.5%).