Flow-DPO: Het verbeteren van LLM mathematische redenering door middel van online multi-agent leren

Flow-DPO: Improving LLM Mathematical Reasoning through Online Multi-Agent Learning

October 29, 2024

Auteurs: Yihe Deng, Paul Mineiro

cs.AI

Samenvatting

Wiskundige redenering is een cruciale vaardigheid voor Grote Taalmodellen (LLM's), maar het genereren van gedetailleerde en nauwkeurige redeneringssporen blijft een aanzienlijke uitdaging. Dit artikel introduceert een nieuwe aanpak om hoogwaardige redeneringssporen te produceren voor het verfijnen van LLM's met behulp van online leerstromen. Onze methode maakt gebruik van een incrementele uitvoerproductiestroom, waarbij component LLM's gezamenlijk oplossingen construeren door iteratieve communicatie. We trainen de stroom met behulp van online Directe VoorkeursOptimalisatie (DPO) leren met rollouts, waarbij DPO-paren worden gegenereerd voor elk trainingsvoorbeeld en modellen in realtime worden bijgewerkt. We vergelijken direct de kwaliteit van redeneringssporen die zijn gegenereerd door onze methode met die geproduceerd door directe modelinferentie, waarbij we de effectiviteit van onze aanpak aantonen in het verbeteren van de prestaties van LLM's in wiskundige redeneertaken.

English

Mathematical reasoning is a crucial capability for Large Language Models (LLMs), yet generating detailed and accurate reasoning traces remains a significant challenge. This paper introduces a novel approach to produce high-quality reasoning traces for LLM fine-tuning using online learning Flows. Our method employs an incremental output production Flow, where component LLMs collaboratively construct solutions through iterative communication. We train the Flow using online Direct Preference Optimization (DPO) learning with rollouts, generating DPO pairs for each training example and updating models in real-time. We directly compare the quality of reasoning traces generated by our method with those produced through direct model inference, demonstrating the effectiveness of our approach in improving LLM performance in mathematical reasoning tasks.