Strukturell sprechen, hierarchisch handeln: Ein kollaborativer Rahmen für LLM-Mehragentensysteme.

Talk Structurally, Act Hierarchically: A Collaborative Framework for LLM Multi-Agent Systems

February 16, 2025

Autoren: Zhao Wang, Sota Moriyama, Wei-Yao Wang, Briti Gangopadhyay, Shingo Takamatsu

cs.AI

Zusammenfassung

In jüngster Zeit haben Fortschritte bei LLM-basierten Multi-Agenten (LLM-MA)-Systemen vielversprechende Ergebnisse gezeigt, dennoch bestehen weiterhin bedeutende Herausforderungen beim Management von Kommunikation und Verfeinerung, wenn Agenten bei komplexen Aufgaben zusammenarbeiten. In diesem Artikel schlagen wir Talk Structurally, Act Hierarchically (TalkHier) vor, ein neuartiges Framework, das ein strukturiertes Kommunikationsprotokoll für kontextreiche Austausche einführt und ein hierarchisches Verfeinerungssystem zur Bewältigung von Problemen wie inkorrekten Ausgaben, Falschinformationen und Voreingenommenheiten bereitstellt. TalkHier übertrifft verschiedene Arten des aktuellen Standes der Technik, einschließlich Skalierungsmodellen für Inferenzen (OpenAI-o1), Open-Source-Multi-Agenten-Modellen (z.B. AgentVerse) und Mehrheitsabstimmungsstrategien auf aktuellen LLM- und Einzelagenten-Baselines (z.B. ReAct, GPT4o), über verschiedene Aufgaben hinweg, einschließlich offener Fragebeantwortung, domänenspezifischer selektiver Fragestellung und praktischer Werbetextgenerierung. Diese Ergebnisse unterstreichen sein Potenzial, einen neuen Standard für LLM-MA-Systeme zu setzen und den Weg für effektivere, anpassungsfähigere und kollaborativere Multi-Agenten-Frameworks zu ebnen. Der Code ist verfügbar unter https://github.com/sony/talkhier.

English

Recent advancements in LLM-based multi-agent (LLM-MA) systems have shown promise, yet significant challenges remain in managing communication and refinement when agents collaborate on complex tasks. In this paper, we propose Talk Structurally, Act Hierarchically (TalkHier), a novel framework that introduces a structured communication protocol for context-rich exchanges and a hierarchical refinement system to address issues such as incorrect outputs, falsehoods, and biases. TalkHier surpasses various types of SoTA, including inference scaling model (OpenAI-o1), open-source multi-agent models (e.g., AgentVerse), and majority voting strategies on current LLM and single-agent baselines (e.g., ReAct, GPT4o), across diverse tasks, including open-domain question answering, domain-specific selective questioning, and practical advertisement text generation. These results highlight its potential to set a new standard for LLM-MA systems, paving the way for more effective, adaptable, and collaborative multi-agent frameworks. The code is available https://github.com/sony/talkhier.