구조적으로 대화하고 계층적으로 행동하기: LLM 다중 에이전트 시스템을 위한 협업 프레임워크

Talk Structurally, Act Hierarchically: A Collaborative Framework for LLM Multi-Agent Systems

February 16, 2025

저자: Zhao Wang, Sota Moriyama, Wei-Yao Wang, Briti Gangopadhyay, Shingo Takamatsu

cs.AI

초록

LLM 기반 다중 에이전트 (LLM-MA) 시스템의 최근 발전은 유망성을 보여주었지만, 복잡한 작업에서 에이전트들이 협업할 때 의사 소통과 정제를 관리하는 데 중요한 도전 과제가 남아 있습니다. 본 논문에서는 Talk Structurally, Act Hierarchically (TalkHier)이라는 혁신적인 프레임워크를 제안합니다. 이 프레임워크는 구조화된 통신 프로토콜을 도입하여 맥락이 풍부한 교환을 위한 시스템을 소개하고, 잘못된 출력, 거짓 정보 및 편향과 같은 문제를 해결하기 위한 계층적 정제 시스템을 제공합니다. TalkHier는 OpenAI-o1과 같은 추론 스케일링 모델, AgentVerse와 같은 오픈 소스 다중 에이전트 모델, 그리고 ReAct, GPT4o와 같은 단일 에이전트 기준선을 포함한 다양한 유형의 최고 수준 기술을 능가하며, 오픈 도메인 질문 응답, 도메인별 선택적 질문, 그리고 실용적 광고 텍스트 생성과 같은 다양한 작업에서 우수한 성과를 보여줍니다. 이러한 결과는 LLM-MA 시스템에 대한 새로운 표준을 설정할 잠재력을 강조하며, 더 효과적이고 적응 가능하며 협업적인 다중 에이전트 프레임워크를 위한 길을 열어줍니다. 코드는 https://github.com/sony/talkhier에서 이용할 수 있습니다.

English

Recent advancements in LLM-based multi-agent (LLM-MA) systems have shown promise, yet significant challenges remain in managing communication and refinement when agents collaborate on complex tasks. In this paper, we propose Talk Structurally, Act Hierarchically (TalkHier), a novel framework that introduces a structured communication protocol for context-rich exchanges and a hierarchical refinement system to address issues such as incorrect outputs, falsehoods, and biases. TalkHier surpasses various types of SoTA, including inference scaling model (OpenAI-o1), open-source multi-agent models (e.g., AgentVerse), and majority voting strategies on current LLM and single-agent baselines (e.g., ReAct, GPT4o), across diverse tasks, including open-domain question answering, domain-specific selective questioning, and practical advertisement text generation. These results highlight its potential to set a new standard for LLM-MA systems, paving the way for more effective, adaptable, and collaborative multi-agent frameworks. The code is available https://github.com/sony/talkhier.