DynaSaur : Agents de Langage de Grande Taille Au-delà des Actions Prédéfinies

DynaSaur: Large Language Agents Beyond Predefined Actions

November 4, 2024

Auteurs: Dang Nguyen, Viet Dac Lai, Seunghyun Yoon, Ryan A. Rossi, Handong Zhao, Ruiyi Zhang, Puneet Mathur, Nedim Lipka, Yu Wang, Trung Bui, Franck Dernoncourt, Tianyi Zhou

cs.AI

Résumé

Les systèmes d'agent LLM existants sélectionnent généralement des actions à partir d'un ensemble fixe et prédéfini à chaque étape. Bien que cette approche soit efficace dans des environnements clos et à portée étroite, nous soutenons qu'elle présente deux défis majeurs lors du déploiement d'agents LLM dans des scénarios du monde réel : (1) la sélection à partir d'un ensemble fixe d'actions restreint considérablement les capacités de planification et d'agir des agents LLM, et (2) cette approche nécessite des efforts humains substantiels pour énumérer et implémenter toutes les actions possibles, ce qui devient impraticable dans des environnements complexes avec un grand nombre d'actions potentielles. Dans ce travail, nous proposons un cadre d'agent LLM qui permet la création dynamique et la composition d'actions de manière en ligne. Dans ce cadre, l'agent interagit avec l'environnement en générant et en exécutant des programmes écrits dans un langage de programmation généraliste à chaque étape. De plus, les actions générées sont accumulées au fil du temps pour une réutilisation future. Nos expériences approfondies sur le banc d'essai GAIA démontrent que ce cadre offre une flexibilité considérablement accrue et surpasse les méthodes précédentes. Notamment, il permet à un agent LLM de se rétablir dans des scénarios où aucune action pertinente n'existe dans l'ensemble prédéfini ou lorsque les actions existantes échouent en raison de cas limites imprévus. Au moment de la rédaction, nous occupons la première place du classement public GAIA. Notre code est disponible sur https://github.com/adobe-research/dynasaur.

English

Existing LLM agent systems typically select actions from a fixed and predefined set at every step. While this approach is effective in closed, narrowly-scoped environments, we argue that it presents two major challenges when deploying LLM agents in real-world scenarios: (1) selecting from a fixed set of actions significantly restricts the planning and acting capabilities of LLM agents, and (2) this approach requires substantial human effort to enumerate and implement all possible actions, which becomes impractical in complex environments with a vast number of potential actions. In this work, we propose an LLM agent framework that enables the dynamic creation and composition of actions in an online manner. In this framework, the agent interacts with the environment by generating and executing programs written in a general-purpose programming language at each step. Furthermore, generated actions are accumulated over time for future reuse. Our extensive experiments on the GAIA benchmark demonstrate that this framework offers significantly greater flexibility and outperforms previous methods. Notably, it allows an LLM agent to recover in scenarios where no relevant action exists in the predefined set or when existing actions fail due to unforeseen edge cases. At the time of writing, we hold the top position on the GAIA public leaderboard. Our code can be found in https://github.com/adobe-research/dynasaur{https://github.com/adobe-research/dynasaur}.