Aguvis: Agenti di Visione Pura Unificati per l'Interazione Autonoma con l'Interfaccia Utente Grafica

Aguvis: Unified Pure Vision Agents for Autonomous GUI Interaction

December 5, 2024

Autori: Yiheng Xu, Zekun Wang, Junli Wang, Dunjie Lu, Tianbao Xie, Amrita Saha, Doyen Sahoo, Tao Yu, Caiming Xiong

cs.AI

Abstract

Le Interfacce Utente Grafiche (GUI) sono cruciali per l'interazione uomo-computer, tuttavia automatizzare le attività delle GUI rimane sfidante a causa della complessità e variabilità degli ambienti visivi. Gli approcci esistenti spesso si basano su rappresentazioni testuali delle GUI, che introducono limitazioni nella generalizzazione, efficienza e scalabilità. In questo articolo, presentiamo Aguvis, un framework unificato basato esclusivamente sulla visione per agenti GUI autonomi che operano su diverse piattaforme. Il nostro approccio sfrutta osservazioni basate sull'immagine, e l'ancoraggio delle istruzioni nel linguaggio naturale agli elementi visivi, e utilizza uno spazio d'azione coerente per garantire la generalizzazione tra piattaforme. Per affrontare le limitazioni dei lavori precedenti, integriamo la pianificazione esplicita e il ragionamento nel modello, potenziando la sua capacità di navigare e interagire autonomamente con complessi ambienti digitali. Costruiamo un dataset su larga scala delle traiettorie degli agenti GUI, incorporando ragionamento e ancoraggio multimodale, e utilizziamo un pipeline di addestramento a due fasi che si concentra prima sull'ancoraggio generale delle GUI, seguito dalla pianificazione e dal ragionamento. Attraverso esperimenti esaustivi, dimostriamo che Aguvis supera i metodi state-of-the-art precedenti sia in scenari offline che online reali, raggiungendo, a nostra conoscenza, il primo agente GUI basato esclusivamente sulla visione in grado di svolgere attività in modo indipendente senza la collaborazione con modelli esterni closed-source. Abbiamo reso open-source tutti i dataset, i modelli e le procedure di addestramento per facilitare la ricerca futura su https://aguvis-project.github.io/.

English

Graphical User Interfaces (GUIs) are critical to human-computer interaction, yet automating GUI tasks remains challenging due to the complexity and variability of visual environments. Existing approaches often rely on textual representations of GUIs, which introduce limitations in generalization, efficiency, and scalability. In this paper, we introduce Aguvis, a unified pure vision-based framework for autonomous GUI agents that operates across various platforms. Our approach leverages image-based observations, and grounding instructions in natural language to visual elements, and employs a consistent action space to ensure cross-platform generalization. To address the limitations of previous work, we integrate explicit planning and reasoning within the model, enhancing its ability to autonomously navigate and interact with complex digital environments. We construct a large-scale dataset of GUI agent trajectories, incorporating multimodal reasoning and grounding, and employ a two-stage training pipeline that first focuses on general GUI grounding, followed by planning and reasoning. Through comprehensive experiments, we demonstrate that Aguvis surpasses previous state-of-the-art methods in both offline and real-world online scenarios, achieving, to our knowledge, the first fully autonomous pure vision GUI agent capable of performing tasks independently without collaboration with external closed-source models. We open-sourced all datasets, models, and training recipes to facilitate future research at https://aguvis-project.github.io/.