Autocoscienza Agente e Conoscitiva

Agentic Knowledgeable Self-awareness

April 4, 2025

Autori: Shuofei Qiao, Zhisong Qiu, Baochang Ren, Xiaobin Wang, Xiangyuan Ru, Ningyu Zhang, Xiang Chen, Yong Jiang, Pengjun Xie, Fei Huang, Huajun Chen

cs.AI

Abstract

I Large Language Model (LLM) hanno ottenuto prestazioni considerevoli in vari compiti di pianificazione agentica. Tuttavia, gli approcci tradizionali alla pianificazione degli agenti adottano una metodologia di "irrigazione a pioggia" che inietta indiscriminatamente traiettorie ottimali, feedback esterni e conoscenze di dominio nei modelli degli agenti. Questa pratica trascura il principio cognitivo umano fondamentale della consapevolezza situazionale durante il processo decisionale: la capacità di valutare dinamicamente le esigenze situazionali e di impiegare strategicamente le risorse durante la presa di decisioni. Proponiamo la consapevolezza situazionale agentica per colmare questa lacuna, un nuovo paradigma che consente agli agenti basati su LLM di regolare autonomamente l'utilizzo della conoscenza. Nello specifico, proponiamo KnowSelf, un approccio incentrato sui dati che applica agli agenti una consapevolezza situazionale simile a quella umana. In concreto, abbiamo ideato un criterio euristico di giudizio situazionale per contrassegnare token speciali sulle traiettorie auto-esplorate dall'agente, al fine di raccogliere dati di addestramento. Attraverso un processo di addestramento in due fasi, il modello dell'agente può passare da una situazione all'altra generando specifici token speciali, ottenendo effetti di pianificazione ottimali con costi minimi. I nostri esperimenti dimostrano che KnowSelf può superare vari benchmark robusti su diversi compiti e modelli con un uso minimo di conoscenza esterna. Il codice è disponibile all'indirizzo https://github.com/zjunlp/KnowSelf.

English

Large Language Models (LLMs) have achieved considerable performance across various agentic planning tasks. However, traditional agent planning approaches adopt a "flood irrigation" methodology that indiscriminately injects gold trajectories, external feedback, and domain knowledge into agent models. This practice overlooks the fundamental human cognitive principle of situational self-awareness during decision-making-the ability to dynamically assess situational demands and strategically employ resources during decision-making. We propose agentic knowledgeable self-awareness to address this gap, a novel paradigm enabling LLM-based agents to autonomously regulate knowledge utilization. Specifically, we propose KnowSelf, a data-centric approach that applies agents with knowledgeable self-awareness like humans. Concretely, we devise a heuristic situation judgement criterion to mark special tokens on the agent's self-explored trajectories for collecting training data. Through a two-stage training process, the agent model can switch between different situations by generating specific special tokens, achieving optimal planning effects with minimal costs. Our experiments demonstrate that KnowSelf can outperform various strong baselines on different tasks and models with minimal use of external knowledge. Code is available at https://github.com/zjunlp/KnowSelf.