Ragionamento grafico in-situ ed espansione della conoscenza utilizzando Graph-PReFLexOR

In-situ graph reasoning and knowledge expansion using Graph-PReFLexOR

January 14, 2025

Autori: Markus J. Buehler

cs.AI

Abstract

La ricerca dell'automatizzazione della scoperta scientifica ha alimentato il progresso dalla logica simbolica all'IA moderna, aprendo nuove frontiere nel ragionamento e nel riconoscimento di pattern. I trasformatori funzionano come sistemi potenziali, dove ogni possibile relazione rimane una potenzialità latente finché i compiti non impongono vincoli, simili alla misurazione. Tuttavia, per perfezionare il campionamento richiede più della selezione probabilistica: le soluzioni devono conformarsi a strutture o regole specifiche, garantendo coerenza e l'invocazione di principi generali. Presentiamo Graph-PReFLexOR (Modellazione del Linguaggio Ricorsivo basata su Preferenze su Grafi per l'Ottimizzazione Esplorativa del Ragionamento), un framework che combina il ragionamento su grafi con l'astrazione simbolica per espandere dinamicamente la conoscenza di dominio. Ispirato all'apprendimento per rinforzo, Graph-PReFLexOR definisce il ragionamento come un mapping strutturato, dove i compiti generano grafi di conoscenza, pattern astratti e, alla fine, risposte finali. Ispirato alla teoria delle categorie, codifica concetti come nodi e le loro relazioni come archi, supportando l'inferenza gerarchica e l'apprendimento adattivo attraverso rappresentazioni isomorfe. Le dimostrazioni includono la generazione di ipotesi, la progettazione di materiali e il ragionamento creativo, come la scoperta di relazioni tra concetti mitologici come 'luoghi sottili' con la scienza dei materiali. Proponiamo una strategia di 'crescita del giardino della conoscenza' che integra intuizioni tra i domini, promuovendo connessioni interdisciplinari. I risultati con un modello Graph-PReFLexOR da 3 miliardi di parametri mostrano una profondità e adattabilità del ragionamento superiori, sottolineando il potenziale per una scoperta trasparente e multidisciplinare guidata dall'IA. Pone le basi per soluzioni di ragionamento autonomo generale.

English

The pursuit of automated scientific discovery has fueled progress from symbolic logic to modern AI, forging new frontiers in reasoning and pattern recognition. Transformers function as potential systems, where every possible relationship remains latent potentiality until tasks impose constraints, akin to measurement. Yet, refining their sampling requires more than probabilistic selection: solutions must conform to specific structures or rules, ensuring consistency and the invocation of general principles. We present Graph-PReFLexOR (Graph-based Preference-based Recursive Language Modeling for Exploratory Optimization of Reasoning), a framework that combines graph reasoning with symbolic abstraction to dynamically expand domain knowledge. Inspired by reinforcement learning, Graph-PReFLexOR defines reasoning as a structured mapping, where tasks yield knowledge graphs, abstract patterns, and ultimately, final answers. Inspired by category theory, it encodes concepts as nodes and their relationships as edges, supporting hierarchical inference and adaptive learning through isomorphic representations. Demonstrations include hypothesis generation, materials design, and creative reasoning, such as discovering relationships between mythological concepts like 'thin places' with materials science. We propose a 'knowledge garden growth' strategy that integrates insights across domains, promoting interdisciplinary connections. Results with a 3-billion-parameter Graph-PReFLexOR model show superior reasoning depth and adaptability, underscoring the potential for transparent, multidisciplinary AI-driven discovery. It lays the groundwork for general autonomous reasoning solutions.