Raciocínio em grafo in-situ e expansão de conhecimento usando Graph-PReFLexOR
In-situ graph reasoning and knowledge expansion using Graph-PReFLexOR
January 14, 2025
Autores: Markus J. Buehler
cs.AI
Resumo
A busca pela descoberta científica automatizada tem impulsionado o progresso desde a lógica simbólica até a IA moderna, abrindo novas fronteiras em raciocínio e reconhecimento de padrões. Os Transformers funcionam como sistemas potenciais, nos quais cada relação possível permanece como uma potencialidade latente até que as tarefas imponham restrições, semelhante à medição. No entanto, aprimorar sua amostragem requer mais do que uma seleção probabilística: as soluções devem se conformar a estruturas ou regras específicas, garantindo consistência e a invocação de princípios gerais. Apresentamos o Graph-PReFLexOR (Modelagem de Linguagem Recursiva Baseada em Preferência de Grafo para Otimização Exploratória de Raciocínio), um framework que combina raciocínio em grafo com abstração simbólica para expandir dinamicamente o conhecimento de domínio. Inspirado no aprendizado por reforço, o Graph-PReFLexOR define o raciocínio como um mapeamento estruturado, no qual as tarefas resultam em grafos de conhecimento, padrões abstratos e, por fim, respostas finais. Inspirado na teoria das categorias, ele codifica conceitos como nós e suas relações como arestas, suportando inferência hierárquica e aprendizado adaptativo por meio de representações isomórficas. As demonstrações incluem geração de hipóteses, design de materiais e raciocínio criativo, como descobrir relações entre conceitos mitológicos como 'lugares finos' com ciência de materiais. Propomos uma estratégia de 'crescimento de jardim de conhecimento' que integra insights entre domínios, promovendo conexões interdisciplinares. Resultados com um modelo Graph-PReFLexOR de 3 bilhões de parâmetros mostram maior profundidade e adaptabilidade de raciocínio, destacando o potencial para descobertas transparentes e multidisciplinares impulsionadas por IA. Ele estabelece as bases para soluções gerais de raciocínio autônomo.
English
The pursuit of automated scientific discovery has fueled progress from
symbolic logic to modern AI, forging new frontiers in reasoning and pattern
recognition. Transformers function as potential systems, where every possible
relationship remains latent potentiality until tasks impose constraints, akin
to measurement. Yet, refining their sampling requires more than probabilistic
selection: solutions must conform to specific structures or rules, ensuring
consistency and the invocation of general principles. We present
Graph-PReFLexOR (Graph-based Preference-based Recursive Language Modeling for
Exploratory Optimization of Reasoning), a framework that combines graph
reasoning with symbolic abstraction to dynamically expand domain knowledge.
Inspired by reinforcement learning, Graph-PReFLexOR defines reasoning as a
structured mapping, where tasks yield knowledge graphs, abstract patterns, and
ultimately, final answers. Inspired by category theory, it encodes concepts as
nodes and their relationships as edges, supporting hierarchical inference and
adaptive learning through isomorphic representations. Demonstrations include
hypothesis generation, materials design, and creative reasoning, such as
discovering relationships between mythological concepts like 'thin places' with
materials science. We propose a 'knowledge garden growth' strategy that
integrates insights across domains, promoting interdisciplinary connections.
Results with a 3-billion-parameter Graph-PReFLexOR model show superior
reasoning depth and adaptability, underscoring the potential for transparent,
multidisciplinary AI-driven discovery. It lays the groundwork for general
autonomous reasoning solutions.Summary
AI-Generated Summary