그래프 내 추론 및 지식 확장을 위한 Graph-PReFLexOR을 사용한 현장 그래프 추론

In-situ graph reasoning and knowledge expansion using Graph-PReFLexOR

January 14, 2025

저자: Markus J. Buehler

cs.AI

초록

자동화된 과학적 발견의 추구는 상징 논리에서 현대 AI로의 진전을 촉진하여 추론과 패턴 인식 분야에서 새로운 지평을 열었습니다. 트랜스포머는 잠재적 시스템으로 작용하며, 모든 가능한 관계는 작업이 제약을 가할 때까지 잠재적 가능성으로 남아 있습니다. 그러나 그들의 샘플링을 정제하는 데에는 확률적 선택 이상의 것이 필요합니다: 솔루션은 특정 구조나 규칙에 부합하여야 하며, 일관성과 일반 원칙의 발동을 보장해야 합니다. 우리는 탐색적 추론의 최적화를 위한 그래프 기반 선호도 기반 재귀 언어 모델링(Graph-PReFLexOR)이라는 프레임워크를 제시합니다. 이는 그래프 추론을 상징적 추상화와 결합하여 도메인 지식을 동적으로 확장합니다. 강화 학습에 영감을 받아, Graph-PReFLexOR는 작업이 지식 그래프, 추상적 패턴, 그리고 궁극적으로 최종 답변을 제공하는 구조화된 매핑으로 추론을 정의합니다. 범주 이론에 영감을 받아, 이는 개념을 노드로, 그들의 관계를 엣지로 인코딩하여 계층적 추론과 이성적 표현을 통한 적응 학습을 지원합니다. 이는 가설 생성, 재료 설계, 그리고 '얇은 곳'과 재료 과학과 같은 신화적 개념 사이의 관계 발견과 같은 창의적 추론을 포함한 시연을 제시합니다. 우리는 다양한 분야 간의 통찰력을 통합하여 학제간 연결을 촉진하는 '지식 정원 성장' 전략을 제안합니다. 30억 개의 매개변수를 가진 Graph-PReFLexOR 모델의 결과는 우수한 추론 깊이와 적응성을 보여주며, 투명하고 다학제적인 AI 주도의 발견 가능성을 강조합니다. 이는 일반적인 자율적 추론 솔루션을 위한 기초를 마련합니다.

English

The pursuit of automated scientific discovery has fueled progress from symbolic logic to modern AI, forging new frontiers in reasoning and pattern recognition. Transformers function as potential systems, where every possible relationship remains latent potentiality until tasks impose constraints, akin to measurement. Yet, refining their sampling requires more than probabilistic selection: solutions must conform to specific structures or rules, ensuring consistency and the invocation of general principles. We present Graph-PReFLexOR (Graph-based Preference-based Recursive Language Modeling for Exploratory Optimization of Reasoning), a framework that combines graph reasoning with symbolic abstraction to dynamically expand domain knowledge. Inspired by reinforcement learning, Graph-PReFLexOR defines reasoning as a structured mapping, where tasks yield knowledge graphs, abstract patterns, and ultimately, final answers. Inspired by category theory, it encodes concepts as nodes and their relationships as edges, supporting hierarchical inference and adaptive learning through isomorphic representations. Demonstrations include hypothesis generation, materials design, and creative reasoning, such as discovering relationships between mythological concepts like 'thin places' with materials science. We propose a 'knowledge garden growth' strategy that integrates insights across domains, promoting interdisciplinary connections. Results with a 3-billion-parameter Graph-PReFLexOR model show superior reasoning depth and adaptability, underscoring the potential for transparent, multidisciplinary AI-driven discovery. It lays the groundwork for general autonomous reasoning solutions.