Графовое рассуждение на месте и расширение знаний с использованием Graph-PReFLexOR

In-situ graph reasoning and knowledge expansion using Graph-PReFLexOR

January 14, 2025

Авторы: Markus J. Buehler

cs.AI

Аннотация

Стремление к автоматизированному научному открытию питает прогресс от символической логики к современному искусственному интеллекту, открывая новые границы в области рассуждений и распознавания образов. Трансформеры функционируют как потенциальные системы, где каждое возможное отношение остается скрытым потенциалом до тех пор, пока задачи не наложат ограничения, подобные измерению. Однако улучшение их выборки требует не только вероятностного выбора: решения должны соответствовать определенным структурам или правилам, обеспечивая согласованность и применение общих принципов. Мы представляем Graph-PReFLexOR (Графовое Предпочтительное Рекурсивное Языковое Моделирование для Исследовательской Оптимизации Рассуждений), фреймворк, который объединяет графовые рассуждения с символической абстракцией для динамического расширения знаний области. Вдохновленный обучением с подкреплением, Graph-PReFLexOR определяет рассуждения как структурированное отображение, где задачи порождают графы знаний, абстрактные образцы и, в конечном итоге, окончательные ответы. Вдохновленный теорией категорий, он кодирует концепции как узлы и их отношения как ребра, поддерживая иерархический вывод и адаптивное обучение через изоморфные представления. Демонстрации включают генерацию гипотез, разработку материалов и креативное рассуждение, такие как обнаружение отношений между мифологическими концепциями, например, 'тонкими местами', с наукой о материалах. Мы предлагаем стратегию 'роста сада знаний', которая интегрирует идеи в различных областях, способствуя междисциплинарным связям. Результаты с моделью Graph-PReFLexOR с 3 миллиардами параметров показывают превосходную глубину рассуждений и адаптивность, подчеркивая потенциал прозрачного, междисциплинарного искусственного интеллекта, направленного на открытие. Это заложило основу для общих автономных решений в области рассуждений.

English

The pursuit of automated scientific discovery has fueled progress from symbolic logic to modern AI, forging new frontiers in reasoning and pattern recognition. Transformers function as potential systems, where every possible relationship remains latent potentiality until tasks impose constraints, akin to measurement. Yet, refining their sampling requires more than probabilistic selection: solutions must conform to specific structures or rules, ensuring consistency and the invocation of general principles. We present Graph-PReFLexOR (Graph-based Preference-based Recursive Language Modeling for Exploratory Optimization of Reasoning), a framework that combines graph reasoning with symbolic abstraction to dynamically expand domain knowledge. Inspired by reinforcement learning, Graph-PReFLexOR defines reasoning as a structured mapping, where tasks yield knowledge graphs, abstract patterns, and ultimately, final answers. Inspired by category theory, it encodes concepts as nodes and their relationships as edges, supporting hierarchical inference and adaptive learning through isomorphic representations. Demonstrations include hypothesis generation, materials design, and creative reasoning, such as discovering relationships between mythological concepts like 'thin places' with materials science. We propose a 'knowledge garden growth' strategy that integrates insights across domains, promoting interdisciplinary connections. Results with a 3-billion-parameter Graph-PReFLexOR model show superior reasoning depth and adaptability, underscoring the potential for transparent, multidisciplinary AI-driven discovery. It lays the groundwork for general autonomous reasoning solutions.