大規模言語モデル向けの個別化されたグラフベース検索

Personalized Graph-Based Retrieval for Large Language Models

January 4, 2025
著者: Steven Au, Cameron J. Dimacali, Ojasmitha Pedirappagari, Namyong Park, Franck Dernoncourt, Yu Wang, Nikos Kanakaris, Hanieh Deilamsalehy, Ryan A. Rossi, Nesreen K. Ahmed
cs.AI

要旨

大規模言語モデル(LLM)が進化するにつれ、個別化およびコンテキストに敏感な応答を提供する能力は、ユーザーエクスペリエンスの向上に革新的な可能性をもたらします。しかしながら、既存の個別化アプローチは、しばしばプロンプトを拡張するためにユーザー履歴にのみ頼るため、特にデータがまばらなコールドスタートシナリオにおいて、適合した出力を生成する効果が制限されることがあります。これらの制限に対処するために、私たちはPersonalized Graph-based Retrieval-Augmented Generation(PGraphRAG)を提案します。このフレームワークは、ユーザーセントリックな知識グラフを活用して個別化を豊かにします。構造化されたユーザー知識を直接リトリーバルプロセスに統合し、プロンプトにユーザーに関連するコンテキストを付加することで、PGraphRAGはコンテキスト理解と出力品質を向上させます。また、ユーザー履歴がまばらまたは利用できない実世界の環境で個別化テキスト生成タスクを評価するために設計されたPersonalized Graph-based Benchmark for Text Generationを紹介します。実験結果は、PGraphRAGが多様なタスクにおいて最先端の個別化手法を大幅に上回り、個別化のためのグラフベースのリトリーバルの独自の利点を示しています。
English
As large language models (LLMs) evolve, their ability to deliver personalized and context-aware responses offers transformative potential for improving user experiences. Existing personalization approaches, however, often rely solely on user history to augment the prompt, limiting their effectiveness in generating tailored outputs, especially in cold-start scenarios with sparse data. To address these limitations, we propose Personalized Graph-based Retrieval-Augmented Generation (PGraphRAG), a framework that leverages user-centric knowledge graphs to enrich personalization. By directly integrating structured user knowledge into the retrieval process and augmenting prompts with user-relevant context, PGraphRAG enhances contextual understanding and output quality. We also introduce the Personalized Graph-based Benchmark for Text Generation, designed to evaluate personalized text generation tasks in real-world settings where user history is sparse or unavailable. Experimental results show that PGraphRAG significantly outperforms state-of-the-art personalization methods across diverse tasks, demonstrating the unique advantages of graph-based retrieval for personalization.

Summary

AI-Generated Summary

PDF282January 7, 2025