OmniThink: 사고를 통해 기계 작성의 지식 경계를 확장하기
OmniThink: Expanding Knowledge Boundaries in Machine Writing through Thinking
January 16, 2025
저자: Zekun Xi, Wenbiao Yin, Jizhan Fang, Jialong Wu, Runnan Fang, Ningyu Zhang, Jiang Yong, Pengjun Xie, Fei Huang, Huajun Chen
cs.AI
초록
대형 언어 모델을 활용한 기계 작성은 종종 검색 증강 생성에 의존합니다. 그러나 이러한 접근 방식은 모델의 미리 정의된 범위 내에서 제한되어 있어, 풍부한 정보를 포함한 콘텐츠 생성을 제한합니다. 구체적으로, 바닐라 검색된 정보는 깊이와 유용성이 부족하며 중복으로 인해 품질이 저하되어 얕고 반복적이며 원본이 없는 결과물을 만들어냅니다. 이러한 문제를 해결하기 위해 우리는 인간과 유사한 반복적 확장 및 반성 과정을 에뮬레이트하는 기계 작성 프레임워크인 OmniThink을 제안합니다. OmniThink의 핵심 아이디어는 주제에 대한 지식을 점진적으로 심화시키는 학습자의 인지적 행동을 모방하는 것입니다. 실험 결과는 OmniThink이 일관성과 깊이와 같은 메트릭을 희생하지 않고 생성된 기사의 지식 밀도를 향상시킨다는 것을 입증합니다. 인간 평가 및 전문가 피드백은 OmniThink이 장문 기사 생성에서 실제 문제에 대처하는 잠재력을 강조합니다.
English
Machine writing with large language models often relies on
retrieval-augmented generation. However, these approaches remain confined
within the boundaries of the model's predefined scope, limiting the generation
of content with rich information. Specifically, vanilla-retrieved information
tends to lack depth, utility, and suffers from redundancy, which negatively
impacts the quality of generated articles, leading to shallow, repetitive, and
unoriginal outputs. To address these issues, we propose OmniThink, a machine
writing framework that emulates the human-like process of iterative expansion
and reflection. The core idea behind OmniThink is to simulate the cognitive
behavior of learners as they progressively deepen their knowledge of the
topics. Experimental results demonstrate that OmniThink improves the knowledge
density of generated articles without compromising metrics such as coherence
and depth. Human evaluations and expert feedback further highlight the
potential of OmniThink to address real-world challenges in the generation of
long-form articles.Summary
AI-Generated Summary