MURI: 저자원 언어를 위한 고품질 지시어 조정 데이터셋: 역방향 지시어를 통해

MURI: High-Quality Instruction Tuning Datasets for Low-Resource Languages via Reverse Instructions

September 19, 2024

저자: Abdullatif Köksal, Marion Thaler, Ayyoob Imani, Ahmet Üstün, Anna Korhonen, Hinrich Schütze

cs.AI

초록

지시 조정은 다양한 작업에서 인간의 선호도와 일치하도록 함으로써 대형 언어 모델(LLM)의 성능을 향상시킵니다. 저자 지시 조정 데이터셋을 생성하는 전통적인 방법은 데이터 주석에 의존하기 때문에 저자 지시 조정 데이터셋을 만드는 데 심각한 어려움이 있습니다. 본 연구는 인간 주석자나 기존의 다국어 모델을 필요로 하지 않고 저자 지시 조정 데이터셋을 저자 지시 조정 데이터셋을 생성하는 새로운 방법인 다국어 역 지시(MURI)를 소개합니다. 역 지시와 번역 파이프라인을 활용하여 MURI는 저자 지시 조정 데이터셋을 저자 지시 조정 데이터셋을 생성합니다. 이 방법은 서로 다른 원어민 도메인에서 텍스트를 수집하고 부적절한 콘텐츠를 제거하기 위해 필터를 적용하여 문화적 관련성과 다양성을 보장합니다. 저희의 데이터셋인 MURI-IT은 200개 언어에 걸쳐 2백만 개 이상의 지시-출력 쌍을 포함하고 있습니다. 원어민 평가 및 mT5 모델을 활용한 세밀한 조정 실험을 통해 이 방법이 NLU와 오픈엔드 생성 모두에 효과적임을 입증하였습니다. 저희는 데이터셋과 모델을 https://github.com/akoksal/muri에서 공개하였습니다.

English

Instruction tuning enhances large language models (LLMs) by aligning them with human preferences across diverse tasks. Traditional approaches to create instruction tuning datasets face serious challenges for low-resource languages due to their dependence on data annotation. This work introduces a novel method, Multilingual Reverse Instructions (MURI), which generates high-quality instruction tuning datasets for low-resource languages without requiring human annotators or pre-existing multilingual models. Utilizing reverse instructions and a translation pipeline, MURI produces instruction-output pairs from existing human-written texts in low-resource languages. This method ensures cultural relevance and diversity by sourcing texts from different native domains and applying filters to eliminate inappropriate content. Our dataset, MURI-IT, includes more than 2 million instruction-output pairs across 200 languages. Evaluation by native speakers and fine-tuning experiments with mT5 models demonstrate the approach's effectiveness for both NLU and open-ended generation. We publicly release datasets and models at https://github.com/akoksal/muri.