歴史的なトルコ語の自然言語処理の基盤の構築：リソースとモデル

Building Foundations for Natural Language Processing of Historical Turkish: Resources and Models

January 8, 2025

著者: Şaziye Betül Özateş, Tarık Emre Tıraş, Ece Elif Adak, Berat Doğan, Fatih Burak Karagöz, Efe Eren Genç, Esma F. Bilgin Taşdemir

cs.AI

要旨

本論文では、計算言語学において未開拓の領域である歴史的トルコ語の自然言語処理（NLP）の基礎的なリソースとモデルを紹介します。我々は、初の固有表現認識（NER）データセットであるHisTRと、歴史的なトルコ語のUniversal DependenciesツリーバンクであるOTA-BOUNを提示し、これらのデータセットを使用してトランスフォーマーベースのモデルを訓練し、固有表現認識、依存構造解析、品詞タグ付けのタスクに取り組みます。さらに、様々な歴史的時代にわたる翻字された歴史的トルコ語テキストのクリーンコーパスであるOttoman Text Corpus（OTC）を紹介します。実験結果は、歴史的トルコ語の計算言語分析において著しい改善を示し、歴史的言語構造の理解を必要とするタスクで有望な結果を達成しています。また、時代によるドメイン適応や言語の変化などの既存の課題を明らかにしています。提示されたすべてのリソースとモデルは、将来の歴史的トルコ語NLPの進展のためのベンチマークとして利用可能であり、https://huggingface.co/bucolin で公開されています。

English

This paper introduces foundational resources and models for natural language processing (NLP) of historical Turkish, a domain that has remained underexplored in computational linguistics. We present the first named entity recognition (NER) dataset, HisTR and the first Universal Dependencies treebank, OTA-BOUN for a historical form of the Turkish language along with transformer-based models trained using these datasets for named entity recognition, dependency parsing, and part-of-speech tagging tasks. Additionally, we introduce Ottoman Text Corpus (OTC), a clean corpus of transliterated historical Turkish texts that spans a wide range of historical periods. Our experimental results show significant improvements in the computational analysis of historical Turkish, achieving promising results in tasks that require understanding of historical linguistic structures. They also highlight existing challenges, such as domain adaptation and language variations across time periods. All of the presented resources and models are made available at https://huggingface.co/bucolin to serve as a benchmark for future progress in historical Turkish NLP.