Costruzione delle basi per l'elaborazione del linguaggio naturale del turco storico: risorse e modelli

Building Foundations for Natural Language Processing of Historical Turkish: Resources and Models

January 8, 2025

Autori: Şaziye Betül Özateş, Tarık Emre Tıraş, Ece Elif Adak, Berat Doğan, Fatih Burak Karagöz, Efe Eren Genç, Esma F. Bilgin Taşdemir

cs.AI

Abstract

Questo articolo introduce risorse e modelli fondamentali per l'elaborazione del linguaggio naturale (NLP) del turco storico, un ambito rimasto poco esplorato nella linguistica computazionale. Presentiamo il primo dataset di riconoscimento delle entità nominate (NER), HisTR, e il primo albero di dipendenze di Universal Dependencies, OTA-BOUN, per una forma storica della lingua turca insieme a modelli basati su trasformatori addestrati utilizzando questi dataset per il riconoscimento delle entità nominate, il parsing delle dipendenze e l'etichettatura delle parti del discorso. Inoltre, presentiamo Ottoman Text Corpus (OTC), un corpus pulito di testi storici turchi trascritti che copre un'ampia gamma di periodi storici. I nostri risultati sperimentali mostrano miglioramenti significativi nell'analisi computazionale del turco storico, ottenendo risultati promettenti in compiti che richiedono la comprensione delle strutture linguistiche storiche. Mettono in evidenza anche sfide esistenti, come l'adattamento di dominio e le variazioni linguistiche attraverso i periodi storici. Tutte le risorse e i modelli presentati sono resi disponibili su https://huggingface.co/bucolin per fungere da punto di riferimento per futuri progressi nell'NLP del turco storico.

English

This paper introduces foundational resources and models for natural language processing (NLP) of historical Turkish, a domain that has remained underexplored in computational linguistics. We present the first named entity recognition (NER) dataset, HisTR and the first Universal Dependencies treebank, OTA-BOUN for a historical form of the Turkish language along with transformer-based models trained using these datasets for named entity recognition, dependency parsing, and part-of-speech tagging tasks. Additionally, we introduce Ottoman Text Corpus (OTC), a clean corpus of transliterated historical Turkish texts that spans a wide range of historical periods. Our experimental results show significant improvements in the computational analysis of historical Turkish, achieving promising results in tasks that require understanding of historical linguistic structures. They also highlight existing challenges, such as domain adaptation and language variations across time periods. All of the presented resources and models are made available at https://huggingface.co/bucolin to serve as a benchmark for future progress in historical Turkish NLP.