Fietje: Un LLM aperto ed efficiente per il olandese.

Fietje: An open, efficient LLM for Dutch

December 19, 2024

Autori: Bram Vanroy

cs.AI

Abstract

Questo articolo introduce Fietje, una famiglia di modelli linguistici di piccole dimensioni (SLM) progettati specificamente per la lingua olandese. Il modello si basa su Phi 2, un modello centrato sull'inglese con 2,7 miliardi di parametri. Fietje ha dimostrato risultati competitivi con modelli linguistici più grandi al momento del suo rilascio. Un punto centrale di questo lavoro è la trasparenza e la riproducibilità: Fietje è completamente open-source, con pesi del modello, set di dati, codice di addestramento e valutazione tutti accessibili pubblicamente. L'articolo discute le prestazioni di Fietje e di molti altri modelli su un ampio insieme di valutazioni su benchmark riguardanti ragionamento, analisi del sentiment, conoscenza del mondo, accettabilità linguistica e disambiguazione del senso delle parole. I risultati della valutazione illustrano il rapido progresso nel campo dei LLM, dove i recenti modelli di piccole dimensioni superano i modelli più vecchi e più grandi che erano stati ottimizzati per l'olandese. Questo trend segnala un futuro entusiasmante per l'elaborazione del linguaggio olandese, suggerendo che anche i LLM compatti stiano diventando sempre più capaci. Inoltre, gli sforzi in corso e futuri per adattare i LLM all'olandese sono pronti a migliorare ulteriormente questi modelli, ampliandone l'applicabilità e l'accessibilità. Fietje è solo un passo intermedio nel migliorare l'accessibilità alla tecnologia linguistica per gli utenti della lingua olandese.

English

This paper introduces Fietje, a family of small language models (SLMs) specifically designed for the Dutch language. The model is based on Phi 2, an English-centric model of 2.7 billion parameters. Fietje demonstrated competitive results with larger language models upon its release. A core emphasis of this work is transparency and reproducibility: Fietje is fully open-source, with model weights, datasets, training, and evaluation code all publicly accessible. The paper discusses the performance of Fietje and many other models on an extensive evaluation suite of benchmarks on reasoning, sentiment analysis, world knowledge, linguistic acceptability and word sense disambiguation. Evaluation results illustrate the rapid progress in the field of LLMs, where recent small models outperform older, larger models that were fine-tuned for Dutch. This trend signals an exciting future for Dutch language processing, suggesting that even compact LLMs are becoming increasingly capable. Furthermore, ongoing and future efforts to adapt LLMs to Dutch are poised to enhance these models even further, broadening their applicability and accessibility. Fietje is only an intermediate step in improving accessibility to language technology for users of the Dutch language.