Bielik 7B v0.1 : Un modèle de langue polonais -- Développement, aperçus et évaluation

Bielik 7B v0.1: A Polish Language Model -- Development, Insights, and Evaluation

October 24, 2024

Auteurs: Krzysztof Ociepa, Łukasz Flis, Krzysztof Wróbel, Adrian Gwoździej, Remigiusz Kinas

cs.AI

Résumé

Nous présentons Bielik 7B v0.1, un modèle de texte génératif de 7 milliards de paramètres pour le traitement de la langue polonaise. Entraîné sur des corpus polonais sélectionnés, ce modèle aborde les défis clés du développement de modèles de langue grâce à des techniques innovantes. Celles-ci incluent la Perte d'Entropie Croisée Pondérée par Instruction, qui équilibre l'apprentissage de différents types d'instructions, et le Taux d'Apprentissage Adaptatif, qui ajuste dynamiquement le taux d'apprentissage en fonction de la progression de l'entraînement. Pour évaluer les performances, nous avons créé le Open PL LLM Leaderboard et Polish MT-Bench, de nouveaux cadres évaluant diverses tâches de TAL et capacités conversationnelles. Bielik 7B v0.1 démontre des améliorations significatives, atteignant une augmentation de 9 points de pourcentage en score moyen par rapport à Mistral-7B-v0.1 sur la tâche de lecture RAG. Il excelle également dans le Polish MT-Bench, notamment dans les catégories Raisonnement (6,15/10) et Jeu de rôle (7,83/10). Ce modèle représente une avancée substantielle dans l'IA de la langue polonaise, offrant un outil puissant pour diverses applications linguistiques et établissant de nouveaux benchmarks dans le domaine.

English

We introduce Bielik 7B v0.1, a 7-billion-parameter generative text model for Polish language processing. Trained on curated Polish corpora, this model addresses key challenges in language model development through innovative techniques. These include Weighted Instruction Cross-Entropy Loss, which balances the learning of different instruction types, and Adaptive Learning Rate, which dynamically adjusts the learning rate based on training progress. To evaluate performance, we created the Open PL LLM Leaderboard and Polish MT-Bench, novel frameworks assessing various NLP tasks and conversational abilities. Bielik 7B v0.1 demonstrates significant improvements, achieving a 9 percentage point increase in average score compared to Mistral-7B-v0.1 on the RAG Reader task. It also excels in the Polish MT-Bench, particularly in Reasoning (6.15/10) and Role-playing (7.83/10) categories. This model represents a substantial advancement in Polish language AI, offering a powerful tool for diverse linguistic applications and setting new benchmarks in the field.