Bielik 7B v0.1: Ein polnisches Sprachmodell - Entwicklung, Erkenntnisse und Bewertung

Bielik 7B v0.1: A Polish Language Model -- Development, Insights, and Evaluation

October 24, 2024

Autoren: Krzysztof Ociepa, Łukasz Flis, Krzysztof Wróbel, Adrian Gwoździej, Remigiusz Kinas

cs.AI

Zusammenfassung

Wir stellen Bielik 7B v0.1 vor, ein generatives Textmodell mit 7 Milliarden Parametern für die Verarbeitung der polnischen Sprache. Trainiert anhand kuratierter polnischer Korpora, begegnet dieses Modell zentralen Herausforderungen bei der Entwicklung von Sprachmodellen durch innovative Techniken. Dazu gehören das gewichtete Anweisungs-Kreuzentropie-Verlust, das das Lernen verschiedener Anweisungstypen ausbalanciert, und die adaptive Lernrate, die basierend auf dem Trainingsfortschritt dynamisch die Lernrate anpasst. Zur Bewertung der Leistung haben wir das Open PL LLM Leaderboard und Polish MT-Bench erstellt, neuartige Rahmenwerke zur Bewertung verschiedener NLP-Aufgaben und Konversationsfähigkeiten. Bielik 7B v0.1 zeigt signifikante Verbesserungen, erreicht eine 9-Prozentpunkte-Steigerung im durchschnittlichen Score im Vergleich zu Mistral-7B-v0.1 bei der RAG Reader-Aufgabe. Es überzeugt auch im Polish MT-Bench, insbesondere in den Kategorien Reasoning (6,15/10) und Role-playing (7,83/10). Dieses Modell stellt einen bedeutenden Fortschritt im Bereich der polnischen Sprach-KI dar, bietet ein leistungsstarkes Werkzeug für vielfältige linguistische Anwendungen und setzt neue Maßstäbe in der Branche.

English

We introduce Bielik 7B v0.1, a 7-billion-parameter generative text model for Polish language processing. Trained on curated Polish corpora, this model addresses key challenges in language model development through innovative techniques. These include Weighted Instruction Cross-Entropy Loss, which balances the learning of different instruction types, and Adaptive Learning Rate, which dynamically adjusts the learning rate based on training progress. To evaluate performance, we created the Open PL LLM Leaderboard and Polish MT-Bench, novel frameworks assessing various NLP tasks and conversational abilities. Bielik 7B v0.1 demonstrates significant improvements, achieving a 9 percentage point increase in average score compared to Mistral-7B-v0.1 on the RAG Reader task. It also excels in the Polish MT-Bench, particularly in Reasoning (6.15/10) and Role-playing (7.83/10) categories. This model represents a substantial advancement in Polish language AI, offering a powerful tool for diverse linguistic applications and setting new benchmarks in the field.