L'Impatto dei Materiali Protetti da Copyright sui Grandi Modelli Linguistici: Una Prospettiva Norvegese

The Impact of Copyrighted Material on Large Language Models: A Norwegian Perspective

December 12, 2024

Autori: Javier de la Rosa, Vladislav Mikhailov, Lemei Zhang, Freddy Wetjen, David Samuel, Peng Liu, Rolv-Arild Braaten, Petter Mæhlum, Magnus Breder Birkenes, Andrey Kutuzov, Tita Enstad, Svein Arne Brygfjeld, Jon Atle Gulla, Stephan Oepen, Erik Velldal, Wilfred Østgulen, Liljia Øvrelid, Aslak Sira Myhre

cs.AI

Abstract

L'uso di materiali protetti da copyright nella formazione di modelli di linguaggio generativi solleva questioni legali ed etiche critiche. Questo articolo presenta un quadro e i risultati di un'analisi empirica sull'impatto dei materiali protetti da copyright sulle prestazioni dei grandi modelli di linguaggio (LLM) per il norvegese. Abbiamo scoperto che sia i libri che i giornali contribuiscono positivamente quando i modelli sono valutati su un insieme diversificato di benchmark norvegesi, mentre le opere di narrativa potrebbero portare a una diminuzione delle prestazioni. I nostri esperimenti potrebbero informare la creazione di un piano di compensazione per gli autori i cui lavori contribuiscono allo sviluppo dell'IA.

English

The use of copyrighted materials in training generative language models raises critical legal and ethical questions. This paper presents a framework for and the results of empirically assessing the impact of copyrighted materials on the performance of large language models (LLMs) for Norwegian. We found that both books and newspapers contribute positively when the models are evaluated on a diverse set of Norwegian benchmarks, while fiction works possibly lead to decreased performance. Our experiments could inform the creation of a compensation scheme for authors whose works contribute to AI development.