AfriHate: Многоязычная коллекция материалов по ненависти и оскорбительному языку для африканских языков

AfriHate: A Multilingual Collection of Hate Speech and Abusive Language Datasets for African Languages

January 14, 2025

Авторы: Shamsuddeen Hassan Muhammad, Idris Abdulmumin, Abinew Ali Ayele, David Ifeoluwa Adelani, Ibrahim Said Ahmad, Saminu Mohammad Aliyu, Nelson Odhiambo Onyango, Lilian D. A. Wanzare, Samuel Rutunda, Lukman Jibril Aliyu, Esubalew Alemneh, Oumaima Hourrane, Hagos Tesfahun Gebremichael, Elyas Abdi Ismail, Meriem Beloucif, Ebrahim Chekol Jibril, Andiswa Bukula, Rooweither Mabuya, Salomey Osei, Abigail Oppong, Tadesse Destaw Belay, Tadesse Kebede Guge, Tesfa Tegegne Asfaw, Chiamaka Ijeoma Chukwuneke, Paul Röttger, Seid Muhie Yimam, Nedjma Ousidhoum

cs.AI

Аннотация

Речь ненависти и оскорбительный язык - это глобальные явления, которые требуют знаний социокультурного контекста для понимания, выявления и модерации. Однако во многих регионах Глобального Юга было зафиксировано несколько случаев (1) отсутствия модерации и (2) цензуры из-за полагания на выявление ключевых слов вне контекста. Более того, известные личности часто оказывались в центре процесса модерации, в то время как масштабные и целенаправленные кампании речи ненависти против меньшинств оставались незамеченными. Эти ограничения в основном обусловлены отсутствием качественных данных на местных языках и неучастием местных сообществ в процессах сбора, аннотации и модерации. Для решения этой проблемы мы представляем AfriHate: многоязычную коллекцию наборов данных речи ненависти и оскорбительного языка на 15 африканских языках. Каждый пример в AfriHate аннотирован носителями языка, знакомыми с местной культурой. Мы рассматриваем проблемы, связанные с созданием наборов данных, и представляем различные результаты базовой классификации с использованием и без использования LLMs. Наборы данных, индивидуальные аннотации и лексиконы речи ненависти и оскорбительного языка доступны на https://github.com/AfriHate/AfriHate

English

Hate speech and abusive language are global phenomena that need socio-cultural background knowledge to be understood, identified, and moderated. However, in many regions of the Global South, there have been several documented occurrences of (1) absence of moderation and (2) censorship due to the reliance on keyword spotting out of context. Further, high-profile individuals have frequently been at the center of the moderation process, while large and targeted hate speech campaigns against minorities have been overlooked. These limitations are mainly due to the lack of high-quality data in the local languages and the failure to include local communities in the collection, annotation, and moderation processes. To address this issue, we present AfriHate: a multilingual collection of hate speech and abusive language datasets in 15 African languages. Each instance in AfriHate is annotated by native speakers familiar with the local culture. We report the challenges related to the construction of the datasets and present various classification baseline results with and without using LLMs. The datasets, individual annotations, and hate speech and offensive language lexicons are available on https://github.com/AfriHate/AfriHate