AfriHate: Uma Coleção Multilíngue de Dados de Discurso de Ódio e Linguagem Abusiva para Línguas Africanas

AfriHate: A Multilingual Collection of Hate Speech and Abusive Language Datasets for African Languages

January 14, 2025

Autores: Shamsuddeen Hassan Muhammad, Idris Abdulmumin, Abinew Ali Ayele, David Ifeoluwa Adelani, Ibrahim Said Ahmad, Saminu Mohammad Aliyu, Nelson Odhiambo Onyango, Lilian D. A. Wanzare, Samuel Rutunda, Lukman Jibril Aliyu, Esubalew Alemneh, Oumaima Hourrane, Hagos Tesfahun Gebremichael, Elyas Abdi Ismail, Meriem Beloucif, Ebrahim Chekol Jibril, Andiswa Bukula, Rooweither Mabuya, Salomey Osei, Abigail Oppong, Tadesse Destaw Belay, Tadesse Kebede Guge, Tesfa Tegegne Asfaw, Chiamaka Ijeoma Chukwuneke, Paul Röttger, Seid Muhie Yimam, Nedjma Ousidhoum

cs.AI

Resumo

Discursos de ódio e linguagem abusiva são fenômenos globais que necessitam de conhecimento de contexto sociocultural para serem compreendidos, identificados e moderados. No entanto, em muitas regiões do Sul Global, têm sido documentadas várias ocorrências de (1) ausência de moderação e (2) censura devido à dependência da identificação de palavras-chave fora de contexto. Além disso, indivíduos de alto perfil frequentemente estiveram no centro do processo de moderação, enquanto campanhas de discurso de ódio direcionadas a minorias foram negligenciadas. Essas limitações são principalmente devido à falta de dados de alta qualidade nos idiomas locais e à falha em incluir as comunidades locais nos processos de coleta, anotação e moderação. Para abordar esse problema, apresentamos o AfriHate: uma coleção multilíngue de conjuntos de dados de discurso de ódio e linguagem abusiva em 15 idiomas africanos. Cada instância no AfriHate é anotada por falantes nativos familiarizados com a cultura local. Relatamos os desafios relacionados à construção dos conjuntos de dados e apresentamos vários resultados de linha de base de classificação com e sem o uso de LLMs. Os conjuntos de dados, as anotações individuais e os léxicos de discurso de ódio e linguagem ofensiva estão disponíveis em https://github.com/AfriHate/AfriHate

English

Hate speech and abusive language are global phenomena that need socio-cultural background knowledge to be understood, identified, and moderated. However, in many regions of the Global South, there have been several documented occurrences of (1) absence of moderation and (2) censorship due to the reliance on keyword spotting out of context. Further, high-profile individuals have frequently been at the center of the moderation process, while large and targeted hate speech campaigns against minorities have been overlooked. These limitations are mainly due to the lack of high-quality data in the local languages and the failure to include local communities in the collection, annotation, and moderation processes. To address this issue, we present AfriHate: a multilingual collection of hate speech and abusive language datasets in 15 African languages. Each instance in AfriHate is annotated by native speakers familiar with the local culture. We report the challenges related to the construction of the datasets and present various classification baseline results with and without using LLMs. The datasets, individual annotations, and hate speech and offensive language lexicons are available on https://github.com/AfriHate/AfriHate