MOSAIC: Modellazione dell'Intelligenza Artificiale Sociale per la Diffusione e la Regolazione dei Contenuti nelle Simulazioni Multi-Agente

MOSAIC: Modeling Social AI for Content Dissemination and Regulation in Multi-Agent Simulations

April 10, 2025

Autori: Genglin Liu, Salman Rahman, Elisa Kreiss, Marzyeh Ghassemi, Saadia Gabriel

cs.AI

Abstract

Presentiamo MOSAIC, un nuovo framework open-source per la simulazione di reti sociali, in cui agenti linguistici generativi prevedono comportamenti degli utenti come il gradimento, la condivisione e la segnalazione di contenuti. Questa simulazione combina agenti LLM con un grafo sociale diretto per analizzare comportamenti emergenti di inganno e ottenere una migliore comprensione di come gli utenti determinano la veridicità dei contenuti sui social network online. Costruendo rappresentazioni degli utenti a partire da diverse e dettagliate personalità, il nostro sistema consente simulazioni multi-agente che modellano la diffusione dei contenuti e le dinamiche di coinvolgimento su larga scala. All'interno di questo framework, valutiamo tre diverse strategie di moderazione dei contenuti con la diffusione simulata di disinformazione, e scopriamo che non solo mitigano la diffusione di contenuti non veritieri, ma aumentano anche il coinvolgimento degli utenti. Inoltre, analizziamo le traiettorie dei contenuti popolari nelle nostre simulazioni ed esploriamo se il ragionamento articolato degli agenti simulati per le loro interazioni sociali sia effettivamente allineato con i loro modelli collettivi di coinvolgimento. Rendiamo open-source il nostro software di simulazione per incoraggiare ulteriori ricerche nell'ambito dell'IA e delle scienze sociali.

English

We present a novel, open-source social network simulation framework, MOSAIC, where generative language agents predict user behaviors such as liking, sharing, and flagging content. This simulation combines LLM agents with a directed social graph to analyze emergent deception behaviors and gain a better understanding of how users determine the veracity of online social content. By constructing user representations from diverse fine-grained personas, our system enables multi-agent simulations that model content dissemination and engagement dynamics at scale. Within this framework, we evaluate three different content moderation strategies with simulated misinformation dissemination, and we find that they not only mitigate the spread of non-factual content but also increase user engagement. In addition, we analyze the trajectories of popular content in our simulations, and explore whether simulation agents' articulated reasoning for their social interactions truly aligns with their collective engagement patterns. We open-source our simulation software to encourage further research within AI and social sciences.