Costruire Fiducia: Fondamenti della Sicurezza, della Sicurezza e della Trasparenza nell'Intelligenza Artificiale

Building Trust: Foundations of Security, Safety and Transparency in AI

November 19, 2024

Autori: Huzaifa Sidhpurwala, Garth Mollett, Emily Fox, Mark Bestavros, Huamin Chen

cs.AI

Abstract

Questo articolo esplora l'ecosistema in rapida evoluzione dei modelli di intelligenza artificiale disponibili pubblicamente e le loro potenziali implicazioni sul panorama della sicurezza. Con l'aumentare della diffusione dei modelli di intelligenza artificiale, è fondamentale comprendere i loro rischi e vulnerabilità potenziali. Esaminiamo gli attuali scenari di sicurezza e sicurezza evidenziando sfide come problemi di tracciamento, rimedi e l'apparente assenza di processi di ciclo di vita e di proprietà dei modelli di intelligenza artificiale. Vengono proposte strategie complete per potenziare la sicurezza e la sicurezza sia per gli sviluppatori di modelli che per gli utenti finali. Questo articolo mira a fornire alcuni elementi fondamentali per una maggiore standardizzazione della sicurezza, della sicurezza e della trasparenza nello sviluppo e nell'operatività dei modelli di intelligenza artificiale e dei più ampi ecosistemi aperti e comunità che si stanno formando attorno ad essi.

English

This paper explores the rapidly evolving ecosystem of publicly available AI models, and their potential implications on the security and safety landscape. As AI models become increasingly prevalent, understanding their potential risks and vulnerabilities is crucial. We review the current security and safety scenarios while highlighting challenges such as tracking issues, remediation, and the apparent absence of AI model lifecycle and ownership processes. Comprehensive strategies to enhance security and safety for both model developers and end-users are proposed. This paper aims to provide some of the foundational pieces for more standardized security, safety, and transparency in the development and operation of AI models and the larger open ecosystems and communities forming around them.