Una semplice trasformazione è sufficiente per la protezione dei dati nel Vertical Federated Learning.

Just a Simple Transformation is Enough for Data Protection in Vertical Federated Learning

December 16, 2024

Autori: Andrei Semenov, Philip Zmushko, Alexander Pichugin, Aleksandr Beznosikov

cs.AI

Abstract

Il Vertical Federated Learning (VFL) mira a consentire l'addestramento collaborativo di modelli di deep learning garantendo la protezione della privacy. Tuttavia, la procedura VFL presenta ancora componenti vulnerabili agli attacchi da parte di soggetti malintenzionati. Nel nostro lavoro, consideriamo gli attacchi di ricostruzione delle caratteristiche, un rischio comune che mira a compromettere i dati in ingresso. Sosteniamo teoricamente che gli attacchi di ricostruzione delle caratteristiche non possono avere successo senza la conoscenza della distribuzione precedente dei dati. Di conseguenza, dimostriamo che anche semplici trasformazioni dell'architettura del modello possono influenzare significativamente la protezione dei dati in ingresso durante il VFL. Confermando questi risultati con prove sperimentali, mostriamo che i modelli basati su MLP sono resistenti agli attacchi di ricostruzione delle caratteristiche all'avanguardia.

English

Vertical Federated Learning (VFL) aims to enable collaborative training of deep learning models while maintaining privacy protection. However, the VFL procedure still has components that are vulnerable to attacks by malicious parties. In our work, we consider feature reconstruction attacks, a common risk targeting input data compromise. We theoretically claim that feature reconstruction attacks cannot succeed without knowledge of the prior distribution on data. Consequently, we demonstrate that even simple model architecture transformations can significantly impact the protection of input data during VFL. Confirming these findings with experimental results, we show that MLP-based models are resistant to state-of-the-art feature reconstruction attacks.