Erforschung der Schwachstellen von Federated Learning: Eine tiefgehende Analyse von Gradienteninversionsangriffen

Exploring the Vulnerabilities of Federated Learning: A Deep Dive into Gradient Inversion Attacks

March 13, 2025

Autoren: Pengxin Guo, Runxi Wang, Shuang Zeng, Jinjing Zhu, Haoning Jiang, Yanran Wang, Yuyin Zhou, Feifei Wang, Hui Xiong, Liangqiong Qu

cs.AI

Zusammenfassung

Federated Learning (FL) hat sich als vielversprechendes Paradigma für die gemeinsame Modellschulung unter Wahrung der Privatsphäre ohne die Weitergabe von Rohdaten etabliert. Jüngste Studien haben jedoch gezeigt, dass private Informationen dennoch durch die gemeinsame Nutzung von Gradienteninformationen preisgegeben und durch Gradient Inversion Attacks (GIA) angegriffen werden können. Obwohl viele GIA-Methoden vorgeschlagen wurden, fehlt es noch an einer detaillierten Analyse, Bewertung und Zusammenfassung dieser Methoden. Zwar fassen verschiedene Übersichtsarbeiten bestehende Angriffe auf die Privatsphäre in FL zusammen, doch nur wenige Studien haben umfangreiche Experimente durchgeführt, um die Wirksamkeit von GIA und die damit verbundenen einschränkenden Faktoren in diesem Kontext aufzudecken. Um diese Lücke zu schließen, unternehmen wir zunächst eine systematische Überprüfung von GIA und kategorisieren bestehende Methoden in drei Typen: optimierungsbasierte GIA (OP-GIA), generierungsbasierte GIA (GEN-GIA) und analytikbasierte GIA (ANA-GIA). Anschließend analysieren und bewerten wir die drei Typen von GIA in FL umfassend und geben Einblicke in die Faktoren, die ihre Leistung, Praktikabilität und potenzielle Bedrohungen beeinflussen. Unsere Ergebnisse zeigen, dass OP-GIA trotz seiner unbefriedigenden Leistung die praktikabelste Angriffseinstellung ist, während GEN-GIA viele Abhängigkeiten aufweist und ANA-GIA leicht erkennbar ist, was beide unpraktikabel macht. Schließlich bieten wir Benutzern eine dreistufige Verteidigungspipeline an, wenn sie FL-Frameworks und -Protokolle für einen besseren Schutz der Privatsphäre entwerfen, und teilen einige zukünftige Forschungsrichtungen aus der Perspektive von Angreifern und Verteidigern, die unserer Meinung nach verfolgt werden sollten. Wir hoffen, dass unsere Studie Forschern helfen kann, robustere FL-Frameworks zu entwickeln, um sich gegen diese Angriffe zu verteidigen.

English

Federated Learning (FL) has emerged as a promising privacy-preserving collaborative model training paradigm without sharing raw data. However, recent studies have revealed that private information can still be leaked through shared gradient information and attacked by Gradient Inversion Attacks (GIA). While many GIA methods have been proposed, a detailed analysis, evaluation, and summary of these methods are still lacking. Although various survey papers summarize existing privacy attacks in FL, few studies have conducted extensive experiments to unveil the effectiveness of GIA and their associated limiting factors in this context. To fill this gap, we first undertake a systematic review of GIA and categorize existing methods into three types, i.e., optimization-based GIA (OP-GIA), generation-based GIA (GEN-GIA), and analytics-based GIA (ANA-GIA). Then, we comprehensively analyze and evaluate the three types of GIA in FL, providing insights into the factors that influence their performance, practicality, and potential threats. Our findings indicate that OP-GIA is the most practical attack setting despite its unsatisfactory performance, while GEN-GIA has many dependencies and ANA-GIA is easily detectable, making them both impractical. Finally, we offer a three-stage defense pipeline to users when designing FL frameworks and protocols for better privacy protection and share some future research directions from the perspectives of attackers and defenders that we believe should be pursued. We hope that our study can help researchers design more robust FL frameworks to defend against these attacks.