信頼できる機械学習モデルは、暗号化では現在実現不可能な問題のためのプライベート推論を可能にします。

Trusted Machine Learning Models Unlock Private Inference for Problems Currently Infeasible with Cryptography

January 15, 2025

著者: Ilia Shumailov, Daniel Ramage, Sarah Meiklejohn, Peter Kairouz, Florian Hartmann, Borja Balle, Eugene Bagdasarian

cs.AI

要旨

私たちはしばしば信頼できない当事者とやり取りします。プライバシーの優先順位付けは、特定の目標を達成するためにはプライベートデータの共有が必要となるため、これらのやり取りの効果を制限する可能性があります。この課題に対処する伝統的な方法は、信頼できる中間者を求めるか、マルチパーティ計算やゼロ知識証明など、データの公開量を制限する暗号プロトコルを構築することでした。暗号アプローチのスケーリングにおいて重要な進展があったものの、使用できるアプリケーションの規模や複雑さに制限が残っています。本論文では、信頼できる機械学習モデルが信頼できる第三者の役割を果たすことで、以前は実現不可能だったアプリケーションのためのセキュアな計算を可能にすると主張しています。特に、信頼できる機械学習モデルが入出力制約の下で相互作用し、明示的な情報フロー制御と状態の非保持を持つTrusted Capable Model Environments（TCMEs）を、セキュアな計算のスケーリングのための代替アプローチとして説明しています。このアプローチは、プライバシーと計算効率のバランスを実現し、古典的な暗号ソリューションでは現在実現不可能なプライベート推論を可能にします。TCMEによって可能になるいくつかのユースケースを説明し、いくつかの単純な古典的な暗号問題ですら既にTCMEで解決できることを示しています。最後に、現在の制限事項を概説し、それらを実装するための道筋について議論します。

English

We often interact with untrusted parties. Prioritization of privacy can limit the effectiveness of these interactions, as achieving certain goals necessitates sharing private data. Traditionally, addressing this challenge has involved either seeking trusted intermediaries or constructing cryptographic protocols that restrict how much data is revealed, such as multi-party computations or zero-knowledge proofs. While significant advances have been made in scaling cryptographic approaches, they remain limited in terms of the size and complexity of applications they can be used for. In this paper, we argue that capable machine learning models can fulfill the role of a trusted third party, thus enabling secure computations for applications that were previously infeasible. In particular, we describe Trusted Capable Model Environments (TCMEs) as an alternative approach for scaling secure computation, where capable machine learning model(s) interact under input/output constraints, with explicit information flow control and explicit statelessness. This approach aims to achieve a balance between privacy and computational efficiency, enabling private inference where classical cryptographic solutions are currently infeasible. We describe a number of use cases that are enabled by TCME, and show that even some simple classic cryptographic problems can already be solved with TCME. Finally, we outline current limitations and discuss the path forward in implementing them.