신뢰할 수 있는 기계 학습 모델은 암호화로는 현재 실현 불가능한 문제에 대한 개인 추론을 해제합니다.

Trusted Machine Learning Models Unlock Private Inference for Problems Currently Infeasible with Cryptography

January 15, 2025

저자: Ilia Shumailov, Daniel Ramage, Sarah Meiklejohn, Peter Kairouz, Florian Hartmann, Borja Balle, Eugene Bagdasarian

cs.AI

초록

우리는 종종 신뢰할 수 없는 당사자들과 상호 작용합니다. 개인 정보 보호의 우선순위 설정은 특정 목표를 달성하기 위해 개인 데이터를 공유해야 하는 상호 작용의 효과를 제한할 수 있습니다. 이러한 도전 과제에 대응하기 위한 전통적인 방법은 신뢰할 수 있는 중개인을 찾거나 다중 당사자 계산이나 제로 지식 증명과 같이 데이터 노출을 제한하는 암호 프로토콜을 구축하는 것이었습니다. 암호 기법의 확장에 상당한 발전이 이루어졌지만, 사용할 수 있는 응용 프로그램의 크기와 복잡성 측면에서 제한이 남아 있습니다. 본 논문에서는 능력 있는 기계 학습 모델이 신뢰할 수 있는 제삼자의 역할을 수행하여 이전에 실현 불가능했던 응용 프로그램에 대한 안전한 계산을 가능하게 할 수 있다고 주장합니다. 특히, 우리는 Trusted Capable Model Environments (TCMEs)를 안전한 계산 확장을 위한 대안적 접근 방식으로 설명하며, 능력 있는 기계 학습 모델이 입력/출력 제약 조건 하에서 상호 작용하고 명시적 정보 흐름 제어와 명시적 상태 무상태성을 갖도록 하는 것을 목표로 합니다. 이 접근 방식은 개인 정보 보호와 계산 효율성 사이의 균형을 달성하고, 현재 실현 불가능한 곳에서 고전적인 암호 기술 솔루션을 통한 개인 추론을 가능하게 합니다. 우리는 TCME에 의해 가능해진 여러 사용 사례를 설명하고, 심지어 일부 간단한 고전적인 암호 문제조차도 이미 TCME로 해결할 수 있다는 것을 보여줍니다. 마지막으로, 현재의 한계를 개요하고 그 구현 방향에 대해 논의합니다.

English

We often interact with untrusted parties. Prioritization of privacy can limit the effectiveness of these interactions, as achieving certain goals necessitates sharing private data. Traditionally, addressing this challenge has involved either seeking trusted intermediaries or constructing cryptographic protocols that restrict how much data is revealed, such as multi-party computations or zero-knowledge proofs. While significant advances have been made in scaling cryptographic approaches, they remain limited in terms of the size and complexity of applications they can be used for. In this paper, we argue that capable machine learning models can fulfill the role of a trusted third party, thus enabling secure computations for applications that were previously infeasible. In particular, we describe Trusted Capable Model Environments (TCMEs) as an alternative approach for scaling secure computation, where capable machine learning model(s) interact under input/output constraints, with explicit information flow control and explicit statelessness. This approach aims to achieve a balance between privacy and computational efficiency, enabling private inference where classical cryptographic solutions are currently infeasible. We describe a number of use cases that are enabled by TCME, and show that even some simple classic cryptographic problems can already be solved with TCME. Finally, we outline current limitations and discuss the path forward in implementing them.