隐私计算(Privacy Computing)

AI TERM术语词条

Privacy Computing

安全治理 隐私数据安全联邦学习合规

术语释义

在保护原始数据不暴露的前提下完成多方联合计算的技术总称,涵盖联邦学习、差分隐私、安全多方计算与可信执行环境,是数据共享与合规之间的关键桥梁。

隐私计算(Privacy Computing)是一组让数据「可用不可见」的技术总称,目标是在不暴露原始数据的前提下完成多方联合计算。它的核心矛盾是:数据只有流动汇聚才有价值,但直接共享明文又会触碰隐私、合规与商业机密三条红线。隐私计算让互不信任的参与方各自保留数据,又共同完成联合建模,是数据要素流通的关键基础设施。

四大技术路线

  • 联邦学习(Federated Learning):数据留在本地,只交换模型参数更新或梯度,实现多机构协作训练,是当前落地最广的一条路线。
  • 差分隐私(Differential Privacy):在统计结果或梯度中注入受控噪声,使单个样本存在与否难以被反推,从而保护个体信息。
  • 安全多方计算(Secure Multi-Party Computation):多方在密码协议下联合计算,即使彼此互不信任,也能得到正确结果且不泄露各自输入。
  • 可信执行环境(Trusted Execution Environment,TEE):利用处理器中的安全硬件区域隔离数据与计算过程,性能损耗相对较小,但安全假设依赖硬件厂商与远程认证。

典型应用场景

  • 金融联合风控:多家银行在不共享客户明细的前提下共建反欺诈与信用模型,扩大样本覆盖又不违反客户信息保护要求。
  • 医疗数据协作:医院与科研机构联合训练诊断模型,患者原始病历不出院内,同时满足伦理审查与隐私法规。
  • 政务数据开放:在保护公民隐私的前提下释放公共数据价值,支撑跨部门联合统计与城市治理分析。
  • 营销效果度量:广告主与媒体在不交换用户标识的情况下完成归因与人群重叠分析。

实践要点

  • 先明确安全目标:要防的是数据泄露、模型参数泄露还是身份推断,目标不同,选用的技术组合完全不同。
  • 路线可以叠加:常见做法是联邦学习叠加差分隐私,再用可信执行环境托管聚合节点,以多层手段换取更低的信任假设。
  • 评估性能开销:密码学协议会带来通信与算力放大,参与方越多、网络越差,延迟上升越明显,需要提前做容量估算。
  • 保留合规留痕:授权链路、计算过程与结果访问都应可审计,否则技术上的隐私保护难以在监管面前自证。

常见误区

最常见的误解是把隐私计算当成万能护盾:它只保证计算过程不泄露约定范围内的信息,如果参与方在输出中夹带明文特征,或者结果粒度过细导致可被反推,隐私依然会失守。另一类误区是忽视信任模型的差异,联邦学习通常默认参与方诚实,而安全多方计算可以容忍部分恶意行为,二者能抵御的攻击强度并不相同。落地时应把隐私计算与数据分级、权限控制、输出审查结合使用,并通过形式化证明或第三方评估来验证安全承诺是否成立。

查看全部 72 条 →
共 9 条