泄露:针对分割学习的多目标隐私窃取攻击

科学领域:

• 人工智能的人工智能
• 机器学习安全 机器学习安全
• 分布式系统 分布式系统

背景情况:

• 分拆学习 (SL) 提供了隐私和效率,但面临着推断攻击的风险.
• 现有的SL隐私防御依赖于不切实际的假设,限制了现实世界的有效性.
• 服务器对手可能会损害SL框架中的客户端隐私.

研究的目的:

• 调查分割学习 (SL) 框架中固有的漏洞.
• 引入一种新的隐私威胁,分泄漏 (SLeak),针对SL.
• 在没有强有力的隐私假设的情况下证明Sleak的有效性.

主要方法:

• 在SL的粉碎数据和服务器模型中分析客户代表偏好.
• 开发一个替代客户端来模仿目标客户端的行为.
• 为多个隐私目标引入分裂泄漏 (SLeak) 威胁.
• 使用部分相同域的辅助公共数据进行攻击.

主要成果:

• 确定粉碎的数据和服务器模型都显示了客户代表偏好.
• 证明替代客户端可以完美复制目标客户端的功能,数据和标签.
• 与最先进的方法相比,Sleak攻击在各种数据集和模型中显示出更高的性能.
• 废弃性研究证实了SLeak在各种场景中的稳定性和适用性.

结论:

• 分割学习 (SL) 具有固有的漏洞,可以被服务器对手利用.
• 分裂泄漏 (SLeak) 是对SL隐私的实际和有效威胁.
• 通过最小的数据要求,SLeak的成功突出了分布式学习中的重大隐私风险.