从人工智能生成的内容中审计未经授权的培训数据,使用信息同位素
Tao Qi1,2, Jinhua Yin2, Dongqi Cai3
1State Key Laboratory of Networking and Switching Technology, School of Computer Science, Beijing University of Posts and Telecommunications, Beijing, China.
研究人员开发了"信息同位素",以在黑盒模型中追踪AI训练数据. 该方法精确检测数据使用情况,保护人工智能系统中的知识产权和隐私.
科学领域:
- 人工智能的人工智能
- 数据科学数据科学数据科学
- 计算机科学 计算机科学
背景情况:
- 人工智能的快速增长依赖于大量的人类数据,引发了对知识产权和隐私侵犯的担忧.
- 由于隐藏培训和推断过程的黑子系统,审计AI滥用是很困难的.
研究的目的:
- 在不透明的AI系统中引入一种用于追踪训练数据的新方法.
- 为在人工智能模型中检测和证明数据利用提供一个框架.
主要方法:
- 在化学同位素追踪的启发下,该研究提出了"信息同位素"来标记和跟踪数据.
- 一个框架选择性地标记目标数据元素,并检测它们在AI模型输出中的传播.
- 该方法允许对数据使用进行黑子审计.
主要成果:
- 在6个数据集中对13个AI模型进行的实验显示,训练与非训练数据的区分精度高 (高达99%).
- 结果显示强大的统计学意义 (p < 0.01),大约有4000个字的证据.
- 该方法提供了数据利用的具体证据.
结论:
- 信息同位素追踪框架为保护人工智能数据权利提供了切实可行的解决方案.
- 有一个开源工具可用于支持这种数据追踪方法的实施.
- 这项工作解决了人工智能透明度和数据治理方面的关键挑战.
更多相关视频
07:57Sampling and Pretreatment of Tooth Enamel Carbonate for Stable Carbon and Oxygen Isotope Analysis
Published on: August 15, 2018
12:47Workflow Based on the Combination of Isotopic Tracer Experiments to Investigate Microbial Metabolism of Multiple Nutrient Sources
Published on: January 22, 2018
相关概念视频
Mass Spectrometry: Isotope Effect
Isotopes and Radioisotopes
An isotope containing...
Isotopes
An element's atomic mass, or weight,...
Inductively Coupled Plasma-Mass Spectrometry (ICP-MS): Interferences
Non-equilibrium in the Cell
Atomic Emission Spectroscopy: Lab
