DLProv:一套源源服务,用于深度学习工作流分析

科学领域:

• 计算机科学 计算机科学
• 人工智能的人工智能
• 数据科学数据科学数据科学

背景情况:

• 深度学习 (DL) 工作流涉及复杂,相互依存的步骤,如数据准备,培训和评估.
• 确保DL模型的信任,可重现性和透明度对于生产环境至关重要.
• 现有的可追溯性解决方案往往缺乏跨DL工作流程阶段的集成,并使用专有格式.

研究的目的:

• 引入DLProv,这是一套源地服务,用于DL工作流中的端到端可追溯性.
• 通过提供综合的,可互操作的解决方案来解决当前可追溯性方法的局限性.
• 在DL模型生命周期中增强信任,可重现性和透明度.

主要方法:

• 开发了DLProv,这是一个框架无关的来源服务套件.
• 在培训期间实施了基于SQL的查询,并生成了符合PROV标准的来源图.
• 集成DLProv与DL框架,如Keras和专业的模型,如PINNs.
• 在标准数据集 (MNIST,CIFAR-100) 和手写转录工作流程上评估了DLProv.

主要成果:

• 在各种DL任务中,DLProv成功地捕获和管理来源数据,确保框架独立性.
• 源图在模型训练期间以最小的性能影响促进了基于SQL的查询.
• 评估的开销最高为1.4%的执行时间,在比较分析中表现优于MLflow.
• 在DL工作流程的不同复杂度级别中表现出适应性和灵活性.

结论:

• DLProv提供了一个强大的,框架无关的解决方案,用于DL工作流程的端到端可追溯性.
• 该套件增强了信任,可重现性和透明度,这对于部署DL模型至关重要.
• DLProv的最小开销和互操作性使其适合于现实世界DL应用.