科学领域:

• 医疗信息学 医疗信息学
• 医疗保健中的人工智能
• 人与计算机的交互

背景情况:

• 人工智能 (AI) 在医疗实践中的整合需要强大的软件用户界面.
• 当前的临床人工智能工具往往缺乏足够的可用性,透明度和遵守欧洲人工智能法案等监管标准.
• 安全性,可解释性和人类监督等关键要素在现有的医疗保健人工智能应用中仍未得到充分发展.

研究的目的:

• 定义医学中人工智能软件用户界面的最低技术要求.
• 确保医疗人工智能系统的可用性,透明度和符合欧洲人工智能法.
• 在临床环境中,在整个AI生命周期中促进安全性,可解释性和人类监督.

主要方法:

• 开发一个框架,详细说明人工智能软件用户界面的技术要求.
• 规范所有使用阶段的要求,从数据输入到模型解释.
• 专注于解决AI在临床实践中的欠发达方面.

主要成果:

• 一个拟议的框架,定义了医疗AI软件接口的最低技术要求.
• 涵盖数据输入,处理和模型解释阶段的指导方针.
• 强调提高安全性,可解释性和人类监督.

结论:

• 拟议的框架提供了必要的技术要求,用于开发符合规定的和可用的AI软件在医学.
• 实施这些要求可以提高AI工具在临床实践中的安全性,透明度和可信度.
• 解决可用性,可解释性和人类监督对于在医疗保健中负责任地采用AI至关重要.