什么时候将人工智能系统引入医疗保健是安全的? 一个实用的决策算法,用于在医学中伦理地实施黑子AI

科学领域:

• 医疗信息学 医疗信息学
• 人工智能在医学中的应用
• 临床决策支持 临床决策支持

背景情况:

• 全球对用于医疗保健应用的AI工具越来越感兴趣.
• 人们担心人工智能在医疗保健中的风险,特别是不透明的"黑子"系统,以及它们对患者知情同意的影响.
• 人工智能模型的可解释性对先进的人工智能,如生成性人工智能和大型语言模型 (LLM) 具有挑战性.

研究的目的:

• 建议在评估临床人工智能工具方面从可解释性转向实施风险.
• 引入一种实际的决策算法,用于评估和管理与在临床环境中实施"黑子"AI相关的风险.
• 在医疗保健中使用AI时,确保患者安全和知情同意.

主要方法:

• 开发一个决策算法来评估人工智能工具的实施风险.
• 基于技术稳定性,实施可行性以及对危害和益处的分析,对AI实施风险的评估.
• 根据评估,将人工智能系统分类为风险最小,中等风险或高风险.
• 在算法中考虑成本效益和患者知情同意.

主要成果:

• 拟议的算法为"黑子"AI的临床实施提供了一个框架.
• 人工智能系统被分为风险最小 (标准使用),风险中等 (创新性使用) 和高风险 (实验性使用).
• 实施建议与风险成正比,高风险类别需要加强监督.

结论:

• 对临床使用的AI进行评估,应优先考虑实施风险而不是可解释性,特别是对LLM和生成AI.
• 决策算法为管理与医疗保健中人工智能实施相关的风险提供了实用方法.
• 该框架支持安全有效地整合人工智能工具,同时维护患者的知情同意,并考虑成本效益.