揭示算法:可解释的人工智能在现代手术中的作用
Sara Lopes1, Miguel Mascarenhas2,3,4, João Fonseca2,3,4
1Portuguese Institute of Oncology of Porto, 4200-072 Porto, Portugal.
Healthcare (Basel, Switzerland)
|December 30, 2025
概括
可解释的人工智能 (XAI) 对于安全的外科人工智能集成至关重要. 这篇评论强调了XAI的重点.
科学领域:
- 手术方面的创新.
- 医疗人工智能 医疗人工智能
- 可解释的人工智能
背景情况:
- 人工智能 (AI) 正在通过加强诊断,预测和决策来改变外科护理.
- 挑战包括AI模型不透明,偏见和数据共享,阻碍临床信任和监管批准.
- 可解释的人工智能 (XAI) 正在出现,以解决这些差距,促进AI在数据驱动手术中的采用.
研究的目的:
- 审查XAI在外科手术中的当前应用.
- 为了突出XAI在像ChatGPT这样的生成AI工具中缺少的XAI.
- 强调XAI作为负责任的外科AI创新的先决条件.
主要方法:
- 关于XAI在外科手术中的应用的文献综述.
- 分析XAI在手术前评估,手术规划,手术内指导和术后监测中的作用.
- 识别挑战,包括模型偏差,过拟合和用户界面设计.
主要成果:
- 在整个外科手术工作流程中审查XAI应用程序.
- 生成型人工智能工具目前缺乏XAI机制.
- 对于XAI集成的关键挑战包括偏差,过拟合和UI设计.
结论:
- 对于外科医生来说,XAI对于解释,验证和信任外科手术中的AI工具至关重要.
- 在外科人工智能领域的负责任创新需要XAI的实施.
- 克服偏见,超拟合和设计方面的挑战是XAI整合到透明和以人为中心的AI手术实践的关键.
