人工智能的医学:将医学框架应用于AI异常
Takahiro Kato1, Daisuke Komura1, Binay Panda2
1Faculty of Medicine, The University of Tokyo, Bunkyo, Tokyo, Japan.
Frontiers in artificial intelligence
|October 27, 2025
概括
我们介绍了人工智能医学 (MAI),这是一个临床框架,将AI异常视为疾病. 这种系统的方法使得可重复的AI故障诊断和管理能够实现更安全的系统.
科学领域:
- 人工智能的人工智能
- 医疗信息学 医疗信息学
- 人工智能 安全 AI 安全
背景情况:
- 目前对"幻觉"等人工智能失败的方法是分散的,缺乏标准化.
- 这阻碍了人工智能系统的累积知识构建和可重现的管理策略.
- 需要一个统一的框架来系统地解决人工智能异常.
研究的目的:
- 为人工智能 (MAI) 提出药物,为人工智能异常提供一种新的临床框架.
- 调整医学鼻科和临床工作流程以适应人工智能生命周期.
- 为更安全,更有弹性和可审计的人工智能系统建立可重复的基础.
主要方法:
- 在临床框架内将AI异常重新概念化为疾病.
- 对AI进行正式的核心医学构造 (疾病,症状,诊断,治疗).
- 开发了DSA-1,一个由9个功能章节组成的45种AI疾病的原型分类.
- 将临床工作流 (检查 → 诊断 → 干预) 映射到AI生命周期中.
主要成果:
- MAI框架澄清了模两可的AI失败模式,例如区分幻觉亚型.
- 将AI诊断与可行的干预措施和标准化评估指标联系起来.
- 启用生命周期实践,如对人工智能系统进行分拣和"人工智能健康检查".
- 为人工智能治理提供综合流行病学和风险评估架构.
结论:
- MAI提供了一种可复制的方法来诊断和管理AI异常,类似于临床医学.
- 这一框架促进了人工智能研究人员,临床医生和监管机构之间的合作.
- MAI支持开发更安全,更有弹性和可审计的人工智能系统.
更多相关视频
05:47Evidence-based Knowledge Synthesis and Hypothesis Validation: Navigating Biomedical Knowledge Bases via Explainable AI and Agentic Systems
Published on: June 13, 2025
1.3K
03:14Augmenting Large Language Models via Vector Embeddings to Improve Domain-Specific Responsiveness
Published on: December 6, 2024
1.0K
