接地人工智能对医疗保健的相关性

科学领域:

• 认知科学 认知科学
• 医疗信息学 医疗信息学
• 思想的哲学 思想的哲学

背景情况:

• 大型语言模型 (LLM) 在医疗保健中越来越多地使用,引发了人们对其概念理解的担忧.
• 人工智能中的"接地问题",即缺乏感官运动体验,对于医疗应用来说至关重要.
• 现有的研究往往忽视了未建立的AI在临床和行政医疗保健中的实际含义.

研究的目的:

• 在当前医疗保健LLM申请的背景下,重新审视符号接地问题.
• 分析医学推理的独特需求如何放大AI的局限性.
• 为了突出与在医学中将LLM视为认识系统性剂的治疗相关的风险.

主要方法:

• 重温经典的人工智能和哲学辩论 (例如,西尔的中国房间,符号接地问题).
• 通过医学推理要求的透视来分析LLM的局限性:解释细微差别,伦理敏感性和上下文深度.
• 检查现实世界的临床背景,以确定特定的风险.

主要成果:

• 医学推理的独特要求加剧了无根据的LLM的局限性.
• 在解释复杂的医疗信息方面,LLM缺乏感觉运动经验,这给他们带来了重大挑战.
• 当LLM被视为自主决策者而不是辅助工具时,风险就会扩大.

结论:

• 医疗保健中的LLM必须被理解为工具,而不是认识论代理,因为它们的概念基础限制.
• 解决接地问题对于AI在医学中的安全和有效部署至关重要.
• 需要进一步的研究来减轻风险,并确保在医疗保健环境中负责任地整合人工智能.