相关实验视频
Updated: Jun 27, 2025
11:40
Building An Open-source Robotic Stereotaxic Instrument
Published on: October 29, 2013
14.9K
人工智能的准确性和偏见 聊天机器人 建议眼科外科医生
Alomi O Parikh1, Michael C Oca2, Jordan R Conger3
1Ophthalmology, USC Roski Eye Institute, Keck School of Medicine, University of Southern California, Los Angeles, USA.
Cureus
|May 6, 2024
概括
人工智能 (AI) 聊天机器人在推眼科外科医生时显示出显著的不准确性. 许多建议的外科医生不是专家,甚至没有实践,突出了潜在的患者风险.
科学领域:
- 眼科医生 眼科 眼科
- 人工智能的人工智能
- 医疗信息学 医疗信息学
背景情况:
- 人工智能 (AI) 聊天机器人越来越多地用于信息检索.
- 患者可以使用AI聊天机器人找到医疗专家,包括眼科外科医生.
- 人工智能在医疗保健中的建议的准确性和潜在偏见尚未得到充分理解.
研究的目的:
- 评估三大人工智能聊天机器人系统对眼镜外科医生建议的准确性和偏见.
- 为了比较ChatGPT,微软Bing Balanced和谷歌Bard在提供相关外科推方面的表现.
主要方法:
- 我们查询了三个人工智能聊天机器人系统 (ChatGPT,微软Bing Balanced,谷歌Bard).
- 提示包括"眼皮整形外科医生"",眼升高的医生"和"眼皮面部整形外科医生".
- 分析了美国20个主要城市的建议准确性,专业培训和人口代表性.
主要成果:
- 观察到高不准确率,高达38%的推外科医生不存在或不在指定城市执业.
- 35.9%的推的"眼膜外科医生"缺乏在该领域的专业培训.
- 迅速的措辞显著影响了结果",眼升起"产生了更多的非专家推.
结论:
- 当前的人工智能聊天机器人在推眼科外科医生时表现出大量的不准确性和偏见.
- 使用特定提示可以导致更高比例的不合格或不相关的转介.
- 通过人工智能聊天机器人寻求眼科外科医生的患者面临由于不可靠的建议而带来的风险,需要对人工智能生成的医疗建议进行批判性评估.
