骨科手术中的人工智能:一个大语言模型可以"写"一个可信的骨科杂志文章吗?
Devon T Brameier1, Ahmad A Alnasser2, Jonathan M Carnino3
1Department of Orthopaedic Surgery, Brigham and Women's Hospital, Harvard Medical School, Boston, Massachusetts.
The Journal of bone and joint surgery. American volume
|July 12, 2023
概括
整形外科的大型语言模型 (LLM) 可以生成可发布的文本,但有可能导致AI幻觉和错误信息. 目前的编辑流程需要更新,以检测LLM的使用,并确保安全整合到科学出版.
科学领域:
- 人工智能 (AI) 是一种人工智能.
- 自然语言处理 (NLP)
- 大型语言模型 (LLM)
背景情况:
- 作为人工智能的子集,LLM利用NLP来生成文本,在医学和骨科手术中越来越多的应用.
- 虽然LLM可以制作高质量的科学手稿,但它们容易产生"AI幻觉",自信地呈现不准确性.
- 这带来了研究不当行为和在临床文献中传播错误信息的风险.
研究的目的:
- 评估LLM在生成骨科手术科学文本方面的能力和风险.
- 评估当前编辑流程在识别LLM产生的内容方面的充分性.
- 建议在学术出版业进行必要的调整,以确保LLM的安全使用.
主要方法:
- 审查科学手稿的文本生成中的LLM能力.
- 对人工智能幻觉风险及其对医学文献的影响的分析.
- 评估当前的学术出版社编辑工作流程.
主要成果:
- 在骨科中,LLM显示出产生可发表的科学文本的潜力.
- 对于LLM来说,存在很大的风险,在手稿中引入事实上的不准确性 (幻觉).
- 现有的编辑选方法不足以检测LLM参与.
结论:
- 学术出版需要更新的指导方针,以负责任地在骨科文献中使用LLM.
- 加强编辑选流程对于识别LLM产生的内容至关重要.
- 积极适应是必要的,以减轻与科学传播中LLM相关的风险.
