干细胞研究中的ChatGPT和人工幻觉:评估生成引用的准确性 - - 一项初步研究
Khan Sharun1, S Amitha Banu1, Abhijit M Pawde1
1Division of Surgery.
Annals of medicine and surgery (2012)
|October 9, 2023
概括
这项研究发现,虽然ChatGPT可以帮助干细胞研究,但其引用的很大一部分是不准确的或捏造的. 由于这些局限性,研究人员必须验证人工智能生成的引用.
科学领域:
- 生物医学研究的研究.
- 科学中的人工智能.
背景情况:
- 像ChatGPT这样的人工智能 (AI) 和自然语言处理 (NLP) 模型为科学研究提供了潜在的好处.
- 确保人工智能产生的内容,特别是参考文献的准确性,对于科学完整性至关重要.
研究的目的:
- 评估ChatGPT在干细胞研究中的实用性.
- 评估ChatGPT在这一领域生成的引用的准确性.
主要方法:
- 分析了ChatGPT为干细胞研究应用生成的86个引用.
- 识别和量化伪造和错误的参考资料.
主要成果:
- 15.12%的分析参考资料是伪造的.
- 9.30%的参考文献包含错误.
- 确定的局限性包括缺乏实时互联网接入,依赖过时的数据和人工幻觉.
结论:
- 聊天GPT显示了作为干细胞研究的工具的潜力,有助于信息检索和保持更新.
- 由于观察到的不准确性和幻觉,研究人员必须批判性地验证人工智能生成的引用.
- 需要进一步的研究和模型改进,以提高AI语言模型在科学环境中的可靠性.


