生物医学应用的大型语言模型的发展格局
Zhiyuan Cao1, Vipina K Keloth1, Qianqian Xie1
11Department of Biomedical Informatics and Data Science, School of Medicine, Yale University, Connecticut, USA;
Annual review of biomedical data science
|April 1, 2025
概括
本综述探讨了生物医学中的大型语言模型 (LLM),发现只有解码器架构和生物医学文献是常见的. 挑战包括数据隐私和模型透明度.
科学领域:
- 生物医学信息学 生物医学信息学
- 医疗保健中的人工智能
背景情况:
- 大型语言模型 (LLM) 显示出改变医疗保健和医学研究的重大前景.
- 2022年ChatGPT的发布刺激了LLM在各种生物医学领域的快速发展和应用.
研究的目的:
- 审查基于文本的生物医学LLMs的发展格局.
- 分析它们的特性,开发过程和应用.
主要方法:
- 在遵守PRISMA指南的基础上进行系统审查.
- 从2022年以来出版的5,512篇文章中选择了82篇,重点是用生物医学数据培训的LLM.
主要成果:
- 主要使用仅为解码器的架构 (例如,Llama 7B).
- 特定任务微调策略的普遍性.
- 在模型培训中严重依赖生物医学文献.
结论:
- 持续面临的挑战包括平衡数据开放与隐私以及详细描述计算资源.
- 未来的方向包括多式联运一体化,专业医疗LLM和增强数据/模型可访问性.
