从放射学报告中推断癌症疾病反应,使用大型语言模型与数据增强和提示
Ryan Shea Ying Cong Tan1,2, Qian Lin3, Guat Hwa Low1
1Division of Medical Oncology, National Cancer Centre Singapore, Singapore.
概括
大型语言模型可以从放射学报告中准确推断出癌症疾病反应. 像数据增强这样的技术可以提高性能,而基于提示的微调可以减少对这些人工智能工具的训练数据需求.
科学领域:
- 在瘤学中使用人工智能
- 医疗报告的自然语言处理.
- 机器学习在放射学中的应用
背景情况:
- 准确评估癌症疾病反应对于患者管理和研究至关重要.
- 手动审查自由文本放射学报告是耗时的,容易变化.
- 大型语言模型 (LLM) 提供了对临床文本自动分析的潜力.
研究的目的:
- 评估LLM在从放射学报告中推断癌症疾病反应中的有效性.
- 为了比较不同的机器学习模型,包括变压器,LSTM和CNN.
- 调查数据增强和基于提示的微调对模型性能的影响.
主要方法:
- 利用了来自癌症患者的10,602份计算机断层扫描报告,分为四个响应类别.
- 应用变压器模型,LSTM,CNN和传统的机器学习技术.
- 采用数据增强 (句子换) 和基于提示符的微调以进行优化.
主要成果:
- 该GatorTron变压器模型实现了高精度 (0.8916测试集,0.8919RECIST验证集).
- 数据增强进一步提高了准确度,达到0.8976.
- 基于提示符的微调将训练数据要求降低到500个报告,而不会造成显著的性能损失.
结论:
- 从放射学报告来看,LLM显示了从放射学报告中大规模准确推断癌症疾病反应的巨大潜力.
- 数据增强是提高这些模型性能的有效策略.
- 基于提示符的微调提供了一种方法,以大幅减少训练数据集来实现良好的性能.
更多相关视频
04:09Predicting Treatment Response to Image-Guided Therapies Using Machine Learning: An Example for Trans-Arterial Treatment of Hepatocellular Carcinoma
Published on: October 10, 2018
8.3K
07:15Machine Learning Algorithms for Early Detection of Bone Metastases in an Experimental Rat Model
Published on: August 16, 2020
6.9K
