微调医疗语言模型,以提高长时间的上下文理解和领域专业知识
Qimin Yang1, Jiexin Chen1, Yue Sun1
1Faculty of Applied Sciences, Macao Polytechnic University, Macao SAR, China.
微调医疗大语言模型 (LLM) 可以降低长文本理解. 优化微调数据组成和数量对于平衡医疗AI领域专业知识和上下文性能至关重要.
科学领域:
- 人工智能的人工智能
- 自然语言处理自然语言处理.
- 医疗信息学 医疗信息学
背景情况:
- 大型语言模型 (LLM) 越来越多地应用于医学等专业领域.
- 微调的LLM增强了特定领域的知识,但可以悖论地损害长时间的背景理解.
- 医学LLM (Med-LLM) 与普通LLM相比,长期背景表现显著下降.
研究的目的:
- 调查Med-LLMs的长文本理解表现下降的原因.
- 评估微调策略对Med-LLM绩效的影响.
- 确定最佳的数据组成,以平衡医疗专业知识和上下文理解.
主要方法:
- 设计开放式的专业知识测试,用于医疗领域的评估.
- 使用各种微调方法比较一般的LLM和Med-LLM.
- 在微调过程中调整了一般和专业数据的比例和数量.
主要成果:
- 一般LLM的表现优于非再培训的医疗基线.
- 优化了微调策略,医疗模型准确度提高了高达13.5个百分点.
- 确定了大约10万个特定域样本的和值,超出该值后,性能增长停滞不前.
结论:
- 微调数据的组成和数量对模型的上下文理解产生了重大影响.
- 在Med-LLMs中,在领域专业知识和上下文理解之间取得平衡,依赖于合理的微调数据选择.
更多相关视频
05:47Evidence-based Knowledge Synthesis and Hypothesis Validation: Navigating Biomedical Knowledge Bases via Explainable AI and Agentic Systems
Published on: June 13, 2025
07:50A Metadata Extraction Approach for Clinical Case Reports to Enable Advanced Understanding of Biomedical Concepts
Published on: September 20, 2018
相关概念视频
Improving Translational Accuracy
Documentation in Long-Term and Home Healthcare Setting
Long-Term Care Facilities
Methods of Documentation VI: Case Management Model
For example, a patient with a chronic...
Pharmacokinetic Models: Overview
There are three primary types of models: empirical, compartment, and physiological. Empirical models, with minimal...
Guidelines for Nursing Documentation I
Factual:
The following points emphasize the significance of upholding accurate and unbiased documentation in healthcare.
Techniques of Therapeutic Communication II: Focusing, Paraphrasing, and Summarizing
This therapeutic technique can also be used when a patient brings up pertinent information during a health-related conversation. The...
