合成データによる微調整された埋め込みにより,大型言語モデルで腫瘍学特有の質問解答の強化
Kun-Han Lu1,2, Sina Mehdinia1,2, Kingson Man1,2
1Department of Applied AI and Data Science, City of Hope, Duarte, CA.
JCO clinical cancer informatics
|September 5, 2025
まとめ
この研究は,腫瘍学電子医療記録 (EHR) の強化された検索拡張生成 (RAG) モデルを導入します. 新しいモデルは,がん関連のクエリの臨床ノートの検索の正確性と関連性を大幅に改善します.
科学分野:
- 医療情報学
- 自然言語処理
- 腫瘍学データ抽出
背景:
- 検索拡張生成 (RAG) と大型言語モデル (LLM) の進歩は,電子医療記録 (EHR) から実世界の証拠抽出を変えました.
- 構造化されていないEHRから正確な臨床情報を抽出することは依然として課題であり,研究と患者ケアに影響を与えています.
研究 の 目的:
- 専門的なリトリバーエンコーダーを開発することで,腫瘍学EHRのRAGの有効性を高める.
- 腫瘍学に特化したクエリに対して,取得した臨床ノートの精度と関連性を向上させる.
主な方法:
- 20万9135人の患者からの 600万件以上の腫瘍学ノートで リトリバーエンコーダーを訓練しました
- LLMで合成された 12,371 のクエリ・パッセージ・ペアを使用して,文変換器としてモデルを微調整する.
- NDCG,精度,リコールメトリクスを使用した6つの埋め込みモデルに対する検索パフォーマンスの評価 50の腫瘍学質問.
主要な成果:
- 開発されたモデルは,NDCGで9%,Precisionで7%,リコールで6% (トップ10の結果) でランナーアップを上回った.
- 診断,疾患の状態,腫瘍の特徴などの主要な腫瘍学カテゴリーの全指標で例外的な回収性能が観察されました.
- このモデルは,腫瘍学EHRから適切な臨床ノートを取得する優れた能力を示した.
結論:
- 前もって訓練された文脈的埋め込みと文変形は,関連する腫瘍学EHRのノートを取得するのに有効です.
- LLMで合成されたクエリ・パサージ・ペアは,専門領域の有効なデータ増強戦略を提供します.
- この微調整アプローチは,アノテーションデータが限られている医療環境でのデータ抽出の改善に寄与します.
関連する概念動画
Combination Therapies and Personalized Medicine
5.1K
Combining two or more treatment methods increases the life span of cancer patients while reducing damage to vital organs or tissue from the overuse of a single treatment. Combination therapy also targets different cancer-inducing pathways, thus reducing the chances of developing resistance to treatment.
The combination of the drug acetazolamide and sulforaphane is a good example of combination therapy to treat cancer. The cells in the interior of a large tumor often die due to the hypoxic and...
The combination of the drug acetazolamide and sulforaphane is a good example of combination therapy to treat cancer. The cells in the interior of a large tumor often die due to the hypoxic and...
5.1K
Improving Translational Accuracy
2.7K
2.7K
Tumor Immunotherapy
658
Immunotherapy is a treatment that boosts or manipulates the immune system to fight diseases, including cancer. For instance, by stimulating an immune response through vaccinations against viruses that cause cancers, like hepatitis B virus and human papillomavirus, these diseases can be prevented. Nonetheless, some cancer cells can avoid the immune system due to their rapid mutation and division. The immune response to many cancers involves three phases: elimination, equilibrium, and escape.
658
Targeted Cancer Therapies
7.8K
The targeted cancer therapies, also known as “molecular targeted therapies,” take advantage of the molecular and genetic differences between the cancer cells and the normal cells. It needs a thorough understanding of the cancer cells to develop drugs that can target specific molecular aspects that drive the growth, progression, and spread of cancer cells without affecting the growth and survival of other normal cells in the body.
There are several types of targeted therapies against...
There are several types of targeted therapies against...
7.8K
Mouse Models of Cancer Study
5.7K
Mice have long served as models for studying human biology and pathology because of their phylogenetic and physiological similarity with humans. They are also easy to maintain and breed in the laboratory, and hence, many inbred strains are now available for research. Studies on mice have contributed immeasurably to our understanding of cancer biology.
The development of transgenic, knockout, and knock-in mice has led to an exponential increase in their use as model organisms in research,...
The development of transgenic, knockout, and knock-in mice has led to an exponential increase in their use as model organisms in research,...
5.7K


