医療従事者向けAIの安全性向上に向けて：ヘルスケアにおける大規模言語モデルの脱獄に関する包括的研究

科学分野:

• 人工知能
• 医療情報学
• サイバーセキュリティ

背景:

• 大規模言語モデル（LLM）はヘルスケア分野への統合が進んでいます。
• 臨床現場への導入は、特に誤情報に関して、重大な安全上の懸念を引き起こします。
• 安全なAI導入のためには、医療分野におけるLLMの脆弱性を評価することが不可欠です。

研究 の 目的:

• 7つのLLMの医療シナリオにおける高度な脱獄技術に対する脆弱性を体系的に評価すること。
• 攻撃効果を定量化するための、自動化されたドメイン適応型エージェンントパイプラインを導入すること。
• 医療分野における敵対的攻撃に対する防御メカニズムとして継続的ファインチューニング（CFT）を調査すること。

主な方法:

• 3つの高度な脱獄技術を用いて、7つのLLMのブラックボックス評価を実施しました。
• 自動化されたドメイン適応型エージェンント評価パイプラインを開発・使用しました。
• 特定された脆弱性を軽減するための継続的ファインチューニング（CFT）の効果を評価しました。

主要な成果:

• 主要な商用およびオープンソースLLMは、医療脱獄に対して高い脆弱性を示しました。提案された評価パイプラインは、敵対的攻撃の影響を効果的に定量化しました。継続的ファインチューニング（CFT）は、医療固有の攻撃に対するLLMの耐性を向上させる可能性を示しました。

結論:

• 現在のLLMは高度な医療脱獄攻撃に対して脆弱であり、患者の安全を脅かす可能性があります。
• AI臨床医には、ドメイン固有の安全性アライメントと堅牢な評価方法が不可欠です。
• AIの安全性と有用性のバランスを取ることが、ヘルスケアにおけるAIの倫理的かつ効果的な導入のために重要です。