Attention-supervised Vision Transformerによる大腸病変分類の精度と説明可能性の向上

科学分野:

• 医療における人工知能
• 内視鏡検査のためのコンピュータビジョン
• 医療画像解析

背景:

• 正確な大腸病変の評価は、治療と癌リスク層別化のために不可欠です。
• Paris分類はこの評価を支援しますが、観察者間の一貫性のばらつきに直面しています。
• Vision Transformer（ViT）は可能性を提供しますが、注意機構が拡散する可能性があり、解釈可能性を妨げます。

研究 の 目的:

• 専門家によるアノテーションを用いたViTの注意機構マップの監視が、Paris分類の精度を向上させるかどうかを調査すること。
• 関連する病変領域に注意機構を集中させることにより、ViTモデルの解釈可能性を高めること。
• 分類パフォーマンスとモデルの説明可能性を同時に向上させる手法を開発すること。

主な方法:

• 病変焦点注意機構損失（L_LFA）事前学習目的関数を提案しました。
• 専門家のポリープバウンディングボックスを使用して、ViTの注意機構をアノテーションされた病変領域に誘導しました。
• L_LFAを6つのViTアーキテクチャに適用し、その後、Paris分類のためにSUNデータセットでクロスエントロピーファインチューニングを行いました。

主要な成果:

• 注意機構監視付き事前学習は、ViTモデル全体で精度と病変に焦点を当てた注意機構を一貫して向上させました。
• L_LFAは、3クラスのParis分類精度を最大7パーセントポイント向上させました。
• L_LFAは、Grad-CAMの一貫性ベースラインを5〜13パーセントポイント上回り、焦点の合った注意機構と正しい予測との間に有意な関連性がありました。

結論:

• L_LFAを用いたViTの注意機構の直接的な監視は、専門家の知識を効果的に活用します。
• このアプローチは、Paris分類の精度と空間的な解釈可能性を同時に向上させます。
• L_LFAは、Grad-CAMベースの説明正則化と比較して優れたパフォーマンスを示します。