MedPTQ: 3D医療画像セグメンテーションにおける実際の研修後の定量化のための実用的なパイプライン

科学分野:

• 医療イメージング AI
• ディープラーニングの最適化
• 計算効率 計算効率について

背景:

• ディープニューラルネットワークの定量化により,医療イメージングに不可欠なコンピューティングの要求が軽減されます.
• 既存の方法はしばしば量子化をシミュレートし,モデルのサイズを小さくしたり,実際の速度を向上させたりできません.
• 現代のGPUにおけるリアル3Dのロービット量子化は,ほとんど未開発のままである.

研究 の 目的:

• MedPTQを紹介します. これは,実際の訓練後の定量化のためのオープンソースのパイプラインです.
• 最先端の3D医療セグメンテーションモデルのための真の8ビット (INT8) 推論を実装します.
• 資源が限られている医療イメージングの設定でAIの効率的な展開を可能にします.

主な方法:

• 標識されていないデータセットで重量とアクティベーションのシミュレート量子化のためにTensorRTを使用します.
• GPU上のTensorRTエンジンを使用して,シミュレートされた量子化を実際のINT8量子化に変換します.
• U-Net,SwinUNETR,nnU-Netを含む様々な3D医療セグメンテーションモデルに適用することができます.

主要な成果:

• MedPTQは,GPU上で実際のINT8定量化を実現し,モデルのサイズを3.83×まで,レイテンシーを2.74×まで削減します.
• 全精度 (FP32) モデルと比較して,ほぼ同一のダイス類似度係数 (mDSC) の性能を維持しています.
• 7つのモデルと3つの多様なデータセットで有効性を実証しました.

結論:

• MedPTQは,3D AIの医療イメージングセグメンテーションモデルの実際のINT8推論を提供します.
• モデルのサイズ,コンピューティングのニーズ,およびGPUのレイテンシーを,精度を損なうことなく削減します.
• 多様なAIアーキテクチャ,データセット,イメージング方式で強い汎用性を示しています.