一种新而简单的方法来规范注意力框架及其在细分中的有效性

科学领域:

• 计算机视觉 计算机视觉
• 医疗图像处理 医学图像处理
• 深度学习 (Deep Learning) 是一种深度学习.

背景情况:

• 深度神经网络中的注意力机制对计算机视觉和医学成像非常有效.
• 交叉注意力为注意力障碍提供了高效的计算.
• 稳定性至关重要,特别是在医疗应用中培训数据有限的情况下.

研究的目的:

• 为注意力障碍引入一种简单,低空压噪声规范化技术.
• 通过使用注意力机制,增强深度学习模型的稳定性和弹性.
• 为了提高医疗图像细分性能,特别是肺叶细分.

主要方法:

• 在交叉注意力区块中内置噪音调节.
• 将增强的交叉注意力块集成到U-Net架构的瓶层中.
• 在NIH肺叶细分数据集的子集上评估了框架.

主要成果:

• 拟议的噪声规范化方法显著提高了模型的稳定性.
• 增强的U-Net架构在肺叶细分的子分数中实现了2.5%的改进.
• 这种方法即使有有限的培训数据,也有效.

结论:

• 将噪音添加到注意力阻塞中是一个简单而有效的规范化策略.
• 这种方法提高了U-Net模型用于医疗图像细分的性能.
• 该技术在资源有限的医学成像场景中有望改善深度学习应用程序.