生物启发的深度神经网络的可靠解释性

科学领域:

• 计算生物学是一种计算生物学.
• 生物信息学是一种生物信息学.
• 机器学习 机器学习

背景情况:

• 深度神经网络 (DNN) 在性能方面表现出色,但缺乏可解释性.
• 生物启发的深度学习使用生物知识来解释模型.
• 之前的研究表明,在经过转录组训练的模型中,解释的变化和偏差.

研究的目的:

• 测试和扩展生物灵感模型的可解释性方法,这些模型是通过患者突变数据 (P-NET) 进行训练的.
• 识别影响解释偏差的网络属性.
• 开发用于控制解释稳定性和偏差的方法.

主要方法:

• 将现有的可解释性方法应用于并扩展到P-NET模型.
• 在患者突变数据上训练有素的P-NET.
• 分析了解释的可变性,稳定性和对知识偏见的易感性.
• 识别的网络属性导致解释偏差.
• 开发并测试了一种控制解释稳定性和偏差的方法.

主要成果:

• 在P-NET的解释显示了变异性和对知识偏差的敏感性.
• 特定的网络属性被确定为解释偏差的驱动因素.
• 提出的方法提高了解释的稳定性和具体性.
• 这些发现凸显了在生物学启发的深度学习中需要具有偏见意识的解释性方法的需要.

结论:

• 像P-NET这样的生物学灵感深度学习模型的解释性需要仔细考虑稳定性和偏差.
• 控制解释偏差的方法对于从患者突变数据中获得可靠的生物学见解至关重要.
• 这项研究为开发在精准医学中更可靠和可解释的AI模型提供了一个框架.