模型元模揭示了生物和人工神经网络之间的异常异常

科学领域:

• 计算神经科学是一种计算神经科学.
• 人工智能的人工智能是人工智能.
• 认知科学是一种认知科学.

背景情况:

• 深度神经网络 (DNN) 越来越多地用于模拟大脑感官系统.
• DNN的目标是学习类似于生物系统中观察到的表示转换和不变.
• 了解这些学习不变对于评估模型对生物处理的忠实性至关重要.

研究的目的:

• 通过视觉和听觉的深度神经网络模型与人类感知模型来研究和比较学到的不变性.
• 开发一种方法来使用"模型计量器"揭示模型特定的不变性.
• 评估当前的DNN在多大程度上捕捉了类似人类的异常.

主要方法:

• 与自然刺激相比,通过创建刺激,在特定的模型层内引起匹配激活的刺激来生成"模型元器件".
• 从最先进的监督和无监督DNNs的各个阶段生成的模型metamers的测试人类识别能力,用于视觉和听觉.
• 修改模型并重新评估metamer可识别性,以评估目标变化的影响.
• 人类对元体的识别能力与其他DNN模型的识别能力相关联.

主要成果:

• 从当前DNN的后期阶段生成的元通常无法被人类识别,这表明已知的不变性存在显著差异.
• 对模型的有针对性的修改提高了人体识别度,但并没有完全解决人与模型之间的差异.
• 其他DNN模型可以预测模型元体的人类识别能力,这表明共享的,特异性的模型不变.
• 超标识别能力与传统的基准标准 (如基于大脑的测量和对抗性脆弱性) 截然不同.

结论:

• 对于感官处理的最先进的DNN具有与人类感知不同的不变性.
• 模型计量器提供了一个新的工具来探测和基准这些模型特定的不变.
• 现有的DNN具有独特的故障模式,目前的评估方法无法捕获.
• 需要进一步的研究来使人工感官处理与类似人类的不变性保持一致.