在循环网络中,灵活的多任务计算利用了共享的动态模式.
Laura N Driscoll1, Krishna Shenoy2,3,4,5,6,7,8, David Sussillo2,6
1Department of Electrical Engineering, Stanford University, Stanford, CA, USA. laura.driscoll@alleninstitute.org.
研究人员在人工循环神经网络中发现了"动态图案",即可重复使用的神经活动模式. 这些图案使模块化计算和灵活的学习成为可能,为大脑的专业化和泛化提供了洞察力.
科学领域:
- 计算神经科学是一种神经科学.
- 人工智能的人工智能
- 机器学习 机器学习
背景情况:
- 灵活的计算是智能行为的关键,但神经网络如何为各种任务重新配置仍然不清楚.
- 了解模块化计算的神经基础对于推进人工和生物智能至关重要.
研究的目的:
- 确定算法神经基板,使多任务人工循环神经网络中的模块化计算成为可能.
- 为了研究重复的神经活动模式 (动态动机) 在特定任务的计算和学习中的作用.
主要方法:
- 在多任务人工循环神经网络上使用动态系统分析.
- 在不同任务中研究了动态图案的重复使用 (例如,吸引器,决策边界).
- 检查了单元集群和激活函数在实现动态动机中的作用,以及它们通过集群损伤对性能的影响.
主要成果:
- 识别了学习的计算策略,反映了任务模块化,在任务中重复使用动态图案.
- 证明特定的图案,如环吸引器,被重新用于涉及连续记忆的任务.
- 显示的动态图案是由单元集群实现的,它们的破坏导致模块化性能缺陷;图案重新配置以快速转移学习.
结论:
- 建立了动态图案作为构成计算的基本单元,弥合了单个神经元和整个网络之间的差距.
- 动态图案框架为分析人工和生物系统中神经专业化和泛化提供了有价值的镜头.
- 这项研究为神经网络如何实现灵活和模块化计算提供了新的视角.
更多相关视频
10:44Inherent Dynamics Visualizer, an Interactive Application for Evaluating and Visualizing Outputs from a Gene Regulatory Network Inference Pipeline
Published on: December 7, 2021
08:08Real-time Electrophysiology: Using Closed-loop Protocols to Probe Neuronal Dynamics and Beyond
Published on: June 24, 2015
相关概念视频
Adaptability of Cytoskeletal Filaments
Neural Circuits
Neuronal pools are collections of nerve cells with similar functions and interact through chemical and electrical signals. These pools include both interneurons (the central neural circuit nodes that...
Propagation of Action Potentials
Neurons (nerve cells) have a resting membrane potential, with a slightly negative charge inside compared to outside. This is maintained by ion channels, such as sodium (Na+) and potassium (K+) channels, which control the flow of ions. When a stimulus, like a touch or a signal from another neuron, triggers the neuron, sodium channels open, allowing sodium ions to...
Network Function of a Circuit
Multimachine Stability
In analyzing the system, the nodal equations represent the relationship between bus voltages, machine voltages, and machine currents. The nodal equation is given by:
Overview of Transposition and Recombination
