通过梦想新的经验,在反复的尖端网络中实现基于模型的生物可信的强化学习
Cristiano Capone1,2, Pier Stanislao Paolucci3
1INFN, Sezione di Roma, Rome, RM, 00185, Italy. cristiano0capone@gmail.com.
Scientific reports
|June 25, 2024
概括
这项研究以生物学为灵感,提出了一种新的尖端神经网络模型,该模型使用"梦想"进行高效的在线学习. 这种方法在没有大量数据存储的情况下显著提高了技能获取,增强了强化学习.
科学领域:
- 计算神经科学是一种神经科学.
- 人工智能的人工智能
- 机器学习 机器学习
背景情况:
- 目前的强化学习 (RL) 算法需要大量的数据来实现有效的政策学习.
- 基于模型的RL方法减少了数据要求,但通常依赖于生物学上不可信的机制,如详细的经验重复和离线学习.
- 对学习内部世界模型的有效利用仍然是一个公开的挑战.
研究的目的:
- 研究"梦想"的潜力,作为增强人工智能学习的生物可信机制.
- 开发一个尖端神经网络 (SNN) 模型,将在线世界模型学习与政策优化相结合.
- 在强化学习中减少对广泛经验存储和离线计算的依赖.
主要方法:
- 提出了一个由两个模块 (代理和世界模型) 组成的神经网络架构.
- 实施了一个"梦想"机制,其中代理人在模拟环境中与其内部世界模型进行交互.
- 确保在线学习世界模型和代理政策.
主要成果:
- 在模拟环境中的"梦想"显著加快了学习过程.
- 该模型展示了有效的政策学习,而不需要详细存储过去的经验.
- 该SNN架构促进在线学习的世界模型和政策.
结论:
- 生物灵感,特别是"梦想",为在人工智能中利用内部世界模型提供了一个有效的策略.
- 拟议的SNN模型实现了高效的在线学习和政策优化,克服了现有的RL方法的局限性.
- 使用尖端神经元提高了生物可信性,并为神经形态硬件实现打开了道路.


