利用混合训练和多头注意力来解决基于人工智能的纳米结构元材料电磁溶解器中的数据转移问题
Zhenjia Zeng1, Lei Wang1, Yiran Wu1
1National Engineering Research Center for Optical Instruments, Centre for Optical and Electromagnetic Research, Zhejiang University, Hangzhou 310058, China.
Nanomaterials (Basel, Switzerland)
|October 27, 2023
概括
这项研究针对纳米结构超材料的基于AI的电磁溶解器的数据转移. 我们引入了混合训练和多头注意力等有效策略,以提高神经网络的性能并减少设计优化中的错误.
科学领域:
- 计算电磁学的计算.
- 材料科学中的人工智能
- 纳米光子和元材料
背景情况:
- 纳米结构元材料的代优化方法依赖于数值解法器,这些数字解法器在计算上昂贵.
- 深度学习解决方案提供了更快的替代方案,但面临着数据转移等挑战,影响性能.
- 数据转移是一个微妙但至关重要的问题,可以降低电磁模拟中的AI模型的准确性.
研究的目的:
- 探索基于人工智能的电磁溶解器中的数据转移挑战,用于元材料设计.
- 用1D网格合器的案例研究来证明数据转移的存在和影响.
- 提出和验证用于减轻人工智能驱动电磁设计中的数据转移效应的策略.
主要方法:
- 使用一维格合器作为分析数据转移的案例研究.
- 采用概率密度方法和主要组件分析来检测和可视化数据转移.
- 实施和评估了三个缓解策略:混合培训,多头关注和综合方法.
主要成果:
- 在受数据转移影响的数据上训练时,神经网络的显著性能下降.
- 验证了建议策略在处理数据转移方面的有效性.
- 混合训练和多头注意力的结合方法在转移的数据上将平均绝对误差降低了约36%.
结论:
- 数据转移是基于人工智能的电磁溶解器在元材料设计中的关键挑战.
- 混合培训和多头注意力是缓解数据转移的有效策略.
- 这项工作为开发强大的AI解决方案提供了必要的指导,以实现最佳的纳米结构超材料设计.
