基于共享信息来预测点击率的脱而出的自我注意神经网络
Yingqi Wang1,2, Huiqin Ji1,2, Xin He1,2
1Henan University, School of Software, Kaifeng, Kaifeng, China.
PeerJ. Computer science
|January 23, 2024
概括
这项研究介绍了一种新的自我注意力神经网络 (DSAN),用于点击率 (CTR) 预测. DSAN通过模拟单元术语和通过共享层优化功能交互来提高准确性.
科学领域:
- 计算机科学 计算机科学
- 人工智能的人工智能
- 机器学习 机器学习
背景情况:
- 推系统通过不断增长的网络资源来应对信息过载.
- 点击率 (CTR) 预测对于智能推系统至关重要.
- 现有的CTR模型使用并行网络,但忽略了单元术语,导致输入过度共享.
研究的目的:
- 提出一种用于CTR预测的新型解脱自我注意神经网络 (DSAN).
- 解决现有模型关于单期相互作用和特征输入过度共享的局限性.
- 为了更有效地模拟复杂的特征相互作用.
主要方法:
- 使用嵌入层将高维稀疏特征转换为低维密矩阵.
- 利用分离的多头自我注意力来学习特征关系.
- 实施共享交互层,以加强并行网络内的信息共享.
主要成果:
- 与现有模型相比,拟议的DSAN方法显示出更高的预测准确性.
- 在两个真实世界数据集上的实验验验证了DSAN的有效性.
- DSAN成功地模拟了复杂的特征相互作用,包括单项.
结论:
- 在CTR预测准确度方面,DSAN提供了显著的进步.
- 该模型有效地解决了推系统中的信息过载问题.
- DSAN为特征交互建模提供了一种更复杂的方法.
