对于手语翻译的ADAT新的时间序列感知自适应变压器架构
Nada Shahin1,2, Leila Ismail3,4,5
1Intelligent Distributed Computing and Systems (INDUCE) Lab, Department of Computer Science and Software Engineering, College of Information Technology, United Arab Emirates University, Al Ain, Abu Dhabi, United Arab Emirates.
本研究介绍了ADAT,这是用于手语翻译的自适应变压器,通过有效建模时间依赖来提高准确性和减少训练时间. ADAT 增强了用于手语识别的机器翻译.
科学领域:
- 计算机科学 计算机科学
- 人工智能的人工智能
- 自然语言处理自然语言处理.
背景情况:
- 当前的手语翻译系统在精细的时间依赖性和高效的培训方面扎.
- 变压器架构虽然对远程依赖有效,但对于高率的手势识别效率低下.
研究的目的:
- 引入ADAT,一个适应式变压器架构,以改进手语机器翻译.
- 解决现有模型中识别短期时间依赖性和二次注意力复杂性的局限性.
主要方法:
- 开发了ADAT,结合了卷积特征提取,日志稀疏自我注意力和自适应性网关.
- 在RWTH-PHOENIX-Weather-2014 (PHOENIX14T),ISL-CSLTR和MedASL医疗手语库中评估了ADAT.
主要成果:
- 通过ADAT,BLEU-4在标志转光转文本翻译方面的成绩至少提高了0.1%,培训时间减少了21%.
- 在符号到文本翻译方面,ADAT实现了最低0.5%的BLEU-4增长,平均培训速度提高了21.8%.
- 在符号到文本的翻译中,ADAT的准确性至少比仅编码器和仅解码器的基线高0.7%.
结论:
- 在手语中,ADAT有效地模拟了短期和长期的时间依赖性.
- 拟议的自适应变压器架构为手语机器翻译提供了更准确,更有效的解决方案.
更多相关视频
09:53Author Spotlight: Advancing Techniques and Discoveries in Protein Synthesis and Assembly Through Innovative Mitochondrial Research
Published on: June 7, 2024
08:33Three Dimensional Cultures: A Tool To Study Normal Acinar Architecture vs. Malignant Transformation Of Breast Cells
Published on: April 25, 2014
相关概念视频
Time-Series Graph
Discrete-Time Fourier Series
For a discrete-time periodic signal x[n]...
Self-Awareness and Its Effects
Continuous -time Fourier Transform
Discrete-time Fourier transform
One of the notable...
Altered States of Awareness
The ingestion of substances like stimulants or hallucinogens leads to chemical alterations in the brain...
