¿Cómo ve una red neuronal profunda el estrés léxico en las palabras inglesas?

Área de la Ciencia:

• Procesamiento del habla.
• La lingüística computacional es la lingüística computacional.
• El aprendizaje automático es el aprendizaje automático.

Sus antecedentes:

• Las redes neuronales tienen éxito en el procesamiento del habla, pero a menudo funcionan como cajas negras.
• Interpretar las decisiones de las redes neuronales es crucial para comprender sus mecanismos.
• La predicción del estrés léxico es un desafío clave en la investigación del habla y el lenguaje.

Objetivo del estudio:

• Investigar el proceso de toma de decisiones de las redes neuronales en la predicción del estrés léxico.
• Aplicar técnicas de interpretabilidad para comprender cómo los modelos identifican patrones de estrés.
• Explorar las características que los modelos de aprendizaje profundo utilizan para la predicción de estrés en palabras en inglés.

Principales métodos:

• Construyó un conjunto de datos de palabras disilábicas inglesas de lectura y habla espontánea.
• Entrenó varias arquitecturas de redes neuronales convolucionales (CNN) para predecir la posición de estrés.
• Se utiliza la propagación de relevancia por capas (LRP, por sus siglas en inglés) para el análisis de interpretabilidad de redes neuronales.
• Se realizó un análisis de relevancia de características específicas para identificar señales acústicas influyentes.

Principales resultados:

• CNNs logró hasta un 92% de precisión en la predicción de la posición de estrés.
• La propagación de relevancia por capas indicó que las sílabas acentuadas versus no acentuadas, particularmente las propiedades espectrales de las vocales acentuadas, influyeron más en las predicciones.
• El clasificador de mejor rendimiento fue significativamente influenciado por el primer y segundo formantes de la vocal acentuada, con contribuciones de tono y tercer formant.
• Los modelos atendieron a la información en toda la palabra, no solo a señales localizadas.

Conclusiones:

• Los modelos de aprendizaje profundo pueden aprender de manera efectiva señales distribuidas para el estrés léxico a partir de datos de habla natural.
• El análisis de interpretabilidad revela que las CNN aprovechan características acústicas específicas, como formantes, para la predicción de estrés.
• Este trabajo extiende los estudios fonéticos tradicionales mediante el uso de datos naturales y la interpretabilidad del aprendizaje profundo.