Arab2Vec: Un modelo de incorporación de palabras árabes para su uso en aplicaciones de PNL de Twitter

Área de la Ciencia:

• Procesamiento del lenguaje natural (PNL)
• Aprendizaje automático (ML)
• Lingüística computacional

Sus antecedentes:

• El análisis de datos de Twitter en árabe es crucial para comprender el sentimiento público, especialmente después de COVID-19.
• Los modelos de incorporación de palabras son esenciales para transformar los datos de texto en formatos numéricos para los algoritmos de aprendizaje automático.
• Los modelos de incorporación de palabras árabes existentes tienen limitaciones en su alcance y funcionalidad.

Objetivo del estudio:

• Para introducir Arab2Vec, un nuevo y actualizado modelo de incorporación de palabras diseñado específicamente para los datos de Twitter en árabe.
• Mejorar las aplicaciones de procesamiento de lenguaje natural en las redes sociales árabes.
• Proporcionar una alternativa superior a los modelos de incrustación de palabras árabes existentes.

Principales métodos:

• Construcción de Arab2Vec utilizando un gran conjunto de datos de aproximadamente 186 millones de tweets árabes (2008-2021).
• Implementación de gramos de salto con muestreo negativo, un nuevo enfoque para los modelos árabes.
• Desarrollo de nueve versiones distintas del modelo Arab2Vec con diferentes características y parámetros de formación.

Principales resultados:

• Arab2Vec demuestra un rendimiento superior en comparación con los modelos existentes en términos de palabras reconocidas y puntuación F1 para tareas de clasificación.
• El modelo muestra el manejo efectivo de emojis dentro del texto árabe.
• La validación a través de experimentos cualitativos y cuantitativos confirma la eficacia del modelo.

Conclusiones:

• Arab2Vec representa un avance significativo en los modelos de incorporación de palabras en árabe para los datos de Twitter.
• El lanzamiento de código abierto de Arab2Vec facilita una mayor investigación y aplicación en PNL.
• Las capacidades mejoradas del modelo ofrecen mejoras en el discurso de las redes sociales árabes.