Un conjunto de grandes modelos de lenguaje para la infovigilancia de salud pública

Área de la Ciencia:

• Salud Pública La salud pública.
• La inteligencia artificial es inteligencia artificial.
• La lingüística computacional es la lingüística computacional.

Sus antecedentes:

• Las redes sociales son vitales para el compromiso de la salud pública.
• Los métodos actuales de infovigilancia carecen de capacidades en tiempo real, lo que dificulta las respuestas oportunas de salud pública.
• Existe la necesidad de herramientas avanzadas para monitorear las discusiones de salud pública en línea.

Objetivo del estudio:

• Desarrollar y evaluar PH-LLM, un nuevo conjunto de grandes modelos de lenguaje (LLM) para la infovigilancia de la salud pública en tiempo real.
• Evaluar el desempeño de PH-LLM en tareas en inglés y multilingüe.
• Proporcionar una solución rentable para el monitoreo del sentimiento de salud pública.

Principales métodos:

• Desarrolló PH-LLM, un conjunto de LLMs, utilizando técnicas QLoRA y LoRA más con Qwen 2.5.5.
• Curó un corpus de capacitación multilingüe para el PH-LLM.
• Construyó un punto de referencia de 19 tareas sostenidas en inglés y 20 en varios idiomas para la evaluación de tiro cero.

Principales resultados:

• PH-LLM consistentemente superó a los LLM de referencia tanto en tareas en inglés como multilingües.
• Los PH-LLM-14B y PH-LLM-32B superaron a los modelos líderes como el GPT-4o y el Llama-3.1-70B-Instruct.
• Logrado >=56.0% en tareas en inglés y >=59.6% en tareas multilingües, superando las líneas de base.

Conclusiones:

• PH-LLM ofrece un rendimiento de vanguardia para la infovigilancia de la salud pública en tiempo real.
• El modelo proporciona capacidades avanzadas multilingües para el monitoreo de la salud global.
• PH-LLM presenta un avance rentable en la comprensión del sentimiento de salud pública en línea.