Más allá de las cajas negras: uso de inteligencia artificial causal explicable para separar la señal del ruido en la...

Área de la Ciencia:

• Farmacovigilancia de las sustancias
• Inteligencia artificial
• Aprendizaje automático

Sus antecedentes:

• Los modelos de aprendizaje automático (ML) son prometedores para mejorar las tareas de farmacovigilancia (PV), como la clasificación de casos y la detección de señales.
• Los modelos actuales de aprendizaje automático a menudo funcionan como "cajas negras", limitando la transparencia y la confianza en sus procesos de toma de decisiones.
• El ML tradicional puede perpetuar los sesgos presentes en los sistemas de notificación espontánea, como la subnotificación y los datos faltantes.

Objetivo del estudio:

• Explorar el potencial y los desafíos de la integración de la IA en la energía fotovoltaica.
• Abogar por una transición hacia modelos de IA causalmente informados e interpretables en PV.
• Para resaltar la necesidad de una IA que mejore, en lugar de reemplazar, el juicio de expertos en seguridad de los medicamentos.

Principales métodos:

• Revisión de las aplicaciones actuales de IA en energía fotovoltaica.
• Discusión de las limitaciones del ML tradicional, incluida la falta de explicabilidad y la amplificación de sesgo.
• La exploración de la IA explicable (IAX) y la IA causal como posibles soluciones.

Principales resultados:

• La IA puede acelerar la identificación de posibles problemas de seguridad de los medicamentos.
• La falta de transparencia y el potencial de sesgo son desafíos significativos con la IA actual en PV.
• Los métodos de IA explicables y causales ofrecen resultados más interpretables y confiables, pero requieren un mayor desarrollo y validación.

Conclusiones:

• Un cambio hacia modelos de IA causalmente informados e interpretables es crucial para la FP creíble y ética.
• Las prioridades clave incluyen la integración de la inferencia causal, el desarrollo de conjuntos de datos de referencia, la alineación de los resultados con la lógica clínica y el establecimiento de una validación rigurosa.
• El objetivo es mejorar el juicio de los expertos con herramientas de IA transparentes y confiables para mejorar la vigilancia de la seguridad de los medicamentos.