Auditoría de la deriva cognitiva en recomendaciones impulsadas por IA: un protocolo de métodos de IA responsable con...

Área de la Ciencia:

• Ciencia Cognitiva
• Neurociencia
• Ética de la Inteligencia Artificial

Sus antecedentes:

• La curación algorítmica puede inducir deriva cognitiva, afectando la percepción y el comportamiento del usuario.
• Los métodos existentes carecen de interpretabilidad y portabilidad para rastrear estos cambios.
• La investigación cognitiva y neurocognitiva requiere herramientas sólidas para evaluar la influencia algorítmica.

Objetivo del estudio:

• Proponer y validar un protocolo para detectar y rastrear la deriva cognitiva.
• Introducir un Índice de Deriva Cognitiva (CDI) para cuantificar estos cambios.
• Mapear las puntuaciones del CDI a bandas de gobernanza accionables para la IA responsable.

Principales métodos:

• Desarrollo de un protocolo para la detección de la deriva cognitiva.
• Construcción y validación de un Índice de Deriva Cognitiva (CDI) tridimensional.
• Aplicación de ANOVA de mínimos cuadrados ponderados para la estimación del efecto de la trayectoria utilizando videos cortos de salud como caso de estudio.

Principales resultados:

• El protocolo demostró interpretabilidad, sensibilidad, reproducibilidad y portabilidad entre dominios.
• El CDI cuantifica eficazmente la deriva cognitiva, con rangos establecidos y bandas de acción.
• Las pruebas de robustez confirmaron el patrón consistente y la utilidad práctica del protocolo.

Conclusiones:

• El protocolo propuesto y el CDI ofrecen un método confiable para monitorear el impacto algorítmico en la cognición.
• Esta herramienta apoya a los profesionales y equipos de IA responsable en la implementación de acciones de gobernanza proporcionales.
• El marco es adaptable para la validación multimodal, incluidos estudios de seguimiento ocular y EEG.