Sesgo algorítmico y transparencia en herramientas de inteligencia artificial para la educación de enfermería: una...

Área de la Ciencia:

• Tecnología de Educación de Enfermería
• Inteligencia Artificial en Atención Médica
• Minería de Datos Educativos

Sus antecedentes:

• La inteligencia artificial (IA) se integra cada vez más en la educación de enfermería a través de sistemas de tutoría, simulaciones virtuales, modelos predictivos, chatbots y calificación automatizada.
• Si bien mejora la personalización y la eficiencia, estas herramientas de IA pueden introducir sesgos y opacidad, lo que podría afectar la equidad, los resultados del aprendizaje y la confianza de los estudiantes.

Objetivo del estudio:

• Sintetizar la literatura existente sobre el sesgo algorítmico y la transparencia en las herramientas de IA utilizadas en la educación de enfermería.
• Identificar aplicaciones comunes de IA, tipos de sesgos encontrados, desafíos de transparencia y estrategias de mitigación efectivas.

Principales métodos:

• Se realizó una revisión de alcance exhaustiva, buscando en bases de datos como PubMed, CINAHL, Scopus, IEEE Xplore, ACM Digital Library y literatura gris.
• Se incluyeron fuentes publicadas entre enero de 2015 y abril de 2025 si examinaban la IA en la educación de enfermería y abordaban el sesgo, la equidad o la transparencia.
• Los datos se sintetizaron narrativamente y se organizaron temáticamente.

Principales resultados:

• Treinta y cinco estudios fueron incluidos, informando sobre herramientas de IA como sistemas de tutoría, pacientes virtuales, chatbots, análisis predictivos y tecnologías de calificación.
• Los sesgos se vincularon con conjuntos de datos no representativos y un diseño estrecho, lo que podría desfavorecer a los estudiantes en función de la raza, la etnia, el género, el idioma o las preferencias de aprendizaje.
• Los problemas de transparencia surgieron de modelos propietarios, divulgación limitada de datos/reglas y falta de explicabilidad, lo que planteó preocupaciones éticas sobre la autonomía, la equidad y la confianza.
• Las estrategias de mitigación incluyeron la selección inclusiva de datos, características de explicabilidad, auditorías y supervisión.

Conclusiones:

• El sesgo algorítmico y las limitaciones de transparencia en las herramientas de IA crean desafíos éticos significativos en la educación de enfermería.
• Las estrategias para una integración alineada con los valores requieren principios de diseño inclusivos, una mayor transparencia del sistema y esfuerzos colaborativos entre educadores, desarrolladores e instituciones.