Investigación sobre cómo los médicos generan confianza en un modelo de IA para la salud mental: estudio de caso...

Área de la Ciencia:

• Tecnología de Salud Mental
• Inteligencia Artificial en Atención Médica
• Interacción Humano-Computadora

Sus antecedentes:

• La confianza en la inteligencia artificial (IA) es una barrera importante para su adopción en la atención de la salud mental.
• Este estudio investiga la formación de la confianza en un modelo de IA para la salud mental y su interfaz entre los médicos.

Objetivo del estudio:

• Explorar las perspectivas de los médicos sobre la generación de confianza en un modelo de detección de salud mental con soporte de IA.
• Identificar los factores que influyen en la formación de la confianza en las herramientas de IA para la salud mental.

Principales métodos:

• Estudio de caso cualitativo utilizando entrevistas semiestructuradas con médicos.
• Se empleó análisis temático para identificar los factores clave de formación de la confianza.

Principales resultados:

• La confianza de los médicos evolucionó secuencialmente: comprensión, evaluación de riesgos y dependencia condicional.
• La explicabilidad del modelo (visualizaciones, atribución de características, pseudo-sumas) fue crucial para la confianza.
• La confianza estuvo limitada al contexto de escenarios de bajo riesgo y protocolos de seguridad; se necesitan diversos tipos de datos y evaluación continua para una confianza más amplia.

Conclusiones:

• La confianza del médico en la IA se construye contextual y secuencialmente, dependiendo del rendimiento del modelo y la alineación con el razonamiento clínico.
• Las características de interpretabilidad, presentadas en formatos familiarizados clínicamente, son esenciales para la confianza intrínseca.
• La implementación responsable de la IA requiere datos de evaluación rigurosos y la integración de datos clínicamente relevantes.