Criterios de las partes interesadas para la confianza en herramientas de percepción por computadora basadas en...

Área de la Ciencia:

• Salud Mental Digital
• Interacción Humano-Computadora
• Informática Clínica

Sus antecedentes:

• Las tecnologías de percepción por computadora (CP) analizan datos de detección pasiva para obtener información sobre salud mental.
• La implementación exitosa de CP en la atención médica depende del establecimiento de la confianza de las partes interesadas.

Objetivo del estudio:

• Investigar los factores de confianza para las tecnologías de CP entre adolescentes, cuidadores, médicos y desarrolladores.
• Identificar las condiciones bajo las cuales las herramientas de CP se consideran confiables en entornos de atención médica.

Principales métodos:

• Se realizaron 80 entrevistas semiestructuradas con diversos grupos de partes interesadas (adolescentes, cuidadores, médicos, desarrolladores).
• Se utilizó un análisis de contenido temático inductivo multietapa para la interpretación de datos cualitativos.

Principales resultados:

• Se identificaron cinco prerrequisitos de confianza: alineación epistémica, rigor demostrable, explicabilidad, sensibilidad a la complejidad y un papel no sustitutivo.
• La alineación epistémica (consistencia de la salida con las creencias) surgió como un factor de confianza dominante, aunque potencialmente sesgado.
• Se observó confianza relacional a través de respaldos, pero plantea preocupaciones sobre la confianza mal aplicada sin validación.

Conclusiones:

• La confianza en las tecnologías de CP basadas en IA está moldeada por heurísticas cognitivas, factores sociales y alineación epistemológica, no solo por el rendimiento técnico.
• Se recomiendan marcos institucionales para la validación/supervisión y la capacitación de los médicos para mitigar el sesgo y garantizar la evaluación crítica.
• Es esencial recalibrar la confianza hacia las capacidades reales del sistema para una integración ética y efectiva de CP en la atención de la salud mental.