Construcción de IA Biomédica Justa y Confiable: Una Herramienta para Identificar Puntos Clave de Decisión

Área de la Ciencia:

• IA Biomédica
• Informática de la Salud
• Ética de la IA

Sus antecedentes:

• La inteligencia artificial (IA) ofrece un potencial transformador en biomedicina, mejorando el diagnóstico, el descubrimiento de fármacos y la atención al paciente.
• Sin embargo, la implementación de la IA plantea importantes preocupaciones éticas, incluido el sesgo algorítmico, las inequidades en la salud y los riesgos de privacidad de datos.
• Abordar estos problemas requiere un enfoque en la equidad, la confianza y la confiabilidad en el desarrollo y la implementación de la IA.

Objetivo del estudio:

• Proponer un marco para integrar la responsabilidad ética en la IA biomédica.
• Presentar el Mapa de Decisión de IA Confiable, una herramienta adaptada para guiar la toma de decisiones éticas en todo el ciclo de vida de la IA.
• Facilitar el diálogo entre múltiples partes interesadas y la rendición de cuentas institucional en el desarrollo de una IA justa y confiable.

Principales métodos:

• Se adaptó un marco de mapeo de decisiones de la investigación en medicina de precisión.
• Se desarrolló el Mapa de Decisión de IA Confiable para identificar puntos clave de decisión ética en el desarrollo de la IA.
• Se ilustró la aplicación de la herramienta utilizando un caso de estudio de implementación de IA en atención médica rural.

Principales resultados:

• El Mapa de Decisión de IA Confiable visualiza puntos críticos de decisión que impactan la equidad y confiabilidad de la IA.
• El mapa ayuda a anticipar consecuencias posteriores y a integrar perspectivas de diversas partes interesadas.
• Apoya el establecimiento de la rendición de cuentas institucional para prácticas de IA éticas.

Conclusiones:

• Las consideraciones éticas deben integrarse en los niveles institucional e individual en la IA biomédica.
• La participación de múltiples partes interesadas, especialmente de grupos subrepresentados, es crucial para una IA equitativa.
• Se necesita una validación empírica adicional del Mapa de Decisión de IA Confiable para refinar su utilidad en la promoción de una IA biomédica justa y confiable.