Conjunto de datos de imágenes justas centradas en el ser humano para el benchmarking ético de la IA

Área de la Ciencia:

• Visión por computadora
• Inteligencia artificial (IA)
• Ética del aprendizaje automático

Sus antecedentes:

• La IA y la visión por computadora se basan en vastos conjuntos de datos, a menudo recopilados sin consideraciones éticas, lo que lleva a datos sesgados y no diversos.
• Los conjuntos de datos existentes perpetúan sesgos y carecen de consentimiento, lo que compromete la equidad, la precisión y los derechos de las partes interesadas del modelo de IA.
• Existe una brecha significativa en los conjuntos de datos de origen ético disponibles públicamente para evaluar el sesgo en las tareas de visión por computadora.

Objetivo del estudio:

• Introducir el Fair Human-Centric Image Benchmark (FHIBE), un conjunto de datos de imágenes humanas novedosos y curados éticamente.
• Proporcionar un recurso para evaluar y mitigar el sesgo en varias aplicaciones de visión por computadora centradas en el ser humano.
• Establecer las mejores prácticas para la recopilación y conservación de datos responsables en IA.

Principales métodos:

• Desarrollado FHIBE con un enfoque en el consentimiento, la privacidad, la compensación, la seguridad, la diversidad y la utilidad.
• Implementó anotaciones completas que incluyen atributos demográficos, físicos, ambientales y a nivel de píxeles.
• FHIBE diseñado para su uso en evaluaciones de equidad en tareas como la estimación de la postura, la segmentación y el reconocimiento facial.

Principales resultados:

• FHIBE ofrece un punto de referencia disponible públicamente y de origen ético para la equidad de la IA.
• Las anotaciones detalladas del conjunto de datos permiten la identificación de diversos sesgos.
• FHIBE facilita el diagnóstico de sesgo matizado para mejorar el desarrollo de modelos de IA.

Conclusiones:

• FHIBE representa un avance significativo en la creación de una IA confiable.
• El índice de referencia eleva el estándar para las evaluaciones de equidad en la visión por computadora.
• FHIBE proporciona una hoja de ruta para la conservación responsable de datos en el campo de la IA.