Auditar datos de capacitación no autorizados de contenido generado por IA utilizando isótopos de información

Área de la Ciencia:

• La inteligencia artificial es inteligencia artificial.
• Ciencia de datos Ciencia de datos.
• Ciencias de la computación Ciencias de la computación

Sus antecedentes:

• El rápido crecimiento de la IA se basa en vastos datos humanos, lo que plantea preocupaciones sobre la propiedad intelectual y las violaciones de la privacidad.
• Auditar el uso indebido de la IA es difícil debido a los sistemas de caja negra que ocultan los procesos de entrenamiento e inferencia.

Objetivo del estudio:

• Introducir un nuevo método para rastrear los datos de entrenamiento dentro de los sistemas de IA opacos.
• Proporcionar un marco para detectar y evidenciar la utilización de datos en modelos de IA.

Principales métodos:

• Inspirado en el rastreo de isótopos químicos, el estudio propone "isótopos de información" para marcar y rastrear datos.
• Un marco marca selectivamente los elementos de datos objetivo y detecta su propagación en las salidas del modelo de IA.
• El método permite la auditoría de caja negra del uso de datos.

Principales resultados:

• Los experimentos con trece modelos de IA en seis conjuntos de datos muestran una alta precisión (hasta el 99%) en distinguir la capacitación de los datos de no capacitación.
• Los resultados demuestran una fuerte significación estadística (p < 0,01) con aproximadamente 4.000 palabras de evidencia.
• El enfoque proporciona evidencia concreta de la utilización de los datos.

Conclusiones:

• El marco de seguimiento de isótopos de información ofrece una solución práctica para proteger los derechos de datos en IA.
• Una herramienta de código abierto está disponible para apoyar la implementación de este método de rastreo de datos.
• Este trabajo aborda desafíos críticos en la transparencia de la IA y la gobernanza de los datos.