Los modelos de IA se derrumban cuando se entrenan con datos generados recursivamente

Área de la Ciencia:

• Inteligencia artificial
• Aprendizaje automático
• Modelos generativos

Sus antecedentes:

• La inteligencia artificial generativa (IA), incluidos los grandes modelos de lenguaje (LLM) como GPT-4 y los modelos de generación de imágenes como la difusión estable, está transformando rápidamente el contenido en línea.
• El uso generalizado de texto e imágenes generadas por IA plantea preguntas sobre el futuro de los datos utilizados para entrenar estos modelos.
• Los avances anteriores de la IA, como GPT-2, GPT-3 y GPT-4, han demostrado capacidades significativas en varias tareas lingüísticas.

Objetivo del estudio:

• Investigar el impacto potencial de los grandes modelos lingüísticos (LLM) en los futuros datos de formación de la IA.
• Identificar y analizar los defectos que surgen cuando los modelos de IA se entrenan en el contenido generado por el modelo.
• Comprender las implicaciones de estos defectos para la sostenibilidad del desarrollo de la IA y el valor de diversas fuentes de datos.

Principales métodos:

• Análisis teórico de modelos generativos, incluidos los LLM, los autoencoders variacionales (VAE) y los modelos de mezcla gaussiana (GMM).
• Simulación y estudios empíricos para demostrar la aparición y los efectos del colapso del modelo.
• La investigación sobre la pérdida de datos de distribución se detiene cuando los modelos se entrenan con datos sintéticos.

Principales resultados:

• El uso indiscriminado de contenidos generados por modelos en la formación conduce a defectos irreversibles en los modelos de IA.
• El fenómeno, denominado "colapso del modelo", causa la desaparición de las colas de la distribución de datos original.
• Se ha demostrado que el colapso del modelo es un problema ubicuo en varios tipos de modelos generativos, incluidos LLM, VAE y GMM.

Conclusiones:

• El colapso del modelo representa una amenaza significativa para la calidad y la diversidad a largo plazo del contenido generado por la IA.
• El mantenimiento de los beneficios de la capacitación en datos web a gran escala requiere abordar el colapso del modelo.
• Los datos que reflejan las interacciones humanas genuinas serán cada vez más valiosos como contramedida al colapso del modelo en la capacitación de IA.