Los modelos de IA se derrumban cuando se entrenan con datos generados recursivamente | JoVE Visualize

Área de la Ciencia:

Inteligencia artificial
Aprendizaje automático
Modelos generativos

Sus antecedentes:

La inteligencia artificial generativa (IA), incluidos los grandes modelos de lenguaje (LLM) como GPT-4 y los modelos de generación de imágenes como la difusión estable, está transformando rápidamente el contenido en línea.
El uso generalizado de texto e imágenes generadas por IA plantea preguntas sobre el futuro de los datos utilizados para entrenar estos modelos.
Los avances anteriores de la IA, como GPT-2, GPT-3 y GPT-4, han demostrado capacidades significativas en varias tareas lingüísticas.

Objetivo del estudio:

Investigar el impacto potencial de los grandes modelos lingüísticos (LLM) en los futuros datos de formación de la IA.
Identificar y analizar los defectos que surgen cuando los modelos de IA se entrenan en el contenido generado por el modelo.
Comprender las implicaciones de estos defectos para la sostenibilidad del desarrollo de la IA y el valor de diversas fuentes de datos.

Principales métodos:

Análisis teórico de modelos generativos, incluidos los LLM, los autoencoders variacionales (VAE) y los modelos de mezcla gaussiana (GMM).
Simulación y estudios empíricos para demostrar la aparición y los efectos del colapso del modelo.
La investigación sobre la pérdida de datos de distribución se detiene cuando los modelos se entrenan con datos sintéticos.

Principales resultados:

El uso indiscriminado de contenidos generados por modelos en la formación conduce a defectos irreversibles en los modelos de IA.
El fenómeno, denominado "colapso del modelo", causa la desaparición de las colas de la distribución de datos original.
Se ha demostrado que el colapso del modelo es un problema ubicuo en varios tipos de modelos generativos, incluidos LLM, VAE y GMM.

Conclusiones:

El colapso del modelo representa una amenaza significativa para la calidad y la diversidad a largo plazo del contenido generado por la IA.
El mantenimiento de los beneficios de la capacitación en datos web a gran escala requiere abordar el colapso del modelo.
Los datos que reflejan las interacciones humanas genuinas serán cada vez más valiosos como contramedida al colapso del modelo en la capacitación de IA.