Circuito explicado: Cómo realiza un transformador la generalización composicional

Área de la Ciencia:

• Inteligencia Artificial
• Ciencia Cognitiva
• Aprendizaje Automático

Sus antecedentes:

• La generalización composicional es clave para la cognición humana pero poco comprendida en las redes neuronales.
• El trabajo previo demostró que los transformadores pueden lograr una generalización composicional simple en tareas de secuencias.

Objetivo del estudio:

• Interpretar de manera mecanicista el circuito responsable de la generalización composicional en los modelos transformadores.
• Comprender cómo las redes neuronales logran la composición simbólica.

Principales métodos:

• Se utilizaron ablaciones causales para aislar el circuito neuronal específico.
• Se realizaron ediciones precisas de activación para analizar el comportamiento del circuito.
• Se investigaron representaciones desvinculadas de la posición y la identidad del token.

Principales resultados:

• Se identificó un circuito que realiza la composición de funciones.
• El circuito utiliza una regla general de reasignación de tokens basada en la posición y la identidad, no en la semántica específica de la función.
• Las ediciones de activación dirigieron predeciblemente las salidas del modelo.

Conclusiones:

• El circuito identificado proporciona una explicación mecanicista para la generalización composicional en los transformadores.
• Este hallazgo ofrece hipótesis comprobables para mecanismos similares en modelos de IA a gran escala.
• La comprensión de estos circuitos puede avanzar tanto en la investigación de IA como en la ciencia cognitiva.