Las representaciones sin parámetros superan a los modelos fundacionales de una sola célula en puntos de referencia...

Área de la Ciencia:

• Biología Computacional
• Genómica
• Aprendizaje Automático

Sus antecedentes:

• La secuenciación de ARN de célula única (scRNA-seq) genera datos complejos de expresión génica con estructura estadística inherente.
• Los modelos fundacionales, como TranscriptFormer, aprovechan las arquitecturas de transformadores para crear incrustaciones de genes para diversas tareas posteriores.
• Estos enfoques de aprendizaje profundo han logrado resultados de vanguardia (SOTA) en la clasificación de tipos de células, la predicción de enfermedades y el análisis entre especies.

Objetivo del estudio:

• Investigar si se puede lograr un rendimiento SOTA utilizando métodos computacionalmente más simples que los modelos fundacionales basados en aprendizaje profundo.
• Evaluar la eficacia de las canalizaciones interpretables basadas en la normalización y los métodos lineales para el análisis de datos de scRNA-seq.
• Comparar el rendimiento de los métodos lineales frente a los modelos fundacionales, particularmente en tareas fuera de distribución.

Principales métodos:

• Desarrollo de canalizaciones interpretables que utilizan técnicas cuidadosas de normalización de datos.
• Aplicación de métodos lineales para analizar datos de expresión génica y generar representaciones.
• Benchmarking frente a modelos fundacionales de una sola célula establecidos en múltiples conjuntos de datos y tareas.

Principales resultados:

• Las canalizaciones simples e interpretables lograron un rendimiento SOTA o cercano a SOTA en puntos de referencia comunes para modelos fundacionales de una sola célula.
• Estos métodos lineales superaron a los modelos fundacionales en tareas fuera de distribución, incluidos tipos de células y organismos novedosos.
• Los hallazgos indican que los datos de expresión génica se pueden representar eficazmente utilizando modelos lineales.

Conclusiones:

• Los modelos de aprendizaje profundo computacionalmente intensivos pueden no ser estrictamente necesarios para lograr un alto rendimiento en el análisis de datos de scRNA-seq.
• Las representaciones lineales interpretables pueden capturar información biológica significativa, incluida la identidad celular.
• El benchmarking riguroso es crucial para evaluar las verdaderas capacidades y la necesidad de modelos complejos en bioinformática.