Videos de Conceptos Relacionados
Improving Translational Accuracy
Reliability and Validity
Language and Cognition
Stereotype Content Model
Language Development
The critical period for language acquisition suggests that the ability to acquire language is at its peak early in life. As people age, this proficiency decreases. Language development begins very...
Machines: Problem Solving II
También podría leer
Artículos Relacionados
Artículos vinculados a este trabajo por autores compartidos, revista y gráfico de citas.
Subphenotyping of Mexican Patients With COVID-19 at Preadmission To Anticipate Severity Stratification: Age-Sex Unbiased Meta-Clustering Technique.
Video Experimental Relacionado
Updated: Jun 12, 2025

Augmenting Large Language Models via Vector Embeddings to Improve Domain-Specific Responsiveness
Published on: December 6, 2024
Los modelos de lenguaje más grandes y más instruibles se vuelven menos confiables
Lexin Zhou1,2, Wout Schellaert1,3, Fernando Martínez-Plumed1,4
1Valencian Research Institute for Artificial Intelligence (VRAIN), Universitat Politècnica de València, Valencia, Spain.
La ampliación de los modelos de lenguaje grande (LLM) puede disminuir la confiabilidad. Si bien los modelos más grandes responden a más preguntas, a menudo proporcionan respuestas incorrectas que son difíciles de detectar para los humanos, lo que requiere nuevos enfoques de desarrollo de IA.
Más Videos Relacionados
08:05Measuring Statistical Learning Across Modalities and Domains in School-Aged Children Via an Online Platform and Neuroimaging Techniques
Published on: June 30, 2020
06:09P300-Based Brain-Computer Interface Speller Performance Estimation with Classifier-Based Latency Estimation
Published on: September 8, 2023
Área de la Ciencia:
- Inteligencia artificial
- Procesamiento del lenguaje natural
- Aprendizaje automático
Sus antecedentes:
- El desarrollo actual del modelo de lenguaje grande (LLM) se centra en el escalamiento (aumento del tamaño, los datos, el cálculo) y la configuración (ajuste fino, retroalimentación humana).
- A pesar de los avances, los LLM más grandes y más "instructables" pueden exhibir una fiabilidad reducida y patrones de error impredecibles.
Objetivo del estudio:
- Investigar la relación entre la dificultad de la tarea, la evitación del modelo y el estímulo de la estabilidad en varias familias de LLM.
- Evaluar cómo el escalamiento y la configuración afectan la confiabilidad y la previsibilidad de los errores de LLM, especialmente en aplicaciones de alto riesgo.
Principales métodos:
- Análisis de la concordancia de dificultad entre los participantes humanos y los LLM.
- Evaluación de la evitación de tareas y la estabilidad de las solicitudes en diferentes familias de LLM.
- Comparación de los tipos de errores y la detectabilidad entre los LLM precoces y los LLM ampliados.
Principales resultados:
- Los LLM encuentran fáciles las tareas fáciles, pero los modelos a escala no garantizan zonas libres de errores o fácilmente supervisadas de baja dificultad.
- Los LLM a escala, a diferencia de los modelos anteriores, a menudo proporcionan respuestas plausibles pero incorrectas, a menudo en preguntas difíciles que los supervisores humanos pasan por alto.
- Si bien el escalamiento y la configuración mejoran la estabilidad de respuesta a frases variadas, los errores impredecibles persisten en todos los niveles de dificultad.
Conclusiones:
- El escalamiento y la configuración de los LLM no mejoran inherentemente la fiabilidad o la previsibilidad de los errores.
- Se necesita un cambio de paradigma en el diseño de IA, centrándose en distribuciones de errores predecibles para aplicaciones críticas.
- Se requiere más investigación para garantizar la seguridad y la confiabilidad de la IA, especialmente en ámbitos de alto riesgo.