Sistemas robóticos basados en LLM para aplicaciones del mundo real: una revisión de su agenticidad y ética

Área de la Ciencia:

• Robótica y inteligencia artificial
• Interacción hombre-robot
• Ética del aprendizaje automático

Sus antecedentes:

• Los sistemas de inteligencia artificial operan de forma autónoma, tomando decisiones y tomando acciones con un mínimo de intervención humana.
• Los grandes modelos de lenguaje (LLM) ofrecen capacidades avanzadas de razonamiento y conocimiento, lo que permite nuevas posibilidades para la autonomía robótica.
• La integración de LLM en sistemas robóticos es un campo de rápido desarrollo con importantes aplicaciones en el mundo real.

Objetivo del estudio:

• Proporcionar una encuesta exhaustiva de los sistemas robóticos basados en LLM que exhiben comportamientos agentes en aplicaciones del mundo real.
• Introducir un nuevo sistema de clasificación para evaluar la "autenticidad" de los robots impulsados por LLM.
• Establecer un marco de evaluación ética y de seguridad para estos sistemas robóticos avanzados.

Principales métodos:

• Categoría sistemática de los sistemas robóticos basados en LLM en los principales dominios de aplicación (navegación, manipulación, multi-agente, multitarea).
• Desarrollo de una nueva clasificación de la agenticidad basada en la autonomía, la orientación hacia objetivos, la adaptabilidad y la toma de decisiones.
• Creación de un marco de evaluación para los principios éticos, de seguridad y de transparencia (parcialidad, equidad, solidez, seguridad, supervisión, explicabilidad, auditabilidad, cumplimiento).

Principales resultados:

• Identificó y clasificó diversos sistemas robóticos impulsados por LLM que demuestran comportamientos agenticos validados.
• Propuso una nueva métrica para cuantificar el nivel de agenticidad en robots impulsados por LLM.
• Destacó las principales lagunas, tensiones y compensaciones en los enfoques actuales relativos a las capacidades y las salvaguardias éticas.

Conclusiones:

• La integración de LLM está avanzando significativamente las capacidades de los agentes robóticos.
• Un marco sólido es crucial para evaluar y garantizar el despliegue ético y seguro de estos sistemas.
• La investigación continua es esencial para alinear los robots con LLM cada vez más capaces con las normas y los valores de la sociedad.