在消防人员的人机组中,有意义的人类控制和可变的自主性
Ruben S Verhagen1,2, Mark A Neerincx1,3, Myrthe L Tielman1,2
1Interactive Intelligence, Intelligent Systems Department, Delft University of Technology, Delft, Netherlands.
Frontiers in robotics and AI
|February 16, 2024
概括
研究人员探索了如何在使用可变自主性的人机消防队中测量有意义的人类控制. 他们提出了一种评估方法,重点关注可追溯性,情境意识和性能,以确保机器人保持在人类监督之下.
科学领域:
- 机器人技术 机器人技术 机器人技术
- 人与机器人的交互
- 人工智能伦理学 人工智能伦理学
背景情况:
- 人机协作在消防等复杂任务中越来越多.
- 确保对自主机器人的有意义的人类控制 (MHC) 是至关重要的.
- 可变自主性的方法旨在通过问责制,责任和透明度,平衡机器人自主性与人类监督.
研究的目的:
- 为了实现和测量有意义的人类控制 (MHC) 在动态的人机组合的消防.
- 为解决可变自主系统设计人员缺乏系统性指标的问题.
- 探索用于验证机器人辅助消防中MHC的定量方法.
主要方法:
- 一个定性焦点小组 (n=5名专家) 探索了MHC的定量操作.
- 研究了使用可变自主性的动态任务分配,机器人识别道德敏感性.
- 通过反射主题分析分析焦点组数据.
主要成果:
- 量化可追溯性是衡量MHC的关键.
- 情况意识和绩效可以客观地衡量可追溯性方面的方面.
- 团队/机器人结果验证MHC,但了解结果背后的原因对于确定MHC的水平至关重要.
结论:
- 提出了一种评估方法,以验证MHC在可变自主的人机消防队中的评估方法.
- 该方法通过模拟期间/之后的人类反应主观和客观地量化可追溯性.
- 半结构面试确定结果的潜在原因,并建议改进可变自主方法.
