人間とAIの協調：パフォーマンスと好みのトレードオフ

科学分野:

• ヒューマンコンピュータインタラクション
• 人工知能
• 認知科学

背景:

• 協調AIシステムに人間の入力を統合することは、重大な設計上の課題をもたらします。
• 効果的な人間とAIの協調を開発するには、人間の好みを理解することが不可欠です。

研究 の 目的:

• さまざまな適応戦略を持つ協調AIエージェントに対する人間の好みを体系的に調査すること。
• 人間とAIの協調における人間の選択に影響を与える要因を特定すること。

主な方法:

• 5つの異なる適応戦略を持つ協調AIエージェントを評価するためのタスクを開発しました。
• 参加者はエージェントと対話し、その特性を評価し、好ましいエージェントを選択しました。
• エージェント戦略、チームパフォーマンス、認識されたAI特性、および人間の好みを分析するためにベイズモデルを採用しました。

主要な成果:

• 人間の行動を考慮する協調AIエージェントは、パフォーマンスを最大化するエージェントよりも好まれました。
• 人間中心のAIデザインは、チームのパフォーマンスを損なうことなく、AI協力者の好感度を向上させました。
• 不平等回避が重要な要因として特定され、人間は意味のある貢献を可能にするエージェントを好むことがわかりました。

結論:

• 人間中心のデザイン原則は、好感度が高く効果的なAI協力者を開発するために不可欠です。
• 主観的な好みと客観的なパフォーマンス指標のバランスをとることが、人間とAIの協調を成功させるために不可欠です。
• 意味のある貢献に対する人間の欲求に対処することは、AIシステムの受容性と有用性を高めることができます。