AIシステムにおけるバイアス：形式的アプローチと社会技術的アプローチの統合

科学分野:

• コンピュータサイエンス
• 社会学
• 倫理

背景:

• 人工知能（AI）システムは、ヘルスケアや金融などの重要な分野で普及しています。
• AIは既存の社会的不平等を永続させ、悪化させる可能性があることが示されています。
• これにより、AI展開に関する重大な倫理的、社会的、技術的な懸念が生じています。

研究 の 目的:

• AIシステムにおけるバイアスを形式的に定義し、分類すること。
• AIバイアスの起源、現れ方、影響を調査すること。
• 現在のバイアス緩和戦略を批判的に評価し、統合フレームワークを提案すること。

主な方法:

• バイアスの形式的な数学的定義と社会技術的視点の統合。
• バイアスを4つのファミリに分類：歴史的/表現的、選択的/測定的、アルゴリズム的/最適化的、フィードバック/創発的。
• 顔認識、大規模言語モデル、信用スコアリング、ヘルスケア、雇用、刑事司法を含むドメインを横断するケーススタディ分析。

主要な成果:

• AIシステムにおけるバイアスは、複数の相互に関連する原因から生じ、さまざまなアプリケーションにわたって現れます。
• データセットの多様化や公平性を考慮したモデリングを含む現在の緩和戦略には限界があります。
• ライフサイクルのバイアス管理には、統計的診断とガバナンスメカニズムを組み合わせた統合フレームワークが不可欠です。

結論:

• AIバイアスに対処するには、技術的な厳密さと社会学的な理解を橋渡しする学際的なアプローチが必要です。
• 提案されたフレームワークは、公平で、説明責任があり、応答性の高いAIシステムを開発するための指針となることを目的としています。
• この研究は、多様な人口に公平にサービスを提供するAIを作成するための重要な洞察を提供します。