大規模言語モデルは作成者のイデオロギーを反映する

科学分野:

• 科学の領域：人工知能
• 科学の領域：計算社会科学
• 科学の領域：自然言語処理

背景:

• 背景：大規模言語モデル（LLM）は、情報アクセスをますます形成しています。
• 背景：LLMの動作は、設計、トレーニング、使用によって影響を受けます。
• 背景：LLMのイデオロギー的な位置付けを理解することは、責任あるAI開発にとって重要です。

研究 の 目的:

• 目的：多様なLLMによる、政治的に関連のある人物のイデオロギー的描写を分析すること。
• 目的：LLMの評価における地政学的な地域や言語間の格差を特定すること。
• 目的：米国や中国などの特定の地域からのLLM内の規範的な違いを調査すること。

主な方法:

• 主要な方法：19の一般的なLLMに、3,991人の著名な政治家を描写するようにプロンプトしました。
• 主要な方法：LLMによって生成された描写のポジティブさを定量的に判断しました。
• 主要な方法：地政学的な地域（アラビア語、中国、ロシア、西洋）と言語（国連公用語）を横断するLLMの評価の比較分析を行いました。

主要な成果:

• 主要な結果：異なる地政学的な地域と言語的背景を持つLLM間には、著しいイデオロギーの格差が見られました。
• 米国ベースのLLMは、進歩的な価値観に関して規範的な違いを示しました。
• 中国のLLMは、国際的および国内的に焦点を当てたモデルとの間に分裂を示しました。
• LLMのイデオロギー的立場は、その作成者の世界観と相関しています。

結論:

• 結論：LLMのイデオロギー的な方向性は、その作成者の視点を反映しています。
• 結論：LLMは、固有のバイアスのために政治的な道具化のリスクをもたらします。
• 結論：イデオロギー的に「偏りのない」LLMの達成は、重大な技術的および規制上の課題に直面しています。