中国に由来する大型言語モデルにおける政治的検閲
1Department of Communication, Stanford University, 450 Jane Stanford Way, Stanford, CA 94305, USA.
PNAS nexus
|February 19, 2026
まとめ
政府による検閲は,大型言語モデル (LLM) の政治的バイアスを引き起こす可能性があります. 中国発祥のLLMは,中国以外のモデルよりも多くの検閲を示しており,規制圧力がAIの政治的バイアスに影響を及ぼすことを示唆しています.
科学分野:
- 人工知能 (AI) とは,人工知能 (AI) のことです.
- 自然言語処理 (Natural Language Processing) とは,自然言語処理で処理される言語のことです.
- テクノロジーの社会的影響
背景:
- 大型言語モデル (LLM) は,社会的なパターンを反映したバイアスをしばしば示す.
- LLMのバイアスの調査されていない源は,政府の検閲です.
- 検閲の影響を理解することは,AIの開発と展開に不可欠です.
研究 の 目的:
- 政府の検閲が大型言語モデル (LLM) に与える影響を調査する.
- 中国で開発されたLLMの政治的偏見と,他の場所で開発されたLLMの政治的偏見を比較する.
- LLMバイアスの他の潜在的な源から検閲バイアスを区別するために.
主な方法:
- 中国と中国以外の地域からの基礎モデルの比較分析.
- 評価は,異なる敏感度レベルの145の政治的質問の電池を用いて行われました.
- 応答率,応答の長さ,および応答の正確さの評価.
主要な成果:
- 中国産のLLMは,非中国産のモデルと比較して,政治的誘導に対する拒絶率,回答の短縮,および不正確性の増加が著しく高かった.
- 政治的に敏感でないプロンプトの差は減少し,検閲が重要な要因であることを示した.
- 言語 (中国語と英語) が回答に影響を及ぼしたが,LLM (中国語と非中国語) の起源は,検閲のバイアスにより顕著な影響を及ぼした.
結論:
- 政治的なコンテンツを制限する規制の圧力によって引き起こされる政府の検閲は,LLMの政治的バイアスに大きく寄与しているようです.
- 観測データは,AIモデルにおける規制環境と検閲行動の相関関係を示唆している.
- 原因関係を確立するためにさらなる研究が必要ですが,この調査結果は,政治コンテンツのモデレーションに関するAI開発の透明性の必要性を強調しています.
関連する概念動画
Censoring Survival Data
598
Survival analysis is a statistical method used to analyze time-to-event data, often employed in fields such as medicine, engineering, and social sciences. One of the key challenges in survival analysis is dealing with incomplete data, a phenomenon known as "censoring." Censoring occurs when the event of interest (such as death, relapse, or system failure) has not occurred for some individuals by the end of the study period or is otherwise unobservable, and it might have many different...
598
Language and Cognition
836
Language serves as a bridge between ideas and communication, influencing how individuals perceive and interact with the world. Psychologists have long debated whether language shapes thought or vice versa. This discussion gained grip with Edward Sapir and Benjamin Lee Whorf in the 1940s, who proposed that language determines thought, a concept known as linguistic determinism. They suggested that the vocabulary and structure of a language influence how its speakers think and perceive reality.
836
Leaky Scanning
5.8K
During most eukaryotic translation processes, the small 40S ribosome subunit scans an mRNA from its 5' end until it encounters the first start AUG codon. The large 60S ribosomal subunit then joins the smaller one to initiate protein synthesis. The location of the translation initiation is largely determined by the nucleotides near the start codon as there may be multiple translation initiation sites present on the mRNA. Marilyn Kozak discovered that the sequence RCCAUGG (where R...
5.8K
Regulation of Expression at Multiple Steps
1.4K
The gene expression in cells is regulated at different stages: (i) transcription, (ii) RNA processing, (iii) RNA localization, and (iv) translation. Transcriptional regulation is mediated by regulatory proteins such as transcription factors, activators, or repressors—these control gene expression by initiating or inhibiting the transcription of genes. Once a precursor or pre-mRNA is produced, it undergoes post-transcriptional modification, including 5' capping, splicing, and the...
1.4K

