安定した拡散テキストから画像モデルにおける毒性およびバイアスの調査
Matthias Schneider1, Thilo Hagendorff2
1Hasso-Plattner Institute, University of Potsdam , Potsdam, Germany. matthias.schneider@student.hpi.uni-potsdam.de.
Scientific reports
|August 26, 2025
まとめ
Stable Diffusionのような人気のあるテキストから画像へのモデルは 危険なコンテンツを生み出し 暴力的で偏った画像も含みます これは,AI画像生成がより広く普及するにつれて,緊急の安全対策の必要性を強調しています.
科学分野:
- 人工知能
- コンピュータ・ビジョン
- AI エシック
背景:
- テキストから画像へのモデルが急速に進歩し,安全性と公平性の懸念が高まっています.
- 人工知能の画像生成のアクセシビリティが増えつつあるため,潜在的な害を徹底的に評価する必要がある.
研究 の 目的:
- 有害なコンテンツを生成する一般的な安定拡散モデルの傾向を調査する.
- 有害なプロンプトに対するAI生成画像のバイアスを特定する.
主な方法:
- 有害なプロンプトを使用した10の安定拡散モデルの評価.
- 性的な,暴力的な,そして敏感なコンテンツの生成画像の分析.
- モデル拒否行動と安全メカニズムの評価
主要な成果:
- セクシュアルや暴力的な画像を含む 不適切なコンテンツを生成しました
- 暴力的な状況での黒人の不釣り合いの描写など,重大なバイアスが観察されました.
- 評価されたモデルでは,拒絶行動や安全対策は検出されなかった.
結論:
- 現在の安定拡散モデルには 重要な安全機能が欠けていて 危険性があります
- バイアスに対処し,安全プロトコルを実装することは,責任あるAI開発に不可欠です.
- 人工知能のイメージ生成の普及は 倫理的な考慮に緊急の注意を 求めています
関連する概念動画
Assessment of Diffusion and Perfusion
1.1K
Understanding and evaluating diffusion and perfusion is critical in assessing a patient's respiratory and circulatory health. These processes play key roles in maintaining the body's internal environment, ensuring that tissues receive adequate oxygen while waste products are efficiently removed.
The Role of Diffusion in Respiration
Diffusion is the process by which molecules move from an area of higher concentration to an area of lower concentration. In the respiratory system, this...
The Role of Diffusion in Respiration
Diffusion is the process by which molecules move from an area of higher concentration to an area of lower concentration. In the respiratory system, this...
1.1K
Physiological Pharmacokinetic Models: Blood Flow-Limited Versus Diffusion-Limited Models
142
Physiological pharmacokinetic models, often called flow-limited or perfusion models, typically assume a swift drug distribution between tissue and venous blood, creating a rapid drug equilibrium. This premise is based on the idea that drug diffusion is extremely fast, and the cell membrane presents no barrier to drug permeation. In this scenario, where no drug binding occurs, the drug concentration in the tissue equals that of the venous blood leaving the tissue. This greatly simplifies the...
142
Diffusion
4.9K
Diffusion is a type of passive transport. In passive transport, a substance tends to move from an area of high concentration to an area of low concentration until the concentration is equal across the space. For example, take the diffusion of substances through the air. When someone opens a perfume bottle in a room filled with people, the perfume is at its highest concentration in the bottle and is at its lowest at the edges of the room. The perfume vapor will diffuse, or spread away, from the...
4.9K


