人工知能が幻覚を起こすのは 作り話をするように訓練されているからです

科学分野:

• 人工知能
• 自然言語処理
• 人とコンピュータの相互作用

背景:

• 大型言語モデル (LLM) とチャットボットは,さまざまなアプリケーションでますます普及しています.
• これらのAIシステムが誤った情報や"幻覚"を生成する傾向は 重要なリスクをもたらします
• 現在の緩和戦略は,不確実性を認めることよりも,事実の正確性を改善することに重点を置いています.

研究 の 目的:

• チャットボットが知識に欠けていることを明示的に述べるためのトレーニングの影響を調査する.
• 人工知能が作り出す虚偽を減らすための"知らない"の可能性を評価する.
• このような戦略がチャットボット開発の商業的実行可能性に及ぼす影響を評価する.

主な方法:

• 不確実性表現の異なるレベルでプログラムされたチャットボットとのシミュレートされたユーザーインタラクション.
• 回答の精度とユーザーの信頼度合いの分析
• ユーザーエンゲージメントとビジネス収益への影響を評価する経済モデルです.

主要な成果:

• チャットボットが"知らない"と 言うよう訓練されれば 事実上 誤った発言を 減らすことが分かりました
• ユーザの信頼と満足度は複雑な関係を示し,最初は減少したが,長期的には増加する可能性があった.
• "わからない"という回答の導入は,常にユーザーの関わりに依存する既存の収益化戦略に課題をもたらしました.

結論:

• チャットボットに不確実性を明示的に教えることは AIの虚偽を抑制する有効な方法です
• 人工知能サービスの経済的持続可能性と 誤った情報削減のバランスをとるには 慎重に検討する必要があります
• 将来の研究では,AIサービスの不確実性表現と代替ビジネスモデルの最適な値を探る必要があります.