量化LLM幻觉在复杂的适应性社交网络中传播的不确定性
Guozhi Hao1, Jun Wu2, Qianqian Pan1
1Graduate School of Information, Production and Systems, Waseda University, Fukuoka, 808-0135, Japan.
大型语言模型 (LLM) 在社交网络上生成内容,但他们的幻觉可以传播错误信息. 这项研究量化了在社交网络中传播的LLM幻觉,以改善对虚假信息的防御.
科学领域:
- 复杂的自适应系统.
- 社交网络分析分析
- 人工智能的人工智能是人工智能.
背景情况:
- 大型语言模型 (LLM) 越来越多地用于社交网络上的内容生成.
- 在LLMs的"幻觉性质"导致虚假信息的创建和传播.
- 社交网络是复杂的适应系统,错误信息可以破坏社会的稳定.
研究的目的:
- 量化LLM在社交网络中产生错误信息的不确定的传播.
- 开发一个能够解释LLM幻觉和社交网络动态的模型.
- 为策略提供信息,以减轻虚假信息的影响.
主要方法:
- 开发了一种使用基于代理的概率分布的动态建模方法.
- 公司将普及和社区成员关系纳入该模式.
- 利用现实世界的数据来确定节点属性和行为,并使用LLM幻觉数据进行验证.
主要成果:
- 在各种条件下 (例如,QA,对话,总结任务,不同的LLM版本) 量化了LLM幻觉的传播.
- 使用诸如扩散者和知情/未知情的非扩散者等指标评估模型性能.
- 使用现实世界的数据证明了量化方案的有效性.
结论:
- 拟议的方法有效量化了LLM幻觉在社交网络中的不确定的传播.
- 了解传播动态对于制定有效的反击错误信息的措施至关重要.
- 这项研究为评估和管理与社会系统中人工智能产生的内容相关的风险提供了一个框架.
更多相关视频
08:42Measurement of the Directional Information Flow in fNIRS-Hyperscanning Data using the Partial Wavelet Transform Coherence Method
Published on: September 3, 2021
05:15The Spatial Memory Game: Testing the Relationship Between Spatial Language, Object Knowledge, and Spatial Cognition
Published on: February 19, 2018
相关概念视频
Propagation of Uncertainty from Systematic Error
Propagation of Uncertainty from Random Error
Uncertainty: Confidence Intervals
Model Approaches for Pharmacokinetic Data: Distributed Parameter Models
The distributed parameter models are specifically designed to account for variations and differences in some drug classes. This model is particularly useful for assessing regional concentrations of anticancer or...
Uncertainty: Overview
Causality in Epidemiology
