聴覚音声で訓練された深層ニューラルネットワークが マクグルク効果を報告
Haotian Ma1, Zhengjia Wang1, Xiang Zhang1
1Department of Neurosurgery, Perelman School of Medicine, University of Pennsylvania, Philadelphia, PA.
bioRxiv : the preprint server for biology
|September 2, 2025
まとめ
AVHuBERTのようなディープニューラルネットワーク (DNN) は,マックギルク効果を複製し,不一致のオーディオビジュアルスピーチから幻想的な音節を認識することができます. これはDNNが人間のオーディオビジュアル音声知覚メカニズムを理解するのに役立つことを示唆している.
科学分野:
- 認知科学
- 神経科学
- 人工知能
背景:
- マクグルク効果は 音声と視覚の入力が一致しないから 錯覚的な音節の知覚を示します
- 現在の理論では,互換性のないオーディオビジュアル表現の間のコンセンサス認識が提案されています.
- ディープニューラルネットワーク (DNN) は 音声知覚をモデル化するための 新しいアプローチを提供します
研究 の 目的:
- AVHUBERTという ディープニューラルネットワークが 音声と視覚の一致性で McGurk 効果を発揮できるか 調べるためでした
- AVHUBERTの音声表現を 人間の知覚と比較する
- オーディオビジュアル音声処理の理解における DNN の可能性を探求する.
主な方法:
- AVHuBERTは,一致したオーディオビジュアルスピーチで訓練されたDNNで,一致した McGurk刺激と不一致した McGurk刺激の両方をテストしました.
- 聴覚のみ,視覚のみ,そしてオーディオビジュアルスピーチのトランスクリプションの精度に基づいてパフォーマンスを評価しました.
- 100種類のAVHuBERTが作成され,McGurk効果の知覚の可変性を評価しました.
主要な成果:
- AVHUBERTは,人間のパフォーマンスパターン (オーディオ・ビジュアル > オーディオ・ビジュアル) を反映した,一致したオーディオ・ビジュアルスピーチの高精度を達成しました.
- マクグルク刺激 (聴覚の"ba",視覚の"ga") を受けたとき,AVHuBERTは 25%の速度で融合感"da"を生成した.
- AVHuBERTの変種は,一致する刺激に対して一貫した精度を示したが,マックグルクの刺激に対して高い変性を示した.
結論:
- AVHuBERTがマクグルク効果を複製する能力は,DNNが複雑なオーディオビジュアルスピーチ現象をモデル化できることを示唆しています.
- この研究は,人間の言語知覚の神経的および知覚的基盤を調査するためのツールとしてDNNの使用の可能性を強調しています.
- この発見は,人間の感覚処理と認知効果の理解を深めるための AI モデルの有用性を支持しています.
関連する概念動画
Facial Feedback Hypothesis
244
Charles Darwin proposed that facial expressions are an evolutionary adaptation for communication. He argued that these expressions are not influenced by culture but are universal across species. For example, a snarling expression with exposed teeth signals a threat in many animals, including humans. Darwin also suggested that displaying an emotion can intensify the feeling. Smiling, for example, could enhance one's sense of happiness. This idea laid the foundation for understanding the role...
244
Auditory Perception
580
The auditory system is essential for sound perception, utilizing various critical structures. When sound waves enter the outer ear, they travel through the ear canal and cause the eardrum to vibrate. These vibrations are then transmitted to the middle ear, where three tiny bones – the malleus, incus, and stapes – amplify the sound. This amplification is crucial, as it ensures that the sound vibrations are strong enough to be conveyed to the inner ear. These vibrations then reach the...
580
Perception of Sound Waves
4.6K
The human ear is not equally sensitive to all frequencies in the audible range. It may perceive sound waves with the same pressure but different frequencies as having different loudness. Moreover, the perception of sound waves depends on the health of an individual's ears, which decays with age. The health of one's ears may also be affected by regular exposure to loud noises.
The pitch of a sound depends on the frequency and the pressure amplitude of the source. Two sounds of the same...
The pitch of a sound depends on the frequency and the pressure amplitude of the source. Two sounds of the same...
4.6K
Perceiving Loudness, Pitch, and Location
420
The human brain perceives pitch through two primary mechanisms reflected in place theory and frequency theory. Each mechanism describes how sound waves are interpreted as specific pitches by the brain, offering insights into the intricate processes of auditory perception.
Place theory, or place coding, suggests that different pitches are heard because various sound waves activate specific locations along the cochlea's basilar membrane. The brain determines the pitch of a sound by...
Place theory, or place coding, suggests that different pitches are heard because various sound waves activate specific locations along the cochlea's basilar membrane. The brain determines the pitch of a sound by...
420
Auditory Pathway
5.8K
Auditory pathways constitute the complex neural circuits responsible for transmitting and interpreting auditory information from the peripheral auditory system to the brain. Sound waves are initially captured by the outer ear, funneled through the ear canal, and reach the tympanic membrane (eardrum). These vibrations are transmitted via the middle ear's ossicles to the inner ear's cochlea.
When viewed cross-sectionally, the cochlea reveals the scala vestibuli and scala tympani flanking...
When viewed cross-sectionally, the cochlea reveals the scala vestibuli and scala tympani flanking...
5.8K
Nonconscious Mimicry
4.6K
Nonconscious mimicry occurs when individuals alter their mannerisms to match the behaviors and expressions of those nearby, without intention.
4.6K


