文脈モデルベース強化学習によるAIベースの精密リハビリテーションに向けて
Dongze Ye1, Haipeng Luo1, Carolee Winstein2
1Computer Science, University of Southern California, Los Angeles, CA, USA.
Journal of neuroengineering and rehabilitation
|December 19, 2025
まとめ
本研究では、強化学習を用いた個別化された脳卒中リハビリテーション計画のためのAIシステムを紹介する。AIシステムは、より良い患者転帰のために、治療のタイミング、用量、強度を継続的に改善する。
科学分野:
- 神経科学
- リハビリテーション医学
- 人工知能
背景:
- 脳卒中からの回復は、病変、回復軌跡、治療反応の違いにより大きく異なります。
- 精密医療は、個々の患者のニーズに合わせて介入を調整することにより、脳卒中からの回復を最適化するために不可欠です。
- 現在の人工知能(AI)システムは、脳卒中後のリハビリテーション計画を個別化および継続的に適応させる能力が欠けています。
研究 の 目的:
- 脳卒中患者の精密リハビリテーションのための新しいAIベースの意思決定支援システムを開発すること。
- 長期的な患者転帰を最大化するために、タイミング、用量、強度を含む逐次的な治療計画を個別化すること。
- 判断、制約、および好みに基づいてリハビリテーションをカスタマイズするために、臨床医や患者と協力するシステムを作成すること。
主な方法:
- 文脈マルコフ決定プロセス(CMDP)フレームワークを利用しました。
- 新しい階層ベイズモデルベース強化学習(RL)アルゴリズム、文脈RLのための事後サンプリング(PSCRL)を開発しました。
- このアルゴリズムは、制約を尊重しながら、ほぼ最適な逐次治療を発見および調整するために、探索と活用のバランスをとります。
主要な成果:
- AIシステムを実装し、150人の多様な合成患者を用いたシミュレーションで検証しました。
- ベイズ階層モデリングを介して、現在の患者データと過去の患者データベースから継続的に学習するシステムを実証しました。
- AI主導の適応的治療は、非適応的な「画一的」アプローチと比較して、機能的改善を有意に向上させました。
結論:
- 開発されたAIベースの精密リハビリテーションシステムは、学習するヘルスシステムへの統合の可能性を示しています。
- 文脈モデルベースRLを利用したこの新しいアプローチは、個別化された脳卒中リハビリテーションを進歩させることができます。
- 治療を適応させるシステムの能力は、脳卒中回復の結果を改善するための有望な方向性を提供します。
関連する概念動画
Operant Conditioning Intervention
433
Operant conditioning serves as a foundational principle in therapeutic interventions aimed at modifying maladaptive behaviors. Central to this approach is the notion that behaviors, both adaptive and maladaptive, are learned through reinforcement. By analyzing the environmental factors that reinforce problematic behaviors, clinicians can design interventions to weaken these reinforcements and replace maladaptive behaviors with healthier alternatives.
In operant conditioning, behaviors that are...
In operant conditioning, behaviors that are...
433
Modeling in Therapy
364
Modeling, a key technique in therapy, uses observational learning to help clients acquire and practice new skills by watching therapists demonstrate desired behaviors. This approach, rooted in Albert Bandura's concept of vicarious learning, plays a significant role in therapeutic interventions for various psychological conditions, including social anxiety, ADHD, and depression.
Participant Modeling
Participant modeling involves therapists demonstrating calm and effective behaviors in...
Participant Modeling
Participant modeling involves therapists demonstrating calm and effective behaviors in...
364
Observational Learning
791
Albert Bandura's observational learning, also known as imitation or modeling, occurs when a person observes and imitates another's behavior. It is a quicker process than operant conditioning. A well-known example is the Bobo doll study, where children who saw an adult acting aggressively towards the doll were more likely to act aggressively when left alone, compared to those who observed a nonaggressive adult. Many psychologists view observational learning as a form of latent learning...
791
Reinforcement
786
Positive and negative reinforcement are key concepts in operant conditioning, a learning process where the consequences of a behavior affect the likelihood of that behavior being repeated.
Positive reinforcement occurs when a behavior is followed by the presentation of a rewarding stimulus, increasing the frequency of that behavior. For example:
Positive reinforcement occurs when a behavior is followed by the presentation of a rewarding stimulus, increasing the frequency of that behavior. For example:
786
Reinforcement Schedules
436
Positive reinforcement is a powerful method for teaching new behaviors to both animals and humans. B.F. Skinner demonstrated this with his experiments using rats in a Skinner box. When a rat pressed a lever, it received a food pellet. This immediate reward encouraged the rat to repeat the behavior. This method, where a reward follows every instance of the behavior, is known as continuous reinforcement. It is highly effective for establishing new behaviors quickly.
Once a behavior is learned,...
Once a behavior is learned,...
436
Behavior Modification
521
Behavioral approaches have often been criticized for ignoring mental processes and focusing solely on observable behavior. However, these approaches provide an optimistic perspective for individuals seeking to change their behaviors. Rather than concentrating on intrinsic personality traits, behavioral approaches suggest that even longstanding habits can be modified by changing the reward contingencies that maintain them.
A real-world application of operant conditioning principles is applied...
A real-world application of operant conditioning principles is applied...
521


