グランツーリズモのチャンピオンを抜いて ディープ・レインフォース・ラーニング
Peter R Wurman1, Samuel Barrett2, Kenta Kawamoto3
1Sony AI, New York, NY, USA. peter.wurman@sony.com.
Nature
|February 10, 2022
まとめ
研究者らは,Gran Turismoレースシミュレーション用の人工知能 (AI) エージェントを開発し,トップの人間のeスポーツドライバーと競争することができます. このAIはスピードと戦術を組み合わせ 複雑なリアルタイム環境で高度なコントロールを 発揮します
科学分野:
- 人工知能
- ロボット
- 計算神経科学
背景:
- 人間と相互作用する物理的なシステムにおけるリアルタイムの意思決定は,重要な課題を提示します.
- 自動車レースはこれらの課題を例示し,複雑な戦術的操縦と物理的な限界での正確な車両制御を必要とします.
- グラン・ツーリスモのような レース・シミュレーションは 複雑なマルチエージェントの ダイナミクスを正確にモデル化しています
研究 の 目的:
- グラン・ツーリスモ・レーシング・シミュレーションで最高レベルで競争できる人工知能 (AI) エージェントを訓練する.
- AIレーサーのためのスピードと戦術的意思決定を組み合わせた統合された制御方針を開発する.
- シミュレーションのルールの中で 競争力のあるスポーツマンのような振る舞いを促す報酬機能を作成します
主な方法:
- 最先端の モデルフリー ディープ・リインフォース・ラーニング・アルゴリズムを使用しています
- 混合シナリオのトレーニングを実施し,様々なレース条件にエージェントを曝します.
- 特殊な報酬機能を開発し, スポーツマンシップの規範とバランスをとる.
主要な成果:
- グラン・ツーリスモ・ソフィーという 訓練を受けたAIエージェントは 世界一流のeスポーツドライバーと 競争する能力を示しました
- AIのエージェントは 特殊なスピードと 精巧な戦術を演じました
- グラン・ツーリスモ・ソフィーが 4人のトップ・グラン・ツーリスモ・プレイヤーとの対戦で勝利した.
結論:
- この研究は,人間とインタラクティブな領域における複雑なダイナミックシステムを制御するための深層補強学習の可能性を示しています.
- AIエージェントは,スピードと戦略的相互作用の両方を要求するシミュレーション環境でチャンピオンレベルのパフォーマンスを達成できます.
- スポーツマンシップのような 曖昧な人間の規範を持つ領域で AIをコントロールすることは 可能性と課題の両方を提示します
関連する概念動画
Reinforcement
411
Positive and negative reinforcement are key concepts in operant conditioning, a learning process where the consequences of a behavior affect the likelihood of that behavior being repeated.
Positive reinforcement occurs when a behavior is followed by the presentation of a rewarding stimulus, increasing the frequency of that behavior. For example:
Positive reinforcement occurs when a behavior is followed by the presentation of a rewarding stimulus, increasing the frequency of that behavior. For example:
411
Hierarchy of Motor Control
3.9K
The hierarchy of motor control refers to the different levels of organization and processing involved in controlling movement in the body. These levels range from higher cortical areas involved in planning and decision-making to lower spinal cord reflexes that respond automatically to external stimuli.
3.9K
Rolling Resistance: Problem Solving
486
Rolling resistance, also known as rolling friction, is the force that resists the motion of a rolling object, such as a wheel, tire, or ball, when it moves over a surface. It is caused by the deformation of the object and the surface in contact with each other, as well as other factors like internal friction, hysteresis, and energy losses within the materials. Rolling resistance opposes the object's motion, requiring additional energy to overcome it and maintain movement. In practical...
486
Torque
16.0K
Torque is an important quantity for describing the dynamics of a rotating rigid body. We see the application of torque in many ways in the world, such as when pressing the accelerator in a car, which causes the engine to apply additional torque on the drivetrain. Here, we define torque and provide a framework to create an equation to calculate torque for a rigid body with fixed-axis rotation.
Torque can be considered as the rotational counterpart to force. Since forces change the translational...
Torque can be considered as the rotational counterpart to force. Since forces change the translational...
16.0K
Observational Learning
360
Albert Bandura's observational learning, also known as imitation or modeling, occurs when a person observes and imitates another's behavior. It is a quicker process than operant conditioning. A well-known example is the Bobo doll study, where children who saw an adult acting aggressively towards the doll were more likely to act aggressively when left alone, compared to those who observed a nonaggressive adult. Many psychologists view observational learning as a form of latent learning...
360
End Point Prediction: Gran Plot
668
A Gran plot is used to predict the equivalence volume or endpoint of a potentiometric or acid-base titration without reaching the endpoint. Typically, titration data is collected as a function of the titrant's volume up to a point less than the equivalence volume and then transformed into a linear format. The straight line is extended to the x-axis, indicating the necessary titrant volume to achieve the equivalence point.
For potentiometric titration, the Gran plot is created by plotting...
For potentiometric titration, the Gran plot is created by plotting...
668


