HOME > natural science Laboratory > コンピュータ・シミュレーション講座 > 仮想物理実験室

【機械学習基礎研究4】
倒立状態維持の強化学習(学習率による学習成果の違い)

文責:遠藤 理平 (2018年6月 8日) カテゴリ:仮想物理実験室(296)機械学習(5)計算物理学(155)

前回に引き続き、倒立状態維持の強化学習を行います。 前回の結果、物理系の問題は割引率1で良さそうでした。また前々回の結果、貪欲率は0.9あたりが良さそうだったので、 今回は割引率を1、貪欲率を0.9に固定したまま、学習率(行動価値関数の更新時の変化率)を0.1から0.01まで0.01づつ変化させて学習成果の違いを確かめます。

Q学習のパラメータ

環境と行動と利得の定義(行動価値関数の定義)

前回は相対位置を10分割しましたが、少し改良して角度を10分割することにします。なお、力の分割数は前回と同様の20個です。前回と同様、環境:10、行動:20となり、最適行動価値関数は10×20の配列で表せます。あと、滑車が重いほどおもりの運動の影響が小さくなるので、問題設定の難易度を下げるために滑車の質量を10倍とします。

なお、利得はおもりの位置エネルギー($mgz$)とし、目標達成(5秒間落下しない)やペナルティー(5秒以内に落下)は今回も与えないことにします。

Q学習の表式とパラメータの値

\begin{align} Q^{(i+1)}(s,a) \leftarrow Q^{(i)}(s,a)+\eta\left[ r+\gamma \max\limits_{a'} Q^{(i)}(s',a') -Q^{(i)}(s,a) \right] \end{align}

$s$ : 時刻tにおける状態。$s(t)$と同値。
$a$ : 時刻tにおける行動。$a(t)$と同値。
$r$ : 時刻tの行動で得られた利得。$r(t+1)$と同値。
$Q(s, a)$ : 状態$s$における行動aに対する行動価値関数。上付き添字($i$)は学習回数を表す。
$\gamma$ : 割引率($0< \gamma \le 1$)
$\eta$ : 学習率($0< \eta \le 1$)
$s'=s(t+1)$

今回の設定

行動時間間隔:0.01(0.01秒ごとに行動を選択・実行する)
学習回数(episode):10000
貪欲率($\epsilon$):0.9(行動価値関数で予測される利得の期待値が最大となる行動を選択する率)
割引率($\gamma$): 1.0(未来に得られると期待される報酬をどの程度考慮するを表す率)

今回は学習率(行動価値関数の更新時の変化率)$\eta$を0.01~1.0まで変化させて、その結果を比較します。

学習結果

学習率$\eta$を0.1から0.01まで0.01ずつ変化させた際の、学習回数に対する成功率(100回学習ごとの平均)のグラフを示します。 今回から、同じ条件で10回の学習し、①最も成績が良い結果(青色)、②最も成績が悪い結果(橙色)、③10回の平均(茶色)の3つを表示します。

$\eta=0.1$

$\eta=0.09$

$\eta=0.08$

$\eta=0.07$

$\eta=0.06$

$\eta=0.05$

$\eta=0.04$

$\eta=0.03$

$\eta=0.02$

$\eta=0.01$

結果と考察とメモ

・学習率は低いほど、成功確率が高くできる場合がある一方、1回も成功しない場合もある。
→ 学習率が低いほど行動評価関数の値をきめ細やかに更新することができる一方、学習データが(たまたま)良くない場合には全く学習効果が上がらないと言える。
→ 次回、貪欲率と学習率を学習状況に応じて変化させて、成功率100%を目指す。
【メモ】環境の場合の数を変える。
【メモ】ランダムな外力が存在する系。

プログラムソース(C++)

http://www.natural-science.or.jp/files/NN/20180608-1.zip
※VisualStudio2017のソルーションファイルです。GCC(MinGW)でも動作確認しています。

参考(物理シミュレーション)

上記シミュレーションは、ルンゲ・クッタ法という常微分方程式を解くアルゴリズムを用いてニュートンの運動方程式を数値的に解いています。本稿で紹介した物理シミュレーションの方法を詳しく解説している書籍です。もしよろしければ「ルンゲ・クッタで行こう!~物理シミュレーションを基礎から学ぶ~(目次)」を参照ください。



▲このページのトップNPO法人 natural science トップ

関連記事

仮想物理実験室







機械学習

計算物理学







▲このページのトップNPO法人 natural science トップ