オンライン学習

今回は，オンライン学習について勉強したので，そのメモ

 

◎オンライン学習とは，

「逐次的に学習する機械学習アルゴリズム」

らしい

 

比較すると，

すべてのデータを全部見てから解を出す→バッチ学習

動的に学習して解を出す→オンライン学習

 

具体例を挙げてみると，

2017年毎日日記をつけていて，日記の中から頻出する言葉を見つけたいとき

 

365日分の日記を全部読んでから頻出語を見つける→バッチ学習

１日ごと頻出語を見つけ，更新する→オンライン学習

 

 

◎オンライン学習の特徴は

・各データを観測し，すぐパラメータを更新する

　→データが与えられるたびに，与えられたデータのみを用いて学習する

 

・データを保存しておく必要がない

　→データを１個ずつ学習するから，永遠的にデータが生成される環境下での学習に最適

　　例えばツイッターとか？

 

・学習が収束しやすい

　→これは１回の学習に使うデータが小さいから？

 

・全データに対して，最適な結果を学習することができない

　→１個ずつ学習しているから仕方ない

 

・実験が簡単

 

バッチ学習だと，学習済みのモデルは，更新したいってなったら

もう一度モデルの組み直しをしないといけないけど

オンライン学習だと，データごとにモデルの更新を行うから

環境の変化に敏感だってことね

環境の変化が少ないところでは意味がないってこと