少量データ学習技術

　従来のパターン認識手法では，「前処理」と「特徴抽出」は専門家が設計し，「識別」だけを機械学習で設計していました。一方，深層学習では，「識別」だけでなく「特徴抽出」も併せて学習できます。深層学習の力を借りてよい特徴を作ることができれば，「識別」ではデータが少なくても高い精度を得ることが可能になります。
　少量データ学習技術の1つめは，上記の考えに基づいた「モデル流用」です。よく知られているのは，プレ・トレーニングです。例えば，花を識別したいときに，花のデータは少ないが動物のデータをたくさんもっているとします。その場合，大量の動物のデータで深層ネットワークを学習した後，識別に相当する部分を削除し，新たな識別部を加えて花のデータを学習させます。流用したネットワークがよい特徴を学習しているなら，花のデータは少なくても高い精度を得ることができます。動物のデータと花のデータを同時に学習させることも可能で，マルチタスク学習と呼ばれます。2つのデータセットで，識別に有効な特徴が似ていることが，モデル流用では重要なポイントになります。
　また，映像監視などの例では，撮影場所などのドメインの違いによって精度が低下する問題があります。つまり，保有データで学習しても，現地データでは精度が出ないことがよくあります。この場合，現地で再学習することで精度を改善することが行われますが，カメラごとに現地データを大量に収集して再学習させるのは高コストになります。少量データ学習技術の2つめは，そのような場合に用いられる「データ流用」です。ドメイン適応とも呼ばれ，保有データを現地データに合うように変換してから学習することで，現地データが少なくても高い精度を得ることができます。
　少量データ学習技術の3つめは「データ生成」です。CGのように精緻な物理モデルがあれば学習データを大量に作れますが，このような物理シミュレーションは高コストなことが課題です。画像の切り貼りなどのデータ合成や，画像の回転や大きさを変えるなどのデータ拡張もありますが，精度改善に有効な「認識が難しいデータ」を必ずしも作れないことが課題です。最近注目されている敵対的生成ネットワーク（GAN）では，本物と偽物とを見分ける識別部と，それを騙す偽物を作るデータ生成部を競わせて，本物そっくりの偽物を作ることができます。しかし，真似すべき本物のデータが少ないと，質の高い偽物を作れないのが課題と言えるでしょう。

＜次ページへ続く＞