OpenAIは、学習する方法を学習するメタ学習(Meta-Learning)アルゴリズム「Reptile」を発表しました。
論文:Reptile: a Scalable Metalearning Algorithm
著者:Alex Nichol、John Schulman
GitHub – openai/supervised-reptile: Reptile on supervised meta-learning datasets
本アルゴリズムは、新しいタスクで素早く微調整できるパラメータの初期化を学習します。確率的勾配降下法を実行し、ニューラルネットワークモデルのパラメータの初期化を学習、新しいタスクから少量のデータを使用してネットワークを微調整できるようにします。MAMLよりも実装が簡単で計算効率が高いと言います。
また、発表したブログ記事内にて、ブラウザ上で試せるインタラクティブデモも公開されています。
「EDIT ALL」ボタンをクリックし3つの異なる形や記号を描いてから、右の入力欄に任意の絵を描くことで、Reptileがどのように分類するかを確認できます。