Neural Programmer-Interpretersによる実行形式の生成を目指した研究

摘要

近年，機械学習の著しい進歩により，従来は困難とされていた様々な問題を計算機に学習させることが可能となり，アルゴリズムを学習可能な手法も提案されている．中でも，Neural Programmer-Interpretersは何らかのデータに対する処理を見本として与えると，アルゴリズムを学習可能となっている．この手法では，Long short-term memoryと呼ばれる，時系列情報の学習が可能なネットワークを用いて，事前に与えられた基本構成要素によって学習したアルゴリズムを表現し，実行方法を学習するが，この構成要素をCPUの命令セットとすることができれば，コンパイラのように実行形式を直接生成し，あるアーキテクチャの計算機で動いているアルゴリズムを別のアーキテクチャに移植することを可能にする枠組みを構築できるのではないかと考えた．本稿では，乗算器を用いずに掛け算を実現するソフト乗算を対象とし，CPUを意識した命令セットによって学習を行った場合でも，アルゴリズムの学習が適切に行えることを示す．