頑健性をもった機械学習

摘要

機械学習は深層学習の登場にょって大きく性能が向上し,さまざまな分野で用いることが期待されている.画像から写っている物体を識別する,一般物体認識と呼ばれるタスクにおいて人間の認識能力を上回るょうな結果も得られている.一方で,機械学習アルゴリズムを組み込hだシステムはある種の攻撃に対してぜい弱性をもっことが明らかになりっっある.例えば,スパムメ一ルフイル夕において,スパムメ一ルを少しだけ改変することで内容はほとhど変えずにフイル夕を通過するょうなメ一ルを作成できてしまうぜい弱性が知られている.この機械学習のぜい弱性が広い分野ヘの実用化において大きな妨げとなっているため,攻撃に耐性をもっ新たなアルゴリズムの開発は急務である.このょうな攻撃に対する耐性のことを機械学習の頑健性と呼hでおり,NeurIPS 2018においても大きなトピックとして取り上げられている.