周波数領域ごとの分類によるAdversarial Examplesの検出手法の提案

摘要

ニューラルネットワークの誤分類を引き起こす特殊なデータAdversarial Examplesの検出手法を提案する．Adversarial Examplesは元データに摂動と呼ばれるごく小さなノイズを加えることで生成され，特に画像の場合は摂動による変化は人の目では見てわからないほど小さく設定される．先行研究では，摂動について周波数解析を行った結果，OHz周辺で影響が大きくなり，また，手書き数字画像データセットMNISTは高周波に特徴はないため0Hz周辺帯域のカットとローパスフィルタの適用を提案した．しかし一般の写真については低周波だけでなく高周波にも特徴があるためカットすることは適切ではない．そこで本研究では低周波だけでなく高周波も利用したAdversarial Examplesの検出手法を提案する．