秘密鍵を用いた画像分類器のAutoAttackに対する頑健性評価

摘要

深層学習モデルの予測結果を不正に操作する敵対的事例攻撃に対する対策が，急務の課題となっている．本稿では，先に提案した秘密鍵を用いた画像分類器の頑健性を，敵対的事例攻撃のベンチマーク法であるAutoAttackを用いて評価する．さらに秘密鍵を用いた画像分類器のための敵対的事例攻撃検出器を提案する。実験において，秘密鍵を用いた画像分類器はブラックボックス攻撃に対して脆弱性があること，提案された検出器を組み合わせて使用することによって，その脆弱性が改善され，最新のベンチマーク結果を上回ることを確認する．