認識モデルクローン手法の一般化と評価

摘要

近年、Amazon Machine Learning、Google Cloud Platform、Azure Machine Learning Studio など機械学習を利用して画像等の認識を行うサービス（MLaaS）が広く公開されている。サービス内部の識別器はブラックボックス化されているものの、公開API に対する大量の入出力結果を得て学習すれば、識別モデルクローンが作成可能であることを示唆されている。このモデル抽出攻撃（model extraction attack）の防御策を講じる上で、攻撃者側の視点に立ち、現状の技術でどの程度クローンを作成できるかを検討することには意義があり、近年様々な報告がされている。