Google、機械学習による画像認識分類システムを欺ける敵対的物理ステッカーを提案した論文を発表。ステッカーは印刷可能でシーンに依存しない

Googleの研究者らは、Deep learningによる画像認識分類システムを欺ける敵対的ステッカーを提案した論文を発表しました。

Adversarial Patch
著者：Tom B. Brown、Dandelion Mané、Aurko Roy、Martín Abadi、Justin Gilmer

（上図では97％の信頼度でバナナと分類しているが、ステッカーを置いた下図では99％の信頼度でトースターと分類している様子）

テーブル上のバナナは、VGG16ニューラルネットワークによってバナナとして正しく分類されますが、隣にサイケデリックなステッカーを置くと、バナナのことはすっかり忘れトースターとして分類されます。このように、ステッカー1枚を同時に認識させることで、システムを欺くことができることを実証しました。

研究者によれば、この攻撃はシーンに依存しない、つまり照明条件、カメラの角度、分類器の種類などを事前に知らなくても攻撃を行うことができるとしています。また、ステッカーを印刷して使用するためにインターネット上に拡散する可能性も懸念しています。

関連