Google Brain、人間とCNN（視覚認識システム）を騙す敵対的な画像を生成する技術を発表

Google Brainの研究者らは、CNN（Convolutional neural network）を欺く画像を生成する技術を発表しました。

論文：Adversarial Examples that Fool both Human and Computer Vision
著者：Gamaleldin F. Elsayed、Shreya Shankar、 Brian Cheung、 Nicolas Papernot、Alex Kurakin、Ian Goodfellow 、 Jascha Sohl-Dickstein

考案したアルゴリズムは、敵対的な（写真を微調整した）画像を生成することができ、これを使用することで視覚認識システムが正しいものを取得できないようにコンピュータを欺くことができます。例えば、下図のような猫画像の場合、右が敵対的な画像で、犬と認識させることに成功しました。

（左が猫のオリジナル画像。右が犬に見えるように微調整した画像）

注目すべき点は、CNNは猫ではなく犬を見ていると認識していますが、ほとんどの人間が同じことを考えるということです。コンピュータと人間の両方を騙すことができると。

これは逆に考えると、人を騙すようにCNNベースで画像を作り上げることができるということ、言い換えると、敵対的な画像攻撃がCNNから人間に移転する可能性があることを示唆しています。

論文内で述べられていますが、例えば、人顔の信頼性を人間の評価で訓練し、信頼性を増強/減少させる敵対的な摂動を生成することができ、それらを報道または政治的広告に使用することが可能だと。

関連