AI「生成」9張「萬能人臉」
可冒充超過40%的人

AI「生成」9張「萬能人臉」
  可冒充超過40%的人
字體大小
AAA
分享

世事豈能盡如人意?要真正當個面面俱圓的千面人,化身「萬能Key」,從容不迫地對應不同場口,逢凶化吉,絕對是一種人生成就解鎖,但,有可能這樣嗎?以色列特拉維夫大學研究人員日前證明了一種創建「萬能人臉」(Master face)的方法。研究人員通過圖像生成系統StyleGAN先「生成」假的人臉圖像,然後通過算法和分類器對比篩選出與真實人臉相似度最高的圖像,最終獲得9張「萬能人臉」圖像。這種電腦生成的「萬能人臉」作用就像萬能鑰匙一樣,可以模仿多個身份,通過基於人臉識別的身份驗證,對,不就是科幻電影橋段終化成現實生活!

萬能指紋技術帶來靈感

由於其方便性,生物識別認證,特別是人臉識別認證,已日益成為主流,因此現在成為攻擊者的主要目標。攻擊一般的電腦認證系統時,有破解者會採取字典式攻擊,通過連續嘗試多個輸入來嘗試通過認證系統。而在現實世界的生物識別系統中,人們通常只能嘗試幾次輸入,然後系統就會鎖定。並且使用生物統計學進行的匹配並不精確,加之生物學統計數據的空間分佈不均勻,這表明可能少量樣本可以覆蓋更大的人口比例。特拉維夫大學研究人員從「萬能指紋」研究中獲得了靈感,他們開發了一種「萬能人臉」,來繞過人臉識別軟件。

通過算法分類對比,選出9張「萬能人臉」

研究人員首先使用人工智能領域廣泛使用的生成模型StyleGAN,來進行「萬能人臉」的製作。然後研究人員然後使用算法和神經網絡來優化。有限內存矩陣自適應進化策略(LM-MA-ES)算法是非常適合高維黑匣子優化的,但是還需要增加一個組件,來推斷哪些人臉是交叉身份認證的最佳候選選項。所以,研究人員創建了一個「成功預測器」(Success Predictor)神經分類器,將大量候選人臉圖像篩選出合適、可完成繞過人臉識別軟件任務的人臉圖像。

研究人員使用算法和分類器將每一個系統輸出的虛假人臉都與Labeled Faces in the Wild(LFW)數據庫中5749個不同人的真實照片進行比較,並給出平均集覆蓋率(Mean Set Coverage,MSC)分數,只保留分數高的虛假人臉圖像。其中對圖像比較得到的分數會用於訓練進化算法,幫助研究人員使用StyleGAN,創建出越來越多看起來像數據集中真實存在的人臉圖像。最終得到9張「萬能人臉」圖像。

能覆蓋超40%數據集

研究人員使用「萬能人臉」對三種不同的深度人臉識別系統:dlib、FaceNet、SphereFace進行測試,因為這幾種人臉識別系統在LFW數據集中測試競賽的排名最高。研究人員實驗得到,9張「萬能人臉」覆蓋了這三種人臉識別系統中42%-64%的數據集,也就是說9張「萬能人臉」可以通過這些人臉識別系統中42%-64%的身份驗證。

人臉識別系統準確性備受關注

隨著人臉識別技術的普遍應用,除了涉及到私隱保護問題外,人臉識別的準確性同樣是人們熱議的話題。美國就有幾宗因為人臉識別而發生錯誤逮捕的事件,引起了很大輿論反響。特拉維夫大學研究人員其實給出了很好的思路,從如何破解人臉識別系統入手反推人臉識別系統漏洞,這樣可以更完善地處理人臉識別系統。

至於該研究論文題目為《利用網絡輔助的潛在空間演化生成字典攻擊的萬能人臉(Generating Master Faces for Dictionary Attacks with a Network-Assisted Latent Space Evolution)》,已提交至論文預印本發布平台arXiv上,有興趣可以再詳細研究一下:https://arxiv.org/pdf/2108.01077.pdf

編輯:CY Lau