人臉識別很強大?一副眼鏡就能讓它認錯人!

(原標題:All it takes to steal your face is a special pair of glasses)

本站科技訊 11月12日消息,據國外媒體報道,你的臉正快速成爲通往數字世界鑰匙計算機手機甚至在線商店正開始使用你的臉作爲密碼。但來自卡內基梅隆大學的最新研究顯示,面部識別軟件遠不安全。

在上月末的一個安全大會上,研究人員展示其論文,顯示他們能夠誘騙AI臉部識別系統錯誤識別臉部——讓攝像頭前的人顯示成爲另一個人,甚至使得系統認不出他是人。憑藉一副特製眼鏡框,該團隊迫使商用級臉部識別軟件誤認人臉成功率達到100%。研究人員在阿里巴巴用於支付寶人臉識別的軟件上也取得了同樣的成果

現代臉部識別軟件依賴於深度神經網絡——一種從大量信息中學習模式人工智能技術。在被呈現過數百萬張人臉之後,該類軟件就能習得臉部概念,懂得如何分辨不同的臉。

該類軟件在學習人臉的模樣時,它非常依靠於特定的細節,如鼻子眉毛形狀。卡內基梅隆大學打造的眼鏡並不只是覆蓋那些臉部細節,還會印上被計算機認爲是人臉細節的圖案

上面是真人,下面是系統識別出的人

爲了展開測試,研究人員開發了一個先進的面部識別系統。在測試中,作爲測試對象的一位白人男士戴着特製的眼鏡,在系統中被識別成演員米拉·喬沃維奇(Milla Jovovich)的概率高達87.57%。一位同樣佩戴特製眼鏡的亞洲女士被系統算法認爲是中東男士的概率也達到87.57%。其他臉部被“盜”的名人包括卡森·戴利(Carson Daly)、科林·鮑威爾(Colin Powell)和約翰·馬爾科維奇(John Malkovich)。對於這些人,研究人員分別使用了40張他們的照片來做出用於鑑別出他們的眼鏡。

該測試並非理論性的——卡內基梅隆大學用光滑的照片紙打印出了那些眼鏡,在攝像頭之前戴上它們,以模擬進入一座有臉部識別系統提供保護的建築場景。那些眼鏡的製造成本爲每副0.22美元。當研究人員用他們的眼鏡設計針對商用臉部識別系統Face++進行測試時,他們能夠做出測試中能100%冒充別人的眼鏡。Face++目前的企業合作伙伴包括聯想和英特爾,且被阿里巴巴用於安全支付。然而,那種測試是以數字形式進行的——研究人員是將眼鏡編輯到照片上,因此在現實生活中躲過系統的成功率可能會低一些。

卡內基梅隆大學的研究是基於谷歌、OpenAI和賓夕法尼亞州大學之前的研究成果後者發現深度神經網絡受訓練方式存在系統性缺陷。通過利用那些缺陷,比如藉助被稱作對抗樣本的有目的性的惡意數據,就像卡內基梅隆大學研究中打印在眼鏡上的圖像,研究人員能夠迫使AI作出它原本不會作的決策

實驗室中,這意味着一位40歲的白人女士研究人員被識別成約翰·馬爾科維奇,不過該研究的成果也有可能會被試圖侵入建築或者從計算機竊取文件的人取得。(樂邦