抗中最新科技有弱點 美軍承認:恐中道崩殂

空軍副參謀長警告,AI技術將增加遭受網路攻擊的風險,並嚴重影響整個作戰體系。圖爲美軍機隊進行「大象走路」。(圖/美國空軍)

《空軍雜誌》(Air Force Magazine)9月29日報導,美軍正持續研發人工智慧(AI)技術,藉此處理在面對中國大陸俄羅斯等強大對手時,新作戰型態下出現的海量情報,但美國空軍副參謀長警告,相關技術將增加遭受網路攻擊的風險,若不解決可能導致計劃崩潰。

爲儘可能消除「戰爭迷霧」(fog of war),現代作戰大量使用感測器和其他手段獲取情報,但人類無法處理如此海量的情報,因此須藉助計算能力強大、又能透過機器學習(Machine Learning)不斷進步的人工智慧技術,對資料進行辨識與分析,協助指揮階層做出決策

但在美國空軍協會(Air Force Association)舉辦的「航空太空與網路研討會」(Air Space & Cyber Conference)上,美國空軍負責情報、監視、偵察和網路事務的副參謀長歐布萊恩(Mary F. O’Brien)中將警告,若其他對手能在美軍人工智慧運作過程動手腳,將可能讓整體作戰陷入困境;錯誤情報將導致前線部隊面臨危險,但若無法信任系統提供的情報,更將讓整個作戰體系動彈不得。

美國「人工智慧國家安全委員會」(NSCAI)指出,大多數人工智慧系統的安全性投資不足,許多防衛措施都是事後添加,讓其整合性影響安全性;喬治城大學(Georgetown University)安全與新興技術中心(Center for Security and Emerging Technology)則認爲,機器學習本身持續蒐集資料的特性,會爲其留下難以填補的漏洞駭客甚至不須實際入侵系統,只要「污染」人工智慧用來學習的資料即可。

歐布萊恩強調,獲得人工智慧技術不代表成功,確保其防衛機制也同樣重要,建議創立專門用於尋找美軍人工智慧系統漏洞的新「紅軍單位;喬治城大學安全與新興技術中心則指出,決策者應尋求提高系統穩固性的手段,包括使用冗餘組件、確保操作人員有能力監督與干預等。