AI技術用於美軍備惹議 Clarifai創辦人:將拯救更多士兵和平民

▲人工智慧。(圖/CFP,下同)

軍武中心綜合報導

AI新創公司Clarifai正與美國防部合作,將無人機視頻的辨識技術用於軍備相關。面對外界質疑AI技術不該用於軍備,Clarifai創辦人Matt Zeiler宣稱,與美軍合作旨在拯救更多士兵平民,公司將增設新的管理職位,以確保所有項目符合道德標準。不過外媒披露,新的審查職位至今尚未出現,這也引發Clarifai內部反彈聲浪

根據外媒報導,部分Clarifai人員擔心工作成果遭濫用,今年一月已向Zeiler遞交公開信。信中提到,Clarifai必須維持企業操守「才能在大衆信賴開發技術」,向外界說明企業倫理「是應該承擔的社會責任」。Zeiler則在數天後召開內部會議,並宣稱設置審覈職位不符合公司利益,還直言開發AI武器就是未來的發展方向

外媒話鋒一轉表示,越來越多的研究人員對AI技術的使用提出警告,迫使掌握相關技術的公司出面迴應。除了Clarifai以外,包括Google和Microsoft等企業也正在制定企業規範,旨在確保其AI技術能符合道德標準,某些還設立審查委員會負責監督

有關Clarifai方面,報導指出,該公司的強項在於分析即時辨識相片影片物件能力,這種技術能用於運輸醫療科研領域,也可成爲國家監控網路、散佈假新聞或是提升軍備等用途;並非所有Clarifai員工都反對將AI技術用於軍備,其中支持者認爲,結合AI技術的武器比起人類操作將更加準確,終可挽救更多的生命,更是減少平民傷亡和火災事故的重要工具

報導還說,研究人員已經意識到某些公司和政府部署AI技術上存在偏差,例如使用人臉辨識技術識別女性膚色較深者「可能出現不準確的情況」,至於無人駕駛汽車也可能受到AI系統混淆,其他偏差可能與過去不同的安全漏洞有關。

值得一提的是,聚焦探討AI技術用於新型武器的國際會議25日在瑞士日內瓦召開,各國在會中針對設置限制的必要性及法律責任問題進行熱議。根據日媒報導,日本政府認爲「人類參與武器操作不可或缺」,美國、中國、俄羅斯等國家對設置限制持保留態度預計難以達成協定。

日媒指出,各國在限制非人道武器的《特定常規武器公約》的框架下,從2014年開始圍繞AI武器的理想方式進行討論,25日則是第4次舉行會議,各方將在29日之前針對制定國際性規則的必要性、倫理、技術管理、軍事效果等問題交換意見。