金管會副主委許永欽:AI運用有二大挑戰 數據和人

金管會主任委員許永欽表示,AI應用運用在各個不同的領域並帶來可能的解決方案,但也會衍生出一些問題風險,AI應用主要二大挑戰,一是數據,如行爲的不正確;一是人,像程式設計者或管理者的行爲偏差

許永欽7日在出席AI金融科技協會成立記者會致詞作以上表示。

許永欽指出,人工智慧從醫療到金融等各個不同的領域,都帶來可能的解決方案,人工智慧技術應用最廣,影響最深遠當屬機器學習技術,然而機器學習涉及數據取得和演算法,可能衍生出相關的風險和問題。但在應用上有兩個主要的挑戰:第一個挑戰是數據。數據是人工智慧的重要能源,然而設計再精良的演算法,如果資料品質不佳,結果就是「 garbage in garbage out」。其次,數據如果不完整、錯誤或是貼錯標籤,也可能會造成分析結果出問題。此外,個人資料的蒐集和運用,也存在道德法律方面的問題,例如過度精準行銷,可能會造成過度或不必要的消費;另外大數據的應用看似客觀歷史資料分析,但本身也可能反映出長期存在普遍偏見或岐視如因性別種族或是工作的不同,而造成無法獲得應有的貸款額度,或是需支付較高的利息等。

AI第二個挑戰是「人」。許永欽表示,因爲AI只能依照設計者所寫的機器學習演算法去執行,但程式設計者或管理人員可能有人爲偏差錯的程式設計邏輯,則會導正不良結果。

許永欽也提到,英國物理學家霍金悲觀的認爲「人工智慧應用如果不是最好的,就是最糟糕的」。因此,他期許,不論學校教育或是金融業發展人工智慧或金融科技應用,最重要需要有「金融道德教育」給予正確的觀念