《科技》生成式AI發展趨勢 成大5大咖校友齊探討

成大電機系友會理事長暨旺宏(2337)董事長吳敏求表示,自擔任成大電機系友會理事長以來,3年前首次推動「成電論壇」,探討前瞻科技趨勢,讓師生與產業界近距離對話,激盪創意的火花。未來更將規畫設置青年教授講座,每位講座每年提供100萬元獎勵,延攬傑出優秀的國內外年輕教授人才於成大任教,教授新知與傳承經驗,提升臺灣科技整體的創新動能。

AI的快速發展推動科技再一次進步創新,記憶體也從資料儲存逐漸走向幕前,扮演「存算一體」的關鍵角色。旺宏電子吳董事長指出,旺宏電子也超前部署致力研發以記憶爲中心(Memory-Centric)的相關應用,例如最新推出的FortiXTM系列3D NAND/NOR快閃記憶體,就是旺宏研發團隊爲AI應用量身打造的創新記憶體,兼具儲存及運算功能,相關技術論文近年於國際電子元件會議(IEDM)、國際固態電路研討會(ISSCC)等全球頂尖學術研討會上屢獲矚目。

第一屆成電論壇探討IC產業發展與佈局,第二屆則着墨電動車產業的發展與第三類半導體SiC在電動車產業的應用。今年2023年第三屆則以引發改變世界熱潮的「生成式AI」爲論壇主軸,探討生成式AI在各生態系的應用以及如何發揮極致價值,討論現階段及未來的契機與挑戰。

東臺嚴瑞雄董事長就「AI驅動的智慧製造」開啓討論,以機械專長來電機系談AI主題。他提到,生成式AI的出現,讓AI技術能在區分和理解數據上創造出新的解決方案和創意,解決智慧製造少量多樣的挑戰,大幅加速AI導入的時程。讓生成式AI與現有AI的結合,拓寬智慧製造的應用範疇,也定義新的發展方向。

奇景光電陳有棟副總經理以「微型機器學習(TinyML)發展及應用」爲現場帶來不同的AI應用實例。他提到,未來10年人工智慧運算會從「雲端」到「邊緣端」蓬勃發展,而TinyML(微型機器學習)技術將人工智慧運算推向設備的最終端,結合感測器和嵌入式系統在終端以極低功耗,低成本,低延遲完成邊緣機器學習運算,對於物聯網,穿戴式設備,智慧家居,智慧健康監控和工業自動化等應用都帶來突破性的發展,但也同時必須克服工程面的硬體設計,機器學習算法優化,開源工具鏈整合等問題,及商務模式上應用碎片化等問題;以奇景光電WiseEye平臺爲實例,透過整合低功耗影像感測器及終端人工智慧處理器,如何克服這些工程與商務的困難,並提出結合TinyML生態圈的未來發展方向。

耐能智慧劉峻誠執行長在成電論壇的尾聲就「個人化GPT:未來在終端」進行分享。一上臺,劉執行者就爲現場展示沒有連接網際網路的「私有化GPT」,舉凡搜尋世界名人相關資料、語言翻譯或寫程式等該GPT的回覆時間都很即時,隨後他更強調這些技術小型電路就能實現,而且沒有風扇、可以像積木一樣堆疊,符合各式市場需求。他提到,考慮到運行ChatGPT所需的GPU計算資源可能導致碳排放增加和成本上升,這對實現AI的民主性構成挑戰。終端算力NPU可同時解決延遲和隱私揭露問題,通過在邊緣運行AI演算法,實現最小延遲,成本效益顯著。