趨勢觀察/高效率AI PC 變身生活智慧助理

高通財務長Akash Palkhiwala認爲,使用者與AI PC互動的新時代已經來臨。 高通/提供

身爲晶片大廠,高通財務長Akash Palkhiwala認爲,目前正進入生成式AI時代。生成式AI將利用神經網路驅動全新體驗和使用案例,這是一次重大的進展,但僅依靠雲端是無法高效實現。透過打造全新類別強大且高效率的AI PC,裝置上的AI將改變PC產業。

實現個人化互動 增強隱私

有了AI加持,Akash Palkhiwala表示,使用者的終端裝置將成爲真正的智慧助理,以更直覺、更無縫的方式融入生活。在未來PC產業中蓬勃發展的廠商,將是那些期待進入由AI實現整合個人化體驗世界的企業。

Akash Palkhiwala指出,目前關於生成式AI的熱門討論,大多聚焦在利用雲端以運作、訓練、推理模型,但並非所有工作都需要去雲端。由生成式AI驅動的體驗,正以前所未有的速度普及,產生大量的運算處理需求,因此採用兼具雲端和裝置上最具優勢的解決方案至關重要,這就是混合式AI,即是將工作負載分佈在雲端和邊緣裝置之間,並進行協作,進而提供更強大、效率更高且高度最佳化的體驗。

同時,Akash Palkhiwala提到,廣泛且持續在裝置上運行AI的應用程式,正在瞭解使用者,以預測與迴應使用者的需求,其提供的即時性和可靠性,不會因容量限制而導致延遲。這個過程是利用裝置上可用的情境和內容,實現個人化互動、提醒與迴應。且由於查詢(query)無須離開終端裝置,因此有助於保護個人資訊,並增強隱私。

高效運行 異質運算是關鍵

Akash Palkhiwala也說,有了裝置上的AI,使用者可方便地與AI助理進行自然流暢的對話。使用者不需要透過開始按鈕從一個應用程式跳到另一個應用程式,而是直接利用AI助理更有效率地與裝置互動。

例如,使用者想要預訂機票,可直接向AI助理詢問相關資訊即可。更重要的是,如果AI助理觀察到使用者預訂了機票,它甚至可在使用者詢問之前就提供飯店資訊。

在裝置上高效運行AI模型需要異質運算。Akash Palkhiwala表示,除了CPU和GPU外,神經網絡處理單元(NPU)現在是裝置上AI和衡量PC效能的第三個關鍵處理核心。在裝置上AI引擎從CPU和GPU分流部分任務,以提升效能和電池效率。這可滿足在具可攜性設計的裝置上,以極低功耗隨時隨地持續運行高負載AI應用的處理需求。

Akash Palkhiwala強調,這個機會的規模空前巨大,事實上,94%的企業領導者評估AI對未來五年的成功至關重要。IT決策者認爲,AI是影響購買決策的最大因素。而最新研究也顯示,近一半的IT決策者有意願基於AI效能更換PC品牌。

最後,Akash Palkhiwala認爲,PC正處於令人興奮的世代改變風口,「我們已深刻地意識到在軟硬體中整合AI的重要性,這將開啓機會、開拓創新。使用者與AI PC互動的新時代已悄然而至。」