隨著人工智慧滲透至生活與產(chǎn)業(yè)的每一個角落,運算架構(gòu)正迎來劇烈轉(zhuǎn)型。Arm 資深副總裁暨物聯(lián)網(wǎng)事業(yè)部總經(jīng)理 Paul Williamson 在 Arm Unlocked Taipei 2025 上指出,「我們正經(jīng)歷一場由 AI 引領(lǐng)的運算革命。」 未來三年內(nèi),Edge AI將不再是少數(shù)應(yīng)用的加值功能,而是推動物聯(lián)網(wǎng)、智慧製造、車載系統(tǒng)與消費電子全面升級的核心驅(qū)動力。
 |
| Arm 資深副總裁暨物聯(lián)網(wǎng)事業(yè)部總經(jīng)理 Paul Williamson(中)來臺參與 Arm Unlocked Taipei 2025 。 |
Paul Williamson 分析,AI 從雲(yún)端下沉至邊緣的主因,來自四項關(guān)鍵需求。
首先是 延遲。在自動化機械、互動式裝置或安全監(jiān)控等情境中,運算必須在毫秒內(nèi)完成回應(yīng),等待雲(yún)端伺服器回傳的模式將無法滿足實時性要求。其次是 隱私。感測器與影像資料越趨豐富,用戶更希望個資在本地處理,而非上傳至遠端雲(yún)端。第三是 能效。AI 模型在邊緣端執(zhí)行需要極致的功耗控制與架構(gòu)優(yōu)化,才能在有限的能源中運行複雜推論。最後則是 成本與韌性。唯有讓部分 AI 運算分散至終端裝置,才能降低雲(yún)端成本並確保在離線環(huán)境下仍能運作。
這四大因素共同推動了 Arm 在邊緣 AI 的技術(shù)策略:以能效導(dǎo)向的架構(gòu)設(shè)計支援更智慧、更分散的 AI 生態(tài)。
在技術(shù)層面上,Arm 今年推出首款採用第九代架構(gòu)的 IoT 處理器 Cortex-A320,專為低功耗 AI 推論設(shè)計,具備「Always-on」能力,能即時處理感測器輸入並執(zhí)行 Transformer 等語言模型。此外,Arm OSNAI 運算子系統(tǒng) 進一步結(jié)合 Cortex-A320 與 NPU 加速器,能在終端裝置上執(zhí)行更高階 AI 模型,如 PyTorch 或 Vision Transformer,為機器人、智慧家庭與工業(yè)自動化帶來即時運算效能。
Paul Williamson 強調(diào):「AI 已不再侷限於雲(yún)端,而是滲透到每一個能夠感知環(huán)境、理解情境並做出反應(yīng)的裝置中。」他舉例,如智慧安防系統(tǒng)可在邊緣端完成影像辨識與事件判斷,工業(yè)機器人則能透過本地 AI 即時規(guī)劃動作,展現(xiàn)更高自主性。
為了讓開發(fā)者與新創(chuàng)更快速導(dǎo)入 AI,Arm 宣布將前述技術(shù)整合進 Arm Flex for XLA 計畫,開放更多夥伴採用最新 Arm 架構(gòu),甚至讓部分新創(chuàng)公司能以「零成本」取得授權(quán)。此舉象徵 Arm 正將邊緣 AI 從晶片層延伸至生態(tài)層,透過軟硬體協(xié)同與開源合作,加速創(chuàng)新應(yīng)用落地。
Arm 臺灣總裁黃曉剛指出,臺灣擁有完整的資通訊與半導(dǎo)體產(chǎn)業(yè)鏈,是 Arm AI 生態(tài)的重要樞紐。隨著 AI 運算平臺持續(xù)演進,從晶片設(shè)計、模組製造到系統(tǒng)整合,臺灣夥伴將在全球邊緣 AI 擴展中扮演關(guān)鍵角色。