億玖資訊
Enine information- 億玖動態
- 行業資訊
ARM又出招了,目標直擊邊緣AI 計算!
發布時間:2025-02-27
近期,ARM 在邊緣 AI 計算賽道上重磅推出全球首個 Armv9 邊緣 AI 計算平臺,這一創新成果憑借超高能效與卓越 AI 性能,為物聯網應用注入全新活力。
![]()
核心升級,性能飛躍
此次推出的平臺搭載全新 Arm Cortex-A320 CPU 與 Ethos-U85 NPU。Cortex-A320 基于 Armv9.2 架構,支持 SVE2 指令集,對比前代 Cortex-A35,機器學習性能實現十倍增長,標量性能提升 30%。Ethos-U85 NPU 對 Transformer 算子網絡提供有力支持,讓平臺機器學習性能相較去年基于 Cortex-M85 的平臺提升八倍,輕松應對超 10 億參數端側 AI 模型運行需求,為物聯網設備處理復雜 AI 任務提供堅實基礎。
筑牢安全防線
鑒于邊緣設備多處于開放環境且涉及敏感數據處理,ARM 在新平臺中融入 Armv9.2 架構的高級安全特性。指針驗證(PAC)、分支目標識別(BTI)以及內存標記擴展(MTE)等技術,全方位抵御黑客攻擊,為邊緣 AI 應用的數據安全與隱私保護提供有力保障,確保設備在復雜環境中穩定可靠運行。
軟件優化,生態助力
ARM 將 Arm Kleidi 庫拓展至物聯網,為 AI 框架開發者打造便捷工具。Arm Kleidi 無需開發者額外操作,即可優化基于 Arm CPU 的 AI 和 ML 工作負載。其集成于 Llama.cpp、ExecuTorch、LiteRT 等常見物聯網 AI 框架,加速 Meta Llama 3、Phi-3 等關鍵模型性能提升。以 Llama.cpp 運行微軟 Tiny Stories 數據集為例,Cortex-A320 搭配 KleidiAI 性能提升高達 70%,大幅簡化邊緣 AI 開發流程,降低開發成本與時間,助力開發者快速推出創新應用。
該平臺支持基于智能體的 AI 應用運行調優后的大語言模型(LLM)和小語言模型(SLM),開拓全新邊緣應用場景。智能決策更靠近數據源頭,有效降低延遲,提升隱私保護。在工業自動化、智能家居、智慧城市等眾多領域,都能發揮巨大作用,推動行業向智能化、高效化、安全化邁進,為物聯網產業發展帶來無限可能。