邊緣AI的算力躍遷,本質是在重構人、機器與物理世界的交互范式。
原標題:AI加速涌向邊緣,Armv9首次亮相IoT,助力物聯網升級
文章來源:智東西
內容字數:7818字
Armv9邊緣AI計算平臺:重構人機物交互
本文總結了Arm發布的全球首個專為物聯網優化的Armv9邊緣AI計算平臺,及其對邊緣AI領域帶來的變革性影響。該平臺以Cortex-A320 CPU和Arm Ethos-U85 NPU為核心,實現了CPU和NPU的深度融合,顯著提升了邊緣AI的計算性能和能效,并增強了安全性。
1. 邊緣AI的挑戰與機遇
隨著AI技術的快速發展,越來越多的AI工作負載轉移到邊緣側,帶來了計算性能瓶頸和數據安全挑戰。在工業質檢、自動駕駛、智慧醫療等領域,高效、安全的邊緣AI計算至關重要。IoT市場作為邊緣智能的代表性領域,對高性能、低功耗、安全可靠的邊緣AI計算平臺的需求日益增長。
2. Armv9平臺的性能提升與安全特性
Arm Cortex-A320 CPU相比前代產品,AI計算性能提升高達10倍,能效提升達50%。它與Ethos-U85 NPU協同工作,構成異構計算平臺,支持多模態環境感知與理解,并能運行超過10億參數的大模型。此外,Armv9架構支持MTE、PAC、BTI和S-EL2虛擬化等四大安全特性,為邊緣設備提供端到端的安全防護。
3. KleidiAI:加速IoT邊緣AI應用落地
Arm將KleidiAI軟件庫拓展到IoT領域,為開發者提供性能優化工具和軟件庫支持。KleidiAI能夠幫助開發者輕松實現AI應用在Arm CPU上的最佳性能,降低開發門檻和成本,并兼容多種操作系統和AI框架,進一步提升開發效率和靈活性。 這使得Cortex-A320能夠在多種操作系統和應用場景中靈活適配,拓展了合作伙伴的產品選擇空間。
4. Arm軟硬件協同,賦能IoT邊緣AI
Arm通過Cortex-A320和Ethos-U85組成的硬件平臺以及KleidiAI軟件庫,實現了軟硬件協同,為邊緣AI的加速發展和應用落地提供了有力支持。這標志著Arm在賦能AI領域邁出了重要一步,也為IoT市場帶來了更多創新和發展可能性。 Armv9架構的優勢特性在IoT市場的落地,將重構人、機器與物理世界的交互范式,推動邊緣AI的快速發展。
5. 未來展望
未來,邊緣AI計算需求將持續增長,Arm的邊緣AI計算平臺將在IoT生態系統中扮演至關重要的角色,為各細分市場帶來更多益處。 Arm的軟硬件結合策略將持續推動邊緣AI技術創新和應用落地,為智能物聯網時代奠定堅實基礎。
聯系作者
文章來源:智東西
作者微信:
作者簡介:智能產業新媒體!智東西專注報道人工智能主導的前沿技術發展,和技術應用帶來的千行百業產業升級。聚焦智能變革,服務產業升級。