AI加速涌向邊緣,Armv9首次亮相IoT,助力物聯(lián)網(wǎng)升級
邊緣AI的算力躍遷,本質(zhì)是在重構(gòu)人、機(jī)器與物理世界的交互范式。
原標(biāo)題:AI加速涌向邊緣,Armv9首次亮相IoT,助力物聯(lián)網(wǎng)升級
文章來源:智東西
內(nèi)容字?jǐn)?shù):7818字
Armv9邊緣AI計算平臺:重構(gòu)人機(jī)物交互
本文總結(jié)了Arm發(fā)布的全球首個專為物聯(lián)網(wǎng)優(yōu)化的Armv9邊緣AI計算平臺,及其對邊緣AI領(lǐng)域帶來的變革性影響。該平臺以Cortex-A320 CPU和Arm Ethos-U85 NPU為核心,實現(xiàn)了CPU和NPU的深度融合,顯著提升了邊緣AI的計算性能和能效,并增強(qiáng)了安全性。
1. 邊緣AI的挑戰(zhàn)與機(jī)遇
隨著AI技術(shù)的快速發(fā)展,越來越多的AI工作負(fù)載轉(zhuǎn)移到邊緣側(cè),帶來了計算性能瓶頸和數(shù)據(jù)安全挑戰(zhàn)。在工業(yè)質(zhì)檢、自動駕駛、智慧醫(yī)療等領(lǐng)域,高效、安全的邊緣AI計算至關(guān)重要。IoT市場作為邊緣智能的代表性領(lǐng)域,對高性能、低功耗、安全可靠的邊緣AI計算平臺的需求日益增長。
2. Armv9平臺的性能提升與安全特性
Arm Cortex-A320 CPU相比前代產(chǎn)品,AI計算性能提升高達(dá)10倍,能效提升達(dá)50%。它與Ethos-U85 NPU協(xié)同工作,構(gòu)成異構(gòu)計算平臺,支持多模態(tài)環(huán)境感知與理解,并能運(yùn)行超過10億參數(shù)的大模型。此外,Armv9架構(gòu)支持MTE、PAC、BTI和S-EL2虛擬化等四大安全特性,為邊緣設(shè)備提供端到端的安全防護(hù)。
3. KleidiAI:加速IoT邊緣AI應(yīng)用落地
Arm將KleidiAI軟件庫拓展到IoT領(lǐng)域,為開發(fā)者提供性能優(yōu)化工具和軟件庫支持。KleidiAI能夠幫助開發(fā)者輕松實現(xiàn)AI應(yīng)用在Arm CPU上的最佳性能,降低開發(fā)門檻和成本,并兼容多種操作系統(tǒng)和AI框架,進(jìn)一步提升開發(fā)效率和靈活性。 這使得Cortex-A320能夠在多種操作系統(tǒng)和應(yīng)用場景中靈活適配,拓展了合作伙伴的產(chǎn)品選擇空間。
4. Arm軟硬件協(xié)同,賦能IoT邊緣AI
Arm通過Cortex-A320和Ethos-U85組成的硬件平臺以及KleidiAI軟件庫,實現(xiàn)了軟硬件協(xié)同,為邊緣AI的加速發(fā)展和應(yīng)用落地提供了有力支持。這標(biāo)志著Arm在賦能AI領(lǐng)域邁出了重要一步,也為IoT市場帶來了更多創(chuàng)新和發(fā)展可能性。 Armv9架構(gòu)的優(yōu)勢特性在IoT市場的落地,將重構(gòu)人、機(jī)器與物理世界的交互范式,推動邊緣AI的快速發(fā)展。
5. 未來展望
未來,邊緣AI計算需求將持續(xù)增長,Arm的邊緣AI計算平臺將在IoT生態(tài)系統(tǒng)中扮演至關(guān)重要的角色,為各細(xì)分市場帶來更多益處。 Arm的軟硬件結(jié)合策略將持續(xù)推動邊緣AI技術(shù)創(chuàng)新和應(yīng)用落地,為智能物聯(lián)網(wǎng)時代奠定堅實基礎(chǔ)。
聯(lián)系作者
文章來源:智東西
作者微信:
作者簡介:智能產(chǎn)業(yè)新媒體!智東西專注報道人工智能主導(dǎo)的前沿技術(shù)發(fā)展,和技術(shù)應(yīng)用帶來的千行百業(yè)產(chǎn)業(yè)升級。聚焦智能變革,服務(wù)產(chǎn)業(yè)升級。