報(bào)道稱，在嵌入式領(lǐng)域，邊緣與端側(cè)AI推理需求不斷增長(zhǎng)，Arm既有Helium 技術(shù)使 CPU 能夠執(zhí)行更多計(jì)算密集型的 AI 推理算法，也有Ethos 系列 AI 加速器，以滿足更高性能和更復(fù)雜的 AI 工作負(fù)載。Ethos-U NPU系列是業(yè)界首款 AI 微加速器，英飛凌、恩智浦半導(dǎo)體、奇景光電 (Himax)、Alif Semiconductor 和 Synaptics 等領(lǐng)先企業(yè)均已推出搭載 Ethos-U 的量產(chǎn)芯片。最近，Arm發(fā)布Arm Ethos-U85 AI加速器，這款加速器在性能、算力、應(yīng)用場(chǎng)景方面進(jìn)一步拓展，著眼于未來幾年的邊緣AI的應(yīng)用所需。

全新Arm Ethos-U85 AI加速器

與上一代產(chǎn)品相比，Ethos-U85 性能提升四倍，能效提高 20%，它支持MAC 單元從 128 個(gè)擴(kuò)展到 2048 個(gè)（在 1GHz 時(shí)，算力實(shí)現(xiàn) 4 TOPs）。Ethos-U85 提供了相同的一致工具鏈，實(shí)現(xiàn)無縫的開發(fā)者體驗(yàn)。全新 Ethos-U85 NPU 支持TensorFlow Lite 和 PyTorch 等 AI 框架。Ethos-U85可滿足于智能家居、零售、工業(yè)等新興的邊緣 AI 場(chǎng)景對(duì)更高性能計(jì)算的需求。

Ethos-U85支持Transformer 架構(gòu)和卷積神經(jīng)網(wǎng)絡(luò) (CNN) 以實(shí)現(xiàn) AI 推理。Arm 物聯(lián)網(wǎng)事業(yè)部業(yè)務(wù)拓展副總裁馬健Chloe Ma分析，Ethos-U85 不僅僅提供卷積神經(jīng)網(wǎng)絡(luò) (CNN) 所需的權(quán)重矩陣乘的運(yùn)算，還支持矩陣相乘，這是 Transformer 架構(gòu)網(wǎng)絡(luò)的一個(gè)基本組成部分。Ethos-U85 增加對(duì)Transformer 架構(gòu)網(wǎng)絡(luò)的支持，這是優(yōu)化大模型邊緣落地微調(diào)時(shí)間、提升模型泛化的一個(gè)關(guān)鍵特性。

馬健表示：“基于 Transformer 的模型具有優(yōu)異的泛化功能，它將更快地驅(qū)動(dòng)新 AI 應(yīng)用的發(fā)展。Transformer 在視覺和生成式 AI 用例中，比如視頻理解、圖文結(jié)合，圖像增強(qiáng)與生成、圖像分類和目標(biāo)檢測(cè)等方面都極有價(jià)值。Transformer 架構(gòu)網(wǎng)絡(luò)的注意力機(jī)制容易利用并行計(jì)算來實(shí)現(xiàn)，提高硬件使用效率，使得這些模型能夠部署在計(jì)算資源有限的邊緣設(shè)備上。開發(fā)者可以通過選用針對(duì) Transformer 架構(gòu)網(wǎng)絡(luò)優(yōu)化的設(shè)計(jì)，發(fā)掘邊緣 AI 的新機(jī)遇，使這些應(yīng)用享有更快的推理、更優(yōu)化的模型性能和可擴(kuò)展性。”

Ethos-U85 不僅支持低功耗MCU的AI加速。在高性能邊緣計(jì)算系統(tǒng)中，Ethos-U85與Armv9 Cortex-A CPU相結(jié)合，為基于應(yīng)用處理器的智能物聯(lián)網(wǎng)平臺(tái)上運(yùn)行的AI任務(wù)實(shí)現(xiàn)加速。這將使 Ethos-U85 能夠在工業(yè)機(jī)器視覺、邊緣網(wǎng)關(guān)、可穿戴設(shè)備和消費(fèi)類機(jī)器人等應(yīng)用中，帶來高效能的邊緣推理。