12月19日,NVIDIA 推出了一款全新的尺寸小巧的生成式 AI 超級計(jì)算機(jī),具有更高的性價(jià)比,通過軟件升級即可實(shí)現(xiàn)性能提升。
全新 NVIDIA Jetson Orin Nano Super 開發(fā)者套件只有手掌大小,能夠?yàn)樯虡I(yè) AI 開發(fā)者、科技愛好者和學(xué)生等各類人群提供更強(qiáng)大的生成式 AI 功能與性能,目前建議零售價(jià) 2070 人民幣。
該開發(fā)者套件現(xiàn)已上市,與上一代產(chǎn)品相比,其生成式 AI 推理性能提升至 1.7 倍,性能提升了 70%,達(dá)到 67 INT8 TOPS,內(nèi)存帶寬提高了 50%,達(dá)到 102GB/s。
無論是創(chuàng)建基于檢索增強(qiáng)生成的 LLM 聊天機(jī)器人、構(gòu)建視覺 AI 智能體、還是部署基于 AI 的機(jī)器人,Jetson Orin Nano Super 都是理想的解決方案。
持續(xù)為用戶創(chuàng)造價(jià)值
全新 Jetson Orin Nano Super 的軟件更新同樣適用于現(xiàn)有 Jetson Orin Nano 開發(fā)者套件用戶,通過升級軟件,可顯著提升生成式 AI 性能。
Jetson Orin Nano Super 適合對生成式 AI 開發(fā)、機(jī)器人技術(shù)以及計(jì)算機(jī)視覺感興趣的開發(fā)者。隨著AI 領(lǐng)域正在從特定任務(wù)模型轉(zhuǎn)向基礎(chǔ)模型,它為用戶提供了一個(gè)易于上手的平臺,幫助他們將創(chuàng)意轉(zhuǎn)化為現(xiàn)實(shí)。
適用于生成式 AI 的“Super”性能強(qiáng)大
Jetson Orin Nano Super 在性能上的提升可為所有主流的生成式 AI 模型和基于 Transformer 的計(jì)算機(jī)視覺帶來增益。
該開發(fā)者套件包含一個(gè) Jetson Orin Nano 8GB 系統(tǒng)級模組(SoM)和一個(gè)參考載板,為邊緣 AI 應(yīng)用的原型開發(fā)工作提供了理想的平臺。
Jetson Orin Nano 8GB 模組配備了 NVIDIA Ampere GPU 和 6 核 ARM CPU,支持多個(gè)并發(fā)的 AI 應(yīng)用管道和高性能推理。該模組支持最多 4 通道的攝像頭模塊,提供比以往更高的分辨率和幀率。
龐大的生成式 AI 軟件生態(tài)系統(tǒng)與社區(qū)
生成式 AI 正在迅速發(fā)展。NVIDIA Jetson AI 實(shí)驗(yàn)室為來自開源社區(qū)的前沿模型提供即時(shí)支持,并為開發(fā)者提供易于使用的教程。開發(fā)者還可以從龐大的 Jetson 社區(qū)獲得廣泛支持,并從開發(fā)者創(chuàng)建的項(xiàng)目中獲得靈感。
Jetson 可支持各種 NVIDIA AI 軟件,包括 NVIDIA Isaac 機(jī)器人平臺、NVIDIA Metropolis 視覺AI平臺和 NVIDIA Holoscan 傳感器處理平臺。借助NVIDIA Omniverse Replicator 實(shí)現(xiàn)合成數(shù)據(jù)生成(SDG),以及通過 NVIDIA TAO 開發(fā)者套件對 NGC 目錄中的預(yù)訓(xùn)練 AI 模型進(jìn)行精細(xì)調(diào)整,可以有效縮短開發(fā)時(shí)間。
Jetson 生態(tài)系統(tǒng)合作伙伴可以提供額外的 AI 和系統(tǒng)軟件、開發(fā)者工具以及定制軟件開發(fā),他們還可以針對攝像頭、傳感器、載板以及產(chǎn)品設(shè)計(jì)服務(wù)等提供支持。
“Super Mode”賦能 Jetson Orin 全系產(chǎn)品
Jetson Orin NX 和 Orin Nano 系列系統(tǒng)級模組也可以通過這一軟件更新,實(shí)現(xiàn) 1.7 倍的生成式 AI性能提升。
已有 Jetson Orin Nano 開發(fā)者套件的用戶,即刻就可以升級您的 JetPack SDK 以提升性能。