最新發(fā)布:近日,MLCommons發(fā)布了其行業(yè)標(biāo)準(zhǔn)AI性能基準(zhǔn)套件MLPerf推理v4.1的結(jié)果。英特爾提交了第五代英特爾® 至強(qiáng)® 可擴(kuò)展處理器的六項(xiàng)MLPerf基準(zhǔn)測(cè)試結(jié)果,并首次提交了英特爾® 至強(qiáng)® 6處理器性能核(P核)的結(jié)果。與第五代至強(qiáng)處理器相比,英特爾至強(qiáng)6性能核處理器實(shí)現(xiàn)了AI性能的幾何平均值約1.9倍的提升。
“最新MLPerf結(jié)果表明,持續(xù)的投入和資源配置對(duì)于提高AI性能至關(guān)重要。縱觀MLPerf的測(cè)試結(jié)果,過去四年,英特爾至強(qiáng)處理器的AI性能提升了高達(dá)17倍之多。步入今年下半年,隨著至強(qiáng)6處理器具備廣泛可應(yīng)用性時(shí),我們期待能與客戶、合作伙伴一道持續(xù)加速其出貨和市場(chǎng)應(yīng)用。”
重要意義:AI系統(tǒng)在跨多種場(chǎng)景的解決方案的順利部署,都離不開CPU這一關(guān)鍵的硬件。英特爾至強(qiáng)處理器為AI推理提供了出色的解決方案,包括經(jīng)典的機(jī)器學(xué)習(xí)和向量搜索嵌入。
在MLPerf推理v4.1中,英特爾提交了第五代英特爾至強(qiáng)處理器和至強(qiáng)6能效核處理器在ResNet50、RetinaNet、3DUNet、BERT、DLRM v2和GPT-J上的結(jié)果。與第五代英特爾至強(qiáng)相比,至強(qiáng)6在這六個(gè)基準(zhǔn)測(cè)試中展現(xiàn)出平均約1.9倍的AI推理性能提升。英特爾仍是唯一向MLPerf提交CPU結(jié)果的服務(wù)器處理器供應(yīng)商。
自四年前首次提交MLPerf結(jié)果以來,英特爾CPU的AI性能表現(xiàn)具備顯著提升。與2021年發(fā)布的第三代英特爾® 至強(qiáng)® 可擴(kuò)展處理器相比,至強(qiáng)6在自然語言處理(BERT)上的性能提升高達(dá)17倍,在計(jì)算機(jī)視覺(ResNet50)工作負(fù)載上的性能提升高達(dá)15倍。英特爾將持續(xù)推進(jìn)AI在CPU路線圖中的進(jìn)展。例如,通過新的數(shù)據(jù)類型和效率提升,繼續(xù)推進(jìn)英特爾® 高級(jí)矩陣擴(kuò)展 (AMX) 創(chuàng)新。