去年NVIDIA重磅發(fā)布旗艦A100 GPU以及一系列服務(wù)器、集群、超算，轟動(dòng)整個(gè)人工智能領(lǐng)域，如今，老黃帶著一系列軟硬件新品高調(diào)回歸。

　　萬(wàn)萬(wàn)沒(méi)想到，這一次，全球GPU霸主NVIDIA推出了一款基于Arm的數(shù)據(jù)中心CPU！

　　在宣布400億美元收購(gòu)Arm的6個(gè)月后，NVIDIA連發(fā)三款基于Arm IP打造的處理器，包括全球首款專為TB級(jí)加速計(jì)算而設(shè)計(jì)的CPU NVIDIA Grace、全新BlueField-3 DPU，以及業(yè)界首款1000TOPS算力的自動(dòng)駕駛汽車SoC。

　　“我們每年都會(huì)發(fā)布激動(dòng)人心的新品。三類芯片，逐年飛躍，一個(gè)架構(gòu)?！秉S仁勛說(shuō)，數(shù)據(jù)中心路線圖包括CPU、GPU和DPU這三類芯片，而Grace和BlueField是其中必不可少的關(guān)鍵組成部分。每個(gè)芯片架構(gòu)歷經(jīng)兩年的打磨周期（周期內(nèi)可能出現(xiàn)轉(zhuǎn)變），一年專注于x86平臺(tái)，另一年專注于 Arm 平臺(tái)。

　　此外，NVIDIA還公布了與亞馬遜AWS、Ampere Computing、聯(lián)發(fā)科和Marvell等基于Arm的CPU平臺(tái)的合作伙伴關(guān)系。

　　在軟件方面，超大規(guī)模語(yǔ)言模型訓(xùn)練與推理問(wèn)答引擎Megatron、實(shí)時(shí)對(duì)話式AI平臺(tái)Jarvis、AI網(wǎng)絡(luò)安全框架Morpheus、Omniverse企業(yè)版、由GPU加速的量子電路模擬框架CuQuantum等一系列最新進(jìn)展首次揭曉。

　　顯然，面向數(shù)據(jù)中心異構(gòu)計(jì)算的新天地，NVIDIA正集合軟硬件技術(shù)優(yōu)勢(shì)，打出高調(diào)的組合拳。

　　3款自研Arm芯：首顆數(shù)據(jù)中心CPU落地全球最快AI超算

　　此次發(fā)布會(huì)令人最印象深刻的，就是NVIDIA在助推Arm生態(tài)方面不遺余力，從自研CPU、DPU、自動(dòng)駕駛處理器到GPU的合作伙伴，從云、高性能計(jì)算、邊緣計(jì)算到PC，無(wú)處不Arm。

　　先來(lái)看下這次發(fā)布的五款硬件新品：

　　1、首顆數(shù)據(jù)中心CPU：落地全球最快AI超算

　　黃仁勛宣布的第一個(gè)重磅新品，是一款專為大規(guī)模人工智能和高性能計(jì)算應(yīng)用而設(shè)計(jì)的CPU——NVIDIA Grace。

　　絕大多數(shù)的數(shù)據(jù)中心仍將繼續(xù)使用現(xiàn)有的CPU，而Grace主要將用于計(jì)算領(lǐng)域的細(xì)分市場(chǎng)，預(yù)計(jì)將于2023年可供貨。

　　由于超大規(guī)模的模型很難完全放進(jìn)GPU內(nèi)存，如果存儲(chǔ)在系統(tǒng)內(nèi)存，訪問(wèn)速度則會(huì)大大受限，這款CPU的問(wèn)世主要即是為了解決這一瓶頸。

　　NVIDIA Grace以發(fā)明了世界上第一個(gè)編譯器、被稱為“計(jì)算機(jī)軟件工程第一夫人”的先驅(qū)計(jì)算機(jī)科學(xué)家Grace Hopper命名，具體有3點(diǎn)創(chuàng)新進(jìn)步：

　?。?）內(nèi)置下一代Arm Neoverse內(nèi)核，每個(gè)CPU能在SPECrate2017_int_base基準(zhǔn)測(cè)試中分?jǐn)?shù)超過(guò)300分；

　　（2）采用第四代NVIDIA NVLink，從CPU到GPU連接速度超過(guò)900GB/s，達(dá)到相當(dāng)于目前服務(wù)器14倍的帶寬；從CPU到CPU的速度超過(guò)600GB/s。

　?。?）擁有最高的內(nèi)存帶寬，采用的新內(nèi)存LPDDR5x技術(shù)，帶寬是LPDDR4的兩倍，能源效率提高了10倍，能提供更多計(jì)算能力。

　　明年將有兩臺(tái)性能強(qiáng)大的AI超級(jí)計(jì)算機(jī)面世，都將采用NVIDIA Grace，據(jù)稱其與NVIDIA GPU緊密結(jié)合，性能將比目前最先進(jìn)的NVIDIA DGX系統(tǒng)（在x86 CPU上運(yùn)行）高出10倍。

　　這兩臺(tái)AI超算中，瑞士國(guó)家計(jì)算中心（CSCS）正在打造一個(gè)算力可達(dá)20Exaflops的系統(tǒng)，美國(guó)洛斯阿拉莫斯國(guó)家實(shí)驗(yàn)室（Los Alamos National Laboratory）也將為其研究人員配備新AI超算。

　　2、Bluefield-3 DPU：220億晶體管

　　在黃仁勛看來(lái)，負(fù)責(zé)在數(shù)據(jù)中心傳輸和處理數(shù)據(jù)的數(shù)據(jù)處理單元（DPU），正與CPU、GPU共同組成“未來(lái)計(jì)算的三大支柱”。

　　NVIDIA全新BlueField-3 DPU包含220億個(gè)晶體管，采用16個(gè)Arm A78 CPU核心、18M IOPs彈性塊存儲(chǔ)，加密速度是上一代的4倍，并完全向下兼容BlueField-2。

　　BlueField-2能夠卸載相當(dāng)于30個(gè)CPU核的工作負(fù)載，而B(niǎo)lueField-3實(shí)現(xiàn)了10倍的加速計(jì)算性能提升，能夠替代300個(gè)CPU核，以400Gbps的速率，對(duì)網(wǎng)絡(luò)流量進(jìn)行保護(hù)、卸載和加速。該處理器也是首款支持第五代PCIe總線并提供數(shù)據(jù)中心時(shí)間同步加速的DPU。

　　BlueField-3通過(guò)NVIDIA DOCA（集數(shù)據(jù)中心于芯片的架構(gòu)）軟件開(kāi)發(fā)包為開(kāi)發(fā)者提供一個(gè)完整、開(kāi)放的軟件平臺(tái)，開(kāi)發(fā)在BlueField DPU上開(kāi)發(fā)軟件定義和硬件加速的網(wǎng)絡(luò)、存儲(chǔ)、安全和管理等應(yīng)用。DOCA已于今日發(fā)布并提供下載。

　　新一代BlueField-3 DPU預(yù)計(jì)將于2022年第一季度發(fā)布樣品，第四代BlueFieldDPU將包含640個(gè)晶體管，算力達(dá)1000TOPS，網(wǎng)絡(luò)速率達(dá)800Gbps。

　　3、車輪上的數(shù)據(jù)中心：業(yè)界率先達(dá)成1000TOPS

　　NVIDIA DRIVE Atlan是新一代AI自動(dòng)駕駛汽車處理器，算力將達(dá)到1000TOPS，約是上一代Orin處理器的4倍，超過(guò)了大多數(shù)L5無(wú)人駕駛出租車的總計(jì)算能力。

　　這是DRIVE平臺(tái)首次集成DPU，通過(guò)Arm核為自動(dòng)駕駛汽車帶來(lái)數(shù)據(jù)中心級(jí)的網(wǎng)絡(luò)，致力于應(yīng)用到2025年的車型。

　　該SoC采用下一代GPU的體系結(jié)構(gòu)、新型Arm CPU內(nèi)核、新深度學(xué)習(xí)和計(jì)算機(jī)視覺(jué)加速器，并內(nèi)置為先進(jìn)的網(wǎng)絡(luò)、存儲(chǔ)和安全服務(wù)的BlueField DPU，網(wǎng)絡(luò)速度可達(dá)400Gbps。

　　黃仁勛夸贊說(shuō)：“Atlan集NVIDIA在AI、汽車、機(jī)器人、安全和BlueField安全數(shù)據(jù)中心領(lǐng)域的所有技術(shù)之大成，堪稱一項(xiàng)技術(shù)奇跡。”

　　4、便捷式AI數(shù)據(jù)中心和DGX SuperPod雙升級(jí)

　　黃仁勛還宣布升級(jí)NVIDIA專為工作組打造的“便攜式AI數(shù)據(jù)中心”NVIDIADGX Station，以及NVIDIA專為密集型AI研發(fā)打造的AI數(shù)據(jù)中心產(chǎn)品NVIDIA DGX SuperPod。

　　全新DGX Station 320G借助320GB超快速HBM2e連接至4個(gè)NVIDIA A100 GPU，內(nèi)存帶寬達(dá)到每秒8TB。然而，僅需將其插入普通的壁裝電源插座即可使用，耗電量只有1500W。

　　黃仁勛說(shuō)，達(dá)到這種性能的CPU集群成本約為100萬(wàn)美元，而DGX Station僅需14.9萬(wàn)美元。

　　DGX SuperPOD使用全新80GB NVIDIA A100，將其HBM2e內(nèi)存提升至90TB，實(shí)現(xiàn)2.2EB/s的總帶寬。要實(shí)現(xiàn)如此的帶寬，需要11000臺(tái)CPU服務(wù)器，大約相當(dāng)于有250個(gè)機(jī)柜的數(shù)據(jù)中心，比SuperPOD多15倍。

　　目前它已經(jīng)升級(jí)至采用NVIDIA BlueField-2，且NVIDIA如今還為該產(chǎn)品提供配套的NVIDIA Base Command DGX管理和編排工具。

　　5、Aerial A100：5G+AI的新型邊緣計(jì)算平臺(tái)

　　黃仁勛還提到了NVIDIA的AI-on-5G計(jì)算平臺(tái)，這是一款專為邊緣設(shè)計(jì)、將5G和AI相結(jié)合的新型計(jì)算平臺(tái)。該平臺(tái)將采用NVIDIA Aerial軟件開(kāi)發(fā)套件與NVIDIA BlueField-2 A100，將GPU和CPU組合成“有史以來(lái)最先進(jìn)的PCIE卡?！?/p>

　　富士通、谷歌云、Mavenir、Radisys和Wind River等合作伙伴都在開(kāi)發(fā)適用于NVIDIA AI-on-5G平臺(tái)的解決方案。

　　協(xié)作亞馬遜自研CPU支持云服務(wù)，打造Arm+GPU新PC

　　除了推出基于Arm的CPU外，NVIDIA還宣布一系列與Arm處理器設(shè)計(jì)商的合作進(jìn)展，包括將為亞馬遜AWSGraviton2 CPU提供GPU加速、為科學(xué)和AI應(yīng)用開(kāi)發(fā)提供支持的全新HPC開(kāi)發(fā)者套件、提升邊緣視頻分析和安全功能、打造新一類基于Arm并搭載NVIDIA RTX GPU的新款PC等。

　　這些舉動(dòng)反映出無(wú)論是市場(chǎng)還是NVIDIA自身，對(duì)基于Arm的解決方案的興趣已經(jīng)超出移動(dòng)領(lǐng)域。