一、美國(guó)超算中心采用，打入科研領(lǐng)域

　　Habana Labs創(chuàng)立于2016年，總部位于以色列特拉維夫，2019年被英特爾以20億美元收購(gòu)，成為英特爾數(shù)據(jù)產(chǎn)品集團(tuán)獨(dú)立運(yùn)營(yíng)的業(yè)務(wù)部門。

　　此前，其自研云端AI推理芯片Goya和云端AI訓(xùn)練芯片Gaudi已被云計(jì)算巨頭亞馬遜AWS應(yīng)用。

　　如今，兩款芯片迎來(lái)新的落地進(jìn)展，加州大學(xué)圣地亞哥分校的圣地亞哥超級(jí)計(jì)算機(jī)中心（SDSC）將在其Voyager超級(jí)計(jì)算機(jī)中采用這兩款芯片，這也是Habana Labs在科研領(lǐng)域的一次突破。

　　Voyager超算由美國(guó)國(guó)家科學(xué)基金（NSF）資助，從事天文學(xué)、氣候科學(xué)、化學(xué)、粒子物理學(xué)等跨學(xué)科和工程領(lǐng)域的AI研究。例如在天文學(xué)，AI可以被用于對(duì)比外太空?qǐng)D像和判斷是否有新的太空物質(zhì)出現(xiàn)。

　　而Habana Labs的訓(xùn)練及推理芯片將為這些研究起到加速計(jì)算的作用。

　　Voyager集群采用了336片Gaudi芯片用于AI訓(xùn)練，每個(gè)訓(xùn)練節(jié)點(diǎn)使用了6個(gè)400GbE RoCE的高速互聯(lián)，推理預(yù)測(cè)采用了16片Goya芯片，預(yù)計(jì)今年10月可供研究人員使用。

　　據(jù)于明揚(yáng)分享，Gaudi和Goya提升了Voyager超算AI工作的性能和效率，使研究人員能夠使用可編程張量處理器內(nèi)核和內(nèi)核庫(kù)定制模型。

　　其中，Gaudi內(nèi)置集成了10個(gè)支持RoCE v2（RDMA over Converged Ethernet）100G以太網(wǎng)端口，可以提升擴(kuò)展的靈活性，避免擴(kuò)展能力受于限吞吐量。如果搭配Habana的SynapseAI軟件平臺(tái)，使用者操作起來(lái)將更加便捷。

　　于明揚(yáng)提到，作為一家初創(chuàng)公司，Habana Labs的產(chǎn)品細(xì)節(jié)還有待提升，其市場(chǎng)戰(zhàn)略基本是選擇主流的云廠商進(jìn)行合作，通過(guò)與有代表性的用戶進(jìn)行合作，來(lái)打磨、完善產(chǎn)品。

　　二、背靠英特爾生態(tài)，仍獨(dú)立運(yùn)營(yíng)

　　在被問(wèn)到與英特爾相關(guān)的問(wèn)題時(shí)，于明揚(yáng)回應(yīng)，Habana Labs仍然作為一家獨(dú)立公司運(yùn)營(yíng)，其市場(chǎng)戰(zhàn)略依舊比較獨(dú)立，也可以及時(shí)對(duì)用戶的問(wèn)題進(jìn)行反饋。英特爾為Habana Labs提供了很多客戶資源，也使Habana Labs在業(yè)內(nèi)的口碑有所上升。

　　同時(shí)，客戶在選擇AI芯片時(shí)，往往優(yōu)先選擇符合其處理器架構(gòu)的芯片。在英特爾收購(gòu)Habana Labs后，雙方在生態(tài)上有所協(xié)同，英特爾的x86處理器也為Habana Labs帶來(lái)了部分用戶。

　　Habana Labs在被收購(gòu)后，其技術(shù)路線圖也沒(méi)有發(fā)生太大的改變，其軟件生態(tài)也會(huì)在模型、工具等方面有很大的進(jìn)步，還將提供預(yù)處理等新功能。

　　于明揚(yáng)還特別講到，因?yàn)橛⑻貭柕拇I(yè)務(wù)剛剛起步，所以近兩年Habana Labs暫時(shí)不會(huì)選擇英特爾代工，雙方會(huì)逐步開(kāi)展更多的合作。

　　三、預(yù)告下一代訓(xùn)練芯片，性能提升超2倍

　　此前，在AI芯片的訓(xùn)練端，英偉達(dá)旗下的GPU（圖形處理器）可謂一家獨(dú)大。而Habana Labs的Gaudi則對(duì)這一現(xiàn)狀發(fā)起了挑戰(zhàn)。

　　于明揚(yáng)稱，Habana Labs的Gaudi芯片與英偉達(dá)的旗艦GPU A100相比，雖然性能上還略有不如，但是在性價(jià)比上已經(jīng)實(shí)現(xiàn)了超越。他提到，Habana Gaudi基本上已經(jīng)能夠達(dá)到A100 70%的性能，而價(jià)格則只有A100的一半，這使得很多客戶在實(shí)際體驗(yàn)后選擇了Habana Gaudi。

　　Habana Labs預(yù)計(jì)將于明年上半年推出下一代AI芯片，代號(hào)為Gaudi 2，將采用臺(tái)積電7nm制程工藝。與現(xiàn)有的Gaudi芯片相比，Gaudi 2將會(huì)有兩倍以上的性能提升。

　　最后，于明揚(yáng)談到了未來(lái)AI芯片的發(fā)展趨勢(shì)。他認(rèn)為，異構(gòu)計(jì)算將會(huì)是未來(lái)芯片的發(fā)展方向，GPU、FPGA、ASIC等各類芯片將會(huì)根據(jù)特點(diǎn)不同，在計(jì)算集群中擔(dān)任不同的任務(wù)。而未來(lái)的挑戰(zhàn)就是如何將不同的任務(wù)，部署到最合適的架構(gòu)上。

　　結(jié)語(yǔ)：背靠英特爾，提升市場(chǎng)競(jìng)爭(zhēng)力

　　在加入英特爾的整個(gè)生態(tài)體系后，Habana Labs的客戶資源得到了提升，在產(chǎn)品性價(jià)比不錯(cuò)的前提下，為當(dāng)今的AI芯片市場(chǎng)提供了一種新的選擇。而英特爾也借此豐富了自己的武器庫(kù)，加強(qiáng)了自己在AI芯片領(lǐng)域的實(shí)力。在于明揚(yáng)看來(lái)，SDSC作為美國(guó)少數(shù)超算中心之一，選擇Habana Gaudi、Goya，某種程度上說(shuō)明SDSC看好ASIC芯片在超算集群中的應(yīng)用前景，也證明Habana Labs的產(chǎn)品在科研領(lǐng)域有一定的發(fā)展?jié)摿Α?/p>

　　隨著Habana Labs產(chǎn)品細(xì)節(jié)的完善，其AI芯片的市場(chǎng)競(jìng)爭(zhēng)力也在不斷提升，可能會(huì)對(duì)英偉達(dá)在AI訓(xùn)練等領(lǐng)域的地位發(fā)起挑戰(zhàn)。