從上圖可見,英特爾準(zhǔn)備了OAM和PCIe兩個(gè)形態(tài)的Gaudi3,還有兩個(gè)面向中國(guó)市場(chǎng)的定制版Gaudi3。

上面標(biāo)注了“Prc-Designed”的就是給中國(guó)市場(chǎng)準(zhǔn)備的,一個(gè)是HL-328,一個(gè)是HL-388。

那么,這兩個(gè)都砍了什么呢?

從圖中可見,這兩個(gè)定制版主要砍了功耗,相比滿血版900W直接砍了50%。其他的部分都大同小異,都支持128GB的HBM顯存,3.7TB/s的帶寬什么的。

Gaudi3 vs H100
Gaudi3 vs H200

在上面兩張圖中,英特爾拿Gaudi3與H100和H200進(jìn)行了性能對(duì)比,在推理LLama-7B、LLama-70B以及Falcon-180B時(shí)的性能,Gaudi3比H100平均快了50%,比H200平均快了30%。

另外一張圖展示的是,英特爾Gaudi3在推理這些模型時(shí)的功耗優(yōu)勢(shì),相較于H100,其能效比高出了40%。

英特爾計(jì)劃將Gaudi3重新進(jìn)入中國(guó)市場(chǎng),未來結(jié)局還未可知。

此前,為規(guī)避美國(guó)政府相關(guān)規(guī)定的限制,英偉達(dá)推出了A800和H800,然而,最后也都被禁掉了。

而后,英特爾此前為中國(guó)市場(chǎng)推出的Gaudi2也被禁了,未來Gaudi3是否會(huì)被禁,也仍是未知數(shù)。這都得看美國(guó)是否會(huì)修改出口管制和國(guó)際貿(mào)易政策。

即使英特爾可以在中國(guó)市場(chǎng)銷售Gaudi3,它仍會(huì)面臨與英偉達(dá)以及一些來自中國(guó)國(guó)內(nèi)的AI芯片廠商的競(jìng)爭(zhēng)。

分享到

zhupb

相關(guān)推薦