從英特爾數(shù)據(jù)中心與人工智能集團(tuán)副總裁兼中國(guó)區(qū)總經(jīng)理陳葆立的介紹中了解到,第五代英特爾至強(qiáng)可擴(kuò)展處理器,其性能相較于上一代提升了21%,AI推理性能提高了42%,內(nèi)存帶寬也提升了16%。此外,它是目前最綠色的至強(qiáng)處理器。

2023年1月10日,第四代英特爾至強(qiáng)可擴(kuò)展處理器“Sapphire Rapids”發(fā)布,它支持DDR5、PCIe Gen5代,也支持CXL的Type1和Type兩類設(shè)備,內(nèi)置了多個(gè)加速器,最高60個(gè)核心。

一年發(fā)布兩代處理器的操作,幾年前在酷睿的11和12代上也發(fā)生過(guò)。而第五代至強(qiáng)也可以看做是第四代的一個(gè)升級(jí)版,它帶來(lái)的變化沒(méi)有第四代那么大。并且,現(xiàn)在第四代的主板升級(jí)一下BIOS就可以用直接第五代。

第五代至強(qiáng)的核心數(shù)從原來(lái)的最高60核提高到了64核,而L3緩存則從原來(lái)最多105MB提高到了320MB。內(nèi)存雖然還是8通道,但內(nèi)存提高到了DDR5-5600。負(fù)責(zé)CPU之間通信的UPI最高速度達(dá)20GT/s。

第五代的制造工藝跟第四代有較大變化,設(shè)計(jì)有所簡(jiǎn)化。從上圖可見(jiàn),第五代只有兩個(gè)die,die間也只有三個(gè)連接橋。而第四代則有四個(gè)小芯片組成,芯片之間的橋接數(shù)是4個(gè),兩兩互聯(lián),對(duì)角線沒(méi)有直連。

第五代兩個(gè)die的設(shè)計(jì)最大的好處是可以降低延遲,如上圖所示,在XCC(特別多核心)SKU下的大部分延遲數(shù)據(jù)中,它的延遲都更低,為性能提升打下了基礎(chǔ)。

雖然還是支持CXL 1.1,但這次第五代至強(qiáng)可擴(kuò)展處理器正式支持CXL Type 3設(shè)備了,也就是用作內(nèi)存擴(kuò)展的設(shè)備。

這意味著,除了用原來(lái)的DDR內(nèi)存,也能通過(guò)CXL連接額外四個(gè)CXL內(nèi)存設(shè)備了,加起來(lái)就是12個(gè)通道。

不過(guò),由于CXL 1.1標(biāo)準(zhǔn)還只是在單機(jī)范疇內(nèi)擴(kuò)展內(nèi)存,到了CXL 2.0才能引入CXL交換機(jī)的概念,才能跨系統(tǒng)設(shè)備實(shí)現(xiàn)內(nèi)存池的共享。

第四代英特爾至強(qiáng)可擴(kuò)展處理器提供了SGX(Intel Software Guard Extensions-軟件防護(hù)擴(kuò)展),這是一種能保護(hù)代碼和數(shù)據(jù)的技術(shù),即使在系統(tǒng)的其余部分被攻破的情況下,敏感數(shù)據(jù)也能得到安全保護(hù)。

而第五代在此基礎(chǔ)上新增了TDX(Intel Trust Domain Extensions-可信域拓展),這是一個(gè)虛擬機(jī)隔離技術(shù)。從上圖可見(jiàn),它相較于原來(lái)保護(hù)應(yīng)用數(shù)據(jù)的SGX的基礎(chǔ)上,又往下走了幾層,使虛擬機(jī)也能在受保護(hù)的范圍里運(yùn)行。

陳葆立介紹稱,英特爾SGX在過(guò)去的一年里得到了許多中國(guó)客戶的采用,它提供了一個(gè)隔離用戶應(yīng)用軟件的可信空間,而TDX則為用戶提供更大的可信空間,使得它在操作系統(tǒng)層面就擁有安全隔離,這將為用戶提供更為安全的保障。

陳葆立表示,第五代英特爾至強(qiáng)可擴(kuò)展處理器在每個(gè)內(nèi)核上都具備了加速器功能,可以用來(lái)處理包括大模型在內(nèi)的AI工作負(fù)載。與合作伙伴合作的測(cè)試中,已經(jīng)成功在第五代至強(qiáng)可擴(kuò)展處理器上運(yùn)行高達(dá)200億參數(shù)的模型推理。

英特爾率先開(kāi)始在至強(qiáng)里內(nèi)置AVX-512指令集,而后,在第四代英特爾至強(qiáng)可擴(kuò)展處理器里加入了內(nèi)置的AMX加速器。新的五代則讓AMX light和AVX512 heavy可以支持更高的Turbo頻率,從而提高AI推理性能表現(xiàn)。

此外,英特爾還分享了一些資料,展示了第五代至強(qiáng)可擴(kuò)展處理器,與此前的第四代和第三代相比,所帶來(lái)的巨大的提升。與第三代相比,平均性能提升了1.84倍,而AI推理和訓(xùn)練性能提高了最高14倍。

https://download.intel.com/newsroom/2023/data-center-hpc/Intel-4th-Gen-Xeon_product_SKUs.jpg

此外,這次第五代至強(qiáng)可擴(kuò)展處理器的SKU數(shù)要比第四代少很多,這次只有32個(gè),而第四代大約有50多個(gè)SKU。

對(duì)比之下,一些XCC(核特多)型號(hào)的第五代至強(qiáng)更有性價(jià)比。以同樣56核的來(lái)對(duì)比,上一代的8480+對(duì)比這一代的8570,前者價(jià)格是10710美元,后者則為9595美元。而且,前者的L3緩存僅為105MB,后者則為320MB。同時(shí),后者在主頻以及內(nèi)存方面規(guī)格更高。

以32核為分界線,32核以及以下的SKU,大部分MCC(核一般多)SKU價(jià)格都與上一代一樣。同樣的價(jià)格下,一些SKU的主頻或者L3緩存也有所提升,整體上,第五代至強(qiáng)還是更有性價(jià)比。

32個(gè)SKU當(dāng)中也有很多定制型號(hào),其中,以P和V結(jié)尾的都是給云廠商準(zhǔn)備的,N結(jié)尾的是給網(wǎng)絡(luò)場(chǎng)景準(zhǔn)備的,S結(jié)尾的面向存儲(chǔ)場(chǎng)景,Q結(jié)尾的是給液冷場(chǎng)景準(zhǔn)備的。

第五代英特爾至強(qiáng)可擴(kuò)展處理器相較于上一代,在Web應(yīng)用,數(shù)據(jù)服務(wù),HPC,AI以及網(wǎng)絡(luò)方面,性能表現(xiàn)均有所提升。

在每瓦性能方面也都有所提升。

在TDX的加持下,第五代英特爾至強(qiáng)可擴(kuò)展處理器的虛擬機(jī)性能最高可提升11%。

最后,在AI訓(xùn)練,AI實(shí)時(shí)推理以及AI批量推理場(chǎng)景中,第五代英特爾至強(qiáng)可擴(kuò)展處理器也有較為明顯的提升。

有業(yè)內(nèi)人士反饋,因?yàn)镈DR5成本原因,在一定程度上阻礙著新平臺(tái)的采用。

而現(xiàn)在,英特爾甩出了這樣一組數(shù)據(jù),幫助用戶看清楚新平臺(tái)在降低TCO方面的優(yōu)勢(shì),還在使用舊平臺(tái)的用戶可以了解一下。

分享到

zhupb

相關(guān)推薦