MLPerf基準(zhǔn)測(cè)試在國(guó)際AI領(lǐng)域有極高知名度,其基準(zhǔn)聯(lián)盟已有Intel、NVIDIA、微軟等超50家成員。

AI服務(wù)器2U推理“冠軍”誕生

美國(guó)太平洋時(shí)間9月22日10點(diǎn),采用最新InferenceV1.1標(biāo)準(zhǔn)的MLPerf 推理測(cè)試成績(jī)發(fā)布,總計(jì)超過(guò)10家國(guó)際知名服務(wù)器廠商的數(shù)十種產(chǎn)品參與了本次測(cè)試。

搭載8顆NVIDIA? A10 Tensor Core GPU寧暢X620 G40分別以3D-UNet99模型高低精度 179;ResNet-50離線模型97016;SSD-large在線、離線模型2500、2051的測(cè)試分?jǐn)?shù),取得2U人工智能服務(wù)器的五項(xiàng)第一成績(jī),成為本次測(cè)試中獲得第一成績(jī)最多的2U高度AI服務(wù)器。

第一成績(jī)背后是寧暢X620 G40每秒可完成170余次三維醫(yī)學(xué)圖像分割推理,且精度高達(dá)99.9%;以及每秒完成近10萬(wàn)張各類(lèi)事物圖像的海量識(shí)別推理;SSD-large得分代表了離線場(chǎng)景下每秒可完成2500張圖片中信息的分類(lèi)、定位與精準(zhǔn)檢測(cè),在線場(chǎng)景下每秒可應(yīng)答2000余次實(shí)時(shí)目標(biāo)檢測(cè)的推理任務(wù)。

X620 G40作為一款2U高度人工智能服務(wù)器,支持PCIe4.0高速總線技術(shù),適配N(xiāo)VIDIA? A10 / NVIDIA A30等各類(lèi)GPU加速卡,是理想AI推理計(jì)算平臺(tái),同時(shí)還可勝任桌面虛擬化、云游戲和視頻流轉(zhuǎn)碼等多IT行業(yè)用途需求,在邊緣計(jì)算等應(yīng)用場(chǎng)景X620 G40可充分支持客戶多元計(jì)算需求,提供強(qiáng)大算力支撐。

此外,X620 G40還具備關(guān)鍵部件健康狀態(tài)監(jiān)控和上報(bào)功能,可以為數(shù)據(jù)中心運(yùn)維保駕護(hù)航,其綠色節(jié)能設(shè)計(jì)、高效節(jié)能智能調(diào)速,尤其針對(duì)GPU的不同運(yùn)行特性和環(huán)境提供優(yōu)化超頻、功耗平衡、綠色節(jié)能等多種工作模式,以達(dá)到服務(wù)器的智能管理、綠色節(jié)能。

多卡性能強(qiáng)勁,獲16項(xiàng)第一成績(jī)

除X620 G40外,搭載10顆NVIDIA? A30 Tensor Core GPU的寧暢X640 G40人工智能服務(wù)器,相比較其他搭載8顆NVIDIA? A30 GPU的產(chǎn)品,不僅整體AI性能取得全部16個(gè)推理模型第一成績(jī),平均單卡性能也取得12個(gè)模型的最好成績(jī)。

寧暢X640 G40人工智能服務(wù)器兼?zhèn)溆?xùn)練與推理功能,搭載高速互聯(lián)芯片加速AI開(kāi)發(fā),支持多種不同的GPU拓?fù)浣Y(jié)構(gòu),針對(duì)不同的應(yīng)用場(chǎng)景和訓(xùn)練模型進(jìn)行GPU互聯(lián)優(yōu)化,釋放全部潛在算力。

值得一提的,自2020年以來(lái)至今,寧暢AI服務(wù)器在參加的三次MLPerf推理與訓(xùn)練測(cè)試中,已取得了53項(xiàng)第一成績(jī),并曾打破AI服務(wù)器世界性能紀(jì)錄。

目前,寧暢X620 G40、X640 G40人工智能服務(wù)器已通過(guò)“NVIDIA-Certified Servers”認(rèn)證,在滿足常規(guī)AI推理、在線推薦系統(tǒng)需求的同時(shí),還能針對(duì)如對(duì)話式人工智能等要求更高的工作負(fù)載,搭建GPU高速集群。

作為智能算力定制專(zhuān)家,寧暢核心團(tuán)隊(duì)成員專(zhuān)注服務(wù)器研發(fā)、生產(chǎn)已有15年之久,擁近百萬(wàn)臺(tái)服務(wù)器生產(chǎn)部署經(jīng)驗(yàn),可為用戶提供全棧服務(wù)器定制化服務(wù)。在公司創(chuàng)立的2020年便已有近千家企業(yè)、用戶采購(gòu)寧暢服務(wù)器產(chǎn)品,收到定制咨詢350余次,累計(jì)落地服務(wù)器定制方案170項(xiàng)。

如今,寧暢用戶已覆蓋互聯(lián)網(wǎng)、金融、電信等數(shù)十個(gè)行業(yè),出貨量數(shù)以萬(wàn)計(jì),國(guó)內(nèi)互聯(lián)網(wǎng)行業(yè)頭部企業(yè)均已與寧暢達(dá)成采購(gòu)協(xié)議,借助定制化的人工智能服務(wù)器產(chǎn)品,深耕云計(jì)算、無(wú)人駕駛、搜索引擎、社交媒體等領(lǐng)域。

songjy