MLPerf基準(zhǔn)測試在國際AI領(lǐng)域有極高知名度,其基準(zhǔn)聯(lián)盟已有Intel、NVIDIA、微軟等超50家成員。
AI服務(wù)器2U推理“冠軍”誕生
美國太平洋時間9月22日10點,采用最新InferenceV1.1標(biāo)準(zhǔn)的MLPerf 推理測試成績發(fā)布,總計超過10家國際知名服務(wù)器廠商的數(shù)十種產(chǎn)品參與了本次測試。
搭載8顆NVIDIA? A10 Tensor Core GPU寧暢X620 G40分別以3D-UNet99模型高低精度 179;ResNet-50離線模型97016;SSD-large在線、離線模型2500、2051的測試分?jǐn)?shù),取得2U人工智能服務(wù)器的五項第一成績,成為本次測試中獲得第一成績最多的2U高度AI服務(wù)器。
第一成績背后是寧暢X620 G40每秒可完成170余次三維醫(yī)學(xué)圖像分割推理,且精度高達(dá)99.9%;以及每秒完成近10萬張各類事物圖像的海量識別推理;SSD-large得分代表了離線場景下每秒可完成2500張圖片中信息的分類、定位與精準(zhǔn)檢測,在線場景下每秒可應(yīng)答2000余次實時目標(biāo)檢測的推理任務(wù)。
X620 G40作為一款2U高度人工智能服務(wù)器,支持PCIe4.0高速總線技術(shù),適配NVIDIA? A10 / NVIDIA A30等各類GPU加速卡,是理想AI推理計算平臺,同時還可勝任桌面虛擬化、云游戲和視頻流轉(zhuǎn)碼等多IT行業(yè)用途需求,在邊緣計算等應(yīng)用場景X620 G40可充分支持客戶多元計算需求,提供強(qiáng)大算力支撐。
此外,X620 G40還具備關(guān)鍵部件健康狀態(tài)監(jiān)控和上報功能,可以為數(shù)據(jù)中心運維保駕護(hù)航,其綠色節(jié)能設(shè)計、高效節(jié)能智能調(diào)速,尤其針對GPU的不同運行特性和環(huán)境提供優(yōu)化超頻、功耗平衡、綠色節(jié)能等多種工作模式,以達(dá)到服務(wù)器的智能管理、綠色節(jié)能。
多卡性能強(qiáng)勁,獲16項第一成績
除X620 G40外,搭載10顆NVIDIA? A30 Tensor Core GPU的寧暢X640 G40人工智能服務(wù)器,相比較其他搭載8顆NVIDIA? A30 GPU的產(chǎn)品,不僅整體AI性能取得全部16個推理模型第一成績,平均單卡性能也取得12個模型的最好成績。
寧暢X640 G40人工智能服務(wù)器兼?zhèn)溆?xùn)練與推理功能,搭載高速互聯(lián)芯片加速AI開發(fā),支持多種不同的GPU拓?fù)浣Y(jié)構(gòu),針對不同的應(yīng)用場景和訓(xùn)練模型進(jìn)行GPU互聯(lián)優(yōu)化,釋放全部潛在算力。
值得一提的,自2020年以來至今,寧暢AI服務(wù)器在參加的三次MLPerf推理與訓(xùn)練測試中,已取得了53項第一成績,并曾打破AI服務(wù)器世界性能紀(jì)錄。
目前,寧暢X620 G40、X640 G40人工智能服務(wù)器已通過“NVIDIA-Certified Servers”認(rèn)證,在滿足常規(guī)AI推理、在線推薦系統(tǒng)需求的同時,還能針對如對話式人工智能等要求更高的工作負(fù)載,搭建GPU高速集群。
作為智能算力定制專家,寧暢核心團(tuán)隊成員專注服務(wù)器研發(fā)、生產(chǎn)已有15年之久,擁近百萬臺服務(wù)器生產(chǎn)部署經(jīng)驗,可為用戶提供全棧服務(wù)器定制化服務(wù)。在公司創(chuàng)立的2020年便已有近千家企業(yè)、用戶采購寧暢服務(wù)器產(chǎn)品,收到定制咨詢350余次,累計落地服務(wù)器定制方案170項。
如今,寧暢用戶已覆蓋互聯(lián)網(wǎng)、金融、電信等數(shù)十個行業(yè),出貨量數(shù)以萬計,國內(nèi)互聯(lián)網(wǎng)行業(yè)頭部企業(yè)均已與寧暢達(dá)成采購協(xié)議,借助定制化的人工智能服務(wù)器產(chǎn)品,深耕云計算、無人駕駛、搜索引擎、社交媒體等領(lǐng)域。
