《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求 第7部分:大模型API服務(wù)性能測試方法》標(biāo)準(zhǔn)(AIIA/T 0221-2025)

模型即服務(wù)(MaaS)已成為大模型應(yīng)用落地的主要模式之一,MaaS平臺為用戶提供便捷、靈活、低門檻的大模型服務(wù),是重要的支撐平臺。但不同平臺上所提供的大模型服務(wù)能力參差不齊,中國信通院已發(fā)布一套全方位評估體系來衡量大模型API服務(wù)效能和MaaS平臺能力,即《MaaS模型即服務(wù)技術(shù)與應(yīng)用要求》。

本次深信服參與編制的文件為該標(biāo)準(zhǔn)的第7部分,有效填補(bǔ)了大模型API服務(wù)性能評估標(biāo)準(zhǔn)的空白。該標(biāo)準(zhǔn)主要規(guī)范和明確了以下內(nèi)容:

性能測試的軟、硬件環(huán)境要求;

關(guān)鍵性能測試指標(biāo)及計(jì)算方法,多種測試類型及測試場景;

性能測試過程中的測試數(shù)據(jù)集選擇原則和系統(tǒng)資源監(jiān)控范圍;

大模型API服務(wù)性能測試流程設(shè)計(jì)、數(shù)據(jù)集選擇、性能指標(biāo)計(jì)算方式和評價(jià)維度。

在本次標(biāo)準(zhǔn)編制過程中,深信服憑借在大模型技術(shù)上的深入探索以及對私有化大模型算力平臺構(gòu)建的豐富實(shí)踐經(jīng)驗(yàn),為標(biāo)準(zhǔn)的科學(xué)性、實(shí)用性與前瞻性貢獻(xiàn)了重要力量。

從安全GPT大模型到AICP算力平臺的發(fā)布,深信服長期布局AI產(chǎn)業(yè),已有深厚的AI能力積累。近期,深信服還將整合技術(shù)能力,升級AI創(chuàng)新平臺,打造新智算時(shí)代的AI Infra平臺,不僅為用戶提供高性能、穩(wěn)定、安全的平臺能力,更為用戶實(shí)現(xiàn)端到端AI應(yīng)用建設(shè)TCO優(yōu)化,讓各行業(yè)用戶以更輕松的方式擁抱AI。

未來,深信服會繼續(xù)扎根AI技術(shù)研究,積極參與標(biāo)準(zhǔn)建設(shè),參與建設(shè)更繁榮的生態(tài),為各行業(yè)落地大模型提供更有效的能力,打造更健康的行業(yè)環(huán)境。

xiesc