華院計(jì)算大模型算法工程師趙康寧先生發(fā)表演講

2

企業(yè)AI應(yīng)用痛點(diǎn)亟待解決

破局之道

趙康寧指出，當(dāng)前，企業(yè)在AI應(yīng)用落地過(guò)程中面臨諸多難題。一方面，AI專(zhuān)業(yè)人才匱乏，傳統(tǒng)企業(yè)缺乏懂AI的專(zhuān)業(yè)人員，難以構(gòu)建適合自身業(yè)務(wù)的應(yīng)用；另一方面，數(shù)據(jù)安全問(wèn)題突出，大模型多在云端部署，而企業(yè)核心數(shù)據(jù)不能外傳，保障數(shù)據(jù)安全成為關(guān)鍵痛點(diǎn)。此外，通用模型難以滿足企業(yè)級(jí)應(yīng)用對(duì)專(zhuān)業(yè)領(lǐng)域知識(shí)的需求，定制開(kāi)發(fā)成本高昂，使得企業(yè)在應(yīng)用AI時(shí)猶豫不決。在AI部署環(huán)節(jié)，企業(yè)還面臨對(duì)硬件了解不足、部署難度大、成本高以及應(yīng)用思路缺乏等問(wèn)題。

針對(duì)這些行業(yè)痛點(diǎn)，趙康寧在本次大會(huì)的智能算力前沿技術(shù)論壇上分享了華院計(jì)算認(rèn)知智能引擎平臺(tái)智算一體機(jī)的實(shí)踐案例與行業(yè)洞察。華院一體機(jī)解決方案整合了行業(yè)前沿的大模型技術(shù)，為企業(yè)的算法自動(dòng)部署、智能體工作流自動(dòng)搭建以及底層國(guó)產(chǎn)算力的靈活擴(kuò)展提供了全方位、高效能的解決方案。通過(guò)這一方案，企業(yè)能夠顯著降低AI應(yīng)用的開(kāi)發(fā)成本和部署難度，加速智能化轉(zhuǎn)型步伐。

看華院如何賦能

企業(yè)AI應(yīng)用創(chuàng)新突破

一、基礎(chǔ)設(shè)施層面

華院提供了成熟的公有云、私有云、混合云云端架構(gòu)，并集成了包括DeepSeek、千問(wèn)等在內(nèi)的主流大模型，以及華院多年積累的自研算法模型。為了滿足大模型部署對(duì)高效算力集群的需求，華院提供了多種選擇方案，確保企業(yè)能夠靈活應(yīng)對(duì)不同場(chǎng)景下的算力需求。

二、華院認(rèn)知智能引擎平臺(tái)

公司以算法研究、算法創(chuàng)新和算法應(yīng)用為核心，基于認(rèn)知科學(xué)與智能科學(xué)的交叉融合，自主研發(fā)新一代認(rèn)知智能引擎平臺(tái)。該平臺(tái)以元智能體為內(nèi)核，提供了基礎(chǔ)模型庫(kù)、算法工具集、深度學(xué)習(xí)推理框架、模型自動(dòng)精調(diào) 等通用組件。元智能體通過(guò)計(jì)算、理解、推理、規(guī)劃、決策、表達(dá)、情感、意識(shí)等基礎(chǔ)認(rèn)知智能能力的構(gòu)建， 結(jié)合基礎(chǔ)模型庫(kù)，有效實(shí)現(xiàn)多模態(tài)跨領(lǐng)域的任務(wù)智能體高效生成，賦能智能制造、社會(huì)治理、數(shù)字文旅、零售 金融等行業(yè)的智能化產(chǎn)業(yè)升級(jí)和算法模型工程化應(yīng)用。

三、在AI應(yīng)用場(chǎng)景方面

一體機(jī)方案可應(yīng)用于智能制造、社會(huì)治理、數(shù)字文旅等領(lǐng)域。通過(guò)將這些一體機(jī)平臺(tái)應(yīng)用到實(shí)際場(chǎng)景中，華院為客戶提供了豐富多樣的解決方案。

值得一提的是，華院的算法模型庫(kù)已擁有6萬(wàn)多模型，垂直行業(yè)的參數(shù)量級(jí)達(dá)到7000多億。認(rèn)知智能引擎平臺(tái)專(zhuān)注于多模態(tài)理解與生成、知識(shí)表示、認(rèn)知規(guī)劃與決策、自主智能等四大塊，憑借軟硬件算法和成熟的數(shù)據(jù)處理流程，達(dá)到了非常優(yōu)秀的效果。

為了降低客戶應(yīng)用AI的門(mén)檻，華院還推出了智能體平臺(tái)，提供智能體構(gòu)建、發(fā)布、調(diào)優(yōu)的一站式服務(wù)。通過(guò)豐富的工具插件，如代碼生成、大模型組件等，用戶可以輕松地搭建工作流，并結(jié)合自己的知識(shí)庫(kù)構(gòu)建專(zhuān)門(mén)的智能體。這些智能體不僅具備常規(guī)的記憶、技能等功能，還能在某些特定場(chǎng)合展現(xiàn)出情緒價(jià)值和柔性交互的能力，使得AI應(yīng)用更加友好。

在底層硬件方面，華院與國(guó)內(nèi)算力廠商合作，構(gòu)建了靈活可擴(kuò)展的底層算力方案。根據(jù)用戶的需求，華院可以提供不同形態(tài)的硬件，如一體機(jī)的邊緣版、標(biāo)準(zhǔn)版等，以滿足不同場(chǎng)景下的模型大小和并發(fā)性能要求。同時(shí)，針對(duì)高性能集群部署的需求，華院還提供了分布式方案，利用DeepSeek模型MoE架構(gòu)超稀疏特性，使AI算力及顯存資源得到充分利用，幫助用戶實(shí)現(xiàn)降本增效。

在軟件棧方面，華院自研了推理引擎框架，并部署了HybridAttention的自適應(yīng)技術(shù)，使用FlashAttention技術(shù)進(jìn)行優(yōu)化。通過(guò)推理進(jìn)程和管理的優(yōu)化以及全流程工程化封裝，華院在很多大模型上的推理速度比競(jìng)品高出15%以上，充分展現(xiàn)了國(guó)產(chǎn)自研芯片的優(yōu)勢(shì)。

成功案例彰顯實(shí)力

華院計(jì)算在多個(gè)領(lǐng)域已有成功實(shí)踐。在教育領(lǐng)域，與高校合作打造AI實(shí)訓(xùn)平臺(tái)，如復(fù)旦AI實(shí)訓(xùn)平臺(tái)讓學(xué)生借助AI進(jìn)行沉浸式學(xué)習(xí)，上海交大AI訓(xùn)練場(chǎng)結(jié)合具身智能開(kāi)展研究；在安全領(lǐng)域，構(gòu)建實(shí)驗(yàn)安全助手知識(shí)培訓(xùn)師，借助RAG框架提供多模態(tài)安全指導(dǎo)。這些案例充分展示了華院認(rèn)知智能引擎平臺(tái)一體機(jī)在不同場(chǎng)景的應(yīng)用價(jià)值。

結(jié)語(yǔ)

華院計(jì)算通過(guò)此次論壇分享，展現(xiàn)了其在認(rèn)知智能領(lǐng)域的深厚技術(shù)積累和創(chuàng)新實(shí)踐能力，為企業(yè)解決AI應(yīng)用難題提供了切實(shí)可行的方案，有望推動(dòng)行業(yè)進(jìn)一步發(fā)展，助力企業(yè)在智能時(shí)代實(shí)現(xiàn)降本增效和創(chuàng)新突破。

lixiangjing

算力豹主編