我們看到,英特爾的底層硬件架構(gòu)層面對(duì)于PyTorch、TensorFlow、Python等AI相關(guān)的軟件支持度很高。同時(shí),英特爾支持開(kāi)發(fā)者使用oneAPI、SYCLomatic、OpenXLA等跨平臺(tái)的開(kāi)發(fā)工具。最后,英特爾也關(guān)注如何提升AI推理的準(zhǔn)確性和可靠性。

第二個(gè),價(jià)值最大化。AI的應(yīng)用最終目的是創(chuàng)造實(shí)際價(jià)值。因此,企業(yè)需要將最合適的工作負(fù)載分配到最合適的平臺(tái)上,以優(yōu)化資源利用,降低成本,或者說(shuō)物盡其用。

唐炯提到,AI的成本結(jié)構(gòu)與傳統(tǒng)云計(jì)算有顯著不同,云計(jì)算的成本效益來(lái)源于CPU的高效調(diào)度,即通過(guò)將CPU的空閑時(shí)間分配給不同用戶來(lái)降低單個(gè)用戶的成本。而在AI時(shí)代,AI加速器工作時(shí)幾乎沒(méi)有空閑時(shí)間,也因此打破了傳統(tǒng)云計(jì)算的成本結(jié)構(gòu)。

為了實(shí)現(xiàn)價(jià)值最大化,需要將不同的AI工作負(fù)載分配到最合適的硬件平臺(tái)上。例如,某些AI任務(wù)可以在云端運(yùn)行,而另一些任務(wù)則更適合在邊緣設(shè)備(如工廠、醫(yī)院的本地服務(wù)器)或端側(cè)設(shè)備(如PC、手機(jī))上執(zhí)行。

比如,如果企業(yè)的AI任務(wù)主要依賴云計(jì)算,云端算力的租賃和購(gòu)買可能會(huì)導(dǎo)致高昂的成本。但如果能夠利用端側(cè)設(shè)備(如PC、手機(jī))的算力,分擔(dān)一部分AI計(jì)算任務(wù),可以顯著降低整體云端成本。

第三個(gè),靈活部署。AI解決方案涉及廣泛的軟件和硬件堆棧,需要靈活部署各個(gè)模塊來(lái)實(shí)現(xiàn)高效的跨平臺(tái)兼容性和工作負(fù)載分配。云、邊和端每個(gè)場(chǎng)景的需求和條件不同,而AI解決方案涉及復(fù)雜的技術(shù)堆棧。因此,在這些異構(gòu)平臺(tái)上的靈活部署AI方案也是一大問(wèn)題。

事實(shí)上,沒(méi)有一家企業(yè)能夠獨(dú)自提供完整的AI解決方案,通常需要多個(gè)供應(yīng)商合作。因此,英特爾提出了“解構(gòu)”AI解決方案的概念,將復(fù)雜的解決方案拆分成更小的模塊,以便在不同硬件上靈活部署和優(yōu)化。

英特爾中國(guó)軟件技術(shù)合作事業(yè)部總經(jīng)理唐炯

在AI生態(tài)系統(tǒng)中,不同的專業(yè)廠商有各自專注的領(lǐng)域。通過(guò)“解構(gòu)”,每個(gè)合作伙伴可以集中精力于自己的專長(zhǎng)領(lǐng)域,既不需要跨越到不擅長(zhǎng)的領(lǐng)域,也避免了“重復(fù)造輪子”的問(wèn)題。

唐炯還提到了OPEA(Open Platform for Enterprise AI),OPEA是一個(gè)面向企業(yè)級(jí)AI的開(kāi)源平臺(tái),旨在通過(guò)整合不同廠商的代碼和模塊,形成一個(gè)完整的AI解決方案。

OPEA提供一個(gè)開(kāi)放透明的平臺(tái),允許開(kāi)發(fā)者和企業(yè)更好地理解自己的貢獻(xiàn)和優(yōu)化點(diǎn),可以避免因選錯(cuò)大模型或其他技術(shù)而導(dǎo)致重大返工。OPEA已經(jīng)吸引了全球范圍內(nèi)的頭部ISV和國(guó)內(nèi)廠商的參與,并預(yù)計(jì)將有更多中國(guó)的軟件行業(yè)合作伙伴加入其中。

現(xiàn)在,英特爾正在協(xié)同廣大生態(tài)伙伴以優(yōu)化的性能推動(dòng)業(yè)務(wù)拓展,充分釋放企業(yè)AI潛力。在媒體溝通會(huì)上,來(lái)自東方國(guó)信、海鑫智圣和星環(huán)科技的代表也都分享了在推動(dòng)AI技術(shù)發(fā)展上的實(shí)踐。

東方國(guó)信是一家專注于大數(shù)據(jù)、云計(jì)算和人工智能的軟件公司,服務(wù)于通信、金融、工業(yè)等多個(gè)領(lǐng)域。東方國(guó)信副總裁兼CTO 查禮詳細(xì)介紹了東方國(guó)信的“幕僚”系列智能應(yīng)用,涵蓋智能BI系統(tǒng)、智能客服、智能APP和智能數(shù)據(jù)倉(cāng)庫(kù)等。

東方國(guó)信與英特爾在前沿計(jì)算技術(shù)領(lǐng)域有很多合作,尤其是在數(shù)據(jù)庫(kù)、大數(shù)據(jù)和生成式AI等方面的合作。他強(qiáng)調(diào)了雙方在軟硬件協(xié)同和企業(yè)級(jí)AI平臺(tái)構(gòu)建上的努力,并表達(dá)了希望繼續(xù)合作,共同推進(jìn)智能計(jì)算發(fā)展的愿景。

海鑫智圣是國(guó)內(nèi)最早從事AI相關(guān)業(yè)務(wù)的企業(yè)之一,海鑫智圣總經(jīng)理孟凡軍介紹了海鑫智圣在機(jī)器視覺(jué)(CV)領(lǐng)域的大模型應(yīng)用,并強(qiáng)調(diào)公司致力于通過(guò)自建算法框架和推理引擎,結(jié)合云、邊、端一體化,實(shí)現(xiàn)高效、安全、智能的AI解決方案。

海鑫智圣與英特爾也保持著緊密合作關(guān)系,通過(guò)英特爾提供的OpenVINO和oneAPI等工具,在至強(qiáng)CPU上提升了AI推理性能,有效解決了云廠商在引入AI算力時(shí)的挑戰(zhàn)。

星環(huán)科技自2013年成立以來(lái),專注于大模型、知識(shí)庫(kù)、向量庫(kù)等產(chǎn)品的研發(fā),并在多個(gè)行業(yè)積累了豐富的客戶資源。星環(huán)科技生態(tài)合作部總經(jīng)理張雷介紹了星環(huán)科技推出的Hippo向量數(shù)據(jù)庫(kù)和TKH產(chǎn)品,并分享了這些產(chǎn)品在企業(yè)部署大模型和知識(shí)體系中的應(yīng)用場(chǎng)景。

此外,張雷詳細(xì)介紹了與英特爾合作開(kāi)發(fā)的無(wú)涯·問(wèn)知AI PC版,這款產(chǎn)品可以解決用戶在云端算力不足和數(shù)據(jù)安全方面的挑戰(zhàn)。它不僅緩解了云端算力的資源瓶頸,還為那些無(wú)法或不愿將敏感數(shù)據(jù)上傳至公有云的用戶提供了更安全、靈活的本地AI應(yīng)用解決方案。

分享到

zhupb

相關(guān)推薦