“可以說，AI的旅程才剛剛開始?！倍簼硎?。

AI大量應(yīng)用和研發(fā)的同時(shí)，也存在一些隱患。在某些企業(yè)，半數(shù)員工其實(shí)不知道什么情況下更適合使用AI APP，很多研發(fā)人員采用AI工具做代碼的審核，或直接開發(fā)一些應(yīng)用，這難以避免地有很多的黑洞，同時(shí)這些公開的AI模型八成可以被越獄，超過100多種惡意的模型在野傳播。

AI整個(gè)大規(guī)模采用，給整個(gè)安全態(tài)勢(shì)產(chǎn)生了新的挑戰(zhàn)。

派拓網(wǎng)絡(luò)提出的“從源頭規(guī)劃部署AI安全”已經(jīng)成為企業(yè)必然，在整個(gè)IT發(fā)展中也是前所未有的舉措。

擴(kuò)充現(xiàn)有平臺(tái)的三大能力

針對(duì)AI安全發(fā)展方向，派拓網(wǎng)絡(luò)近期推出了以現(xiàn)有的平臺(tái)擴(kuò)展的三大能力來交付，預(yù)計(jì)能幫助企業(yè)應(yīng)用并取得立竿見影的成效。這三大能力分別是從源頭設(shè)計(jì)上保護(hù)AI、全平臺(tái)內(nèi)置 Precision AI、徹底簡(jiǎn)化安全運(yùn)營(yíng)與管理。

1.從源頭設(shè)計(jì)上保護(hù)AI。

這是指從設(shè)計(jì)之初確保AI安全，通過清查AI采用情況、保護(hù)數(shù)據(jù)、應(yīng)用控制策略并保護(hù)基于AI模型的應(yīng)用。對(duì)應(yīng)了三大產(chǎn)品線。

第一大產(chǎn)品線是AI的訪問控制AI Access Security。在AI接入訪問方面，派拓網(wǎng)絡(luò)已經(jīng)推出了產(chǎn)品UI。派拓網(wǎng)絡(luò)通過對(duì)人工智能使用情況的實(shí)時(shí)全面可視化，可查看使用了哪些人工智能應(yīng)用程序和由誰在使用，從而采用全面的數(shù)據(jù)保護(hù)措施，掃描哪些數(shù)據(jù)、機(jī)密和知識(shí)產(chǎn)權(quán)已被共享，阻止未經(jīng)批準(zhǔn)的應(yīng)用程序，確保員工訪問AI都是安全的。

二是AI的安全態(tài)勢(shì)管理 AI-SPM。主要是為管理員提供AI應(yīng)用開發(fā)的全生命周期中對(duì)整個(gè)安全態(tài)勢(shì)統(tǒng)一的可視化。具體實(shí)現(xiàn)方式是基于整個(gè)AI生態(tài)全面的源代碼、數(shù)據(jù)集等感知能力全方位掃描，察悉人工智能模型、基礎(chǔ)架構(gòu)、數(shù)據(jù)集和代理，借助自身的知識(shí)庫(kù)和廣泛的威脅情報(bào)持續(xù)分析風(fēng)險(xiǎn)，實(shí)時(shí)評(píng)估和鑒別，最終根據(jù)優(yōu)先級(jí)別與推薦，提供可行動(dòng)的見解和補(bǔ)救措施指導(dǎo)。

三是AI Runtime Security。具體對(duì)策是及時(shí)抑制零日威脅。無論是自研的還是第三方的AI應(yīng)用，都提供上線以后的保護(hù)，比如聊天的應(yīng)用程序如何不被提示詞注入侵害，其次，通過防止敏感數(shù)據(jù)被泄露，實(shí)現(xiàn)人工智能數(shù)據(jù)保護(hù)，通過保護(hù)人工智能模型不受濫用和攻擊，實(shí)現(xiàn)人工智能模型保護(hù)，這種保護(hù)的能力是強(qiáng)大而完全獨(dú)特的。

在上述三項(xiàng)功能中，董春濤更興奮的是AI運(yùn)行時(shí)管理，這相當(dāng)于AI防火墻，而派拓網(wǎng)絡(luò)的成名產(chǎn)品是下一代防火墻，這意味著派拓網(wǎng)絡(luò)的傳承、演進(jìn)和更具優(yōu)勢(shì)的AI應(yīng)用保護(hù)與更好的服務(wù)。當(dāng)然，他并不是因此就忽視了AI Access Security，畢竟AI Access Security可以立刻見效，馬上保護(hù)好客戶。

2.AI Security Assessment。

幫助客戶對(duì)整個(gè)AI使用開展前期調(diào)研，發(fā)現(xiàn)隱患，為客戶提出有益的咨詢和指導(dǎo)，其中全平臺(tái)內(nèi)置Precision AI基礎(chǔ)的組合，涵蓋機(jī)器學(xué)習(xí)、深度學(xué)習(xí)以及大語(yǔ)言模型。作為派拓網(wǎng)絡(luò)率先提出的概念，Precision AI結(jié)合來自安全行業(yè)8.5萬余家用戶、積累了十余年P(guān)B級(jí)別更為精準(zhǔn)的數(shù)據(jù)，更為精準(zhǔn)的訓(xùn)練模型，可構(gòu)建更精準(zhǔn)的攻擊檢測(cè)率和識(shí)別率，達(dá)到更高可信度的實(shí)時(shí)檢測(cè)響應(yīng)能力，在AI的使用、防范未知威脅的過程中取得先機(jī)。Precision AI技術(shù)賦能了所有安全平臺(tái)，包括網(wǎng)絡(luò)安全、云安全、端點(diǎn)安全和安全運(yùn)營(yíng)中心。

3.徹底簡(jiǎn)化安全運(yùn)營(yíng)與管理。

AI正在改變安全從業(yè)人員與AI技術(shù)的交互，傳統(tǒng)安全產(chǎn)品數(shù)量繁多，配置復(fù)雜，定制化工具、各種能力以及工作流之間的頻繁轉(zhuǎn)換，對(duì)行業(yè)都是很大的挑戰(zhàn)，逼迫安全工作者與威脅賽跑，一方面需要自動(dòng)、持續(xù)地監(jiān)測(cè)和檢測(cè)異常和破壞行為，另一方面還要對(duì)事件實(shí)時(shí)應(yīng)對(duì)，以高度自動(dòng)化的方式抑制和消除威脅。

與此同時(shí)，威脅攻擊者正在采用人工智能快速產(chǎn)生新的威脅，這與人們以前看到的任何東西都不同。通過AI賦能，威脅攻擊者可以輕松攻擊更多目標(biāo)，以閃電般的速度擴(kuò)大攻擊范圍，每次攻擊都是零日攻擊，因?yàn)楹芸炀彤a(chǎn)生多種新型攻擊方法。一組數(shù)據(jù)反映了AI是如何被惡意利用，從而影響整個(gè)攻擊的規(guī)模效應(yīng)：如勒索軟件從12小時(shí)的傳播規(guī)模降低到分鐘級(jí)；攻擊數(shù)據(jù)泄露、漏洞利用分別從數(shù)天、數(shù)周的量級(jí)縮短至分鐘級(jí)。

 “AI的大規(guī)模采用，使安全態(tài)勢(shì)完全改變了?！倍簼硎荆赏鼐W(wǎng)絡(luò)展示了以大語(yǔ)言模型來徹底簡(jiǎn)化安全運(yùn)維和管理的高超水平。

Copilots：以Precision AI賦能產(chǎn)品更高安全

過去一年的時(shí)間中，派拓網(wǎng)絡(luò)在STRATA、PRISMA、CORTEX三大平臺(tái)上都致力于研發(fā)Copilots工具，充分利用自己的數(shù)據(jù)和經(jīng)驗(yàn)，采用大語(yǔ)言模型的技術(shù)不斷培訓(xùn)，基本具備了跟安全管理人員以自然語(yǔ)言的交互能力并逐漸優(yōu)化，使安全管理與安全工具等系統(tǒng)的使用門檻不斷降低，從業(yè)人員可更輕松地駕馭這個(gè)功能強(qiáng)大的系統(tǒng)。

如今，目前正向Beta客戶開放推出的派拓網(wǎng)絡(luò)Copilots，正以Precision AI賦能所有產(chǎn)品線，為AI應(yīng)用的訪問做好防護(hù)，并逐步走向自主化運(yùn)營(yíng)、全自動(dòng)化報(bào)告，最終讓AI與安全融為一體，達(dá)到自適應(yīng)、自學(xué)習(xí)進(jìn)而完全自主安全。

展望未來：看好中國(guó)，持續(xù)技術(shù)演進(jìn)和市場(chǎng)推廣

事實(shí)上，AI Access Security的平臺(tái)是SASE，其在中國(guó)已經(jīng)落地，AI Runtime Security目前在全球公有云上運(yùn)營(yíng)，有希望很快引入中國(guó)落地應(yīng)用。

談到未來趨勢(shì)，董春濤表示，AI已經(jīng)被定義成安全的長(zhǎng)期策略，除了以AI對(duì)抗AI，派拓網(wǎng)絡(luò)在保護(hù)AI應(yīng)用、以AI賦能安全技術(shù)以及用大語(yǔ)言模型優(yōu)化用戶界面等各方向都會(huì)持續(xù)發(fā)力，直至實(shí)現(xiàn)完全、徹底的以AI賦能的自主安全。 

xiesc