1月16日, 思科發(fā)布人工智能防御系統(tǒng)（Cisco AI Defense）。將于今年3月上線的這一開創(chuàng)性解決方案旨在助力企業(yè)的AI轉型進程。思科亞太、日本及大中華區(qū)總裁Dave West相信，此舉將為思科自身及客戶塑造未來數(shù)十年的世界。
在Dave West看來，不久的將來只有兩類企業(yè)存在：一類是以AI為驅動、為前沿的公司，另一類是視AI無關緊要的公司，由于前者份額的不斷增長，意味著人工智能的安全保障將成為未來最大的挑戰(zhàn)之一。Cisco AI Defense就是針對這一挑戰(zhàn)的思考與應對措施。
兼顧速度與安全，護航組織和模型以及傳統(tǒng)三層架構
談及架構，思科亞太、日本及大中華區(qū)網(wǎng)絡銷售和解決方案工程副總裁Raymond Janse van Rensburg指出，傳統(tǒng)的應用程序有三層架構，分別是基礎設施、數(shù)據(jù)和應用程序，而AI的誕生豐富了這一內容——架構被拓展至四層，那就是模型。大量的模型往往處于多個云當中，其非確定性決定了人類難以知曉其輸出的內容，其不斷發(fā)展變化的動態(tài)特性，也在不斷創(chuàng)造新的風險。因此，保護組織和模型以及傳統(tǒng)三層架構免受各類風險的影響十分重要。
Raymond Janse van Rensburg表示，所有問題及對策均與安全（Safety）、保障（Security）兩個概念相關，前者是指類似偏差的注入問題，也就是模型是否做應該做或者人們期望它做的事情，后者是指保護保護模型免受來自于外部的威脅與攻擊，并導致模型中的行為發(fā)生變更。
盡管模型的供應商在模型中納入了安全相關的性能，但這些安全的標準可能與使用者所在組織中的安全標準存在差異。因此，安全要有共同的基礎，在所有的AI模型以及應用程序和智能體中，實施相同的安全護欄。
在市場發(fā)展快速變化的情況下，絕不能夠以犧牲安全為代價來追求速度，也不能夠犧牲速度來確保安全。思科從根本上重新構想人工智能時代的安全和保障，有效兼顧了速度和安全；Cisco AI Defense并不是單點解決方案，而是集成的安全平臺的一部分。
兩大舉措支持企業(yè)無縫創(chuàng)新并保障安全
思科全球人工智能軟件和平臺副總裁DJ Sampath表示，Cisco AI Defense通過兩大舉措支持企業(yè)無縫創(chuàng)新并保障安全：
一是以包括可視化方式了解員工、用戶以及使用ChatGPT等各類AI工具與應用程序任何人員的過程，無需任何額外安裝。對于AI應用程序的用戶而言，學習曲線也很簡單。如在上傳保密信息的時候，他們會收到類似 “這些信息可能會包含個人數(shù)據(jù)，最好不要上傳”等提示信息，如果他們試著復制粘貼一些惡意代碼，也會收到警告。鑒于需求來自全球、法規(guī)各自不同且在不斷變化，思科為不同地區(qū)定制保護措施，并確保它們符合相關地區(qū)的法規(guī)要求。所有這些操作都提供了極大的靈活性，使用的方便性。僅需點擊思科AI助手，即可輕松化解任何疑惑。
二是為正在開發(fā)AI應用程序或AI智能體的任何人提供相應的安全。比如通過在公有云或私有云上執(zhí)行安全護欄，監(jiān)控這些工具正在做什么、哪些模型能夠驅動它們，需要哪些數(shù)據(jù)來做訓練、需要什么樣的可視性以及提供足夠高的可視性支持。
二者都是在大規(guī)模驗證和大規(guī)模保護兩個重要的創(chuàng)新基礎上來推動的。
對于模型的驗證過程，思科采用人工智能的算法紅隊來操控模型一系列問題，這些問題可能是如何非法啟動或者偷竊一輛汽車等等，整個過程以目的為導向來建構，并且不斷提高其效率或速度。思科采用了去年夏天推出的名為“攻擊樹”或 “剪制”的技術并將其整合，通過匯集的海量數(shù)據(jù)以可視化方式來驗證效果。同時還與Scale AI等行業(yè)頂尖公司進行合作，利用數(shù)據(jù)進行更好的模型建設。
此外，思科還提出大量建議，比如因不同的護欄及結果對AI安全進行分類，研究團隊進行認知超載攻擊進行相關研究，進一步能夠提升安全的等級，速度非?？?，效率也非常高。
DJ Sampath認為這些舉措在業(yè)界獨一無二。他演示了Cisco AI Defense應用全過程及其效果，模型的驗證快捷、高效，護欄的操作簡便、可靠，風險的攔截及時可見。
思科正在推進其在不同的平臺上應用，使得跟用戶與應用連接更加緊密，提供更好的保護。該系統(tǒng)的核心點是基于早期推出的版本提供的海量反饋。
簡單、便捷、高效、易操作
在業(yè)務管理中，負責運營安全的員工已經(jīng)在使用多種監(jiān)測工具，監(jiān)督情況也變得相當復雜。思科不斷地創(chuàng)新AI應用，提供多種方法讓安全操作更加簡單。如XDR AI助手可管理提示，減少警報疲勞的產生，技術插件TA可將人工智能防御系統(tǒng)無縫集成到Splunk中，讓用戶可使用SplunkAI助手來減輕可能從警報中看到的任何過載，從而簡化修復響應。Cisco AI Defense還具有非常高的保真度，自動過濾大量誤報。
DJ Sampath表示，思科在設計時就考慮到了良好的用戶體驗和可用性，讓開發(fā)者無障礙地去使用，并支持其不斷構建應用程序；Cisco AI Defense因為能夠提供所有AI工具的可見性，因而能夠對AI的管理進行進一步的簡化，也意味著進一步提升AI應用的安全性。
對于即將部署Cisco AI Defense的新用戶，最低的設置就是AI的云可見性解決方案，最多只需要5分鐘就能夠完成部署。由于思科的解決方案處于出口網(wǎng)關或代理服務器內部，對應的大部分是未加密流量；即使是加密的流量，也能終止SSL，然后通過查看請求響應提示提供所需要的安全性，確保護欄不會影響到系統(tǒng)性能。雖然可能導致數(shù)百毫秒的延遲，但在生成式AI用例中是可接受的。
強化與合作伙伴的密切關系
思科一直與合作伙伴緊密合作。Dave West表示，97%的業(yè)務是與合作伙伴共同進行合作完成的并在保證安全性方面取得巨大成功。DJ Sampath補充道，Cisco AI Defense面世之前，思科已面向主要的合作伙伴和渠道介紹了整個內容，并根據(jù)他們的反饋進行優(yōu)化；思科將所有解決方案整合到思科安全云中，使MSSP能夠通過該控制臺配置和管理所有這些安全功能，進一步提升服務能力。
進入2025年，越來越多的AI智能體正在出現(xiàn)，這意味著人們需要了解當前環(huán)境所運行的AI到底是什么，并提供合適的治理以及管理政策，保護用戶數(shù)據(jù)與隱私以及知識產權。思科持續(xù)與更多用戶訪談，了解并保證其不斷升級的需求，進行針對性的開發(fā)。
“在2022年，我們無法想象到2025年將會發(fā)生什么。如今已經(jīng)是2025年了，AI的快速發(fā)展讓人有點恐懼，但同時也讓人感到興奮。也許再過兩年，AI可能會無處不在了。“Dave West總結說。
