中國信息通信研究院于2017年起開始內容審核技術方面的研究，依托中國通信標準化協(xié)會、國內頭部互聯(lián)網公司、重點行業(yè)企業(yè)共同研究制定了《網絡治理能力評估規(guī)范：第2部分-有害信息內容識別服務系統(tǒng)》，從內容識別系統(tǒng)的圖像、文本、音頻、視頻的智能識別基礎功能、性能兩個維度進行評測。2022年信通院針對當前內容測評技術發(fā)展情況，更新和豐富了測試數據集，該內容審核服務測評具有較高的行業(yè)認可度與標桿性質，在國內具有領先性和代表性。
螞蟻天鑒內容風控體系依托億級數據構建底層算法模型，告別傳統(tǒng)的基于人工或靜態(tài)識別技術的內容過濾方式，實現“圖、文、音、視、行”綜合感知融合互補，打造出智能高效的多模態(tài)內容風控引擎，滿足平臺對海量內容的實時風控需求，為網絡空間安全保駕護航。
其中，文本算法依托領域知識沉淀和風險語料積累，通過自然語言理解、知識圖譜、對抗魯棒性增強等技術手段，準確識別非常規(guī)內容如機器合成、異體字、卡通異化、隱晦表達等；圖像算法則采用強化混排、多模態(tài)預訓練框架、多標簽圖像分類算法等技術，沉淀針對內容風險事實標簽體系的通用事實類識別能力，可在應用端進行靈活組合適配不同場景的需求。
未來，天鑒內容風控體系將加強多模態(tài)內容理解能力的建設，研發(fā)面向安全多模異構數據理解的多模融合、跨模關聯(lián)和可控生成等技術，創(chuàng)研易于擴展的算法框架，快速響應開放場景新內容和新風險的識別，打造適合不同行業(yè)場景的內容風控應用。從而為構建互利多贏、開放包容的內容生態(tài)貢獻一份力量。
