面對人工智能安全治理這一世界性難題，國家網(wǎng)信辦等四部門適時出臺《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《標識辦法》），在全球率先提出保障人工智能安全可信的中國方案，具有里程碑式的重要意義。

《標識辦法》聚焦人工智能生成合成內(nèi)容標識關(guān)鍵點，通過標識提醒用戶辨別虛假信息，明確相關(guān)服務主體的標識責任義務，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標識行為，以合理成本提高安全性，促進人工智能在文本對話、內(nèi)容制作、輔助設計等各應用場景加快落地，同時減輕人工智能生成合成技術(shù)濫用危害，防范利用人工智能技術(shù)制作傳播虛假信息等風險行為，推動人工智能健康有序發(fā)展。

人工智能生成合成內(nèi)容的定義與范圍

根據(jù)《標識辦法》，人工智能生成合成內(nèi)容是指利用人工智能技術(shù)生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。這一定義包含兩類技術(shù)，一是人工智能生成技術(shù)；二是人工智能深度合成技術(shù)。

人工智能生成技術(shù)，是一種基于算法、模型和規(guī)則，能夠生成文本、圖片、聲音、視頻等多元內(nèi)容的技術(shù)。不同于傳統(tǒng)的人工智能僅對輸入數(shù)據(jù)進行處理和分析，生成式人工智能可以學習并模擬事物的內(nèi)在規(guī)律，根據(jù)用戶的輸入資料生成具有邏輯性和連貫性的新內(nèi)容。

人工智能深度合成（Deep Synthesis）技術(shù)，也被稱為深度偽造（Deepfake），是指利用深度學習、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡信息的技術(shù)。深度合成技術(shù)包括但不限于：篇章生成、文本風格轉(zhuǎn)換、問答對話等生成或者編輯文本內(nèi)容的技術(shù)；文本轉(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等生成或者編輯語音內(nèi)容的技術(shù)；音樂生成、場景聲編輯等生成或者編輯非語音內(nèi)容的技術(shù)；人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等生成或者編輯圖像、視頻內(nèi)容中生物特征的技術(shù)；圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內(nèi)容中非生物特征的技術(shù)；三維重建、數(shù)字仿真等生成或者編輯數(shù)字人物、虛擬場景的技術(shù)。

標識形式與具體要求

《標識辦法》明確了人工智能生成合成內(nèi)容標識的兩種形式：一是顯式標識，二是隱式標識。

顯式標識是指在生成合成內(nèi)容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現(xiàn)并可以被用戶明顯感知到的標識。根據(jù)《標識辦法》第四條的規(guī)定，服務提供者提供生成合成服務屬于智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務，應當按照下列要求履行對生成合成內(nèi)容添加顯式標識的義務：

在文本的起始、末尾或者中間適當位置添加文字提示或者通用符號提示等標識，或者在交互場景界面、文字周邊添加顯著的提示標識；

在音頻的起始、末尾或者中間適當位置添加語音提示或者音頻節(jié)奏提示等標識，或者在交互場景界面中添加顯著的提示標識；

在圖片的適當位置添加顯著的提示標識；

在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識，可以在視頻末尾和中間適當位置添加顯著的提示標識；

呈現(xiàn)虛擬場景時，在起始畫面的適當位置添加顯著的提示標識，可以在虛擬場景持續(xù)服務過程中的適當位置添加顯著的提示標識；

其他生成合成服務場景根據(jù)自身應用特點添加顯著的提示標識。

《標識辦法》強調(diào)，服務提供者提供生成合成內(nèi)容下載、復制、導出等功能時，應當確保文件中含有滿足要求的顯式標識。

隱式標識是指采取技術(shù)措施在生成合成內(nèi)容文件數(shù)據(jù)中添加的，不易被用戶明顯感知到的標識。根據(jù)《標識辦法》第五條的規(guī)定，服務提供者應當按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》第十六條的規(guī)定，在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標識，隱式標識包含生成合成內(nèi)容屬性信息、服務提供者名稱或者編碼、內(nèi)容編號等制作要素信息。鼓勵服務提供者在生成合成內(nèi)容中添加數(shù)字水印等形式的隱式標識。

文件元數(shù)據(jù)是指按照特定編碼格式嵌入到文件頭部的描述性信息，用于記錄文件來源、屬性、用途等信息內(nèi)容。

各主體的標識義務與責任邊界

《標識辦法》明確界定了服務提供者、傳播平臺、互聯(lián)網(wǎng)應用程序分發(fā)平臺和用戶的相關(guān)標識義務。

服務提供者的標識義務：服務提供者應當對文本、圖片、音頻、視頻、虛擬場景等生成合成內(nèi)容添加顯式標識，在提供生成合成內(nèi)容下載、復制、導出等功能時，應當確保文件中含有滿足要求的顯式標識；應當在生成合成內(nèi)容的文件元數(shù)據(jù)中添加隱式標識，隱式標識包含生成合成內(nèi)容屬性信息、服務提供者名稱或者編碼、內(nèi)容編號等制作要素信息；應當在用戶服務協(xié)議中明確說明生成合成內(nèi)容標識的方法、樣式等規(guī)范內(nèi)容，并提示用戶仔細閱讀并理解相關(guān)的標識管理要求。

傳播平臺的核驗義務：提供網(wǎng)絡信息內(nèi)容傳播服務的服務提供者應當采取下列措施，規(guī)范生成合成內(nèi)容傳播活動：

核驗文件元數(shù)據(jù)中是否含有隱式標識，文件元數(shù)據(jù)明確標明為生成合成內(nèi)容的，采取適當方式在發(fā)布內(nèi)容周邊添加顯著的提示標識，明確提醒公眾該內(nèi)容屬于生成合成內(nèi)容；

文件元數(shù)據(jù)中未核驗到隱式標識，但用戶聲明為生成合成內(nèi)容的，采取適當方式在發(fā)布內(nèi)容周邊添加顯著的提示標識，提醒公眾該內(nèi)容可能為生成合成內(nèi)容；

文件元數(shù)據(jù)中未核驗到隱式標識，用戶也未聲明為生成合成內(nèi)容，但提供網(wǎng)絡信息內(nèi)容傳播服務的服務提供者檢測到顯式標識或者其他生成合成痕跡的，識別為疑似生成合成內(nèi)容，采取適當方式在發(fā)布內(nèi)容周邊添加顯著的提示標識，提醒公眾該內(nèi)容疑似生成合成內(nèi)容；

提供必要的標識功能，并提醒用戶主動聲明發(fā)布內(nèi)容中是否包含生成合成內(nèi)容。

有前款第一項至第三項情形的，應當在文件元數(shù)據(jù)中添加生成合成內(nèi)容屬性信息、傳播平臺名稱或者編碼、內(nèi)容編號等傳播要素信息。

互聯(lián)網(wǎng)應用程序分發(fā)平臺的審核義務：互聯(lián)網(wǎng)應用程序分發(fā)平臺在應用程序上架或者上線審核時，應當要求互聯(lián)網(wǎng)應用程序服務提供者說明是否提供人工智能生成合成服務?；ヂ?lián)網(wǎng)應用程序服務提供者提供人工智能生成合成服務的，互聯(lián)網(wǎng)應用程序分發(fā)平臺應當核驗其生成合成內(nèi)容標識相關(guān)材料。

用戶的標識義務：用戶使用網(wǎng)絡信息內(nèi)容傳播服務發(fā)布生成合成內(nèi)容的，應當主動聲明并使用服務提供者提供的標識功能進行標識。如果用戶申請服務提供者提供沒有添加顯式標識的生成合成內(nèi)容的，服務提供者可以在通過用戶協(xié)議明確用戶的標識義務和使用責任后，提供不含顯式標識的生成合成內(nèi)容，并依法留存提供對象信息等相關(guān)日志不少于六個月。

主要平臺的響應與實施情況

隨著《標識辦法》9月1日正式實施，各大平臺紛紛響應，推出相應的標識措施。

抖音平臺近期公布了一項關(guān)于人工智能生成內(nèi)容（AI內(nèi)容）管理的重要更新，旨在提升平臺內(nèi)容的透明度與用戶體驗。據(jù)悉，抖音平臺已推出兩大核心功能，以應對日益增長的AI內(nèi)容。第一項功能為AI內(nèi)容標識，它鼓勵內(nèi)容創(chuàng)作者為使用AI技術(shù)生成的內(nèi)容主動添加明確標識，使用戶能夠輕松區(qū)分此類內(nèi)容。第二項功能則是AI內(nèi)容元數(shù)據(jù)標識讀寫，該功能能夠識別并記錄AI內(nèi)容的元數(shù)據(jù)，為內(nèi)容的追蹤與驗證提供技術(shù)支持。

抖音強調(diào)，所有在平臺上制作和發(fā)布AI內(nèi)容的賬戶，必須使用平臺提供的標識功能進行聲明。對于未主動標識的AI內(nèi)容，抖音將采用技術(shù)手段進行檢測，并對疑似由AIGC技術(shù)生成的內(nèi)容補充添加提示標識。抖音還會為所有發(fā)布的AI內(nèi)容添加隱式標識，包含關(guān)鍵傳播信息，以強化全鏈路管理。

對于未主動添加標識的創(chuàng)作者，抖音將采取輔助措施。平臺會檢測疑似使用AIGC技術(shù)生成的內(nèi)容，并為其添加”疑似使用了AI生成技術(shù)，請謹慎甄別”的標識。同時，如果AIGC技術(shù)服務提供者在生成AI內(nèi)容時已在元數(shù)據(jù)中添加隱式標識，抖音在核驗出該信息后，將在作品頁面添加”作品含AI生成內(nèi)容”的標識。

DeepSeek于9月1日公告稱，為貫徹落實《人工智能生成合成內(nèi)容標識辦法》及《網(wǎng)絡安全技術(shù)人工智能生成合成內(nèi)容標識方法》等國家標準的相關(guān)要求，防止AI生成內(nèi)容可能引發(fā)的公眾混淆、誤認以及信息失實的風險，DeepSeek已在平臺內(nèi)對AI生成合成內(nèi)容添加標識，并明確提醒用戶相關(guān)內(nèi)容由AI生成。

小紅書、嗶哩嗶哩、Soul等平臺已基本完成顯式標識規(guī)范上線，加快開發(fā)上線隱式標識和傳播鏈互認驗證，小紅書牽頭編制圖片模態(tài)元數(shù)據(jù)標識實踐指南，上海標識工作取得階段性成效。

實施初期的主要成效

《標識辦法》的實施已經(jīng)在多個方面取得了初步成效：

首先，提升了內(nèi)容的可追溯性。通過顯式和隱式雙標識系統(tǒng)，內(nèi)容從生成到傳播的全鏈條都能被有效追蹤。

其次，提高了監(jiān)管效率。標識制度的實施可以讓監(jiān)管部門更便捷地識別AI生成內(nèi)容，追溯內(nèi)容的來源和傳播軌跡，以合理成本提高安全性。以往對于生成式人工智能的監(jiān)管需要按個案判斷，難度較大，而現(xiàn)在通過標識可以實現(xiàn)大規(guī)模、高可靠性和低成本的監(jiān)管。

第三，促進了產(chǎn)業(yè)合規(guī)發(fā)展?！稑俗R辦法》和《標識標準》通過細化生成合成內(nèi)容管理規(guī)則，推動了人工智能產(chǎn)業(yè)標準化進程，構(gòu)建了一個更加公平、透明且高效的市場環(huán)境，不僅增強了市場主體參與產(chǎn)業(yè)的積極性，助力傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級，還促進了產(chǎn)業(yè)鏈上下游的協(xié)同創(chuàng)新，為產(chǎn)業(yè)規(guī)?；l(fā)展提供了內(nèi)生動力，從而助力國產(chǎn)生成式人工智能生態(tài)的健康發(fā)展。

第四，增強了公眾對AI內(nèi)容的辨識能力。通過顯式標識，用戶能夠更加清晰地辨別AI生成內(nèi)容，從而避免被虛假信息誤導。

第五，規(guī)范了內(nèi)容傳播秩序。通過對傳播平臺設置核驗義務，《標識辦法》有效規(guī)范了AI生成內(nèi)容在網(wǎng)絡空間的傳播，防止了虛假信息的擴散。

實施過程中面臨的挑戰(zhàn)

盡管《標識辦法》的實施取得了積極成效，但在實際操作過程中仍面臨一些挑戰(zhàn)：

首先，技術(shù)執(zhí)行層面的挑戰(zhàn)。隱式標識的元數(shù)據(jù)標準雖然具有創(chuàng)新性，但在實際執(zhí)行中，可能面臨被規(guī)避和移除的風險。各平臺需要繼續(xù)探索技術(shù)上可行的統(tǒng)一路線，確保隱式標識的穩(wěn)定性和可靠性。同時，對于不同內(nèi)容形態(tài)的顯式標識，也需要進一步優(yōu)化標識方案，提高標識的可識別性和用戶接受度。

其次，用戶體驗與商業(yè)利益的平衡。嚴格執(zhí)行標識規(guī)定可能會對用戶體驗和商業(yè)利益產(chǎn)生一定影響。例如，某短視頻平臺數(shù)據(jù)顯示，嚴格執(zhí)行視頻起始3秒標識將導致用戶完播率下降19%。這就需要探索如動態(tài)弱化技術(shù)（如透明度漸變）等方式，在滿足合規(guī)要求的同時，盡量減少對用戶體驗和商業(yè)運營的負面影響。

第三，誤判率問題。由于算法存在數(shù)據(jù)偏差和場景適配不足等問題，可能會出現(xiàn)原創(chuàng)內(nèi)容被誤判為AI生成的情況，導致創(chuàng)作者權(quán)益受損。因此，需要建立相應的保障機制，如完善復核機制，建立便捷、有效的申訴渠道，以解決誤判問題，保護創(chuàng)作者的合法權(quán)益。

第四，標識統(tǒng)一性和互操作性問題。不同平臺和服務提供者在標識實施上可能存在差異，這可能導致標識的不一致性和互操作性問題。如何建立統(tǒng)一的標識標準和互操作機制，是需要進一步解決的問題。

第五，技術(shù)成本問題。對于一些小型企業(yè)和開發(fā)者來說，實施復雜的標識技術(shù)可能會增加成本和技術(shù)負擔。如何降低技術(shù)實施門檻，讓更多的市場主體能夠合規(guī)運營，是需要考慮的問題。

未來發(fā)展趨勢與建議

隨著AI技術(shù)的不斷發(fā)展，AI生成合成內(nèi)容標識技術(shù)也將面臨新的機遇和挑戰(zhàn)。以下是幾個可能的技術(shù)發(fā)展趨勢及應對策略：

首先，標識技術(shù)的智能化與自動化將成為重要趨勢。未來的標識技術(shù)將更加智能化和自動化，能夠自動識別和標記AI生成內(nèi)容，減少人工干預的需求。例如，基于深度學習的AI檢測模型將更加精準和高效，能夠快速識別各種類型的AI生成內(nèi)容。某頭部企業(yè)開發(fā)的DeepTrack系統(tǒng)，對生成文本的檢測準確率達91.2%，響應時間優(yōu)化至0.4秒。

應對策略：建議加大對AI標識技術(shù)研發(fā)的投入，推動跨行業(yè)、跨領(lǐng)域的技術(shù)合作，共同開發(fā)更加先進、高效的AI標識技術(shù)。同時，建立健全技術(shù)標準和規(guī)范，確保不同系統(tǒng)之間的互操作性和兼容性。

其次，多模態(tài)標識技術(shù)將得到廣泛應用。隨著AI技術(shù)的發(fā)展，未來的AI生成內(nèi)容將更加多樣化和復雜化，單一模態(tài)的標識技術(shù)將難以滿足需求。因此，多模態(tài)標識技術(shù)將成為未來的發(fā)展趨勢，能夠同時對文本、圖像、音頻、視頻等多種模態(tài)的內(nèi)容進行標識和追蹤。

應對策略：建議加強多模態(tài)標識技術(shù)的研發(fā)和應用，建立多模態(tài)標識的統(tǒng)一標準和規(guī)范，推動多模態(tài)標識技術(shù)在各個領(lǐng)域的應用和普及。

第三，區(qū)塊鏈技術(shù)在標識中的應用將進一步深化。區(qū)塊鏈技術(shù)具有不可篡改、可追溯等特點，能夠有效保障標識信息的安全性和可靠性。未來，區(qū)塊鏈技術(shù)將與AI標識技術(shù)深度融合，為AI生成內(nèi)容提供更加安全、可靠的標識和追溯服務。

應對策略：建議探索區(qū)塊鏈技術(shù)在AI標識中的應用模式和場景，推動區(qū)塊鏈技術(shù)與AI標識技術(shù)的融合創(chuàng)新，建立基于區(qū)塊鏈的AI內(nèi)容標識和追溯系統(tǒng)。

第四，AI標識技術(shù)的國際化將成為必然趨勢。隨著全球化的深入發(fā)展，AI標識技術(shù)也需要在國際范圍內(nèi)實現(xiàn)標準化和互認，以應對跨國傳播的AI生成內(nèi)容帶來的挑戰(zhàn)。

應對策略：建議積極參與國際標準的制定和協(xié)調(diào)，推動中國AI標識技術(shù)與國際標準的對接和互認，提升中國在全球AI治理中的話語權(quán)和影響力。

結(jié)論與展望

《人工智能生成合成內(nèi)容標識辦法》的實施，是中國在人工智能治理領(lǐng)域邁出的重要一步，標志著中國在規(guī)范AI生成合成內(nèi)容方面進入了法治化、標準化的新階段。

《標識辦法》的實施，對于規(guī)范人工智能生成合成內(nèi)容的傳播、保護公眾權(quán)益、維護網(wǎng)絡生態(tài)具有重要意義。它不僅有助于遏制虛假信息傳播、保護用戶權(quán)益，還能提升公眾對AI技術(shù)的信任度，為人工智能產(chǎn)業(yè)的創(chuàng)新與發(fā)展營造健康環(huán)境。同時，它體現(xiàn)了中國在科技治理中平衡創(chuàng)新發(fā)展與規(guī)范管理的理念，為全球人工智能治理提供了中國方案。

然而，《標識辦法》的實施仍面臨一些挑戰(zhàn)，如技術(shù)執(zhí)行層面的挑戰(zhàn)、用戶體驗與商業(yè)利益的平衡、誤判率問題等。這些挑戰(zhàn)需要政府、企業(yè)、社會組織、學術(shù)機構(gòu)、公眾等多方共同努力，通過技術(shù)創(chuàng)新、政策優(yōu)化、行業(yè)自律、公眾參與等多種途徑，逐步加以解決。

展望未來，隨著AI技術(shù)的不斷發(fā)展和應用，AI生成合成內(nèi)容將更加多樣化和復雜化，對標識工作也將提出更高的要求。因此，需要不斷完善《標識辦法》的實施細則和配套措施，加強技術(shù)創(chuàng)新和應用，推動多元主體協(xié)同參與，構(gòu)建更加完善的AI生成合成內(nèi)容標識和治理體系。

同時，還需要加強國際合作與交流，積極參與全球AI治理規(guī)則的制定和協(xié)調(diào)，推動中國在AI生成合成內(nèi)容標識方面的經(jīng)驗和做法與國際接軌，共同應對全球性挑戰(zhàn)，推動構(gòu)建人類命運共同體。

lixiangjing

算力豹主編