人工智能技術(shù)掀起的浪潮方興未艾，新技術(shù)給人類帶來了前所未有的生產(chǎn)力和體驗的提升。我國重點關(guān)注人工智能領(lǐng)域，迄今已備案生成式人工智能產(chǎn)品300余款，生成合成服務3000余個，有力推動了人工智能行業(yè)的快速發(fā)展。與此同時，人工智能技術(shù)帶來的虛假信息、技術(shù)濫用風險逐漸顯露，給網(wǎng)絡(luò)生態(tài)安全帶來了新的風險挑戰(zhàn)，各國陸續(xù)推出或完善法案加以應對?！度斯ぶ悄苌珊铣蓛?nèi)容標識辦法》（以下簡稱《標識辦法》）及其配套國家強制性標準《網(wǎng)絡(luò)安全技術(shù) 人工智能生成合成內(nèi)容標識方法》（以下簡稱《標識標準》），是對我國人工智能算法治理體系的進一步完善?！稑俗R辦法》是對《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》、《生成式人工智能服務管理暫行辦法》的繼承和延伸，從人工智能技術(shù)特性出發(fā)，在生成合成標識這一人工智能安全治理關(guān)鍵上提出了針對性的管理思路，將成為我國建立健全人工智能新技術(shù)安全體系的重要推動力?！稑俗R標準》作為《標識辦法》的補充，明確了生成合成內(nèi)容標識應當遵循的技術(shù)方法，為產(chǎn)業(yè)落地提供了參考依據(jù)。

一、銜接技術(shù)安全法規(guī)，擴展治理覆蓋范疇

《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》等規(guī)章對生成合成類算法的標識做出了明確要求?！痘ヂ?lián)網(wǎng)信息服務算法推薦管理規(guī)定》中要求“發(fā)現(xiàn)未作顯著標識的算法生成合成信息的，應當作出顯著標識后，方可繼續(xù)傳輸”?！痘ヂ?lián)網(wǎng)信息服務深度合成管理規(guī)定》在此基礎(chǔ)上，進一步對標識的種類進行細分，要求“可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識”，同時要求“深度合成服務提供者對使用其服務生成或者編輯的信息內(nèi)容，應當采取技術(shù)措施添加不影響用戶使用的標識”?！渡墒饺斯ぶ悄芊展芾頃盒修k法》中要求“提供者應當按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進行標識”。

《標識辦法》重點關(guān)注人工智能生成合成內(nèi)容傳播環(huán)節(jié)的安全治理，有效銜接已有的備案評估、風險防范等管理措施，逐步完善面向人工智能全生命流程管理的新技術(shù)安全體系：一是明確了文本、圖像、音頻、視頻等多模態(tài)的標識要求，將安全治理深入到內(nèi)容模態(tài)層面；二是創(chuàng)新性地將傳播平臺納入監(jiān)管范疇，實現(xiàn)從生成到傳播的全鏈條治理；三是明確了隱式標識的技術(shù)實現(xiàn)方式，通過元數(shù)據(jù)標識為安全追溯提供了可靠保障。

二、適應生成合成特性，提煉務實科學方法

人工智能生成合成技術(shù)發(fā)展已覆蓋各個模態(tài)，生成合成內(nèi)容滲透至互聯(lián)網(wǎng)領(lǐng)域信息傳播的各個環(huán)節(jié)，如何在當前互聯(lián)網(wǎng)絡(luò)環(huán)境下精準高效地對生成合成內(nèi)容進行標識成為關(guān)鍵核心問題。要解決這一問題，一方面需要管理措施及方法落實得當，有效督促人工智能生成合成服務提供者及傳播平臺落實企業(yè)責任；另一方面，人工智能生成合成內(nèi)容標識方法要符合技術(shù)發(fā)展規(guī)律，體現(xiàn)技術(shù)管理手段的科學性、可用性及高效性。

為促進《標識辦法》的實施落地，《標識標準》中對照《標識辦法》內(nèi)容，對標識的方式方法進行了技術(shù)性闡述，對重點環(huán)節(jié)及關(guān)鍵要素進行了精細提煉，以科學性、技術(shù)性視角對管理要求進行更為落地的細化：一是《標識標準》中明確了每個模態(tài)生成合成內(nèi)容顯式標識的位置、樣式、區(qū)域和大小的要求，同時結(jié)合各模態(tài)的特點，如針對視頻模態(tài)，要求“在視頻起始畫面和視頻播放周邊的適當位置”，針對音頻模態(tài)，要求“應采用語音標識或音頻節(jié)奏標識”，在企業(yè)責任落實的同時減少對于用戶瀏覽相關(guān)內(nèi)容的干擾；二是明確了元數(shù)據(jù)隱式標識的字段要素，在盡量不影響元數(shù)據(jù)處理和傳輸?shù)那疤嵯?，嵌入必要字段，記錄生成合成?nèi)容的關(guān)鍵信息和關(guān)鍵環(huán)節(jié)，為互聯(lián)網(wǎng)生成合成內(nèi)容的可追溯性提供保障；三是提供了豐富的標識示例，給出了多個模態(tài)規(guī)范性標識方法，便于人工智能生成合成服務提供者及傳播平臺技術(shù)人員進行標識的技術(shù)實踐落地，充分體現(xiàn)了《標識標準》的科學性。在《標識標準》的指引下，積極探索切實可行的標識實施路徑，逐步構(gòu)建支撐生成合成內(nèi)容有序傳播與安全治理的技術(shù)能力，不斷豐富人工智能技術(shù)管理體系。

三、體現(xiàn)柔性管理思路，筑牢安全應用基礎(chǔ)

《標識辦法》的制定和出臺，是我國推進人工智能領(lǐng)域安全治理、促進產(chǎn)業(yè)規(guī)范健康發(fā)展、引導技術(shù)向善的重要舉措?！稑俗R辦法》充分彰顯了監(jiān)管理念的與時俱進，從傳統(tǒng)的嚴格監(jiān)管轉(zhuǎn)向更加靈活的引導與規(guī)范，既尊重了技術(shù)創(chuàng)新的內(nèi)在規(guī)律，又體現(xiàn)對潛在風險的有效防范。通過清晰、透明的內(nèi)容標識，用戶能夠清楚識別人工智能生成的內(nèi)容，一方面提高了信息透明度，增強了用戶的知情權(quán)和選擇權(quán)，另一方面也有助于培養(yǎng)公眾對人工智能技術(shù)的理性認知，防止因誤解或過度依賴人工智能而產(chǎn)生的負面影響。對于人工智能生成合成服務提供者及傳播平臺，內(nèi)容標識制度既是責任，更是機遇，在鼓勵企業(yè)追求技術(shù)能力提升的同時，推動企業(yè)提升對產(chǎn)品社會影響的關(guān)注度，主動承擔起人工智能負責任發(fā)展的重任，這不僅有利于贏得用戶信任，也能推動整個行業(yè)向更加規(guī)范、健康的方向發(fā)展。從長遠來看，標識管理為構(gòu)建人工智能治理體系提供了重要抓手，指引了未來人工智能安全治理的思路，也為后續(xù)更精細化、智能化的管理奠定了基礎(chǔ)，有助于在保護創(chuàng)新活力與維護公共利益之間找到平衡點。

《標識辦法》為國際人工智能治理貢獻了中國方案，展現(xiàn)了我國在全球人工智能發(fā)展中的責任與擔當。《標識辦法》既是對當前人工智能快速發(fā)展趨勢的積極回應，也是對未來人工智能應用場景的安全保障。它通過構(gòu)建信任、明確責任、保護權(quán)益等多重機制，體現(xiàn)了我國“以人為本、智能向善”的積極理念，為打造可審核、可監(jiān)督、可追溯、可信賴的人工智能技術(shù)鋪設(shè)了一條安全、可信、可持續(xù)的道路，助力技術(shù)創(chuàng)新與社會價值和諧共生，促進人工智能技術(shù)和數(shù)字經(jīng)濟的蓬勃發(fā)展。

作者：張　震　國家計算機網(wǎng)絡(luò)應急技術(shù)處理協(xié)調(diào)中心正高級工程師

(來源："網(wǎng)信浙江”)

(鏈接：https://mp.weixin.qq.com/s/Iv0F_sjyQGRUj5bZPP7eQQ）