?

?■ 受訪專家：中國科學院自動化研究所多模態人工智能系統全國重點實驗室研究員 赫 然

　　二〇二二年十一月十五日，在第二十四屆中國國際高新技術成果交易會上，參觀者體驗AI“換臉”。新華社記者 毛思倩攝

??中國規范深度合成技術的新規定《互聯網信息服務深度合成管理規定》自1月10日起施行。

??法新社報道稱，新規定要求深度合成服務提供者對使用者進行真實身份信息認證，同時要求對深度合成內容進行合理標識，避免公眾混淆。

??“算法監管的先行者——中國，近期將注意力轉向治理深度合成。”《華爾街日報》網站報道稱，所謂深度合成，就是由人工智能軟件生成或

編輯內容，可以讓人們看起來完成了一些從未做過的事情。

??深度合成技術是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。合成的虛擬內容有

極佳的視覺、聽覺等效果，具有“以假亂真”的特點。深度合成技術的代表性研究——2014年提出的生成對抗網絡（GANs）、2020年提出的生成

式預訓練模型（GPT-3），大幅提升了多媒體數據合成的逼真程度，推動了“人工智能生成內容”和“元宇宙”等一系列新型智能應用形態。目前，

深度合成技術已衍生出面部替換、表情操縱、語音合成、文章生成、智能對話等不同技術分支，在教育、影視、傳媒等領域扮演著越來越重要的角色，

對升級傳統內容制作方法、改善制作效果、提高制作效率有積極作用。但同時，該技術也可能被不法分子用于深度偽造，如偽造公眾人物發言，進行

誹謗、詐騙等，給國家安全和社會穩定帶來挑戰。

??智能技術本身是中立的，但技術的使用蘊含價值取向。針對深度合成技術帶來的風險和安全挑戰，中國正在積極探索治理路徑。

??2022年11月25日，中國國家互聯網信息辦公室會同工信部、公安部發布《互聯網信息服務深度合成管理規定》（以下簡稱《規定》）。《規定》

根據《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》《互聯網信息服務管理辦法》等法律、行政法

規制定，是中國第一部針對深度合成人工智能技術治理的專門性規章。《規定》一方面為防范深度合成的潛在風險提出了科學且系統的治理方案，另一

方面有效統籌了深度合成的風險管理與技術創新，有利于促進深度合成相關人工智能技術健康有序發展。

??《規定》厘清了深度合成技術定義與應用范圍，確定了生成合成類算法的監管對象，明確了深度合成服務提供者、技術支持者和使用者及應用程序

分發平臺的各方責任，提出建立健全行業標準和自律管理制度。

??《規定》有效銜接現行法規制度，在延續互聯網信息服務算法治理思路的基礎上，對利用深度合成技術危害國家安全和人民利益、侵害公民合法權

益和隱私的行為及法律責任作出了全面、具體的規定，進一步細化了現行算法應用的監管規則，給出了合成類算法服務的監督管理樣板。

??實現網絡綜合治理、構建網絡生態，是世界各國面臨的共同課題。《規定》的出臺，是中國加強互聯網智能技術依法治理、規范產業服務健康發展、

推進人工智能倫理進步、引導科學技術向上向善的重要舉措，具有一定的全球示范效應。同時，《規定》的多項內容處于國際領先地位，具有針對性、前

瞻性和引導性和可操作性。近期，美國人工智能實驗室OpenAI最新發布的對話式大型語言模型ChatGPT引起廣泛關注。該算法模型可以智能書寫情書、

辭職信、文章等，也可以模仿特定人物的風格發布推文。使用這類算法模型提供智能寫作、對話服務也應當遵守《規定》。

??下一步，中國在規范深度合成技術方面還可進行三方面探索：一是在技術基礎研究方面，可進一步研究智能合成類算法的機制機理和深度合成鑒別等

關鍵技術，推動深度合成技術管理能力和技術保障措施建設，提升視頻、圖像、音頻、虛擬場景生成等應用服務領域的合成效果。二是在安全與監管方面，

可研究深度合成與鑒別的博弈對抗機制，研究媒體數字水印、算法模型水印和內容安全溯源等深度合成標識技術，建設面向移動互聯網全媒體的監測管理平

臺，加強技術和人工審核交互的人機混合監管方式，建立深度合成服務提供者的安全可控技術保障方案以及辟謠投訴機制。三是可開展深度合成相關智能算

法標準和安全評估標準等的研究與制定，進一步支撐技術服務規范和安全能力建設等工作。

??中國積極探索規范深度合成技術，有利于引導以深度學習為主的新興智能技術健康發展，促進人工智能算法在音頻、視頻、圖像和文本等多媒體信息處

理領域的應用。隨著深度合成技術應用的普及和拓展，深度合成檢測分析技術也將順勢而來。通過深度合成與檢測分析技術的對抗演練良性迭代，深度合成

技術將有望實現安全、可靠、可控發展，推動新興人工智能技術應用落地。（記者 林子涵采訪整理）