近年來，深度合成作為一種人工智能內容合成技術，風頭正勁。技術的發展與風險相伴而生，當深度合成技術在美顏、繪畫、主播、元宇宙等領域為大眾帶來多樣化的交互體驗時，其技術濫用也引發了侵權、詐騙等一系列問題。2022年11月25日，國家網信辦、工信部、公安部聯合發布《互聯網信息服務深度合成管理規定》（以下簡稱《規定》）。其中提出，深度合成服務提供者和技術支持者提供人臉、人聲等生物識別信息編輯功能的，應當提示深度合成服務使用者依法告知被編輯的個人，并取得其單獨同意。《規定》自2023年1月10日起施行。

對于深度合成技術的監管，此前在《互聯網信息服務算法推薦管理規定》《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》等法規中均有提及，而《規定》則對深度合成內容更有針對性地進行規制，標志著監管部門針對互聯網信息內容監管版圖進一步細化。

那么，究竟什么是深度合成技術？《規定》給出了答案：深度合成技術，是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術。具體包括篇章生成、文本風格轉換、問答對話等生成或者編輯文本內容的技術；文本轉語音、語音轉換、語音屬性編輯等生成或者編輯語音內容的技術；音樂生成、場景聲編輯等生成或者編輯非語音內容的技術；人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等生成或者編輯圖像、視頻內容中生物特征的技術；圖像生成、圖像增強、圖像修復等生成或者編輯圖像、視頻內容中非生物特征的技術，三維重建、數字仿真等生成或者編輯數字人物、虛擬場景的技術等。

深度合成技術是人工智能發展到一定階段的產物，其衍生出包括圖像合成、視頻合成、聲音合成和文本生成等多種技術，廣泛應用于新聞傳媒、影視制作、娛樂、教育和電子商務等領域。不過，由于操作便捷，成本低廉，深度合成服務容易被不法人員利用，用于制作、復制、傳播違法信息，甚至仿用他人身份實施詐騙。如今常見或大熱的語音轉換、圖像修復、三維重建、虛擬人、AI換臉、AI繪畫等技術類型都被涵蓋其中，而這些深度合成技術的濫用風險是看得見的。

為防止深度合成技術被用于犯罪活動，《規定》對深度合成服務提供者、技術支持者等各方責任義務進行了系統性制度設計，包括算法機制機理審核、信息內容管理、安全評估、從業人員教育培訓等。

《規定》明確，任何組織和個人不得利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息，或從事危害國家安全和利益、損害國家形象、侵害社會公共利益、擾亂經濟和社會秩序、侵犯他人合法權益等法律、行政法規禁止的活動。

同時，《規定》要求，深度合成服務提供者建立健全用戶注冊、算法機制機理審核、科技倫理審查、信息發布審核、數據安全、個人信息保護、反電信網絡詐騙、應急處置等管理制度；制定和公開管理規則、平臺公約，完善服務協議，落實真實身份信息認證制度；采取技術或者人工方式對輸入數據和合成結果進行審核，建立健全用于識別違法和不良信息的特征庫；建立健全辟謠機制等。

在《算法規定》明確“不得生成合成虛假新聞信息”的基礎上，《規定》也對相關主體，在新聞輿論領域的深度合成技術運用進行了規范。

按照《規定》，深度合成服務提供者和使用者不得利用深度合成服務制作、復制、發布、傳播虛假新聞信息。轉載基于深度合成服務制作發布的新聞信息的，應當依法轉載互聯網新聞信息稿源單位發布的新聞信息。此外，具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《算法規定》履行備案和變更、注銷備案手續；深度合成服務提供者開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能的，應當按照國家有關規定開展安全評估。

中國信息通信研究院副院長王志勤認為，《規定》有效銜接了相關法律法規。在網絡安全法、數據安全法、個人信息保護法、《互聯網信息服務管理辦法》等上位法框架下，《規定》有效承接了《網絡信息內容生態治理規定》《網絡音視頻信息服務管理規定》《互聯網信息服務算法推薦管理規定》等規章、規范性文件中關于網絡信息內容管理、新技術新應用安全評估、顯著標識、備案管理等制度規定，對深度合成服務管理機制、主體責任等作出了銜接性制度安排。

除深度合成服務提供者以外，《規定》也將深度合成服務技術支持者納入監管，明確他們的數據和技術管理規范。

《規定》明確，深度合成服務提供者和技術支持者應當加強訓練數據管理。采取必要措施保障訓練數據安全之余，提供人臉、人聲等生物識別信息顯著編輯功能的，應當提示使用者依法告知被編輯的個人，并取得其單獨同意。

深度合成服務提供者和技術支持者還應當加強技術管理，定期審核、評估、驗證生成合成類算法機制機理。其中，對具有生成或者編輯人臉、人聲等生物識別信息，可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息的模型、模板等工具，應當依法自行或者委托專業機構開展安全評估。

此外，《算法規定》要求，發現未作顯著標識的算法生成合成信息的，應當作出顯著標識后，方可繼續傳輸。《規定》在此基礎上進一步細化，通過顯著標識和隱式標識兩種方式對深度合成信息進行規范。

按照《規定》，深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識。提供智能對話、智能寫作、合成人聲、仿聲、人臉生成、人臉替換、人臉操控、姿態操控、沉浸式擬真場景等具有生成或者顯著改變信息內容功能的服務，可能導致公眾混淆或者誤認的，深度合成服務提供者應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示深度合成情況。

“《規定》是目前我國針對深度合成服務出臺的第一部專門性部門規章，作出了一系列明確合規指引，對加強互聯網信息服務深度合成管理、促進互聯網信息服務健康發展、推進網絡空間治理意義重大，影響深遠。”中國科學院信息工程研究所所長孟丹表示。

“深度合成服務從相繼被納入到相關規定中監管，到出臺專門的規章進行規制，顯示出我國一方面引導深度合成技術良性發展，另一方面堅決打擊利用深度合成服務制作傳播違法不良信息、危害信息內容安全、社會公共利益和國家安全的行為。”在中國政法大學副校長時建中看來，深度合成技術展現了其強大的能量和可能性，加速應用已經成為現實趨勢。在合規前提下，深度合成技術創新發展，不斷開拓應用場景，將形成對人工智能產業整體的帶動效應，促進技術向上向善。

本網站及其公眾號為公益性網絡平臺，所發圖文僅供傳播信息、介紹知識、說明問題之用；相關版權歸原作者所有，轉載請務必注明出處和作者。

稿件一經選用，即視為作者同意本網免費將其使用于本網或與本網有合作關系的非贏利性各類出版物、互聯網與手機端媒體及專業學術文庫等。

由稿件引起的著作權問題及其法律責任由作者自行承擔。

了解更多動態，請掃描二維碼，關注我們的微信公眾號：