隨著新一代信息技術(shù)的快速發(fā)展，深度合成技術(shù)作為人工智能領(lǐng)域的新應(yīng)用、新實踐，已在多個行業(yè)場景中被推廣應(yīng)用，并催生了“元宇宙”等新的應(yīng)用場景。當前，網(wǎng)絡(luò)傳播環(huán)境日趨復(fù)雜，新型合成方法層出不窮，技術(shù)濫用的風險也在不斷加劇。為加強互聯(lián)網(wǎng)信息服務(wù)深度合成管理，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》）?！兑?guī)定》構(gòu)建了互聯(lián)網(wǎng)信息服務(wù)深度合成治理制度規(guī)范，邁出我國新技術(shù)新應(yīng)用立法的重要一步。

一、《規(guī)定》出臺必要及時，意義深遠

技術(shù)發(fā)展與風險挑戰(zhàn)相伴而生，新技術(shù)新應(yīng)用發(fā)展日新月異，技術(shù)治理是一場永恒的攻防對抗博弈，也是技術(shù)從創(chuàng)新應(yīng)用到規(guī)范發(fā)展的必經(jīng)階段。當前，換臉、換聲、三維重建、智能對話等深度合成服務(wù)已經(jīng)在國外互聯(lián)網(wǎng)社交媒體中廣泛應(yīng)用，催生了美顏美妝、影視制作、智能客服、虛擬主播、元宇宙等一系列形式新穎豐富、功能便捷智能的應(yīng)用形態(tài)，豐富了互聯(lián)網(wǎng)信息內(nèi)容生態(tài)，推動了互聯(lián)網(wǎng)相關(guān)產(chǎn)業(yè)發(fā)展，為人民生活帶來了便利便捷和多樣化體驗。然而，深度合成技術(shù)也正在被惡意利用制作虛假信息內(nèi)容，進而可能帶來政策干擾、謠言泛濫、低俗內(nèi)容肆意傳播等影響國家安全、社會穩(wěn)定的風險問題。

出臺《規(guī)定》，是進一步提升網(wǎng)絡(luò)綜合治理能力的應(yīng)時應(yīng)勢之舉，具有針對性和前瞻性?！兑?guī)定》是目前我國針對深度合成服務(wù)出臺的第一部專門性部門規(guī)章，作出了一系列明確合規(guī)指引，對加強互聯(lián)網(wǎng)信息服務(wù)深度合成管理、促進互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展、推進網(wǎng)絡(luò)空間治理意義重大，影響深遠。

二、《規(guī)定》為深度合成技術(shù)安全應(yīng)用和健康發(fā)展奠定制度基礎(chǔ)

（一）明確了深度合成技術(shù)定義和服務(wù)范圍。深度合成技術(shù)由來已久，隨著深度學(xué)習技術(shù)，特別是對抗式生成網(wǎng)絡(luò)技術(shù)的發(fā)展，深度合成技術(shù)門檻大幅降低，2017年11月Reddit網(wǎng)站的用戶“deepfakes”發(fā)布偽造視頻令這項技術(shù)引起關(guān)注。近年來，深度偽造技術(shù)在國內(nèi)外反響強烈，其以制作足以“以假亂真”的信息內(nèi)容嚴重威脅國家安全、干擾傳播秩序，讓人們廣泛關(guān)注和深切擔憂，給相關(guān)技術(shù)和產(chǎn)業(yè)發(fā)展帶來一定影響。從技術(shù)進步的角度來說，深度合成技術(shù)應(yīng)用的初衷是讓生成合成內(nèi)容更逼真，但深度合成技術(shù)在愈趨“智能”的同時，也不可避免地帶來更多的安全風險，除深度偽造風險外，還包括生成合成信息內(nèi)容帶來的個人信息泄漏、侵犯人格權(quán)和知識產(chǎn)權(quán)等他人合法權(quán)益等風險。

《規(guī)定》在深度偽造基礎(chǔ)上對深度合成技術(shù)作出了更全面的規(guī)范，從利用算法角度提出包括利用深度學(xué)習、虛擬現(xiàn)實等生成合成類算法，從制作內(nèi)容形態(tài)角度提出包括文本、圖像、音頻、視頻、虛擬場景等多種類型，從具體應(yīng)用形態(tài)上分類列舉了多種典型場景，明確了深度合成技術(shù)的定義和范圍。

（二）從內(nèi)容管理深化到行為管理。有別于信息內(nèi)容發(fā)布與傳播，互聯(lián)網(wǎng)信息服務(wù)深度合成活動是一項涉及算法技術(shù)、應(yīng)用功能、產(chǎn)品業(yè)務(wù)，覆蓋數(shù)據(jù)采集、分析、編輯、加工等多環(huán)節(jié)的數(shù)據(jù)處理過程，產(chǎn)生的安全風險也是由參與多方、不同環(huán)節(jié)共同作用形成的，因此對互聯(lián)網(wǎng)信息服務(wù)深度合成的規(guī)范和引導(dǎo)，需要覆蓋各主體、各環(huán)節(jié)。

《規(guī)定》明確了相關(guān)主體的責任和義務(wù)。在監(jiān)管主體上，將深度合成服務(wù)技術(shù)支持者納入管理。服務(wù)技術(shù)支持者為上游主體，為服務(wù)提供者提供技術(shù)支撐；服務(wù)提供者為中游主體，為服務(wù)使用者提供深度合成服務(wù)；服務(wù)使用者為下游主體，是使用深度合成服務(wù)的組織、個人。《規(guī)定》從信息呈現(xiàn)和傳播兩個維度開展治理，通過顯式標識和隱式標識兩種管理手段，實現(xiàn)對內(nèi)容和行為雙重規(guī)范。在信息呈現(xiàn)方面，提出深度合成服務(wù)提供者應(yīng)當在可能導(dǎo)致公眾混淆或者誤認的深度合成信息內(nèi)容中加入顯式標識，以提示公眾該內(nèi)容的生成合成特性，保障公眾知情權(quán)，降低虛假信息傳播的風險，實現(xiàn)內(nèi)容治理。在信息傳播方面，通過有效技術(shù)保障措施在深度合成信息內(nèi)容中添加隱式標識，實現(xiàn)深度合成內(nèi)容安全溯源和技術(shù)應(yīng)用安全可控，確保內(nèi)容傳播鏈條明確清晰，事后追責準確無誤，實現(xiàn)行為治理，為參與深度合成信息內(nèi)容制作傳播的各方主體厘清責任邊界。

（三）突出全過程安全評估管理。2021年12月，國家互聯(lián)網(wǎng)信息辦公室發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（以下簡稱《算法規(guī)定》），對包括生成合成類在內(nèi)的五類算法推薦服務(wù)進行規(guī)范?！兑?guī)定》在《算法規(guī)定》基礎(chǔ)上，一是加強對深度合成服務(wù)全過程管理。深入深度合成服務(wù)的數(shù)據(jù)處理環(huán)節(jié)、算法運行階段、使用者行為全過程，提出更明確細化和更具有操作性的管理要求和合規(guī)指引。二是深化備案與評估標本兼治?！兑?guī)定》要求具有輿論屬性或者社會動員能力的深度合成服務(wù)提供者和技術(shù)支持者依法履行算法備案手續(xù)，并公示備案編號，有助于引導(dǎo)互聯(lián)網(wǎng)信息服務(wù)深度合成合規(guī)運營、提升產(chǎn)品口碑、增強企業(yè)互信、促進行業(yè)健康發(fā)展。《規(guī)定》明確了對深度合成服務(wù)提供者開發(fā)上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應(yīng)用、新功能應(yīng)當開展安全評估管理，有助于幫助企業(yè)防范和應(yīng)對深度合成內(nèi)容安全風險、數(shù)據(jù)安全風險和技術(shù)濫用風險，有助于促進管理部門備案摸底、風險監(jiān)測和監(jiān)督檢查等工作依法開展、落地成效。

三、健全深度合成治理技術(shù)支撐體系，促進服務(wù)健康有序發(fā)展

《規(guī)定》的出臺，是網(wǎng)絡(luò)內(nèi)容治理由結(jié)果管理邁向行為管理的重要一步，標志著我國網(wǎng)絡(luò)空間治理能力進一步優(yōu)化提升。但是，深度合成技術(shù)與應(yīng)用管理目前仍處于起步階段，在技術(shù)支撐和能力建設(shè)方面有待進一步加強。加快推進深度合成治理技術(shù)支撐體系建設(shè)，是切實保障深度合成服務(wù)治理工作有力有序推進的關(guān)鍵。建議從以下方面加強工作：

（一）促進多方共治深入細化安全標準。《規(guī)定》充分結(jié)合深度合成技術(shù)特點與發(fā)展趨勢，提出了針對深度合成服務(wù)和技術(shù)的普適性的規(guī)范思路，但在生成合成類算法服務(wù)范圍、深度合成技術(shù)具體范圍、深度合成服務(wù)業(yè)務(wù)分類、顯式標識條件與標識方式、隱式標識方法與識別等諸多具體方面，仍亟需行業(yè)內(nèi)部進一步細化相關(guān)配套標準規(guī)范。在實際落地過程中，建議行業(yè)內(nèi)推進產(chǎn)業(yè)聯(lián)盟建立，研制相關(guān)標準規(guī)范，以產(chǎn)業(yè)自治、多方共治的方式，不斷推進深度合成技術(shù)應(yīng)用高質(zhì)量發(fā)展。

（二）用以技術(shù)管技術(shù)思維促進深度合成服務(wù)治理。深度合成技術(shù)是一項非常前沿的智能技術(shù)，治理其帶來的安全問題不能僅靠傳統(tǒng)的結(jié)果導(dǎo)向治標方法。建議從深度合成信息內(nèi)容源頭上解決其衍生的內(nèi)容安全風險，利用技術(shù)創(chuàng)新、技術(shù)對抗等方式，持續(xù)提升和迭代檢測技術(shù)的能力。互聯(lián)網(wǎng)信息服務(wù)深度合成綜合治理，不僅著眼于管理好、使用好、發(fā)展好深度合成技術(shù)及相關(guān)服務(wù)，同時，也致力于深度合成技術(shù)的合法合理合規(guī)使用，促進深度合成技術(shù)及相關(guān)服務(wù)健康有序的發(fā)展。

（三）推進深度合成服務(wù)治理技術(shù)能力建設(shè)。構(gòu)建互聯(lián)網(wǎng)信息服務(wù)深度合成安全監(jiān)管體系需要在技術(shù)支撐和能力建設(shè)方面進一步加強。國家科研機構(gòu)應(yīng)加大深度合成安全方面的科技攻關(guān)，建設(shè)深度合成安全評估和風險監(jiān)測的科研創(chuàng)新平臺，探索共建新型研發(fā)機構(gòu)，形成引領(lǐng)深度合成安全基礎(chǔ)研究的戰(zhàn)略力量。組織建立專業(yè)技術(shù)評估隊伍，研究深度合成安全內(nèi)生機理、安全風險評估、全生命周期安全監(jiān)測等關(guān)鍵技術(shù)。加強基礎(chǔ)科研設(shè)施建設(shè)，完善算法安全治理人才隊伍培養(yǎng)體系，提升深度合成自主創(chuàng)新和安全可控能力。（作者：孟丹，中國科學(xué)院信息工程研究所所長）