得益于人工智能技術(shù)的不斷發(fā)展與開放，深度合成技術(shù)已經(jīng)廣泛應(yīng)用于文本、圖像、音頻、視頻、虛擬場景等數(shù)字內(nèi)容的生成生產(chǎn)，在影視、傳媒、教育等領(lǐng)域?qū)崿F(xiàn)大規(guī)模應(yīng)用。值得注意的是，利用深度合成技術(shù)制作、復(fù)制、發(fā)布、傳播違法和不良信息，仿冒他人身份實施詐騙、勒索等違法行為也層出不窮。因此，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》）恰逢其時，為規(guī)范深度合成技術(shù)應(yīng)用提出了科學(xué)化、精細(xì)化、體系化的治理方案，有效統(tǒng)籌深度合成技術(shù)應(yīng)用的安全與發(fā)展，促進(jìn)深度合成技術(shù)的依法合理利用。

一、堅持引導(dǎo)科技向上向善，多元共建網(wǎng)絡(luò)空間良好生態(tài)

首先，堅持主流價值導(dǎo)向，引導(dǎo)科技向上向善。《規(guī)定》以我國主流價值觀為引領(lǐng)，維護(hù)人民合法權(quán)益，促進(jìn)科技發(fā)展向上向善。一是堅持主流價值導(dǎo)向，科學(xué)管理新技術(shù)新應(yīng)用。習(xí)近平總書記強調(diào)用主流價值導(dǎo)向駕馭“算法”，全面提升輿論引導(dǎo)能力。《規(guī)定》堅持正確政治方向、輿論導(dǎo)向、價值取向，通過加強針對深度合成技術(shù)應(yīng)用的科學(xué)管理，確保深度合成服務(wù)向上向善。二是回應(yīng)社會關(guān)切，營造天朗氣清的網(wǎng)絡(luò)空間。《規(guī)定》劃定了深度合成技術(shù)應(yīng)用的“底線”和“紅線”，維護(hù)國家安全、社會穩(wěn)定，以及人民群眾的切身利益。三是鼓勵行業(yè)自律，引導(dǎo)科技向上向善良性發(fā)展?！兑?guī)定》遵循數(shù)字經(jīng)濟領(lǐng)域新技術(shù)新應(yīng)用監(jiān)管治理的整體脈絡(luò)，沿用行業(yè)標(biāo)準(zhǔn)、行業(yè)準(zhǔn)則等行業(yè)自律方式，促進(jìn)企業(yè)依法合理利用深度合成技術(shù)及服務(wù)。

其次，細(xì)分多元主體責(zé)任，全面構(gòu)建治理體系。《規(guī)定》構(gòu)建了圍繞“深度合成技術(shù)支持者”和“深度合成服務(wù)提供者”的責(zé)任框架，針對其他相關(guān)主體也作出了規(guī)范。技術(shù)支持者應(yīng)從源頭深化技術(shù)治理，加強數(shù)據(jù)和技術(shù)管理，同時參照相關(guān)規(guī)定履行算法備案等手續(xù)。服務(wù)提供者應(yīng)全方位落實信息安全主體責(zé)任，強化針對服務(wù)、用戶、數(shù)據(jù)、技術(shù)以及內(nèi)容等方面的管理措施，實施安全可控的技術(shù)保障措施。在其他主體要求方面，服務(wù)使用者應(yīng)承擔(dān)信息安全義務(wù)，不得利用深度合成服務(wù)從事違法違規(guī)活動；互聯(lián)網(wǎng)應(yīng)用商店等平臺應(yīng)落實上架審核、日常管理、應(yīng)急處置等安全管理的平臺責(zé)任，為深度合成技術(shù)的安全合理應(yīng)用搭建保護(hù)屏障。

最后，配套相關(guān)法律法規(guī)，深化網(wǎng)絡(luò)管理要求。《規(guī)定》是我國互聯(lián)網(wǎng)法治建設(shè)進(jìn)程中的重要一步，既與多部上位法一脈相承，又與互聯(lián)網(wǎng)信息服務(wù)相關(guān)法規(guī)有效銜接，還為以深度合成為代表的新技術(shù)新應(yīng)用構(gòu)建了安全與發(fā)展并重的科學(xué)管理體系。一方面，《規(guī)定》全面貫徹落實《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個人信息保護(hù)法》等上位法的具體要求。例如，《規(guī)定》強調(diào)了深度合成服務(wù)提供者和技術(shù)支持者采取必要措施保障數(shù)據(jù)安全的要求，遵循了敏感個人信息處理中的單獨同意原則。另一方面，《規(guī)定》能夠與《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等互聯(lián)網(wǎng)信息服務(wù)相關(guān)法律法規(guī)有效銜接，便于配套實施?！兑?guī)定》在已有規(guī)定的基礎(chǔ)上，細(xì)化了深度合成技術(shù)的應(yīng)用場景，明確了深度合成技術(shù)支持者和服務(wù)提供者履行信息安全義務(wù)的要求，是互聯(lián)網(wǎng)信息服務(wù)管理體系的有效延展補充。

二、科學(xué)構(gòu)建技術(shù)治理體系，促進(jìn)深度合成依法合理、有效應(yīng)用

首先，明確全流程多節(jié)點信息安全要求。《規(guī)定》細(xì)化了深度合成技術(shù)支持、服務(wù)提供、服務(wù)上架等多個流程節(jié)點相關(guān)主體的具體要求，建立了事前、事中、事后的信息安全管理措施。部署前，深度合成技術(shù)支持者和服務(wù)提供者應(yīng)依據(jù)《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》要求，在具備輿論屬性或者社會動員能力屬性時，積極履行相關(guān)備案手續(xù)。服務(wù)中，深度合成技術(shù)支持者和服務(wù)提供者應(yīng)加強數(shù)據(jù)安全和個人信息保護(hù)，定期對算法機制機理開展評估。在提供人臉、人聲等生物識別信息編輯功能時，應(yīng)重點履行對服務(wù)使用者合法處理敏感個人信息的提示性義務(wù)，并對此功能開展安全評估，預(yù)防信息安全風(fēng)險。此外，服務(wù)提供者還應(yīng)全面履行包括公開管理規(guī)則、開展身份認(rèn)證、審核信息發(fā)布在內(nèi)的平臺責(zé)任。上架后，技術(shù)支持者和服務(wù)提供者仍有義務(wù)對算法機制機理施行動態(tài)評估，服務(wù)提供者應(yīng)添加標(biāo)識標(biāo)明其應(yīng)用使用了深度合成技術(shù)，互聯(lián)網(wǎng)應(yīng)用商店等平臺還應(yīng)加強核驗監(jiān)督等安全管理責(zé)任落實。

其次，創(chuàng)新信息內(nèi)容標(biāo)識技術(shù)管理制度。《規(guī)定》綜合應(yīng)用技管結(jié)合的方式實現(xiàn)了治理創(chuàng)新，通過要求深度合成服務(wù)提供者對深度合成信息內(nèi)容進(jìn)行標(biāo)識的方式，保障了公眾的知情權(quán)，確保了服務(wù)的可追溯。一是應(yīng)用顯著標(biāo)識避免公眾的混淆和誤認(rèn)?！兑?guī)定》明確深度合成服務(wù)提供者應(yīng)當(dāng)使用顯著方式對深度合成信息內(nèi)容進(jìn)行標(biāo)識，有效提示合成情況。具體落實時，深度合成服務(wù)提供者可以根據(jù)各類應(yīng)用場景和潛在風(fēng)險，通過文字、語音片段和電子圖形標(biāo)志等方式進(jìn)行顯著標(biāo)識。此外，《規(guī)定》通過強調(diào)主體責(zé)任保障標(biāo)識的真實性和唯一性，明確提出任何組織和個人不得采用技術(shù)手段刪除、篡改或隱匿標(biāo)識。二是通過標(biāo)識實現(xiàn)深度合成信息內(nèi)容可追溯。《規(guī)定》明確提出深度合成服務(wù)提供者應(yīng)在信息內(nèi)容中添加不影響用戶使用的標(biāo)識并保存相關(guān)日志信息。落實相關(guān)要求時，深度合成服務(wù)提供者可以在信息內(nèi)容中添加使用特定工具或方法才能提取的隱性數(shù)字水印標(biāo)識，確保發(fā)布或傳播的深度合成信息內(nèi)容可追溯。

最后，強調(diào)真實身份信息認(rèn)證管理要求。《規(guī)定》明確了實行真實身份信息認(rèn)證管理的多種方案，能夠在管理深度合成信息內(nèi)容的同時推進(jìn)用戶個人信息保護(hù)。一方面，《規(guī)定》強調(diào)設(shè)置門檻加強用戶管理?！兑?guī)定》要求深度合成服務(wù)提供者應(yīng)嚴(yán)格落實對服務(wù)使用者進(jìn)行真實身份信息認(rèn)證的主體責(zé)任，有利于對深度合成的違法和不良信息內(nèi)容發(fā)布及傳播者進(jìn)行追責(zé)，同時也為陷入網(wǎng)絡(luò)民事糾紛的相關(guān)主體提供了追溯渠道。另一方面，《規(guī)定》保障身份認(rèn)證方式的多樣性。《規(guī)定》明確了真實身份信息認(rèn)證包括基于移動電話號碼、身份證件號碼、統(tǒng)一社會信用代碼或者國家網(wǎng)絡(luò)身份認(rèn)證公共服務(wù)等多種方式?！兑?guī)定》在保障通過多種方式認(rèn)證深度合成服務(wù)使用者身份的同時，能夠推進(jìn)電子身份認(rèn)證技術(shù)的發(fā)展，有利于從源頭上減少個人信息濫采濫用等問題。

三、加強技術(shù)支撐治理能力，保障新技術(shù)新應(yīng)用有序健康發(fā)展

《規(guī)定》具有一定的探索性和前瞻性，是進(jìn)一步提升網(wǎng)絡(luò)治理能力的應(yīng)時應(yīng)勢之舉，但深度合成技術(shù)應(yīng)用治理目前尚處于起步階段，在技術(shù)支撐和管理體系建設(shè)方面有待進(jìn)一步加強。下一步可開展以下措施：

一是加強《規(guī)定》宣傳貫徹培訓(xùn)，盡快落實檢查評估機制。加強《規(guī)定》的宣傳推廣和培訓(xùn)教育，督促深度合成技術(shù)支持者和服務(wù)提供者等主體開展算法安全評估；強化檢查評估能力，有序推進(jìn)深度合成技術(shù)應(yīng)用的安全檢查，敦促深度合成技術(shù)支持者和服務(wù)提供者及時發(fā)現(xiàn)和整改相關(guān)問題。

二是推進(jìn)技術(shù)產(chǎn)業(yè)自律自治，加速技術(shù)應(yīng)用標(biāo)準(zhǔn)化工作推進(jìn)。加快推進(jìn)深度合成相關(guān)技術(shù)標(biāo)準(zhǔn)、安全評估標(biāo)準(zhǔn)等的研究制定工作，進(jìn)一步發(fā)揮標(biāo)準(zhǔn)對技術(shù)應(yīng)用規(guī)范、安全能力建設(shè)等工作的支撐作用。結(jié)合我國深度合成技術(shù)應(yīng)用情況，分析各類深度合成信息內(nèi)容在不同場景下的安全風(fēng)險程度，形成符合我國實際情況的深度合成信息服務(wù)分級分類方法。

三是加強標(biāo)識體系建設(shè)，全面提升深度合成信息內(nèi)容監(jiān)管能力。依據(jù)《規(guī)定》相關(guān)要求，研究制定面向深度合成信息服務(wù)的標(biāo)識體系，進(jìn)一步明確標(biāo)識范圍，加強標(biāo)識的管理機制。通過行業(yè)自律的方式組織相關(guān)企業(yè)開展落地實踐工作，逐步引導(dǎo)形成先標(biāo)識核驗再上線的服務(wù)機制，壓實企業(yè)主體責(zé)任，防范安全風(fēng)險隱患。（作者：何寶宏，中國信息通信研究院云計算與大數(shù)據(jù)研究所所長）