【資政場】

4月10日，中國國家話劇院發(fā)布聲明，有公司未經(jīng)授權(quán)違法冒演話劇《青蛇》，濫用AI換臉技術(shù)欺騙觀眾，其表示將持續(xù)取證，用法律武器捍衛(wèi)合法權(quán)益。

近年來，隨著人工智能算法的快速進(jìn)步，AI換臉技術(shù)在影視娛樂、社交互動等領(lǐng)域得到廣泛應(yīng)用。從影視作品中逼真的角色替換到社交平臺上趣味化的表情包生成，技術(shù)革新為文化創(chuàng)意產(chǎn)業(yè)注入了強(qiáng)勁動力。然而，技術(shù)的“雙刃劍”效應(yīng)也同步顯現(xiàn)，不法分子通過篡改視頻中的面部特征與聲紋數(shù)據(jù)，實施捏造名人言論、炮制誤導(dǎo)性信息、精準(zhǔn)詐騙與敲詐勒索等違法犯罪活動。從消解社會信任到?jīng)_擊司法證據(jù)體系，技術(shù)濫用已由個體權(quán)益侵害演變?yōu)橄到y(tǒng)性社會問題。在此背景下，亟須從壓實平臺責(zé)任、健全法律規(guī)則、推動社會共治三方面協(xié)同發(fā)力，構(gòu)建兼顧技術(shù)創(chuàng)新與風(fēng)險防范的治理體系。

壓實平臺監(jiān)管責(zé)任，構(gòu)建風(fēng)險防控的前置屏障

網(wǎng)絡(luò)平臺作為AI換臉技術(shù)傳播的核心場域，其監(jiān)管能力直接影響風(fēng)險防控成效。當(dāng)前，部分平臺對合成內(nèi)容的審核仍停留在被動響應(yīng)層面。解決此問題需要推動平臺完成從“技術(shù)工具提供者”向“風(fēng)險防控責(zé)任人”的角色轉(zhuǎn)變。平臺不僅要提供技術(shù)支持，還應(yīng)在服務(wù)中承擔(dān)起更多的社會責(zé)任。為了有效防范和化解AI換臉技術(shù)帶來的法律風(fēng)險，平臺需要從多個維度加強(qiáng)監(jiān)管，確保技術(shù)創(chuàng)新與風(fēng)險防控并行推進(jìn)。

2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對平臺監(jiān)管責(zé)任提出了明確要求，特別是對信息安全和合成內(nèi)容的管理作出規(guī)定。規(guī)定明確要求平臺提供者在提供服務(wù)時，應(yīng)落實信息安全主體責(zé)任，通過嚴(yán)格的用戶身份認(rèn)證機(jī)制，確保服務(wù)使用者的身份信息真實可查。平臺可以通過移動電話號碼、身份證件號碼等多種方式進(jìn)行實名認(rèn)證，避免匿名或偽造身份的用戶發(fā)布虛假或有害內(nèi)容。這一措施從源頭上限制了AI換臉技術(shù)被濫用的可能性，為進(jìn)一步的監(jiān)管打下了堅實基礎(chǔ)。

除了用戶身份認(rèn)證外，平臺還需加強(qiáng)對合成內(nèi)容的審核，結(jié)合人工與技術(shù)手段進(jìn)行多層次的管理。AI換臉技術(shù)的應(yīng)用產(chǎn)生了大量動態(tài)的內(nèi)容，這些內(nèi)容涵蓋了娛樂、社交等領(lǐng)域，可能被惡意利用，制造虛假信息甚至操控社會輿論。因此，平臺需要建立健全的審核機(jī)制，不僅對合成結(jié)果進(jìn)行技術(shù)檢測，還應(yīng)當(dāng)定期對合成算法進(jìn)行評估和審查，防止技術(shù)本身被濫用。同時，平臺應(yīng)確保對違法和不良信息的及時處置，按照規(guī)定保存相關(guān)記錄，并向網(wǎng)信部門及時報告，從內(nèi)容生成源頭到傳播過程進(jìn)行全方位監(jiān)管，進(jìn)而降低虛假信息的傳播風(fēng)險，保障網(wǎng)絡(luò)安全。

完善法律規(guī)則體系，破解制度滯后的治理難題

傳統(tǒng)法律體系難以應(yīng)對數(shù)字空間中行為隱蔽化、主體虛擬化、后果擴(kuò)散化的新型挑戰(zhàn)。這一矛盾要求我們必須更新法律規(guī)則，以適應(yīng)快速變化的技術(shù)環(huán)境。

《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》雖然強(qiáng)調(diào)了信息安全管理、用戶身份認(rèn)證、內(nèi)容審核和違法信息的處理要求。但深度合成技術(shù)的創(chuàng)新速度與監(jiān)管滯后之間存在矛盾，該規(guī)定依然需要進(jìn)一步細(xì)化和完善。

首先，法律應(yīng)進(jìn)一步明確平臺在內(nèi)容生成、傳播等環(huán)節(jié)的責(zé)任，不僅要依賴事后的監(jiān)管和懲處，還應(yīng)加強(qiáng)事前的預(yù)防性規(guī)范，確保技術(shù)應(yīng)用的合法性與合規(guī)性。平臺在生成或編輯涉及公眾人物、國家安全等敏感信息時，應(yīng)該加強(qiáng)對技術(shù)工具的審查，并對相關(guān)內(nèi)容進(jìn)行實時監(jiān)控和審核，避免虛假信息的傳播和惡意濫用。

其次，法律規(guī)則應(yīng)當(dāng)關(guān)注AI換臉技術(shù)的跨境影響和全球化治理問題，加強(qiáng)國內(nèi)外法律協(xié)調(diào)，確保我國在全球范圍內(nèi)的信息安全。深度合成技術(shù)的相關(guān)法律除了明確對違法行為的處罰，還應(yīng)設(shè)立更為細(xì)致的規(guī)定，區(qū)分不同類型的違法行為，采取分類分級的治理策略，針對不同行為的風(fēng)險進(jìn)行有效的法律制衡。

構(gòu)建社會共治格局，凝聚技術(shù)風(fēng)險的防范合力

AI換臉技術(shù)的風(fēng)險本質(zhì)上是技術(shù)系統(tǒng)與社會系統(tǒng)復(fù)雜交互的產(chǎn)物，單一主體治理模式已難以應(yīng)對技術(shù)風(fēng)險的彌散性和跨域性特征。需突破傳統(tǒng)治理的路徑依賴，整合政府、行業(yè)、公眾三方力量，構(gòu)建共建共治共享的治理生態(tài)。

在政府層面，應(yīng)強(qiáng)化統(tǒng)籌協(xié)調(diào)功能。建立跨部門協(xié)同治理機(jī)制，整合網(wǎng)信、電信、公安等部門資源，形成從技術(shù)研發(fā)、內(nèi)容傳播到違法處置的全鏈條監(jiān)管合力。同時，需加強(qiáng)國際協(xié)作，針對跨境傳播的合成內(nèi)容，建立跨國聯(lián)合取證、信息共享等合作機(jī)制，應(yīng)對技術(shù)風(fēng)險的全球化擴(kuò)散。在行業(yè)層面，需激活企業(yè)自治潛能，推動成立人工智能倫理委員會，由頭部企業(yè)、技術(shù)專家、法律學(xué)者共同制定行業(yè)技術(shù)標(biāo)準(zhǔn)，明確換臉?biāo)惴ǖ膫惱砑t線。建立“黑名單”共享機(jī)制，對多次違規(guī)的企業(yè)實施聯(lián)合懲戒，形成一處失信、處處受限的約束效應(yīng)。此外，可鼓勵企業(yè)用技術(shù)能力反哺社會治理，例如開放偽造內(nèi)容識別接口，助力監(jiān)管部門提升風(fēng)險識別效率。在公眾層面，需提升社會數(shù)字素養(yǎng)，通過社區(qū)宣傳、學(xué)校教育等渠道普及AI換臉技術(shù)的基本原理和風(fēng)險特征，增強(qiáng)公眾對合成內(nèi)容的辨別能力。

能否有效防范和化解AI換臉技術(shù)帶來的法律風(fēng)險，是對數(shù)字時代治理能力的系統(tǒng)性考驗。為此，治理者需要超越傳統(tǒng)的“監(jiān)管—對抗”思維，轉(zhuǎn)向“共生—演化”的新型治理范式。通過平臺監(jiān)管實現(xiàn)技術(shù)風(fēng)險的前端控制，通過法律重構(gòu)建立制度適應(yīng)的彈性空間，通過協(xié)同治理激活社會共治的生態(tài)潛能。

(作者：張群，系首都師范大學(xué)政法學(xué)院副教授)

《光明日報》( 2025年04月12日 05版)