編者按:AI換臉技術(shù)作為一種深度偽造技術(shù),基于深度學(xué)習(xí)算法和計(jì)算機(jī)視覺技術(shù),能夠精準(zhǔn)地進(jìn)行面部特征轉(zhuǎn)移。然而,這一技術(shù)的廣泛應(yīng)用,誘發(fā)了一系列違法濫用行為,也帶來諸多安全和法律風(fēng)險(xiǎn),亟須加以規(guī)范和治理。為了推動AI換臉技術(shù)的合法使用,促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用,本刊特邀請專家學(xué)者對相關(guān)問題進(jìn)行探討,敬請關(guān)注。

特邀嘉賓

田宏杰

(中國人民大學(xué)教授)

張建忠

(最高人民檢察院經(jīng)濟(jì)犯罪檢察廳副廳長)

陰建峰

(北京師范大學(xué)教授)

嘉賓兼主持人

高艷東

(浙江大學(xué)數(shù)字法治研究院副院長)

問題一:AI換臉技術(shù)存在哪些應(yīng)用風(fēng)險(xiǎn)?

主持人:AI換臉作為深度合成技術(shù)的一種新發(fā)展形態(tài),具有哪些特征,存在哪些應(yīng)用風(fēng)險(xiǎn)?

田宏杰:AI換臉技術(shù)又稱人臉深度偽造技術(shù),是一種基于人工智能深度學(xué)習(xí)和計(jì)算機(jī)視覺的前沿技術(shù)應(yīng)用,具有高仿真性、高效自動化、數(shù)據(jù)依賴性、可擴(kuò)展性、即時(shí)性、大眾化等特征。目前,該技術(shù)被廣泛應(yīng)用于影視和娛樂行業(yè)、社交媒體內(nèi)容創(chuàng)作、教育培訓(xùn)、心理治療、身份驗(yàn)證、科學(xué)研究等領(lǐng)域。伴隨該技術(shù)在各領(lǐng)域中的加速應(yīng)用,其潛在風(fēng)險(xiǎn)也逐漸展露。

一是引發(fā)信任危機(jī)。基于AI換臉技術(shù),可以輕易在視頻、圖片中偽造他人面部特征和可識別的身份信息。當(dāng)公眾意識到互聯(lián)網(wǎng)所見存在偽造可能性時(shí),便會動搖其對數(shù)字身份認(rèn)證的信任,在長期面對真假難辨的信息環(huán)境時(shí),將引發(fā)社會焦慮,對媒體、政府公信力產(chǎn)生普遍懷疑。

二是激化社會矛盾。使用AI換臉技術(shù)偽造的名人、政治人物或公眾人物的視頻、圖像被用于制造虛假新聞、誤導(dǎo)輿論,其中的不當(dāng)言論可能引發(fā)社會動蕩。而基于換臉技術(shù)生成的一般侮辱性內(nèi)容,則可能引發(fā)或加劇網(wǎng)絡(luò)暴力,導(dǎo)致現(xiàn)實(shí)世界中的歧視或沖突。

三是挑戰(zhàn)社會倫理。AI換臉被用于不道德的娛樂內(nèi)容或違反倫理的內(nèi)容,可能挑戰(zhàn)社會倫理底線。尤其是對于難以識別視頻是否屬于偽造內(nèi)容的未成年人以及中老年人等群體而言,由于缺乏辨別能力,往往選擇相信偽造內(nèi)容,以致引發(fā)倫理危機(jī)事件。

四是威脅國家安全。偽造國家領(lǐng)導(dǎo)人講話或者涉軍事視頻、照片可能引發(fā)國際問題,造成國家間對信息的誤判或外交沖突,引發(fā)軍事對峙�？植澜M織利用AI換臉技術(shù)制作虛假宣傳視頻,則會混淆公眾視聽或制造恐慌。

張建忠:AI換臉技術(shù)作為深度合成技術(shù)的一種形式,通過深度學(xué)習(xí)算法和計(jì)算機(jī)視覺技術(shù),將一張人臉特征映射到另一張臉上。AI換臉不僅可以進(jìn)行靜態(tài)圖像置換,還可結(jié)合動作捕捉與語音識別,實(shí)現(xiàn)更復(fù)雜的動態(tài)視頻和交互場景。AI換臉技術(shù)具有高度擬真性,能夠捕捉并復(fù)現(xiàn)面部細(xì)節(jié),如表情、光照與肌肉運(yùn)動等,使得最終合成結(jié)果與真實(shí)人臉極為相似,通常肉眼難以分辨。隨著技術(shù)普及,許多手機(jī)應(yīng)用或在線工具都能一鍵生成換臉內(nèi)容,技術(shù)使用門檻大幅降低。

AI換臉技術(shù)在很多領(lǐng)域展現(xiàn)出積極的應(yīng)用潛力,但其潛在的風(fēng)險(xiǎn)也不容忽視。一是侵犯公民權(quán)利。例如,擅自使用他人肖像制作、傳播惡搞視頻,可能造成名譽(yù)侵權(quán);或者通過換臉技術(shù)偽造身份實(shí)施電信詐騙,威脅個(gè)人財(cái)產(chǎn)安全。二是破壞社會公共秩序、商業(yè)秩序。例如,利用換臉技術(shù)偽造重大公共事件、商業(yè)事件的不實(shí)視頻,引發(fā)輿論混亂或擾亂市場秩序。三是危害國家安全。例如,通過換臉技術(shù)偽造領(lǐng)導(dǎo)人的發(fā)言視頻,煽動恐怖暴力情緒,教唆進(jìn)行恐怖活動。四是給司法辦案帶來挑戰(zhàn)。例如,AI換臉技術(shù)被用于視聽資料等證據(jù)材料的偽造,給司法取證與證據(jù)審查帶來挑戰(zhàn),等等。

陰建峰:AI換臉的本質(zhì)是深度偽造技術(shù)的應(yīng)用,核心獨(dú)特性在于以數(shù)據(jù)為燃料、算法為引擎的智能生成范式,其技術(shù)特征既體現(xiàn)了深度學(xué)習(xí)在表征學(xué)習(xí)和生成任務(wù)上的突破,也凸顯了合成媒體時(shí)代技術(shù)倫理與治理的復(fù)雜性。其具有以下特征:

一是高度擬真性。AI換臉技術(shù)通過深度學(xué)習(xí)算法捕捉源臉部的微表情、肌肉運(yùn)動、光照變化等動態(tài)特征,實(shí)現(xiàn)表情與口型的精準(zhǔn)同步以及圖像和視頻中人物面部的精準(zhǔn)替換,生成的換臉效果在視覺上高度逼真,幾乎與真實(shí)畫面無異。這種高度擬真性不僅體現(xiàn)在靜態(tài)圖像中,更在動態(tài)視頻中展現(xiàn)出流暢自然的替換效果,甚至可以配合合成的聲音進(jìn)一步增強(qiáng)真實(shí)感。

二是成本低廉性。諸如DeepFaceLab、FaceSwap等技術(shù)的開源,降低了技術(shù)接入門檻,推動了技術(shù)普及,制作換臉視頻所需的硬件設(shè)備只需一臺性能較高的普通電腦或者一部手機(jī);同時(shí),通過網(wǎng)絡(luò)爬蟲等技術(shù)可輕松獲取大量人臉圖像作為訓(xùn)練數(shù)據(jù),大幅降低了數(shù)據(jù)采集成本。這些因素使得AI換臉技術(shù)的操作變得極為便捷且成本極低,幾乎達(dá)到了“零門檻”的程度,甚至普通用戶也能通過簡單的App操作實(shí)現(xiàn)“一鍵換臉”。

三是場景泛化性。AI換臉技術(shù)可處理不同分辨率、角度甚至藝術(shù)風(fēng)格的素材,適配影視特效、虛擬主播、元宇宙化身等場景,支持復(fù)雜光照和遮擋環(huán)境下的換臉。通過模型壓縮和邊緣計(jì)算,可在手機(jī)等移動設(shè)備實(shí)現(xiàn)實(shí)時(shí)視頻換臉。既可結(jié)合語音合成和3D建模技術(shù),實(shí)現(xiàn)視聽統(tǒng)一的深度偽造內(nèi)容,也可結(jié)合神經(jīng)渲染技術(shù),在直播或視頻會議中達(dá)到毫秒級響應(yīng)。

AI換臉技術(shù)在諸多領(lǐng)域得到了廣泛運(yùn)用,在給我們的生活帶來巨大便利的同時(shí),也存在潛在的應(yīng)用風(fēng)險(xiǎn):

一是存在侵犯他人合法權(quán)益的風(fēng)險(xiǎn)。就人格權(quán)益而言,未經(jīng)他人同意將其面部替換到視頻或圖片中,并用于不當(dāng)場景,如色情視頻、虛假廣告等,會導(dǎo)致被換臉者形象受損、名譽(yù)被貶損,給當(dāng)事人帶來嚴(yán)重的社會負(fù)面影響,侵犯他人的肖像權(quán)、名譽(yù)權(quán)及個(gè)人信息相關(guān)權(quán)益。就財(cái)產(chǎn)權(quán)益而言,該技術(shù)可能被用于破解人臉識別系統(tǒng),從而非法訪問或竊取個(gè)人賬戶、財(cái)產(chǎn)信息,導(dǎo)致直接的經(jīng)濟(jì)損失。

二是存在虛假信息傳播,引發(fā)社會信任危機(jī)。AI換臉技術(shù)生成的圖像具有高度欺騙性,容易滋生虛假信息甚至是網(wǎng)絡(luò)謠言。而虛假信息的快速傳播不僅會損害個(gè)人聲譽(yù),還會削弱公眾對媒體、政府和其他權(quán)威信息來源的信任。當(dāng)公眾難以區(qū)分真實(shí)與虛假信息時(shí),社會信任機(jī)制將受到嚴(yán)重沖擊,導(dǎo)致公眾對各種信息的普遍懷疑,增加社會治理成本,影響誠信社會的建設(shè)。

三是存在危害社會穩(wěn)定和國家安全的風(fēng)險(xiǎn)。利用該技術(shù)偽造政治人物的言論或行為誤導(dǎo)公眾、干擾選舉,會產(chǎn)生嚴(yán)重的政治負(fù)面影響,進(jìn)而影響社會穩(wěn)定。如果該技術(shù)被用于合成虛假新聞或恐怖主義宣傳內(nèi)容,則會加劇社會恐慌和分裂,從而對國家的穩(wěn)定和安全造成不可預(yù)測的風(fēng)險(xiǎn)。

高艷東:AI換臉技術(shù)具有以下三個(gè)特征:第一,以假亂真性。通過大量的數(shù)據(jù)訓(xùn)練,模型能夠不斷進(jìn)化,學(xué)習(xí)到面部的細(xì)節(jié)乃至神態(tài),在視覺上逐漸達(dá)到以假亂真的效果,甚至肉眼無法識別。第二,高度人身性。由于個(gè)人生物識別信息具有唯一性,換臉視頻可識別并關(guān)聯(lián)到特定自然人。第三,技術(shù)門檻低。隨著人工智能技術(shù)的普及,大量軟件都可以做到AI換臉。

新技術(shù)總有新風(fēng)險(xiǎn),AI換臉技術(shù)存在如下風(fēng)險(xiǎn):第一,可能導(dǎo)致社會、法律關(guān)系的混亂。工業(yè)時(shí)代的法律都是以自然人為核心而建立起來的,是自然人的法律,而AI換臉技術(shù)可能產(chǎn)生沒有真實(shí)對應(yīng)自然人的數(shù)字人,尤其未來智能數(shù)字人的誕生,將打破法律單一主體的局面,法律將面臨“自然人+數(shù)字人”的雙主體困惑。第二,侵犯個(gè)人信息和隱私。根據(jù)國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部印發(fā)的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,使用深度合成服務(wù)時(shí),使用者需要取得被編輯個(gè)人的單獨(dú)同意,AI換臉使用他人的信息尤其是生物識別信息,如果沒有征求對方同意,就會侵犯他人的個(gè)人信息權(quán)。

問題二:違法濫用AI換臉技術(shù)面臨哪些法律責(zé)任?

主持人:實(shí)踐中,由于AI換臉技術(shù)應(yīng)用門檻較低,出現(xiàn)了一些違法濫用行為。這些違法濫用行為有哪些具體表現(xiàn)?行為人可能承擔(dān)哪些法律責(zé)任?

田宏杰:AI換臉技術(shù)應(yīng)用門檻較低、隱蔽性強(qiáng),從而常常成為違法犯罪行為使用的工具。實(shí)踐中,濫用AI換臉技術(shù)的違法行為目前主要表現(xiàn)為以下三類:一是濫用換臉技術(shù)侵犯個(gè)體人格權(quán)益,如未經(jīng)授權(quán)采集、處理人臉特征數(shù)據(jù)等;二是濫用換臉技術(shù)沖擊知識產(chǎn)權(quán)保護(hù)機(jī)制,如非法截取影視作品、圖像等受著作權(quán)保護(hù)的素材實(shí)施換臉合成視頻或者圖片等;三是濫用換臉技術(shù)破壞社會管理秩序,如利用深度合成技術(shù)偽造身份認(rèn)證信息、傳播虛假輿情或?qū)嵤┓墙佑|式詐騙等。

張建忠:AI換臉技術(shù)在推動科技創(chuàng)新和社會進(jìn)步的同時(shí),在實(shí)踐中衍生出了一系列違法濫用行為,需要引起高度重視。在案件辦理中,我們發(fā)現(xiàn)此類技術(shù)被用于違法犯罪,并呈現(xiàn)出復(fù)雜化和多樣化的特點(diǎn),主要表現(xiàn)包括侵犯人格權(quán)利、傳播違法內(nèi)容、冒用他人身份等。根據(jù)違法行為的性質(zhì)和后果,行為人可能觸犯以下罪名:一是通過偽造視頻或身份實(shí)施詐騙,非法獲取財(cái)物的,涉嫌詐騙罪。二是利用偽造視頻散布虛假信息,嚴(yán)重?fù)p害他人名譽(yù)的,涉嫌誹謗罪。三是利用AI換臉技術(shù)制作、傳播淫穢內(nèi)容,情節(jié)嚴(yán)重的,涉嫌制作、販賣、傳播淫穢物品犯罪。四是制作虛假信息引發(fā)公眾恐慌或擾亂社會秩序,涉嫌危害公共安全、擾亂公共秩序等犯罪。

陰建峰:AI換臉技術(shù)的違法濫用行為在現(xiàn)實(shí)中的具體表現(xiàn)多樣且危害深遠(yuǎn),行為人可能面臨以下法律風(fēng)險(xiǎn):一是民事侵權(quán)的法律風(fēng)險(xiǎn)。未經(jīng)他人同意,擅自將他人的肖像用于視頻、圖片或其他形式的傳播,將構(gòu)成對他人肖像權(quán)的侵犯。二是行政違法的法律風(fēng)險(xiǎn)。行為人違法濫用AI換臉技術(shù)可能面臨多方面的行政違法風(fēng)險(xiǎn),如未經(jīng)授權(quán)采集、使用或泄露人臉信息,違反了個(gè)人信息保護(hù)法中關(guān)于敏感個(gè)人信息保護(hù)的相關(guān)規(guī)定;未對換臉內(nèi)容進(jìn)行顯著標(biāo)識或制作、發(fā)布、傳播虛假信息,違反了關(guān)于網(wǎng)絡(luò)信息管理的相關(guān)要求,可能面臨警告、罰款、責(zé)令停產(chǎn)停業(yè)等行政處罰。三是刑事犯罪的法律風(fēng)險(xiǎn)。行為人在使用AI換臉技術(shù)時(shí),非法收集、使用或泄露他人的人臉信息等敏感個(gè)人信息,可能會構(gòu)成侵犯公民個(gè)人信息罪。制作嘲諷或丑化他人的換臉視頻,實(shí)施網(wǎng)絡(luò)欺凌或者發(fā)布侮辱性內(nèi)容的,可能構(gòu)成侮辱罪。行為人利用AI換臉技術(shù)制作、傳播含有淫穢內(nèi)容的視頻或圖片,可能構(gòu)成制作、傳播淫穢物品牟利罪或傳播淫穢物品罪。行為人利用AI換臉技術(shù)偽造他人身份,通過視頻通話等方式實(shí)施詐騙,騙取他人財(cái)物的行為則可能構(gòu)成詐騙罪。制作虛假視頻威脅被害人支付贖金,實(shí)施敲詐勒索活動的,可能構(gòu)成敲詐勒索罪。偽造視頻作為法庭證據(jù),干擾司法公正的,可能構(gòu)成偽證罪。

高艷東:根據(jù)違法濫用AI換臉技術(shù)行為的危害程度,行為人可能承擔(dān)以下法律責(zé)任:首先,違規(guī)使用者可能侵犯隱私權(quán)、肖像權(quán)、著作權(quán)、名譽(yù)權(quán)等,以及構(gòu)成不正當(dāng)競爭,損害消費(fèi)者利益,需承擔(dān)相應(yīng)的民事責(zé)任。其次,AI服務(wù)提供者可能因管理不當(dāng)而受到行政處罰。根據(jù)《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,如果服務(wù)提供者未履行規(guī)定的安全評估、備案、標(biāo)識等義務(wù),可能會面臨行政處罰。再次,違法使用者可能被追究刑事責(zé)任。第一,可構(gòu)成侵犯財(cái)產(chǎn)類犯罪。AI換臉視頻可被用于詐騙或敲詐勒索,如偽造色情視頻后向他人索要封口費(fèi),可能構(gòu)成詐騙罪或敲詐勒索罪。第二,可構(gòu)成侵犯公民個(gè)人信息罪。AI換臉需要收集個(gè)人的面部特征,這屬于可以識別到個(gè)人的生物信息,如果沒有經(jīng)過他人同意,可能構(gòu)成侵犯公民個(gè)人信息罪。第三,可構(gòu)成傳播淫穢物品類犯罪。若利用AI換臉技術(shù)制作淫穢照片和視頻,尤其是將他人的臉部特征植入色情視頻中并傳播,涉嫌傳播淫穢物品罪。

問題三:如何構(gòu)建AI換臉技術(shù)應(yīng)用規(guī)制體系?

主持人:新技術(shù)的應(yīng)用需要一定之規(guī)。當(dāng)前,我國對AI換臉技術(shù)的違法濫用采取的監(jiān)管手段與規(guī)制措施還存在哪些局限?未來應(yīng)如何進(jìn)一步建立健全AI換臉技術(shù)應(yīng)用規(guī)制體系,以實(shí)現(xiàn)技術(shù)發(fā)展與法律規(guī)則的和諧共生?

田宏杰:為規(guī)范AI換臉技術(shù)的應(yīng)用,我國已基本建立起法律層面的治理框架,通過民事、行政、刑事法律的協(xié)同作用,對AI換臉技術(shù)進(jìn)行多維度規(guī)制。但是,隨著技術(shù)的迭代升級和濫用行為的日漸增多,現(xiàn)有治理框架和規(guī)制措施的局限亦逐漸顯現(xiàn)出來。一是缺乏專門立法和分級監(jiān)管制度。目前我國規(guī)制AI換臉技術(shù)應(yīng)用的法律規(guī)范分散于民法典、個(gè)人信息保護(hù)法、網(wǎng)絡(luò)安全法等法律和部門規(guī)章中,尚未針對AI換臉技術(shù)制定專門法律,也尚未根據(jù)風(fēng)險(xiǎn)等級對AI技術(shù)建立分類管理制度。二是數(shù)據(jù)使用限制不足,溯源要求不明確。個(gè)人信息保護(hù)法雖然規(guī)定了處理人臉等敏感信息需要征得他人同意,但并未明確禁止使用未經(jīng)同意收集的公開數(shù)據(jù)訓(xùn)練AI。對于AI生成的內(nèi)容雖然規(guī)定了應(yīng)當(dāng)進(jìn)行標(biāo)識,但是并未規(guī)定具體的形式和技術(shù)檢測標(biāo)準(zhǔn)。三是用戶權(quán)利保護(hù)不足。AI合成內(nèi)容傳播過程中“生成端”與“發(fā)布端”的時(shí)空分離,導(dǎo)致民法典第1195條規(guī)定的“通知—刪除”規(guī)則陷入行為鏈條斷裂的規(guī)制困境。四是缺乏強(qiáng)制性檢測技術(shù)和認(rèn)證機(jī)制。目前對于AI內(nèi)容的檢測和管理主要由平臺自行審核,缺少國家層面的檢測系統(tǒng)或工具,導(dǎo)致監(jiān)管和查處力度明顯不足。五是平臺責(zé)任界定模糊。無論是AI訓(xùn)練模型平臺還是社交平臺,目前僅要求平臺審核用戶輸入內(nèi)容,但未明確平臺對AI生成內(nèi)容的實(shí)質(zhì)性審核義務(wù),致使關(guān)涉普通人的侵權(quán)事件因平臺怠于處理而難以得到及時(shí)有效處置。

有鑒于此,需以“技術(shù)過程法律化”與“法律要求技術(shù)化”的雙向互動為內(nèi)核,圍繞以下方面進(jìn)一步健全完善AI換臉技術(shù)的規(guī)制體系,以達(dá)成技術(shù)賦能與法律規(guī)制的動態(tài)平衡。一是制定專門立法規(guī)范。有必要突破分散立法模式,探討制定人工智能合成內(nèi)容管理法,確立技術(shù)應(yīng)用負(fù)面清單制度,區(qū)分娛樂創(chuàng)作、公共傳播、身份認(rèn)證等場景設(shè)置差異化合規(guī)標(biāo)準(zhǔn);同時(shí),引入“技術(shù)過程責(zé)任”概念,將訓(xùn)練數(shù)據(jù)合法性、算法可解釋性納入重點(diǎn)監(jiān)管內(nèi)容。二是升級技術(shù)嵌入治理。推行“防濫用”技術(shù)強(qiáng)制標(biāo)準(zhǔn),要求開發(fā)者預(yù)置內(nèi)容失效觸發(fā)機(jī)制與不可逆數(shù)字水印;推動平臺建立“技術(shù)篩查+人工復(fù)核+第三方評估”的復(fù)合審核機(jī)制,根據(jù)內(nèi)容風(fēng)險(xiǎn)等級設(shè)置差異化的審核標(biāo)準(zhǔn)和響應(yīng)時(shí)限;構(gòu)建國家級深度偽造檢測平臺,整合微表情分析、虹膜紋理匹配等多模態(tài)鑒別技術(shù),嘗試建立“生成—傳播—消除”的全周期響應(yīng)體系。

張建忠:為了在保障技術(shù)發(fā)展與法治秩序之間實(shí)現(xiàn)平衡,實(shí)現(xiàn)技術(shù)發(fā)展與法律規(guī)則的和諧共生,我國已制定相關(guān)規(guī)定。首先,在法律層面,民法典對人格權(quán)的保護(hù)作出了明確規(guī)定;個(gè)人信息保護(hù)法明確將生物識別信息納入敏感個(gè)人信息范疇;數(shù)據(jù)安全法規(guī)定數(shù)據(jù)處理活動應(yīng)符合國家安全、公共利益的要求等。其次,在行政監(jiān)管層面,《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等對服務(wù)提供者、使用者等進(jìn)行規(guī)范。再次,在技術(shù)治理層面,部分內(nèi)容平臺建立了技術(shù)識別和審核機(jī)制,運(yùn)用算法或水印技術(shù)標(biāo)記AI生成或深度偽造內(nèi)容,對違規(guī)或高風(fēng)險(xiǎn)內(nèi)容實(shí)施警示、下架或封禁等處置手段。

盡管我國已在立法、行政和司法層面進(jìn)行了積極探索,但仍存在以下不足:一是現(xiàn)有規(guī)定多散見于不同層級、不同領(lǐng)域的法規(guī)政策,尚未針對AI換臉或深度偽造進(jìn)行專門立法,導(dǎo)致規(guī)制體系較為分散,系統(tǒng)性和針對性不足。二是面對深度偽造、AI換臉等快速迭代的技術(shù),監(jiān)管部門檢測與溯源手段多依賴相關(guān)企業(yè)或機(jī)構(gòu)的技術(shù)儲備,亟須建立統(tǒng)籌的檢測標(biāo)準(zhǔn)和行業(yè)規(guī)范。三是技術(shù)開發(fā)企業(yè)的合規(guī)管理機(jī)制仍有待完善。尤其是對客戶的使用追蹤與風(fēng)險(xiǎn)評估較為薄弱,部分平臺缺乏針對用戶上傳內(nèi)容的嚴(yán)格審核流程,導(dǎo)致大量違法或不當(dāng)?shù)暮铣蓛?nèi)容可能在短期內(nèi)流轉(zhuǎn)、擴(kuò)散,難以及時(shí)發(fā)現(xiàn)、下架與追責(zé)。

未來可通過立法、行政、技術(shù)、社會以及國際多維度協(xié)作,建立健全具有前瞻性、系統(tǒng)性和針對性的規(guī)制體系,確保技術(shù)發(fā)展造福社會。一是明確技術(shù)應(yīng)用的邊界、使用規(guī)則以及違法責(zé)任追究機(jī)制,重點(diǎn)關(guān)注技術(shù)開發(fā)者、服務(wù)平臺和使用者的權(quán)責(zé)邊界,構(gòu)建全面的責(zé)任鏈條。二是明確技術(shù)平臺和內(nèi)容平臺的審查義務(wù),要求相關(guān)平臺對AI合成內(nèi)容進(jìn)行檢測與標(biāo)注,并在出現(xiàn)違法或高風(fēng)險(xiǎn)內(nèi)容時(shí)及時(shí)預(yù)警和處置。三是推動技術(shù)創(chuàng)新,支持科研機(jī)構(gòu)與企業(yè)開發(fā)更加高效的識別算法與溯源技術(shù),如數(shù)字指紋、水印技術(shù)等,加強(qiáng)對換臉內(nèi)容的真實(shí)性驗(yàn)證工具研發(fā)。四是加強(qiáng)與國際社會的交流與合作,可以在全球范圍內(nèi)建立信息共享和執(zhí)法合作機(jī)制,借鑒域外經(jīng)驗(yàn),推動更廣泛的國際規(guī)則對接,形成跨國打擊AI技術(shù)濫用行為的聯(lián)動網(wǎng)絡(luò)。

陰建峰:我國通過過完善法律規(guī)范、強(qiáng)化行政監(jiān)管的方式,對AI換臉技術(shù)的違法濫用行為進(jìn)行嚴(yán)格監(jiān)管和規(guī)制。這些措施不僅有效遏制了技術(shù)濫用帶來的風(fēng)險(xiǎn),也為技術(shù)的合理應(yīng)用提供了法律保障,但還存在一些局限:一是我國對于AI換臉技術(shù)法律規(guī)制采取分散化的立法模式,導(dǎo)致不同法律規(guī)范之間缺乏有效銜接,存在用語、定性不一致甚至存在沖突的情況。二是專門性規(guī)范效力位階偏低,規(guī)制力度較弱。雖然民法典、個(gè)人信息保護(hù)法等高位階法律對個(gè)人信息和人格權(quán)保護(hù)提供了基礎(chǔ)框架,但這些法律的條款較為原則化,對于AI換臉技術(shù)的具體應(yīng)用場景和細(xì)節(jié)問題缺乏針對性的詳細(xì)規(guī)定�，F(xiàn)有專門性規(guī)范多以部門規(guī)章或規(guī)范性文件的形式出現(xiàn),效力層級相對較低,難以對復(fù)雜的技術(shù)應(yīng)用進(jìn)行全面、系統(tǒng)的約束。三是法律規(guī)范內(nèi)容偏原則,缺乏進(jìn)一步的細(xì)化、解釋�！痘ヂ�(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》雖然對深度合成服務(wù)提供者、使用者及應(yīng)用程序分發(fā)平臺應(yīng)當(dāng)履行的義務(wù)等作出了原則性規(guī)定,但并未限制AI換臉技術(shù)的應(yīng)用范圍和目的,也未對其使用者設(shè)定資格條件。此外,相關(guān)規(guī)范對于責(zé)任主體的認(rèn)定和責(zé)任的劃分也缺乏明確的規(guī)定,由此導(dǎo)致受害者維權(quán)困難。

健全完善AI換臉技術(shù)的規(guī)制體系可從以下方面著手:一是針對AI換臉技術(shù)構(gòu)建系統(tǒng)全面的法律體系。制定統(tǒng)一上位法,提高立法效力位階,并明確規(guī)定統(tǒng)一的安全責(zé)任底線和基本使用標(biāo)準(zhǔn),包括必要性原則、知情同意原則、第三方監(jiān)督機(jī)制以及損害賠償機(jī)制等內(nèi)容,增強(qiáng)法律的權(quán)威性和系統(tǒng)性。優(yōu)化規(guī)則供給機(jī)制,加強(qiáng)復(fù)合型規(guī)范治理。應(yīng)對新興技術(shù)引發(fā)的法律問題,特別重視軟法的功用,發(fā)揮好軟法規(guī)則小而精、快而準(zhǔn)、迅捷靈活治理的優(yōu)勢,建立人工智能安全標(biāo)準(zhǔn)、倫理準(zhǔn)則和行業(yè)自律規(guī)范,推動行業(yè)的自治自律。二是細(xì)化現(xiàn)有的法律規(guī)定,對一些關(guān)鍵性問題予以及時(shí)回應(yīng)。確立以區(qū)分應(yīng)用場景前提下的合理使用為基本規(guī)制原則,根據(jù)不同場景的風(fēng)險(xiǎn)程度和利益平衡,制定差異化的規(guī)制措施。對違法主體法律責(zé)任的承擔(dān)予以明確規(guī)定。例如,明確侵權(quán)責(zé)任主體的認(rèn)定及責(zé)任劃分標(biāo)準(zhǔn),在民事責(zé)任領(lǐng)域考慮設(shè)立懲罰性賠償機(jī)制,在刑事制裁方面考慮適用禁止令。

高艷東:目前,我國能夠直接對AI換臉技術(shù)進(jìn)行監(jiān)管的規(guī)定如下:一是國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》,要求網(wǎng)絡(luò)音視頻信息服務(wù)提供者和服務(wù)使用者在制作、發(fā)布、傳播基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用所生成的非真實(shí)音視頻信息時(shí),以顯著方式予以標(biāo)識。二是國家互聯(lián)網(wǎng)信息辦公室《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》,雖然不是專門針對AI換臉,但其強(qiáng)調(diào)對于包括但不限于深度偽造在內(nèi)的新技術(shù)應(yīng)用需要加強(qiáng)規(guī)范管理,對于非真實(shí)音視頻信息應(yīng)該以顯著方式予以標(biāo)識,這間接適用于AI換臉技術(shù)。三是國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家市場監(jiān)督管理總局《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》,提到了對五類(包括生成合成類)算法設(shè)立一般性義務(wù)規(guī)則,并且提到,發(fā)現(xiàn)未作顯著標(biāo)識的算法生成合成信息時(shí)應(yīng)作出顯著標(biāo)識后才能繼續(xù)傳輸。四是《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》,這是我國首部專門針對深度合成領(lǐng)域的法律文件,明確規(guī)定了深度合成服務(wù)提供者的責(zé)任,包括用戶身份認(rèn)證、內(nèi)容審核、特征庫建立以及違法不良信息的處置等。五是國家互聯(lián)網(wǎng)信息辦公室等7部門《生成式人工智能服務(wù)管理暫行辦法》,為生成式人工智能服務(wù)提供了初步的管理框架,涵蓋了從研發(fā)到部署的整個(gè)生命周期。

雖然我國出臺了一系列規(guī)定,但仍存在法律位階較低、責(zé)任主體不明、監(jiān)管盲區(qū)較大等問題,未來的監(jiān)管應(yīng)把握以下三點(diǎn):一是明確合理使用原則。區(qū)分應(yīng)用場景,以應(yīng)用場景為基本出發(fā)點(diǎn)選擇加強(qiáng)管制還是放松管制,確保技術(shù)向善。二是建立全鏈條多主體的監(jiān)管規(guī)則。一方面,利益鏈條上建立健全“事前備案—事中內(nèi)容審查—事后處罰”的監(jiān)管體系;另一方面,明確技術(shù)開發(fā)者、平臺運(yùn)營者、使用者的法律責(zé)任。三是加強(qiáng)國際合作。與國際社會合作,共同應(yīng)對AI換臉技術(shù)帶來的挑戰(zhàn),分享技術(shù)和經(jīng)驗(yàn),加強(qiáng)司法協(xié)作,形成全球治理合力。

問題四:檢察機(jī)關(guān)如何在依法履職中加強(qiáng)對AI換臉技術(shù)應(yīng)用的法律監(jiān)督?

主持人:AI換臉技術(shù)的違法濫用嚴(yán)重威脅個(gè)人利益、國家和社會公共利益。檢察機(jī)關(guān)在履職辦案中,如何加強(qiáng)對AI換臉技術(shù)應(yīng)用的法律監(jiān)督?

田宏杰:AI換臉技術(shù)帶來的法律和倫理問題不容忽視,檢察機(jī)關(guān)作為憲法規(guī)定的法律監(jiān)督機(jī)關(guān),可重點(diǎn)圍繞以下方面加強(qiáng)對AI換臉技術(shù)應(yīng)用的法律監(jiān)督。一是建立刑事追責(zé)與公益訴訟并行機(jī)制�；�于AI換臉技術(shù)的多重違法性特征,在依據(jù)刑法對涉罪行為追究刑事責(zé)任的同時(shí),檢察機(jī)關(guān)可視案情同步推進(jìn)民事公益訴訟,以確保當(dāng)事人的合法權(quán)益得到及時(shí)保護(hù)。尤其是對于侵害不特定多數(shù)人生物識別信息安全的案件,通過公益訴訟程序的及時(shí)介入,能夠在保護(hù)公共利益、追究行為人刑事責(zé)任的同時(shí),實(shí)現(xiàn)對當(dāng)事人“停止侵權(quán)+損害賠償”的復(fù)合救濟(jì)。二是強(qiáng)化行刑銜接機(jī)制。檢察機(jī)關(guān)可聯(lián)合網(wǎng)信、公安等部門,建立違法線索雙向移送機(jī)制,對違法案件中的犯罪線索及時(shí)立案。明確證據(jù)轉(zhuǎn)化要求與電子數(shù)據(jù)固定標(biāo)準(zhǔn),推動建立跨部門技術(shù)鑒定與評估體系。針對疑難案件,檢察機(jī)關(guān)可通過適時(shí)介入引導(dǎo)偵查取證,并為技術(shù)違法行為的定性提供指導(dǎo)。三是推進(jìn)企業(yè)整改。檢察機(jī)關(guān)應(yīng)結(jié)合辦案積極向企業(yè)發(fā)送整改建議,督促企業(yè)進(jìn)行算法安全評估和素材來源合規(guī)審查,并指導(dǎo)整改。四是推動建立跨國司法協(xié)作機(jī)制。針對跨境服務(wù)器托管、虛擬貨幣支付等黑灰產(chǎn)環(huán)節(jié),以檢察機(jī)關(guān)為主體推進(jìn)國際交流與合作,完善電子證據(jù)跨境調(diào)取與聯(lián)合執(zhí)法程序。

張建忠:作為法律監(jiān)督機(jī)關(guān),檢察機(jī)關(guān)肩負(fù)著保障法律統(tǒng)一正確實(shí)施、保護(hù)國家利益和社會公共利益的重要職責(zé)。檢察機(jī)關(guān)在AI換臉技術(shù)法律監(jiān)督中應(yīng)以問題為導(dǎo)向,充分發(fā)揮引導(dǎo)偵查、公益訴訟、檢察建議等職能,為技術(shù)治理提供法治保障。具體可從以下方面著力:一是依法追究刑事責(zé)任,形成司法震懾。對于利用AI換臉技術(shù)實(shí)施詐騙、傳播淫穢內(nèi)容等犯罪行為,檢察機(jī)關(guān)應(yīng)嚴(yán)格依照刑法追責(zé),維護(hù)法律權(quán)威和社會秩序。對于重大案件,適時(shí)介入引導(dǎo)偵查機(jī)關(guān)精準(zhǔn)取證,尤其是針對技術(shù)鏈條和責(zé)任主體的溯源偵查,深挖幕后組織者和核心技術(shù)提供者。二是充分發(fā)揮公益訴訟職能。對因監(jiān)管缺失導(dǎo)致違法內(nèi)容廣泛傳播的平臺或技術(shù)提供方,檢察機(jī)關(guān)可以依法提起公益訴訟,倒逼相關(guān)平臺和技術(shù)提供方盡快完善合規(guī)管理,主動加強(qiáng)內(nèi)容審核與風(fēng)險(xiǎn)防范措施。三是強(qiáng)化檢察建議,完善監(jiān)管制度。在案件辦理過程中,發(fā)現(xiàn)監(jiān)管漏洞,檢察機(jī)關(guān)應(yīng)及時(shí)向相關(guān)部門提出完善建議。針對平臺內(nèi)容審核、標(biāo)注等不足之處,通過檢察建議督促其履行主體責(zé)任。通過不斷跟進(jìn)建議執(zhí)行情況,實(shí)現(xiàn)對違法合成內(nèi)容的事前、事中和事后全流程監(jiān)督。四是建立聯(lián)動機(jī)制,提高監(jiān)督效率。檢察機(jī)關(guān)應(yīng)當(dāng)與網(wǎng)信、公安等部門建立聯(lián)動機(jī)制,實(shí)現(xiàn)信息共享、技術(shù)共用和資源整合,提高監(jiān)督效率。五是加強(qiáng)法治宣傳教育,提升社會防范意識。充分利用新媒體平臺和線下普法活動,向公眾普及深度偽造技術(shù)的風(fēng)險(xiǎn)與辨別方法;同時(shí)增強(qiáng)技術(shù)使用者的責(zé)任感與底線意識,共同抵制和舉報(bào)涉AI換臉違法行為,推動行業(yè)自律與社會共治。

陰建峰:檢察機(jī)關(guān)在依法履職辦案中,應(yīng)通過多種手段加強(qiáng)對AI換臉技術(shù)應(yīng)用的法律監(jiān)督,確保AI換臉技術(shù)在合法合規(guī)的軌道上運(yùn)行。一是提高法律監(jiān)督的精準(zhǔn)性和有效性。一方面,利用好大數(shù)據(jù)和人工智能技術(shù)。積極應(yīng)用大數(shù)據(jù)法律監(jiān)督模型,通過數(shù)據(jù)分析、模型預(yù)測等手段,建立AI換臉技術(shù)檢測機(jī)制,精準(zhǔn)發(fā)現(xiàn)AI換臉技術(shù)濫用的線索,提高監(jiān)督的針對性和有效性。另一方面,探索建立針對AI換臉技術(shù)濫用的公益訴訟制度,通過提起公益訴訟的方式,維護(hù)公民個(gè)人信息安全和社會公共利益。此外,檢察機(jī)關(guān)還可以通過公益訴訟推動相關(guān)技術(shù)治理和源頭防控,督促技術(shù)開發(fā)者和使用者履行法律責(zé)任。二是加強(qiáng)跨部門協(xié)作和信息共享。檢察機(jī)關(guān)可以與公安、網(wǎng)信等部門加強(qiáng)協(xié)作,共同打擊利用AI換臉技術(shù)進(jìn)行詐騙、傳播淫穢物品等違法犯罪行為。通過信息共享、線索移送等方式,形成合力,提高打擊效果。此外,針對AI換臉技術(shù)濫用的行為,檢察機(jī)關(guān)可以與其他執(zhí)法部門共同開展專項(xiàng)整治等活動,加強(qiáng)對該技術(shù)的監(jiān)管和治理。三是針對AI換臉技術(shù)濫用的新型案件,制定司法解釋,發(fā)布指導(dǎo)性案例,明確案件的定性、量刑標(biāo)準(zhǔn)等,為司法實(shí)踐提供指導(dǎo)和參考。四是加強(qiáng)宣傳教育和預(yù)防工作。通過開展法治宣傳和警示教育,增強(qiáng)公眾對AI換臉技術(shù)濫用危害的認(rèn)識和防范意識,引導(dǎo)公眾正確使用AI換臉技術(shù),避免將其用于違法或不當(dāng)用途。例如,通過公開庭審、媒體報(bào)道等方式,向社會公眾普及相關(guān)法律法規(guī),引導(dǎo)公眾在使用新技術(shù)時(shí)遵守法律和道德規(guī)范。

高艷東:對于AI換臉,法律應(yīng)當(dāng)采用“不管私用、嚴(yán)管公用”的思路。檢察機(jī)關(guān)應(yīng)采取更積極措施,防止技術(shù)被惡意濫用。第一,監(jiān)督公安機(jī)關(guān)、行政監(jiān)管部門的執(zhí)法工作。加強(qiáng)與公安、網(wǎng)信等部門合作,共同構(gòu)建高效的案件偵辦體系。對于涉及AI換臉的刑事案件,如詐騙、誹謗等,適時(shí)介入引導(dǎo)取證,利用專業(yè)技術(shù)手段固定證據(jù)。同時(shí),促進(jìn)社會共治,與網(wǎng)信、公安等部門建立常態(tài)化的信息共享和協(xié)作機(jī)制,共同加強(qiáng)對AI換臉技術(shù)的監(jiān)管。第二,探索人工智能技術(shù)應(yīng)用領(lǐng)域的公益訴訟職能。針對AI換臉引發(fā)的新類型侵權(quán)糾紛,可嘗試采用公益訴訟等形式維護(hù)不特定多數(shù)人的合法權(quán)益。特別是當(dāng)個(gè)人受害者難以單獨(dú)提起訴訟時(shí),由檢察機(jī)關(guān)啟動公益訴訟程序。對明確的侵權(quán)主體,可向法院提起民事公益訴訟,要求侵權(quán)人停止侵害、消除影響、恢復(fù)名譽(yù)、賠償損失等;若相關(guān)職能部門監(jiān)管不到位,則啟動行政公益訴訟進(jìn)行法律監(jiān)督。第三,推動法律完善。檢察機(jī)關(guān)在辦案過程中積累了豐富的AI換臉技術(shù)相關(guān)案件經(jīng)驗(yàn),可根據(jù)最新技術(shù)發(fā)展特點(diǎn),針對已有規(guī)定的不足,向立法機(jī)關(guān)提出完善相關(guān)法律法規(guī)的建議。

(此為刪減版,詳情請閱讀《人民檢察》2025年第9期)