本刊記者 白楚玄

上傳一張人臉照片，經(jīng)過實時人工智能算法，瞬間就可以將其面部變成你想要的樣子……隨著AI技術(shù)的普及，“AI換臉”“AI合成照片”“AI渲染視頻”等技術(shù)被廣泛應(yīng)用于多個領(lǐng)域。在增添趣味性的同時，也引發(fā)了不小爭議。對此，有網(wǎng)友憤憤表示：“‘AI換臉’，這不是明目張膽地行騙嗎?”“這年頭還有什么是真實的?”“‘AI換臉’是否合法合規(guī)?”諸如此類問題也引起社會廣泛討論。

“AI換臉”技術(shù)被濫用

近年來，隨著人工智能的快速發(fā)展，“AI換臉”技術(shù)門檻逐漸降低，普通人也能方便地制作換臉視頻。

所謂“AI換臉”，是指通過面部識別和人工智能深度合成，將一張臉替換成另一張臉的技術(shù)，生成的照片或視頻中人物面部表情自然且效果逼真。

目前，在一些電商平臺，“AI換臉”已形成了一定規(guī)模的產(chǎn)業(yè)。本刊記者檢索發(fā)現(xiàn)，網(wǎng)上有很多“AI換臉”的工具或教程，這些教程通過視頻、文章等形式傳播，并提供換臉軟件的下載渠道。這些軟件有的需要付費，有的則通過點贊、關(guān)注、評論就能獲取。

記者向一家提供“虛擬人、數(shù)字人建模定制”的網(wǎng)店進(jìn)行了咨詢，商家表示：“虛擬明星面容由你定制。”其產(chǎn)品中適合直播聊天的“實時版”現(xiàn)成模型，費用為2000元/套。

中國政法大學(xué)知識產(chǎn)權(quán)研究中心研究員鄭中臣表示，“AI換臉”在科技領(lǐng)域叫AIGC，伴隨著深度合成技術(shù)的開放開源，相關(guān)產(chǎn)品和服務(wù)逐漸增多，AIGC發(fā)明之初是用于視頻剪輯及模擬智能學(xué)習(xí)領(lǐng)域，但現(xiàn)在越來越被濫用且不受控制。

2023年3月，一名特效師利用AI合成技術(shù)，制造出自己和迪麗熱巴“熱吻”的特效合成畫面，引起迪麗熱巴粉絲們的強(qiáng)烈不滿。更有甚者，利用“AI換臉”技術(shù)“造黃謠”，引發(fā)大眾的關(guān)注和擔(dān)憂。2023年4月，博主“caro賴賴”發(fā)文稱，有人盜用她的“臉”制作不雅視頻。此前，一女子乘坐地鐵的照片被AI“一鍵脫衣”后在網(wǎng)絡(luò)上傳播，造成不良社會影響。

暗藏侵權(quán)法律風(fēng)險

事實上，“AI換臉”技術(shù)的濫用，在現(xiàn)實生活中已引發(fā)多起侵權(quán)糾紛。

上海市金山區(qū)人民法院和浙江杭州互聯(lián)網(wǎng)法院都曾審理過因“AI換臉”App利用深度合成算法侵害他人肖像權(quán)的案件，均判決App開發(fā)者賠禮道歉并賠償損失。

部分“AI換臉”行為，也已涉嫌刑事犯罪。近日，內(nèi)蒙古包頭警方發(fā)布一起利用AI實施電信詐騙的典型案例。騙子通過“AI換臉”和擬聲技術(shù)佯裝好友，對受害人實施詐騙，受害人10分鐘內(nèi)被騙子騙走430萬元。

2022年9月，河北保定網(wǎng)警破獲一起制作、販賣、傳播淫穢物品牟利案。犯罪嫌疑人在網(wǎng)上以每10分鐘300元的價格，售賣利用“AI換臉”技術(shù)制作“明星”淫穢視頻。

中華全國律師協(xié)會知識產(chǎn)權(quán)委員會主任、高文律師事務(wù)所合伙人王正志認(rèn)為，“AI換臉”會給公民人身及財產(chǎn)安全造成潛在危害。利用“AI換臉”技術(shù)制作不雅視頻的行為，違反了治安管理處罰法、網(wǎng)絡(luò)安全法等，情節(jié)嚴(yán)重的，還可能構(gòu)成幫助信息網(wǎng)絡(luò)犯罪活動罪等刑事犯罪。此外，在民事領(lǐng)域，“AI換臉”可能構(gòu)成對他人肖像權(quán)和名譽權(quán)的侵犯。

在中國傳媒大學(xué)人類命運共同體研究院副院長王四新看來，“AI換臉”會對當(dāng)前社會建立的認(rèn)證系統(tǒng)構(gòu)成沖擊，給從事民事活動的主體帶來了不確定性，增加了認(rèn)證和鑒別的交易成本。

加強(qiáng)行業(yè)部門監(jiān)管

目前，我國刑法、民法典、網(wǎng)絡(luò)安全法以及國家有關(guān)部門出臺的多部法律法規(guī)及政策規(guī)定，對生物識別、生成合成類內(nèi)容等提出了不同程度的規(guī)制要求。

2023年1月施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》進(jìn)一步明確了深度合成數(shù)據(jù)和技術(shù)管理規(guī)范，對深度合成內(nèi)容的用途、標(biāo)記、使用范圍以及濫用處罰作出具體規(guī)定，并對作為深度合成服務(wù)提供者的平臺方進(jìn)行審核、評估、監(jiān)管等都提出了明確要求。

“《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等劃定了底線，將深度合成技術(shù)帶來的法律風(fēng)險基本堵住了?！敝袊ù髮W(xué)傳播法研究中心副主任朱巍告訴記者。

目前，也有專業(yè)人士認(rèn)為，對于“AI換臉”等深度合成服務(wù)與應(yīng)用方面的規(guī)范還需進(jìn)一步細(xì)化和明確。

鄭中臣表示，需要法律和技術(shù)“雙管齊下”。一方面，需對“AI換臉”技術(shù)的開發(fā)者以及相應(yīng)的科技公司建立嚴(yán)格的備案手續(xù)和安全評估等級;另一方面，建議網(wǎng)絡(luò)服務(wù)平臺對使用上傳視頻服務(wù)的用戶信息進(jìn)行審核，識別其中是否有人工合成的要素，并進(jìn)行顯著標(biāo)識避免混淆。

對此，王四新建議，“AI換臉”等深度合成服務(wù)提供商要主動承擔(dān)起提示和標(biāo)識義務(wù)，履行自身的法律責(zé)任。如相關(guān)視頻發(fā)布時應(yīng)當(dāng)在顯著位置標(biāo)注“人臉合成視頻”，以盡到提示和標(biāo)識義務(wù)。

“立法是一個層面，還需要行業(yè)和監(jiān)管部門從源頭來解決問題。”王四新認(rèn)為，行業(yè)和監(jiān)管部門應(yīng)當(dāng)加快技術(shù)升級，研發(fā)相應(yīng)的“換臉”檢測技術(shù)，加快建立人工智能算法的安全評估制度，解決相關(guān)技術(shù)濫用問題;AI發(fā)布者應(yīng)對相關(guān)產(chǎn)品用于大眾傳播領(lǐng)域可能存在的風(fēng)險進(jìn)行明確，并制定相應(yīng)的使用規(guī)則、限制等，以增加用戶個人的判斷能力，從技術(shù)層面、應(yīng)用端、使用端解決問題。