濫用AI會(huì)踩進(jìn)哪些法律雷區(qū)
近年來(lái)，隨著人工智能技術(shù)的迅猛發(fā)展，利用AI進(jìn)行詐騙、侵權(quán)等事件頻發(fā)，一些行為已影響到部分行業(yè)的良性發(fā)展，侵犯了消費(fèi)者的權(quán)益。那么，濫用AI技術(shù)踩進(jìn)了哪些法律雷區(qū)呢？
1“AI換臉”涉嫌侵犯他人肖像權(quán)
知名網(wǎng)紅博主姚某在各大平臺(tái)均有大量“粉絲”，他長(zhǎng)期在自媒體賬號(hào)中發(fā)布以自身為主題的系列攝影作品。一天，姚某發(fā)現(xiàn)某文化公司的視頻生成App上，未經(jīng)許可擅自使用了他的4個(gè)寫(xiě)真視頻，并制作成換臉視頻模板，提供給付費(fèi)會(huì)員使用。文化公司使用的視頻與原視頻對(duì)比后，可清晰辨別視頻中的人物為姚某。姚某認(rèn)為，該公司在未與其達(dá)成書(shū)面或者口頭授權(quán)協(xié)議的情況下，使用載有自己肖像的視頻，且目的明顯帶有商業(yè)盈利宣傳的屬性，此種利用其肖像進(jìn)行產(chǎn)品推廣的行為，應(yīng)承擔(dān)相應(yīng)侵權(quán)責(zé)任，故訴至法院。
法院認(rèn)為，文化公司涉案視頻的人物與姚某肖像具有同一性，該公司以“換臉”為主要功能及賣(mài)點(diǎn)，其實(shí)質(zhì)是利用姚某良好的外部形象所拍攝的素材引流，誘導(dǎo)用戶(hù)點(diǎn)擊下載，并采用會(huì)員付費(fèi)的方式經(jīng)營(yíng)。該公司使用涉案視頻的行為具有盈利目的，且涉案視頻客觀(guān)上起到了引流宣傳和促進(jìn)用戶(hù)付費(fèi)的效果。公司未經(jīng)姚某同意，通過(guò)AI換臉技術(shù)替換了原視頻中的角色用于軟件用戶(hù)的娛樂(lè)，是利用信息技術(shù)偽造的方式侵害了姚某的肖像權(quán)。因此，法院最終判決文化公司在其運(yùn)營(yíng)的手機(jī)換臉軟件中向姚某進(jìn)行7日的賠禮道歉，并賠償經(jīng)濟(jì)損失4000元。
法官提醒
近年來(lái)，“AI換臉”在影視、社交等領(lǐng)域廣泛興起，成為社會(huì)喜聞樂(lè)見(jiàn)、傳播力強(qiáng)的技術(shù)應(yīng)用。但同時(shí)，僅需幾段公開(kāi)視頻即可生成以假亂真的內(nèi)容，“AI換臉”的濫用也成為違法侵權(quán)行為重災(zāi)區(qū)。
民法典第一千零一十八條規(guī)定：自然人享有肖像權(quán)，有權(quán)依法制作、使用、公開(kāi)或者許可他人使用自己的肖像。第一千零一十九條規(guī)定：任何組織或者個(gè)人不得以丑化、污損，或者利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)。未經(jīng)肖像權(quán)人同意，不得制作、使用、公開(kāi)肖像權(quán)人的肖像，但是法律另有規(guī)定的除外。自然人的肖像，指的是通過(guò)影像、雕塑、繪畫(huà)等方式在一定載體上所反映的特定自然人可以被識(shí)別的外部形象。與通過(guò)展覽等傳統(tǒng)方式侵犯他人肖像權(quán)不同的是，在A(yíng)I技術(shù)的加持下，出現(xiàn)了本案中以“換臉”方式侵犯他人肖像權(quán)的新特點(diǎn)。
本案中，文化公司未經(jīng)姚某同意，將其出鏡的系列攝影作品運(yùn)用換臉技術(shù)用作自身商業(yè)盈利，涉嫌侵犯姚某所享有的肖像權(quán)益。根據(jù)法律規(guī)定，文化公司應(yīng)賠償姚某為制止侵權(quán)行為所支付的合理開(kāi)支及財(cái)產(chǎn)損失。
隨著AI深度合成技術(shù)的快速發(fā)展，市場(chǎng)上出現(xiàn)了大量“換臉”“換妝”等應(yīng)用軟件，此類(lèi)AI技術(shù)在應(yīng)用中發(fā)生的侵犯自然人人格權(quán)益風(fēng)險(xiǎn)日益引發(fā)關(guān)注。不法分子利用AI技術(shù)，假冒名人身份進(jìn)行詐騙、發(fā)布虛假?gòu)V告等，嚴(yán)重威脅社會(huì)信任體系和信息安全。
商家在利用AI技術(shù)開(kāi)展經(jīng)營(yíng)生產(chǎn)過(guò)程中，若抱有僥幸心理，罔顧權(quán)利保護(hù)意識(shí)和法律風(fēng)險(xiǎn)防范意識(shí)，對(duì)包含他人肖像的網(wǎng)上素材盲目利用，最終往往偷雞不成蝕把米。國(guó)家網(wǎng)信辦頒布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》主要針對(duì)深度合成服務(wù)者的義務(wù)進(jìn)行了規(guī)定，其中要求深度合成服務(wù)提供者提供智能對(duì)話(huà)、合成人聲、人臉生成、沉浸式擬真場(chǎng)景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當(dāng)進(jìn)行顯著標(biāo)識(shí)，避免公眾混淆或者誤認(rèn)?？梢?jiàn)，做好風(fēng)險(xiǎn)防范首先還要從技術(shù)開(kāi)發(fā)者、服務(wù)提供者入手。
2 AI提取視頻要素或侵犯?jìng)€(gè)人信息權(quán)益
自媒體創(chuàng)作者吳某發(fā)布了個(gè)人肖像原創(chuàng)作品50余件，數(shù)次參加商演、商拍活動(dòng)以及帶貨推廣等。在吳某未授權(quán)同意的情況下，某公司運(yùn)營(yíng)的一款手機(jī)換臉軟件，將吳某的人臉通過(guò)AI技術(shù)手段摳除并替換成第三方的臉，再將技術(shù)處理后的視頻用作付費(fèi)模板供他人使用并以此獲利。吳某認(rèn)為這一行為侵犯了其肖像權(quán)及個(gè)人信息權(quán)益，訴至法院要求公司書(shū)面賠禮道歉，并賠償經(jīng)濟(jì)損失和精神損害撫慰金。
法院認(rèn)為，該手機(jī)換臉軟件涉及吳某的模板視頻除面部以外，與吳某視頻中的人物妝容、發(fā)型、服飾、動(dòng)作、燈光及鏡頭切換呈現(xiàn)一致特征。涉案模板視頻去除并替換掉吳某的面部肖像，消解甚至破壞了涉案模板視頻中識(shí)別吳某的功能，因此公司并未侵犯肖像權(quán)。但公司通過(guò)“換臉”形成模板視頻的過(guò)程，涉及對(duì)吳某個(gè)人信息的收集、使用、分析等，屬于對(duì)吳某個(gè)人信息的處理。該行為無(wú)證據(jù)證明經(jīng)過(guò)吳某同意，侵害了對(duì)方的個(gè)人信息權(quán)益。法院結(jié)合吳某個(gè)人信息的性質(zhì)、被使用的實(shí)際情況等，最終判令公司賠償吳某精神損失500元及財(cái)產(chǎn)損失1000元。
法官提醒
“AI換臉”App除了給用戶(hù)提供海量的影視片段、網(wǎng)絡(luò)視頻外，同樣也在不斷收集用戶(hù)的個(gè)人信息，因此App運(yùn)營(yíng)者濫用用戶(hù)個(gè)人信息的現(xiàn)象時(shí)有發(fā)生。
我國(guó)個(gè)人信息保護(hù)法第二十七條規(guī)定：個(gè)人信息處理者可以在合理的范圍內(nèi)處理個(gè)人自行公開(kāi)或者其他已經(jīng)合法公開(kāi)的個(gè)人信息；個(gè)人明確拒絕的除外。個(gè)人信息處理者處理已公開(kāi)的個(gè)人信息，對(duì)個(gè)人權(quán)益有重大影響的，應(yīng)當(dāng)依照本法規(guī)定取得個(gè)人同意。第四十四條規(guī)定：個(gè)人對(duì)其個(gè)人信息的處理享有知情權(quán)、決定權(quán)，有權(quán)限制或者拒絕他人對(duì)其個(gè)人信息進(jìn)行處理；法律、行政法規(guī)另有規(guī)定的除外。
與第一個(gè)案件不同，本案中，某公司在運(yùn)營(yíng)過(guò)程中主動(dòng)將自然人吳某的肖像剔除，因此法院認(rèn)定該公司并未侵犯吳某的肖像權(quán)。數(shù)字技術(shù)的高速發(fā)展，使得文化創(chuàng)作內(nèi)容上可能同時(shí)承載肖像權(quán)、著作權(quán)、個(gè)人信息權(quán)益等多種權(quán)益或利益，個(gè)人信息同樣可以進(jìn)入數(shù)據(jù)要素市場(chǎng)并創(chuàng)造價(jià)值。本案中，公司雖未利用吳某的肖像，但利用其原創(chuàng)視頻中除肖像外的一切要素，侵犯了吳某的個(gè)人信息權(quán)益。
個(gè)人信息是以電子或者其他方式記錄的與已識(shí)別或者可識(shí)別的自然人有關(guān)的各種信息，不包括匿名化處理后的信息。在不違反法律法規(guī)和公序良俗的前提下，商家合理利用人工智能深度合成等新興技術(shù)，可以豐富相關(guān)市場(chǎng)供給，給群眾帶來(lái)更新型的審美享受。但在創(chuàng)新的同時(shí)，商家也需要兼顧信息敏感程度、信息主體情況、侵權(quán)方式、對(duì)個(gè)人的實(shí)際影響和潛在風(fēng)險(xiǎn)等因素綜合判斷創(chuàng)新所帶來(lái)的法律風(fēng)險(xiǎn)。
對(duì)于普通群眾而言，不管是在互聯(lián)網(wǎng)上還是社交軟件上，盡量避免過(guò)多地暴露自己的信息，對(duì)寫(xiě)錯(cuò)、作廢、用過(guò)的金融業(yè)務(wù)單據(jù)、航空艙單，應(yīng)撕碎或用碎紙機(jī)及時(shí)銷(xiāo)毀，不可隨意丟棄，以防不法分子撿拾后查看、抄錄、破譯個(gè)人信息。
3 利用AI概念“偽智能”營(yíng)銷(xiāo)涉嫌欺詐
劉某在參觀(guān)美博會(huì)期間，花費(fèi)6000元購(gòu)買(mǎi)了兩件某公司生產(chǎn)的“AI智能穿戴健康內(nèi)衣”。該公司對(duì)外宣稱(chēng)，涉案產(chǎn)品上植入了三甲醫(yī)院乳腺治療儀芯片，利用AI生物電共振原理，能有效預(yù)防和緩解各類(lèi)乳腺疾病，堪稱(chēng)“穿在身上的理療儀”。但劉某堅(jiān)持使用半年以上后，發(fā)現(xiàn)其疾病癥狀并未改善。劉某認(rèn)為該公司對(duì)涉案產(chǎn)品實(shí)施了虛假宣傳行為，因此訴至法院要求公司退回貨款、支付三倍賠償?shù)取?/p>
法院審理后認(rèn)為，公司未提供證據(jù)證明涉案產(chǎn)品已經(jīng)過(guò)相關(guān)醫(yī)療管理部門(mén)的審核，應(yīng)承擔(dān)舉證不能的不利后果。公司為推銷(xiāo)不屬于醫(yī)療器械類(lèi)產(chǎn)品的涉案商品而制作的商業(yè)廣告，違反了廣告法和消費(fèi)者權(quán)益保護(hù)法的相關(guān)規(guī)定，使劉某誤認(rèn)為涉案產(chǎn)品具有醫(yī)療功能而進(jìn)行消費(fèi)，公司的廣告宣傳行為存在欺詐情形。法院最終判令公司退還貨款并支付三倍賠償，劉某退還涉案產(chǎn)品。
法官提醒
廣告法第十七條規(guī)定：除醫(yī)療、藥品、醫(yī)療器械廣告外，禁止其他任何廣告涉及疾病治療功能，并不得使用醫(yī)療用語(yǔ)或者易使推銷(xiāo)的商品與藥品、醫(yī)療器械相混淆的用語(yǔ)。第二十八條規(guī)定：廣告以虛假或者引人誤解的內(nèi)容欺騙、誤導(dǎo)消費(fèi)者的，構(gòu)成虛假?gòu)V告。
消費(fèi)者權(quán)益保護(hù)法第五十五條規(guī)定：經(jīng)營(yíng)者提供商品或者服務(wù)有欺詐行為的，應(yīng)當(dāng)按照消費(fèi)者的要求增加賠償其受到的損失，增加賠償?shù)慕痤~為消費(fèi)者購(gòu)買(mǎi)商品的價(jià)款或者接受服務(wù)的費(fèi)用的三倍；增加賠償?shù)慕痤~不足500元的，為500元。法律另有規(guī)定的，依照其規(guī)定。上述案例中，某公司借助AI概念進(jìn)行虛假?gòu)V告宣傳，進(jìn)行“偽智能”營(yíng)銷(xiāo)，因其不誠(chéng)信的欺詐行為導(dǎo)致涉案合同發(fā)生撤銷(xiāo)的法律后果，并受到了三倍賠償?shù)膽土P。
日常生活中，一些公司借助AI概念進(jìn)行產(chǎn)品宣發(fā)，利用消費(fèi)者對(duì)人工智能的期待與信賴(lài)牟利。消費(fèi)者非專(zhuān)業(yè)人士，對(duì)相關(guān)產(chǎn)品的AI含量和實(shí)際功效往往缺乏認(rèn)知，容易掉入商家精心編織的圈套中，因此在購(gòu)買(mǎi)相關(guān)“高科技”產(chǎn)品時(shí)，需要擦亮眼睛，警惕虛假宣傳。（北京市朝陽(yáng)區(qū)人民法院 田英豪 李麗花）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號(hào)