名人“被AI帶貨”警示內容治理須跟上
近日，張文宏醫(yī)生“被AI帶貨”一事引發(fā)社會廣泛關注。有網友反映家中老人在網絡上看到了一個視頻，視頻中“張文宏醫(yī)生”正在推薦一款蛋白棒，出于對張文宏醫(yī)生的信賴，老人不僅自己下單購買，還將相關視頻轉發(fā)到多個微信群。經核實，該視頻為AI（人工智能）合成。對于“被AI帶貨”，張文宏醫(yī)生無奈地回應，其本人多次向平臺投訴，但虛假視頻屢禁不絕，賣貨賬號也一直在更換。
張文宏醫(yī)生“被AI帶貨”可謂當下人工智能技術被濫用的一個縮影。近年來，人工智能技術飛速發(fā)展，基于大模型的生成式人工智能技術更是突飛猛進。人們可以方便地使用人工智能技術來生成、合成具有較高自然度和真實感的圖像及音視頻內容，特別是能夠模擬真實人物的聲音，并生成表情和口型都與講述內容相符的視頻，達到以假亂真的效果。這類技術在電影修復、數字人主播、便利聽障人士的手語動作生成以及電商平臺的數字虛擬“試衣”“試妝”等領域發(fā)揮了積極作用，但其濫用也帶來了一系列問題，其中非常突出的就是通過生成知名人物的虛假視頻進行“知識傳播”或產品銷售，進而誤導消費者。
我國對深度合成技術應用治理高度重視。民法典明確規(guī)定，不得利用信息技術手段偽造等方式侵害他人的肖像權，并特別規(guī)定了對自然人聲音的保護，為人工智能時代的權利保護奠定了堅實基礎。此外，類似知名人物“被AI帶貨”的事件，還涉及損害被模仿者的名譽權等權利，同時也損害了消費者的知情權、選擇權等權益，并對合法商家造成不正當競爭。從中長期來看，如果不對濫用人工智能技術的行為加以規(guī)制，還可能造成社會信任危機，使人們對真實信息也產生懷疑，進而影響社會的效率、秩序和安定。
針對這一問題，我國已出臺《互聯網信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等部門規(guī)章，從構建技術與法律相結合的解決機制的角度，作出了一系列針對性規(guī)定。首先，明確任何組織和個人不得使用人工智能技術生成虛假有害信息等法律、行政法規(guī)禁止的內容；深度合成服務提供者應當加強對深度合成內容的管理，采取措施進行審核。當然，在當前技術條件下，法律無法、也不宜要求深度合成服務提供者消除所有風險。其次，深度合成服務提供者對于提供的深度合成服務，應當按照法律規(guī)定，根據具體情況進行必要的、顯著的標識，或進行隱式標識以便機器識別。同時，任何組織和個人不得采用技術手段刪除、篡改、隱匿相關標識。這種標識義務為后續(xù)可信數據空間的建立奠定了重要基礎。
今年9月，國家網信辦發(fā)布了《人工智能生成合成內容標識辦法（征求意見稿）》，中央網信辦也同步發(fā)布了《網絡安全技術 人工智能生成合成內容標識方法（征求意見稿）》強制性國家標準，擬進一步提供細致規(guī)范。相關規(guī)范擬規(guī)定用戶上傳人工智能生成內容時，應當主動聲明并使用平臺提供的標識功能進行標識，這樣可以進一步擴展具有標識義務的主體范圍，為人工智能生成內容的識別提供多一重保障。同時擬規(guī)定“提供網絡信息內容傳播平臺服務的服務提供者應當采取措施，規(guī)范生成合成內容傳播活動”，以明確傳播平臺的核驗和提示義務，即信息內容傳播平臺應當核驗相關內容是否已經被標識或聲明為人工智能生成內容，并應當根據生成合成痕跡等信息提醒用戶疑似生成合成內容，幫助用戶避免被誤導或欺騙。
盡管我們已經初步建立了必要的法律體系，也在進一步完善技術與法律相結合的標識——核驗制度，但違反法律規(guī)定、濫用人工智能技術進行虛假宣傳、虛假帶貨等情況依然存在。要想有效治理此類亂象，一方面，政府部門、平臺企業(yè)和科研工作者應加強協作，積極探索有效措施，不斷增強在人工智能時代抵御技術濫用的能力；另一方面，監(jiān)管機構可與各傳播平臺合作，通過推動傳播科普、防詐騙視頻等方式，進一步普及相關科技知識和法律知識，提升人民群眾在人工智能時代的風險防范意識。（中國人民大學法學院副教授、未來法治研究院執(zhí)行院長 張吉豫）
編輯：遲明緒
京公網安備 11010502000576號