默　達(dá)

最近，網(wǎng)上出現(xiàn)不少“AI流浪漢”的帖子。內(nèi)容多以整蠱家人為主，作者用AI生成一個臟兮兮的流浪漢放在家里，并將圖片或視頻發(fā)給家人測試他們的反應(yīng)?？此剖恰袄瞎s回家了”“父母更關(guān)注我了”，實則是被嚇得不輕，更有部分人在慌忙中報警求助，換來的是警察叔叔的一頓批評教育。

在筆者看來，這樣的帖子終究是擺拍博眼球的多，但若是誰真的盲目跟風(fēng)，想要將其用在家人身上，顯然不合適。更何況，AI不止能生成待在家里的流浪漢，用一張照片制造出假場景、假視頻更是輕而易舉，其危害不亞于“狼來了”。

AI的倫理邊界問題，自誕生以來就被高度警惕。最近，許多人都有這樣的感覺：以假亂真的視頻越來越多了，迷惑性更強(qiáng)了。這背后離不開技術(shù)的進(jìn)步，以及技術(shù)使用門檻的降低。

9月30日，OpenAI推出新一代音視頻生成模型Sora2，盡管仍存在部分瑕疵，但說其性能“碾壓”市面一眾視頻軟件毫不為過。更流暢的人物動作，更豐富的視頻場景，更垂直的應(yīng)用領(lǐng)域，同屏出現(xiàn)的更多畫面元素以及最重要的一點——更低的生產(chǎn)成本與更短的創(chuàng)作時間，讓非專業(yè)視頻創(chuàng)作者快速成為制作老手，抹平了技術(shù)鴻溝，也凸顯出倫理困境。國產(chǎn)AI大模型同樣在飛速進(jìn)步，AI生成文字點評社會事件、提供生活訊息，部分作者只關(guān)注數(shù)量、流量卻不考慮質(zhì)量，讀者也只當(dāng)看個樂呵，卻留下諸多隱患。

可以看到的是，Sora2等AI工具近期最先顛覆的是廣告和短視頻領(lǐng)域。部分視頻惡搞歷史人物、調(diào)侃社會事件，在視頻網(wǎng)站上有很高的播放量。或許有不少人覺得“只是惡作劇而已，當(dāng)真你就輸了”，然而當(dāng)被惡搞的對象變成了自己，素材變成周圍人、身邊人，這種無力感甚至恐怖感或許會更加真切。你所向往的“詩和遠(yuǎn)方”，可能只是AI生成的虛假景點；你所喜愛的才子佳人，背后只是一堆冰冷的數(shù)據(jù)；東拼西湊的假新聞配上圖片和視頻，網(wǎng)絡(luò)信息本身和內(nèi)容生產(chǎn)的流程同樣令人懷疑。

正因如此，落實《人工智能生成合成內(nèi)容標(biāo)識辦法》，強(qiáng)制要求AI生成的每一段文字、每一張圖片、每一條音頻、視頻“亮身份”，顯得尤為重要。這既要成為一種顯性信息，讓觀眾看得懂，也要成為一種隱性標(biāo)簽，在平臺傳播、推流、檢索時自動分類，避免產(chǎn)生數(shù)據(jù)污染。當(dāng)下部分AI生成內(nèi)容仍能以假亂真，或是因為標(biāo)簽變成了“小透明”藏在圖片和視頻的邊角處，或是被人為隱藏歪曲。對于前者，需要平臺層面探索更鮮明的標(biāo)注方式；而對于后者，則應(yīng)對情節(jié)惡劣的追究法律責(zé)任，避免惡搞內(nèi)容進(jìn)一步擴(kuò)散形成示范效應(yīng)。

鋪天蓋地的AI內(nèi)容傷害了人與人之間寶貴的信任，這或許不僅是AI出現(xiàn)了幻覺，人類自己也沉溺于技術(shù)營造的幻象之中?？偠灾?，當(dāng)AI生成合成的低質(zhì)量內(nèi)容缺乏約束，如垃圾般隨處亂丟，污染我們的精神家園，人類也會自食惡果。