付迎紅

AI無中生有，律師竟也“中招”。北京市通州區(qū)人民法院近日披露的一起案件，讓人啼笑皆非：原告代理人在書面代理意見中援引了兩份裁判文書。經(jīng)核查，這兩起所謂的司法案例實(shí)為AI杜撰生成。據(jù)記者了解，該代理人是一名職業(yè)律師。

這可不是個例。用過生成式AI的人，多少都領(lǐng)教過它那套功力：盡管回答往往條理清晰、論證充分，但有時也會“一本正經(jīng)地胡說八道”，以真假難辨的細(xì)節(jié)讓人信以為真。比如，AI推薦的書，書名動人卻根本買不到；撰寫文獻(xiàn)綜述，引用的觀點(diǎn)純屬虛構(gòu)；就連給個鏈接，都可能指向“查無此頁”……這些現(xiàn)象都可以歸為AI幻覺。在本案中，原告代理人作為法律專業(yè)人士，不僅未能識破AI精心編織的虛假判例，反將其呈送法庭，也足以說明其迷惑性之強(qiáng)。

司法活動的核心，是“以事實(shí)為依據(jù)，以法律為準(zhǔn)繩”。這里的“事實(shí)”，既包括案件事實(shí)，也包括作為先例的裁判事實(shí)。當(dāng)AI憑借強(qiáng)大的自然語言處理能力，憑空捏造出邏輯自洽、格式規(guī)范的“判例”時，它污染的正是裁判事實(shí)的源頭活水，影響的是司法秩序和司法公信力。

所幸此案承辦法官有一雙“火眼金睛”，但這起AI生成虛假判例暴露出的現(xiàn)實(shí)威脅，仍不容低估。以上種種也在提醒，防范AI幻覺，必要且緊迫。

以制度劃定邊界。針對AI幻覺，許多地方都試圖通過制定規(guī)則來破解。比如，在美國、澳大利亞、英國等國家，若不當(dāng)使用AI工具、編造虛假判例，后果往往極其嚴(yán)重，被罰款者有之，被解雇者亦有之。同理類推，醫(yī)療、法律、金融等行業(yè)容錯率低，對專業(yè)性要求極高。AI進(jìn)入這些行業(yè)，相關(guān)部門也應(yīng)當(dāng)設(shè)立標(biāo)準(zhǔn)，加快完善評價體系和監(jiān)管機(jī)制。

以技術(shù)驅(qū)散迷霧。研究表明，AI“養(yǎng)成”過程中，數(shù)據(jù)“投喂”是關(guān)鍵環(huán)節(jié)，可靠、可信、高質(zhì)量的數(shù)據(jù)對降低AI幻覺十分關(guān)鍵。有鑒于此，各大廠商也應(yīng)優(yōu)化人工智能的訓(xùn)練語料，用好數(shù)據(jù)生成優(yōu)質(zhì)內(nèi)容；同時探索建立具有權(quán)威性的數(shù)據(jù)共享平臺。

以人文駕馭未來。古人言：“君子生非異也，善假于物也”。AI的正確打開方式，應(yīng)當(dāng)是啟發(fā)靈感而非代替思考。從使用者的角度看，我們要始終保持獨(dú)立思考的能力，謹(jǐn)慎對待AI生成的內(nèi)容，將決策權(quán)牢牢掌握在自己手中。