原告代理人援引的“完美”案例竟是AI編造

　　北京通州法院精準(zhǔn)識(shí)別虛假援引案例

　　人工智能技術(shù)正深刻改變法律行業(yè)工作生態(tài)，從專業(yè)回答、觀點(diǎn)檢索到文案潤(rùn)色，AI工具為法律從業(yè)者提供了高效助力。但技術(shù)紅利背后，虛假信息入侵司法程序的風(fēng)險(xiǎn)也悄然浮現(xiàn)。近日，北京市通州區(qū)人民法院審結(jié)的一起案件，便暴露出AI生成的虛假案例對(duì)司法公正的潛在風(fēng)險(xiǎn)。

　　這是一起由股權(quán)代持引發(fā)的商事糾紛案件。訴訟中，原告代理人為了進(jìn)一步佐證其觀點(diǎn)，庭后向法院提交了書(shū)面意見(jiàn)，其中援引了名為最高人民法院的某案例及上海一中院的(2022)滬01民終12345號(hào)案件。從代理意見(jiàn)的描述來(lái)看，兩案的事實(shí)細(xì)節(jié)、法律爭(zhēng)議與裁判邏輯都與審理中的案件高度契合，完美佐證了原告代理人主張的觀點(diǎn)，初看之下極具參考價(jià)值。

　　出于職業(yè)敏感度，承辦法官進(jìn)行了檢索核實(shí)，結(jié)果卻發(fā)現(xiàn)，這兩個(gè)案號(hào)所對(duì)應(yīng)的真實(shí)案件事實(shí)與代理人書(shū)面意見(jiàn)中描述的情況完全不同。其中，“(2022)滬01民終12345號(hào)”案件實(shí)際上是一起民間借貸糾紛，與書(shū)面意見(jiàn)中描述的事實(shí)完全不符，和本案所涉及的事實(shí)亦毫無(wú)關(guān)聯(lián)，沒(méi)有任何相似或者可以參照的情節(jié)。

　　初期，法官助理與原告代理人溝通時(shí)，代理人含糊其詞，回避問(wèn)題?！按砣丝傉f(shuō)再找找，又無(wú)法提供裁判文書(shū)，我仔細(xì)翻閱了代理人提交的書(shū)面意見(jiàn)，發(fā)現(xiàn)相關(guān)案號(hào)及案例內(nèi)容、格式具有典型的‘AI編寫’特征?！必?fù)責(zé)審理該案的法官鄭吉喆告訴《法治日?qǐng)?bào)》記者，“人工智能語(yǔ)言模型興起后，通州法院成立了人工智能司法應(yīng)用案例與理論興趣小組，研討之余也會(huì)結(jié)合工作場(chǎng)景進(jìn)行測(cè)試，其中就包含用AI軟件對(duì)法律問(wèn)題進(jìn)行類案檢索，我們之前就發(fā)現(xiàn)AI工具時(shí)常會(huì)提供虛假信息，也有一定的規(guī)律性和特征，法官對(duì)AI生成的案例并不陌生?！?/p>

　　“援引的案件有問(wèn)題，你是用哪個(gè)AI工具找到的這些案件？”鄭吉喆在電話中開(kāi)門見(jiàn)山，問(wèn)得原告代理人啞口無(wú)言。對(duì)方沉默幾秒后，承認(rèn)確實(shí)是AI軟件提供的相關(guān)信息。

　　原告代理人說(shuō)，參考案例是由其提煉本案事實(shí)情節(jié)后反復(fù)向某AI大模型軟件提問(wèn)，最終引導(dǎo)AI軟件生成了相關(guān)參考案例，但自己未進(jìn)一步核實(shí)，直接復(fù)制粘貼后即提交法院。

　　據(jù)此，通州法院依據(jù)法律規(guī)定，結(jié)合案件事實(shí)對(duì)原告代理人的該部分代理意見(jiàn)未予采納，并在判決書(shū)中明確對(duì)原告代理人的行為提出批評(píng)，要求原告代理人引以為戒，在向法院提交參考案例、法條時(shí)，應(yīng)當(dāng)進(jìn)行檢查和核驗(yàn)，確保內(nèi)容的真實(shí)性和準(zhǔn)確性，不得放任人工智能模型生成或者編造虛假信息擾亂司法秩序。一審判決后，雙方均未提出上訴，現(xiàn)判決已經(jīng)生效。

　　通州法院提示，近年來(lái)ChatGPT、DeepSeek等軟件引發(fā)的人工智能浪潮正深刻地改變著人們的工作方式，其強(qiáng)大的語(yǔ)言生成能力在短時(shí)間內(nèi)就能輸出看似專業(yè)、詳實(shí)的文本，但在沒(méi)有正確引導(dǎo)的情況下，AI極有可能生成誤導(dǎo)性甚至虛假的信息。民事訴訟法及司法解釋等對(duì)行為人利用AI生成不屬于證據(jù)性質(zhì)的虛假參考案例如何處理尚沒(méi)有明確規(guī)定，但AI生成虛假信息對(duì)司法秩序帶來(lái)的危害值得重視，虛假案例干擾了法院的正常審理流程，審判團(tuán)隊(duì)不得不花費(fèi)額外的時(shí)間和精力對(duì)律師提交的案例進(jìn)行反復(fù)查找和甄別核實(shí)，一旦AI生成的虛假信息被參照適用，司法公信力將受到質(zhì)疑。

　　通州法院建議，法律從業(yè)人員應(yīng)將AI作為輔助工具，而非替代自身專業(yè)判斷的“神器”，在使用AI時(shí)，仍需保持審慎和理性，對(duì)AI生成的內(nèi)容進(jìn)行嚴(yán)格審查，確保信息來(lái)源可靠、內(nèi)容真實(shí)準(zhǔn)確；人民法院應(yīng)當(dāng)加大審查力度，運(yùn)用技術(shù)手段和專業(yè)知識(shí)，對(duì)當(dāng)事人及代理人提交的參考案例等資料進(jìn)行嚴(yán)格甄別，確保司法過(guò)程中使用的信息真實(shí)可靠。

　　法官說(shuō)案

　　限定結(jié)果時(shí)AI恐會(huì)編造案情

　　看似無(wú)所不能的AI，背后隱藏著巨大的誠(chéng)信危機(jī)。結(jié)合該案審理經(jīng)驗(yàn)及司法實(shí)踐規(guī)律來(lái)看，可以從案號(hào)編排存在規(guī)律化痕跡、案情描述過(guò)度貼合需求場(chǎng)景、難以通過(guò)檢索方式進(jìn)行驗(yàn)證等方面識(shí)別AI生成的案例是否真實(shí)。

　　真實(shí)司法案例的案號(hào)由年份、法院代字、案件性質(zhì)代字、審級(jí)代字和案件編號(hào)組成，其中案件編號(hào)遵循受理順序自然生成，具有隨機(jī)性和連續(xù)性的統(tǒng)一特征。而AI生成案例的案號(hào)往往呈現(xiàn)刻意規(guī)律化的特點(diǎn)，多采用“12345”“1234”等連續(xù)整數(shù)或“111”等具有明顯特征的數(shù)字，如本案中出現(xiàn)的“12345號(hào)”便屬此類情況，遇到涉及此類案號(hào)的案件就要倍加小心。

　　AI大模型的生成邏輯基于概率統(tǒng)計(jì)與語(yǔ)境匹配，當(dāng)使用者明確輸入案件細(xì)節(jié)后，其生成的案例往往刻意貼合需求，事實(shí)細(xì)節(jié)、論理結(jié)論可能與使用者需求高度重合，呈現(xiàn)人為定制化特征。如果向AI提出的需求比較細(xì)節(jié)化，而使用AI檢索出的案例過(guò)于完美和契合，應(yīng)當(dāng)慎重處理。

　　案例是對(duì)裁判文書(shū)的提煉和總結(jié)，AI模型雖能生成案例，但其生成的虛假案例并無(wú)真實(shí)裁判文書(shū)印證，且為了回避漏洞，AI有時(shí)會(huì)刻意模糊案件可識(shí)別要素，比如當(dāng)事人的姓名等，像本案中的兩個(gè)編造案例，AI生成時(shí)對(duì)當(dāng)事人就使用了甲乙丙丁的表述。實(shí)踐測(cè)試顯示，大語(yǔ)言模型生成裁判文書(shū)存在局限，在限定結(jié)果時(shí)，AI雖能通過(guò)整合現(xiàn)有資源輸出裁判理由，但常出現(xiàn)“AI幻覺(jué)”現(xiàn)象(指AI會(huì)生成看似合理但實(shí)際不存在或與實(shí)際不符的信息)，甚至為契合預(yù)設(shè)結(jié)果編造法律依據(jù)或者案情，最穩(wěn)妥的識(shí)別方法是登錄中國(guó)裁判文書(shū)網(wǎng)，對(duì)生成案例的真實(shí)性進(jìn)行核實(shí)和驗(yàn)證。

　　本報(bào)記者 徐偉倫/本報(bào)通訊員 楊喆