(相關(guān)資料圖)
大語(yǔ)言模型正在成為人們工作生活中的得力助手,但正如不少人所擔(dān)憂的那樣,不謹(jǐn)慎使用可能帶來(lái)麻煩,甚至引發(fā)法律風(fēng)險(xiǎn)。5月底,就有一名紐約律師辦案時(shí)使用ChatGPT進(jìn)行案例研究、撰寫法律文件,結(jié)果被“坑”了。
故事的主人公名叫史蒂文·A·施瓦茨(Steven A. Schwart),他是一名在紐約州從事法律工作超過(guò)三十年的律師。2022年他經(jīng)手了一起案件,原告羅伯托·馬塔(Roberto Mata)起訴阿維安卡航空公司(Avianca),稱因乘務(wù)人員疏忽導(dǎo)致他被一輛服務(wù)車撞傷了膝蓋。
案件審理過(guò)程中,阿維安卡航空公司試圖以訴訟時(shí)效,要求法官駁回此案。為了推進(jìn)案件的進(jìn)度,史蒂文提供了一份長(zhǎng)達(dá)十頁(yè)的簡(jiǎn)報(bào),其中記錄了六樁類似事故。然而,這份簡(jiǎn)報(bào)不僅沒(méi)有幫助史蒂文達(dá)成目的,還給他引來(lái)了新的麻煩——因?yàn)楹娇展镜穆蓭熀头ü贌o(wú)法找到簡(jiǎn)報(bào)里提及案件的任何證據(jù)。
法官因此要求史蒂夫提供其辯護(hù)詞中引用案例的相關(guān)資料,他也很快給出了這些案例涉及的法院和法官、案件編號(hào)和日期等信息,甚至提交了完整的判決書。但是,阿維安卡航空公司仍舊找不到這些法庭記錄,法律數(shù)據(jù)庫(kù)中也遍尋不著。也因此,阿維安卡航空公司的律師指出,這些辯護(hù)詞中的案例都是假的,“甚至可能有聊天機(jī)器人參與其中?!?/p>
當(dāng)?shù)貢r(shí)間5月24日,史蒂文在一份宣誓書中承認(rèn):在找案例時(shí),確實(shí)咨詢了 ChatGPT,同時(shí)為自己辯解道,由于之前未曾使用過(guò)ChatGPT,“因此不知道其內(nèi)容可能是虛假的?!?/p>
史蒂文強(qiáng)調(diào),當(dāng)時(shí)他還要求ChatGPT確認(rèn)案例發(fā)生。而這個(gè)樂(lè)于助人的聊天機(jī)器人給出了肯定的回答,說(shuō)相關(guān)信息可以在“有信譽(yù)的法律數(shù)據(jù)庫(kù)”中找到。
本案的法官在一份命令中寫道,正在面臨一個(gè)“前所未有”的情況:“一份法律呈文充滿了虛假的司法裁定,并被虛假引用”。為此,他下令將于6月8日舉行聽(tīng)證會(huì),并考慮可能作出的處罰。
對(duì)輕信AI的行為,史蒂文表示“非常后悔”,稱在沒(méi)有核實(shí)ChatGPT提供的信息真實(shí)性的情況下,今后絕不會(huì)這樣做。
標(biāo)簽:
熱門