用戶 5 天破百萬、2 個(gè)月月活破億、App 上架 6 天下載量突破 50 萬次……ChatGPT 用這些數(shù)據(jù)證明，它在全球范圍內(nèi)是怎樣的“實(shí)火”，各行各業(yè)也出現(xiàn)了許多有關(guān) ChatGPT 的“美談”：

用了 ChatGPT，程序員能將軟件開發(fā)周期從 8-10 周縮短至不到一周；用了 ChatGPT，投資模型能預(yù)測(cè)股市的走勢(shì)，回報(bào)率還高達(dá) 500%；用了 ChatGPT，科幻作家 9 個(gè)月就能創(chuàng)作 97 本書，凈賺 2000 美元；用了 ChatGPT，大學(xué)生成功創(chuàng)業(yè)，6 個(gè)月即實(shí)現(xiàn)月收入 45 萬元……

(資料圖片)

久而久之，這把名為“ChatGPT”的火，也逐漸“燒”到了素來以嚴(yán)謹(jǐn)著稱的律師圈子，然而畫風(fēng)卻迥然不同：近來，一名律師在撰寫辯護(hù)詞時(shí)用了 ChatGPT——結(jié)果，本來身為原告律師的他，突然就要被制裁了。

為什么呢？因?yàn)?ChatGPT 給這位律師提供的 6 個(gè) 用來“佐證”的案例，從頭到尾都是假的。

找不到來源的法院判決？

先來簡(jiǎn)單了解一下案件背景：原告是一位名為 Roberto Mata 的男子，被告則是拉美航空巨頭 Avianca 航空公司。

據(jù)悉，2019 年 8 月 27 日，Roberto Mata 在乘坐飛往紐約肯尼迪國(guó)際機(jī)場(chǎng)的航班上，被一名推著服務(wù)車的空乘撞傷了膝蓋。因此 Roberto Mata 認(rèn)為，該空乘所屬的 Avianca 航空公司應(yīng)對(duì)其負(fù)責(zé)，并向法院申請(qǐng)起訴。

在 Roberto Mata 提起訴訟后，近期 Avianca 航空公司方面提交了相關(guān)文件，要求法院撤銷此案，聲稱“訴訟時(shí)效已過”。

對(duì)此，來自 Levidow，Levidow&Oberman 律師事務(wù)所、執(zhí)業(yè)超過 30 年，也是此次 Roberto Mata 代理律師的 Steven Schwartz，也很快提交了一份長(zhǎng)達(dá) 10 頁(yè)的辯護(hù)詞，作為佐證還引用了一些法院判決，要求該案應(yīng)繼續(xù)進(jìn)行。

事實(shí)上，案件進(jìn)行到這一步時(shí)，整體而言還算合理，至少還在常規(guī)范圍內(nèi)——直到 Avianca 的律師、甚至法官在內(nèi)的所有人，都找不到這 10 頁(yè)辯護(hù)詞中所引用的 6 個(gè)法院判決的來源和相關(guān) 資料。

全部都是 ChatGPT 捏造出來的

首先察覺到不對(duì)勁的是 Avianca 公司的律師。

舉個(gè)例子，在 Steven Schwartz 提交的 10 頁(yè)辯護(hù)詞中，引用了一個(gè)名叫 Varghese 的人起訴中國(guó)南方航空公司的裁決案例，但 Avianca 的律師向法官表示：“我們無法找到這段引文，也沒有在任何案件中找到類似的內(nèi)容?！?

得此消息后，法官要求 Roberto Mata 的律師提供其辯護(hù)詞中引用案例的相關(guān)資料，Steven Schwartz 方面也很快給出了案例的法院和法官、案件編號(hào)和日期。

其中，對(duì)于 Avianca 的律師例舉的 Varghese 案件，Steven Schwartz 就給出了長(zhǎng)達(dá) 6 頁(yè)的判決書，并說它是由第 11 巡回法院的一名法官寫的。

盡管如此，Avianca 方面依舊找不到這些法庭記錄，在法律數(shù)據(jù)庫(kù)中也毫無蹤影。對(duì)此，Avianca 的律師 Bart Banino 表示：他所在的 Condon & Forsyth 公司長(zhǎng)期專研航空法，可以看出對(duì)方辯護(hù)詞中引用的案例都是假的。甚至他還補(bǔ)充道：“可能有聊天機(jī)器人參與其中?！?

事實(shí)證明，Bart Banino 的猜測(cè)是對(duì)的。

上周三，Steven Schwartz 在一份宣誓書中承認(rèn)：“隨著生成式 AI 在法律領(lǐng)域的不斷發(fā)展，為補(bǔ)充所進(jìn)行的法律研究，我咨詢了 AI 網(wǎng)站 ChatGPT?！?

至此，總算“破案”了——為什么 Steven Schwartz 引用的案例找不到來源？因?yàn)樗鼈內(nèi)慷际?ChatGPT 捏造出來的，不論是案件本身、司法判決還是內(nèi)部引用，全部都是假的！

“法院面臨著前所未有的情況”

在宣誓書中，Steven Schwartz 強(qiáng)調(diào)他無意欺騙欺騙法院或航空公司：只因此前從未用過 ChatGPT，因此不知道其生成的內(nèi)容可能是假的。

身為一名從業(yè) 30+ 年的律師，Steven Schwa rtz 當(dāng)時(shí)有嘗試驗(yàn)證 ChatGPT 所提供的案例真實(shí)性，只不過方法有些“離譜”：讓 ChatGPT 自己 去 驗(yàn)證它的回答。

由此，這些由 ChatGPT 生成的虛假案例 ，才被 Steven Schwartz 寫入了辯護(hù)詞中。

面對(duì)這個(gè)意外的情況，負(fù)責(zé)該案的法官 Castel 都“懵”了。他在一份文件中寫道：“法院面臨著前所未有的情況”，原告律師提交的法律文件“充滿了不存在的案件”，“引用了假的司法判決和內(nèi)部引文”。

同時(shí)，法官 Castel 還下令將于 6 月 8 日舉行聽證會(huì)，討論關(guān)于此次 Steven Schwartz 在辯護(hù)詞中引用虛假案例的制裁。

對(duì)于可能到來的制裁，Steven Schwartz 在宣誓書中表示：“我非常后悔利用生成式 AI 來補(bǔ)充法律研究，將來在沒有絕對(duì)驗(yàn)證其真實(shí)性的情況下，我絕對(duì)不會(huì)這樣做。”

驗(yàn)證 AI 提供內(nèi)容的真實(shí)性

這個(gè)案件的發(fā)展，吸引了許多來自律師界的關(guān)注和討論。紐約大學(xué)法學(xué)院法律倫理學(xué)教授 Stephen Gillers 表示，自 ChatGPT 問世以來，律師們就一直在爭(zhēng)論 AI 軟件的價(jià)值和危險(xiǎn)。

據(jù)悉早在今年 1 月，就有人嘗試讓 ChatGPT 去考美國(guó)的司法考試題（UBE），結(jié)果發(fā)現(xiàn)無需微調(diào)，在證據(jù)類題型中它就能達(dá)到人類水平。

更值得一提的是，隨后 OpenAI 推出的 GPT-4，更是各類基礎(chǔ)考試都高分通過：在模擬律師資格考試中，成績(jī)排前 10%；在 SAT 閱讀考試中，成績(jī)排 7%；在 GRE verbal 考試中，成績(jī)排前 1%。

可盡管如此，這也并不意味著 AI 所生成的內(nèi)容 100% 真實(shí)，因此核實(shí)其提供信息的必要性是不可缺少的一步，尤其是在醫(yī)學(xué)、法學(xué)等向來嚴(yán)謹(jǐn)?shù)念I(lǐng)域。Stephen Gillers 指出：“現(xiàn)在律師界討論的焦點(diǎn)是，如何避免本案所發(fā)生的情況，你不能只是把 AI 輸出的內(nèi)容復(fù)制粘貼到你的法庭文件中?！?

對(duì)于這個(gè)案件，你又是否有什么看法？

參考鏈接：

https://www.nytimes.com/2023/05/27/nyregion/avianca-airline-lawsuit-chatgpt.html

https://www.engadget.com/chatgpt-now-has-an-official-iphone-app-181454446.html

https://storage.courtlistener.com/recap/gov.uscourts.nysd.575368/gov.uscourts.nysd.575368.32.1_1.pdf

關(guān)鍵詞