慘！訴狀丟ChatGPT整理「冒出假證詞」　美律師遭判藐視法庭

人工智慧（AI）的發展雖有助於提升工作效率，美國新墨西哥州最高法院近日卻裁定一名辯護律師「藐視法庭」，原因是他提交的訴狀中，出現了由聊天機器人ChatGPT捏造的警方及證人證詞。

英國《獨立報》報導，新墨西哥州最高法院週三（9日）對事務所位於聖塔菲（Santa Fe）的律師亞倫斯（Stephen Aarons）處以5000美元（約合16億美元）的罰款，並裁定其藐視法庭，原因是他未能核實文件的準確性。

法院指出，這份文件「包含來自完全虛構證人的假證詞」。合議庭還表示，亞倫斯「表現出毫無悔意，且對其當事人漠不關心」，表示會將其移交律師紀律委員會展開調查。

亞倫斯則向路透社表示，去年他同意代理被告的上訴案時，曾使用ChatGPT來彙整審判過程，但當時並未理解AI在多大程度上可能「虛構」事實。

「我深感懊悔，但希望紀律委員會能考量到這是一個無心之過」，亞倫斯直言：「這對所有依賴這項強大但有時不穩定科技的專業人士來說，都是一堂寶貴的教訓。」

新墨西哥州最高法院上月要求亞倫斯解釋，為何其提交的訴狀中，出現「槍手身著深色長褲和白色襯衫」的虛構證詞。

對此，亞倫斯坦言，他原以為將電腦生成的筆錄等案件資料輸入ChatGPT後，就會生成「無懈可擊的摘要」。大法官們則對他竟未完全意識到AI可能出錯顯得難以置信。

「律師，你有看新聞嗎？有聽廣播嗎？有閱讀任何關於世界時事的報導嗎？」大法官貝肯（C. Shannon Bacon）在聽證會上說道：「因為律師依賴AI產生的『幻覺』，其所引發的問題幾乎都是每天的頭版頭條。」

報導指出，美國至今已有數十名律師因其提交的法律意見書中，出現AI捏造案例或誤用法條而受到處分。亞倫斯提交的文件似乎更進一步，在刑事上訴案件中出現了捏造的證人證詞。