一份由 ChatGPT 协助生成的上诉文书，让一名执业四十余年的美国律师站上了被处罚的位置。新墨西哥州最高法院认定，辩护律师斯蒂芬·阿伦斯（Stephen Aarons）提交的法律文书包含”完全虚构的证人”提供的虚假证词，因未核实文书准确性而构成藐视法庭，对其处以 5000 美元罚款，并决定将案件移交律师纪律委员会调查。

一份”无懈可击的摘要”

阿伦斯代理的是一起谋杀案上诉。当事人奥斯卡·雷内·桑多瓦尔（Oscar Renee Sandoval）被控杀害自己孩子的母亲，本人不认罪，但在一审中被定罪，去年被判处终身监禁。

据阿伦斯在 8 月 21 日听证会上的说明，他去年接手这起上诉时，把一份电脑生成的庭审文字记录以及其他案件材料交给了 ChatGPT，希望它整理出一份庭审过程的摘要。他当时的判断是，这会是一份”无懈可击的摘要”。

法院随后发现，主要上诉文书中出现了并不存在的内容，其中包括关于”枪手身穿深色长裤和白色衬衫”的虚构陈述，以及来自完全虚构证人的证词。新墨西哥州最高法院上个月要求阿伦斯解释这些内容是如何进入文书的。

法官：这每天都是头条新闻

听证会上，法官们对一名资深律师声称不了解 AI 会出错表示难以置信。法官 C. 香农·培根（C. Shannon Bacon）当庭质问：”律师先生，你看新闻吗？听广播吗？有没有在了解外面发生什么？律师依赖 AI 幻觉的问题，每天都是头条新闻。”

法院最终给出的评价相当严厉，认为阿伦斯”缺乏悔意，也缺乏对委托人的关心”。除罚款外，他还将面临律师纪律委员会的进一步调查。

阿伦斯本人则向路透社表示，自己此前并未充分意识到 AI 产生”幻觉”、编造事实的程度会有多严重。”我很懊悔，但希望纪律委员会能考虑到这是一次无心之失，”他说，”所有依赖这项强大却有时不够稳定的技术的专业人士，都应从中吸取教训。”

桑多瓦尔的上诉目前仍在审理中，已于 9 月 2 日重新指派给新墨西哥州公设辩护人金·查韦斯·库克（Kim Chavez Cook）。OpenAI 尚未对这一事件作出回应。

这不是第一起，但性质更重

律师因未充分核查 AI 生成的文书而被处罚，已经不是新鲜事。过去两年里，美国已有数十名律师因文书中出现 AI 编造的判例引用、错误的法律条文引用等问题，受到州或联邦法官的处分。

阿伦斯一案的特殊之处在于，虚构的内容不止于引用错误，而是延伸到了刑事上诉程序中的证人证词。这类材料直接关系到事实认定，一旦混入文书，纠错成本远高于一个错误的案号。

对普通使用者而言，这起案件的启示并不局限于法律行业：把 AI 输出当作”摘要”或”初稿”使用时，核验环节不能外包给模型本身。越是看起来结构完整、语气自信的结果，越需要回到原始材料逐条对照——尤其当它涉及人名、时间、数字和证言这类不可出错的细节时。