纽约法官痛斥虚假判例：AI 疑云下，律师最该怕的不是模型

5月20日，纽约州最高法院上诉庭的一场直播庭审里，法官把一名律师按在职业责任上追问了二十多分钟。

导火索很具体：原告律师 Michael Sanders 的上诉文件中，至少引用了3个疑似不存在的案例，另有10个案例被指错误表述法律。法官的评价很重：striking, concerning, disappointing, and saddening——震惊、担忧、失望，也令人难过。

更尴尬的是，对方律师也没发现。

这就不只是一个律师的低级失误了。对抗式程序里，本该互相校验的两边，一起漏了。法官真正生气的点，不是 AI 会不会胡说，而是律师共同体原本该兜住的底线，被一份看似像样的文件轻轻越过去了。

庭审到底卡在哪里

案子本身并不科幻。

Judith Landberg 起诉纽约市，称自己被树根顶起的人行道砖绊倒。Sanders 在上诉文件中围绕 “sidewalk” 的定义做论证。

问题出在材料本身。

法官 Valerie Brathwaite Nelson 准备口头辩论时发现，原告文件里的若干判例和引文“似乎不存在”。法官 Hector LaSalle 继续追问这些案例从哪里来，Sanders 没能给出清楚解释。

这里必须谨慎。

法官没有明说这些错误一定来自生成式 AI。原报道也只是把它放进近年 AI 幻觉判例频发的语境里看，称其高度疑似。

所以，不能写成“AI 伪造判例实锤”。目前更准确的说法是：这起事件至少暴露了法律文件核查流程的失败，而这种失败和生成式 AI 的使用风险高度重叠。

受影响的不是一个律师，而是一套信任成本

法律引用不是文章里的装饰句。

判例、引文、法律原则，是论证的地基。地基错了，后面写得再顺，也只是把错误包装得更体面。

法官这次连对方律师一起批评，点到了核心。法院不可能替双方从零核查每一句话。对方律师也承担发现错误、提醒法院的责任。

司法系统靠规则运转，也靠职业共同体的最低信任运转。

这层信任一旦变贵，所有人都要付账。

对律师和律所，最直接的动作不是“禁用 AI”，而是把 AI 输出纳入可审计流程：判例逐条回查，引用逐条核对，提交前留下检索和复核记录。以后再说“我不知道从哪里来的”，只会更难听。

对法律科技和知识工作团队，这事的提醒更具体：不要只卖“起草更快”，要把可验证性做进产品和流程里。能不能链接原始来源、标出置信边界、提示缺失依据，比生成一段漂亮论证更值钱。

关注 AI 进入专业行业的人，也该调整判断标准。

别只看模型会不会写。要看团队有没有核查责任人，有没有引用回链，有没有提交前复核，有没有把“AI 生成”与“人工确认”分成两道门。

如果没有这些，采购可以慢一点，试点可以小一点，责任边界要写清楚。效率工具一旦进入高责任场景，省下的时间很可能被后面的补洞成本吃回去。

AI 不是替罪羊，偷懒成本变低才是病灶

我不太买账那句老话：AI 只是工具，用错了怪人，不怪工具。

这话只说对一半。

工具当然不能被制裁。律师、律所和提交文件的人才承担责任。但工具会改变人的行为边界。过去要编一个不存在的判例，还得主动伪造；现在复制一段流畅文本，再抱着侥幸提交，门槛低多了。

“天下熙熙，皆为利来。”放到这里，利不是惊天动地的黑产收益，而是少查几分钟、少改一遍、少承担一点认知劳动。

危险也在这里。它太日常，太顺手，太像一次无伤大雅的效率优化。

这并不等于所有律师都在滥用 AI。法官 LaSalle 也说，这属于 outlier，纽约周边上诉律师整体质量很高。这个限制要写清楚，否则就是拿个案骂行业。

但个案足够说明一个趋势：专业行业真正稀缺的，不是生成文本，而是承担后果的校验能力。

医生不能把诊断核查外包给模型。工程师不能把安全验证外包给自动补全。律师也不能把判例真实性外包给一段看起来像真的回答。

接下来最该看的，不是这起案子会不会被贴上“AI 幻觉”标签。

更该看三件事：Sanders 和律所如何解释来源与复核流程；法院是否施加制裁；律所内部会不会把 AI 使用、引用核验和提交责任写成硬流程。

如果答案仍然停留在“个人失误”，那这次庭审只是一次公开难堪。

如果答案落到流程、记录和责任人，才说明行业真的听懂了法官那句潜台词：我们原本信你们会查。