9 月 23 日，美国加利福尼亚州一名执业律师因在法庭文件中使用人工智能工具 ChatGPT 生成虚假判例，被当地上诉法院裁定处以 1 万美元（约合人民币 71149 元）的罚款，引发法律界广泛关注。据悉，这是加州司法系统迄今为止针对 AI 伪造信息行为开出的最严厉罚单之一。
根据第二区上诉法院公布的判决书，该律师在提交的法律文书中引用了 23 个判例，其中竟有 21 个被证实为 ChatGPT 凭空捏造。法院在裁定中明确指出，律师有不可推卸的责任亲自核查所有引用的法律依据，任何依赖未经验证来源的行为都将被视为严重失职。这一裁决不仅是对涉事个人的惩戒，更被视作向整个法律行业发出的强烈警示。
此次事件发生之际，正值加州全面加强对生成式人工智能在司法领域应用的监管。加州司法委员会已下达指令，要求全州各级法院在 12 月中旬前必须制定明确的人工智能使用规范，或直接实施禁用措施。与此同时，加州律师协会也正在修订职业行为守则，以应对 AI 技术迅猛发展所带来的伦理与实践挑战。
涉事律师阿米尔・穆斯塔法维（Amir Mostafavi）坦承，在 2023 年 7 月提交文件前，他并未对 AI 生成内容进行审阅。他解释称，最初仅是希望借助 ChatGPT 优化文书的语言表达，未曾料到该工具会虚构法律判例。穆斯塔法维强调，AI 已成为现代法律实践中不可或缺的辅助工具，其变革意义堪比当年从纸质法典向电子数据库的过渡。但他也坦言：“只要系统仍会‘幻觉’，我们就必须保持高度警惕。这个过程中，注定会有人付出代价。”
事实上，这并非美国首起因 AI 虚假信息引发的司法处罚。今年早些时候，一家联邦地区法院曾判决两家律所赔偿逾 3.1 万美元（约合 22.1 万元人民币），原因正是其提交的法律研究依赖了 AI 编造的内容。主审法官直言感到“被欺骗”，并呼吁建立更严格的追责机制，以维护司法程序的严肃性。
据不完全统计，全美已报告超过 600 起律师引用 AI 虚构判例的案例，其中加州占 52 起。专家警告，随着 AI 工具在法律界的普及，此类事件可能持续攀升。许多从业者尚未充分认识到“AI 幻觉”的潜在风险，亟需加强识别与验证能力培训。
更令人担忧的是，虚假判例的影响可能已渗透至司法决策层面。有观察指出，个别法官的判决书也曾引用过 AI 生成的虚构案例，表明问题的波及范围远超律师群体。业内呼吁，未来或应将 AI 使用规范纳入强制性继续教育课程，确保法律职业共同体在技术浪潮中守住专业底线。
