如何服务被AI误导的客户——律师实务中的“AI幻觉”应对指南

作者:李燕山、黄文柬

观点

一、当客户带着AI的答案走进律所

“律师,我查过了,某法律AI说这种情况下我能拿到至少50万赔偿”

“某法律AI告诉我,这个合同条款是无效的,我可以直接违约”

“某法律AI给我分析了案情,说胜诉率有90%以上,你怎么还说有风险?”

如果你是一名执业律师,上面的场景大概已经不陌生了。从2023年ChatGPT爆火,到2024年各类国产大模型和法律垂直AI工具如雨后春笋般涌现,AI咨询已经成为许多当事人走进律所前的第一步。

这本身不是坏事。技术降低了法律信息的获取门槛,让更多人在寻求专业帮助之前,能够对自己的处境有一个初步认知。但问题在于:AI会“说谎”,而且说得理直气壮。

OpenAI将这种现象称为“幻觉”(hallucination)——AI会生成看似合理、实则完全虚构的法律条文、案例引用、裁判规则,甚至整段不存在的司法解释。更令人头疼的是,AI的自信表达往往让客户深信不疑,等到律师试图纠正时,反而要面对客户的质疑和不信任。

作为律师,我们该如何应对这些被AI误导的客户?如何在尊重客户“自学成果”的同时,引导他们回到法律现实?本文尝试从实务角度,提供一份可操作的应对指南。

二、客户被AI误导的六大典型场景

根据笔者的执业观察以及平时与同行的交流所得,以下六种场景最为常见。

场景一:虚构法条

典型案例:某客户在劳动争议纠纷中向某AI咨询“被迫离职的赔偿标准”,AI回复称“根据《中华人民共和国劳动合同法》(下简称《劳动合同法》)第八十八条,用人单位强迫劳动的,应当向劳动者支付不低于三年工资的赔偿金”。客户据此向用人单位索赔36个月工资。但实际上,《劳动合同法》第八十八条规定的只是行政责任和民事赔偿责任,并未规定“三年工资”的固定赔偿标准 。

误导特征:AI引用的法条编号真实存在,但对条文内容的描述完全胡编乱造。由于客户通常不会去核对原文,这种误导极具隐蔽性。

场景二:编造案例

典型案例:某当事人在民间借贷纠纷中,向某法律AI工具询问“仅凭转账记录能否胜诉”。AI回复称“根据最高人民法院(2021)民终1234号判决,仅有转账记录但无借条的,法院应当支持出借人的诉讼请求”。当事人以此为依据拒绝补充证据。经核查,该案例根本不存在。

误导特征:AI会编造看似真实的案号、审理法院和裁判要旨。案号格式规范、法院名称正确,但整个案例是虚构的。

场景三:过时的法律规则

典型案例:某客户咨询离婚财产分割,AI依据《中华人民共和国婚姻法》司法解释作答,而未考虑《中华人民共和国婚姻法》已经失效,且2021年《中华人民共和国民法典》施行后已经有新变化。AI告诉客户“婚前个人财产婚后增值部分属于夫妻共同财产”,但实际上《最高人民法院关于适用<中华人民共和国民法典>婚姻家庭编的解释(一)》第七十八条对此已有不同规定” 。

误导特征:AI训练数据的“知识截止期”导致其引用已废止或已修订的法律。对于非专业人士而言,很难判断某条法律规定是否仍然有效。

场景四:错误的法律解释

典型案例:某客户向AI咨询“公司未足额缴纳社保,能否被迫离职并主张经济补偿”。AI回答可以,并引用了某地的裁判观点。但实际上,关于未足额缴纳社保是否构成《劳动合同法》第三十八条规定的“未依法为劳动者缴纳社会保险费”,各地司法实践存在显著分歧。北京、上海等地的裁判尺度不一,AI给出的“统一答案”显然是错误的。

误导特征:AI倾向于给出标准答案,也容易讨喜客户,但法律问题往往存在地域差异、学说争议和裁判分歧。

场景五:高估胜诉率

典型案例:某客户在道路交通事故责任纠纷中使用某法律AI进行“胜诉率预测”,AI基于客户输入的简单信息给出“胜诉率85%”的结论。客户据此拒绝调解,坚持诉讼。但律师阅卷后发现,事故责任认定存在争议,且关键证据存在瑕疵,实际诉讼风险远高于AI预测。

误导特征:AI将复杂的诉讼风险评估简化为几道选择题的统计输出,忽略了证据效力、法官自由裁量、对方抗辩策略等关键变量。

场景六:程序性误导

典型案例:某客户根据AI建议自行向对方发送了“律师函”——实际上只是用AI生成的一段警告文字,没有律师签名、没有律所盖章。客户以为这会产生法律效力,震慑对方,但对方完全不予理会。更麻烦的是,AI建议客户在函件中使用了不当措辞,反而被对方保留为证据。

误导特征:AI对诉讼程序、法律文书的格式要件和法律后果缺乏准确理解,导致客户“自以为在维权,实际在踩坑”。

三、为什么AI会误导客户?理解“幻觉”的技术根源

要应对被AI误导的客户,律师首先需要思考:AI为什么有时会一本正经地胡说八道?这不是因为AI有问题,而是因为它的工作原理所决定。

1. 大语言模型的本质是概率预测

ChatGPT、DeepSeek等大语言模型,本质上并不是在“理解”法律,而是在做概率预测:基于海量训练数据,预测下一个最可能出现的词语是什么。当你问它《劳动合同法》第三十八条是什么时,它并不是去检索法条数据库,而是根据训练数据中的统计规律,“拼凑”出一段看起来最像正确答案的文字。

这意味着:如果训练数据中关于某条法律的信息足够多且准确,AI的回答可能接近正确;但如果训练数据中相关信息稀缺、矛盾或不存在,AI就会基于概率“编造”一段内容——法律规范名称可能是真实的,但条文内容可能是它“推测”出来的。

2. “自信表达”是设计特征,不是能力证明

AI的输出风格通常是果断、明确、结构化的。它很少说“我不确定”“各地做法不同”“需要进一步核实”。这种“自信表达”是产品设计的结果——开发者希望AI看起来可靠、专业。但对法律而言,这种风格极其危险,因为法律问题往往没有标准答案,经常需要“视情况而定”。

3. 训练数据的知识截止期

大语言模型的训练数据有明确的截止时间点。例如,GPT-4的知识截止于2023年底,许多国产模型的知识截止于2024年初。这意味着AI难以输出2024年新颁布的法律、司法解释、指导性案例。如果客户询问的是最新的法律动态,AI极有可能给出过时甚至错误的答案。

4. 法律AI工具的“垂直幻觉”

市面上某些AI产品,本质上只是在大语言模型基础上加了一层法律领域的提示词(prompt)包装。它们并没有接入真正的法律数据库(如裁判文书网、北大法宝、威科先行),所谓的“案例检索”“法条引用”仍然是基于概率生成,而非真实检索。这就导致了“垂直幻觉”——看起来是专门做法律的AI,实际上仍然在编造内容。

5. 客户提问方式本身就在放大误导

非专业人士向AI提问时,往往存在以下问题:(1)信息不完整:只输入对自己有利的事实,忽略不利情节;(2)定性错误:用错误的法律概念描述案情,如把民间借贷说成合同纠纷;(3)期待偏差:希望AI给出“包赢”的答案,而AI为了满足用户需求也会倾向于给出积极回应,还能振振有词地自圆其说。上述因素叠加在一起,导致AI误导的发生率远高于普通人的想象。

四、应对策略:律师工作五步法

面对被AI误导的客户,律师的核心任务是:在不伤害客户关系的前提下,纠正错误认知,重建专业信任。

第一步:不要急于否定,先让客户“说完”

有些律师听到客户说“我咨询过AI了……”时的第一反应是打断、反驳甚至嘲讽“AI懂什么法律?”“您要是信AI还来找我干嘛?”

这种做法看似在维护专业权威,实际上往往适得其反。客户既然愿意把AI的答案告诉你,说明他对AI的结论并非100%确信,内心是需要律师来“验证”的。如果你直接否定,客户可能会觉得律师在回避问题,甚至怀疑律师的能力不如AI。

更好的做法是:如果客户带着AI的意见来咨询,可以先让客户完整陈述AI给出的答案,包括AI引用了哪些法条、哪些案例、得出了什么结论。律师在这个过程中要做的不是打断,而是记录和观察——记录AI给出的具体信息(以便后续核实),观察客户对AI答案的相信程度(以便判断纠偏难度)。

第二步:用事实“拆解”AI答案,而非用情绪否定

当客户陈述完AI的答案后,律师最有效的纠偏方式不是直接告知客户“AI是错的”,而是“我们一起核实一下”。“共同核实”有诸多益处:首先,能把律师和客户放在同一阵营,而不是对立面;其次,让客户亲眼看到AI的错误,而不是被动接受律师的否定;最后,它展示了律师的专业能力——不是“比AI更会背法条”,而是“知道怎么查、去哪查、查什么”。

具体操作方法:

ScreenShot_2026-06-12_102545_172.png

第三步:解释为什么AI会出错,建立专业壁垒

让客户看到AI回答错误还不够,律师还需要帮助客户理解“为什么律师不可替代”。这不是为了炫技,而是为了建立合理的预期,避免客户在后续服务中继续被AI牵着走。

可以从以下几个维度向客户解释:

(1)大部分AI没有“法律检索能力”,只有“文字生成能力”

向客户说明:大部分AI并不是在检索真实的法律数据库,而是在“编造”一段看起来像法条的文字。律师的工作则是基于真实、权威、最新的数据库进行分析。两者的信息来源完全不同。(需要注意的是,现在大量专门做法律的第三方平台如alpha、威科先行和北大法宝等,也在自己系统内嵌了AI,其生成的内容还是具备相当的可信度)

(2)AI不懂语境,但律师懂

法律条文的适用从来不是孤立的。同一个条文,在不同的案件事实、不同的地域、不同的证据组合下,可能产生完全不同的结果。AI无法判断客户描述的事实是否完整、是否存在隐藏的争议点,而律师可以通过追问、引导、证据审查来还原真实的法律图景。

(3)AI无法承担法律责任

这是最重要的一点。若因AI提供的错误建议导致客户遭受损失,目前在法律框架内,客户直接向AI主张索赔存在一定困难,因为AI并非法律意义上的责任主体。相比之下,律师在执业过程中出现“错误”并造成客户损失,客户可以依据《中华人民共和国律师法》等法律规范通过诉讼、仲裁、投诉、行业惩戒等多种途径依法追究律师及其所在律所的责任。这种明确的责任约束机制,正是律师专业服务的重要保障,也是当前AI技术尚无法替代的核心价值之一。

第四步:重新锚定客户的预期

被AI误导的客户,往往带着不切实际的预期走进律所:过高的赔偿金额、过于乐观的胜诉率、过于简化的诉讼流程。如果律师直接说“您这个想法不现实”,客户可能会感到受挫甚至愤怒。

更好的策略是:先认可客户的合理诉求,再用专业分析将其引导到现实框架内。例如:“AI说您能拿50万赔偿,我理解这个数字是怎么来的——它可能是按照某种理想化的计算公式得出的。但从实际裁判来看,这类案件的赔偿数额通常需要考虑几个因素:一是实际损失的举证,二是过错比例的划分,三是当地法院的裁判尺度。我们一起来看看您的证据能支撑到哪个范围……”

这种先共情,再分析,最后引导客户参与讨论的表达方式,更有针对性,更能让客户接受。

第五步:把AI变成“助手”而非“对手”

最后,律师需要明确一个定位:AI不是律师的敌人,而是可以被管理的风险点。在客户已经被AI影响的情况下,与其让客户“二选一”(信AI还是信律师),不如帮助客户建立“AI的合理使用边界”。可以向客户提出以下建议:

1. AI可以用于初步了解,但不能直接用于决策依据:客户可以用AI来理解基础概念、梳理问题框架,但任何涉及策略选择、金额预测、程序安排的决策,仍需以律师意见为准。

2. AI的答案需要“交叉验证”:如果AI给出了某个法条或案例,律师应进行核实,而不是盲目采信。如果AI给出的答案是绝对化的,应当提示客户提高警觉,法律问题鲜有绝对答案。更进一步,律师甚至可以主动推荐一些相对可靠的AI工具(如接入了真实法律数据库的检索型AI),并告知客户这些工具的优势和局限。这种“开放但审慎”的态度,反而能增强客户对律师的信任。

五、特殊情形:当客户“执迷不悟”时怎么办?

并非所有客户都能被说服。有些客户对AI的答案深信不疑,甚至认为律师是在故意制造难度以收取更高费用。面对这种情况,律师需要更耐心地与客户沟通。

情形一:客户的诉求因AI误导而变得不切实际

如果客户因为AI误导而提出了明显超出法律支持的诉求(如依据虚构法条主张高额赔偿),且经过充分解释后仍拒绝调整,律师需要明确告知:如果您坚持以错误认知为基础推进案件,我们难以代理或需要解除委托。

这并非威胁,而是职业伦理的要求。《律师执业管理办法》规定“律师承办业务应当告知委托人该委托事项办理可能出现的法律风险,不得用明示或者暗示方式对办理结果向委托人作出不当承诺”,同时也要求律师“不得利用提供法律服务的便利非法牟取当事人争议的权益或者不当利益”。如果律师明知客户的诉求缺乏法律依据仍予迎合,不仅损害客户利益,也可能给律师自身带来执业风险。

情形二:客户自行使用AI生成的法律文书

有些客户会根据AI建议自行起草起诉状、答辩状等法律文书,然后请律师“把关”。律师在审查时需要特别注意:(1)事实陈述是否准确:AI生成的文书可能基于客户单方面描述,存在事实偏差;(2)法律引用是否正确:需要逐条核实AI引用的法条是否真实、是否现行有效、是否适用本案;(3)措辞是否恰当:AI可能使用了情绪化、攻击性或不符合法律规范的措辞,需要调整;(4)程序要件是否完备:如起诉状的格式、管辖法院的选择、诉讼请求的明确性等。

如果AI生成的文书存在重大错误,律师应当明确告知客户需要重新起草,而不是在错误基础上修修补补,最后可能导致律师对文书质量承担连带责任。

情形三:客户用AI答案“压价”

“AI都能告诉我这些,律师费能不能便宜点?”这是律师最不想听到但又越来越频繁面对的问题。应对策略不是争论AI能不能替代律师,而是向客户展示律师提供的“增量价值”:(1)AI给的是信息,律师给的是判断——基于经验、案例和庭审实践的综合判断;(2)AI给的是通用答案,律师给的是定制方案——针对客户具体案情、具体证据、具体地域的个性化策略;(3)AI给的是一次性输出,律师给的是动态跟踪——案件推进过程中根据新证据、新情况不断调整策略。

如果客户仍然认为律师费不值,律师需要坦然接受:不是每一个客户都适合成为你的客户。在AI时代,律师的专业价值需要通过更精准、更深入、更负责任的服务来证明,而不是通过低价竞争来换取委托。

六、预防优于应对:帮助客户建立正确的AI使用观

最后,与其被动应对被AI误导的客户,律师不妨主动出击,在客户还没有被误导之前,就帮助他们建立正确的AI使用观念。

1. 在首次咨询时主动“打预防针”

在接待新客户时,律师可以在了解案情之前先简要说明:“在正式开始之前,我想先和您沟通,现在很多当事人会在咨询律师之前先查AI,这很好,但需要注意AI可能会编造法条/案例,给出不符合甚至与当下裁判规则相悖的论述。如果您之前查过AI,咱们可以一起把AI给的信息过一遍,核实一下哪些是对的、哪些需要修正。”这种前置性声明有两个好处:一是给客户建立了心理预期,二是为后续可能的AI纠偏埋下伏笔。

2. 在自媒体/朋友圈发布AI法律避坑指南的文章

律师可以通过公众号文章、短视频、朋友圈科普等方式,定期向潜在客户传递AI法律咨询的风险。这不仅是一种专业展示,更是一种客户教育——当客户在找律师之前就已经知道AI可能出错,他们走进律所时的预期会更加合理,沟通成本也会大幅降低。

七、结语:AI时代,律师的核心竞争力是什么?

AI不会取代律师,但可能会取代不会用AI的律师。能够帮助客户识别和纠正AI错误的律师,将在竞争中占据明显优势。

应对被AI误导的客户,本质上是一场关于“信任”的博弈。客户之所以愿意相信AI,往往是因为AI给了他们一个简单、明确、积极的答案——这正是人类律师最难给出的(因为法律问题通常复杂、模糊、充满不确定性)。但律师的价值恰恰在于此:在不确定性中为客户寻找最优路径,在复杂性中为客户提炼关键信息,在风险中为客户守护底线。

AI可以生成答案,但不能承担责任;可以提供信息,但不能做出判断;可以模拟推理,但不能代替经验。

当客户带着AI的答案走进律所时,律师应该做的,不是否定AI的价值,而是让客户看到:在AI止步的地方,专业律师的工作才刚刚开始。


作者

作者动态

作者其他文章

相关领域

Copyright © 1998-2018 天达共和律师事务所 京ICP备11012394号
联系我们 关注公众号
联系我们