引言

智能体的发展速度一再超出人们的预料，笔者在近期的工作调研中发现智能体已经逐步替代和接管专业领域的分析、判断和决策工作，有关智能体主体责任和知识主权的讨论也随之十分热烈。当智能体可以自主感知、记忆、决策、交互并执行，那么这件事的主体，到底是谁？笔者想从法律上提出一些需要厘清的深层次问题，抛砖引玉，供大家探讨。

一、“自主”二字的重量

智能体正加速与网络空间、物理世界深度融合，深刻改变人类生产生活方式和社会治理模式。

传统工具没有自主性，锤子不会选择打哪颗钉子，Excel不会自行决定删除哪一行数据。工具的行为完全由人的意志驱动，责任归属从无疑问，人用工具做了某件事，人承担后果。

但智能体不同。当一个医疗智能体建议某患者停药，当一个法律智能体起草某份合同条款，当一个金融智能体在市场波动时自动平仓，这些无人介入的“决定”，真的是人做出的吗？

从技术层面看，答案是“智能体做的”。从法律层面看，现行法律制度必须回答“人做的”，因为法律体系从未设计过非人格实体承担责任的路径。

二、智能体的意见不采纳，行吗？

一个更现实的问题是，智能体提出的意见，会不会在实践中演变为"不采纳不行"？这种演变有其结构性的原因。

第一是能力不对等。智能体处理的数据量、速度和维度，已经远超人类认知边界。当智能体给出意见，人类是否具备推翻它所需的知识储备。“我觉得它说得不对”，凭什么？凭的是什么？

第二是时间压力。在高频决策场景中，金融交易、应急响应、舆情处置，智能体的建议往往伴随着时间窗口。等人类完成独立判断，窗口已关闭。“人工审核”在实践中退化为橡皮图章。

第三是问责回避。一旦出了问题，按智能体建议操作成为潜在的免责理由；如果不按智能体建议操作，出了问题则变成人为失误。这种不对称，会形成强烈的心理驱动，让智能体替人决定，并把决定包装为人的采纳。这是一种决策空洞化的过程，名义上人在做主，实质上已然空转。

三、幻觉风险

最近美国知名律所出现的错误，就是智能体存在幻觉问题给使用者造成的风险，即以极高置信度输出错误信息。这不是系统崩溃，而是系统正常运行时内生的风险，且往往难以从外部识别。

一旦幻觉发生，摆在所有人面前的问题是，谁来判断这是错的？依据什么判断？

更棘手的是，幻觉不是概率均等的随机错误，而是往往发生在复杂决策、边缘情境、罕见场景和跨领域推断中，恰恰是人类最难核验的地方。这意味着，谁来纠错这个问题，在现实中可能根本无人有能力完成。

四、专业机构的能力被吸收，独立性何在？

智能体对专业领域的冲击，不只是效率层面的替代，而是一场更根本的颠覆。

在医疗领域，智能体将会承担诊断建议、用药方案、手术风险评估等核心职能；在法律领域，它能完成合同审查、案例检索、证据整理、裁判预测、合规意见出具、违规风险警示、法律意见起草；在金融领域，它负责投资组合管理、风险定价、信用评估乃至实时交易执行。这些能力原本是专业机构存在价值的核心，是医生、律师、金融分析师经过多年培训才具备的职业壁垒。

当这些能力被批量地、低成本地、可规模化地复制进信息技术产品，一个根本性的问题就浮现出来，专业机构还需要做什么？它们的独立性，还有没有实质内容？专业机构的独立判断功能便已形同虚设。

那么专业判断的责任，究竟应由信息技术部门承担，还是由专业职能部门或机构承担？

若由信息技术部门承担，技术人员并不掌握医学伦理、法律适用或金融监管的判断标准，无法对专业结论的合理性作出评估，更无法为具体个案的损害后果承担专业责任。这种归责路径，实质上是把专业责任移交给了对专业一无所知的一方。

若由专业机构承担，则意味着医院、律所、金融机构要为一个信息系统的输出负责。

专业机构的独立性，不仅是执业资质和机构设置的问题，而是社会的知识主权与运行的问题。当专业知识的生产和运用被技术系统接管，其独立存在的制度基础也随之动摇。

应对这一危机，不能仅靠要求人工审核来维持表面上的专业主体地位。真正需要的是，重新界定专业机构在智能体时代的不可替代功能，究竟哪些判断必须由持牌专业人员作出，哪些场景中专业机构对智能体结论负有不可转移的复核义务，以及当专业判断与智能体输出发生冲突时，谁有权作出最终裁决，依据是什么。

五、责任认定的困境

智能体高自主性、高权限等特性带来了隐私泄露、越权操作、行为失控等安全风险。但当这些风险成为现实损害，智能体的开发者、部署者、使用者的责任如何分配？

问题在于，这条责任链条越来越长，越来越模糊。开发者构建了基础模型，但无法预料所有应用场景；部署者对接了具体业务，但调用的是他人的底层能力；使用者发出了最终指令，但未必能理解智能体的推理过程。一旦出现损害，法律上如何认定过错？过错认定需要行为与损害之间的因果关系，追溯因果链本身就难以实现。

六、外部制约机制的空缺

对于智能体非合规行为的发现、干预、阻断与恢复能力，防范内生安全风险、供应链安全风险和应用衍生风险，目前尚属空白。

但即便建立防控机制，这些防控手段，本质上可能还是技术领域的工作。用技术发现技术的问题，用技术限制技术的越界。这构成了一个封闭的技术攻防自循环。缺乏来自技术体系之外的独立制约力量。

外部制约的缺失，意味着什么？首先，合规标准的制定权实质上旁落于技术方。技术方来决定什么算非合规行为？

其次，损害发生后的独立调查能力严重不足。当一个智能体出现“行为失控”造成损害，现行机制中谁负责开展独立调查？如何启动，是否有能力独立调查。

第三，公众和受害方缺乏实质性救济通道。智能体是一个封闭系统，普通公民、受害个体、乃至受到智能体行为影响的专业机构，没有进入这个系统的接口。他们无法通过非技术手段对系统施加影响。

破解这一困境，需要在技术攻防体系之外，真正建立独立的外部制约机制。没有外部制约，所谓安全可控便只是技术共同体的内部自律。

七、几个需要认真对待的深层命题

在上述分析的基础上，有几个深层命题值得认真对待。

其一，人机协作需要明确定义。当前话语体系中，人机协作默认人是主体、机是工具。但当智能体的能力超越人类判断边界，协作的实质已经颠倒。在许多场景中，智能体正在成为实质主体，人只是最终签字者。

其二，幻觉风险需要独立的验证机制。不能依赖智能体自我检验、自我验证，不能假设使用者具备纠错能力。在医疗、法律、金融等高风险领域，应建立独立的第三方核验机制，且核验标准应在事前公开，而非事后追溯。

其三，责任分配需要预设而非事后追偿。智能体行为的复杂性使干预阻断极为困难。更有效的路径是明确每个角色在每个环节的义务边界，引入强制保险等工具，将责任内化为部署成本。

其四，专业机构的制度功能需要法律重申与保护。政策法律应明确在哪些场景下，专业机构的独立判断具有优先效力，不得被智能体输出所架空；哪些专业行为属于不可委托、不可替代的人类责任，必须由持牌专业人员亲自完成，且其判断不受智能体建议的法律约束。

最后，我们一边在推进智能体的自主化，一边在坚持人类的主体地位；一边在构建技术防控体系，一边却容易忘记在技术之外布置独立的制约力量；一边期待专业机构履行责任，一边却眼看着专业判断能力被技术系统悄悄接管。

正视智能体在实质上已经具有决策能力这一事实，正视专业机构独立性正在被侵蚀这一制度危机，解决它们，不能靠回避，只能靠正视。这是留给立法者、监管者、专业共同体和技术界共同回答的智能体时代命题。