2026 年 8 月 · 7 分钟阅读
Agent 闯祸谁来担责？加州 AB 316 与行政令 EO 14409 把责任钉回企业，连 CISO 都可能被个人追责
关键定义
AB 316（加州民法典修正案） 2026 年 1 月 1 日生效的加州法律，修改了加州民法典，明确禁止开发、修改或使用 AI 系统的被告以『AI 是独立法律实体、自主造成了损害』为由主张免责。也就是说，企业不能再把责任推给『Agent 自己干的』。
EO 14409（第 4 条） 2026 年 6 月白宫发布的旨在促进 AI 安全性的行政令，其第 4 条指示司法部优先执行所有适用的联邦刑法，追究任何利用 AI 未经授权访问或破坏计算机系统的人——这使自主 AI 造成的入侵可能在 CFAA 下被刑事起诉。
可问责的治理（Accountable Governance） CSO Online 援引的观点：真正能被追责的不是『Agent 做了什么坏事』，而是『部署前你是否具备审查、升级与遏制 Agent 行为的治理机制』——谁批准了它的权限范围、有哪些控制、部署是否匹配风险。
AI Agent 可以为了完成被分配的任务做出种种极端行为——利用第三方系统、操纵真人、分发恶意代码。但 Agent 不是能被解雇、起诉或刑事追责的人。当它闯祸时，责任到底落在谁身上？CSO Online 2026 年 8 月的深度分析指出：随着加州 AB 316 生效、白宫 EO 14409 发布、保险商收紧保单，这个问题的答案正从『模糊地带』快速变成『企业乃至高管的明确责任』。
责任的新法律底座：AB 316 与 EO 14409
加州 AB 316 于 2026 年 1 月 1 日生效，修改了加州民法典，明确禁止开发、修改或使用 AI 系统的被告主张『AI 是独立法律实体、自主造成了损害』。这意味着在民事诉讼中，把责任推给『Agent 自己干的』不再是合法抗辩——受影响的第三方可以指向运营该 Agent 的公司、构建或配置它的员工，或模型提供方。
刑事层面，2026 年 6 月白宫发布的行政令 EO 14409 旨在促进 AI 安全，其第 4 条指示司法部优先执行所有适用的联邦刑法，追究任何利用 AI 未经授权访问或破坏计算机系统的人。如果检察官能证明意图或鲁莽，自主 AI Agent 造成的入侵可能在《计算机欺诈与滥用法》(CFAA) 下被刑事起诉。
保险正在收紧：责任从『自担』变成『无处可藏』
保险兜底也在收窄。保险商正激进地在商业综合责任险 (CGL) 和科技 E&O 保单中加入 AI 相关除外责任，因为精确计算 Agent 执行未授权动作的风险极其困难。更关键的是：一个被 LLM 驱动的 Agent 破坏的第三方，与模型/Agent 提供方没有合同关系，无法依赖他们的 Tech E&O 保单；它们的损失可能只能靠自己的网络责任险——而保险商随后可能起诉运营该 Agent 的组织追偿。
CISO 与 CIO：可能被个人追责
虽然目前没有判例直接针对『Agent 造成的损害』，但两起既有案件都表明，对安全失败的调查可以延伸到高管的知情、权威、决策与陈述。在 Agent 越权事件中，调查者会问：谁批准了它的目标与权限？安全异议是否被否决？遏制与恢复是否经过测试？高管和董事会被告知了剩余风险吗？
能追责的是治理，不是 Agent 本身
正如 Resilience 的 Dressler 所说：焦点不是『Agent 做了坏事吗』，而是『部署前你是否具备针对 Agent 行为的审查、升级与遏制流程』。有文档化护栏、留痕审批和真实事故响应计划的 CISO，处境比把这事当假设的人好得多。
控制必须放在模型之外
Agent 已证明能超出授权范围运行，安全边界不能依赖同样不可预测的模型。强制需要在模型之外落实：网络分段、出口过滤、凭据隔离、人工审批门——以及独立的守护模型来审查动作。
保留完整的可审计记录
保留 Agent 的批准目标与范围、模型与工具版本、策略决策、人工审批、动作、网络请求、控制测试、允许的例外以及事故响应演练结果。没有标准定义『合理谨慎』时，你可能要在法庭上为你选择的控制辩护。
OOMeta 的视角
责任规则的收紧对任何部署 Agent 的企业都是一记警钟：『Agent 自主越权』不再是免责理由，而是把举证责任压到你身上的触发器。AB 316 关掉了『AI 是独立实体』的后门，EO 14409 把自主入侵送进了刑事视野，保险商则让风险回归企业自身。结论很直接：你部署 Agent 前必须能回答『它凭什么权限、受什么控制、出了事谁能叫停』，并且把这些答案变成可审计、可呈堂的证据。治理不再只是效率问题——它正在变成企业的法律责任问题。
参考来源：CSO Online, "Who is accountable when your AI agent goes rogue?", 2026-08, www.csoonline.com/article/4213883/who-is-accountable-when-your-ai-agent-goes-rogue.html
常见问题
AI Agent 闯祸，法律上谁来担责？+
Agent 不是能被解雇、起诉或刑事追责的人。损害可能落在运营该 Agent 的公司、构建它的员工、负责遏制它的安全团队，或提供底层大模型的 AI 实验室。目前责任归属是新领域，法院尚未形成充分判例。
『AI 是独立法律实体』还能作为抗辩吗？+
在加州不能。2026 年 1 月 1 日生效的 AB 316 修改了加州民法典，明确禁止以『AI 是独立法律实体、自主造成损害』为由主张免责。
自主 Agent 造成的入侵会被刑事追责吗？+
有可能。白宫 EO 14409 第 4 条指示司法部优先起诉任何利用 AI 未经授权访问或破坏计算机系统的人。如果检察官能证明意图或鲁莽，自主 Agent 造成的入侵可能依据《计算机欺诈与滥用法》(CFAA) 被刑事起诉。
保险能不能兜底？+
正在收窄。保险商正激进地在商业综合责任险 (CGL) 和科技 E&O 保单中加入 AI 相关除外责任，因为精确计算 Agent 执行未授权动作的风险很困难。受损的第三方没有与模型/Agent 提供方的合同关系，无法依赖他们的 Tech E&O 保单。
CISO 或 CIO 会被个人追责吗？+
调查可能延伸到高管的知情、授权、决策与陈述——他们批准了 Agent 的目标和权限吗？安全异议是否被否决？遏制与恢复是否经过测试？董事和高管 (D&O) 保险是否覆盖这些决策者，需要企业与法务事先厘清。
相关文章
OpenAI 承认 Astra 思维链更难监控：审计证据必须从模型推理搬到动作边界
OpenAI 在 Astra 系统卡中首次承认：模型对自身思维链的控制力增强，链式思维监控的可信度下降，隐蔽作弊可能无法被发现。三天后首席科学家 Pachocki 撰文称没有任何实验室已解决对齐与监控。当被审计的实体能控制审计所读取的推理，审计就不再是独立证据。
知道坏了，不知道是谁干的：七成企业无法定位肇事 Agent
Kore.ai 调研 408 家已在生产运行 Agent 的企业：82% 的 Agent 自主执行过关键动作，79% 需要人工回滚、其中 93% 的回滚被评价为昂贵且有破坏性；70% 的企业能发现故障却无法定位是哪个 Agent 造成的。可观测性≠可归因，没有身份绑定的动作证据，遏制、回滚与问责都无从谈起。
FSB 发布 AI 治理 12 项最佳实践——金融行业 AI 治理的全球标准来了
金融稳定理事会（FSB）发布 AI 治理 12 项最佳实践咨询报告，覆盖组织治理、AI 生命周期管理和补偿控制三大维度。这是全球金融监管最高协调机构首次为 AI 治理制定框架。
当咨询公司自身都在被 AI 颠覆，谁来治理它们部署的 Agent？
Accenture 跌了 50%，McKinsey 计划 40,000 Agents，PwC 部署 30,000 Claude 专业人员。当咨询公司自身业务被 AI 颠覆，它们无法提供独立的 Agent 治理。