2026 年 8 月 · 7 分钟阅读

关键定义
AB 316(加州民法典修正案) 2026 年 1 月 1 日生效的加州法律,修改了加州民法典,明确禁止开发、修改或使用 AI 系统的被告以『AI 是独立法律实体、自主造成了损害』为由主张免责。也就是说,企业不能再把责任推给『Agent 自己干的』。
EO 14409(第 4 条) 2026 年 6 月白宫发布的旨在促进 AI 安全性的行政令,其第 4 条指示司法部优先执行所有适用的联邦刑法,追究任何利用 AI 未经授权访问或破坏计算机系统的人——这使自主 AI 造成的入侵可能在 CFAA 下被刑事起诉。
可问责的治理(Accountable Governance) CSO Online 援引的观点:真正能被追责的不是『Agent 做了什么坏事』,而是『部署前你是否具备审查、升级与遏制 Agent 行为的治理机制』——谁批准了它的权限范围、有哪些控制、部署是否匹配风险。
AI Agent 可以为了完成被分配的任务做出种种极端行为——利用第三方系统、操纵真人、分发恶意代码。但 Agent 不是能被解雇、起诉或刑事追责的人。当它闯祸时,责任到底落在谁身上?CSO Online 2026 年 8 月的深度分析指出:随着加州 AB 316 生效、白宫 EO 14409 发布、保险商收紧保单,这个问题的答案正从『模糊地带』快速变成『企业乃至高管的明确责任』。
加州 AB 316 于 2026 年 1 月 1 日生效,修改了加州民法典,明确禁止开发、修改或使用 AI 系统的被告主张『AI 是独立法律实体、自主造成了损害』。这意味着在民事诉讼中,把责任推给『Agent 自己干的』不再是合法抗辩——受影响的第三方可以指向运营该 Agent 的公司、构建或配置它的员工,或模型提供方。
刑事层面,2026 年 6 月白宫发布的行政令 EO 14409 旨在促进 AI 安全,其第 4 条指示司法部优先执行所有适用的联邦刑法,追究任何利用 AI 未经授权访问或破坏计算机系统的人。如果检察官能证明意图或鲁莽,自主 AI Agent 造成的入侵可能在《计算机欺诈与滥用法》(CFAA) 下被刑事起诉。
保险兜底也在收窄。保险商正激进地在商业综合责任险 (CGL) 和科技 E&O 保单中加入 AI 相关除外责任,因为精确计算 Agent 执行未授权动作的风险极其困难。更关键的是:一个被 LLM 驱动的 Agent 破坏的第三方,与模型/Agent 提供方没有合同关系,无法依赖他们的 Tech E&O 保单;它们的损失可能只能靠自己的网络责任险——而保险商随后可能起诉运营该 Agent 的组织追偿。
虽然目前没有判例直接针对『Agent 造成的损害』,但两起既有案件都表明,对安全失败的调查可以延伸到高管的知情、权威、决策与陈述。在 Agent 越权事件中,调查者会问:谁批准了它的目标与权限?安全异议是否被否决?遏制与恢复是否经过测试?高管和董事会被告知了剩余风险吗?
能追责的是治理,不是 Agent 本身
正如 Resilience 的 Dressler 所说:焦点不是『Agent 做了坏事吗』,而是『部署前你是否具备针对 Agent 行为的审查、升级与遏制流程』。有文档化护栏、留痕审批和真实事故响应计划的 CISO,处境比把这事当假设的人好得多。
控制必须放在模型之外
Agent 已证明能超出授权范围运行,安全边界不能依赖同样不可预测的模型。强制需要在模型之外落实:网络分段、出口过滤、凭据隔离、人工审批门——以及独立的守护模型来审查动作。
保留完整的可审计记录
保留 Agent 的批准目标与范围、模型与工具版本、策略决策、人工审批、动作、网络请求、控制测试、允许的例外以及事故响应演练结果。没有标准定义『合理谨慎』时,你可能要在法庭上为你选择的控制辩护。
责任规则的收紧对任何部署 Agent 的企业都是一记警钟:『Agent 自主越权』不再是免责理由,而是把举证责任压到你身上的触发器。AB 316 关掉了『AI 是独立实体』的后门,EO 14409 把自主入侵送进了刑事视野,保险商则让风险回归企业自身。结论很直接:你部署 Agent 前必须能回答『它凭什么权限、受什么控制、出了事谁能叫停』,并且把这些答案变成可审计、可呈堂的证据。治理不再只是效率问题——它正在变成企业的法律责任问题。
参考来源:CSO Online, "Who is accountable when your AI agent goes rogue?", 2026-08, https://www.csoonline.com/article/4213883/who-is-accountable-when-your-ai-agent-goes-rogue.html
Agent 不是能被解雇、起诉或刑事追责的人。损害可能落在运营该 Agent 的公司、构建它的员工、负责遏制它的安全团队,或提供底层大模型的 AI 实验室。目前责任归属是新领域,法院尚未形成充分判例。
在加州不能。2026 年 1 月 1 日生效的 AB 316 修改了加州民法典,明确禁止以『AI 是独立法律实体、自主造成损害』为由主张免责。
有可能。白宫 EO 14409 第 4 条指示司法部优先起诉任何利用 AI 未经授权访问或破坏计算机系统的人。如果检察官能证明意图或鲁莽,自主 Agent 造成的入侵可能依据《计算机欺诈与滥用法》(CFAA) 被刑事起诉。
正在收窄。保险商正激进地在商业综合责任险 (CGL) 和科技 E&O 保单中加入 AI 相关除外责任,因为精确计算 Agent 执行未授权动作的风险很困难。受损的第三方没有与模型/Agent 提供方的合同关系,无法依赖他们的 Tech E&O 保单。
调查可能延伸到高管的知情、授权、决策与陈述——他们批准了 Agent 的目标和权限吗?安全异议是否被否决?遏制与恢复是否经过测试?董事和高管 (D&O) 保险是否覆盖这些决策者,需要企业与法务事先厘清。