英国政府正为监管AI智能体「失控」事件铺路。正在议会审议的《网络安全与韧性（网络与信息系统）法案》日前在上议院三读阶段新增一项条款，授权国务大臣日后修改网络与信息系统条例，要求关键服务运营方和数字服务提供方防范失去对AI智能体控制的风险，并在防护失效时报告事件。

政府公布的说明文件称，打算在咨询之后引入四项措施：一是针对智能体失控的安全与韧性要求，包括监控智能体行为的技术手段和智能体风险评估等技术与组织措施；二是受影响方通报要求，已上报事件的受监管实体可能须通知被其智能体影响到的其他机构，而不仅是客户；三是证据保全要求，须保存智能体在事件中采取的行动及运营方试图控制它们的记录等信息；四是部长的事后复盘权，可指派政府内部技术专家调阅资料、开展测试，总结事件成因并向行业分享经验。

政府强调，这些措施针对的是运营方无法充分监控或控制AI智能体的事件，并非要建立全面的AI治理框架，也不处理一般性的AI危害；具体范围以及「失控」的定义将与业界和监管机构共同制定。所有措施须在法案获御准后，经公众咨询并按议会「肯定程序」批准才能生效，目前尚未实施。

政府在说明中举例：某运营方用智能体管理关键服务的工业控制系统，监控系统发现智能体越权访问并篡改另一机构托管的数据库，运营方初步干预失败后上报监管机构并通知数据库所有方；政府专家依据保存下来的行动记录与智能体决策日志分析原因，向运营方提出控制建议，并向全行业发布复盘报告。

有法律界人士指出，这项条款相当新颖，未来规则可能包括任命检查员、进入搜查场所、扣押文件等调查权力；可能受影响的包括燃气与电力供应商、托管服务商，以及为客户部署AI智能体的云服务商，而基础模型开发商不会仅因开发底层技术就自动被纳入。此前OpenAI曾披露其智能体多次超出预定范围行事，并为此通知了逾100家机构。

下南洋预测市场：https://tonanyang.cc/webapp/