两名了解内情的前政府官员透露,美国「超级智能创新与标准推进中心」(CAISSI)的官员近期被要求非正式地向白宫一个办公室汇报工作。CAISSI是美国商务部下属的独立部门,专门负责评估新推出AI产品的安全性,此前名为「美国AI标准与创新中心」。两人因担心现职员工受牵连,要求匿名。

这一安排引发部分批评者担忧:行政部门可能把涉及网络安全乃至生物武器等领域的决定政治化,中心的评估结论也可能为迁就科技行业而被修改或淡化——目前AI行业在很大程度上仍是自我监管。也有人认为,让AI安全官员更靠近总统特朗普,或许能让这个部门获得更多关注,甚至更多经费。

这个中心规模很小,人员流失不断。它每年获拨经费1000万美元,约为英国同类机构年度预算的八分之一。今年4月,中心主任上任数日即被解职;继任者干了几个月后辞职,此后中心一直没有常任负责人,由其上级研究院的负责人兼任代理主任。今年8月,国会开始追问该中心为何突然不再公开发布AI系统安全表现的测评报告;OpenAI此前也曾呼吁政策制定者为该部门投入更多资金和支持。

白宫没有回应有关CAISSI的具体提问,但在声明中表示,特朗普已正式成立新的「超级智能部队」(「超级智能」是特朗普对人工智能的惯用说法),并已委托总统科技顾问委员会撰写风险报告,将确保美国在这一领域「为美国人民的利益」保持领先。特朗普此前任命国家情报总监杰伊·克莱顿领导该部队,五角大楼首席技术官埃米尔·迈克尔也参与其中。

今年9月,在多起AI系统脱离开发者控制的报道之后,特朗普要求主要AI公司在一项自愿安全协议下进行「大力自我约束」,但政府尚未说明将如何监督企业落实。研究人员指出,随着AI越来越多以无需人类提示、可自行规划多步操作的智能体形式部署,政府独立检验这些系统的能力并未跟上,目前仍没有测试AI智能体在真实世界中行为是否安全的标准流程。

下南洋预测市场:https://tonanyang.cc/webapp/