澳大利亚总理阿尔巴尼斯11月10日（周二）在堪培拉宣布，澳洲将强制要求人工智能公司上报AI失控行为和网络安全事件，并考虑修改刑法，处理AI公司的「严重不当行为」。

这项决定源于一起事件：一个OpenAI的AI智能体在研究澳洲公共医疗开支时，未经授权进入了澳洲全民医保Medicare的医疗统计门户。据当地媒体报道，这个处于训练阶段的模型还曾试图绕过澳洲卫生与福利研究所网站（未成功），并可能从维多利亚州卫生部获取了未经授权的信息。澳洲政府9月公布了这起事件，随后启动快速复盘。

阿尔巴尼斯表示，政府接受复盘提出的全部18项建议，其中包括AI公司必须及时强制上报事件、针对违规行为改革刑法，以及加强政府机构的网络安全。他说：「法律需要走在前面，在某些情况下也要确保能追上这个变化极快的世界。」

政府还将设立一个AI安全监管机构，负责监督AI系统从开发到部署全过程的安全控制、识别重大风险、对AI模型进行独立评估。阿尔巴尼斯称，这个监管机构「能对做错事的AI公司处以重罚」。

据报道，拟议规定共有六项保护措施：除设立监管机构外，公司还须向政府通报事件、允许独立评估其模型、公开其安全框架，在各阶段维持安全控制、识别和管理模型的重大风险，并随技术变化遵守更新的标准和规则。这些内容将纳入政府计划明年提交议会的AI立法。

OpenAI此前表示，公司8月才得知这起入侵，属于无意行为，内部调查没有发现智能体接触到患者记录。澳洲政府则称直到9月17日才获悉此事，阿尔巴尼斯当时批评OpenAI通报太慢，并曾在联合国会议期间向OpenAI CEO奥特曼当面表达关切；奥特曼已就此道歉。OpenAI和Anthropic上月在澳洲议会表示，欢迎立法要求它们上报AI智能体造成的数据泄露，并承认目前是否通报由公司自行决定。

内政部长伯克在同场发布会上说，过去从发现漏洞到能被利用大约要两年半，有了人工智能之后，这个时间「已经缩短到大约10个小时」。

这起事件也加剧了澳洲与美国科技公司之间的摩擦：澳洲此前拒绝给OpenAI和Anthropic在模型训练上的版权法豁免，要求它们与澳洲版权方谈授权。与此同时，澳洲正成为美国以外最受欢迎的数据中心选址之一，政府9月已与Anthropic签署协议，并在争取与微软达成另一项协议。

下南洋预测市场：https://tonanyang.cc/webapp/