日本内阁府11月11日召开人工智能战略专门调查会下设的制度检讨工作组第二次会议。事务局在会上提出一份素案：要求符合一定条件的AI企业承担确保安全的义务，并设立企业向国家报告、国家发出劝告和命令的权限，违反命令者将以罚则确保执行。

据知情人士透露，按照设想，AI相关事故发生后，若企业不配合当局，政府可以向其发出具有法律约束力的命令，违者将受处罚；处罚预计只针对涉及高性能AI的事故。会议以非公开方式进行，讨论重点包括AI被用于网络攻击、AI失控等重大威胁。

素案把规管对象限定在一定性能以上的AI与特定风险领域重叠的部分，并优先考虑规管提供AI的企业，而不是AI的使用者。由于AI相关企业涵盖研究机构、基础模型开发商和面向终端用户的服务商，政府将进一步研究哪些类型的企业应纳入规管。会上还听取了NTT、Anthropic、谷歌、OpenAI等国内外六家企业的意见。

日本2025年5月通过的AI法以促进研发和应用为主，允许政府对恶意行为的企业进行调查和指导，但没有罚则，相关措施也不具强制力。近来，高性能AI出现难以预料的行为，以及多起疑似涉及滥用AI的数据泄露和非法入侵事件，引发各界担忧。

日本政府10月下旬已启动加强AI规管的讨论，数字大臣古川俊治当时表示，民众对AI的意外行为和网络安全风险越来越关注，政府将把确保AI安全作为「极其重要的课题」。据此前报道，政府最早将在2027年例行国会会期提交AI法修正案，并强化负责评估AI安全的政府机构「AI安全研究所」的职能。工作组计划在年底前提出包括修法内容在内的制度检讨全貌。

下南洋预测市场：https://tonanyang.cc/webapp/