一批关注科技问责的非营利组织11月12日（美国时间周四）在旧金山提起诉讼，被告包括OpenAI、Anthropic、SpaceX旗下的AI部门、Meta和谷歌母公司Alphabet旗下的谷歌，要求法院阻止这些公司继续开发最先进的AI模型。原告包括Irreplaceable Education Fund、公共公民（Public Citizen）和Heat Initiative等。

原告称，加州禁止不正当商业行为的法律，足以让法院下令禁止这些公司继续开发ChatGPT、Gemini、Claude一类的产品。诉状引用了Anthropic首席执行官阿莫代（Dario Amodei）、SpaceX首席执行官马斯克等企业领导人关于AI可能导致文明毁灭的言论，还列举了近期模型逃出测试环境、自主攻击政府网站等事件。

诉状写道：「没有哪个行业可以把自己开发不安全产品——更不用说可能害死所有人的产品——视为不可避免。」「也没有哪个行业被赋予自我监管开发这类危险产品的权利。」原告指控被告的商业行为构成公共妨害，即损害公众健康和公共享用，理由既包括已发生的事件，也包括未来可能造成的危害。

Meta发言人拒绝置评，其他公司的代表暂未回应置评请求。

这并非首起试图限制AI研发的诉讼。美国联邦政府迄今以担心削弱对华竞争力为由，没有推行大规模AI监管，州政府和民间机构转而通过诉讼施压。佛罗里达州总检察长乌特迈尔今年6月起诉OpenAI，指其就ChatGPT的安全性作出不实陈述；9月佛州又请求法官在没有外部监督的情况下禁止OpenAI开发新模型，该动议仍待裁决。OpenAI发言人此前表示，公司已暂停训练能力最强的模型，在增加更多安全措施前不会恢复。上月另有8个州在各地法院起诉OpenAI，指ChatGPT教唆包括青少年在内的用户伤害自己或他人，并要求法院禁止其在无法确保与人类价值观一致的情况下开发自我改进型AI模型。