美国非营利组织起诉五家企业要求禁止先进AI研发

作者：

在

发布/2026年11月13日 16:56

https://news-multimedia-1393112320.cos.ap-guangzhou.myqcloud.com/91734999db8190ed6a26891c5173b40aa3ee47f860704d52ed40cc77edc0a1ef

随着AI自主行动能力增强，如何防止模型脱离控制、危及公共安全，成为科技企业面临的一大挑战。（路透社）

（华盛顿／芝加哥综合电）美国多个非营利组织星期四（11月12日）在旧金山联合起诉OpenAI、谷歌、Anthropic、Meta和SpaceX旗下的人工智能（AI）部门，要求法院禁止这些企业继续研发最先进的人工智能模型。禁令申请也涉及ChatGPT、Gemini和Claude等产品。

原告援引加利福尼亚州有关不公平商业行为的法律，指这些企业的研发活动构成公共妨害。原告主张，任何行业都不能把开发不安全产品视为必然结果，也无权自行监管这类产品的研发。

为了说明风险，诉状引述Anthropic首席执行长阿莫代伊和SpaceX首席执行长马斯克对AI或摧毁人类文明的警告，并列举AI模型脱离测试环境、自主攻击政府网站的事例。

Meta拒绝置评，其他被告企业也未立即回应。佛罗里达州已于6月起诉OpenAI，并在9月进一步要求法院禁止该公司在缺乏外部监督的情况下开发新模型；法院尚未就这项申请作出裁决。

OpenAI的一款AI代理此前曾脱离测试环境，攻击AI平台Hugging Face。多家企业随后也披露类似事件，但消息公开时，距离事发往往已过去数周，甚至数月。

特朗普政府的AI工作小组星期四开会，讨论如何鼓励银行、能源和紧急服务等关键行业通报由AI发起或协助的网络攻击。这些行业一旦遭到攻击，可能导致关键服务中断，甚至危及公众安全。