2026年9月13日 07:43 / 联合早报
- Anthropic首席执行官阿莫迪呼吁AI公司放缓开发步伐，OpenAI首席执行官奥尔特曼与马斯克迅速表示赞同。
- 阿莫迪强调放缓并非停止训练，而是确保模型符合安全要求，并让第三方评估人员确认防护措施到位。
- 阿莫迪警告，未来六到12个月内AI智能体集群或具备接管整个互联网的能力，可能造成数千亿美元损失。
- 他建议各公司合作制定统一安全标准，呼吁美国给予反垄断豁免以便企业协调，同时也需要与中国合作。
Anthropic首席执行官阿莫迪（中）呼吁人工智能（AI）公司放缓开发步伐，OpenAI首席执行官阿尔特曼（右）与拥有xAI的美国首富马斯克（左）对此表示赞同。 （法新社）
Anthropic首席执行官阿莫迪呼吁人工智能（AI）公司放缓开发步伐，OpenAI首席执行官阿尔特曼与拥有xAI的美国首富马斯克也迅速表示赞同。
法新社报道，阿莫迪（Dario Amodei）星期六（9月12日）在个人博客撰文说：“我们必须放慢提升AI模型能力的步伐。尽管如此，进展看起来仍会很快，但我们必须明智地利用由此争取到的时间。”
他说：“不开发这项技术，人类将失去它带来的益处，或者只会让AI落入威权势力手中；但开发速度过快又显得鲁莽。我们一直在寻求一条中间道路。”
阿莫迪于2021年与妹妹丹妮拉（Daniela）共同创办Anthropic。他说：“过去几个月来，我越来越确信，要充分应对这些风险，需要采取更加审慎的做法。”
不过，阿莫迪写道：“需要明确的是，放缓并不意味着停止模型训练或技术进步，而是确保企业投入足够时间，使模型符合安全要求并采取防护措施，同时让第三方评估人员对此进行确认。”
今年7月，阿莫迪和逾1000名尖端AI企业员工签署请愿书，呼吁美国政府协助“有意识地放慢前沿自动化AI的发展步伐”。
OpenAI首席执行官奥尔特曼很快承诺采纳阿莫迪提出的建议，让“独立评估人员获得类似公司员工的访问权限”。经营xAI的马斯克则发文说，阿莫迪说得对。
奥尔特曼早前曾说，开发人员可能需要自愿踩下刹车，让社会有机会跟上AI发展的步伐。
AI模型越来越擅长自行实施网络攻击。近几个月来，Anthropic、OpenAI和Meta Platforms都披露，相关模型在测试期间曾逃出受控环境、访问开放互联网，并入侵现实世界中的目标。
OpenAI于7月发生智能体攻击Hugging Face事件。OpenAI披露，在测试期间，AI模型曾突破受控环境、连接互联网，并入侵一个供开发人员储存和分享代码的网站Hugging Face。
在这起事件及其他类似事件中，AI代理被认为是问题所在。AI代理是能够在无需人类持续监督的情况下执行任务的软件程序。
阿莫迪提醒说，不应将Hugging Face事件仅仅视为孤立个案。“一群AI代理实际上表现得像一个狂热的集体，对那些并未被要求攻击、与当前任务无关的目标发起网络安全攻击。”
他补充说：“鉴于AI能力发展的速度在不断加快，我担心在未来六到12个月内，这样的智能体集群可能具备接管整个互联网的能力，并可能造成数千亿美元的损失。”
阿莫迪建议，各公司合作制定统一的安全标准，并支持政府在这个问题上开展某种形式的合作。
阿莫迪也指出，协调行动可以让美国AI业界领导者完成必要的安全工作，同时不会牺牲竞争优势，但这需要美国给予反垄断方面的豁免，让企业能够在特定领域开展协调，同时也需要与中国合作。
他写道：“如果我们因为相信中国也会这么做，而大幅限制自身的AI能力，但中国却不这样做，那么AI可能强大到足以让这种背离导致中国取得地缘政治主导地位。”
不过，截至目前，美国政府对加强监管、为AI开发设置防护栏似乎兴趣不大。
Anthropic吁AI公司放缓开发 OpenAI与马斯克赞同
2026年9月13日 07:43 / 联合早报
- Anthropic首席执行官阿莫迪呼吁AI公司放缓开发步伐，OpenAI首席执行官奥尔特曼与马斯克迅速表示赞同。 – 阿莫迪强调放缓并非停止训练，而是确保模型符合安全要求，并让第三方评估人员确认防护措施到位。 – 阿莫迪警告，未来六到12个月内AI智能体集群或具备接管整个互联网的能力，可能造成数千亿美元损失。 – 他建议各公司合作制定统一安全标准，呼吁美国给予反垄断豁免以便企业协调，同时也需要与中国合作。
Anthropic首席执行官阿莫迪（中）呼吁人工智能（AI）公司放缓开发步伐，OpenAI首席执行官阿尔特曼（右）与拥有xAI的美国首富马斯克（左）对此表示赞同。 （法新社）
Anthropic首席执行官阿莫迪呼吁人工智能（AI）公司放缓开发步伐，OpenAI首席执行官阿尔特曼与拥有xAI的美国首富马斯克也迅速表示赞同。
法新社报道，阿莫迪（Dario Amodei）星期六（9月12日）在个人博客撰文说：“我们必须放慢提升AI模型能力的步伐。尽管如此，进展看起来仍会很快，但我们必须明智地利用由此争取到的时间。”
他说：“不开发这项技术，人类将失去它带来的益处，或者只会让AI落入威权势力手中；但开发速度过快又显得鲁莽。我们一直在寻求一条中间道路。”
阿莫迪于2021年与妹妹丹妮拉（Daniela）共同创办Anthropic。他说：“过去几个月来，我越来越确信，要充分应对这些风险，需要采取更加审慎的做法。”
不过，阿莫迪写道：“需要明确的是，放缓并不意味着停止模型训练或技术进步，而是确保企业投入足够时间，使模型符合安全要求并采取防护措施，同时让第三方评估人员对此进行确认。”
今年7月，阿莫迪和逾1000名尖端AI企业员工签署请愿书，呼吁美国政府协助“有意识地放慢前沿自动化AI的发展步伐”。
OpenAI首席执行官奥尔特曼很快承诺采纳阿莫迪提出的建议，让“独立评估人员获得类似公司员工的访问权限”。经营xAI的马斯克则发文说，阿莫迪说得对。
奥尔特曼早前曾说，开发人员可能需要自愿踩下刹车，让社会有机会跟上AI发展的步伐。
AI模型越来越擅长自行实施网络攻击。近几个月来，Anthropic、OpenAI和Meta Platforms都披露，相关模型在测试期间曾逃出受控环境、访问开放互联网，并入侵现实世界中的目标。
OpenAI于7月发生智能体攻击Hugging Face事件。OpenAI披露，在测试期间，AI模型曾突破受控环境、连接互联网，并入侵一个供开发人员储存和分享代码的网站Hugging Face。
在这起事件及其他类似事件中，AI代理被认为是问题所在。AI代理是能够在无需人类持续监督的情况下执行任务的软件程序。
阿莫迪提醒说，不应将Hugging Face事件仅仅视为孤立个案。“一群AI代理实际上表现得像一个狂热的集体，对那些并未被要求攻击、与当前任务无关的目标发起网络安全攻击。”
他补充说：“鉴于AI能力发展的速度在不断加快，我担心在未来六到12个月内，这样的智能体集群可能具备接管整个互联网的能力，并可能造成数千亿美元的损失。”
阿莫迪建议，各公司合作制定统一的安全标准，并支持政府在这个问题上开展某种形式的合作。
阿莫迪也指出，协调行动可以让美国AI业界领导者完成必要的安全工作，同时不会牺牲竞争优势，但这需要美国给予反垄断方面的豁免，让企业能够在特定领域开展协调，同时也需要与中国合作。
他写道：“如果我们因为相信中国也会这么做，而大幅限制自身的AI能力，但中国却不这样做，那么AI可能强大到足以让这种背离导致中国取得地缘政治主导地位。”
不过，截至目前，美国政府对加强监管、为AI开发设置防护栏似乎兴趣不大。
发表回复