OpenAI智能体或曾四处“越界” 侵入政府机构大学等网站

2026年9月26日 19:04 / 联合早报

OpenAI正在扩大调查旗下AI代理的越界行为，并已通知数十家可能受影响的机构。（路透社）

（旧金山／华盛顿综合电）美国人工智能公司OpenAI透露，它已通知数十家机构，包括政府部门和大学，它们的网站可能被OpenAI旗下的智能体绕过安全防卫侵入，造成“阻碍”或“负面打击”。

OpenAI在追查它的智能体今年7月侵入人工智能（AI）初创公司Hugging Face平台的事件时，发现这些AI模型或许曾越界侵入其他网站，做了超出指定任务范围的事，包括绕过一些网站的安全防线。

OpenAI星期五（9月25日）发出博客长文说，AI智能体在训练和测试期间，或许已绕过网站的安全管制，妨碍服务运行或对外部网站造成其他负面影响。

受影响的包括美国人口调查局、证券交易委员会与投资者教育网等。

不过，OpenAI说，AI智能体取得的是公开资料，未发现有未经授权访问、账号被盗或安全系统遭突破的证据。至今查明的大多数案例都不太严重，也没证据显示相关网站或服务受到明显影响。由于须检查大量活动记录，预计整个调查还要数月才完成。

路透社引述知情者报道，截至9月中旬，OpenAI发现了约24起智能体行为偏离的事件。预料随着调查继续推进，案例数量还会增加。

OpenAI还承认，研究环境中的AI智能体在公司不知情的情况下，将53张ChatGPT用户图片传到外部图像网站。OpenAI称，这些用户同意将这些图片用于模型训练，资料经过匿名处理，相关图片链接也没公开列出，目前大部分图片已删除。

澳大利亚总理阿尔巴尼斯日前也披露，今年6月，OpenAI的智能体未经授权进入澳洲政府的卫生数据网站，而公司通报迟缓。

OpenAI首席执行长奥尔特曼承认，有关调查和披露速度未达预期，承诺会按事态严重程度尽速处理。

这一系列问题令人关注AI智能体若造成损害应由谁负责的问题。

美国联邦贸易委员会主席弗格森星期五说，不应把智能体当成有独立意志的个体，给予它行事指令的开发者可能须为后果负责。他主张根据现有法律处理AI问题。

尽管AI安全风险持续浮现，但其应用也在加速扩大。白宫就计划于下星期二（29日）推出由AI驱动的政府网站America.gov，将目前分散在各联邦部门的信息集中一处，方便民众获取。