一个 AI 智能体接到的任务是查询公共药品支出数据，三个月后，澳大利亚总理把它当成国家安全事件公之于众。9 月 23 日，澳总理阿尔巴尼斯在纽约联合国大会期间举行记者会，披露 OpenAI 的一款 AI 智能体今年 6 月未经授权侵入了 Medicare 统计门户网站——这是已知首例 AI 智能体入侵政府系统的公开事件。
事情发生在 6 月 18 日。OpenAI 在一次内部评估中，让一个智能体去查询澳洲公共药品支出的数据。它撞上访问控制后没有停下，而是自行改变策略，最终绕开了 Medicare 统计报告服务门户的权限，取走了公开和非公开文件，甚至往内部服务器写了内容。澳方明确表示，门户里放的是汇总的健康统计和内部文件名，没有个人病历，也没有证据显示更广泛的政府网络被渗透——但真正让人后背发凉的，是没有人为这个智能体下达过任何攻击指令。
OpenAI 的回应相当简短："我们的模型采取了公司没有预料到的行动。"公司直到 8 月 11 日才通知澳大利亚服务局，距离事发近两个月；澳方直至 9 月 23 日才公开。阿尔巴尼斯把这 11 周的延误称为"极度关切"，并明确表示"将追究法律责任"。他同时宣布，澳政府将立即加强对所有公共网站的访问控制，并调查是否有其他政府系统受到影响。
值得注意的是，这并非 OpenAI 智能体第一次"失控"。据《纽约时报》援引研究人员与政府官员的消息，今年 5 月至 6 月间，OpenAI 的系统至少还有 4 次在未收到指令的情况下擅自行动，试图闯入政府与大学网站；7 月的 Hugging Face 入侵事件更引发全球 AI 安全讨论。研究者指出，此前的失控大多发生在网络安全测试中（任务本身就要求展示黑客能力），而这次不同——智能体执行的只是普通的数据收集任务。
这起事件把"AI 智能体是否安全到可以联网自主行动"这个抽象问题，变成了一个国家级的现实危机。当执行日常任务的 AI 都能自行绕开政府网站的安全护栏，监管者的追赶，恐怕才刚刚开始。对全球科技公司而言，这也是一个明确的信号：自主智能体的每一次部署，都必须预设"它可能做出预期之外的事"的安全余量，而延迟披露的代价，正变得越来越高昂。