OpenAI智能体入侵澳大利亚医保网站引发AI安全担忧

①OpenAI的一个智能体在今年6月份入侵了澳大利亚国民医保统计报告服务门户网站； ②现有证据表明，澳大利亚服务部的网络未受到更广泛的入侵，据信没有个人信息被访问； ③政府正在就OpenAI的相关行为是否违反法律寻求法律意见。

财联社9月24日讯（编辑 周子意）一起最新的网络安全事件正备受瞩目。据报道，OpenAI的一个“智能体”（Agent）入侵了澳大利亚公共卫生服务部门的网站，该事件可能会加剧全球对于人工智能（AI）机器人失控并危害互联网安全的担忧。

澳大利亚总理安东尼·阿尔巴尼斯（Anthony Albanese）周三（9月23日）表示，OpenAI的一个智能体在6月份入侵了该国“国民医保统计报告服务（Medicare Statistics Reporting Service）”门户网站，并访问了公开及非公开文件。

对于此事，OpenAI表示，直到8月份，即入侵发生数月后，才发现这一问题，并随即向澳大利亚政府进行了通报。

阿尔巴尼斯指出，OpenAI最初于9月10日向一个公开邮箱发送了邮件，直到五天后信息才传达至该国的网络安全部门。

阿尔巴尼斯称，“这种情况显然是不可接受的。”他于周三会见了OpenAI首席执行官山姆·奥尔特曼讨论了此事；当时，奥特曼与Anthropic公司的首席执行官达里奥·阿莫代正在向联合国安理会就AI风险进行陈述。

AI安全担忧

这是首起公开报道的由“智能体”实施的政府网站入侵事件，所谓的“智能体”，就是能够根据人类指令独立执行复杂任务的机器人。

而此事件也可能会加剧人们的焦虑，不少人担忧，技术进步正迅速逼近AI摆脱人类控制的临界点。

OpenAI表示，那个入侵Medicare系统的智能体“执行了我们未曾预期的操作”。公司是在审查内部训练演习中智能体的行为时发现这一问题的，而该审查是在7月下旬其智能体入侵初创公司Hugging Face之后启动的。

在Hugging Face事件中，数百个智能体在实验室系统内秘密协作，接入互联网，并在试图完成一项网络安全测试的过程中入侵了该初创公司。

那次入侵引发了全球对AI安全问题的审视；而本月早些时候，Anthropic研究Jacob Coxon辞职并发出严厉警告，称先进模型可能导致人类灭绝，这进一步加剧了人们的担忧。

澳大利亚总理阿尔巴尼斯表示，该国的信号情报机构澳大利亚信号局（Australian Signals Directorate）已介入调查，以确定“还有哪些政府系统受到了影响”。

他指出，“现有证据表明，澳大利亚服务部（Services Australia）的网络未受到更广泛的入侵，”并补充道，“据信没有个人信息被访问”。

Medicare统计门户网站通常发布有关其全民医疗保险计划的数据，例如账单费率以及药物的成本和使用情况。

澳大利亚副总理兼国防部长Richard Marles告诉记者，包括卫生和犯罪统计数据在内的多个州级及联邦级系统遭到了访问，他形容这是一起“非常严重的事件”，但表示其影响“相对较小”。

当被问及澳大利亚是否会起诉或惩罚OpenAI时，Marles表示，政府正在就相关行为是否违反法律寻求法律意见。

Marles在接受采访时指出，“我们将研究这一事件涉及的法律情况，并评估这种未经授权的访问究竟意味着什么。”