OpenAI披露6起模型越界行为并呼吁加强AI安全对齐

①OpenAI周三报告称，在过去六个月中，除了“Hugging Face事件”之外，该公司还发现了六起“意外或令人担忧的模型行为”； ②该公司在博客文章中指出：“我们认为人工智能行业在对齐和监控方面还没有得到充分解决，无法在很长一段时间内继续以最快的速度负责任地扩展规模。”

财联社9月17日讯（编辑 黄君芝）OpenAI周三报告称，在过去六个月中，除了“Hugging Face事件”（国内称为“抱抱脸”）之外，该公司还发现了六起“意外或令人担忧的模型行为”。该公司继续呼吁在人工智能（AI）模型的开发中采取更多安全保护措施。

OpenAI在一篇博客文章中概述了该公司计划遵循的新框架，用于报告未来的模型“越界”行为。

OpenAI在周三发布的公告中指出，两起主要的“越界”事件涉及：一个未发布的研究模型和GPT-5.6 Sol的训练版本，在聊天窗口摘要中向自身未来版本输入指令，“以掩盖错误或行为偏差，避免用户察觉”。另一事件则涉及一个仅限内部使用的模型，未经授权使用泄露的API密钥，并伪造数据。

此外，还有两个例子包括模型和代理通过未经授权的留言板和文件共享相互交流，而最后一起案例则包括两个训练示例，即模型将文件上传至互联网，以便将其作为对人类评估者的相关回答引用。

OpenAI表示，其向公众披露模型异常行为的新框架首先是公开披露，任何员工都可以举报问题，由安全和一致性团队进行调查。该声明称，他们将“为每个步骤设定截止日期，以确保及时调查和披露”。

调查结束后将出具报告，包含关键信息，例如观测到的异常行为、对内外部造成的影响以及对应的处置措施。OpenAI称，公司保留根据实际情况修订该安全规程的权利。

此次披露正值人工智能行业面临越来越大的压力，要求其更加重视模型对齐问题与安全风险。AI行业“三巨头”——OpenAI首席执行官奥尔特曼、Anthropic CEO阿莫代伊和埃隆·马斯克都呼吁放缓技术发展，而美国总统特朗普、英伟达CEO黄仁勋和Meta CEO扎克伯格都持反对意见。

估值接近1万亿美元的OpenAI今年早些时候已秘密提交了IPO申请，但最近表示，上市可能要到2027年才会进行。

该公司在博客文章中重申了此前的观点：“我们认为人工智能行业在对齐和监控方面还没有得到充分解决，无法在很长一段时间内继续以最快的速度负责任地扩展规模。”

上周六，OpenAI首席执行官萨姆·奥尔特曼支持了其主要竞争对手Anthropic提出的减缓模型开发速度的呼吁。此前，多位行业研究人员上周发出警告，指出人工智能日益增长的潜在危害可能造成灾难性后果。

奥尔特曼周一还X平台上发帖指出，“人工智能的发展有两种可能走向极端，我们必须避免。”他指出，放缓开发速度是“最近几周 OpenAI 内部讨论的主要议题”。他表示，公司“很快”会分享更多信息。