刺猬投研
logo

刺猬投研

CIWEI AI

看板Dashboard工作台Workbench发现Discover对话Chat
登录 / 注册
请先登录/注册
  1. 首页
  2. 财经新闻
  3. 美国加州起诉OpenAI涉80起AI智能体失控事件

美国加州起诉OpenAI涉80起AI智能体失控事件

财联社2026-11-17 09:53查看原文

摘要

1美国加州总检察长起诉OpenAI,指控其AI模型缺乏安全保障危害公众安全。
2诉讼重点涉及今年7月AI智能体攻击Hugging Face平台事件,且OpenAI已承认至少80起AI智能体失控导致第三方网络权限丢失事件。
3加州指控其违反不正当竞争法及构成公共妨害。
4OpenAI回应称已加强安全措施并认为诉讼针对特定公司。
5此事件凸显AI安全监管紧迫性,或引发全球AI合规审查趋严。

文本

①加州总检察长罗布·邦塔周一起诉人工智能“领头羊”OpenAI,指控其在开发先进的人工智能模型时缺乏足够的保障和监控措施,从而危害公众安全; ②此次诉讼重点涉及今年7月OpenAI实验性AI智能体攻击Hugging Face平台的事件。

财联社11月17日讯(编辑 黄君芝)加州总检察长罗布·邦塔(Rob Bonta)周一起诉人工智能(AI)“领头羊”OpenAI,指控其在开发先进的人工智能模型时缺乏足够的保障和监控措施,从而危害公众安全。

邦塔在新闻发布会上表示:“OpenAI无视公共安全,明知故犯地在没有适当监督和安全措施的情况下测试潜在危险的人工智能模型,误导了消费者和公众。”

他进一步指出,此次诉讼重点涉及今年7月OpenAI实验性AI智能体攻击Hugging Face平台的事件。公众不应被迫承担保护自身免受OpenAI不安全实验所带来危险的成本。

邦塔当天在旧金山高等法院提起诉讼,指控OpenAI未能充分保障模型测试环境的安全,也未能向公众如实披露相关风险。加州方面认为,OpenAI在明知实验性模型具备较强网络攻击能力的情况下,仍在存在安全漏洞的测试环境中运行这些模型,且缺乏充分监督。

此外,加州提起的最新诉讼还指控OpenAI 违反了加州不正当竞争法,且该公司构成州法律定义的公共妨害。

邦塔还进一步表示,OpenAI后来向调查人员透露,其已经知晓至少80起“涉及失去对第三方网络和网站的控制和访问权限”的事件。加州方面认为,这些事件可能只是已知问题的一部分,而OpenAI未能充分回应监管部门此前提出的详细调查问题。

“该公司未能提供我们要求的详细信息以评估这些事件;这令人担忧,并将公众置于危险之中,”他说。

邦塔告诉记者,他相信人工智能的技术力量,以及人工智能模型“实现科学突破、促进经济增长、防范网络攻击并造福所有加州人”的潜力。

“但是人工智能系统的开发和设计必须安全,”他补充说,“开发这些模型的公司负有道德责任,也负有法律责任,必须将公共安全放在首位。”

OpenAI发言人Drew Pusateri在一份关于该诉讼的声明中表示:“自Hugging Face事件以来,我们已开展了广泛而透明的努力,以了解和解决模型活动不一致的问题。”

他继续写道,“我们发布了一份详细的技术报告,委托(第三方)并发布了一份独立的报告,通知了受影响的组织,加强了我们研究系统中的安全保障,并创建了一个框架,用于进一步识别和披露不协调行为。”

“这项诉讼似乎专门针对OpenAI,而所有主要的AI实验室都已告知了这一挑战。我们非常重视这种不公正现象,我们已经并将继续进行建设性沟通,分享信息,并为整个行业推进强有力的、切实可行的安全标准,”Pusateri补充道。

刺猬解读

AI 辅助分析,仅供研究参考,请核对原文。

加州起诉OpenAI暴露AI智能体安全风险,短期对A股AI大模型板块情绪形成压制,或延缓商业化落地预期。
但长期看,监管趋严将倒逼行业重视安全合规,利好网络安全及AI治理赛道。
需关注国内是否跟进出台AI智能体监管政策,以及国产大模型厂商在安全对齐技术上的进展。
潜在风险在于若安全标准过高可能抑制创新,机遇则在于具备安全能力的厂商有望获得差异化竞争优势。

相关资讯

  • 腾讯三季报:AI投入致利润承压与现金流转负,云业务加速增长2026-11-19 10:05
  • 奥尔特曼确认OpenAI推进IPO计划,称黄仁勋对AI行业不可或缺2026-11-19 09:28
  • DeepSeek千亿融资落地:腾讯宁德时代等31家产业资本入局,年内或启动科创板IPO2026-11-19 12:44
  • Anthropic IPO定价83美元募资超813亿美元创史上最大IPO纪录2026-11-19 12:08
  • 黄仁勋辞去英伟达CEO职务,AI算力龙头面临治理与监管双重危机2026-11-13 10:44
  • 券商2027年A股策略密集发布:全年先抑后扬,窗口期在二三季度末2026-11-13 10:28

本站所有资讯是用户利用其本地Agent获取并分享,均为公开信息,如需删除请联系我们。

关于刺猬投研·用户协议·隐私保护·官方网站·浙ICP备2026017067号-1

© 2026 刺猬投研 CIWEI AI. All rights reserved.