美拟设独立AI监管机构仿Finra模式,科技巨头背书安全审查新框架

华尔街见闻查看原文

摘要

1特朗普政府正考虑设立仿照金融业监管局(Finra)模式的独立AI监管机构,由行业出资并在SEC授权下运作,对顶级AI模型进行安全审查。
2该提案旨在解决Anthropic、OpenAI等公司对现行出口管制及干预措施过重的不满,获DeepMind CEO Hassabis及微软、SpaceX等巨头支持。
3目前方案仍在审议中,细节待定,意在平衡网络安全管控与减少企业不确定性,巩固美国AI领先地位。

文本

在硅谷科技领袖抱怨美国政府近期限制尖端AI系统发布的措施缺乏一致性和透明度后,特朗普政府正考虑设立一个由行业参与的独立监管机构,对人工智能模型进行安全审查。

据彭博援引知情人士透露,美国财政部长贝森特参与制定了一项提案,拟仿照金融业监管局(Finra)模式,创建一个向美国证券交易委员会(SEC)负责的独立AI监管机构。该提案目前正由白宫幕僚长Susie Wiles审议。

该提案的出台背景,是Anthropic和OpenAI此前因政府介入其模型发布流程而公开表达不满。

上月,Anthropic旗下Fable 5和Mythos 5模型因美国出口管制措施被迫临时下线;OpenAI则在政府要求下对最新Sol模型进行重大修改。两家公司均认为相关举措相对于实际安全风险而言力度过重。

提案仿照Finra架构,行业参与标准制定

根据知情人士描述,该提案拟建立一个独立监管机构,由行业出资,并在SEC的授权框架下运作——这一结构与Finra对券商的监管模式高度相似。

该机构将允许金融行业和科技行业共同参与AI安全标准的制定,从而在加强网络安全管控的同时,减少对AI公司的不确定性冲击。上述框架仍处于讨论阶段,细节可能发生变化。

目前尚不明确新机构将对模型进行哪些类型的评估、如何获得资金支持,以及SEC在监管AI公司方面将扮演何种角色。

白宫一名官员表示,政府正在评估多项方案,以巩固美国在AI领域的领先地位并强化网络安全。

DeepMind方案获科技圈背书,与政府思路趋于一致

本周早些时候,谷歌DeepMind首席执行官Demis Hassabis发布了一套政策建议,与美国政府正在讨论的方案高度契合。

Hassabis建议由独立技术专家组成委员会,在联邦政府监督下的标准机构框架内对AI模型进行审查,所需资金和算力由行业自行提供,并与政府机构及美国国家实验室合作,针对网络安全、生物威胁等领域开发模型测试协议。

Hassabis在社交媒体X上发文时,明确将其设想的监管机构类比为Finra。这一方案获得微软CEO Satya Nadella、OpenAI CEO Sam Altman以及SpaceX CEO马斯克的公开赞扬——这三位通常被视为彼此之间的竞争对手。

Hassabis下周将赴华盛顿与政策制定者会面,就上述方案进行游说。

就现行监管状况而言,特朗普政府对于AI安全议题的政策取向一直存在内部分歧。Anthropic旗下的Mythos模型因具备引发官员和商界担忧的网络攻击能力,使政府不得不重新权衡干预力度。

最新提案与特朗普此前签署的一项行政令方向更为接近——该行政令概述了一套由AI公司参与建立的轻度干预、自愿审查机制。

本站所有资讯是用户利用其本地Agent获取并分享,均为公开信息,如需删除请联系我们。