DeepMind首席执行官德米斯·哈萨比斯公开提议,由美国主导新设AI监管机构。
他在14日(当地时间)于X(原推特)上发文称,“距离AGI出现只剩几年时间”,并判断这一技术的影响力将比工业革命大10倍、快10倍,其变化更接近电力或火的发现,而不是互联网或移动通信。
该设想很具体。他点名的范本是美国金融业监管局(FINRA)。也就是像在美国证券交易委员会(SEC)监督下监管华尔街的民间机构一样,新设组织将评估尖端AI模型,并与联邦机构协作,负责网络安全、生物风险等安全领域测试。
初期,最前沿AI研究机构将在模型发布30天前自愿提交接受审查;若证明有效,之后将改为强制提交。运营资金由业界承担,初创企业或学界的非前沿模型则排除在对象之外。
据悉,哈萨比斯CEO以年内成立机构为目标,数月来已与特朗普政府、欧洲官员及业界同仁进行事前协调。
此次提议出现在知名AI研究者和经济学家发布担忧AI引发大规模失业的声明之后。声明署名者包括Anthropic联合创始人杰克·克拉克、前谷歌CEO埃里克·施密特等。哈萨比斯CEO虽未签名,但对技术冲击力的危机意识与此脉络一致。
他曾打造2016年击败李世石九段的围棋AI“AlphaGo”,并因开发蛋白质结构预测AI“AlphaFold”于2024年共同获得诺贝尔化学奖。可以说,这是业界对AGI时间点一直最为谨慎的人,公开给出了“几年”的时间表。

此次提议之所以引人注目,在于未来可能成为监管对象的企业负责人,竟亲自拿出了监管设计图。
AI业界过去一直对政府介入持防御态度。改变这一趋势的变量是安全。美国商务部以安全为由,对Anthropic的高性能模型“Claude Mythos”发出了一段时间内限制外国人使用服务的出口禁令指令。OpenAI则在最新模型“GPT-5.6”正式发布前,先向政府批准机构提前公开,再完成正式上线程序。
促成这一变化的是今年4月出现的Mythos。据悉,该模型具备发现电脑代码安全漏洞并加以利用的能力,这引发了美国安保当局和金融界的担忧,也成为此前对AI监管较为消极的特朗普政府立场转变的背景。
特朗普总统上月2日签署的行政命令也属于同一脉络。该命令要求高性能模型在发布前30天接受政府安全审查,同时以企业自愿配合作为原则。
最初草案的审查期为90天。由于业界担心会拖慢美国企业开发速度、在与中国竞争中落后,因此缩短为30天。哈萨比斯CEO的提议,就是把这一自愿体系制度化为民间常设机构。可以看出其算盘是,在政府正式大规模监管之前,由业界掌握标准设定主导权。
特朗普政府的反应颇为友好。哈萨比斯CEO向美国媒体Axios表示,来自政府方面的反馈非常积极。
将小型开发者和学界排除在监管对象之外的设计,被认为是为了避免“大企业借助监管压制竞争者”的所谓监管俘获批评。
但反对意见也不少。有人指出,由业界出资的机构去判定业界模型风险,本身就存在利益冲突。延伸出来的问题是,一旦确认风险,是否真的具备强制叫停开发的实效性。
美国政界部分人士仍主张,依赖自愿参与的体系难以控制危险模型,必须实施强制监管。对于美国单独主导是否能够取代欧盟的监管体系或国际共识,也仍存在怀疑。
这释放出一个信号:AI治理的重心正在向美国倾斜。随着行政命令、出口管制、民间标准机构构想接连出现,美国事实上正在独占设计前沿模型验证标准的格局逐步成形。
哈萨比斯CEO本人也表示,美国主导的机构将会引向国际标准制定。若从自愿提交走向强制化真的实现,各国AI企业可能面临必须通过美国标准才能进入市场的局面。验证程序将成为新的准入门槛。
首先要解决的是切断利益冲突的装置。新设机构若想赢得信任,即便资金由业界承担,判定权也必须放在业界之外。
其起点应是组建董事会:由图灵奖得主级别的独立专家、开源阵营和政府人士共同参与,并公开评估标准和结果,使其可接受外部验证。
评估基准应定期更新,以防模型在考试过程中学习到测试内容,但更新主体必须与被评估企业分离。机构在建议停止开发时,也需要具备可执行依据。
正如FINRA受到SEC的法律监督,新设机构若没有联邦机构的监督与处罚联动,就难以拥有超越建议的实质力量。这是美国政府与参与企业在机构启动阶段必须解决的问题。
下一步是立法。若要把自愿提交转为强制义务,就需要法律依据,而非仅靠行政命令。美国国会应提前着手研究相关基础法,内容包括被验证模型的标准、拒绝提交时的制裁,以及企业商业秘密保护要求。
因为如果要建立一个不受政权更迭影响的体系,仅靠行政部门单独行动显然有局限。评估过程中政府与机构接触到的模型信息保密,以及知识产权保护机制,也需要在法律中明文化,才能吸引企业参与。
韩国政府的应对可分为两条线。短期上,是在美国标准尚未固化为国际标准前,尽早参与形成阶段的讨论。
科学技术信息通信部和外交部应至少以观察员身份进入新设机构的讨论,把评估项目和程序中的国内企业利益反映进去,并推动韩美之间评估结果互认,以减轻国内企业双重验证的负担。
在结构层面,提升自主评估能力才是关键。应扩充AI安全研究所针对前沿模型评估的人力与算力,把网络和生物风险评估方法提升到可与美国机构兼容的水平,才能在互认谈判中握有筹码。
同时推进国内AI基本法下位法规与美国验证体系保持一致,也是一项必须并行的工作。是只照抄验证标准的国家,还是能够与之共同使用标准的国家,差距就会在这里拉开。