▶ Anthropic 已向美国联邦国会议员非正式提交一份先进人工智能安全监管法案草案。
▶ 草案将风险原因限定为制造或释放生物武器、模型脱离开发者控制，以及网络攻击。
▶ 草案还包含以联邦法律取代各州在风险披露、外部评估和事故报告领域相关法律的条款。
Anthropic亲自起草人工智能监管法案，并提交给国会。美国政治媒体《政客》16日（当地时间）援引三名知情人士报道称，Anthropic相关人士已向联邦国会议员非正式提交一份监管先进人工智能安全与保障的法案草案。
草案的核心内容是，在大规模损害迫在眉睫时，政府可以阻止人工智能模型发布或使用，同时严格限定介入的条件和主体。
Anthropic发言人表示，草案赋予政府“阻止或限制危险部署最强大模型”的权力。
◆ 只有损害规模和原因同时符合条件，政府才能介入
草案以具体数字设定了政府介入的门槛：可预见且迫在眉睫的风险可能导致超过10亿美元（约1.385万亿韩元）的财产损失，或造成超过50人死亡或重伤。
风险原因也被限定为三种：▲人工智能被用于制造或释放生物武器；▲模型脱离开发者的控制；▲涉及网络攻击。只有风险符合其中一种情形，且达到规定规模的损害迫在眉睫时，政府才能采取行动。
今年夏天，几家主要人工智能企业曾披露，人工智能代理在浏览网站和平台或进行黑客攻击时发生过事故。截至目前，还没有出现人员死亡或造成草案规定规模损害的案例。
◆ 商务部提出申请，由法院作出决定
暂停模型的权力不属于行政部门，而归法院所有。如果商务部判断存在风险并提出申请，哥伦比亚特区（华盛顿特区）联邦地区法院法官可以下令暂停模型发布或使用。
草案禁止商务部以外的其他部门、机构或公职人员叫停人工智能模型的开发、部署或内部使用。该条款旨在防止联邦贸易委员会（FTC）等其他机构单独叫停人工智能模型。
这一制度设计与国会正在进行的其他讨论相呼应。上月29日，参议院商务委员会主席特德·克鲁兹反对民主党议员马克·华纳等人提出的《人工智能风险管理与安全法》以一致同意方式通过，认为该法案赋予商务部和安全委员会过多权力，并表示他更倾向于由“独立法官”发挥作用。
华纳提出的法案计划在商务部设立人工智能安全委员会，并要求开发商在模型发布前45天向其提供访问权限。克鲁兹正与参议院多数党领袖约翰·图恩、参议员艾米·克洛布彻协商另一项聚焦生物和核灾难风险的法案。
◆ 外部评估机构检查，须在72小时内报告
草案还规定了开发商的义务。根据草案，先进人工智能开发商必须测试模型安全性，并通过透明度报告公开结果。
草案要求保护举报人，并规定开发商须向商务部报告重大安全事故。由商务部登记的外部评估机构将定期检查人工智能实验室和模型。
如果评估机构发现法案所定义的迫近风险，必须在完成评估后72小时内通知商务部。实验室可以支付评估费用，但评估报酬不得根据评估结果而有所变化。
草案还包含一项条款，以联邦法律取代各州在风险披露、外部评估和重大事故报告领域的部分法律。
Anthropic此前在6月公布的《先进人工智能框架》中表示，除非联邦政府出台不低于该框架标准的监管措施，否则不应以联邦法律取代州法。
◆ 将6月框架转化为法案条文
Anthropic发言人对《政客》表示，草案反映了公司今年早些时候公布的《先进人工智能框架》中的提议，并称这是“国会应当采取的合理政策”。
Anthropic表示，自6月以来一直在向联邦和州议员介绍该框架。框架建议，对训练计算量超过10的25次方浮点运算（FLOP）的模型，以及人工智能收入超过5亿美元或研发支出超过10亿美元的开发商，要求其公开安全框架、每六个月发布一次风险报告、在15天内报告重大事故，并引入独立评估机构。
国会已经提出类似法案。今年7月，众议院议员、民主党人洛里·特拉汉和共和党人杰伊·奥伯诺尔蒂提出《前沿法案》，授权政府暂停危险模型的部署。
部分议员和安全组织认为，政府应在审查先进模型方面发挥远大于目前的作用。
上月，特朗普总统与Anthropic、谷歌、Meta、英伟达、OpenAI等六家公司的高管签署自愿协议，承诺加强内部控制、外部评估和董事会监督。众议院将在11月3日中期选举后，于9日复会。目前尚无议员在Anthropic的草案上署名提案。