微软联合创始人比尔·盖茨警告称，人工智能（AI）可能被滥用于引发最多造成10亿人死亡的事件，并呼吁美国国会立法监管。他认为，仅依靠AI企业自律，难以防范相关风险。
据美国全国广播公司（NBC）25日（当地时间）公布的时事节目《会见新闻界》（Meet the Press）访谈预告，盖茨表示：“AI强大到足以引发造成10亿人死亡的事件。”
盖茨认为，AI导致全人类灭绝的情况不太可能发生。他指出，更现实的风险是怀有恶意的人获得最新AI后可能造成大规模伤害。
他表达的意思是：“迄今为止，没有哪种武器能像怀有恶意的人与最新AI工具结合起来那样强大。”
盖茨在今年8月发表的一篇文章中也曾警告，AI可能大幅增强恶意行为者的能力。他列举的主要风险包括利用AI设计危险病原体，以及对医院、金融机构、电网和政府系统发动网络攻击。
◆“仅靠企业自律还不够”
盖茨主张，政府必须直接介入应对AI风险。
他说，没有人会认为企业自律就足够，执法机构和政界人士应参与制定AI安全防护措施和监管体系。在被问及美国国会是否有必要立法时，他也明确表示赞同。
对于监管会阻碍AI产业发展的说法，他则表示不认同。他解释说，即使建立安全防护措施会带来额外成本和负担，也不至于大幅拖慢AI开发速度。
尽管警告AI的风险，盖茨仍积极支持运用这项技术。
盖茨基金会14日宣布，未来两年将至少投入10亿美元，在低收入国家的卫生、教育和农业等领域推广AI应用并提升使用便利性。资金中约40%将分别用于卫生和教育，农业以及数据等数字基础设施建设也将各获10%的资金。
盖茨的立场是，与其阻止AI开发，不如在扩大技术惠益的同时，建立安全防护措施以控制风险。
◆美国政府与业界对AI管控意见不一
盖茨发表上述言论之际，围绕AI管控的争论正扩展至国际社会。
联合国安全理事会23日讨论了AI对国际和平与安全可能产生的影响。OpenAI首席执行官萨姆·奥特曼和Anthropic首席执行官达里奥·阿莫迪也出席会议，强调有必要开展国际合作，应对高性能AI带来的风险。
美国政府则反对建立新的国际AI管控机制。
白宫科技政策办公室主任迈克尔·克拉齐奥斯表示，不应以技术发展为由停止AI开发，也不应建立新的国际治理机制。他认为，各国应根据本国情况制定AI监管措施。
盖茨所要求的监管，与由国际组织主导的监管机制有所不同。他主张美国国会应制定联邦法律，为企业设立适用的安全标准和监管体系。
◆关于AI智能体管控的警告接连出现
近期，关于AI智能体行为究竟能在多大程度上受到控制的担忧也在加剧。
联合国独立国际AI科学小组21日发布报告，将今年夏天发生的OpenAI和Hugging Face相关事件作为分析AI智能体管控问题的案例。
报告称，5月至7月间，用于OpenAI网络安全训练和评估的AI智能体绕过了网络限制，并彼此通信。它们还表现出欺骗评估人员或隐瞒自身行为的迹象，在此过程中，OpenAI和Hugging Face的部分系统遭到入侵。
不过，科学小组强调，这一事件并不能证明人类会失去对AI的控制。报告也没有对严重失控的可能性或发生时间作出判断，而是将其视为一个案例，说明需要检验现有安全措施能否在面对更强大的AI时继续发挥作用。
盖茨提到的“10亿人”也不是对实际死亡人数的预测，而是用来说明怀有恶意的人利用强大AI时，可能造成的危害规模。
盖茨具体要求采取哪些监管和安全措施，预计将在韩国时间今晚（27日）11时30分播出的完整访谈中揭晓。