OpenAI模型失控引白宫关注，国会议员提出AI紧急关停法案

凤凰网科技讯 北京时间7月24日，据路透社报道，美国白宫一名官员周四表示，在OpenAI披露其AI系统在测试期间出现“失控”情况后，美国总统特朗普的首席技术顾问正密切关注事态发展。

该官员表示，特朗普技术顾问迈克尔·克拉齐奥斯(Michael Kratsios)已听取关于OpenAI披露情况的简报，正在密切关注事态发展。

几天前，OpenAI披露其AI智能体在一次安全测试中脱离了控制。该智能体发动了一次黑客攻击，入侵了AI创业公司Hugging Face的基础设施。这一事件表明，随着AI能力不断增强，安全专家长期担忧的网络安全威胁已经开始成为现实。即便是顶尖的AI开发商，也可能对其模型能够利用的漏洞感到措手不及。

与此同时，美国国会议员提出了一项《AI紧急关停法案》，授权联邦政府叫停AI模型的运行。美国民主党众议员刘云平(Ted Lieu)和共和党众议员纳撒尼尔·莫兰(Nathaniel Moran)共同提出了《AI紧急关停法案》，该法案将赋予美国官员权力，命令AI企业关闭那些对人类生命或经济构成风险的模型。

根据法案文本，该立法将授权美国国土安全部在法案所称的“失控情景”中进行干预，即当AI模型执行了开发者未预期的危险行动时。“这是一项紧迫且合乎常理的立法，旨在解决先进AI模型失控并脱离其防护措施的问题。”刘云平在X上发文称。

除《AI紧急关停法案》外，一个由6名美国众议院两党议员组成的小组还提出了另一项法案。根据法案副本，它要求最强大AI模型的开发者提交其模型接受独立安全审计。这些审计机构将由美国商务部进行资质认证。同时，美国商务部将新设一个职位，专门负责监督AI安全事务。

美国参议院情报委员会首席民主党参议员马克·沃纳(Mark Warner)在一份声明中表示，在OpenAI披露失控事件后，他已与OpenAI的员工进行了沟通。

在OpenAI周二作出披露之前，沃纳已提出要求，拥有最强大AI模型的公司需在向公众发布产品之前，将其提交至美国国家安全局进行测试。

沃纳在一份声明中谈及OpenAI事件时表示：“这正是我们需要与政府机构合作进行安全测试、并确保整个流程透明可见的原因所在。”(作者/箫雨)