据 CNBC 报道，当地时间 28 日，代表硅谷选区的民主党联邦众议员罗·康纳准备提交一项 AI 监管法案。其中最硬的约束是：在政府建立安全防护机制、监管机构点头之前，AI 模型不得进行递归式自我改进，也不能擅自改写自身的核心目标、遏制手段或关停控制。

设新机构、上独立审计，芯片也管

康纳把这份提案命名为《人类控制 AI 法案》。他在采访中直言："文明灭绝的风险是真实存在的。失控的安全隐患和滥用风险，两者都得认真看待。"按法案设想，联邦政府要先立规矩并经监管方批准，企业才被允许推进相关活动；在此之前，前沿模型的自我迭代通道被直接锁死。

为确保执行，法案计划新设一个联邦机构，专门负责制定 AI 安全监管规定，用许可制度审批模型的训练与部署，并对前沿模型开展审计、设定安全标准，保证它们持续受测、始终处在有效的人类掌控之中。每一家前沿实验室还必须配独立审计人员，且直接向这个新机构汇报。

新机构还要拉出一份具体的安全清单：沙盒测试环境、把测试环境与互联网物理隔离、紧急关停开关，以及防止模型逃出实验室后在网上自行运行的控制手段。连实验室手里的高端芯片也被纳入监管视野，要建立监测或管控芯片使用的机制。

出事即追责，员工关护栏也犯刑

在惩罚层面，法案同样不留情面。若部署的 AI 模型导致平民群体遭到毁灭，将被列为"危害人类罪"并追究刑事责任。公司内部人员若私自关掉防护措施、紧急开关、日志记录或遏制系统，或是明知某套系统未经授权仍将其上线，同样面临刑事处罚。此外，企业想发布模型，还得先持有覆盖面广泛的责任保险。

康纳称，这是迄今提出的"最全面的 AI 安全立法"，其思路主要来自他与多家独立非营利 AI 安全组织的交流，而非大公司高管的诉求。"我希望它成为范本，让 AI 安全界有发声渠道。他们一直被不公平地当成在谈科幻、没被真正重视……这场讨论该由安全界来主导，而不是前沿实验室的高管。"