美国加州民主党众议员罗·卡纳即将向国会提交一项全面人工智能监管法案，希望对前沿AI技术建立迄今最严格的联邦监管框架。该提案不仅要求实施严格责任制度，还计划禁止具备“递归自我改进”能力的人工智能系统投入使用，直到联邦政府建立完整安全保障体系为止。
这项法案被命名为《人类控制人工智能法案》（Human Control Over AI Act）。法案出台背景正值美国科技界和政策界对于先进人工智能潜在风险的担忧持续升温。近年来，多位AI企业高管公开警告，未来某些人工智能系统可能超出人类控制能力，而国会至今尚未形成全面监管方案。
罗·卡纳在接受采访时表示，人工智能不仅存在被滥用的风险，更可能带来失控风险。他认为，人类必须认真对待这两类问题，因为相关技术的发展已经触及文明层面的安全议题。
根据法案内容，所谓“递归自我改进”人工智能将被禁止。这类系统被定义为能够自主提升自身能力，或者能够自行修改核心目标、控制机制以及关闭规则的人工智能模型。
按照提案要求，在联邦安全规则建立之前，任何相关活动都不得开展。即便未来开放，也需要经过专门监管机构批准后才能进行。
法案还计划成立一个新的联邦人工智能监管机构，专门负责监督OpenAI、Anthropic、Google DeepMind以及xAI等开发前沿模型的企业。
该机构将承担多项职责，包括制定AI安全法规、建立模型训练和部署许可制度、执行前沿模型审计以及制定持续测试和有效人类控制标准。
与此同时，新机构还将负责制定一系列技术安全要求，包括隔离测试环境、网络隔离措施、紧急关闭系统以及防止模型脱离实验环境进入开放互联网运行的控制机制。
根据方案，所有从事前沿模型开发的实验室都必须接受独立审计。审计人员将长期驻留相关机构并直接向监管部门汇报，而不通过企业管理层传递信息。
除了监管模型本身之外，法案还计划将部分先进AI芯片和算力资源纳入监管范围，以进一步加强对高风险人工智能开发活动的监督。
在责任制度方面，该法案采取了明显强硬立场。
提案要求人工智能公司在发布先进模型前购买大规模责任保险，以确保未来出现损害后具备赔偿能力。
同时，法案还引入刑事责任机制。任何员工如果故意关闭安全保护、关闭紧急停止机制、篡改日志记录、破坏隔离系统或者明知未获授权仍部署相关模型，都可能面临刑事处罚。
更引人关注的是，法案还拟设立与“危害人类行为”相关的刑事责任条款。如果某些人工智能系统造成大规模平民伤害，相关部署行为可能触发更严重的法律后果。
罗·卡纳表示，这项法案是目前最全面的人工智能安全监管提案之一。他强调，法案内容主要来自与人工智能安全研究团体的长期交流，而不是根据大型科技公司的意见制定。
与此同时，卡纳还呼吁美国政府推动国际层面的人工智能安全合作，包括与中国达成可执行的安全协议，并建立验证、审查和控制机制，以降低未来危险人工智能系统扩散风险。
分析人士认为，这项提案代表着美国国会内部一股日益增强的声音，即前沿人工智能不应仅依靠企业自律，而需要建立类似药品监管体系的政府监督机制。
不过，法案未来能否顺利通过仍存在较大不确定性。支持者认为监管能够降低失控风险，而反对者则担心过于严格的限制措施可能削弱美国在全球人工智能竞争中的创新能力。
尽管如此，随着人工智能能力持续提升，这场围绕“人类是否应该在技术失控前设置边界”的争论，已经正式进入美国立法层面。