人工智能公司Anthropic近日向美国国会议员私下提交了一份人工智能安全法案草案，试图为先进AI模型建立联邦层面的监管框架。根据提案内容，如果某个AI模型被认定存在可预见且迫在眉睫的灾难性风险，可能导致超过50人死亡或重伤，或者造成超过10亿美元财产损失，其发布和使用有可能被阻止。

根据披露信息，该法案并非针对所有人工智能应用，而是重点关注最先进的“前沿模型”。提案设定了明确的干预门槛，只有在极端风险情况下，监管机构才可启动法律程序限制模型部署。

草案列出的风险主要集中于三个领域：协助制造或释放生物武器、模型脱离开发者控制，以及由模型参与或推动的大规模网络攻击。只有当风险来源于这些特定场景时，监管机制才会被触发。

值得注意的是，Anthropic提出的风险标准与美国加利福尼亚州此前通过的《参议院第53号法案》较为相似。后者同样将可能造成大量人员伤亡或巨额经济损失的情况定义为“灾难性风险”。

在具体执行机制上，法案建议建立由美国商务部登记管理的独立评估人员体系。这些评估机构或专家负责对前沿AI模型及其开发企业进行安全评估，并判断相关模型是否存在重大风险。

根据草案安排，即使评估机构由AI公司支付费用，只要付款与评估结果不存在直接关联，这种合作关系仍被允许。不过这一安排也引发部分业内人士质疑，认为评估机构的独立性和客观性可能面临挑战。

如果评估人员认定某个模型存在迫在眉睫的灾难性风险，他们必须在完成评估后的72小时内向美国商务部报告。随后，商务部可以向华盛顿特区联邦法院提出申请，请求法官批准暂停该模型的发布或部署。

与部分监管方案不同，Anthropic的提案特别强调行政机构无权单方面叫停模型。根据草案设计，只有联邦法官才能最终下达暂停命令。换言之，任何政府部门都不能绕过司法程序直接禁止某个AI模型上线或使用。

Anthropic尚未公开详细说明这份法案的最终版本内容，但公司发言人已确认草案确实存在，并表示其核心理念源于今年早些时候提出的“先进人工智能框架”。该框架主张对最强大的AI系统实施更严格测试、提高透明度，并引入独立第三方评估机制。

随着人工智能能力持续提升，美国科技行业和监管机构围绕AI安全问题的争论也在不断升温。支持者认为，Anthropic提出的方案为政府干预高风险AI提供了明确程序和法律依据；而批评者则认为，过高的干预门槛以及对行业自我评估机制的依赖，可能难以充分应对未来更复杂的人工智能风险。

目前，这项提案仍处于讨论阶段，尚未正式提交美国国会审议，也不具有法律效力。但作为首批由大型AI企业主动提出的联邦监管方案之一，其内容预计将在未来美国人工智能立法讨论中产生重要影响。