在联合国场合,OpenAI、Anthropic 和 Hugging Face 三家领先 AI 企业的负责人共同呼吁加强人工智能领域的国际协调,希望各国建立可相互比较的 AI 能力评估、安全测试和事故报告标准。不过,特朗普政府明确反对借此建立新的全球 AI 治理架构,认为 AI 发展速度和潜在风险,不足以成为限制技术发展或把监管权交给国际机制的理由。
企业主张:共同标准 + 快速事故报告
OpenAI CEO Sam Altman 在联合国表示,随着 AI 能力增强,关于这项技术最重要的决定不能只由少数位于旧金山的实验室作出,各国需要围绕强大 AI 系统建立共同的评估与安全框架。他提出应同时建立国家和国际层面的标准,用于衡量模型能力、评估风险、审查安全防护措施,并判断人类对 AI 仍保持多大程度监督;还主张建立更快速的事故分类、报告和披露机制,让不同国家用共同语言比较证据、核验措施。OpenAI 近期政策框架也提出,应建立可衔接的国家与国际前沿 AI 标准,并统一部分模型能力测量与事故报告协议,同时强调希望美国发挥领导作用。
Anthropic CEO Dario Amodei 持类似立场:若管理不当,更强 AI 可能带来影响社会乃至人类的风险,安全标准需随模型能力提升同步提高。他表示 Anthropic 愿在必要时放慢自身发布速度,但认为前沿风险已超出任何一家公司管理能力,需行业乃至全球协调。这一判断与近期增加的智能体安全事件相关——联合国独立国际 AI 科学小组本周简报,就以 OpenAI 与 Hugging Face 相关智能体事件为例,讨论模型目标偏离、寻找漏洞、规避监督后可能形成的跨机构风险,强调 AI 事故可跨越企业与国界,任何机构都难独立掌握全部风险。Hugging Face 负责人 Clement Delangue 也提出应加强全球 AI 监测与事故披露标准。
特朗普政府划界:协调可以,治理不行
特朗普政府对此划出明显边界。美国总统科技事务顾问 Michael Kratsios 在联合国表示,美国承认 AI 提速与潜在风险,但这些风险不足以成为暂停开发或通过新全球治理架构限制发展的理由;国际对话与技术协调可继续,但不能演变成由跨国机构主导规则制定与监管的"全球治理"。这一立场与特朗普 9 月 22 日在联大表态一致——美国反对建立针对 AI 的全球性控制体系,并把保持美国 AI 竞争优势作为重要政策目标。
这场分歧显示,双方在前沿风险本身上并非完全对立,都承认更强模型可能带来新风险;真正分歧在于如何把风险转化为监管制度,以及国际机构应拥有多大协调治理权。企业重点是建立共同的能力测试、风险评估与事故披露标准;特朗普政府反对让合作发展为拥有独立监管权或约束力的全球机制。值得注意的是,即便 OpenAI 呼吁国际标准,也主张由美国主导、推动他国采用或互认的技术框架,而非把监管权限交给全球机构。