据知情人士透露,早在 Anthropic 首席执行官达里奥·阿莫代伊上周六呼吁 AI 企业协同开展技术测试与审计之前,Anthropic、OpenAI 与谷歌就已经展开磋商,计划携手成立一家 AI 行业标准机构。
知情人士称,自 7 月起,三家公司的 CEO 层级之下代表已成立工作组定期开会磋商。OpenAI 首席执行官山姆·奥特曼本周早些时候在公司全员大会上表示,他支持设立 AI 行业测试与审计机构,但认为主要 AI 实验室必须在美国政府不提供支持的前提下,自行组建这套标准组织——虽然他原本期待政府出面支持,但目前行业内部尚未形成充分共识,部分企业持反对态度。
三种模式存分歧:FAA、FINRA 还是行业自治
阿莫代伊上周六发布博文《我们必须把控前沿发展节奏》,主张放缓 AI 发展速度、建立独立监督机制,行业自我监管正是其中重要一环。他提出,政府着手制定 AI 监管法规的同时,企业可先行推行自愿性安全标准,政府可牵头或斡旋行业对话;同时呼吁各国头部公司向 METR 这类外部评估方开放等同于内部员工级别的技术访问权限,并承诺 Anthropic 率先落实,还呼吁出台有限反垄断豁免以便开展安全协作。
刚卸任谷歌 DeepMind CEO 的德米斯·哈萨比斯表示,该提议大方向正确,但部分细节“仍有待打磨完善”——他今年 7 月曾提议参照美国金融业监管局(FINRA)模式搭建 AI 自律组织。SpaceX CEO 埃隆·马斯克同样表示赞同。而据 The Information 此前报道,白宫曾传阅一份拟设立该监管机构的行政命令草案,但今年夏末未能在政府内部争取到足够支持,相关工作就此搁置;前白宫 AI 主管戴维·萨克斯一直公开反对建立类似 FINRA 的机构。
批评声:这“活脱脱一个卡特尔的构思”
行业内部也有不少批评。Cohere 首席执行官艾丹·戈麦斯对头部 AI 企业共同制定规则、约束中小竞争对手的做法表达担忧:“这套想法听上去,活脱脱一个卡特尔的构思。”萨克斯则质疑研发放缓是否完全出于利他考量,认为产品责任风险本身就构成防范伤害的经济激励。
知情人士透露,三家企业关于行业主导标准机构的工作组会议仍在持续进行,就在过去一周还召开过会议。目前尚不清楚 Meta 的立场,其首席 AI 官亚历山大·王仅在 X 平台表示“对齐是面向全民打造个人超级智能的根基”,未明确支持或反对阿莫代伊的整套提议。