在震惊加拿大的 Tumbler Ridge 枪击案发生后,OpenAI 迅速采取了一系列补偿性措施。然而,法律与技术专家对此并不买账。学者 Jean-Christophe Bélisle-Pipon 指出,OpenAI 首席执行官 Sam Altman 向加拿大政府做出的安全承诺,本质上是在用企业监控替代民主监管

18岁的枪手杰西·范·鲁特塞拉尔在作案前数月,其 ChatGPT 账号就因发布涉及枪支暴力的内容被系统标记。虽然账号被封禁,但 OpenAI 并未将此威胁上报执法部门。最终,这场悲剧导致8人死亡。

OpenAI 的新对策:建立“警企直连”管道

作为回应,OpenAI 承诺将采取以下行动:

专家的担忧:“监控替代”陷阱

Bélisle-Pipon 教授在文章中提出了一个尖锐的观点:OpenAI 正在规避对模型设计和训练方式的审查,转而强化对用户言论的监控。

  1. 问责机制真空: 上报的标准依然由 OpenAI 私下制定,缺乏透明度和外部审计。

  2. 寒蝉效应: 研究表明,用户愿意向聊天机器人吐露心声是因为其私密性。如果对话变成直通警方的监控频道,那些真正处于心理危机、急需帮助的弱势用户可能会选择闭嘴,从而错失干预机会。

  3. 监管俘获: 这种“自愿让步”可能是在预判并削弱更严厉的法定监管。

治理的真正方向:从用户转向系统

批评者认为,真正的 AI 监管不应只是监控谁在说话,而应审视系统本身。例如:

随着 OpenAI 在全球范围内积极谋求与政府合作,Tumbler Ridge 事件正成为一个风向标:我们得到的究竟是更安全的技术,还是一个由私有公司运营的、无孔不入的数字监视网?