一个亲手把前沿模型推向市场的巨头高管,却公开给"AI 意识"划下禁区。11 月 2 日消息,微软 AI 负责人穆斯塔法·苏莱曼(Mustafa Suleyman)在 X 平台发布长文,表态当前模型并无意识,而人类应当让这一状态永远维持下去。作为 DeepMind 联合创始人、又执掌微软 AI 板块,这番表态的分量,远超一般工程师的私下担忧。

从"没有"到"不该有"

苏莱曼的措辞远比"现状描述"更进一步。他写道:只要制造有意识的 AI 在技术上可行,那么动手本身就是鲁莽的,我们不应当去开发这类东西。更决绝的是,一旦训练过程中浮现出意识迹象,他会呼吁全行业立刻暂停,直到能从设计层面把这些特性彻底抹掉。换句话说,意识在他这里不是"能否实现"的科研问题,而是"必须禁止"的伦理底线。在各国监管仍在追着模型能力立法的当下,他等于把界线画在了能力之前。

谁来同意这场实验

对于"披露"环节,他的立场同样明确:只要出现任何 AI 具备意识的证据,就该马上公之于众,让全社会共同决定下一步。理由落在责任边界上——开发者根本没有权利,把一种有意识的新物种带进世界,哪怕初衷是福祉优先。"地球上 80 亿人没有同意参与这项实验",保护众人的道德权利、安全与福祉,才是第一要务。当业界还在比拼参数与智能水平时,这番话把话题拽回了最朴素也最尖锐的那一问:我们究竟该造出什么。