Anthropic警告投资者,该公司直言不讳地倡导人工智能(AI)安全可能使其成为政府报复的目标。在过去一年与特朗普政府多次发生摩擦后,这一表态凸显出政府相关风险对Anthropic未来业务构成的影响可能非同寻常。
Anthropic在IPO文件中表示,其在AI监管方面的立场以及公司高管公开表达的观点,可能使其承受巨大的政府压力。
Anthropic在招股书中提到:“我们已经受到、并可能继续受到更多关注,也可能继续面临更严格的审查,我们可能遭到特定政府机构针对,即便其他处境类似的公司并未受到同样对待。”

9月,Anthropic首席执行官Dario Amodei抵达白宫参加会议。
Anthropic与特朗普政府的矛盾源于今年早些时候围绕五角大楼使用该公司技术时应设置何种安全护栏的争议。最近,Anthropic又与政府官员就其尖端Mythos模型是否足够安全出现分歧。首席执行官Dario Amodei支持协调放慢AI开发速度,以便让安全团队有时间追赶技术进步,这一立场招致特朗普不满。
投资者如今必须衡量Anthropic面临的监管风险。该公司的技术一方面易于使用,可以作为日常消费产品推广,另一方面又强大到足以被视为网络武器,甚至可能成为生物战的催化剂,因此需要受到更严格审查。对于Anthropic而言,与特朗普政府屡次发生冲突为整个AI行业面临的不确定性又多添了一层风险。
康奈尔大学Tech Policy Institute负责人Sarah Kreps表示:“对于AI而言,政府权力的边界仍在逐步厘清,有时是通过与个别公司的直接对抗来确定的。投资者很难给这种不确定性定价。”
Anthropic在招股书中披露了政府可能带来的多种不利影响,并提到一系列拟议中的联邦立法,包括强制关闭模型乃至将AI企业国有化。今年早些时候,包括副总统万斯在内的一些官员曾提出,可以利用冷战时期的《国防生产法》迫使企业披露信息,并与国家安全机构合作。彭博曾对此进行报道。
Anthropic还列出了政府干预可能对AI开发工作造成的风险,包括贸易管制可能令公司失去海外客户,以及模型出现不当行为可能带来法律后果。Anthropic表示,公司可能无法“完全理解或解释”正在开发的系统采取的行动,未来还将继续推动可能反过来妨碍自身业务的监管措施。
Anthropic表示:“如果我们倡导的监管或其他类似措施获得采纳,我们也将受到这些措施的约束,新规可能增加我们的合规负担,限制产品开发或部署的灵活性,影响我们开发或发布新模型的方式和时间,或以其他方式拖慢我们的增长速度。”
Anthropic还警告,其正在开发的技术最终可能对人类构成威胁。这呼应了硅谷许多AI研究人员对灾难性后果的担忧,而特朗普及其盟友则将这种担忧斥为“骗局”。

9月 ,在北卡罗来纳州教堂山举行的 G20 创新部长级会议外,一名示威者举着反对AI的标语进行抗议。
该公司表示:“先进AI系统如果没有在适当的安全护栏、监督和安全措施下进行开发、部署和运行,可能带来灾难性甚至关乎人类存亡的风险。”
Anthropic表示,公司近期将AI模型与科学研究相结合的举措,可能催生旨在防止制造致命生物武器的限制措施。如果模型被滥用于网络攻击,可能令Anthropic承担法律责任并遭受声誉损害。
特朗普政府不仅是Anthropic的监管者,也是该公司产品的重要客户,这进一步增加了公司受政府决策影响的程度。Anthropic表示,在IPO文件涵盖的所有时期,直接来自政府机构合同的收入约占总营收的1%,相关数据最早可追溯至2023年。
曾任美国商务部工业与安全局副部长的William Reinsch表示:“Anthropic的情况有些特殊,因为在特朗普政府时期,许多行动带有很大的随意性,而Anthropic受到的待遇与其他公司并不一样。”
曾任白宫国家安全委员会主管、现负责战略与国际问题研究中心战略技术项目的Matt Pearl表示:“我们不知道Anthropic和其他领先AI公司最终会变成什么样的机构。我从未见过这样的情况,一家大型公司的最终形态,以及它与政府之间最根本的关系都处于如此悬而未决的状态。”