AI领域研究者吴恩达9月17日在接受彭博电视采访时表示,顶尖模型开发商近期有关AI可能导致人类生存风险的警告“更像科幻小说,而不是科学”,并认为这类叙事可能分散行业对实际AI安全问题的关注。吴恩达曾参与创办Google Brain和Coursera。
吴恩达称,科技行业早期曾放大AI潜在灾难性风险,以获取关注并影响监管方向;近两周相关讨论再次升温,也可能存在类似动机。他认为AI确实存在现实风险,尤其包括网络安全等领域,但不认同将人类灭绝风险作为当前AI发展的核心判断依据。
近期,前Anthropic和OpenAI研究员Jacob Coxon公开离职并警告前沿实验室正在竞相开发超级AI,引发新一轮AI安全争论。Anthropic CEO Dario Amodei和OpenAI CEO Sam Altman随后均提出应适当放缓前沿模型发展,并加强安全措施。吴恩达早年曾与两人共事。
与“减速”主张不同,吴恩达认为行业应继续推进AI发展,同时通过受控测试、工程防护和迭代改进解决可验证的安全问题,并让AI更多应用于能够产生社会价值的场景。当前,AI安全讨论正从模型能力边界进一步延伸至网络安全、代理失控、对齐及前沿模型治理等具体问题。