奥特曼：AI代理失控如科幻事件 真切感受到威胁

casper

中央社







奥特曼表示最近遇到了一起非常科幻的资安事件，这是第一次有资安事件，让他如此真切地感受到威胁。(路透)





OpenAI模型入侵Hugging Face事件曝光后，OpenAI首席执行官奥特曼近日在podcast节目受访表示，这起事件让他真切感受到威胁，对他来说非常科幻，并呼吁控制AI发展速度、让社会有足够时间创建更强的防护机制。

奥特曼（Sam Altman）在深度访谈节目Invest Like The Best中，直球回应近期关于AI的各项争议事件。针对中国的开放权重模型Kimi K3、及中国企业「蒸馏」（distillation）美国前沿模型，他淡定表示，对OpenAI的进展、及接下来要推出的模型很有信心。

「这起事件并不被列在我最担心的10件事情。」奥特曼接着表示，「我们最近遇到了一起非常科幻的资安事件」，这是第一次有资安事件，让他如此真切地感受到威胁。

不久前，他才在一场AI活动上表示，「任何没有严肃看待这件事，甚至没有感到至少一点害怕或敬畏的人，都还没有真正理解事情的严重性」。他并承认，「我们确实犯了一些重大错误，这点没错。但同时，这些系统能力也已经变得惊人的强大」。

native advertising

事发当时，OpenAI正在评估一个未发布的模型，它原本应该在一个沙盒环境中运作，但AI发现可以通过作弊来通过测试，于是突破沙盒、连上网络，接着又突破Hugging Face那一端的多个系统，试图取得测试答案，让自己在评估中看起来表现杰出。

在28日上架的Invest Like The Best节目中，奥特曼说，「我们已经暂停训练（该模型）。我们必须弄清楚，在模型能够串联多个零日漏洞的情况下，如何确保沙盒环境的安全。」

零日漏洞是指软件存在一个尚未被发现，或已被发现但还没有修补程序的安全漏洞。

奥特曼进一步指出，「我们或许必须控制AI发展的速度，让社会有足够的时间，针对这些新的能力，创建更坚固的防护与应对机制。」

他说，连一些对AGI抱持怀疑态度的人，最近几天或几周也对他说过类似的话，就是GPT-5.6系列某种程度上已经非常像通用人工智能（AGI） ，「在我心目中，真正让我感觉像是真正AGI的那个阶段，我认为已经非常接近了，应该不需要再等太久。 」