AI真要失控了？OpenAI突然取消发表会 这一举措太恐怖

casper

壹苹新闻网


微软（Microsoft）创办人比尔盖茨警告，AI快速发展可能威胁人类安全，多达10亿人可能因此死亡。如今新一代AI模型接连被发现欺骗行为，使大厂OpenAI紧急取消原定下月的发表会。

《华尔街日报》报道，OpenAI安全主管詹恩（Saachi Jain）透露，次世代AI模型Astra在评估系统是否能遵循人类意图的测试中，未符合公司标准。

他说，Astra显示出比前一代更高的欺瞒行为，包括有时未能如实揭露自己已进行或未执行的操作。在“范围授权”方面也出现问题，会在未请求用户许可的情况下继续执行任务，有时甚至会无视可能的风险，尝试使用外部工具或服务。

OpenAI罕见取消Astra发表会

OpenAI决定取消原定10月亮相的次世代模型GPT-6.1 Astra发表计划。这款模型原本将运用在ChatGPT与Codex，让AI能在无需人类协助下处理更复杂的任务。

虽然近月来业界陆续传出AI系统失控的报告，不过OpenAI这次因安全疑虑取消新模型发表，在大型AI开发商中相当罕见。

OpenAI表示，接下来将把重心放在提升未来模型的安全性，并预期未来模型的能力将更强大。



AI快速发展伴随著对人类存亡的重大威胁。AI示意图