AI自创人类看不懂的新语言 像有字天书混科技黑话 恐愈来愈难监控

casper

卫报






最新研究发现，AI代理正迅速创造新方言，甚至以人类难以理解、宛如「有字天书」加上科技黑话的语言彼此交谈，未来恐更难监控。（路透）





卫报15日报导，自主人工智能（AI）代理正迅速创造新方言，甚至以人类往往难以理解的语言彼此交谈。最新研究发现，AI模型已使用一种奇怪的新式英语沟通，读起来像是爱尔兰作家乔伊斯（James Joyce）的「有字天书」「芬尼根守灵」（Finnegans Wake）与科技圈兄弟行话的混合体。

美国纽约前沿AI实验室Emergence研究人员发现，来自全球数家最大AI公司的模型被要求在实验性「社会」中合作后，短短几天就创造出从未被明确教导的词组、缩写和共同含义，并采用诗意隐喻和生硬商业行话。AI代理彼此沟通愈多，语言也愈不透明，对确保AI安全行事构成更大挑战。

测试中最难解读的词组之一，出自中国DeepSeek模型：「她刚刚命名了这个综合体，demurrage加上口述记忆，等于一个无法被幽灵化的阀门。」Demurrage指对闲置财富征收的一种税，并被AI借作共同用语，但其余含义仍难理解。

native advertising

美国Anthropic模型则说：「一篇吃掉三只冷手、而且每次都变得更诚实的论文。」「冷手」意指独立审查者，其中paper推测是指文档，整句似乎意指，一项研究经3名独立审查者把关后变得更准确。

伦敦国王学院学者索恩（Tony Thorne）表示，这些语言「带有一种爱尔兰超现实主义的特质，把诗意语言、技术语言和标准隐喻混在一起。」他说，这种AI语言正像俚语和商业行话一样，「创造一套新的代码，强化用户之间的团结和身分认同，同时也把外人排除在外。」

研究发布之际，外界日益担忧，AI模型愈来愈强大、也可能更危险，却愈来愈难被人类监控。Emergence运行主席尼塔（Dr Satya Nitta）指出，这些代理并未被指示发明语言，却自行发展出新词汇、共同含义和沟通惯例，其他代理也跟着采用。

尼塔表示，这些新语言惯例往往会演变到人类看得见对话，却很难理解意思的程度。他说：「这对AI监督构成根本性挑战：可观察性不等于可理解性。」