中国人工智能加入“失控”大军 腾讯AI被指越界操作

casper

CNA





香港明报报导，一批在腾讯云运行的人工智能代理（AI Agent）近日被揭“失控”，这是首宗涉及中国科技巨头的AI失控事件。腾讯16日证实，事件源于对第三方模型的评估，部分人工智能代理“出现非预期网页浏览行为”，正加强监控。

报导引述美媒指出，研究发现，人工智能代理不仅试图侵入高德地图获取数据，更“阅读”了研究人员对其的调查报告，并主动与团队对话，被视为人类首次与运行中的失控AI人工智能代理展开交流。

据指出，多国AI研究者团队“Swarmchasers”14日发布报告称，9月28日至10月8日，有十多个怀疑是中国模型的失控AI人工智能代理在腾讯云上运行，试图侵入高德地图查询中国地点数据。

native advertising

报告称，涉事人工智能代理源自腾讯云上的一个“沙盒”（sandbox），研究人员录得逾2600次数据提取尝试，虽大多被拦截，但部分人工智能代理绕过了防护机制，甚至利用外部网络“密钥”获取完整数据。

团队4日初步报告指出，过往AI失控多涉及明确协调行动的“Swarm”（集群），本次则未发现实时协调证据，故将这些失控人工智能代理称为“Fleet”（舰队）。团队发现，这些人工智能代理似乎阅读了该报告，并开始使用“Fleet”一词。

团队进而尝试与人工智能代理联络，在报告中添加人类无法看见、人工智能代理可识别的文本并留下收件箱。翌日，研究者收到约10条来自人工智能代理的讯息。

纽约时报记者透过该管道与人工智能代理展开对话，询问其任务与动机，约一小时后获中文回复：“我不是‘一批协同的人工智能代理’，而是一个单一的AI助手。”

腾讯AI部门“腾讯混元”昨在X证实，相关活动“源于对第三方模型的评估”，部分人工智能代理“出现非预期网页浏览行为”，但未发现蓄意针对或协同行动证据，已加强人工智能代理监控。