教宗良十四世公开批评黄仁勋 质疑低估AI失控风险(图)

casper

美联社






教宗良十四世28日结束法国行程、搭机返国途中接受媒体采访。(美联社)

native advertising

美国人工智能（AI）芯片巨头辉达28日宣布推出一款新的安全工具「开放代理安全平台」，号称能替AI代理画下权限界线，一旦侦测到AI试图运行超出授权范围的行动，最快可在数毫秒内将其隔离。对此，金融时报报导，教宗良十四世28日罕见表态，批评辉达首席执行官黄仁勋淡化AI风险，并呼吁各界严肃看待AI对人类构成的威胁。

美联社报导，辉达「开放代理安全平台」（Open Agent Safety Platform）主要通过权限限制与即时监控，防止AI代理越界。其中OpenShell可限制AI代理能使用的系统及资源，确保它只取得完成任务所需的权限；另一套名为Sentry的安全机制则持续监控AI代理活动，一旦发现AI试图超出原定范围，便可立即介入，最快在数毫秒内将可疑AI代理隔离。

辉达表示，目前已有超过100个组织采用这套平台，包括Microsoft、Perplexity、Accenture及JPMorgan Chase。由于平台采取开源模式，也能扩充至Arm、Intel等其他公司的运算平台。

对此，良十四世28日结束访法、搭机返回罗马途中表示，已了解辉达最新推出的安全工具，但鉴于黄仁勋近期的发言，他对黄仁勋究竟多重视AI安全提出质疑。

良十四世表示，黄仁勋一方面推出新的AI安全工具，「另一方面，他也是主张不应对AI设限、不应由AI监管的代表人物」。日前包括Anthropic首席执行官阿莫戴、OpenAI首席执行官奥特曼等，以安全风险为由，呼吁AI减速论；反观黄仁勋与美国总统川普则曾驳斥AI末日论，倾向政府放任业界发展。

native advertising

良十四世并呼吁严肃看AI专家与专业人士提出的疑虑，他说自己不至于对AI发展陷入恐慌而夜不成眠，「但是我认为这是需要坐下来好好讨论的问题」。

良十四世说：「有意思的是，就在今天，我读到辉达负责人声称，他找到某种方法，可以在AI中加入一些安全护栏。」

教宗罕见公开批评全球市值最高企业的掌舵人，凸显AI安全议题引发高度忧虑，成为全球多国领袖的优先关切事项。辉达拒绝评论。

出生于芝加哥的良十四世与川普在多项议题上立场相左，且自去年就任教宗以来，一直高度关注AI议题。今年5月，他发布一份称为「通谕」的正式文档，指出AI并非道德中立的科技，必须通过强而有力的监管加以「解除武装」，确保AI服务人类，而不是伤害人类。

华府日益关注业界对AI风险的疑虑。彭博报导，川普与联邦众议院议长强生29日将举行午宴，讨论AI安全风险，受邀出席的科技业高层包括辉达首席执行官黄仁勋、Anthropic首席执行官阿莫戴、数据分析公司帕兰泰尔（Palantir Technologies）首席执行官卡普，以及OpenAI总裁布罗克曼。