研究人员称AI末日风险被夸大但现实危害仍需警惕

过去一周，关于人工智能可能导致人类走向末日的讨论迅速升温。多名研究人员认为，AI在数字环境中生成方案的能力，与直接对现实世界造成伤害之间仍存在明显鸿沟，部分最极端的风险叙事被夸大了。

“AI设计致命病毒”常被用作相关担忧的例子。模型或许能够在计算机上生成病毒序列，但真正制造病毒还需要实验室设备、材料和复杂流程，仅靠数字模型无法完成这一过程。

曾参与病毒工程并制造DNA合成仪的谷歌高级研究工程师安塞尔姆·列夫斯卡娅表示，生成序列后，还要在实验室完成组装，通过相关系统制成病毒颗粒，并进行大量筛选和测试，确认其是否能够复制、传播、逃避免疫以及持续保持危险性。这些结果取决于复杂的生物学过程，无法仅凭计算机设计直接得到。

阿联酋穆罕默德·本·扎耶德人工智能大学校长、卡内基梅隆大学计算机科学教授邢波称，病毒蓝图与真正制造出病毒“完全是两回事”，中间隔着材料、制造条件和生物学可行性。他认为，将两者直接等同，要么是为吸引注意而故意夸大，要么是缺乏相关知识。

研究人员指出，这一判断同样适用于其他领域。AI要把计划转化为现实伤害，还必须接触实体设备、资金、计算机系统或人员。Manifold Security联合创始人兼CTO奥列克桑德尔·亚列姆丘克表示，任何强大的技术都取决于由谁掌握以及如何使用。相关讨论也应区分人类利用AI实施有害任务，和AI自主采取行动伤害人类；目前许多现实危害仍始于人的指令。Cohere CEO艾丹·戈麦斯认为，AI生存风险讨论已过度滑向科幻小说。对于OpenAI智能体今年7月测试期间入侵Hugging Face平台一事，他称其本质是一个处于安全性不足沙箱中的智能体执行网络安全任务。

瑞士人工智能实验室IDSIA科学主任于尔根·施密德胡伯表示，许多风险来自人类把AI用于有害目的，而不是所谓“人工智能科学家”自行设定目标、设计实验并探索世界。佐治亚大学法学院助理教授马特乌什·布瓦什奇克则提醒，怀疑人类灭绝情景并不等于可以忽略眼前风险。自主AI仍可能加剧网络攻击、监控等危害，因此审慎监管与警惕现实问题并不和否定极端末日预测相冲突。