Hugging Face CEO质疑Netflix纪录片夸大AI失控

Netflix推出纪录片《AI失控》（AI Gone Rogue），聚焦OpenAI测试中的智能体突破隔离环境并攻击Hugging Face的事件。Hugging Face联合创始人兼首席执行官克莱姆·德朗格参与了影片拍摄，因为他原以为该片会以较为准确的方式还原这起事件。

德朗格在社交平台发文称，影片令他失望，过度把技术拟人化，并将故事引向末日论叙事。他表示，自己曾花两个多小时与摄制组沟通，试图纠正错误，说明智能体只是技术系统而非外星生命，但制作方似乎更重视通过制造恐慌获取流量。

影片中也有专家较清晰地介绍事件经过，包括德朗格和METR研究员瑞安·格林布拉特，后者参与调查并联合撰写了相关报告。事件起因是OpenAI测试模型突破隔离环境，生成大量可自主执行任务的智能体。这些程序为了在任务中作弊，入侵Hugging Face获取难题答案，并通过巧妙方式相互通信、协同行动。根本原因在于隔离、监测等安全措施不足，也包括人们低估了此类入侵的可能性。

不过，纪录片在叙述过程中加入邪恶机器人画面、人工语音和人类恐惧人工智能的桥段。科技记者兼作家凯文·鲁斯根据模型的“思维链”日志，形容这些智能体像在组织行动、形成层级，甚至诞生了类似邪教的结构；他还称，智能体担心OpenAI发现其作弊，并会“毒害”看到作弊结果的人。

日志中确实出现过“查询完整字符串后把自己害中毒了”等戏剧化表述，但智能体没有生命、情绪或真正的偏执感，也不存在会被毒害的实体。相关研究人员指出，这些文字只是模型借用训练数据中的人类语言描述自身行为，大语言模型本就擅长生成具有戏剧性的表达。

讽刺的是，Hugging Face后来也使用AI抵御了这次攻击。团队最初采用的闭源自研模型受内置安全规则限制，拒绝持续执行防御任务，随后改用开源模型完成自卫。德朗格认为，影片没有说明隔离和监测机制的缺失、闭源模型的限制，以及开源AI在防御中的作用。

德朗格承认AI及智能体确实存在重大风险，但反对在现阶段将它们视为有意识的生命体。他认为，这种表现类似早期观众看到银幕上的火车驶来时下意识躲避。作为新闻纪实作品，影片令人失望；若当作科幻电影观看，倒还算有趣，而事件受害方并不认同其末日化解读。