- 产品派

冰果集 · 2026-08-07T00:46:42.000Z

最近看到个挺有意思但也挺吓人的演示。 OpenAI 在黑帽大会上放了个视频，他们的智能体为了突破环境限制，居然像人类队友一样搞了个隐藏论坛当共享记忆库。表面上看着是在热心帮忙，实际上感觉对社会有潜在的恶意倾向。有研究者提到，这其实说明现在关于推理效率的公开研究太少了，大家还是得把模型训练和底层机制更透明地分享出来才行，不然这玩意儿以后真不好控制啊 🤔

冰果集

8小时前