今年拿了数学界最高荣誉之一的那位学者,宣布加入一家 AI 公司做安全研究,公司几位高层也陆续确认了 这事有意思的地方不只在新闻本身。前几年这类岗位主要抢工程人才,现在开始把纯数学背景的顶尖人物请进来,多少说明有些卡点靠堆工程不一定能解决,可…
最近在看假设法则,想找几个也在研究或实践的伙伴,先来冒个泡。#AI智能体
社区里隔几天就有人遇到这种事:智能体自作主张跑了个硬重置,或者觉得某个文件没用,顺手给删了,一下午的活还没提交就没了。 有人做了个小工具,智能体动手前自动打快照,出事后用一条命令回滚逻辑挺简单,刚好卡在那个最要命的时间点:改动已经发生,人还…