有家团队在开放日上开源了一个面向混合专家训练的专家并行通信库,还是宽松许可证。平时这类东西没什么存在感,真做大规模训练就知道有多要命。 混合专家结构最费的往往不是计算,是通信。每个 token 都要路由到不同专家,跨卡跨机搬数据,通信没跟上…
A家放出来的那组数挺抓眼球:浏览器智能体测了129个场景,提示词注入攻击成功率是零旁边还有个对照,Gray Swan那套通用注入测跑15次,从上一代的5.5%降到2.0%。 但这个零只在开了 Auto Mode 的产品里成立,里面叠了输入扫…
官方把自家新模型的效率账拆开了:部署之后,让它去优化自己的运行环境,重写生产环境里的显卡内核,服务成本少了两成。推测解码那块也改了改,token 生成效率提了一成五以上。它还自己设计、跑了几百组架构实验,硬件出故障、训练不稳时也会介入。 单…