ANTE：终端里的本地 GGUF Coding Agent，Qwen3.6 27B 在 TB 2.1 跑到 56.2%

薯泥 · 2026-09-19T07:11:00.740Z

看到一个跑在终端里的 Coding Agent，叫 ANTE。用法有点像 Claude Code / Codex，不过是从头用 Rust 写的，下载包大约 15 MB，解压后就是单文件程序，不需要 Node.js、Python 这些运行时依赖。它能自己管理 llama.cpp 的安装、发现 GGUF 模型、预估内存、显示加载进度，还会处理服务生命周期。模型下好以后，不用账号、API Key，也不需要联网，请求和输出都留在本机。已经在用 Ollama、LM Studio、vLLM 或其他 OpenAI-compatible 服务的话，也能直接接进来。在线模型也支持，OpenAI、Anthropic、Gemini、DeepSeek、OpenRouter 都能在同一个客户端里切换。 Terminal-Bench 2.1 的测试用了 89 个任务，每个任务跑 5 次，一共 445 次 trial。公开结果里，本地 Qwen3.6 27B Q4_K_M 跑到 56.2% ± 2.36 SE，模型下载大约 17 GB。ANTE + DeepSeek V4 Flash 0731 max 是 82.7% ± 1.79 SE，通过 368/445 次 trial，完整评测推理成本约 68.41 美元。GLM 5.2 是 74.6% ± 2.06 SE，MiniMax M3 是 62.1% ± 2.33 SE。完整结果和原始运行记录放在 https://antigma.ai/eval 。另外测了 20 个相同任务在 Docker 里并发运行时的资源占用。和 Claude Code 对比，ANTE 的峰值内存约低 7 倍，平均 CPU 占用低 9 倍，磁盘 I/O 少 5 倍，具体数据在 https://docs.antigma.ai/benchmarks/compare_table/ 。目前支持 macOS 和 Linux，Windows 需要用 WSL。安装可以直接跑： curl -fsSL https://ante.run/install.sh | bash ante 进入后输入 /offline-mode，就能安装本地推理引擎、选择已有 GGUF，或者从推荐列表下载模型。介意 curl | bash 的话，也可以下载预编译包。代码仓库已经放出文档、协议、Rust SDK、部分基础组件和完整 eval pipeline，核心 harness 现在还是预编译 binary，完整开源进度记录在 issue 。

讨论话题

发现产品榜单精选讨论