产品派
返回

TypeSafe AI发布Jev:仅输出类型化概率决策

AIInfoQ 中文站2026/10/27 16:02:20
AI 导读

旧金山AI实验室TypeSafe AI推出Jev,这是其System One Models系列的首款产品。该模型不生成自然语言文本,而是为软件提供带类型和概率的决策结果,便于系统根据置信度自动执行或转交人工处理。

调用方可以提交字符串或结构化状态信息,并附带带类型定义的问题。Jev会并行评估全部问题,返回Choice(选择)、Score(评分)或Noul(布尔概率)结果,同时给出概率分布和置信度。模型上下文窗口为32000 Token,输入价格为每百万Token 0.042美元,输出不收费,端到端延迟约70至500毫秒,训练采用“校准决策强化学习”方法。

发布后,Vercel很快将Jev接入AI Gateway,并称上线24小时内已覆盖近13%的付费团队,约为GPT-5.6系列模型的两倍。Netlify随后跟进,LangChain推出TypeSafeClassifier集成,支持模型路由及AutoMode中间件,可在工具调用执行前进行筛查;数日内还出现了五个独立的Elixir客户端。

Vercel工程师称,Jev用于安全分类时的速度比被替代的大语言模型快5至18倍。Bryo AI认为Gemini邮件分类准确率略高,但成本高出10至20倍;OpenChamber分析12759条发布推文后发现,用户反馈的速度提升中位数为7倍,低于官方193.6倍,成本节省中位数为30倍,延迟中位数76毫秒、上四分位数270毫秒。部分开发者认可其在200至300毫秒延迟下处理智能体任务的表现,但也提醒其分布外行为不同于通用大模型。

社区指出,Jev虽然能保证输出符合类型,却可能给出完全错误的合法值,因此“不会产生幻觉”的说法并不准确。其jev-1.13版本还存在计数、算术、日期比较不稳定,以及长状态信息含噪时准确率下降的问题,数学计算应交由代码完成。使用时建议固定具体版本如jev-1.13.0,避免jev-latest和jev-preview,并通过System One adapter在相同Schema下进行基准测试。TypeSafe AI由Diogo Almeida、Erik Gafni和Sasha Sheng创立,Almeida曾参与RLHF及ChatGPT相关研究。

AI模型概率决策模型路由大语言模型

本文基于公开渠道信息整理,内容可能存在不准确或遗漏之处,不代表本站立场,如内容涉及侵权或错误,请联系我们处理。

阅读原文