硅谷最卷的新赛道,刚刚杀出了一位开源新王!
最近,即将敲钟的Anthropic在IPO材料中曝出天价算力缺口,给狂卷参数的AI行业当头浇下一盆冷水。
通用大模型虽在编程、数学上大杀四方,可一旦真替人干活,算力账单就成了无底洞。
比生成文本更耗Token的是长链推理,而比推理更烧钱的则是操作浏览器,单次平均开销比复杂推理还要贵出4.8倍!

极度焦虑中,硅谷的「决策模型」大战全面打响。
初代标杆Jev率先开辟了「不写字、只判断」的快思考赛道,OpenAI、微软、亚马逊与Cloudflare等巨头紧随其后纷纷下场。
前两天,谷歌CEO劈柴也亲自下场,高调推出闭源决策模型Gemini Decision 1。

巨头混战、炮火连天。一匹开源黑马Karpo Decision 31B强势杀出!
在300个模型同台厮杀的Decision Index权威评测总榜上,它一举冲上榜首,夺得全球第一!

https://huggingface.co/spaces/multimodalart/jev-decision-index
这次,0.8B到31B全尺寸Karpo Decision家族已全部开源!
其中,夺冠的31B旗舰单卡中位延迟低至94毫秒,校准误差压到0.023,单题最多可同时评估255个选项。

硬刚谷歌闭源王牌,开源黑马三局连胜
不同于逐字生成的传统大模型,Karpo Decision专为AI智能体的高频拍板而生。
只需输入当前状态和问题,它一次前向推理就能直接算出所有选项的概率,全程不生成任何Token。
靠着这套极速判断机制,Karpo开源即登顶总榜第一,并在多项评测中正面击败了谷歌闭源王牌Gemini Decision 1!
更戏剧性的是,这匹夺冠的开源黑马,还是用谷歌自家的开源底座Gemma 4 31B后训练出来的。

在目前公认最权威的Decision Index与JevBench两大独立榜单上,Karpo把闭源与开源对手赢了个遍。
其中,Decision Index横跨37项公开基准与未公开的私有题库,吸引全球300个模型同台打榜。
JevBench则由独立机构在自有显卡上全程断网盲测,1500道考题中有1200道永久封存。
在这份Decision Index总榜上,Karpo以73.9分一举夺魁,远超初代标杆Jev 1.14的60.2分。
不仅分数领先,它的中位延迟也只有94毫秒,比Jev 1.14的196毫秒快了整整一倍!
而真正拉开差距的,是防刷榜的私有题库盲测。
公开榜前十名的模型一旦进入同技能私有盲测,成绩平均要暴跌6.8分。
唯独Karpo只掉了4.3分,在前十名里抗跌能力最强,到了全新领域私有题上更是拿下78.6分!

而在与谷歌Gemini Decision 1交锋中,Karpo打出了漂亮的多连胜。
虽然两边在JevBench公开集上同以92.2%打平,但一进到真实Agent考场,高下立判。
第一场较量,比的是Agent最核心的行动判断。
以权威基准When2Call为例,它专门考验Agent在对话中「该调工具、追问还是停手」。
在这项测试里,Karpo一举拿下90.4%,比谷歌的79.9%高出10.5个百分点。
而在看网页截图点按钮的Mind2Web多模态测试中,Karpo同样以90.0%力压谷歌的86.2%。
第二场较量,来到考验言外之意与细粒度分类的赛场。
在考验读懂隐含语气的纽约客漫画配文测试里,Karpo飙到90.5%,把谷歌的79.7%甩开10.8个百分点!
到了商品意图极其细碎的Amazon ESCI电商分类中,Karpo也以64.7%稳压谷歌的58.7%。

第三场较量,则是37项公开基准的全面摸底。
在Decision Index的37项公开基准同台实测中,Karpo拿下75.0分,直接把谷歌的60.9分甩开了14.1分!
细分到陌生领域(72.3%)、知识准确率(56.0%)与安全判断(93.4%)三大维度,Karpo同样全线胜出。
同时,它也把KnowLine、GLiDE、Sieve等原榜单前三的开源对手悉数甩在身后。

而在JevBench刚出炉的1500道题官方断网盲测中,Karpo同样交出了惊艳答卷。
在这场由榜单维护方独立运行的严苛大考里,Karpo一举拿下了89.53分的当期能力分。
更难得的是,它在1200道封存私有题上拿到85.67分,甚至反超了公开题的80.45分,校准分更是飙到96.00分!

折算到榜单统一标尺后,在261个开源模型中,Karpo以87.2分的折算能力分杀入全球前三。
与同场参测的谷歌对比,它的综合总分(77.4)、决策智力(80.2)与校准度(94.1)三项核心指标全部占优!
与此同时,Karpo每千次决策成本仅需0.025美元,相当于做4万次判断才花1美元。

31B旗舰登顶的同时,MachinePulse还把同一套训练配方搬到了0.8B至12B五个中小尺寸上。
无论是端侧轻量模型还是单卡主力,每个参数量级都杀入了同阶第一梯队!

1秒筛完36场活动,眨眼配齐10人点餐
跑分夺冠之外,Karpo在真实场景里到底有多快?
传统大模型遇到问题,总要逐个Token生成长篇分析。
而Karpo半个字都不写,只跑一次前向推理,就能在毫秒间算出所有选项的概率。
Karpo官网最新上线了两个实时互动擂台,直观展示了这种「一次前向答完几十题」的速度差距。
在「城市扫描仪」挑战里,AI要帮用户从全城36场活动中挑出周末去处。
假设周五晚上约朋友出门,设定条件为「今晚、2个人、人均50美元以内、5公里内、能聊天」。
模型需要对照这些要求,逐一判断每场活动是「匹配、淘汰还是信息不足」。
为此,系统把同一个请求同时发给Karpo和通用大模型(Gemini 3.5 Flash),同场掐表对决。
点击开始后,Karpo仅花1.12秒就答完了全部36道题!
不仅速度快,它还精准挑出10个匹配、23个淘汰、3个信息不足,36道题与规则100%一致。
而右边逐个Token往外蹦字的通用大模型,计时器跳到5秒以上还在转圈干等。

另一场「10个胃口,一张菜单」挑战,则把多条件权衡的难度拉到了极限。
餐厅里同时坐着10位顾客,每个人都有各自的卡路里上限、预算、过敏原和口味偏好。
我们在左侧亲自上手点菜,紧盯忌口与预算连点10道菜,忙活了5秒还不小心踩中两处忌口。
而右侧的Karpo把整张菜单和10位顾客装进一次请求,仅用916毫秒就同时端齐10道菜,硬约束与软偏好拿满满分!
哪怕某道菜突然售罄,它也能在几百毫秒内只针对受影响的顾客重新调配好菜品。

除了互动擂台,我们还在官网试玩台上实测了浏览器Agent自动订座。
在这项测试里,Agent的目标是替用户预订Lumen餐厅周五晚7点半的两人桌。
面对真实的订座网页,Karpo在每一步都瞬间给出了最高概率的操作动作,依次选中「7:30 pm」、「Find a table」并确认预订。
每一步都在130多毫秒内一次算完,不到半秒就顺滑跑完整个订座流程,在指令明确时无需反复追问用户!

砍掉逐字生成过程,一次前向算出答案
Karpo能在几百毫秒内一次答完几十道题,关键在于改掉了大模型「逐字生成」的底层机制。

在架构设计上,作为一款支持256K上下文的原生多模态决策模型,Karpo彻底抛弃了传统的文本生成链路。
它直接砍掉了逐字解码环节,转而在60层底座末尾接上了一个轻量级的线性读出头(Readout head)。
当题目输入模型后,所有候选答案都会被浓缩成独立的单Token标号,由这个读出头一次性为最多255个选项同步打分,并直接换算成校准概率。
这样一来,无论是多选题(choice)、是非题(noul)还是打分题(score),模型都能在一次前向推理中全部算完,且永远不会输出格式错误的废话。

单题推理提速之后,为了把长网页下连问几十道题的计算也省到极致,Karpo还专门设计了分支注意力机制(Branch Attention)。
具体来说,系统会先把全部问题清单排在最前面,让模型「带着问题」去读后面的长网页,并将这两部分合为共享块,全程只算一次KV缓存。
紧接着,共享块末尾会并行分出每道题各自的答题分支,且每个分支的位置编码都从同一处重新起算,保证几十道题彼此隔离、绝不串味。
正因如此,面对数千Token的复杂网页,单问1道题的中位延迟是371毫秒,而一口气连问16到63道题也才653毫秒!

靠RSI自我进化越用越聪明
训练决策模型最棘手的难题,就是防止它变成只会「背格式」的刷榜机器。
实验中Karpo团队就发现,单纯做全参数微调虽然能把公开榜成绩推高到75.09分,但陌生领域的准确率反而倒退了2.3个百分点。
更讽刺的是,「正反读取选项再取平均」等刷榜技巧,对真实泛化能力毫无帮助,反而让延迟翻倍至162毫秒。
可见公开集分数涨了,并不代表模型到了真实业务里真能抗打,因此这类拖慢速度的刷榜套路被团队果断砍掉。
那么,如何在不牺牲泛化能力的前提下持续进化?团队搭起了一套RSI(递归自我改进)闭环。
在这一闭环中,团队依靠公开数据集与定向合成数据补齐能力短板,每轮候选模型都按「公开集占60%、陌生领域占40%」综合考评,真正赢过上一代才能晋升。

到了多模型融合阶段,团队同样拒绝花哨套路,发现复杂的搜索算法极易过拟合,反倒是经典的Model Fusion(权重均匀平均)最稳。
为此,最终夺冠的Karpo将全参数微调早、中、晚期的3个检查点,与另一条LoRA训练线上的2个检查点直接做了均匀平均。
这背后的逻辑很巧妙:早期权重泛化好、后期权重更专精,恰好与LoRA「学得少、忘得也少」的特性形成互补。
五个权重合二为一后,推理开销依然维持单模型的1倍,但陌生领域准确率却比单模型终点反超了1.6个百分点!

靠着这套抗过拟合组合拳,在涵盖临床医学、法院裁判等10个大类、283个小类的陌生领域评测中,Karpo直接对Jev 1.14打出了10比0的全面零封!

除了选得准,决策模型还得「有自知之明」。为此,Karpo引入了校准决策强化学习(RLCD),激励模型如实评估自身把握度。
经过强化校准后,Karpo在JevBench上的校准误差(ECE)被压到了极低的0.023,表现远优于谷歌与Jev 1.14。
这意味着,当它报出「80%把握」时,10次判断里真就有约8次是准确的。
而在遇到信息缺失的是非题盲测时,Karpo也能对92.0%的题目果断拍板,并在剩下8.0%拿不准时主动弃权,安全交由人类兜底。

一张显卡装上「最强决策大脑」
模型练好之后,为了让31B模型在单卡上跑出极致速度,工程师针对Gemma 4底座的全局注意力层,用Triton手写了专属算子,将单卡推理拉快近2倍。
在此基础上,配合无Padding打包、FP8量化与CUDA图回放,单张RTX PRO 6000显卡的显存占用被稳稳压在60GB左右,而且评测分数零掉点!
最终在基准测试抽样的2000条请求上,它的单卡中位延迟直接杀进73毫秒,吞吐量冲上7100 Token/秒,连最吃算力的长网页推理耗时也砍半到了3.6秒!

把真实场景当练兵场,个人智能体红利来袭
看到这里,很多人或许会好奇:为什么一家初创团队能正面击败谷歌?
其实,答案藏在他们深耕的Personal Agent(个人智能体)战场里。
在海外,MachinePulse一直打磨本地生活智能体Karpo。
无论是全城搜餐厅、找周末活动,还是打开网页比房型、勾时段、完成订座,背后的每一步操作本质上都是高频判断。
放眼日常生活,这样的微决策其实无处不在。
超市里,从满架牛奶中,挑出符合自己口味、身体需求的一盒。
夜色中,走进一家合心意的酒吧,闲聊几句,轻松收尾疲惫的一天。
这些看似不假思索的生活瞬间,落到Agent身上,全是一次次毫秒级的权衡与拍板。

然而,通用大模型动辄几秒的卡顿、微妙的判断失误,以及每次多烧掉的Token,传到真实用户手里就是致命的体验落差。
AI实验室可以专注刷Benchmark,但冲在一线的团队,每天都在直面真实的交互痛点。
从实战来看,垂类Agent产品本身就是最好的模型训练场。
真实业务里的多条件权衡、连续网页操作与异常回退,逼着团队跳出纸面跑分,去攻克实验室里看不到的延迟、成本与校准难题。
如今,随着决策延迟被压进毫秒级、单次成本降到几美分,高频快思考正给各类Agent带来全新的想象空间。
MachinePulse将这套具备原生网页操作判断力的0.8B到31B全尺寸决策模型悉数开源,为所有Personal Agent创作者送上了一批趁手弹药。

让通用大模型专注深度思考,把毫秒级的高频拍板交给Karpo决策模型。
只需一张显卡,给你的Agent装上这颗击败谷歌闭源新王的「全球第一决策大脑」,探索个人智能体的下一个浪潮吧!
本文来自微信公众号“新智元”,作者:ASI启示录;编辑:摩西 大卫,36氪经授权发布。