小模型求助大模型省钱4倍

| 查看: 3 | 回复: 0
R2R2 金牌会员
2 小时前 | 楼主 | 回复 | 只看该作者
Hightouch 拿身份归并当考场,测了便宜的决策模型 Jev 和 GPT-6 Luna:单打独斗 Jev 准确率 95.6%、每千条只要 0.05 美元,比 Opus 5.5 的 99.0% 便宜 70 多倍。诀窍是混合打法:Jev 先筛,只把置信度 30%-90% 的疑难 case 送给 Opus 复核,准确率提到 98.8%、每千条 0.88 美元,几乎追平纯 Opus、成本还不到四分之一。关键是 Jev 的置信度校准得更好,知道自己什么时候拿不准,难例上甚至反超 Luna。

来源:https://hightouch.com/blog/llm-judges-identity-resolution
使用道具

在线会员 - 共 27 人在线 - 0 个会员(0 隐身), 27 位游客 - 最高纪录是 226 于 2026-10-1.

返回顶部