4B 开源模型击败 GPT-5.6 Sol 检索:Castform 如何把成本压低 100 倍
Castform + Neon 模型效率对比 GPT-5.6 Sol 做一次多轮搜索请求要花 $0.03,耗时超过 10 秒。Castform 用一个 4B 参数的开源模型,通过 RL 后训练,在搜索检索准确率上达到了 GPT-5.6 Sol 同等水平,推理成本降低了 100 倍。 这个结果来自 Neon(原独立 Postgres 平台,已被 Databri…
Castform + Neon 模型效率对比 GPT-5.6 Sol 做一次多轮搜索请求要花 $0.03,耗时超过 10 秒。Castform 用一个 4B 参数的开源模型,通过 RL 后训练,在搜索检索准确率上达到了 GPT-5.6 Sol 同等水平,推理成本降低了 100 倍。 这个结果来自 Neon(原独立 Postgres 平台,已被 Databri…