Instrument / reasoning-budget

增加推理次数会线性提高可靠答案概率,但验证成本和延迟如何反噬?

8 次采样在单次成功率 25% 时可把至少一个正确答案的概率提高到约 90%;如果验证器不可靠,实际成功率会明显低于理论上限。

回到 Test-time compute 研究档案

Interactive model / software simulation

推理预算与 Best-of-N

把单次成功率、验证器准确率和采样成本放在一起,观察“多试几次”何时仍有收益。

LOCAL MODEL
并行或串行尝试数
题目级成功率
从候选中选中正确答案的概率
统一成本单位
cost
在当前假设下,推理预算可能比直接扩大模型更划算。

至少一次正确

0.9独立同分布下的理论上限

验证后可靠率

0.81上限 × 验证器精度

推理预算

12cost采样次数 × 单次成本
EVIDENCE NOTE

独立同分布假设下的概率模型;真实模型的样本相关性会降低收益。

Primary reading

先读原始来源,再相信模型