Frontier / 03 · AI SYSTEM

推理时计算扩展:让思考时间成为新维度

什么任务值得把 FLOPs 花在推理阶段,什么任务只是在为不确定性交税?

推理时计算把延迟和 token 预算变成可调参数,但只有当验证器可靠、任务可分解时,额外思考才会兑现。

解释图推理预算如何转化为可靠答案
  1. 01任务可验证性判断
  2. 02策略思考或采样
  3. 03候选N 条推理轨迹
  4. 04验证排序与筛选
  5. 05停止预算与置信

采样、验证与停止策略组成预算分配器;验证器的误差会直接限制最终收益。

Research notes / 两篇结构

先建立模型,再用实验拆边界

01旗舰研究LLM / Agent6 分钟

推理时计算:多想一会儿到底值不值

比较 best-of-N、长思维链与验证器选择,建立以“每个可靠答案成本”为核心的评价框架。

Test-time compute推理DeepSeek-R1

Instrument

推理预算

8 次采样在单次成功率 25% 时可把至少一个正确答案的概率提高到约 90%;如果验证器不可靠,实际成功率会明显低于理论上限。

打开实验
采样次数8 并行或串行尝试数
单次成功率0.25 题目级成功率
验证器准确率0.9 从候选中选中正确答案的概率
单次成本1.5 cost统一成本单位

Primary sources / 一手证据

可追溯的起点

  1. · 2024Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model ParametersPAPER
  2. · 2025DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement LearningPAPER
  3. · 2025s1: Simple test-time scalingPAPER

Cross-domain synthesis

把这个主题放回系统主线