用长解答训练出来的模型,会写更长的解答。奖励长度的基准一路上涨,准确率却原地不动——这就是信号。
推理语料不是文字量,是决策记录。
留下被否掉的那条岔路
解答里信息量最大的一步,往往是被试过又放弃的那一步:它说明哪种做法看起来可行,以及为什么不行。
只存成功路径的语料,教出的是自信,不是判断力。
把推理和行文分开
思维链和最终解释放同一个字段,模型就没法学「想得简洁、答得礼貌」这两件事。
我们分三个字段:推演步骤、最终答案、简短理由。三者按各自的节奏训练。
核验步骤,不只核验结果
答案对、过程错,教的是错误流程。任务允许就核对中间值,只核得了最终答案的行要标出来。
这个标记,能防止买家给「看起来严谨、其实无从审计」的行过高权重。
交付前我们跑的清单
- 每一行都把推演步骤和最终答案分开?
- 有被否掉的分支时,保留下来了?
- 中间步骤可核验?不可核验的有标记?
- 推理长度与答案长度彼此独立?
- 每一行都能追溯到它解的那个任务?
答不上这些,这份语料教的是格式。Zovda 围绕决策链构造推理类语料,Datuva 目录把它与普通问答行分开。
从哪里开始
从任务类型出发:算术、代码、规划、抽取,需要的链条深度不同。题库语料覆盖推理最重的一端,语料总目录把各类对应到阶段。
告诉我们任务和量,我们会在 1 个工作日内回复。
