Read in English

检索质量,就是答案本身

把杂乱的数据流整理成统一训练集

有据可依的系统在两个地方失败:正确的那一段没被检索到,或者检索到了却没用上。两种失败在输出里长得一模一样,而修法完全不同。

团队通常从第二种开始,因为改提示词让人感觉在推进。

先单独量第一段

对一批问题,检查正确的那一段有没有出现在前十。这一个数字,给下游一切设了上限。

前十的召回都弱,任何提示词都救不了答案,该动的是语料。

再量它有没有被用上

对「那一段确实在结果里」的问题,检查回答有没有引用它、有没有和它一致。这里的不一致,是生成的问题。

把这两个数字分开,是「一周提示词工作」和「一周语料工作」的区别,而选错要花掉一个月。

语料的问题,看起来像模型的问题

  • 从半句话开始的段落,支撑不了答案
  • 过期版本排在当前版本前面
  • 三份重复把排序摊薄,谁也没赢

每一种,表现出来的都是「模型不好用」。

把段落留在记录里

系统回答时,把检索到哪些段落、引用了哪几段存下来。没有这个,每一次故障排查都从零开始。

这些集合由 Zovda 通过 Datuva 生产,段落保留文档和版本。题库与推理语料展示了答案如何绑定到证据。

告诉我们你的系统在哪里放弃,我们会在 1 个工作日内回复。

说说你的答案从哪来

相关文章

把能直接进训练的语料交到你手上

告诉我们你在训练什么、关注哪些模态,我们在 1 个工作日内回复。

申请试用查看语料清单

申请试用

告诉我们你要解决的问题,我们在 1 个工作日内回复。