Zovda
偏好收集好跑，难跑好。因为最容易收的配对，就是一眼能看出赢家的那些。而这些配对几乎不携带关于品味的信息。
主要用明显配对训出来的模型，学到的是一条捷径：长度、笃定感、排版。这三样都和「赢」相关，没有一样是质量。
平局的问题
标注员被要求二选一。很多配对没有明确赢家，强行选一次，就是把噪声变成了标签。
把平局留成一个选项，并且留在集合里。一个从没见过平局的模型会学到「总有一个更好」，而一个认真的标注员并不这么认为。
一对样本该只差在一件事上
有用的配对只差一处：推理、完整度、或者对边角的处理。差五处的配对，教的是一个你说不出名字的偏好。
收集时把差异写下来。如果标注员说不清哪个更好、为什么更好，那一行就是感觉。
位置和长度是混淆项
交换两个答案的顺序，结果的变化比大多数人以为的大。给其中一个塞一段总结，也一样。
位置要随机、要记录，并且在相信任何偏好结论之前，先按长度看一下胜率。
平局和失败都要留
模型自己的答案输掉的那些行，信息量最大，也最常在文件变乱时第一批被删。
这些集合由 Zovda 通过 Datuva 生产，每一对都保留理由和它被展示的顺序。语料总目录标出了配对数据在链路里的位置。
告诉我们「更好」在你的产品里指什么，我们会在 1 个工作日内回复。