Read in English

你忘了的那种语言,模型表现最差

被逐项复核的检查清单

一个模型可以在「做它的团队所用的语言」里非常优秀,在「一半用户所用的语言」里平平无奇。没人发现,因为评测是用前一种语言写的。

这个差距要等到有客户用另一种语言投诉才显形,而那时它已经上线好几个月了。

你宣称支持的每一种语言都要打分

不是把同样五十道题翻一遍,也不是用机器生成的版本。要由「真的会用这种语言、在这个市场、问这个产品」的人来写。

翻过来的问题,考的是翻译器。

把流利和正确分开

模型可以在一种语言里写出流畅、语法正确的文本,而里面的事实是错的。两个都评,因为一个流利的错误答案,比一个笨拙的正确答案伤害更大。

注意语域

敬语、人称、礼貌习惯各不相同,而主要在一种语言上训出来的模型,会把习惯套到其他语言上。这是用户一听就听出来的质量问题。

每次都要按语言报

一个「多语总分」,是按行数最多的那种语言加权的平均。把每种语言的数字和它的行数并排发出来。

这些集合由 Zovda 通过 Datuva 生产,语言和是否母语是独立字段。音频语料把这套纪律用在了语音上。

告诉我们你的用户在用哪些语言,我们会在 1 个工作日内回复。

说说实际会用哪些语言

相关文章

经得起复核的评测数据

评分细则、金标准集与配对数据,按你真实的评测方式来建,我们在 1 个工作日内回复。

申请试用查看语料清单

申请试用

告诉我们你要解决的问题,我们在 1 个工作日内回复。