一个模型可以在「做它的团队所用的语言」里非常优秀,在「一半用户所用的语言」里平平无奇。没人发现,因为评测是用前一种语言写的。
这个差距要等到有客户用另一种语言投诉才显形,而那时它已经上线好几个月了。
你宣称支持的每一种语言都要打分
不是把同样五十道题翻一遍,也不是用机器生成的版本。要由「真的会用这种语言、在这个市场、问这个产品」的人来写。
翻过来的问题,考的是翻译器。
把流利和正确分开
模型可以在一种语言里写出流畅、语法正确的文本,而里面的事实是错的。两个都评,因为一个流利的错误答案,比一个笨拙的正确答案伤害更大。
注意语域
敬语、人称、礼貌习惯各不相同,而主要在一种语言上训出来的模型,会把习惯套到其他语言上。这是用户一听就听出来的质量问题。
每次都要按语言报
一个「多语总分」,是按行数最多的那种语言加权的平均。把每种语言的数字和它的行数并排发出来。
这些集合由 Zovda 通过 Datuva 生产,语言和是否母语是独立字段。音频语料把这套纪律用在了语音上。
告诉我们你的用户在用哪些语言,我们会在 1 个工作日内回复。
