Zovda
指令集容易做大，难做杂。生成变体轻而易举，而同一个任务的变体，仍然是同一个任务。
一万条都在要求「总结一下」的指令，教出来的是摘要能力、自信，以及写模板那个人的语气。
多样性是有轴的
- 操作：转换、抽取、判断、解释、拒绝
- 输入形态：短文本、长文档、表格、代码、对话
- 约束：长度、格式、受众、什么不能说
- 难度：一步、多步、信息缺失
数这张网格里每一格有多少行。总数看起来很大的集合，大多数格子是空的。
模板家族是看得出来的
生成的指令有共同的句首、标点习惯，以及偏爱的那三个动词。在它们上面训练的模型，学会的是认出模板再作答。
随机抽二十行念出来，你会听见那个模板。
模板没问题，前提是标出来
合成的广度对格式服从有用，对判断力无用。留一个字段说明哪些行是生成的、来自哪个家族，然后控制配比。
量这个集合能教什么
整族留出一个任务。如果训完模型还是不会，那这个集合教了其它族、没教这一族——这是对大多数指令语料最诚实的描述。
这些集合由 Zovda 通过 Datuva 生产，任务族和输入形态是独立字段。语料总目录展示了同一张网格如何用在不同模态上。
告诉我们你需要覆盖哪些行为，我们会在 1 个工作日内回复。