数据来源的实际含义及如何验证

· 1 分钟阅读 · provenance, procurement
本译文由机器生成,未经母语者校对。如有不清楚之处,以英文原版为准。如发现错误请告知我们,我们会更正。 English
来源意味着能够展示数据集中每一项的来源、由谁生产及在何种同意下生成。真实的来源是证据,而不是保证:保留的捕获元数据、记录的同意、每项的贡献者归属以及生成每个标签的规则版本。
要点摘要
- 来源是针对每一项的,而不是针对整个数据集。
- 保留的EXIF是捕获图像的主要来源信号。
- 同意记录应附在每一项上,而不是作为一项笼统声明。
- 每个标签应附有生成它的规则版本。
- 无法提供每项来源的供应商是在声称,而不是在证明。
为什么数据集级别的来源不够?
因为最终被问到的问题是关于特定项的,而不是整个数据集。当权利持有人或监管者质询某一图像时,声称该集合是合乎道德来源的并不能回答任何问题。
每项的来源意味着每一行都可以追溯到由谁生产、何时、在何种同意下以及使用哪个规则版本。这是唯一能经受挑战的形式。
哪些证据实际上构成了来源?
对于捕获的图像:完整的EXIF显示捕获时间和设备,这区分了原始捕获与抓取文件。对于语音:录音条件和说话者的同意记录。对于标签:标注者、时间戳和应用的冻结规则版本。
在评估期间,要求查看特定行样本的这些信息。能够为您选择的行提供这些信息的供应商拥有真实来源;提供政策文件的供应商则没有。
- 图像上的完整捕获元数据
- 出现人物的每项同意记录
- 每项的贡献者归属
- 每个标签上的规则版本标记
- 交付后仍然保留的时间戳
为什么捕获元数据经常被破坏?
因为大多数收集管道通过图库、消息应用或调整大小步骤传输图像,这些步骤会删除或重写EXIF。当文件到达买家时,来源已经丢失且无法重建。
这就是为什么应用内捕获在操作上很重要,而不仅仅是一个功能。如果贡献者从他们的图库上传,元数据已经丢失,无论合同怎么说。
合同应要求什么?
要求来源证据与数据一起交付,而不是由供应商保留,并且它们在交付管道中的任何格式转换中都能保留。保存在供应商内部系统中的来源是当关系结束时您会失去的来源。
还应要求有权对样本行进行审核,并至少在早期使用一次,而不是留待争议时使用。
其他问题
AI训练数据中的数据来源是什么?
能够展示每一项的来源、由谁生产、在何种同意下及使用哪个标注标准。它是每项的属性,而不是数据集级别的声明。
我如何检查供应商的来源声明?
在评估期间选择特定行并要求提供其来源证据:捕获元数据、同意记录、贡献者归属和规则版本。政策文件不是答案。
为什么EXIF元数据对图像数据集很重要?
它记录了图像的捕获时间和设备,这是区分原始现场捕获与抓取材料的主要证据。除非在应用内捕获,否则大多数管道会删除它。