데이터 출처가 실제로 의미하는 것과 이를 검증하는 방법

· 2 분 소요 · provenance, procurement
이 번역은 기계로 생성되었으며 원어민의 검수를 거치지 않았습니다. 불분명한 경우 영어 원문이 기준입니다. 잘못된 부분이 있으면 알려주시면 수정하겠습니다. English
출처란 데이터셋의 각 항목이 어디에서 왔는지, 누가 생성했는지, 어떤 동의 하에 이루어졌는지를 보여줄 수 있는 것을 의미합니다. 진정한 출처는 보장이 아닌 아티팩트입니다: 보존된 캡처 메타데이터, 기록된 동의, 항목별 기여자 속성 및 각 레이블을 생성한 기준 버전입니다.
요약
- 출처는 데이터셋별이 아닌 항목별입니다.
- 보존된 EXIF는 캡처된 이미지의 주요 출처 신호입니다.
- 동의 기록은 항목에 첨부되어야 하며, 포괄적인 진술로 보관되어서는 안 됩니다.
- 모든 레이블은 이를 생성한 기준 버전을 포함해야 합니다.
- 항목별 출처를 제공할 수 없는 공급자는 주장만 할 뿐 증거를 제시하지 않는 것입니다.
왜 데이터셋 수준의 출처는 충분하지 않은가?
왜냐하면 결국 질문을 받게 되는 것은 특정 항목에 대한 것이지 데이터셋에 대한 것이 아니기 때문입니다. 권리 소유자나 규제 기관이 한 이미지를 문의할 때, 컬렉션이 윤리적으로 소싱되었다는 진술은 아무것도 답하지 않습니다.
항목별 출처는 각 행이 누가, 언제, 어떤 동의 하에, 어떤 기준 버전에 따라 생성되었는지를 추적할 수 있음을 의미합니다. 이것이 도전에 살아남는 유일한 형태입니다.
실제로 출처를 구성하는 아티팩트는 무엇인가?
캡처된 이미지의 경우: 캡처 시간과 장치를 보여주는 온전한 EXIF, 이는 원본 캡처와 스크랩된 파일을 구분하는 요소입니다. 음성의 경우: 녹음 조건과 화자의 동의 기록입니다. 레이블의 경우: 주석자, 타임스탬프 및 적용된 고정 기준 버전입니다.
평가 중에 특정 행의 샘플에 대해 이를 요청하십시오. 선택한 행에 대해 이를 제공할 수 있는 공급자는 진정한 출처를 가지고 있으며, 정책 문서를 제공하는 공급자는 그렇지 않습니다.
- 이미지의 온전한 캡처 메타데이터
- 사람이 등장하는 경우 항목별 동의 기록
- 항목별 기여자 속성
- 모든 레이블에 찍힌 기준 버전
- 전달 후에도 남아 있는 타임스탬프
왜 캡처 메타데이터가 자주 파괴되는가?
대부분의 수집 파이프라인이 이미지를 갤러리, 메시징 앱 또는 크기 조정 단계를 통해 라우팅하여 EXIF를 제거하거나 다시 작성하기 때문입니다. 파일이 구매자에게 도달할 때쯤이면 출처는 사라지고 복구할 수 없습니다.
이것이 인앱 캡처가 기능이 아니라 운영적으로 중요한 이유입니다. 기여자가 갤러리에서 업로드하면 계약서에 무엇이 적혀 있든 메타데이터는 이미 손실됩니다.
계약서에 무엇을 요구해야 하는가?
출처 아티팩트가 데이터를 제공할 때 함께 전달되고, 공급자가 보유하는 것이 아니라 전달 파이프라인의 형식 변환을 통해서도 보존되도록 요구해야 합니다. 공급자의 내부 시스템에 보관된 출처는 관계가 종료되면 잃게 되는 출처입니다.
또한 소스 기록에 대한 행 샘플을 감사할 권리를 요구하고, 분쟁을 위해 남겨두기보다는 적어도 한 번은 초기에 이를 사용하십시오.
다른 질문
AI 학습 데이터에서 데이터 출처란 무엇인가요?
각 항목이 어디에서 왔는지, 누가 생성했는지, 어떤 동의 하에, 어떤 라벨링 기준에 따라 이루어졌는지를 보여줄 수 있는 능력입니다. 이는 데이터셋 수준의 주장이 아닌 항목별 속성입니다.
공급자의 출처 주장을 어떻게 확인할 수 있나요?
평가 중에 특정 행을 선택하고 그 출처 아티팩트를 요청하십시오: 캡처 메타데이터, 동의 기록, 기여자 속성 및 기준 버전. 정책 문서는 답이 아닙니다.
이미지 데이터셋에서 EXIF 메타데이터가 왜 중요한가요?
이미지가 언제, 어떤 장치에서 캡처되었는지를 기록하며, 이는 원본 필드 캡처와 스크랩된 자료를 구분하는 주요 증거입니다. 대부분의 파이프라인은 인앱 캡처가 아닌 경우 이를 제거합니다.