JwumaLa Ley de IA de la UE y su cadena de suministro de datos de entrenamiento
· 3 min de lectura · compliance, procurement
Esta traducción fue generada por una máquina y no ha sido revisada por un hablante nativo. Ante cualquier duda, la versión en inglés es la original. Avísanos si algo está mal y lo corregiremos. English
La Ley de IA de la UE impone obligaciones a los proveedores de sistemas de IA que se extienden hacia atrás en cómo se obtuvieron y documentaron los datos de entrenamiento. En la práctica, eso significa que la procedencia, el alcance del consentimiento y la transparencia sobre el procesamiento automatizado se convierten en requisitos para los proveedores en lugar de preferencias internas.
En resumen
- Las obligaciones sobre los proveedores de sistemas de IA alcanzan la documentación de los datos de entrenamiento.
- El Artículo 4 aborda la alfabetización en IA para las personas que operan estos sistemas.
- Las obligaciones de transparencia requieren divulgación cuando una persona interactúa con un sistema de IA.
- La Directiva sobre el Trabajo en Plataformas afecta cómo se involucra a los trabajadores de datos.
- Los requisitos continúan aclarandose, por lo que los contratos deben anticipar cambios.
¿Estás definiendo algo así?
Preferimos hablar del problema antes que cotizar por volumen.
Ver capacidades¿Por qué esto alcanza a sus proveedores?
Porque las obligaciones de documentación de un proveedor de sistemas no pueden cumplirse sin la información que posee el proveedor de datos. Si debe describir cómo se obtuvieron los datos de entrenamiento y qué cubría el consentimiento, necesita eso de quien los recopiló.
Los proveedores que no pueden producir la procedencia por ítem se convierten en un problema de cumplimiento en lugar de solo uno de calidad.
¿Qué debería exigir contractualmente ahora?
Entrega de artefactos de procedencia con los datos en lugar de retención por parte del proveedor. Alcance del consentimiento explícito que cubra el entrenamiento comercial en lugar del uso en investigación. Divulgación de dónde se utiliza el procesamiento automatizado en las propias operaciones del proveedor, incluyendo cómo evalúan y gestionan a sus trabajadores.
Ese último punto es cada vez más relevante. Un proveedor que toma decisiones automatizadas sobre sus propios colaboradores tiene obligaciones propias, y esas obligaciones se están volviendo visibles en los cuestionarios de diligencia.
- Artefactos de procedencia entregados, no retenidos
- Alcance del consentimiento que cubra explícitamente el entrenamiento comercial
- Divulgación de la toma de decisiones automatizada en las operaciones del proveedor
- Una vía para cumplir con las solicitudes de los sujetos de datos
- Términos contractuales que anticipen cambios regulatorios
¿Dónde está la incertidumbre honesta?
Hay bastante, y un proveedor que afirme tener certeza completa sobre su posición de cumplimiento está exagerando. La orientación sigue desarrollándose y las interpretaciones razonables difieren en los detalles.
Lo que no es incierto es la dirección: los requisitos de documentación, procedencia y transparencia están aumentando en lugar de disminuir. Construir para ellos ahora es más barato que adaptar después.
¿Qué pasa con los propios trabajadores?
La Directiva sobre el Trabajo en Plataformas aborda cómo se involucra a los trabajadores de plataformas y cómo se aplica la gestión algorítmica a ellos, lo cual es directamente relevante para cómo opera un proveedor de datos.
Un proveedor que toma decisiones automatizadas de aceptación y rechazo sobre los colaboradores, sin intervención humana y sin razón declarada, está asumiendo un riesgo que se convierte en suyo a través de la cadena de suministro.
También preguntan
¿La Ley de IA de la UE se aplica a los proveedores de datos de entrenamiento?
Las obligaciones recaen sobre los proveedores de sistemas de IA, pero cumplirlas requiere documentación que solo el proveedor de datos posee. En la práctica, la documentación de procedencia y consentimiento se convierte en un requisito para los proveedores.
¿Qué debería agregar a los contratos con proveedores debido a la Ley de IA?
Entrega de artefactos de procedencia con los datos, alcance del consentimiento explícito que cubra el entrenamiento comercial y divulgación de dónde el proveedor utiliza la toma de decisiones automatizada en sus propias operaciones.
¿La Ley de IA afecta cómo se gestionan los trabajadores de datos?
La Directiva sobre el Trabajo en Plataformas aborda directamente la gestión algorítmica de los trabajadores de plataformas, lo cual es relevante para cualquier proveedor que tome decisiones automatizadas sobre sus propios colaboradores.