JwumaO Regulamento Europeu de IA e a sua cadeia de fornecimento de dados de treino
· 3 min de leitura · compliance, procurement
Esta tradução foi produzida por máquina e não foi verificada por um falante nativo. Em caso de dúvida, a versão em inglês é a original. Diga-nos se algo estiver errado e corrigiremos. English
O Regulamento Europeu de IA impõe obrigações aos fornecedores de sistemas de IA que se estendem à forma como os dados de treino foram obtidos e documentados. Na prática, isso significa que a proveniência, o âmbito do consentimento e a transparência sobre o processamento automatizado tornam-se requisitos dos fornecedores em vez de preferências internas.
Em resumo
- As obrigações dos fornecedores de sistemas de IA estendem-se à documentação dos dados de treino.
- O Artigo 4 aborda a literacia em IA para as pessoas que operam estes sistemas.
- As obrigações de transparência exigem a divulgação quando uma pessoa interage com um sistema de IA.
- A Diretiva do Trabalho em Plataformas afeta a forma como os trabalhadores de dados são contratados.
- Os requisitos continuam a ser clarificados, por isso os contratos devem antecipar mudanças.
Está a definir algo assim?
Preferimos falar do problema em vez de orçamentar por volume.
Ver capacidadesPor que isso afeta os seus fornecedores?
Porque as obrigações de documentação de um fornecedor de sistema não podem ser cumpridas sem as informações que o fornecedor de dados possui. Se precisar descrever como os dados de treino foram obtidos e qual o consentimento que os cobriu, precisa disso de quem os coletou.
Fornecedores que não conseguem produzir a proveniência por item tornam-se, portanto, um problema de conformidade em vez de apenas um problema de qualidade.
O que deve exigir contratualmente agora?
Entrega de artefactos de proveniência com os dados em vez de retenção pelo fornecedor. Âmbito de consentimento explícito cobrindo o treino comercial em vez de uso para pesquisa. Divulgação de onde o processamento automatizado é utilizado nas próprias operações do fornecedor, incluindo como avaliam e gerem os seus trabalhadores.
Este último é cada vez mais relevante. Um fornecedor que toma decisões automatizadas sobre os seus próprios colaboradores tem obrigações próprias, e essas obrigações estão a tornar-se visíveis em questionários de diligência.
- Artefactos de proveniência entregues, não retidos
- Âmbito de consentimento explicitamente cobrindo o treino comercial
- Divulgação de decisões automatizadas nas operações do fornecedor
- Um caminho para honrar pedidos dos titulares de dados
- Termos contratuais que antecipem mudanças regulamentares
Onde está a incerteza honesta?
Há bastante, e um fornecedor que afirma ter total certeza sobre a sua posição de conformidade está a exagerar. As orientações continuam a desenvolver-se e as interpretações razoáveis diferem nos detalhes.
O que não é incerto é a direção: os requisitos de documentação, proveniência e transparência estão a aumentar em vez de diminuir. Preparar-se para eles agora é mais barato do que adaptar-se depois.
E quanto aos próprios trabalhadores?
A Diretiva do Trabalho em Plataformas aborda como os trabalhadores de plataformas são contratados e como a gestão algorítmica é aplicada a eles, o que é diretamente relevante para a forma como um fornecedor de dados opera.
Um fornecedor que toma decisões automatizadas de aceitação e rejeição sobre colaboradores, sem intervenção humana e sem motivo declarado, está a assumir um risco que se torna seu através da cadeia de fornecimento.
Outras perguntas
O Regulamento Europeu de IA aplica-se aos fornecedores de dados de treino?
As obrigações recaem sobre os fornecedores de sistemas de IA, mas cumpri-las requer documentação que apenas o fornecedor de dados possui. Na prática, a documentação de proveniência e consentimento torna-se um requisito do fornecedor.
O que devo adicionar aos contratos com fornecedores devido ao Regulamento de IA?
Entrega de artefactos de proveniência com os dados, âmbito de consentimento explícito cobrindo o treino comercial e divulgação de onde o fornecedor utiliza decisões automatizadas nas suas próprias operações.
O Regulamento de IA afeta a forma como os trabalhadores de dados são geridos?
A Diretiva do Trabalho em Plataformas aborda diretamente a gestão algorítmica dos trabalhadores de plataformas, o que é relevante para qualquer fornecedor que tome decisões automatizadas sobre os seus próprios colaboradores.