Datasheet for datasets

O datasheet for datasets tem relevância jurídica crescente em razão do princípio de que a qualidade e os vieses de um dataset determinam diretamente o comportamento do modelo treinado. A ausência ou insuficiência do datasheet tem implicações práticas em múltiplas frentes.

(i) Dever de diligência do desenvolvedor: a omissão em documentar adequadamente datasets de treinamento, especialmente em sistemas de alto risco, pode caracterizar negligência em caso de falha do modelo.

(ii) Prova em processo penal: quando um sistema de IA produz resultado lesivo — por exemplo, reconhecimento facial com falso positivo que leva a prisão injusta, decisão automatizada discriminatória, ou moderação equivocada com consequências penais —, o datasheet é documento probatório de primeira linha para aferir se o dataset continha vieses previsíveis que deveriam ter sido corrigidos.

(iii) Direito à revisão de decisões automatizadas (art. 20 da LGPD): o exercício efetivo desse direito depende de compreensão sobre a origem dos dados que formaram o sistema — informação tipicamente encontrada no datasheet.

(iv) Auditoria regulatória: o AI Act europeu (art. 10) exige que datasets utilizados em sistemas de alto risco atendam a critérios de qualidade, relevância, representatividade e ausência de erros, obrigação cujo cumprimento somente pode ser verificado com documentação equivalente ao datasheet.

(v) Responsabilização distribuída: quando o dataset é fornecido por terceiros (data brokers, plataformas, pesquisadores), o datasheet documenta a cadeia de responsabilidade e permite identificar em que ponto da pipeline ocorreu eventual inadequação. O datasheet também é instrumento importante em casos de violação de direitos autorais por scraping massivo de obras protegidas para treinamento de modelos.