Memorization mitigation (mitigação de memorização em IA)

A memorização indevida de dados em modelos de IA generativa tem relevância jurídico-penal crescente, em três frentes principais.

(i) Violação da LGPD por reprodução de dados pessoais: modelos treinados com dados públicos da internet frequentemente incluem informações pessoais de indivíduos específicos — quando o modelo reproduz esses dados em suas saídas, pode configurar tratamento irregular de dados pessoais pelo operador do modelo, com possíveis reflexos administrativos e, em situações qualificadas, penais.

O direito ao apagamento (art. 18, VI, da LGPD) torna-se tecnicamente complexo quando o dado está embutido nos pesos do modelo, e não em uma base de dados tradicional — gerando o debate sobre "machine unlearning".

(ii) Vazamento de segredos e dados sensíveis: quando modelos são treinados com dados corporativos internos — prática comum em sistemas de assistência ao desenvolvimento e customer service —, a memorização pode levar à exposição inadvertida de informações confidenciais a usuários não autorizados. O caso Samsung (2023), em que engenheiros inseriram código-fonte em ChatGPT e tiveram o conteúdo potencialmente incorporado ao modelo, é emblemático e levou a proibições corporativas amplas. Pode configurar quebra de sigilo empresarial e, em contextos regulados (saúde, direito, financeiro), violação de sigilo profissional.

(iii) Direito autoral: a reprodução literal de obras protegidas por modelos de IA generativa tem gerado litígios em múltiplas jurisdições — notadamente o caso New York Times vs. OpenAI, em que o jornal demonstrou ser possível induzir o ChatGPT a reproduzir trechos substanciais de artigos protegidos. A insuficiência de memorization mitigation adequada pode funcionar como elemento probatório em ações por violação de direitos autorais e, em casos extremos, em ações penais correlatas.

(iv) Dever de cuidado do desenvolvedor: a omissão em implementar técnicas de memorization mitigation em modelos treinados com dados sensíveis ou protegidos é elemento relevante para análise de responsabilização quando ocorrem vazamentos ou reproduções indevidas. O estado da arte técnico à época do treinamento é parâmetro para aferir a diligência esperada.