O estudo identificou a presença de 170 fotos de crianças de pelo menos 10 estados do Brasil, que mostram momentos como o nascimento de bebês, festas de aniversário e apresentações escolares. Essas imagens foram localizadas em um banco de dados denominado LAION-5B, utilizado para o treinamento de algoritmos de IA. Apesar de ser um número relativamente baixo em comparação ao total de imagens no banco, que ultrapassa 5 bilhões, a descoberta acende um alerta sobre a privacidade e segurança dos indivíduos.
A pesquisa revelou que algumas das fotos foram postadas por crianças, adolescentes, seus pais ou familiares em blogs e sites de compartilhamento de fotos há anos, em muitos casos até mesmo antes da criação do banco de imagens. Essas imagens foram usadas como base para o desenvolvimento de deepfakes, que são conteúdos falsos criados por meio de IA para disseminar informações enganosas e prejudiciais na internet.
A coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, destacou a importância de garantir a proteção dos direitos dos usuários no ambiente online, incluindo a regulamentação do uso de inteligência artificial. Ela ressaltou a necessidade de as grandes empresas e mídias sociais assumirem sua responsabilidade na proteção da privacidade dos usuários, especialmente de crianças e adolescentes.
Diante dessa preocupante situação, a organização alemã responsável pelo LAION-5B afirmou que as fotos pessoais das crianças encontradas pela Human Rights Watch serão removidas do banco de dados. No entanto, a LAION contestou a capacidade dos modelos de IA treinados reproduzirem dados pessoais literalmente, ressaltando que a responsabilidade de remover fotos pessoais da internet cabe às crianças e seus pais.
A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, alertou para os perigos do uso indevido de imagens de menores por meio de IA, ressaltando a importância de medidas eficazes para garantir a segurança e privacidade dos usuários no ambiente digital. Este caso evidencia a necessidade urgente de regulamentação e controle do uso de inteligência artificial em benefício da proteção dos direitos fundamentais das crianças e adolescentes.
