Fotos de crianças brasileiras são usadas por inteligência artificial de forma indevida

Um levantamento da Human Rights Watch revelou que fotos pessoais de crianças e adolescentes brasileiros estão sendo utilizadas por ferramentas de inteligência artificial (IA) sem o consentimento dos envolvidos. As imagens, retiradas de sites e mídias sociais, foram encontradas no banco de dados LAION-5B, que contém mais de 5 bilhões de imagens.

Uso de deepfakes preocupa especialistas

A organização identificou 170 fotos de crianças de pelo menos 10 estados brasileiros, retratando momentos como nascimento, festas de aniversário e apresentações escolares. Embora esse número seja pequeno comparado ao total do banco de dados, ele levanta preocupações sobre privacidade e segurança.

“Algumas dessas fotos foram postadas por crianças e adolescentes, seus pais ou familiares em blogs pessoais e sites de compartilhamento de fotos e vídeos. Algumas foram postadas anos ou até mesmo uma década”, declarou a Human Rights Watch.

A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, destacou que a IA facilita a criação de imagens realistas rapidamente e sem custo, o que pode resultar em deepfakes prejudiciais. Deepfakes são vídeos ou imagens adulteradas por IA, que podem, por exemplo, trocar rostos ou falas.

Privacidade e falhas na proteção de dados

As fotos das crianças brasileiras, mesmo não estando disponíveis em pesquisas online, foram acessadas pelas ferramentas de IA, revelando uma falha das empresas e mídias sociais em proteger a privacidade dos usuários. A instituição alemã responsável pelo LAION-5B confirmou a presença das fotos no banco de dados e comprometeu-se a removê-las, embora tenha argumentado que a responsabilidade pela remoção das fotos pessoais da internet seja dos próprios usuários.

Legislação e proteção de dados no ambiente digital

Maria Mello, coordenadora do Programa Criança e Consumo do Instituto Alana, enfatizou a importância de aplicar a legislação no mundo virtual para proteger os usuários. "É importante e bem-vinda a inclusão de novos direitos a partir dos desafios colocados em relação ao ambiente digital, incluindo da inteligência artificial. A gente precisa garantir o dever de cuidado com crianças e adolescentes, quando são os públicos mais afetados," afirmou em entrevista à TV Brasil.