Fotos de crianças brasileiras são usadas por inteligência artificial de forma indevida
As fotos das crianças brasileiras, mesmo não estando disponíveis em pesquisas online, foram acessadas pelas ferramentas de IA, revelando uma falha das empresas e mídias sociais em proteger a privacidade dos usuários
Por Plox
12/06/2024 17h09 - Atualizado há 3 meses
Um levantamento da Human Rights Watch revelou que fotos pessoais de crianças e adolescentes brasileiros estão sendo utilizadas por ferramentas de inteligência artificial (IA) sem o consentimento dos envolvidos. As imagens, retiradas de sites e mídias sociais, foram encontradas no banco de dados LAION-5B, que contém mais de 5 bilhões de imagens.
![](https://static.plox.com.br/uploads/body/2024-06/e1c95d9dc4843d7b2f9c-Imagaa.jpg)
Uso de deepfakes preocupa especialistas
A organização identificou 170 fotos de crianças de pelo menos 10 estados brasileiros, retratando momentos como nascimento, festas de aniversário e apresentações escolares. Embora esse número seja pequeno comparado ao total do banco de dados, ele levanta preocupações sobre privacidade e segurança.
“Algumas dessas fotos foram postadas por crianças e adolescentes, seus pais ou familiares em blogs pessoais e sites de compartilhamento de fotos e vídeos. Algumas foram postadas anos ou até mesmo uma década”, declarou a Human Rights Watch.
A pesquisadora de Direitos da Criança e Tecnologia da Human Rights Watch, Hye Jung Han, destacou que a IA facilita a criação de imagens realistas rapidamente e sem custo, o que pode resultar em deepfakes prejudiciais. Deepfakes são vídeos ou imagens adulteradas por IA, que podem, por exemplo, trocar rostos ou falas.
Privacidade e falhas na proteção de dados
As fotos das crianças brasileiras, mesmo não estando disponíveis em pesquisas online, foram acessadas pelas ferramentas de IA, revelando uma falha das empresas e mídias sociais em proteger a privacidade dos usuários. A instituição alemã responsável pelo LAION-5B confirmou a presença das fotos no banco de dados e comprometeu-se a removê-las, embora tenha argumentado que a responsabilidade pela remoção das fotos pessoais da internet seja dos próprios usuários.
Legislação e proteção de dados no ambiente digital
Maria Mello, coordenadora do Programa Criança e Consumo do Instituto Alana, enfatizou a importância de aplicar a legislação no mundo virtual para proteger os usuários. "É importante e bem-vinda a inclusão de novos direitos a partir dos desafios colocados em relação ao ambiente digital, incluindo da inteligência artificial. A gente precisa garantir o dever de cuidado com crianças e adolescentes, quando são os públicos mais afetados," afirmou em entrevista à TV Brasil.