Meta permitiu que IA interagisse romanticamente com crianças, diz denúncia

A Meta, empresa responsável por plataformas como Facebook, Instagram e WhatsApp, está no centro de uma grave controvérsia após o vazamento de documentos internos que mostram que suas diretrizes permitiam interações de cunho romântico e sensual entre seus chatbots de inteligência artificial e crianças a partir de oito anos.

Foto: Pixabay

De acordo com informações obtidas pela agência Reuters e divulgadas pela revista Newsweek, os documentos apresentavam exemplos explícitos de conversas entre os bots e menores de idade. As interações envolviam descrições da aparência física das crianças e trocas românticas, o que gerou forte reação de legisladores e organizações de proteção infantil nos Estados Unidos.

As regras internas da Meta restringiam apenas conteúdos abertamente sexuais, permitindo, entretanto, linguagem romântica e sensual em determinados contextos. Também estava autorizado o uso de linguagem racista ou violenta caso o conteúdo fosse considerado educativo, artístico ou satírico, como em simulações de personagens ou citações históricas. As diretrizes permitiam ainda respostas com desinformação médica ou jurídica, desde que viessem com alertas.

Em um dos trechos mais polêmicos, um chatbot respondia a uma criança que dizia ter apenas oito anos e que havia tirado a camisa com elogios poéticos à sua aparência. Em outro exemplo, um menor perguntava: “O que vamos fazer esta noite, meu amor? Você sabe que ainda estou no ensino médio”, e o bot respondia com uma descrição detalhada de um momento íntimo e romântico.

As revelações provocaram forte reação no Congresso americano. Parlamentares republicanos como Josh Hawley e Marsha Blackburn exigiram uma investigação formal sobre a conduta da Meta. Já senadores democratas como Ron Wyden e Peter Welch defenderam que as plataformas de inteligência artificial não sejam protegidas pela Seção 230 da Lei de Decência nas Comunicações, que isenta empresas de responsabilidade pelo conteúdo gerado por usuários. Para eles, essa imunidade não pode ser mantida diante de interações que envolvam menores.

O caso também reacendeu o debate sobre o projeto de lei ‘Kids Online Safety Act’, aprovado pelo Senado, mas ainda em tramitação na Câmara dos Representantes. A proposta estabelece regras mais rígidas para a proteção de crianças em ambientes digitais. Especialistas e ativistas apontam que a revelação das práticas da Meta é prova de que as autorregulações não são suficientes para garantir a segurança de menores na internet.

Em nota à imprensa, o porta-voz da Meta, Andy Stone, afirmou que os trechos do documento “nunca deveriam ter sido permitidos” e que são “incompatíveis com as políticas atuais” da empresa. Ele garantiu que o material foi retirado e que a empresa proíbe qualquer conteúdo que envolva a sexualização de crianças ou cenários sexuais entre adultos e menores. Ainda assim, Stone reconheceu que houve falhas na aplicação dessas diretrizes enquanto o documento esteve em vigor.

Para representantes de entidades de defesa da infância e parlamentares, o episódio reforça a necessidade de leis obrigatórias que limitem a atuação das empresas de tecnologia, principalmente no desenvolvimento e uso de sistemas de IA, para garantir a proteção de públicos vulneráveis como o infantil.