Google bloqueia 700 mil contas que tentavam aplicar golpes com IA

O Google divulgou, nesta quarta-feira (16), dados preocupantes sobre o uso indevido da sua plataforma de anúncios em 2024. De acordo com o Relatório de Segurança em Anúncios da empresa, cerca de 700 mil contas de anunciantes foram bloqueadas por tentarem aplicar golpes, muitos dos quais envolviam recursos de inteligência artificial para manipular imagens e áudios.

Foto: Pixabay

As fraudes consistiam, principalmente, em simular rostos e vozes de figuras públicas e celebridades com o objetivo de transmitir credibilidade. A partir de vídeos manipulados com IA, os golpistas promoviam produtos duvidosos, como promessas de dinheiro fácil. Esses conteúdos eram divulgados por meio de anúncios pagos em plataformas como o YouTube, sites parceiros e até nos resultados de busca do próprio Google.

A companhia relatou que, no total, foram bloqueados 5,1 bilhões de anúncios em 2024, enquanto mais de 39 milhões de contas de anunciantes foram suspensas por desrespeitar as políticas da empresa — muitas delas nem chegaram a veicular qualquer conteúdo antes da suspensão. Além disso, cerca de 415 milhões de anúncios foram interrompidos especificamente por fraudes com IA, o que levou a uma queda de 90% nas denúncias relacionadas a esse tipo de golpe.

No Brasil, o relatório trouxe pela primeira vez um recorte específico: foram removidos 201 milhões de anúncios e suspensas 1,3 milhão de contas. As principais infrações foram o uso indevido de marcas registradas, informações distorcidas, publicidade ilegal de jogos de azar e abuso da rede de anúncios. Sites parceiros também foram atingidos, com 1,3 bilhão de páginas afetadas e mais de 220 mil sites penalizados por conteúdo impróprio ou softwares maliciosos.

Os sistemas de IA usados pelo Google também passaram a identificar padrões suspeitos desde a criação das contas, detectando, por exemplo, o uso de informações de pagamento falsas.

Segundo Priscila Couto, responsável pela área de segurança do Google na América Latina, as medidas visam tornar a internet mais segura e confiável para os usuários. \"Levamos a sério as violações de nossas políticas e combatemos ativamente anúncios maliciosos\", destacou.

Outro ponto de destaque no relatório foi o combate à desinformação durante eleições. Em 2024, ano em que metade da população mundial foi às urnas, o Google removeu 10,7 milhões de anúncios eleitorais provenientes de contas não verificadas. A empresa atualizou 30 de suas políticas de anúncios, incluindo exigências de transparência para conteúdos políticos, como a identificação de quem pagou cada propaganda e a publicação de relatórios públicos com todos os anúncios eleitorais veiculados.

Além disso, o Google afirma ter sido pioneiro ao exigir que conteúdos gerados por IA em propagandas políticas sejam claramente identificados. A companhia segue comprometida em aplicar políticas contra alegações eleitorais comprovadamente falsas e reforça seu papel na proteção da integridade do processo democrático.