Conteúdo produzido em parceria ISER / NEXO JORNAL. Publicado originalmente no Nexo Políticas Públicas em 25 set 2024
A partir das inferências feitas sobre os dados comportamentais de bilhões de usuários, as big tech inauguraram uma nova forma de publicidade. O direcionamento de anúncios a públicos microssegmentados possibilita estratégias que há uma década seriam impensáveis mesmo para os melhores publicitários, parecendo benéfico, à primeira vista, tanto para anunciantes legítimos quanto para o público geral. No entanto, não demorou muito para que o mercado publicitário nas plataformas digitais começasse a alavancar práticas predatórias, operações de influência e disseminação de conteúdo tóxico.
Fraudes na internet não são uma novidade, mas têm se sofisticado muito graças a estas ferramentas, que permitem que criminosos e anunciantes tóxicos no geral possam atrair, a custos baixíssimos, as vítimas ideais para seus esquemas. Aliado a isso, a epidemia de golpes tem se beneficiado imensamente da utilização de ferramentas de inteligência artificial generativa, que entregam as imagens, vídeos e áudios perfeitos para uma propaganda espetacular.
O novo relatório do NetLab UFRJ, “A revelação chocante que pode mudar tudo”, analisa a combinação disruptiva entre inteligência artificial, big data e religião. A exploração da crença religiosa no convencimento ao consumo através do uso da tecnologia é uma nova fronteira do capitalismo que precisa ser encarada – ainda mais quando a propaganda visa lesar financeira e moralmente os fiéis.
No estudo, demonstramos como criminosos manipulam vídeos e áudios de líderes religiosos conhecidos e admirados por milhões de brasileiros para a veiculação de anúncios nas plataformas da Meta – controladora do Facebook e do Instagram – que, em sua maioria, promovem remédios e tratamentos cuja eficácia não é comprovada e sem autorização de autoridades sanitárias. Figuras como os pastores Claudio Duarte e Silas Malafaia, e os padres Fábio de Melo e Marcelo Rossi aparecem nos anúncios não só como relevantes autoridades espirituais, mas também como garotos-propaganda de produtos para dores, impotência sexual, emagrecimento, ansiedade e depressão. A retórica messiânica dos anúncios, aliada à promessa de verdadeiros milagres apela ao imaginário religioso e torna os golpes irresistíveis, especialmente para aqueles que admiram as lideranças e creem em suas palavras.
Entrevista de padre Marcelo Rossi é manipulada com uso de inteligência artificial
para a venda de supostos remédios contra artrite e artrose
A escolha de um público consumidor não é fruto do acaso: tudo indica que os anunciantes direcionam os anúncios a grupos vulneráveis a narrativas milagrosas, como as pessoas idosas e pessoas religiosas. Fora as questões morais subjacentes, esta prática configura um grave risco sistêmico diante da Lei Geral de Proteção de Dados, uma vez que dados considerados sensíveis com alto potencial discriminatório , como a crença religiosa dos usuários, aparentam estar sendo utilizados para fins ilegais.
Áudio do pastor Claudio Duarte em podcast é substituído
por trecho forjado para a promoção da “cura para todas as dores”
A opacidade das plataformas em relação a seus anúncios e anunciantes está em flagrante contradição com a facilidade com que elas acessam e exploram dados de consumidores. A exploração da fragilidade emocional e física dos consumidores para a obtenção de lucro revitimiza pessoas com diferentes doenças e as afastam da ajuda de fato. Ao invés de buscarem tratamento médico adequado para problemas de saúde, essas pessoas optam pelas soluções milagrosas supostamente oferecidas por seus pastores de confiança.
Há também riscos para a saúde individual e coletiva quando produtos sem eficácia comprovada substituem métodos cientificamente testados na resolução de problemas de saúde. A desinformação na saúde pública é um problema para o qual o mundo vem dando maior atenção desde a pandemia de Covid-19. Os golpes que o relatório do NetLab UFRJ analisa se aproveitam deste momento de ataque à ciência, oferecendo produtos potencialmente danosos para os usuários, seja porque são inócuos contra as doenças que se propõem combater, agravando problemas médicos sérios, ou porque não há qualquer garantia de recebimento dos produtos anunciados.
Além disso, a facilidade de manipular as imagens e vozes de lideranças religiosas pode acarretar grandes consequências políticas, já que a fé tem se tornado um ativo político cada vez mais explorado por candidatos e marketeiros. Diversas das lideranças identificadas como alvos de anúncios ilegais se tornaram fiadores de campanhas eleitorais nos últimos anos, além de atuarem como a bússola moral de milhões de fiéis que os acompanham em suas redes. Portanto, a manipulação de suas imagens e vozes para difamar ou alavancar candidaturas específicas nas plataformas digitais é um risco iminente.
Estes anúncios só puderam ser identificados graças aos esforços dos pesquisadores do NetLab UFRJ, uma vez que as plataformas digitais apostam cada vez mais na opacidade de seu modelo de negócios, cuja receita é majoritariamente oriunda da veiculação de publicidade. A Biblioteca de Anúncios da Meta disponibilizada em países do Sul Global é muito aquém daquela disponibilizada na União Europeia, graças a projetos de regulação de serviços digitais. Anúncios direcionados a usuários europeus são arquivados por até um ano e podem ser vistos ao longo desse período, enquanto, no Brasil, anúncios só podem ser visualizados enquanto ainda estão sendo exibidos aos usuários, com exceção daqueles categorizados como políticos, o que dificulta muito sua identificação.
Mesmo quando identificados, não é possível ter acesso a informações como a segmentação ou a distribuição do público dos anúncios, o investimento nos anúncios e o alcance atingido por eles. Embora a Meta afirme ser proibido segmentar públicos através de dados sensíveis, é impossível garantir este cumprimento sem a análise dos critérios de segmentação aplicados – e a experiência sugere que ela não cumpre as próprias regras. Como a Meta também não exige que anunciantes passem por qualquer tipo de processo de verificação de identidade, sua opacidade confere uma importante garantia de impunidade àqueles que cometem crimes tipificados pela lei brasileira, apesar da gravidade de suas ações.
Como há uma escolha em fortalecer mecanismos de transparência e segurança somente nos países em que lhes interessam, a decisão de manter suas operações opacas é uma escolha política das plataformas. A solução para o problema não é trivial. A legislação europeia é, sem dúvida, um modelo em termos de regulação das plataformas, mas ainda está longe de solucionar todos os problemas que o uso massivo das redes sociais pode gerar – em especial, no Sul Global. No entanto, em casos como o analisado neste relatório, em que criminosos exploram pessoas em situação de vulnerabilidade a partir de sua fé, é impossível não falar sobre a necessidade de regulamentar as plataformas. Nesse contexto, o desenvolvimento de pesquisas e a produção de evidências sobre o problema é fundamental para diagnosticar as lacunas na regulamentação da publicidade online e do uso da inteligência artificial, que tanto serve ao crescimento da lucrativa indústria da desinformação.
Sobre os autores:
Bruno Mattos é Coordenador de Projetos do NetLab UFRJ, mestrando em Ciência da Informação pela UFRJ e jornalista formado pela ECO/UFRJ.Erick Dau é Coordenador de Comunicação do NetLab UFRJ.
Doutor e mestre em Comunicação, foi fotógrafo e videomaker na Comissão Interamericana de Direitos Humanos, em Washington, DC, entre 2019 e 2024.