Imagens e vídeos gerados por IA tornaram-se um elemento de destaque no ciclo eleitoral das eleições intercalares, acrescentando dificuldades para Instagram, YouTube e X enquanto tentam monitorar conteúdo político. A tendência foi apelidada de “slopaganda”, termo criado por pesquisadores de IA para descrever a combinação de IA generativa com propaganda e desinformação.

Uma análise do Wesleyan Media Project concluiu que mais de 187 milhões de dólares foram gastos em quase 300 anúncios políticos gerados ou aprimorados com IA. Os pesquisadores disseram que o total provavelmente está subestimado, pois muitos anúncios não incluem divulgações. Mais de 90% dos gastos vieram de candidatos republicanos, de um comitê do Partido Republicano ou de um grupo alinhado aos republicanos, e a maioria dos anúncios não incluía divulgações, segundo o relatório.

Não há uma lei federal abrangente que regule o uso ou a divulgação de IA na publicidade política. Cerca de 30 estados têm leis com exigências variadas, mas os candidatos nem sempre as cumprem. Anúncios e publicações gerados por IA de políticos estão aparecendo ao lado de conteúdo autêntico em plataformas operadas pela Meta, pelo Google e pela X.

Entre os exemplos está um vídeo falso, sem divulgação, da governadora de Nova York, Kathy Hochul, publicado por seu adversário republicano, Bruce Blakeman, segundo a CNBC. No Texas, o candidato republicano ao Senado Ken Paxton criou um vídeo gerado por IA que retrata o adversário democrata James Talarico fazendo declarações controversas. O vídeo inclui uma divulgação que aparece por três segundos e foi compartilhado pela campanha de Paxton como conteúdo orgânico no YouTube e na X. Nenhuma das campanhas respondeu imediatamente aos pedidos de comentário.

O YouTube disse que aplica rótulos em destaque a conteúdo realista gerado por IA. A empresa também afirmou que candidatos políticos podem solicitar a remoção de vídeos orgânicos nos quais seu rosto apareça alterado ou gerado por IA, enquanto os anunciantes devem divulgar a presença de pessoas ou acontecimentos sintéticos ou alterados digitalmente em anúncios eleitorais. O Google exige que os anunciantes políticos concluam seu processo de verificação de anúncios eleitorais e incluam divulgações de “pago por”.

A X afirma que os anunciantes são responsáveis por cumprir as leis aplicáveis. A Meta apontou para suas políticas de anúncios políticos, que incluem restrições durante a semana anterior a uma eleição, seus rótulos de “pago por” e sua biblioteca de anúncios políticos. Em junho, a Meta também lançou uma ferramenta “sobre este anúncio” para anúncios que identifica como tendo sido produzidos com ferramentas de IA de terceiros.

Uma pesquisa do Brennan Center for Justice concluiu que vários modelos de IA podiam ser manipulados para gerar material enganoso, mesmo quando evitavam produzir conteúdo relacionado a teorias da conspiração conhecidas. Em um novo teste realizado em outubro, o ChatGPT havia começado a redirecionar solicitações de imagens eleitorais nocivas para ilustrações em estilo de quadrinhos ou a recusá-las.

Senadores de ambos os partidos apoiaram a Lei de Proteção das Eleições contra IA Enganosa, que proibiria a distribuição consciente de vídeos ou áudios gerados por IA materialmente enganosos sobre candidatos federais. Outros projetos de lei, incluindo a Lei de Anúncios de IA, ampliariam as restrições existentes à deturpação em campanhas para abranger conteúdo de IA generativa. Nenhum dos projetos avançou além da comissão.

Fontes: CNBC Markets.