Immagini e video generati dall’IA sono diventati una presenza di primo piano nel ciclo delle elezioni di metà mandato, aggiungendo un’ulteriore difficoltà per Instagram, YouTube e X, che cercano di monitorare i contenuti politici. La tendenza è stata soprannominata «slopaganda», termine coniato da ricercatori di IA per descrivere la combinazione di IA generativa, propaganda e disinformazione.

Un’analisi del Wesleyan Media Project ha rilevato che sono stati spesi più di 187 milioni di dollari per quasi 300 annunci politici generati o potenziati con l’IA. Secondo i ricercatori, il totale è probabilmente sottostimato perché molti annunci non riportano alcuna indicazione. Dallo studio emerge che oltre il 90% della spesa proveniva da candidati repubblicani, da un comitato del Partito Repubblicano o da un gruppo vicino ai repubblicani, e che la maggior parte degli annunci non includeva indicazioni in merito.

Non esiste una legge federale organica che disciplini l’uso o l’obbligo di dichiarare l’impiego dell’IA nella pubblicità politica. Circa 30 Stati hanno leggi che prevedono requisiti diversi, ma i candidati non sempre le rispettano. Annunci e post generati dall’IA dai politici compaiono accanto a contenuti autentici sulle piattaforme gestite da Meta, Google e X.

Tra gli esempi, secondo CNBC, c’è un video falso privo di indicazioni, pubblicato da Bruce Blakeman, avversario repubblicano della governatrice dello Stato di New York Kathy Hochul. In Texas, il candidato repubblicano al Senato Ken Paxton ha realizzato un video generato dall’IA in cui l’avversario democratico James Talarico pronuncia dichiarazioni controverse. Il video include un’avvertenza visibile per tre secondi ed è stato condiviso dalla campagna di Paxton come contenuto organico su YouTube e X. Nessuna delle due campagne ha risposto immediatamente alle richieste di commento.

YouTube ha dichiarato di applicare etichette ben visibili ai contenuti realistici generati dall’IA. La società ha inoltre affermato che i candidati politici possono richiedere la rimozione di video organici in cui il loro volto risulta alterato o generato dall’IA, mentre gli inserzionisti devono dichiarare la presenza di persone o eventi sintetici o modificati digitalmente negli annunci elettorali. Google richiede agli inserzionisti politici di completare la procedura di verifica per le elezioni e di includere indicazioni del tipo «pagato da».

X afferma che spetta agli inserzionisti rispettare le leggi applicabili. Meta ha richiamato le proprie politiche sugli annunci politici, che includono restrizioni durante la settimana precedente un’elezione, le etichette «pagato da» e il suo archivio degli annunci politici. A giugno, Meta ha anche introdotto uno strumento «informazioni su questa inserzione» per gli annunci che rileva essere stati creati con strumenti di IA di terze parti.

Una ricerca del Brennan Center for Justice ha rilevato che diversi modelli di IA potevano essere manipolati per generare materiale fuorviante, anche quando evitavano di produrre contenuti legati a teorie del complotto note. In una nuova verifica a ottobre, ChatGPT aveva iniziato a reindirizzare i prompt per immagini elettorali dannose verso illustrazioni in stile fumetto oppure a rifiutarli.

Senatori di entrambi i partiti hanno sostenuto il Protect Elections from Deceptive AI Act, che vieterebbe la diffusione consapevole di video o audio generati dall’IA e sostanzialmente ingannevoli riguardanti candidati federali. Altre proposte di legge, tra cui l’AI Ads Act, estenderebbero ai contenuti generati dall’IA le restrizioni già in vigore sulle false dichiarazioni nelle campagne elettorali. Nessuna delle proposte ha superato l’esame in commissione.

Fonti: CNBC Markets.