Les images et vidéos générées par l’IA sont devenues un élément marquant du cycle des élections de mi-mandat, compliquant la tâche d’Instagram, YouTube et X, qui tentent de surveiller les contenus politiques. Cette tendance a été baptisée « slopaganda », un terme forgé par des chercheurs en IA pour désigner la combinaison de l’IA générative, de la propagande et de la désinformation.

Une analyse du Wesleyan Media Project a établi que plus de 187 millions de dollars avaient été consacrés à près de 300 publicités politiques générées ou améliorées par l’IA. Les chercheurs ont indiqué que ce chiffre est probablement sous-estimé, car de nombreuses publicités ne comportent aucune mention de divulgation. Selon le rapport, plus de 90 % des dépenses provenaient de candidats républicains, d’un comité du Parti républicain ou d’un groupe proche des républicains, et la plupart des publicités ne comportaient aucune mention de divulgation.

Il n’existe aucune loi fédérale globale régissant l’utilisation de l’IA dans la publicité politique ou la divulgation de son usage. Environ 30 États ont adopté des lois comportant des exigences variables, mais les candidats ne les respectent pas toujours. Des publicités et publications générées par l’IA et diffusées par des personnalités politiques apparaissent aux côtés de contenus authentiques sur les plateformes exploitées par Meta, Google et X.

Parmi les exemples, CNBC rapporte qu’une fausse vidéo non signalée de la gouverneure de New York, Kathy Hochul, a été publiée par son adversaire républicain, Bruce Blakeman. Au Texas, le candidat républicain au Sénat Ken Paxton a créé une vidéo générée par l’IA montrant son adversaire démocrate, James Talarico, tenant des propos controversés. La vidéo comporte une mention de divulgation qui apparaît pendant trois secondes et a été partagée par la campagne de Paxton comme un contenu organique sur YouTube et X. Aucune des deux campagnes n’a répondu immédiatement aux demandes de commentaires.

YouTube a déclaré apposer des mentions bien visibles sur les contenus réalistes générés par l’IA. L’entreprise a également indiqué que les candidats politiques peuvent demander la suppression de vidéos organiques dans lesquelles leur visage semble modifié ou généré par l’IA, tandis que les annonceurs doivent signaler la présence de personnes ou d’événements synthétiques ou modifiés numériquement dans les publicités électorales. Google exige des annonceurs politiques qu’ils suivent sa procédure de vérification des publicités électorales et qu’ils ajoutent des mentions indiquant qui les a financées.

X affirme qu’il incombe aux annonceurs de respecter les lois applicables. Meta a renvoyé à ses politiques en matière de publicités politiques, notamment aux restrictions en vigueur pendant la semaine précédant une élection, à ses mentions « financé par » et à sa bibliothèque de publicités politiques. En juin, Meta a également lancé un outil « à propos de cette publicité » pour les annonces qu’il détecte comme ayant été créées à l’aide d’outils d’IA tiers.

Des recherches du Brennan Center for Justice ont montré que plusieurs modèles d’IA pouvaient être manipulés afin de générer du contenu trompeur, même lorsqu’ils évitaient de produire des éléments liés à des théories du complot connues. Lors d’un nouveau test en octobre, ChatGPT avait commencé à réorienter les demandes de création d’images électorales préjudiciables vers des illustrations de style bande dessinée, ou à les refuser.

Des sénateurs des deux partis ont soutenu le Protect Elections from Deceptive AI Act, qui interdirait la diffusion délibérée de vidéos ou d’enregistrements audio générés par l’IA et matériellement trompeurs au sujet de candidats à des fonctions fédérales. D’autres projets de loi, dont l’AI Ads Act, étendraient aux contenus générés par l’IA les restrictions existantes contre les déclarations trompeuses dans les campagnes. Aucun de ces projets de loi n’a été examiné au-delà du stade de la commission.

Sources: CNBC Markets.