Las imágenes y los videos generados por IA se han convertido en una característica destacada del ciclo electoral de mitad de mandato, lo que añade dificultades para Instagram, YouTube y X mientras intentan supervisar el contenido político. A esta tendencia se la ha denominado «slopaganda», término acuñado por investigadores de IA para describir la combinación de IA generativa, propaganda y desinformación.

Un análisis del Wesleyan Media Project concluyó que se habían gastado más de 187 millones de dólares en cerca de 300 anuncios políticos generados o mejorados con IA. Los investigadores señalaron que la cifra probablemente es inferior al total real, porque muchos anuncios carecen de avisos de divulgación. Más del 90 % del gasto provino de candidatos republicanos, de un comité del Partido Republicano o de un grupo afín a los republicanos, y la mayoría de los anuncios no incluía avisos de divulgación, según el informe.

No existe una ley federal integral que regule el uso o la divulgación de la IA en la publicidad política. Alrededor de 30 estados tienen leyes con requisitos variados, pero los candidatos no siempre las cumplen. En las plataformas operadas por Meta, Google y X aparecen anuncios y publicaciones de políticos generados con IA junto a contenido auténtico.

Entre los ejemplos se encuentra un video falso sin aviso de divulgación de la gobernadora de Nueva York, Kathy Hochul, publicado por su contrincante republicano, Bruce Blakeman, según CNBC. En Texas, el candidato republicano al Senado Ken Paxton creó un video generado con IA que muestra a su contrincante demócrata, James Talarico, haciendo declaraciones polémicas. El video incluye un aviso de divulgación que aparece durante tres segundos y la campaña de Paxton lo ha compartido como contenido orgánico en YouTube y X. Ninguna de las dos campañas respondió de inmediato a las solicitudes de comentarios.

YouTube dijo que aplica etiquetas destacadas al contenido realista generado con IA. La empresa también afirmó que los candidatos políticos pueden solicitar que se eliminen videos orgánicos en los que su rostro aparezca alterado o generado con IA, mientras que los anunciantes deben divulgar la presencia de personas o acontecimientos sintéticos o alterados digitalmente en anuncios electorales. Google exige que los anunciantes políticos completen su proceso de verificación de anuncios electorales e incluyan avisos que indiquen «pagado por».

X afirma que los anunciantes son responsables de cumplir las leyes aplicables. Meta remitió a sus políticas sobre anuncios políticos, incluidas las restricciones durante la semana previa a una elección, sus etiquetas «pagado por» y su biblioteca de anuncios políticos. En junio, Meta también presentó una herramienta «acerca de este anuncio» para los anuncios que detecta que se hicieron con herramientas de IA de terceros.

Una investigación del Brennan Center for Justice concluyó que varios modelos de IA podían ser manipulados para generar material engañoso, incluso cuando evitaban producir contenido relacionado con teorías conspirativas conocidas. En una nueva prueba realizada en octubre, ChatGPT había empezado a redirigir las instrucciones para crear imágenes electorales dañinas hacia ilustraciones de estilo cómico, o a rechazarlas.

Senadores de ambos partidos han respaldado la Protect Elections from Deceptive AI Act, que prohibiría distribuir deliberadamente videos o audios generados con IA y materialmente engañosos sobre candidatos federales. Otras propuestas legislativas, incluida la AI Ads Act, ampliarían las restricciones existentes sobre la tergiversación en campañas para abarcar contenido de IA generativa. Ninguno de los proyectos de ley ha avanzado más allá de la comisión.

Fuentes: CNBC Markets.