KI-generierte Bilder und Videos sind zu einem auffälligen Merkmal des Wahlzyklus zur Halbzeit der Amtszeit geworden und stellen Instagram, YouTube und X vor zusätzliche Herausforderungen, während die Plattformen versuchen, politische Inhalte zu überwachen. Der Trend wurde als „Slopaganda“ bezeichnet – ein Begriff, den KI-Forschende geprägt haben, um die Verbindung von generativer KI mit Propaganda und Fehlinformationen zu beschreiben.

Eine Analyse des Wesleyan Media Project ergab, dass mehr als 187 Millionen Dollar für fast 300 politische Anzeigen ausgegeben wurden, die mit KI generiert oder bearbeitet worden waren. Die Forschenden erklärten, dass die tatsächliche Summe wahrscheinlich höher liegt, weil bei vielen Anzeigen entsprechende Hinweise fehlen. Mehr als 90 % der Ausgaben entfielen auf republikanische Kandidaten, ein Komitee der Republikanischen Partei oder eine republikanisch ausgerichtete Gruppe. Zudem enthielten die meisten Anzeigen keine Offenlegungshinweise, wie der Bericht ergab.

Es gibt kein umfassendes Bundesgesetz, das den Einsatz oder die Offenlegung von KI in der politischen Werbung regelt. Rund 30 Bundesstaaten haben Gesetze mit unterschiedlichen Anforderungen, doch Kandidaten halten sich nicht immer daran. KI-generierte Anzeigen und Beiträge von Politikern erscheinen neben authentischen Inhalten auf den Plattformen von Meta, Google und X.

Zu den Beispielen zählt laut CNBC ein nicht gekennzeichnetes, gefälschtes Video von New Yorks Gouverneurin Kathy Hochul, das ihr republikanischer Herausforderer Bruce Blakeman veröffentlichte. In Texas erstellte der republikanische Senatskandidat Ken Paxton ein KI-generiertes Video, in dem sein demokratischer Herausforderer James Talarico kontroverse Aussagen macht. Das Video enthält einen Hinweis, der drei Sekunden lang eingeblendet wird, und wurde von Paxtons Wahlkampfteam als organischer Inhalt auf YouTube und X geteilt. Keines der beiden Wahlkampfteams reagierte unmittelbar auf Anfragen um Stellungnahme.

YouTube erklärte, das Unternehmen versehe realistische KI-Inhalte mit gut sichtbaren Kennzeichnungen. Außerdem könnten politische Kandidaten die Entfernung organischer Videos beantragen, in denen ihr Gesicht verändert oder KI-generiert wurde. Werbeanzeigenkunden müssten synthetisch erzeugte oder digital veränderte Personen oder Ereignisse in Wahlwerbung hingegen offenlegen. Google verlangt von politischen Werbekunden, das Verifizierungsverfahren für Wahlwerbung zu durchlaufen und Hinweise wie „bezahlt von“ einzufügen.

X erklärt, dass Werbekunden für die Einhaltung der geltenden Gesetze verantwortlich sind. Meta verwies auf seine Richtlinien für politische Werbung, darunter Einschränkungen in der Woche vor einer Wahl, seine Kennzeichnungen „bezahlt von“ und seine Bibliothek für politische Werbung. Im Juni führte Meta außerdem für Anzeigen, bei denen das Unternehmen den Einsatz von KI-Werkzeugen von Drittanbietern erkennt, eine Funktion mit Informationen zur Anzeige ein.

Forschende des Brennan Center for Justice stellten fest, dass mehrere KI-Modelle dazu gebracht werden konnten, irreführendes Material zu generieren – selbst wenn sie Inhalte zu bekannten Verschwörungstheorien vermieden. Bei einer erneuten Prüfung im Oktober hatte ChatGPT begonnen, Aufforderungen zur Erstellung schädlicher Wahlbilder auf comicartige Illustrationen umzulenken oder abzulehnen.

Parteienübergreifend haben Senatoren den Protect Elections from Deceptive AI Act unterstützt. Das Gesetz würde die wissentliche Verbreitung wesentlich irreführender, KI-generierter Videos oder Audiodateien über Kandidaten für Bundesämter verbieten. Andere Gesetzesentwürfe, darunter der AI Ads Act, würden bestehende Beschränkungen für irreführende Wahlkampfaussagen auf Generative KI-Inhalte ausweiten. Keiner der Gesetzesentwürfe ist bisher über den zuständigen Ausschuss hinausgekommen.

Quellen: CNBC Markets.