Wenige Tage vor der zweiten Runde der brasilianischen Präsidentschaftswahl scheint ein virales Video eine blonde junge Frau zu zeigen, die neben Flavio Bolsonaro tanzt und dazu aufruft, für ihn zu stimmen. Die Influencerin, die schnell Hunderttausende Abonnenten gewinnt, ist jedoch vollständig fiktiv: Das Bild eines konservativen Politikers wurde mithilfe künstlicher Intelligenz verändert. Der Fall verdeutlicht die Risiken von Manipulation und Identitätsmissbrauch zu einem Zeitpunkt, an dem soziale Netzwerke zu einem wichtigen Schauplatz des Wahlkampfs geworden sind.
Am 17. Oktober 2026 wird bei einer Kundgebung von Flavio Bolsonaro eine Sequenz in den sozialen Netzwerken verbreitet und beginnt, sich massenhaft zu verbreiten. Darauf ist eine blonde junge Frau in leichter Kleidung zu sehen, die in der Nähe des Kandidaten tanzt und singt. Sie scheint seinen Wahlkampf zu unterstützen und vertritt auf ihrem Instagram-Konto konservative Werte, während sie Internetnutzer dazu auffordert, sich an der Wahl zu beteiligen. Innerhalb kurzer Zeit überschreitet ihr Profil die Marke von 500.000 Abonnenten.
Im Vorfeld der zweiten Wahlrunde am 25. Oktober scheint das Auftauchen dieser virtuellen Aktivistin zunächst ein wirksamer PR-Coup zu sein. Doch Überprüfungen des brasilianischen Influencers Guga Figueiredo und des chilenischen Mediums FastCheck zeigen, dass die junge Frau, die unter dem Namen „Julia Berlli Cortez“ vorgestellt wird, nicht existiert. Ihr Gesicht und ihr Aussehen wurden mithilfe von Werkzeugen der künstlichen Intelligenz geschaffen.
Ein Mann wird in eine virtuelle Influencerin verwandelt
Das Video basiert allerdings auf echten Aufnahmen. Die Person, die neben Flavio Bolsonaro tanzt, ist bei der Kundgebung tatsächlich anwesend, doch es handelt sich nicht um eine Frau: Es ist der konservative Abgeordnete Nikolas Ferreira, ein Unterstützer von Flavio Bolsonaro und zuvor auch seines Vaters Jair Bolsonaro. KI-Tools veränderten sein Aussehen, um ihn als blonde junge Frau darzustellen.
Diese Verwandlung verwischt die Grenzen zwischen einer authentischen Szene und einem gefälschten Inhalt. Die Kundgebung hat tatsächlich stattgefunden, der Abgeordnete hat daran teilgenommen, doch die Person, die Millionen Internetnutzer gesehen haben, ist eine digitale Konstruktion. Diese Mischung aus wahren Elementen und visuellen Manipulationen macht das Video umso glaubwürdiger und erschwert es, es als irreführenden Inhalt zu erkennen.
Der Fall reiht sich in einen Kontext ein, in dem die Erstellung von KI-Inhalten immer zugänglicher und schwerer zu erkennen wird. Safig hat sich bereits mit dem Aufkommen von Online-Inhalten befasst, die möglicherweise von künstlicher Intelligenz erzeugt werden – eine Entwicklung, die die Verbreitung von Informationen im Internet grundlegend verändern könnte. Manipulierte Videos, in denen Donald Trump und Volodymyr Zelensky in einer fiktiven Konfrontation zu sehen sind, veranschaulichen ebenfalls, wie leicht realistische Bilder Ereignissen Gestalt verleihen können, die nie stattgefunden haben.
Ein Wahlkampf, der vom Kampf um die Bilder geprägt ist
Die Verbreitung der falschen Aktivistin erfolgt in einem besonders angespannten Wahlkampf. Wenige Tage vor der Wahl sehen die jüngsten Umfragen den linken Präsidenten Lula und seinen konservativen Herausforderer in einem knappen Rennen. Soziale Netzwerke sind zu einem wichtigen Raum geworden, um Wähler zu erreichen, aber auch zu einem Ort, an dem sich Gerüchte, Montagen und künstlich erzeugte Inhalte rasch verbreiten.
Die Ergebnisse der ersten Wahlrunde zeigten einen deutlichen Unterschied zwischen Wählerinnen und Wählern. Einer Umfrage des Instituts Datafolha zufolge erhielt Flavio Bolsonaro unter den Frauen weniger Unterstützung als Lula: 35 % gegenüber 46 %. Bei den Männern lag er dagegen mit 44 % gegenüber 39 % vorn. In diesem Kontext kann die Online-Präsenz einer jungen Frau, die ihre Unterstützung für den Kandidaten bekundet, den Eindruck erwecken, sein Wahlkampf genieße breitere Unterstützung unter Frauen.
Die spanische Ausgabe des HuffPost hebt hervor, dass die Abwesenheit von Frauen bei Kundgebungen der extremen Rechten das Image des Wahlkampfs beeinträchtigen kann. Das künstliche Hinzufügen von Aktivistinnen in Videos könnte dann dazu dienen, diese Darstellung zu verändern, auch wenn die konkrete Absicht hinter jeder Veröffentlichung im Einzelfall festgestellt werden muss. Das Video von „Julia Cortez“ zeigt somit eine Menschenmenge und Unterstützung, die nicht der Realität der dargestellten Person entsprechen.
Mehrere Profile und wiederverwendete Identitäten
Das erste Video ist nicht das einzige, in dem diese fiktive Figur auftritt. FastCheck hat weitere Inhalte entdeckt, in denen „Julia Cortez“ zu sehen ist und Fragen zu ihrer Wahlentscheidung beantwortet. Das ursprüngliche Instagram-Konto wurde inzwischen von Meta gelöscht, doch es wurden auch andere Profile mit derselben blonden jungen Frau erstellt.
Diese Konten stellen Plattformen vor eine besondere Herausforderung: Eine künstliche Identität kann von einem Profil zum nächsten übernommen werden, während Videos und Nachrichten auch nach dem Verschwinden eines Kontos weiter kursieren. Die Löschung einer Seite bedeutet daher nicht, dass die Verbreitung endet. Dieselben Bilder können erneut veröffentlicht, verändert oder unter einem anderen Namen wieder eingeführt werden – manchmal, bevor die Überprüfungen die ursprüngliche Zielgruppe erreichen.
Die Debatten über die Moderation auf Plattformen und deren Verantwortung gewinnen an Bedeutung, wenn irreführende Inhalte in großem Umfang verbreitet werden. Vorschläge, soziale Netzwerke strenger zu regulieren, etwa Forderungen nach einer Regulierung oder sogar der Schließung von Twitter, sind Teil dieser Auseinandersetzung über die Auswirkungen der Verbreitung von Inhalten und die dadurch möglichen Schäden.
Eine politische Aktion oder ein Schaufenster für pornografische Inhalte?
Der Wahlkampfbezug des Falls ist nicht die einzige mögliche Erklärung. Laut der spanischen Ausgabe des HuffPost verwies die Biografie des Instagram-Kontos von „Julia Cortez“ auf einen kostenpflichtigen Telegram-Kanal mit mehr als 150.000 Abonnenten. Auf diesem Kanal wurden ebenfalls mithilfe künstlicher Intelligenz erzeugte pornografische Inhalte beworben.
Diese Entdeckung legt nahe, auch ein kommerzielles Motiv in Betracht zu ziehen: Das Bild der falschen Aktivistin könnte dazu gedient haben, Abonnenten von sozialen Netzwerken zu kostenpflichtigen Inhalten zu leiten. Die politische Inszenierung könnte somit zugleich ein Mittel zur Steigerung der Sichtbarkeit und ein Werbehebel gewesen sein. Für sich genommen lässt sich daraus jedoch weder ableiten, wer die Konten erstellt hat, noch ob die Veröffentlichungen in erster Linie darauf abzielten, die Wahlentscheidung zu beeinflussen.
Diese Unterscheidung ist in einem Wahlkampf wichtig, in dem Manipulationsvorwürfe leicht die Runde machen. Ein Inhalt kann dazu genutzt werden, Traffic anzuziehen, Einnahmen zu erzielen oder Aufmerksamkeit zu erregen, ohne dass notwendigerweise eine politische Organisation dahintersteht. Umgekehrt schließt ein kommerzielles Interesse nicht aus, dass ein Video politische Auswirkungen hat, insbesondere wenn es als authentischer Erfahrungsbericht einer Wählerin präsentiert wird.
Enthüllungen über den Einsatz künstlicher Intelligenz im Wahlkampf
Der Fall ereignet sich zu einem Zeitpunkt, an dem Enthüllungen des brasilianischen Mediums The Intercept einen Vertrag ans Licht gebracht haben, der Flavio Bolsonaro und seiner Partei mit Elytron, einem auf Cybersicherheit spezialisierten US-Unternehmen, zugeschrieben wird. Den veröffentlichten Informationen zufolge sollen sich die Ausgaben auf mehr als 140.000 Dollar belaufen haben. Das betreffende KI-System sollte unter anderem die großflächige Erfassung von Daten und die Identifizierung von Wählergruppen ermöglichen.
In den Dokumenten sollen auch Methoden wie die Verbreitung von Gerüchten und Falschinformationen, die Erstellung gefälschter Konten sowie Infiltrations- und psychologische Kriegführungstechniken zur Diskreditierung politischer Gegner erwähnt werden. Diese Elemente haben Fragen darüber aufgeworfen, ob solche Praktiken möglicherweise mit Videos fiktiver Aktivistinnen in Verbindung stehen. Das Konto von „Julia Cortez“ wurde jedoch nicht nachweislich mit dem Vertrag in Verbindung gebracht.
Das Wahlkampfteam von Flavio Bolsonaro und das Unternehmen Elytron bestreiten jede Beteiligung an illegalen Aktivitäten. Sie erklären, dass kein direkter Zusammenhang zwischen ihrer Arbeit und dem Konto der falschen Influencerin nachgewiesen worden sei. Zum gegenwärtigen Zeitpunkt gilt es daher, die Berichte über den Vertrag von den Vermutungen zur Herkunft des Videos zu unterscheiden.
Fragen der Verantwortung im Zusammenhang mit KI-Systemen betreffen auch Modelle, die aus einfachen Anweisungen Texte, Bilder und Videos erzeugen können. Überlegungen zur ethischen Verantwortung großer Sprachmodelle erinnern daran, dass es nicht nur um die Qualität der erzeugten Antworten geht: Es geht auch um Transparenz, missbräuchliche Nutzung und die Auswirkungen der im öffentlichen Raum verbreiteten Inhalte.
Brasilien als Beobachtungsfeld für KI-generierte Wahlkampfinhalte
Die falsche „Julia Cortez“ ist kein Einzelfall im brasilianischen Wahlkampf. Die Zeitung Folha de São Paulo zitierte Bruno Lewicki, den Leiter der Abteilung für öffentliche Politik von OpenAI in Lateinamerika, der Brasilien als möglichen Präzedenzfall für den Einsatz künstlicher Intelligenz bei Wahlen bezeichnete.
Auch andere künstliche Figuren erreichten ein großes Publikum. Dazu gehört „Dona Maria“, eine afrobrasilianische Rentnerin, die von einem Fahrdienstfahrer erfunden und als scharfe Kritikerin von Lulas Arbeiterpartei dargestellt wurde. Außerdem kursierten gefälschte Bilder, die eine afrobrasilianische Arbeiterin dabei zeigten, in einer U-Bahn-Station in São Paulo gegen Jair Bolsonaro gerichtete Graffiti zu entfernen.
Diese Beispiele greifen auf Figuren und Situationen zurück, die vertraut wirken können. Sie können den Eindruck erwecken, eine politische Meinung sei spontan geäußert worden, ein Ereignis sei vor Ort beobachtet worden oder eine gesellschaftliche Gruppe vertrete weitgehend eine bestimmte Position. Werden solche Darstellungen erfunden, können sie die Wahrnehmung eines Wahlkampfs prägen, ohne dass Internetnutzer sofort über die nötigen Informationen verfügen, um sie zu überprüfen.
Manipulationen in einem Strom realistischer Bilder erkennen
Die Verbreitung immer realistischerer Videos macht Überprüfungen unverzichtbar, insbesondere wenn ein Inhalt mit starker emotionaler Wirkung geteilt oder als schlagender Beweis präsentiert wird. Es ist sinnvoll, die Herkunft einer Sequenz zu recherchieren, die Bilder mit anderen Aufnahmen desselben Ereignisses zu vergleichen und Faktencheck-Medien zu konsultieren. Im Fall von „Julia Cortez“ konnten die Recherchen die reale Person ausfindig machen, deren Aussehen verändert worden war.
Auch die Plattformen müssen mit der raschen Verbreitung solcher Inhalte umgehen. Warnhinweise oder Meldungen können erst erfolgen, nachdem die Videos bereits von sehr vielen Nutzern angesehen und weiterverbreitet wurden. Die Diskussionen über die Regulierung sozialer Netzwerke überschneiden sich daher mit denen über Transparenzpflichten für KI-Tools, die Geschwindigkeit der Moderation und den Schutz von Personen, deren Bild ohne ihre Zustimmung verwendet wird.
Der umstrittene Einsatz von KI beschränkt sich nicht auf Wahlkampfzeiten. Die Debatten über Systeme, die von Persönlichkeiten wie Elon Musk eingesetzt werden – insbesondere nach Kommentaren zum Krieg in Gaza, die heftige Reaktionen auslösten –, zeigen, dass auch Entscheidungen über Entwicklung und Moderation zu öffentlichen Streitfragen werden können. Sie unterstreichen, wie wichtig es ist, zu prüfen, wer die Tools kontrolliert, welche Regeln ihren Betrieb bestimmen und wie die erzeugten Inhalte verbreitet werden.
Ein Wahlkampf, in dem Desinformation zu einem politischen Thema wird
Im Verlauf des Wahlkampfs leiteten beide Lager Gerichtsverfahren gegen ihren Gegner ein und beriefen sich dabei unter anderem auf Machtmissbrauch. In dieser Konfrontationsstimmung können digitale Inhalte Vorwürfe verstärken, das Misstrauen schüren und die Debatte von den Programmen der Kandidaten auf die Frage verlagern, ob die kursierenden Bilder authentisch sind.
Der Fall der fiktiven Aktivistin macht mehrere Risiken zugleich deutlich: Identitätsmissbrauch, die Erzeugung politischer Unterstützung, die Monetarisierung künstlicher Inhalte und die Schwierigkeit, die Urheber ausfindig zu machen. Er erinnert auch daran, dass ein Video reale und fiktive Elemente kombinieren kann und eine hohe Online-Beliebtheit kein Beweis für seine Echtheit ist.
Für Demokratien, die mit stark digitalisierten Wahlkämpfen konfrontiert sind, bietet die brasilianische Wahl einen konkreten Einblick in die Herausforderungen der Zukunft. KI-generierte Inhalte machen nicht an nationalen Grenzen halt und können neue Formen politischer oder kommerzieller Kommunikation inspirieren. Wenige Monate vor der nächsten französischen Präsidentschaftswahl werfen diese Praktiken bereits Fragen zur Transparenz von Wahlkämpfen, zur Verantwortung der Plattformen und zur Fähigkeit der Wähler auf, manipulierte Bilder zu erkennen.
