Sie sind schön, eloquent — und existieren nicht. KI-generierte Mädchen vom Profil „Prawilne_Polki“ forderten Polexit und predigten rechtsgerichtete Ansichten. Das TikTok-Konto wurde gelöscht, doch Desinformation und Propaganda in Polen halten an.
KI-generierte Videos, die Polens Austritt aus der Europäischen Union befürworten, sind in polnischsprachigen sozialen Medien erschienen und zeigen nicht existente, attraktive junge Frauen, die für „Polexit“ eintreten.
Ein TikTok-Account namens „Prawilne Polki“ veröffentlichte Inhalte, die Frauen zeigten, die T-Shirts mit polnischen Flaggen und patriotischen Symbolen trugen, wie das europäische Analytik-Kollektiv Res Futura berichtete. Die Inhalte richteten sich an ein Publikum im Alter von 15 bis 25 Jahren.
In den Videos wurden Aussagen gezeigt wie: „Ich will Polexit, weil ich Wahlfreiheit will, auch wenn es teurer wird. Polen erinnere ich mich nicht mehr an Polen vor der Europäischen Union, aber ich habe das Gefühl, es war damals polnischer.“
Ein weiteres Video erklärte: „Wenn ich von Polexit spreche, höre ich: ‚Angstmacherei‘, ‚Katastrophe‘, ‚Ende der Welt‘. Immer dasselbe Muster. Keine Diskussion darüber, wer wirklich für uns entscheidet und warum. Vielleicht wird es höchste Zeit, dass wir ruhig darüber sprechen.“
Einige Videos wirkten authentisch, während andere deutliche Anzeichen der Nutzung künstlicher Intelligenz zeigten, mit desynchronisierter Sicht und Ton.
„Die Aufnahmen wurden tatsächlich mit einem generativen KI-Tool erstellt. Sie sind überhaupt nicht von guter Qualität“, erklärte Aleksandra Wójtowicz, Senior Analystin für neue Technologien und Digitalisierung am Polnischen Institut für Auswärtige Angelegenheiten, gegenüber Euronews.
„Wenn man sie eine Weile ansieht, erkennt man, dass die Gesichtsausdrücke unklar sind und die von den Figuren in den Aufnahmen gesprochenen Phrasen nicht ganz natürlich klingen.“
Das Profil „Prawilne_Polki“ wurde entfernt, aber ähnliche Konten könnten entstehen, sagte Wójtowicz.
„Derzeit ist nicht klar, wer hinter dem Inhalt steckt. Derzeit gibt es mehrere Gruppierungen, die mit Hilfe künstlicher Intelligenz verschiedene Kampagnen durchführen“, sagte Wójtowicz, die seit Jahren Online-Desinformation erforscht.
„Sie finden oft auf YouTube statt, aber auch auf TikTok.“
„Hydra-Effekt“ in Bewegung
Ähnliche Inhalte auf YouTube imitieren Nachrichtendienste, indem sie synthetische Stimmen oder Stimmen in Verbindung mit generierten Gesichtern verwenden und pro-russische Narrative wiederholen, darunter Behauptungen, dass Wahlen manipuliert wurden oder Ukrainer stehlen, so Wójtowicz.
„Aus den Forschungsgesprächen, die ich geführt habe, geht hervor, dass diese KI-Manier, die zum großen Teil offensichtlich, nervig und deutlich ist, für ein bestimmtes Publikum völlig unbemerkt bleibt“, sagte Wójtowicz.
Das Konto wurde nach Meldungen von Organisationen und einzelnen Nutzern gesperrt. Wójtowicz sagte, TikTok könne Desinformationsinhalte über einen möglichen Austritt Polens aus der EU nun besser erkennen. Wenn man „Polexit“ sucht, zeigt die Plattform eine Warnung vor Desinformation an.
„Auf TikTok ist es ziemlich typisch, dass, wenn eine solche Aktion erscheint, es einen ‚Hydra-Effekt‘ gibt. Wenn diese Profile gemeldet werden, können mehrere neue erscheinen“, sagte Wójtowicz.
„Jetzt wissen ihre Ersteller sehr gut, dass dies ineffizient ist, dass es sich nicht lohnt, sie erneut zu posten, wenn starkes Interesse am Phänomen besteht, denn sie werden gelöscht.“
Wójtowicz skizzierte zwei mögliche Szenarien: Entweder hat die Operation Reaktionen getestet, oder Desinformationsakteure begannen, Konten zu erstellen, um eine Kampagne zu starten, die schnell erkannt wurde. „Daher werden sie sich verbergen und in Zukunft zurückkehren.“
Warum junge und schöne Frauen?
Der Inhalt zielte speziell auf junge Frauen ab, sagte Wójtowicz.
„Wir haben einen Trend im rechten Spektrum, wonach junge Mädchen ins Visier genommen werden. Und wer könnte besser junge Frauen ansprechen als andere junge Frauen“, fügte sie hinzu.
„Wir beobachten Phänomene in den sozialen Medien wie die Tradwives-Bewegung oder traditionelle Ehefrauen. Das gibt es viel in den USA, aber es dringt nach Polen vor.“
Während des polnischen Präsidentschaftswahlkampfs überzeugten zahlreiche KI-erzeugte Videos Frauen davon, für rechtsgerichtete Kandidaten zu stimmen: Sławomir Mentzen von der Konföderation oder Karol Nawrocki, unterstützt von der Partei Recht und Gerechtigkeit (PiS).
„Diese Gruppe ist eindeutig sehr wichtig, sie kann ein grundlegender Vektor politischen Wandels sein. Es ist kein Zufall, dass Frauen 2023 so eine bedeutende Rolle gespielt haben“, sagte Wójtowicz in Bezug auf die Parlamentswahlen, bei denen PiS nach acht Jahren die Macht verlor.
„Auf die Russen kann man sich immer verlassen“
„Rechtgläubige Polen! Auf die Russen kann man sich immer verlassen. Sie haben vergessen, ‚prawilne‘ zu übersetzen“, schrieb der Abgeordnete der Civic Platform, Jarosław Urbaniak, und bezog sich auf das russische Wort „prawilny“, das „angemessen“ oder „richtig“ bedeutet.
Der unabhängige Webentwickler Radek Karbowski sagte, dass der Inhalt die Notwendigkeit einer Regulierung von KI demonstriert. Er berechnete, dass das Profil „Prawilne_Polki“ in zwei Wochen 200.000 Impressionen und fast 20.000 Likes generiert habe, ein Verhältnis von 10 %, das die Verbreitung von Inhalten beeinflusst und algorithmische Empfehlungen antreibt.
Der TikTok-Kanal wurde im Mai 2023 eingerichtet und unter einem anderen Namen betrieben, vermutlich gehörte er einem englischsprachigen Nutzer, der Unterhaltungsinhalte veröffentlichte, die nichts mit Polen zu tun hatten, so das polnische Portal Kontakt24.pl.
Am 13. Dezember erfuhr der Account eine umfassende Umgestaltung und erhielt den neuen Namen „Prawilne_Polki“ mit der Beschreibung: „Hier sprechen schöne polnische Mädchen, die direkt sprechen, ihre eigene Meinung. Patriotismus, Souveränität und Normalität an einem Ort. NEIN ZU EUROCALCHOZ #polexit.“
Die Übernahme erfolgte, als der Account bereits eine etablierte Anhängerschaft hatte. Am 13. Dezember wurden drei Materialien im neuen Stil veröffentlicht: zwei Videos mit generierten Frauen und eine Grafik mit der Frage: „Wenn morgen Wahlen wären – welche Partei ist die Nummer eins für die Rechte?“
View this post on Instagram
Lennart Krüger
