Das Video sammelte rasch mehr als 12 Millionen Aufrufe, nachdem es auf Facebook geteilt wurde.
Der französische Präsident Emmanuel Macron erfuhr von seinem angeblichen Sturz, nachdem er eine besorgte Nachricht zusammen mit einem Link zu einem Facebook-Video erhalten hatte.
„Am Sonntag (14. Dezember) nahm einer meiner afrikanischen Amtskollegen Kontakt zu mir auf und schrieb: ‚Sehr geehrter Präsident, was geschieht mit dir? Ich bin sehr besorgt’“, berichtete Macron den Lesern der französischen Lokalzeitung La Provence am 16. Dezember.
Zusammen mit der Nachricht war ein packendes Video zu sehen, das einen wirbelnden Hubschrauber, Militärangehörige, Menschenmengen und — wie es scheint — einen Nachrichtensprecher zeigt, der eine Meldung vor die Kamera überträgt.
„Unbestätigte Berichte deuten darauf hin, dass es in Frankreich einen Putsch gegeben hat, angeführt von einem Oberst, dessen Identität nicht bekannt ist, zusammen mit dem möglichen Sturz von Emmanuel Macron. Allerdings haben die Behörden noch keine klare Stellungnahme abgegeben,“ erklärt sie.
Allerdings ist nichts an diesem Video authentisch: Es wurde mit KI erstellt.
Nachdem er das Video entdeckt hatte, bat Macron Pharos — Frankreichs offizielles Portal zur Meldung von illegalen Inhalten im Netz — Meta, die Muttergesellschaft von Facebook, anzurufen, um das gefälschte Video entfernen zu lassen.
Doch wurde diese Bitte abgelehnt, da die Plattform behauptete, sie verletze nicht die Nutzungsbedingungen.
Der französische Präsident beschloss daraufhin, die Entfernung des Videos eigenhändig zu veranlassen.
„Ich neige dazu zu denken, dass ich mehr Druck ausüben kann als andere Leute“, sagte Macron. „Oder besser gesagt, es ist leichter zu sagen, dass etwas ernst ist, wenn ich derjenige bin, der anruft, aber das funktioniert nicht.“
„Diese Menschen spotten über uns,“ fügte er hinzu. „Sie kümmern sich nicht um die Ruhe öffentlicher Debatten, sie kümmern sich nicht um die Demokratie, und deshalb setzen sie uns in Gefahr.“
Wer steckt hinter diesen gefälschten Videos?
Das ursprüngliche Video, das rasch mehr als 12 Millionen Aufrufe verzeichnete, wurde zunächst von einem Facebook-Konto namens „Islam“ veröffentlicht, das trotz seines Namens keine religiösen Inhalte veröffentlicht.
Der Teenager, der das Konto betreibt, lebt in Burkina Faso und verdient Geld damit, Kurse anzubieten, die sich darauf konzentrieren, wie man KI monetarisiert.
Schließlich entfernte er das Video mehr als eine Woche nach der ersten Veröffentlichung aufgrund politischer — und öffentlicher Kontroversen.
Das Fact-Checking-Team von Euronews, The Cube, versuchte mehrfach, ihn über die auf seinem Facebook-Konto angegebene Nummer zu erreichen, aber bislang bleiben unsere Anrufe unbeantwortet.
In einigen Videos sind KI-generierte Nachrichtensprecher zu sehen, die ein Mikrofon mit dem Logo von Radio France Internationale (RFI), dem internationalen Arm des französischen öffentlichen Radios, halten.
Einige Videos tragen das Wasserzeichen „Sora“, was darauf hindeutet, dass der Großteil dieses Inhalts wahrscheinlich mit dieser Technologie produziert wurde.
Sora 2, eine von OpenAI entwickelte Technologie — dem gleichen Unternehmen, das ChatGPT gegründet hat — ermöglicht es Nutzern, aus Textaufforderungen hyperrealistische Videos von zehn Sekunden Länge zu erzeugen.
Obwohl andere Videos dieses Logo nicht anzeigen, lässt es sich während der Postproduktion entfernen.
Seit dem Start im Oktober hat die Technologie Kontroversen ausgelöst und zu einer Verbreitung hochentwickelter und schwer zu erkennender KI-Videos in den sozialen Medien geführt.
