Die formelle Untersuchung gegen X folgt auf Empörung über das Versäumnis der Plattform, die Erstellung sexuell expliziter Bilder realer Personen – einschließlich von Kindern – zu verhindern.
Die Europäische Kommission hat gegen Grok, den Chatbot von X, eine formelle Untersuchung eingeleitet, nachdem die Funktion zur Bildbearbeitung des integrierten KI-Tools weit verbreitet genutzt wurde, um Bilder realer Frauen und minderjähriger Mädchen ohne deren Zustimmung virtuell zu entkleiden.
Wie erstmals von Handelsblatt berichtet wurde, wird die Untersuchung prüfen, ob die Social-Media-Plattform ausreichend Maßnahmen getroffen hat, um das Risiko der Erstellung und Verbreitung der Bilder zu mindern.
Wenn X festgestellt wird, dass es gegen die EU-Regeln für Online-Plattformen gemäß dem Digital Services Act (DSA) verstoßen hat, könnte die Kommission dem Unternehmen eine Geldstrafe von bis zu 6 % seines weltweiten Jahresumsatzes auferlegen.
Im vergangenen Dezember verhängte die Europäische Kommission eine Geldstrafe in Höhe von 120 Millionen Euro gegen Elons Musks soziales Netzwerk wegen seiner Verifizierungs-Abzeichen und Werbepraktiken.
Die Bedenken entstanden im letzten Sommer, nachdem das integrierte KI-Tool Grok um eine kostenpflichtige Funktion namens „Spicy Mode“ erweitert worden war, die es Nutzern ermöglichte, es dazu aufzufordern, explizite Inhalte zu erstellen.
Elon Musk verspottete den darauf folgenden Aufschrei in einem Beitrag auf seinem X-Konto.
Anfang dieses Monats, als der weltweite Aufschrei über diese Funktion zunahm, verurteilte ein Sprecher der Kommission diese Funktion in schärfsten Worten.
„Das ist nicht ‚spicy’“, heißt es. „Das ist illegal. Das ist entsetzlich. Das ist widerlich. Das hat keinen Platz in Europa.“
Als Reaktion auf den öffentlichen Ärger und die Besorgnis ergriff X schließlich Maßnahmen, um Grok daran zu hindern, das Bearbeiten von Bildern realer Personen zu ermöglichen, die sie in freizügige Kleidung und sexuelle Situationen versetzen würden – mit Einschränkungen, die für alle Nutzer gelten, einschließlich zahlender Abonnenten.
X erklärte außerdem, dass sexualisierte, von Grok bearbeitete Bilder von Kindern von der Plattform entfernt wurden und dass die daran beteiligten Nutzer gesperrt wurden.
„Wir ergreifen Maßnahmen gegen illegale Inhalte auf X, einschließlich Materialien zum sexuellen Missbrauch von Kindern (CSAM), indem wir sie entfernen, Konten dauerhaft sperren und bei Bedarf mit lokalen Regierungen und Strafverfolgungsbehörden zusammenarbeiten“, das X Safety-Konto postete.
Dies ist nicht das erste Mal, dass Grok wegen vermuteter Verstöße gegen Europäisches Recht unter Beobachtung stand. Im vergangenen November erzeugte der KI-Chatbot Inhalte zur Holocaust-Leugnung.
Untersuchungen gegen den Chatbot der Plattform laufen derzeit in Frankreich, dem Vereinigten Königreich und Deutschland sowie in Australien. Grok ist in Indonesien und Malaysia vollständig verboten.
Die Kommission sagte, dass sie eine Informationsanfrage gemäß dem DSA gestellt habe und dass sie die Antworten noch auswerte.
