Die Europäische Kommission hat eine formelle Untersuchung gegen Grok eröffnet, Elon Musks KI-Chatbot auf X, wegen seiner Nutzung zur Erzeugung nicht einvernehmlicher sexualisierter Bilder von Frauen und minderjährigen Mädchen.
Online-Plattformen wie X haben klare Verpflichtungen, illegale Inhalte zu beschränken, sagte die EU-Technikchefin Henna Virkkunen in Euronews’ Flaggschiff-Morgensendung Europe Today am Dienstag, einen Tag nachdem die EU eine formelle Untersuchung gegen den KI-Chatbot Grok wegen der Verbreitung sexualisierter Bilder realer Frauen und minderjähriger Mädchen ohne deren Einwilligung eröffnet hatte.
„Dienstanbieter müssen Praktiken haben, um sicherzustellen, dass illegale Inhalte nicht online verbreitet werden“, sagte die Exekutiv-Vizepräsidentin der Europäischen Kommission. Virkkunen fügte hinzu, dass die Kommission auch andere mit Grok verbundene Risiken jenseits der inzwischen modifizierten Bildfunktion analysiert.
Grok ist ein KI-Chatbot, entwickelt von Elon Musks Unternehmen xAI, der in die Social-Media-Plattform X integriert ist. Am Montag leitete die Kommission eine formelle Untersuchung gegen Grok ein, nachdem breite Besorgnis über seine Bildbearbeitungsfunktion aufgekommen war, die genutzt wurde, um sexualisierte Bilder realer Frauen und minderjähriger Mädchen ohne deren Einwilligung zu erzeugen. Das Tool hatte in nur wenigen Wochen Millionen solcher Bilder erzeugt.
Virkkunen bestätigte, dass die Untersuchung darauf abzielt, ob X seine Verpflichtungen aus dem Digital Services Act (DSA) erfüllt hat, um systemische Risiken zu bewerten und zu mindern.
„Wir möchten untersuchen, wie X Risiken bewertet und mindert hat“, sagte sie. „Grok ist nun immer stärker in X-Dienste integriert, daher ist es wichtig zu sehen, wie diese Risiken behandelt werden.“
Wenn X festgestellt wird, gegen den DSA verstoßen zu haben, könnte es Geldstrafen von bis zu 6 % seines weltweiten Jahresumsatzes geben. Die Plattform ist bereits einmal sanktioniert worden: Im vergangenen Dezember verhängte die Kommission eine Geldstrafe in Höhe von 120 Millionen Euro wegen irreführender Verifizierungs-Häkchen und Werbepraktiken.
Obwohl Musk die EU-Regulierung offen kritisiert, sagte Virkkunen, dass die Kommission im ständigen Kontakt mit X stehe.
„Sie stehen im Dialog mit unseren Diensten“, sagte sie. Die Kommission habe dem Unternehmen bereits Informationen darüber angefordert, wie es Risiken bewertet, und es aufgefordert, Unterlagen zu Grok und X vor dem formellen Verfahren aufzubewahren.
Druck aus Washington, digitale Regeln zurückzufahren
Die Grok-Untersuchung erfolgt vor dem Hintergrund wachsender transatlantischer Spannungen über EU-Technikregeln. Ebenfalls am Montag wurde die in den USA ansässige, von Meta betriebene Plattform WhatsApp als „Very Large Online Platform“ (VLOP) gemäß dem DSA eingestuft und unterliegt damit der strengsten Aufsicht der EU.
Gleichzeitig hat die Lobbyarbeit der Tech-Branche in Brüssel zugenommen, wobei Schätzungen zufolge mehr als 150 Mio. € pro Jahr ausgegeben werden, laut NGO-Forschung. US-Tech-Unternehmen und die Trump-Administration haben Brüssel der Überregulierung beschuldigt und argumentiert, dass Gesetze wie der DSA, der Digital Markets Act und der Artificial Intelligence Act Innovationen ersticken.
Auf die Frage nach Druck aus Washington, die Regeln zurückzufahren, blieb Virkkunen bei ihrer festen Haltung.
„Diese digitalen Regeln sind für Europäer sehr wichtig“, sagte sie. „Wir wollen sicherstellen, dass unsere Bürger den Technologien vertrauen können, dass unsere digitale Umgebung fair, transparent, demokratisch und sicher ist.“
Regulierung und Innovation in Balance
Die EU wird oft als Regelsetzerin statt als Innovatorin dargestellt, eine Kritik, die Virkkunen zurückweist und sagte, dass es um das Gleichgewicht gehe.
„Innovation fördern, aber gleichzeitig die Risiken berücksichtigen“, sagte sie.
Zusätzlich zu Regulierung hob Virkkunen Anstrengungen hervor, Europa für Startups und Scale-ups attraktiver zu machen, einschließlich Plänen für ein sogenanntes „28. Regime“ – ein Rechtsrahmen, der es Unternehmen erleichtern soll, grenzüberschreitend in der EU zu operieren.
„Wir vereinfachen Prozesse und Regeln, schaffen einen besseren Binnenmarkt und stärken die Kapitalmärkte, damit Startups leichter an Finanzmittel gelangen“, sagte sie. „Europa hat alles, was es braucht, um wettbewerbsfähig zu sein.“
Auf die neue EU-Indien-Handelsvereinbarung angesprochen, nannte sie es „großartige Neuigkeiten für alle“ und verwies auf die Technologiekooperation, die eine zentrale Säule der Beziehungen bilden werde, insbesondere im Hinblick auf Fachkräfte.
„Indien verfügt über eine große Anzahl an ICT-Experten, und Europa mangelt es wirklich an Arbeitskräften“, sagte Virkkunen und argumentierte, dass nähere Beziehungen dazu beitragen könnten, qualifizierte Fachkräfte anzuziehen, um Europas Lücke bei digitalen Kompetenzen zu schließen.
