Ofcom eskaliert die Grok-Untersuchung: Die britische Aufsichtsbehörde hat eine formelle Untersuchung zu X eingeleitet
Sie gehen vom Erstkontakt zu einer vollständigen Untersuchung von KI-generierten sexualisierten Bildern über.
Nur wenige Tage nachdem die britische Kommunikationsaufsichtsbehörde Ofcom erstmals Bedenken bezüglich Rok geäußert hatte, hat die Aufsichtsbehörde nun ihre Reaktion verschärft und eine formelle Untersuchung zu Elon Musks X wegen der Bilderzeugungsfähigkeiten des KI-Chatbots eingeleitet.
Wie sie heute auf X ankündigten: "Wir haben eine formelle Untersuchung zu X nach dem Online Safety Act eingeleitet, um festzustellen, ob es seinen Pflichten nachgekommen ist, Menschen im Vereinigten Königreich vor illegalen Inhalten zu schützen."
Anfang dieses Monats bestätigte Ofcom, dass es X und xAI kontaktiert habe, um zu prüfen, ob Grok zur Erstellung von "entkleideten Bildern von Personen und sexualisierten Kinderbildern" verwendet wird. Heute ist diese erste Kommunikation nun zu einer vollständigen Untersuchung übergegangen, um festzustellen, ob die Plattform ihre gesetzlichen Pflichten nach dem britischen Online Safety Act verletzt hat.
In der am Montag veröffentlichten Erklärung erklärte Ofcom, es untersuche, ob X das Risiko nicht richtig bewertet habe, dass britische Nutzer (insbesondere Kinder) illegalen sexuellen Inhalten ausgesetzt sein könnten, einschließlich nicht einvernehmlicher intimer Bilder und KI-generiertem Material über sexuellen Missbrauch von Kindern.
Seitdem hat das Thema direkte politische Eingriffe auf sich gezogen. Premierminister Keir Starmer bezeichnete die von Grok generierten Bilder als "widerlich" und "rechtswidrig" und sagte, X müsse "die Einsätze seiner KI-Tools in den Griff bekommen". Minister haben bestätigt, dass Sanktionen (einschließlich Einschränkungen auf Plattformebene) auf dem Tisch stehen, falls Verstöße festgestellt werden.
X hat behauptet, dass es illegale Inhalte entfernt, anfällige Konten sperrt und mit den Behörden kooperiert, wobei erklärt wird, dass jeder, der Grok zur Erstellung illegaler Bilder nutzt, Konsequenzen tragen muss. Ofcom hat gewarnt, dass in den schwerwiegendsten Fällen Durchsetzungsmaßnahmen auch das Abschalten von Werbe- und Zahlungsdiensten oder sogar die Sperre des Zugangs zur Plattform im Vereinigten Königreich umfassen könnten.
Lesen Sie diese Geschichte in chronologischer Reihenfolge:
- Grok entfernt den Media-Tab, nachdem zu viele Nutzer ihn gebeten hatten, Damenkleidung zu entfernen.
- Die britische Kommunikationsaufsichtsbehörde Ofcom nimmt Grok wegen "sexualisierter Kinderbilder" ins Visier.
- Das Vereinigte Königreich könnte X wegen des Grok-Generativbild-Fiaskos verbieten.