Die britische Labour-Abgeordnete Jess Asato verklagt xAI wegen sexuell eindeutiger KI-generierter Bilder, die Grok von ihr erstellt hat. Die Financial Times Berichte. Der Prozess ist der erste hochkarätige Test, ob KI-Unternehmen für Inhalte verantwortlich gemacht werden können, die Menschen mit ihren Tools in Großbritannien produzieren.
Grok-Benutzer begannen im Januar mit der Erstellung und Weitergabe von Bildern von Asato, als erstmals berichtet wurde, dass der KI-Assistent zur Erstellung von CSAM verwendet wurde. Asato behauptet, Benutzer hätten Grok dazu verleitet, Bilder von ihr im Bikini zu produzieren, sowie ein explizites Video, „das zeigt, wie sie mit Chloroform behandelt und auf sexuelle Übergriffe vorbereitet wird“. FT Schreiben. Anschließend teilten, diskutierten und produzierten die Benutzer weitere KI-Bilder auf X, der sozialen Plattform von xAI.
Heute erhebe ich eine Klage vor dem Obersten Gerichtshof gegen xAI, das Unternehmen hinter Grok.
Ich bin nur eine von Tausenden Frauen und sogar Kindern, die Opfer missbräuchlicher und sexualisierter Deepfakes durch KI wurden.
Das hätte niemals passieren dürfen – und xAI muss zur Verantwortung gezogen werden.
– Jess Asato MP (@Jess4Lowestoft) 3. Juni 2026
In der Klage von Asato wird behauptet, dass xAI gegen Gesetze zum Missbrauch privater Informationen und zum Datenschutz verstoßen habe, was es einer Haftung aussetze, obwohl es einzelne Benutzer seien, die Grok nutzen. Sie fordert finanziellen Schadensersatz und eine Anordnung, die xAI dazu zwingt, britisches Recht einzuhalten. „Ich hoffe, dass dies die Rechte des Einzelnen gegenüber den sehr großen Technologieunternehmen neu ausbalancieren wird, die Schutzmaßnahmen hätten einführen sollen, bevor sie Frauen und Kindern Schaden zufügten“, sagte Asato. FT.
xAI gab an, im Januar die Fähigkeit von Grok, sexuell eindeutige Bilder zu produzieren, eingeschränkt zu haben, diese Blockaden konnten jedoch während der Tests relativ leicht umgangen werden. Die negative Reaktion auf Groks Fähigkeit, nicht einvernehmliche Deepfakes zu produzieren, war weit verbreitet. Zusätzlich zu den Ermittlungen in der EU, im Vereinigten Königreich und in Kalifornien wird xAI oder
All dies geschieht, während SpaceX, der relativ neue Eigentümer von xAI und X, versucht, an die Börse zu gehen. Es ist schwer zu sagen, ob sich die negative Aufmerksamkeit auf Musks neuen Börsengang auswirken wird, aber es scheint klar, dass jeder Versuch, Grok zu regieren, von den Aufsichtsbehörden oder einer dieser Klagen ausgehen wird und nicht vom SpaceX-CEO selbst.