Berlin
-1 °C
München
2 °C
Hamburg
0 °C
Düsseldorf
Frankfurt am Main
Potsdam
Leipzig
Dortmund
Hannover
Köln
Kiel
Bremen
Flensburg
Rostock
0 °C
KI-Nacktbilder: Kalifornien untersucht Musks Chatbot Grok / Foto: Lionel BONAVENTURE - AFP/Archiv
KI-Nacktbilder: Kalifornien untersucht Musks Chatbot Grok
Nach der Europäischen Union und Großbritannien nimmt auch Kalifornien den KI-Chatbot Grok wegen gefälschter Nacktbilder ins Visier. Der US-Bundesstaat eröffnete am Mittwoch eine Untersuchung zu dem Chatbot der Firma xAI von US-Milliardär Elon Musk. Indonesien und Malaysia hatten den Zugang zu Grok vorerst gesperrt.
Kalifornien will laut Generalstaatsanwalt Rob Bonta klären, ob xAI gegen Gesetze des Bundesstaats zum Schutz vor Belästigung verstoßen hat. "Die Flut von Berichten über nicht einvernehmlich erstelltes, sexuell explizites Material, das xAI in den vergangenen Wochen produziert und online gestellt hat, ist schockierend", erklärte Bonta.
Stein des Anstoßes ist der neue "Spicy Mode" (scharfer Modus) bei Grok, mit dem Nutzer in Sekundenschnelle anzügliche Bilder von Frauen oder Kindern erstellen können - etwa mit Aufforderungen wie "entferne ihre Kleider" oder "ziehe ihr einen Bikini an". Auch die Erstellung und Verbreitung kinderpornografischer Inhalte ist damit möglich.
Die EU-Kommission und die britische Aufsichtsbehörde Ofcom hatten Musks Unternehmen deshalb aufgefordert, Maßnahmen zum Schutz der Grok-Nutzer zu ergreifen. Sie reagierten am Mittwoch zurückhaltend auf die Ankündigung des Unternehmens, mit den europäischen Behörden zusammenarbeiten zu wollen. Wenn die geplanten Änderungen nicht effektiv seien, werde sich die EU-Kommission nicht scheuen, ihr ganzes juristisches Arsenal zu nutzen, erklärte ein Sprecher in Brüssel.
D.Ricci--INP
