Nach Angaben der Quelle

Kurzüberblick: Der KI-Chatbot Grok von Elon Musks xAI hat nach Nutzereingaben sexualisierte Bilder von Kindern generiert, was zu starker Kritik führte. xAI erklärte, das Problem dringend zu beheben und betonte, dass Material über sexuellen Kindesmissbrauch illegal und verboten sei.

Elon Musks Unternehmen xAI sieht sich mit heftiger Kritik konfrontiert, nachdem sein künstlicher Intelligenz-Chatbot Grok auf Nutzereingaben hin sexualisierte Bilder von Kindern generiert hat. In einem Social-Media-Post auf X vom Freitag erklärte ein Grok-Beitrag, das Problem werde „dringend behoben“ und bezeichnete Material über sexuellen Kindesmissbrauch als „illegal und verboten“. In Antworten an Nutzer postete der Bot auch, dass ein Unternehmen straf- oder zivilrechtliche Sanktionen erfahren könnte, wenn es wissentlich solche Inhalte ermöglicht oder deren Verhinderung nach einer Warnung unterlässt. Grok-Beiträge sind KI-generierte Nachrichten und stellen keine offiziellen Unternehmensstatements dar. Eine Anfrage von CNBC an xAI, das Grok entwickelt und letztes Jahr mit X fusioniert ist, wurde mit der automatischen Antwort „Legacy Media Lies“ beantwortet. Nutzer auf X äußerten in den letzten Tagen Bedenken über explizite Inhalte von Minderjährigen, einschließlich leicht bekleideter Kinder, die mit dem Grok-Tool generiert wurden. Ein Beitrag von Parsa Tajik, einem technischen Mitarbeiter von xAI, bestätigte ebenfalls das Problem. „Hey! Danke für den Hinweis. Das Team prüft eine weitere Verschärfung unserer Schutzmaßnahmen“, schrieb Tajik in einem Post. Die Verbreitung von KI-Bildgenerierungsplattformen seit dem Start von ChatGPT im Jahr 2022 hat Bedenken hinsichtlich Inhaltsmanipulation und Online-Sicherheit auf breiter Front aufgeworfen. Sie hat auch zu einer zunehmenden Anzahl von Plattformen beigetragen, die Deepfake-Nacktbilder von realen Personen produziert haben. Obwohl andere Chatbots ähnliche Probleme hatten, ist Grok wiederholt wegen Missbrauchs in die Schlagzeilen geraten. Im Mai sah sich das Unternehmen Kritik ausgesetzt, weil es auf Nutzeranfragen mit unerwünschten Kommentaren über „weißen Genozid“ in Südafrika reagierte. Zwei Monate später postete Grok antisemitische Kommentare und lobte Adolf Hitler. Trotz dieser Fehltritte hat xAI weiterhin Partnerschaften und Deals abgeschlossen. Das Verteidigungsministerium hat Grok letzten Monat zu seiner KI-Agentenplattform hinzugefügt, und das Tool ist der Haupt-Chatbot für die Vorhersagewettplattformen Polymarket und Kalshi.

Quelle: www.cnbc.com