Grok, die KI von Elon Musk, wurde beim Lügen über Fotos von hungernden Kindern in Gaza erwischt

Grok, die künstliche Intelligenz, die auf Elon Musks X, ehemals Twitter, verwendet wird, wurde mehrmals dabei erwischt, wie sie über Bilder von unterernährten Kindern in Gaza "lügt". Das geht aus einem Bericht des Faktenprüfers RTVE hervor, der auf mindestens drei Mal hinweist, in denen Nutzer Grok nach dem Wahrheitsgehalt von Bildern von hungernden Kindern in Gaza fragten, mit sehr sichtbaren Auswirkungen von Unterernährung und Krankheiten, und die KI von X fälschlicherweise sagte, dass die Fotos nicht aus Gaza stammten... obwohl sie es tatsächlich waren.

"@grok, aus welchem Jahr stammen diese Bilder?", fragte Kristy4TRUMP als Antwort auf einen Beitrag von US-Senator Bernie Sanders am 28. Juli. "Diese Bilder stammen aus dem Jahr 2016 und zeigen unterernährte Kinder in einem Krankenhaus in Houdieda, Jemen, inmitten des dortigen Bürgerkriegs. Sie bilden nicht die aktuellen Ereignisse in Gaza ab", so Grok.

Nur dass sie es nicht waren: Es handelt sich um Fotos, die am 23. Juli in Gaza aufgenommen und von Associated Press verifiziert wurden, wie von Shayan Sardarizadeh, einem auf KI und Desinformation spezialisierten BBC-Reporter, geteilt wurde.

Bei anderer Gelegenheit sagt Grok, dass das Bild einer Mutter, die ein Baby mit einer Plastiktüte als Windel und nichts als Knochen unter der Haut trägt, aus der Hungersnot im Jemen 2017 stammt, während es in Wirklichkeit ein Bild von Ahmed al-Arini ist, das am 21. Juli aufgenommen wurde, wobei die BBC sogar seine Mutter, Hedaya al-Muta, interviewte.

Wiederholt haben Faktenprüfer herausgefunden, dass Grok über den Wahrheitsgehalt von Bildern lügt, selbst wenn er kategorisch behauptet, wahr zu sein. Dies zeigt die Gefahr, die KI als Verifizierungswerkzeug zu nutzen, was zu noch mehr Fehlinformationen führen kann. Einige Experten glauben, dass es im Fall von Grok darauf zurückzuführen ist, dass die KI Eingabeaufforderungen verwendet, die auf X trainiert wurden, einem sozialen Netzwerk, in dem Fake News und Fehlinformationen frei herumlaufen.

Von RTVE befragte Experten raten, dass wir, wenn wir KI zur Bekämpfung von Fehlinformationen einsetzen wollen, mehr als ein KI-Modell verwenden müssen und uns nicht auf Grok beschränken dürfen, eines, das absichtlich darauf ausgelegt ist, "ungefilterte Antworten" zu haben und darauf trainiert wurde, "nicht politisch korrekt zu sein", was sich bei vielen Gelegenheiten als kontrovers erwiesen hat, weil es sich an Musks eigene politische Ansichten anlehnt. sie schüren Verschwörungstheorien wie "Genozid an den Weißen" und verwenden einen "kantigen" und "witzigen" Ton.