Deepfakes überfluten politische Facebook-Anzeigen und verwandeln die Plattform in eine Goldgrube für Betrüger
"Das Einzige, was schlimmer ist als diese Deepfake-KI-Videos, die verwendet werden, um Amerikaner zu betrügen, ist die Tatsache, dass Meta mit diesen Betrugsanzeigen Dutzende von Millionen Dollar verdient."
Der politische Werberaum von Facebook wird zunehmend zu einem Spielplatz für Deepfake-Betrügereien und irreführende Inhalte, da einige der Top-Werbetreibenden der Plattform Videos von US-Politikern fabrizieren, die nicht vorhandene staatliche Auszahlungen versprechen.
In diesem Sommer behaupteten veränderte Videos der Pressesprecherin des Weißen Hauses, Karoline Leavitt, dass Amerikaner Hilfsschecks in Höhe von 5.000 US-Dollar beanspruchen könnten, und leiteten die Nutzer auf eine Website namens Get Covered Today weiter. Ähnliche gefälschte Videos zeigten die Senatoren Elizabeth Warren und Bernie Sanders, die identische Versprechungen machten. "Das ist kein Gimmick", hieß es in Warrens Imitation, obwohl es in Wirklichkeit so war.
Laut einer neuen Analyse des Tech Transparency Project (via The New York Times) machten 63 Werbetreibende, die solche irreführenden Taktiken anwenden, etwa einen von fünf der 300 größten Ausgaben für politische Werbung auf Facebook aus.
Zusammen schalteten sie fast 150 000 Anzeigen und gaben in den letzten sieben Jahren fast 49 Millionen US-Dollar aus. Während viele dieser Konten gesperrt wurden, hat mehr als die Hälfte bis zu dieser Woche weiterhin neue Anzeigen geschaltet.
"Das Einzige, was schlimmer ist als diese Deepfake-KI-Videos, die verwendet werden, um Amerikaner zu betrügen, ist die Tatsache, dass Meta mit diesen Betrugsanzeigen Dutzende von Millionen Dollar verdient", sagte Senatorin Warren und forderte einen strengeren Verbraucherschutz im Internet.
Meta, zu dem Facebook gehört, verbietet Anzeigen, die sich als Beamte ausgeben oder irreführende Praktiken anwenden, und behauptet, diese Regeln "energisch" durchzusetzen, und verspricht Investitionen in technische Abwehrmaßnahmen. Kritiker sagen jedoch, dass die Durchsetzung des Unternehmens langsam, weitgehend automatisiert und reaktiv ist und sich auf Benutzer oder Forscher verlässt, um Betrügereien zu melden.
Das Aufkommen von KI-Tools hat die Erstellung irreführender Werbung erleichtert, und Social-Media-Plattformen sind heute der Hauptvektor für Online-Betrug und übertreffen Telefon- oder SMS-Betrug. Bundesaufsichtsbehörden und Regierungen, darunter Singapur, setzen Meta unter Druck, hart durchzugreifen, und drohen mit Geldstrafen, wenn die Plattform nicht handelt.
Da sich die Werbeeinnahmen von Meta jährlich 160 Milliarden US-Dollar nähern, deutet die Analyse des Tech Transparency Project darauf hin, dass kurzfristiger Profit oft Vorrang vor der Integrität der Plattform und der Sicherheit der Nutzer hat.
"Das Pendel hat in Richtung kurzfristiger Umsatzüberlegungen im Gegensatz zur langfristigen Gesundheit der Plattform geschwungen", sagte Rob Leathern, ehemaliger Meta-Mitarbeiter und Experte für Online-Trust. "Vielleicht muss es irgendwann in die andere Richtung schwingen."