Die USA rufen Bankchefs wegen KI-Cyberrisiken aus Anthropics neuestem KI-Modell vor
Beamte warnen, dass das neue System kritische Schwachstellen in der Finanzinfrastruktur offenlegen könnte.
US-Beamte haben führende Bankmanager nach Washington gerufen, da die Bedenken hinsichtlich der Cybersicherheitsrisiken im Zusammenhang mit dem neuen KI-Modell von Anthropic wachsen. Das Treffen, das Berichten zufolge von Finanzminister Scott Bessent geleitet wurde, findet kurz nach der Vorstellung des neuesten Systems des Unternehmens, Claude Mythos, statt.
Unter den Anwesenden ist Jerome Powell sowie Führungskräfte großer Finanzinstitute wie Goldman Sachs, Bank of America und Citigroup. Das Treffen konzentriert sich auf die potenziellen Risiken fortschrittlicher KI-Tools, die in der Lage sind, Softwareschwachstellen auf einem Niveau zu identifizieren und auszunutzen, das mit menschlichen Experten vergleichbar oder darüber hinausgeht.
Anthropic warnte kürzlich, dass sein Modell Tausende bisher unentdeckter Schwachstellen in weit verbreiteten Systemen aufgedeckt hat, was Befürchtungen weckt, dass solche Technologien von Hackern missbraucht werden könnten. Ein Leak des Modellcodes Anfang dieses Monats verstärkte die Besorgnis, wobei das Unternehmen anerkannte, dass die umfassenderen Auswirkungen auf Wirtschaft und nationale Sicherheit erheblich sein könnten.
Als Reaktion darauf hat Anthropic den Zugang zum Modell auf eine beschränkte Unternehmensgruppe beschränkt, darunter große Technologieunternehmen und Infrastrukturorganisationen. Dies ist das erste Mal, dass das Unternehmen eine Produktveröffentlichung begrenzt hat.
