SAN FRANCISCO (dpa-AFX) - Ein Medienbericht wirft Fragen zu den
Sicherheitsvorkehrungen rund um das neue KI-Modell der Firma Anthropic auf, das
extrem gut darin ist, Software-Schwachstellen zu finden. Einige wenige Unbefugte
mit Kenntnis von Anthropic-Systemen hätten sich Zugang zu dem Modell mit dem
Namen Claude Mythos Preview verschafft, berichtete der Finanzdienst Bloomberg.
Von Anthropic hieß es, man prüfe den Bericht.

Mythos gelang es laut Anthropic, zum Teil über Jahrzehnte unentdeckt
gebliebene Sicherheitslücken in verschiedener Software zu finden. In den
falschen Händen könnte das KI-Modell deshalb zur Entwicklung gefährlicher
Cyberwaffen führen. Anthropic hat keine Pläne, Mythos zu veröffentlichen - und
gewährt bisher Zugang für ausgewählte Unternehmen und Organisationen, damit sie
Schwachstellen in ihrer Software schließen können. So gaben die Entwickler des
Web-Browsers Firefox gerade erst bekannt, dass sie mit Mythos 271 Lücken
schließen konnten.

Bloomberg zufolge war unter den unbefugten Nutzern ein Mitarbeiter eines
externen Dienstleisters von Anthropic mit Zugang zu Systemen der KI-Firma.
Geholfen habe den Nutzern auch Wissen darüber, wie Anthropic vorherige Modelle
gespeichert habe. Das Unternehmen teilte Bloomberg mit, man habe bisher keine
Hinweise darauf, dass es Zugang zu dem Modell abseits der Systeme des
Dienstleisters gegeben habe.

Bundesbank-Präsident warnt vor Risiken für Banken

Bundesbank-Präsident Joachim Nagel hatte erst am Dienstag vor erheblichen
Risiken durch den Einsatz von Künstlicher Intelligenz (KI) für den Finanzsektor
gewarnt. Er verwies in einer Rede in Rom darauf, dass damit neue und komplexe
Cyberrisiken einhergingen, da autonome KI-Agenten schädliches Verhalten an den
Tag legen könnten.

"Die frühzeitige Erkennung und Eindämmung solcher Risiken ist für die
Finanzstabilität von entscheidender Bedeutung, wie die aktuelle Diskussion um
Mythos von Anthropic deutlich macht", sagte Nagel. "Mythos ist ein KI-Modell,
das offenbar in der Lage ist, Sicherheitslücken in der Software von
Finanzinstituten schnell zu identifizieren und auszunutzen."

Dieses KI-Modell scheine jedoch ein zweischneidiges Schwert zu sein, da es
nicht nur zur Verbesserung digitaler Sicherheitssysteme, sondern auch zur
Ausnutzung ihrer Schwachstellen für böswillige Zwecke genutzt werden könne. "Wir
müssen den Missbrauch dieser Technologie verhindern." Zugleich müssten alle
relevanten Institutionen Zugang zu der Technologie haben, um
Wettbewerbsverzerrungen zu vermeiden./so/als/DP/nas