OpenAI-Rivale Anthropic hat ein neues KI-Modell für Cybersicherheit vorgestellt – allerdings nur einem erlesenen Kreis an Kunden. Am Dienstag kündigte das Unternehmen um CEO Dario Amodei (43) die Gründung der Initiative „Project Glasswing“ zusammen mit Unternehmen wie Amazon, Apple, Microsoft, Cisco und weiteren Partnern an.

Die beteiligten Firmen erhalten Zugriff auf ein neues Modell von Anthropic namens Claude Mythos Preview – kurz Mythos, das dabei helfen soll, Schwachstellen in ihren Produkten zu identifizieren und die Erkenntnisse mit anderen Unternehmen der Branche zu teilen. Außerdem teilte Anthropic mit, dass das Unternehmen auch mit der US-Regierung über die Einsatzmöglichkeiten von Mythos verhandelt.

Das KI-Modell ist so gut darin, bisher unentdeckte Software-Schwachstellen zu finden, dass es in den falschen Händen zu einer verheerenden Cyberwaffe werden könnte. Die Software könne Schwachstellen deutlich besser erkennen als Menschen, zugleich aber auch Möglichkeiten aufzeigen, diese auszunutzen – was potenziellen Angreifern in die Hände spielen könnte, hieß es weiter. Daher habe das Unternehmen noch keine Pläne, Mythos der breiten Öffentlichkeit zugänglich zu machen, sondern werde die Ergebnisse von „Project Glasswing“ nutzen, um Leitlinien für die Technologie festzulegen.

Mythos fand unter anderem eine 27 Jahre alte Schwachstelle im als besonders sicher geltenden Betriebssystem OpenBSD, wie Anthropic mitteilte. Insgesamt habe man mit Mythos bereits „Tausende“ schwerwiegende Schwachstellen entdeckt – darunter in jedem breit genutzten Betriebssystem und Webbrowser. In der Videosoftware FFmpeg spürte das Modell eine seit 16 Jahren schlummernde Lücke auf.

Mythos sei auch in der Lage gewesen, binnen weniger Stunden Programme zum Ausnutzen dieser Schwachstellen zu entwickeln – für die Experten nach eigenem Bekunden mehrere Wochen gebraucht hätten. So gelang es dem Modell zeitweise, eine sogenannte Sandbox-Umgebung – also einen abgeschotteten Testbereich ohne Zugriff auf externe Systeme – zu verlassen, die eigentlich verhindern sollte, dass es auf das Internet zugreift.

Anthropic sprach in diesem Zusammenhang von „einer potenziell gefährlichen Fähigkeit zur Umgehung der Sicherheitsvorkehrungen“. Der Anthropic-Forscher Sam Bowman erklärte gegenüber der „Financial Times“ , die „beunruhigendsten Verhaltensweisen“ seien zwar bei früheren Versionen des Modells aufgetreten, die aktuelle Version könne aber weiterhin Schutzmechanismen wie Sandboxen umgehen. Die Firma habe das Modell nicht speziell darauf trainiert, das alles zu können, hieß es von Anthropic.

Dass künstliche Intelligenz in den Händen von Kriminellen und Hackern zu einer gefährlichen Waffe werden könnte, bereitete der KI-Branche zuletzt vermehrt Kopfzerbrechen. So hatte der Anthropic-Konkurrent OpenAI jüngst auf die zunehmenden Cyberfähigkeiten seiner Modelle hingewiesen und ein Programm ins Leben gerufen, das seine Tools „zuerst den Verteidigern zur Verfügung stellen“ solle.

Empfohlener externer Inhalt

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

„Wir glauben, dass dies nicht nur ein Problem von Anthropic ist. Es handelt sich um ein branchenweites Problem, mit dem sich sowohl private Unternehmen als auch Regierungen auseinandersetzen müssen“, sagte auch Newton Cheng, Leiter der Cyber-Abteilung im Frontier Red Team von Anthropic, gegenüber Bloomberg . „Mit Glasswing wollen wir den Verteidigern einen Vorsprung verschaffen.“

Nach Angaben von Anthropic wurden die sicherheitsbezogenen Funktionen von Mythos bereits mit Vertretern der US-Regierung besprochen. Cheng verwies in diesem Zusammenhang auf die Kooperationen mit der Cybersecurity and Infrastructure Security Agency und dem National Institute of Standards and Technology, so Bloomberg.

Diese Gespräche fanden trotz des Streits zwischen Anthropic und dem US-Verteidigungsministerium in den vergangenen Wochen statt. Zuletzt geriet die Firma durch einen Streit mit dem Pentagon in die Schlagzeilen: Anthropic lehnte den Einsatz seiner KI in autonomen Waffen oder zur Massenüberwachung in den USA ab. Das Verteidigungsministerium erklärte Anthropic daraufhin zu einem Lieferketten-Risiko, was dem Unternehmen den Weg zu Geschäften mit der US-Regierung weitgehend versperren würde. Anthropic geht dagegen vor Gericht vor.

Mehr zum Thema

• 15 Min

• 23 Min

• 1 Min

• 1 Min

Die Existenz von Mythos wurde erstmals Ende letzten Monats durch einen Leak bekannt. Beschreibungen des Modells Mythos sowie weitere interne Dokumente des Unternehmens tauchten im März in einem öffentlich zugänglichen Datenspeicher auf. Wenig später wurde zudem interner Quellcode des Assistenten Claude Code öffentlich. Beide Vorfälle lösten Zweifel an den Sicherheitsstandards des Unternehmens aus, Anthropic nannte menschliches Versagen als Ursache.