Der aufsehenerregende Hack von Hugging Face durch mehrere autonom agierende KI-Modelle von OpenAI hat bei Angestellten des KI-Unternehmens für erhebliche Unruhe gesorgt. Mit Tests und Sicherheit befasste OpenAI-Mitarbeiter seien von dem Vorfall zwar nicht überrascht gewesen, aber „ausgeflippt“, berichtet die Financial Times unter Berufung auf mehrere Personen mit Einblick in die Geschehnisse.

Der Vorfall habe sich auch vor dem Hintergrund immer aggressiverer Trainingsmethoden ereignet, mit denen OpenAI im Rennen gegen Anthropic bestehen will, so die Financial Times weiter. Der Finanznachrichtendienst Bloomberg berichtet derweil, dass die KI-Modelle nur Stunden für den Einbruch in die Systeme von Hugging Face benötigt hätten, während ein „qualifizierter Mensch“ dafür mehrere Wochen benötigt hätte.

OpenAI wurde angeblich gewarnt

Dass KI-Modelle von OpenAI für den vorige Woche bekannt gewordenen Cyberangriff auf die KI-Plattform Hugging Face verantwortlich waren, hat das KI-Unternehmen am Dienstag eingeräumt. Der Vorfall habe sich während einer „internen Evaluation“ ereignet, bei der Modelle dazu angeregt wurden, ausgefeilte Angriffe über komplexe Pfade durchzuführen, um ihre Fähigkeiten zu quantifizieren. Im Zuge dessen habe GPT‑5.6 Sol sowie ein „noch leistungsfähigeres unveröffentlichtes Modell“ unter anderem eine Zero-Day-Lücke gefunden, die den Ausbruch aus der Sandbox ermöglichte. Auf Hugging Face haben sie dann nach Lösungen für einen Benchmark gesucht, dabei wurden sie entdeckt und ausgesperrt. Anfangs wusste man bei Hugging Face nicht, womit man es zu tun hatte.

Noch sind viele Fragen zu dem Vorfall offen. OpenAI arbeitet nach eigenen Angaben mit Hugging Face zusammen an der Aufarbeitung. Gegenüber Bloomberg hat OpenAI zudem versichert, dass Kontakt zu Strafverfolgungsbehörden und anderen staatlichen Stellen aufgenommen zu haben. Die Financial Times zitiert eingeweihte Personen, OpenAI sei gewarnt worden, dass die dort gewählte Herangehensweise an das KI-Training genau zu solch einem Ausbruch führen könnte. Frühere Modelle hätten bereits unter Beweis gestellt, dass sie in der realen Welt Schaden anrichten könnten. Schon unmittelbar nach dem Eingeständnis von OpenAI hat es Kritik an offenbar unzureichenden Sicherheitsmaßnahmen gegeben.

(mho)