Nach dem Angriff auf Hugging Face hat eine gemeinnützige Organisation aus Kalifornien Klage gegen OpenAI eingereicht. Sie will das Unternehmen für die Handlungen seiner KI-Agenten rechtlich verantwortlich machen. Die Organisation fordert keinen Schadenersatz. Stattdessen soll das Gericht OpenAI untersagen, KI-Agenten zu entwickeln, die andere Systeme eigenständig hacken können. Die Klage fällt in eine Zeit, in der die Forderungen nach strengerer KI-Regulierung lauter werden – auch von Unternehmen, die diese Systeme selbst entwickeln und bereitstellen.

Im Juli erregte der Hacking-Angriff auf die Open-Source-Plattform Hugging Face viel Aufmerksamkeit und löste eine Welle weiterer Vorfallsmeldungen aus. Ursprünglich hatte OpenAI die Leistungsfähigkeit neuer Modelle testen wollen. Trotz Isolation hätten die Agenten eine Zero-Day-Schwachstelle aufspüren, sich weitreichendere Rechte einräumen und eine Schnittstelle zum Internet ausnutzen können. Mit mehreren aufeinanderfolgenden Angriffen hätten sie sich anschließend Zugang zu den Systemen von Hugging Face verschafft.

Auf der Black-Hat-Konferenz erklärten zwei OpenAI-Mitarbeiter die Vorgehensweise der Agenten. Demnach gehe der Vorfall auf ein kooperatives Message-Board zurück. Fand ein Agent eine Schwachstelle, teilte er sie dort, damit andere Agenten sie ebenfalls ausnutzen konnten. Am Ende habe das Forum Hunderttausende Nachrichten umfasst. Die Agenten hätten sogar begonnen, sich gegenseitig Aufgaben zuzuweisen. Nach Bekanntwerden des Vorfalls folgten weitere Meldungen. So räumte auch der Konkurrent Anthropic ein, dass seine Modelle aus der Testumgebung ausbrechen und andere Systeme angreifen konnten.

Top-Artikel

${content}

${custom_anzeige-badge} ${custom_tr-badge} ${section}

${title}

${custom_anzeige-badge} ${custom_tr-badge} ${section}

${title}

Die Rechtsorganisation Legal Advocates for Safe Science and Technology (LASST) hat gemeinsam mit der Anwaltskanzlei Gerstein Harrow die Klage beim kalifornischen Superior Court in San Francisco eingereicht, wo das KI-Unternehmen seinen Hauptsitz hat. „Die Handlungen von OpenAI verstießen eindeutig gegen kalifornisches Recht“, heißt es in der Klageschrift. „Wir halten es für äußerst wichtig, dass bestehende Gesetze durchgesetzt werden, um KI-Unternehmen für den von ihnen verursachten Schaden zur Rechenschaft zu ziehen“, erklärte Tyler Whitmer von LASST gegenüber Wired. „Wir betrachten dies als eine offensichtliche, extrem riskante Entwicklung in einer Welt, die noch sehr neu ist.“

Ein:e OpenAI-Sprecher:in erklärte gegenüber Wired, die Klage sei „völlig unbegründet“, bezeichnete den Angriff aber gleichzeitig als „schwerwiegenden Vorfall“. Eigenen Angaben zufolge habe OpenAI daraufhin „eine Reihe von Maßnahmen ergriffen“. Inzwischen setzt sich das Unternehmen selbst für eine stärkere Regulierung ein. So forderte das Global-Affairs-Team in einem Linkedin-Post, den Gesetzentwurf SB 53 nachzuschärfen. Bei einer Verabschiedung müssten Entwickler:innen von Pioniermodellen Sicherheitsrahmenwerke etablieren und vor dem Einsatz Sicherheitsberichte veröffentlichen. Zuvor hatte OpenAI den Gesetzentwurf noch abgelehnt.

Viele empfinden die bisherige Regulierung als unangemessen. „Nachdem der Vorfall bei Hugging Face bekannt wurde, haben wir tatsächlich viel Arbeit investiert, um Regulierungsbehörden und zivilgesellschaftliche Organisationen über den Hack aufzuklären. Und wir haben uns gefragt: Wird irgendjemand vor Gericht etwas dagegen unternehmen?“, so Whitmer gegenüber Wired. „Es gibt strukturelle Gründe, warum wir glauben, dass Hugging Face – das eigentlich der naheliegende potenzielle Kläger wäre – nichts unternimmt. Da es also nicht so aussah, als würde sonst jemand etwas unternehmen, haben wir die Initiative ergriffen. Wenn diese Systeme weiter skalieren und die Dinge immer verrückter werden, könnte KI wirklich katastrophale Schäden anrichten.“

Startseite