Das Weiße Haus hat Vertretern führender KI-Unternehmen am Dienstag erstmals seinen neuen Prüfrahmen für leistungsfähige KI-Modelle vorgestellt. US-Medienberichten zufolge sollen Open-Weight-Modelle von den Sicherheitsprüfungen ausgenommen bleiben.

Die Entscheidung folgt auf wochenlange Debatten innerhalb der Trump-Regierung über den Umgang mit offenen KI-Modellen. Einerseits wächst in Washington die Sorge über immer leistungsfähigere, frei verfügbare und günstige Modelle, insbesondere aus China. Andererseits will die Regierung offene US-Modelle fördern und im technologischen Wettbewerb nicht durch zu strenge Vorgaben ins Hintertreffen geraten. Offenbar haben sich nun die Befürworter eines innovationsfreundlicheren Kurses durchgesetzt.

An den Gesprächen nahmen laut Reuters Vertreter von OpenAI, Anthropic, Google, Meta und Nvidia teil. Zuvor hatten Sicherheitsvorfälle bei OpenAI und Anthropic für zusätzliche Dringlichkeit gesorgt: Deren KI-Modelle drangen bei Tests in Systeme anderer Unternehmen ein. Der neue Prüfrahmen soll festlegen, wie die US-Regierung besonders leistungsfähige KI-Modelle vor ihrer Veröffentlichung überprüft.

Freiwillige Vorabprüfung mit unklaren Kriterien

Wie Wired berichtet, können Entwickler ihre Modelle bis zu 30 Tage vor der geplanten Veröffentlichung zur Prüfung einreichen. Anschließend sollen Regierungsstellen deren Cyberfähigkeiten anhand eines geheimen Benchmark-Systems bewerten und die Modelle mit Bundesbehörden sowie ausgewählten Unternehmenspartnern teilen. Während dieser Zeit würden die Modelle in einer besonders gesicherten Umgebung gespeichert, Zugriffe protokolliert und der Zugang auf einen kleinen Personenkreis beschränkt, berichtet Axios. Die Teilnahme ist zwar freiwillig, ein Verzicht dürfte für Unternehmen im Falle späterer Sicherheitsvorfälle jedoch erhebliche Risiken bergen.

Welche Modelle unter den Prüfrahmen fallen, bleibt unklar. Axios zufolge definiert er ein erfasstes Frontier-Modell als geschlossenes System mit Spitzenfähigkeiten und Risiken für die nationale Sicherheit, konkrete Schwellenwerte fehlen jedoch. Betroffen wären demnach vor allem Modelle von OpenAI und Anthropic, während weniger leistungsfähige Systeme und Open-Weight-Modelle zunächst außen vor bleiben.

Prüfrahmen bleibt unter Verschluss

Das Weiße Haus hält den Prüfrahmen vorerst unter Verschluss. Die Details sollen den Medienberichten zufolge ausschließlich den beteiligten Unternehmen zugänglich sein. Start-ups, unabhängige Forscher und ausländische Regierungen bleiben damit über die konkreten Bewertungskriterien im Unklaren.

Der Prüfrahmen setzt einen präsidialen Erlass vom 2. Juni um. Der Erlass beauftragte mehrere Sicherheits- und Cyberbehörden, binnen 60 Tagen ein klassifiziertes Prüfverfahren und gemeinsam mit KI-Entwicklern einen freiwilligen Rahmen für besonders leistungsfähige KI-Modelle auszuarbeiten. Im Fokus stehen fortgeschrittene Cyberfähigkeiten, nicht allgemeine KI-Risiken. Eine verpflichtende Zulassung schließt der Erlass ausdrücklich aus.

(tobe)