Aktualisiert am 11. September 2026. Bei den beschriebenen Maßnahmen handelt es sich um öffentliche Vorschläge von OpenAI, nicht um bereits genehmigte Standards.
OpenAI hat verbindliche nationale Anforderungen für die Sicherheit der leistungsstärksten KI-Modelle, Standards für unabhängige Prüfungen und gemeinsame Kriterien für die Verlangsamung oder den Stopp der Entwicklung gefordert, wenn die Kontrollen nicht ausreichen. Die am 9. September veröffentlichte Stellungnahme erfolgt nach der Veröffentlichung von GPT-6 Astra, dem Hugging-Face-Vorfall und neuem politischen Druck. Das Unternehmen behauptet, dass die freiwilligen Selbstverpflichtungen einzelner Labore nicht mehr ausreichen.
Welche Regeln für die KI-Sicherheit schlägt OpenAI vor?
Der erste Punkt ist die nationale Regulierung, die auf den Fähigkeiten basiert, nicht nur auf der Modellgröße oder dem Produktnamen. Ein System, das in der Lage ist, Schwachstellen zu finden, die biologische Forschung zu beschleunigen oder autonom zu arbeiten, müsste einer strengeren Prüfung unterzogen werden. OpenAI sagt, es wolle mit dem Kongress zusammenarbeiten und unterstützt vier kalifornische Vorschläge zu Audits, Jugend, Bewertungsinfrastruktur und Biobedrohungen.
Die zweite Ebene betrifft Standards, die bereits vor einem Bundesgesetz gemeinsam mit anderen Laboratorien entwickelt wurden. Ziel ist es, Fähigkeiten zu messen, Grenzsysteme zu überwachen und gemeinsame Schwellenwerte festzulegen. Das Problem der Interessenkonflikte bleibt bestehen: Ein von Unternehmen verfasster Standard kann schnell und technisch sein, erfordert jedoch eine externe Überprüfung und durchsetzbare Konsequenzen.
Unabhängige Audits und Abschaltschwellenwerte
Laut OpenAI sollte das Vertrauen in die Sicherheit das Tempo des Fortschritts bestimmen. Wenn ein Modell nicht ausreichend geschützt werden kann, sollte die Entwicklung oder Verbreitung verlangsamt oder gestoppt werden. Um dieses Versprechen glaubwürdig zu machen, bedarf es öffentlicher Schwellenwerte, unabhängiger Gutachter, Zugang zu Daten und einem Verfahren, das verhindert, dass das Unternehmen unter Wettbewerbsdruck Kriterien ändert.
Für Astra gibt OpenAI an, vor einer breiteren internen Bereitstellung eine universelle Verfolgung vollständiger Flugbahnen und ein obligatorisches Ausrichtungs-Gate eingeführt zu haben. Diese Maßnahmen sind wichtig, aber die Öffentlichkeit kann nicht jede Einschätzung reproduzieren. Die Regulierung muss daher festlegen, wer die für die Verarbeitung Verantwortlichen kontrolliert und welche Informationen weitergegeben werden dürfen, ohne anstößige Fähigkeiten zu verbreiten.
| Vorschlag | Zustand |
|---|---|
| Nationale Anforderungen | Angefordert von OpenAI |
| Unabhängige Audits | Unterstützt, Details müssen definiert werden |
| Standards zwischen Laboren | Vorgeschlagene freiwillige Initiative |
| Schwellenwerte pausieren | Harmonisiert werden |
| Globale Koordination | Erklärtes Ziel |
| Aktuelles Recht | Noch nicht gebaut |
Denn OpenAI spricht von einem begrenzten Fenster
Das Unternehmen nutzt das Konzept eines „Richtlinienfensters“: einen Zeitraum, in dem Institutionen und Verteidiger Schutzmaßnahmen aufbauen können, bevor erweiterte Funktionen weit verbreitet werden. Offene und internationale Modelle rücken in den Vordergrund, sodass eine Regelung, die nur auf ein Unternehmen angewendet wird, weniger effektiv ist. Daher die Nachfrage nach kompatiblen Methoden zwischen den Ländern.
Dieses Argument kann auch kritisch gelesen werden. Kostspielige Regeln können große Betreiber konsolidieren und kleinere Wettbewerber behindern. Eine ausgewogene Politik muss sich auf das tatsächliche Risiko konzentrieren, zugängliche Compliance-Tools bieten und darf nicht die etablierten Unternehmen zu den einzigen Unternehmen machen, die zur Entwicklung von KI berechtigt sind.
Die Beziehung zum Hugging Face-Vorfall
Die Anfrage kommt, während der Senat die Schecks eröffnet hat und währendder OpenAI-Absturz während des Testszeigte konkrete Einschränkungen von Sandboxing und Monitoring auf. Es reicht nicht aus, zu bewerten, was ein Modell im Chat antwortet: Sie müssen Tools, Netzwerk, Anmeldeinformationen, Ausdauer und während langer Aufgaben ausgeführte Aktionen überprüfen.
Sogar die Aussagen vonJacob Coxon über die Risiken des KI-Wettlaufsbeschleunigte die Debatte. Seine Vorhersagen bleiben zugeschriebene Meinungen, während OpenAI-Vorschläge die politischen Verpflichtungen des Unternehmens darstellen. Die beiden Dinge auf die gleiche Ebene zu bringen, würde zu Verwirrung führen; Zusammengenommen zeigen sie jedoch, dass Sicherheit zu einem Problem der Governance und nicht nur der Forschung geworden ist.
Was eine glaubwürdige Regel enthalten sollte
Wir benötigen überprüfbare Definitionen kritischer Funktionen, Tests vor und nach der Veröffentlichung, obligatorische Benachrichtigung über Vorfälle, Schutz für diejenigen, die Probleme melden, Rechenzentrumsprüfungen und Reaktionspläne. Behörden sollten in der Lage sein, Protokolle und Bewertungen einzusehen, ohne die Veröffentlichung von Exploits zu erzwingen. Sanktionen müssen verhältnismäßig, aber real sein.
Ein Pausenschwellenwert muss angeben, wer die Pause wie lange aktiviert und unter welchen Bedingungen sie fortgesetzt werden kann. Ohne diese Elemente bleibt „wir werden bei Bedarf langsamer“ ein diskretionäres Versprechen. Bei der internationalen Koordinierung müssen auch Exportkontrollen, offene Forschung und regulatorische Unterschiede berücksichtigt werden.
Was sich jetzt ändert
Der Zugriff auf OpenAI-Produkte ändert sich nicht sofort. Die Vorschläge können sich auf Bundes- und Landesgesetze auswirken, erfordern jedoch Verhandlungen. Das politische Signal ist jedoch klar: Einer der Hauptentwickler fordert verbindliche Beschränkungen, auch um den Preis einer Verlangsamung der Kapazität. Der Test wird darin bestehen, zu beobachten, ob durchsetzbare Regeln, externe Prüfungen und Transparenz unterstützt werden, wenn sie im Widerspruch zu Geschwindigkeit und Markt stehen.
Wir beobachten Regeln KI-Sicherheit weiter und aktualisieren diese Analyse, sobald neue überprüfbare Daten oder endgültige Entscheidungen vorliegen.
