Was konkret auf dem Tisch liegt
Sam Altman hat sich erneut für eine kontrollierte Verlangsamung der KI-Entwicklung ausgesprochen — nicht als Stopp, sondern als strukturierte Bremse. Laut Berichten von The Information laufen seit mehreren Monaten Gespräche zwischen OpenAI, Anthropic und Google über ein gemeinsames Selbstregulierungsmodell. Konkret soll OpenAI bereits vor großen Trainingsläufen sogenannte Sicherheitsnachweise formulieren — eine Art Pre-Deployment-Attestierung, die dokumentiert, welche Risikobewertungen vor dem Training eines Modells durchgeführt wurden.
Details zu Schwellenwerten, Prüfmethoden oder verbindlichen Kriterien dieser Nachweise sind laut aktueller Berichtslage nicht öffentlich. Ebenso unklar ist, ob die Gespräche der drei Anbieter auf eine formale Vereinbarung oder lediglich auf koordinierte öffentliche Kommunikation hinauslaufen. Die Initiative bleibt damit zunächst ein Signal — kein Standard.
Warum das weit über die KI-Branche hinausgeht
Wer KI-Modelle oder -Dienste dieser Anbieter einsetzt, ist von dieser Entwicklung direkt betroffen — unabhängig von Branche oder Unternehmensgröße.
Beispiel Industrieautomatisierung: Ein mittelständischer Maschinenbauer, der GPT-basierte Modelle zur Qualitätskontrolle in der Produktion nutzt, hängt an den Releasezyklen und Modellentscheidungen von OpenAI. Wenn ein Nachfolgemodell durch verschärfte Pre-Deployment-Prüfungen verzögert wird oder Funktionen auf Basis interner Risikobewertungen eingeschränkt werden, kann das geplante Rollouts direkt verschieben — ohne dass das Unternehmen darüber informiert wird oder Einfluss hat.
Beispiel Gesundheitsversorgung: Krankenhäuser und MVZs, die KI-gestützte Dokumentationssysteme oder klinische Entscheidungsunterstützung einsetzen, sind auf Modellstabilität angewiesen. Wenn Anbieter Modellverhalten im Rahmen von Sicherheitsmaßnahmen verändern — auch ohne Versionswechsel — entstehen Risiken für validierte Workflows, ohne dass ein klassisches Software-Update als Trigger erkennbar ist.
Das wirtschaftliche Kernproblem: Selbstregulierung durch Anbieter schafft keine Transparenz für Abnehmer. Unternehmen, die KI-Dienste einkaufen, erhalten keinen Einblick in die Kriterien, nach denen Modelle zurückgehalten, verändert oder freigegeben werden. Lieferkette und Planbarkeit werden intransparenter, nicht transparenter.
Einordnung in den rechtlichen Rahmen
Der EU AI Act ist hier der primäre Referenzrahmen. Art. 13 (Transparenz) verlangt von Anbietern Hochrisiko-KI-Systemen, Nutzer über Fähigkeiten und Grenzen der Systeme zu informieren. Eine interne Sicherheitsattest-Praxis, die nicht nach außen kommuniziert wird, erfüllt diese Anforderung strukturell nicht. Art. 15 (Genauigkeit und Robustheit) betrifft Betreiber: Sie müssen sicherstellen, dass eingesetzte Systeme über den Betriebszeitraum hinweg stabil performen — was bei nicht angekündigten Modellveränderungen schwer nachweisbar ist.
Für Finanzinstitute kommt DORA Art. 28-30 hinzu: IKT-Drittanbieterrisiken müssen vertraglich abgesichert und überwacht werden. OpenAI, Anthropic und Google sind typischerweise als kritische IKT-Drittanbieter einzustufen, sobald ihre Modelle in operativ relevante Prozesse integriert sind. Selbstregulierungsansätze ohne aufsichtsrechtliche Anerkennung entbinden Finanzinstitute nicht von ihrer eigenen Risikosteuerungspflicht gegenüber diesen Anbietern.
Handlungsempfehlungen
Für jeden Einkäufer und Betreiber von KI-Diensten:
- Modell-Versionierung dokumentieren (sofort): Erfassen Sie, welche Modellversion welcher Anbieter Sie aktuell nutzen — inklusive API-Endpunkt, Modell-ID und Datum der letzten Verhaltensvalidierung. Viele Anbieter wechseln Modelle still im Hintergrund. Ohne Dokumentation haben Sie keine Baseline für Verhaltensänderungen.
- Vertragliche Änderungsbenachrichtigung einfordern (nächste Vertragsverlängerung): Prüfen Sie, ob Ihre SLAs eine Benachrichtigungspflicht bei Modellwechseln oder wesentlichen Verhaltensänderungen enthalten. Falls nicht, reklamieren Sie diese Klausel aktiv — insbesondere wenn das Modell in validierte oder sicherheitsrelevante Prozesse eingebunden ist.
- Eigene Verhaltenstests etablieren (innerhalb von 30 Tagen): Definieren Sie ein minimales Testset aus produktiven Anwendungsfällen, das Sie bei jedem Modell-Update oder nach unerwarteten Verhaltensänderungen automatisiert ausführen. Werkzeuge wie PromptFlow (Azure), LangSmith oder einfache Skript-basierte Regressionstests eignen sich je nach Komplexität. Ziel: Verhaltensabweichungen erkennen, bevor sie in Produktion auffallen.
Zusätzlich für regulierte Branchen:
- Drittanbieter-Risikoakte aktualisieren (DORA Art. 28-30, MaRisk AT 9): Prüfen Sie, ob OpenAI, Anthropic oder Google in Ihrer IKT-Drittanbieter-Dokumentation als kritisch klassifiziert sind. Falls ja, muss die Risikoakte die Frage adressieren, wie Sie auf einseitige Modellveränderungen reagieren — Ausweichszenario, Eskalationspfad und Wiederherstellungszeit inklusive. Selbstregulierungsankündigungen der Anbieter ersetzen keine eigene Risikobewertung nach Aufsichtsrecht.
Was wir kritisch sehen
Altmans Forderung nach Drosselung ist nicht neu — sie wiederholt sich seit dem offenen Brief von 2023, ohne dass daraus verbindliche Mechanismen entstanden sind. Die Ankündigung von Pre-Deployment-Sicherheitsnachweisen klingt nach Governance-Fortschritt, ist aber solange substanzlos, wie weder Methodik noch Prüfkriterien noch externe Validierung offengelegt werden. Selbstregulierung durch marktdominierende Anbieter folgt historisch einem Muster: Sie verzögert externe Regulierung, ohne deren Schutzwirkung zu erreichen.
Problematisch ist auch die Framing-Logik: Wer die Entwicklung „drosselt
