Abstrakte Visualisierung eines neuronalen Netzwerks mit gedrosseltem Datenstrom, dargestellt als unterbrochene Verbindungslinien in Blau und Grau
KI Veröffentlicht: Aktualisiert:

KI-Selbstregulierung: Was Altmans Vorstoß bedeutet

OpenAI, Anthropic und Google verhandeln über gemeinsame KI-Sicherheitsstandards. Was das für Unternehmen als KI-Einkäufer konkret bedeutet.

Was konkret auf dem Tisch liegt

Sam Altman hat sich erneut für eine kontrollierte Verlangsamung der KI-Entwicklung ausgesprochen — nicht als Stopp, sondern als strukturierte Bremse. Laut Berichten von The Information laufen seit mehreren Monaten Gespräche zwischen OpenAI, Anthropic und Google über ein gemeinsames Selbstregulierungsmodell. Konkret soll OpenAI bereits vor großen Trainingsläufen sogenannte Sicherheitsnachweise formulieren — eine Art Pre-Deployment-Attestierung, die dokumentiert, welche Risikobewertungen vor dem Training eines Modells durchgeführt wurden.

Details zu Schwellenwerten, Prüfmethoden oder verbindlichen Kriterien dieser Nachweise sind laut aktueller Berichtslage nicht öffentlich. Ebenso unklar ist, ob die Gespräche der drei Anbieter auf eine formale Vereinbarung oder lediglich auf koordinierte öffentliche Kommunikation hinauslaufen. Die Initiative bleibt damit zunächst ein Signal — kein Standard.

Warum das weit über die KI-Branche hinausgeht

Wer KI-Modelle oder -Dienste dieser Anbieter einsetzt, ist von dieser Entwicklung direkt betroffen — unabhängig von Branche oder Unternehmensgröße.

Beispiel Industrieautomatisierung: Ein mittelständischer Maschinenbauer, der GPT-basierte Modelle zur Qualitätskontrolle in der Produktion nutzt, hängt an den Releasezyklen und Modellentscheidungen von OpenAI. Wenn ein Nachfolgemodell durch verschärfte Pre-Deployment-Prüfungen verzögert wird oder Funktionen auf Basis interner Risikobewertungen eingeschränkt werden, kann das geplante Rollouts direkt verschieben — ohne dass das Unternehmen darüber informiert wird oder Einfluss hat.

Beispiel Gesundheitsversorgung: Krankenhäuser und MVZs, die KI-gestützte Dokumentationssysteme oder klinische Entscheidungsunterstützung einsetzen, sind auf Modellstabilität angewiesen. Wenn Anbieter Modellverhalten im Rahmen von Sicherheitsmaßnahmen verändern — auch ohne Versionswechsel — entstehen Risiken für validierte Workflows, ohne dass ein klassisches Software-Update als Trigger erkennbar ist.

Das wirtschaftliche Kernproblem: Selbstregulierung durch Anbieter schafft keine Transparenz für Abnehmer. Unternehmen, die KI-Dienste einkaufen, erhalten keinen Einblick in die Kriterien, nach denen Modelle zurückgehalten, verändert oder freigegeben werden. Lieferkette und Planbarkeit werden intransparenter, nicht transparenter.

Einordnung in den rechtlichen Rahmen

Der EU AI Act ist hier der primäre Referenzrahmen. Art. 13 (Transparenz) verlangt von Anbietern Hochrisiko-KI-Systemen, Nutzer über Fähigkeiten und Grenzen der Systeme zu informieren. Eine interne Sicherheitsattest-Praxis, die nicht nach außen kommuniziert wird, erfüllt diese Anforderung strukturell nicht. Art. 15 (Genauigkeit und Robustheit) betrifft Betreiber: Sie müssen sicherstellen, dass eingesetzte Systeme über den Betriebszeitraum hinweg stabil performen — was bei nicht angekündigten Modellveränderungen schwer nachweisbar ist.

Für Finanzinstitute kommt DORA Art. 28-30 hinzu: IKT-Drittanbieterrisiken müssen vertraglich abgesichert und überwacht werden. OpenAI, Anthropic und Google sind typischerweise als kritische IKT-Drittanbieter einzustufen, sobald ihre Modelle in operativ relevante Prozesse integriert sind. Selbstregulierungsansätze ohne aufsichtsrechtliche Anerkennung entbinden Finanzinstitute nicht von ihrer eigenen Risikosteuerungspflicht gegenüber diesen Anbietern.

Handlungsempfehlungen

Für jeden Einkäufer und Betreiber von KI-Diensten:

  1. Modell-Versionierung dokumentieren (sofort): Erfassen Sie, welche Modellversion welcher Anbieter Sie aktuell nutzen — inklusive API-Endpunkt, Modell-ID und Datum der letzten Verhaltensvalidierung. Viele Anbieter wechseln Modelle still im Hintergrund. Ohne Dokumentation haben Sie keine Baseline für Verhaltensänderungen.
  2. Vertragliche Änderungsbenachrichtigung einfordern (nächste Vertragsverlängerung): Prüfen Sie, ob Ihre SLAs eine Benachrichtigungspflicht bei Modellwechseln oder wesentlichen Verhaltensänderungen enthalten. Falls nicht, reklamieren Sie diese Klausel aktiv — insbesondere wenn das Modell in validierte oder sicherheitsrelevante Prozesse eingebunden ist.
  3. Eigene Verhaltenstests etablieren (innerhalb von 30 Tagen): Definieren Sie ein minimales Testset aus produktiven Anwendungsfällen, das Sie bei jedem Modell-Update oder nach unerwarteten Verhaltensänderungen automatisiert ausführen. Werkzeuge wie PromptFlow (Azure), LangSmith oder einfache Skript-basierte Regressionstests eignen sich je nach Komplexität. Ziel: Verhaltensabweichungen erkennen, bevor sie in Produktion auffallen.

Zusätzlich für regulierte Branchen:

  1. Drittanbieter-Risikoakte aktualisieren (DORA Art. 28-30, MaRisk AT 9): Prüfen Sie, ob OpenAI, Anthropic oder Google in Ihrer IKT-Drittanbieter-Dokumentation als kritisch klassifiziert sind. Falls ja, muss die Risikoakte die Frage adressieren, wie Sie auf einseitige Modellveränderungen reagieren — Ausweichszenario, Eskalationspfad und Wiederherstellungszeit inklusive. Selbstregulierungsankündigungen der Anbieter ersetzen keine eigene Risikobewertung nach Aufsichtsrecht.

Was wir kritisch sehen

Altmans Forderung nach Drosselung ist nicht neu — sie wiederholt sich seit dem offenen Brief von 2023, ohne dass daraus verbindliche Mechanismen entstanden sind. Die Ankündigung von Pre-Deployment-Sicherheitsnachweisen klingt nach Governance-Fortschritt, ist aber solange substanzlos, wie weder Methodik noch Prüfkriterien noch externe Validierung offengelegt werden. Selbstregulierung durch marktdominierende Anbieter folgt historisch einem Muster: Sie verzögert externe Regulierung, ohne deren Schutzwirkung zu erreichen.

Problematisch ist auch die Framing-Logik: Wer die Entwicklung „drosselt

Häufige Fragen

Wie erkenne ich als Einkäufer, ob ein KI-Modell still ausgetauscht wurde?

Die meisten KI-API-Anbieter ermöglichen die Abfrage der genutzten Modell-ID im Response-Header oder über dedizierte Endpunkte. Dokumentieren Sie diese ID bei jeder produktiven Nutzung und vergleichen Sie sie periodisch. Alternativ helfen automatisierte Regressionstests mit definierten Eingabe-Ausgabe-Paaren — Abweichungen signalisieren Verhaltensänderungen, auch wenn kein expliziter Versionshinweis vorliegt.

Muss ein KMU ohne Compliance-Pflicht auf Selbstregulierungsankündigungen reagieren?

Formal nein — aber operativ ist Ignorieren riskant. Wenn KI-Dienste in Kernanwendungen eingebunden sind, können unangekündigte Modellveränderungen Prozesse oder Ausgabequalität beeinträchtigen. Eine minimale Absicherung — Versionsdokumentation und ein einfaches Testset — ist mit wenig Aufwand umsetzbar und reduziert das Risiko ungeplanter Ausfälle deutlich.

Welche DORA-Anforderung wird durch den Einsatz von OpenAI oder Anthropic als Drittanbieter ausgelöst?

DORA Art. 28-30 verpflichtet Finanzinstitute, IKT-Drittanbieterrisiken zu identifizieren, zu bewerten und vertraglich abzusichern. Sobald ein KI-Dienst in operativ relevante Prozesse integriert ist, ist er typischerweise als kritischer IKT-Drittanbieter einzustufen. Das erfordert eine Risikoakte mit Ausweichszenarien, Auditrechten und definierten Exit-Strategien — unabhängig davon, ob der Anbieter intern Sicherheitsnachweise formuliert.

Quellen

the-decoder.de
ctsd Redaktion — Die Insights der ctsd GmbH bieten Einordnungen und Handlungsempfehlungen zu aktuellen Themen aus IT-Sicherheit, KI und Regulatorik. Sitz: Tettnang am Bodensee. Mehr über uns →

Benötigen Sie Unterstützung?

Wir helfen Ihnen bei der Einordnung und Umsetzung — von der Analyse bis zur Lösung.

Gespräch vereinbaren