CVE-Referenz: CVE-2026-25253 (Quelle: BSI/NVD)
Was Brockman konkret gesagt hat
Greg Brockman, Mitgründer und bis zu seinem vorübergehenden Abgang 2024 langjähriger President bei OpenAI, hat in einem öffentlichen Statement die Entwicklungsrichtung von ChatGPT neu konturiert. Kernthese: Das Produkt der Zukunft hat kaum noch ein Interface und ist kaum noch ein klassisches Produkt im Sinne einer diskreten Applikation. Stattdessen soll ChatGPT zu einem kontextbewussten, im Hintergrund operierenden Agenten werden — einem System, das Absichten erkennt, Aufgaben eigenständig bearbeitet und sich in bestehende Workflows einbettet, ohne dass der Nutzer eine dedizierte Oberfläche aufrufen muss.
Das Scheitern der 2023 mit großem Aufwand vermarkteten ChatGPT-Plugins erklärt Brockman nüchtern: „Die Modelle waren damals nicht ansatzweise gut genug." Die Plugins sollten ChatGPT als Plattform für Drittanbieter-Erweiterungen etablieren — de facto ein App-Store-Modell für KI. Das Konzept wurde eingestellt, bevor es nennenswerte Traktion erreichte. Parallel dazu ist OpenAIs Profi-Coding-Tool Codex laut aktueller Berichtslage noch nicht allgemein verfügbar und befindet sich in einer beschränkten Zugangsphase. Die Lücke zwischen kommunizierter Vision und lieferbarem Produkt ist damit kein Einzelfall, sondern ein wiederkehrendes Muster im OpenAI-Portfolio.
Warum das weit über ChatGPT hinausgeht
Die Verschiebung von diskreten Applikationen hin zu eingebetteten, kontextgetriebenen Agenten betrifft praktisch jeden Unternehmensbereich, der Software einsetzt — unabhängig von Branche oder Unternehmensgröße.
Beispiel Fertigung und Industrie: Ein mittelständischer Maschinenbauer, der Microsoft 365 Copilot für technische Dokumentation einsetzt, arbeitet bereits heute mit einem Agenten, der kontextbasiert auf interne Wissensdatenbanken, ERP-Daten und E-Mail-Historien zugreift. Die Frage, welche Daten dieser Agent sieht, wer die Zugriffsgrenzen definiert und wie Ausgaben rückverfolgbar sind, ist keine abstrakte Compliance-Frage — sie entscheidet darüber, ob Konstruktionsdaten versehentlich in Modell-Kontexte fließen, die nicht isoliert sind.
Beispiel Gesundheitswesen: Ambulante Pflegedienste und MVZs erproben KI-gestützte Dokumentationsassistenten, die Spracheingaben direkt in Patientenakten überführen. Ein Agent, der „fast kein Interface" hat, ist per Definition schwerer zu kontrollieren — Eingaben, Kontextfenster und Ausgaben sind für den Anwender nicht transparent. In einem Umfeld, in dem Falschdokumentationen unmittelbar haftungsrelevant sind, ist die Unsichtbarkeit des Systems ein Risikofaktor, kein Komfortmerkmal.
Branchenübergreifend gilt: Je tiefer ein KI-Agent in operative Workflows integriert ist und je weniger sichtbar seine Entscheidungslogik, desto höher die Anforderungen an Governance, Logging und menschliche Überwachungspunkte. Das ist keine Meinung — es ist die technische Konsequenz aus dem Architekturprinzip, das Brockman beschreibt.
Regulatorische Einordnung
Der EU AI Act ist hier der primäre Rahmen. Artikel 13 verlangt Transparenz gegenüber Nutzern: KI-Systeme müssen so gestaltet sein, dass Betreiber ihre Funktionsweise hinreichend verstehen können. Ein System, das konzeptionell auf minimale Benutzeroberfläche ausgelegt ist, erzeugt strukturell Transparenzlücken — das ist kein Vorwurf an OpenAI, sondern eine architektonische Spannung, die Betreiber aktiv adressieren müssen. Artikel 15 fordert Robustheit und Genauigkeit; bei agentenbasierten Systemen, die eigenständig Aktionen auslösen, ist die Fehlerfortpflanzung schwerer zu begrenzen als bei klassischen Assistenz-Interfaces.
Für Finanzinstitute kommt DORA Art. 28 hinzu: IKT-Drittanbieterrisiken müssen bewertet, vertraglich abgesichert und laufend überwacht werden. Ein OpenAI-basierter Agent, der in operative Prozesse eingebettet ist, fällt unter diese Anforderung — unabhängig davon, ob er über eine sichtbare Oberfläche verfügt oder nicht. Die BaFin hat in ihrer BAIT-Konkretisierung klargestellt, dass die Auslagerungseigenschaft nicht vom Interface-Modell abhängt, sondern vom Grad der operativen Abhängigkeit.
Handlungsempfehlungen
Für jeden Einsetzer von KI-Agenten:
- Daten-Perimeter dokumentieren (sofort, max. 2 Wochen): Inventarisieren Sie, auf welche Datenquellen ein eingesetzter KI-Agent Zugriff hat — direkt über API-Verbindungen und indirekt über Kontextfenster. Nutzen Sie IAM-Auswertungen (Entra ID, Okta) um Scope-Creep bei OAuth-Berechtigungen zu identifizieren. Kein Agent sollte auf mehr Daten zugreifen können, als für die definierte Aufgabe erforderlich.
- Logging und Auditierbarkeit sicherstellen (innerhalb von 30 Tagen): Stellen Sie sicher, dass Agenten-Interaktionen — Eingaben, abgerufener Kontext, Ausgaben, ausgelöste Aktionen — in einem SIEM (z.B. Wazuh, Splunk) oder zumindest in einem zentralen Log-Store erfasst werden. Ohne Nachvollziehbarkeit gibt es bei Fehlern keine Grundlage für Root-Cause-Analyse.
- Human-in-the-Loop-Punkte explizit definieren (vor Produktivsetzung): Jeder Workflow, in dem ein Agent eigenständig Aktionen auslöst — E-Mails versendet, Daten schreibt, Systeme steuert — braucht definierte Eskalationsschwellen, ab denen menschliche Freigabe erforderlich ist. Das ist keine Usability-Entscheidung, sondern ein Governance-Erfordernis.
Zusätzlich für regulierte Branchen:
- Drittanbieter-KI in das IKT-Risikomanagement einbinden (DORA Art. 28-30): Bewerten Sie OpenAI — oder jeden vergleichbaren Anbieter — als kritischen IKT-Drittanbieter, sofern der Agent in operativen Prozessen eingesetzt wird. Das schließt Vertragsprüfung auf Exit-Klauseln, Subunternehmer-Transparenz und Incident-Notification-Pflichten ein. Ein Agent ohne sichtbares Interface erhöht die Abhängigkeit, nicht die Kontrollierbarkeit.
- Klassifizierung nach EU AI Act Risikoklassen dokumentieren (spätestens bis zur Anwendbarkeitsfrist): Prüfen Sie für jeden eingesetzten KI-Agenten die Einstufung nach Anhang III des AI Act. Agenten, die in HR-, Kreditentscheidungs- oder kritischen Infrastrukturprozessen eingesetzt werden, können als Hochrisiko-Systeme eingestuft sein — mit entsprechenden Konformitätspflichten nach Art. 9 (Risikomanagementsystem) und Art. 13.
Was wir kritisch sehen
Brockmans Retrospektive auf das Scheitern der Plugins ist bemerkenswert offen — aber sie verschleiert eine strukturelle Frage: OpenAI hat 2023 ein Plugin-Ökosystem aufgebaut, Entwickler zur Investition in Drittintegration bewegt und es dann ohne belastbaren Migrationspfad eingestellt. Die aktuelle Agenten-Vision könnte denselben Zyklus wiederholen. Unternehmen, die heute Ressourcen in tief integrierte OpenAI-Agenten-Architekturen investieren, bauen auf einer Plattform, deren Produktkontinuität strukturell ungesichert ist.
Zudem ist die Prämisse „fast kein Interface" aus Nutzerperspektive kein Fortschritt per se. Sichtbarkeit ist in sicherheitskritischen Umgebungen ein Feature, kein Bug. Systeme, die im Hintergrund operieren, sind schwerer zu auditieren, schwerer zu erklären und schwerer abzuschalten. Die Branche sollte dieser Designphilosophie nicht unkritisch folgen, nur weil sie von einem einflussreichen Akteur mit Visionsanspruch kommuniziert wird.
