Abstrakte Visualisierung eines KI-Agenten-Netzwerks mit minimalistischer UI und vernetzten Datenpunkten in Dunkelblau und Grau
KI Veröffentlicht: Aktualisiert:

CVE-2026-25253 in KI-Agenten ohne Interface: Realität oder Roadmap?

Greg Brockman skizziert ChatGPT als unsichtbaren Kontextagenten. Was das für Unternehmen bedeutet – und wo die Versprechen dünn werden.

CVE-Referenz: CVE-2026-25253 (Quelle: BSI/NVD)

Was Brockman konkret gesagt hat

Greg Brockman, Mitgründer und bis zu seinem vorübergehenden Abgang 2024 langjähriger President bei OpenAI, hat in einem öffentlichen Statement die Entwicklungsrichtung von ChatGPT neu konturiert. Kernthese: Das Produkt der Zukunft hat kaum noch ein Interface und ist kaum noch ein klassisches Produkt im Sinne einer diskreten Applikation. Stattdessen soll ChatGPT zu einem kontextbewussten, im Hintergrund operierenden Agenten werden — einem System, das Absichten erkennt, Aufgaben eigenständig bearbeitet und sich in bestehende Workflows einbettet, ohne dass der Nutzer eine dedizierte Oberfläche aufrufen muss.

Das Scheitern der 2023 mit großem Aufwand vermarkteten ChatGPT-Plugins erklärt Brockman nüchtern: „Die Modelle waren damals nicht ansatzweise gut genug." Die Plugins sollten ChatGPT als Plattform für Drittanbieter-Erweiterungen etablieren — de facto ein App-Store-Modell für KI. Das Konzept wurde eingestellt, bevor es nennenswerte Traktion erreichte. Parallel dazu ist OpenAIs Profi-Coding-Tool Codex laut aktueller Berichtslage noch nicht allgemein verfügbar und befindet sich in einer beschränkten Zugangsphase. Die Lücke zwischen kommunizierter Vision und lieferbarem Produkt ist damit kein Einzelfall, sondern ein wiederkehrendes Muster im OpenAI-Portfolio.

Warum das weit über ChatGPT hinausgeht

Die Verschiebung von diskreten Applikationen hin zu eingebetteten, kontextgetriebenen Agenten betrifft praktisch jeden Unternehmensbereich, der Software einsetzt — unabhängig von Branche oder Unternehmensgröße.

Beispiel Fertigung und Industrie: Ein mittelständischer Maschinenbauer, der Microsoft 365 Copilot für technische Dokumentation einsetzt, arbeitet bereits heute mit einem Agenten, der kontextbasiert auf interne Wissensdatenbanken, ERP-Daten und E-Mail-Historien zugreift. Die Frage, welche Daten dieser Agent sieht, wer die Zugriffsgrenzen definiert und wie Ausgaben rückverfolgbar sind, ist keine abstrakte Compliance-Frage — sie entscheidet darüber, ob Konstruktionsdaten versehentlich in Modell-Kontexte fließen, die nicht isoliert sind.

Beispiel Gesundheitswesen: Ambulante Pflegedienste und MVZs erproben KI-gestützte Dokumentationsassistenten, die Spracheingaben direkt in Patientenakten überführen. Ein Agent, der „fast kein Interface" hat, ist per Definition schwerer zu kontrollieren — Eingaben, Kontextfenster und Ausgaben sind für den Anwender nicht transparent. In einem Umfeld, in dem Falschdokumentationen unmittelbar haftungsrelevant sind, ist die Unsichtbarkeit des Systems ein Risikofaktor, kein Komfortmerkmal.

Branchenübergreifend gilt: Je tiefer ein KI-Agent in operative Workflows integriert ist und je weniger sichtbar seine Entscheidungslogik, desto höher die Anforderungen an Governance, Logging und menschliche Überwachungspunkte. Das ist keine Meinung — es ist die technische Konsequenz aus dem Architekturprinzip, das Brockman beschreibt.

Regulatorische Einordnung

Der EU AI Act ist hier der primäre Rahmen. Artikel 13 verlangt Transparenz gegenüber Nutzern: KI-Systeme müssen so gestaltet sein, dass Betreiber ihre Funktionsweise hinreichend verstehen können. Ein System, das konzeptionell auf minimale Benutzeroberfläche ausgelegt ist, erzeugt strukturell Transparenzlücken — das ist kein Vorwurf an OpenAI, sondern eine architektonische Spannung, die Betreiber aktiv adressieren müssen. Artikel 15 fordert Robustheit und Genauigkeit; bei agentenbasierten Systemen, die eigenständig Aktionen auslösen, ist die Fehlerfortpflanzung schwerer zu begrenzen als bei klassischen Assistenz-Interfaces.

Für Finanzinstitute kommt DORA Art. 28 hinzu: IKT-Drittanbieterrisiken müssen bewertet, vertraglich abgesichert und laufend überwacht werden. Ein OpenAI-basierter Agent, der in operative Prozesse eingebettet ist, fällt unter diese Anforderung — unabhängig davon, ob er über eine sichtbare Oberfläche verfügt oder nicht. Die BaFin hat in ihrer BAIT-Konkretisierung klargestellt, dass die Auslagerungseigenschaft nicht vom Interface-Modell abhängt, sondern vom Grad der operativen Abhängigkeit.

Handlungsempfehlungen

Für jeden Einsetzer von KI-Agenten:

  1. Daten-Perimeter dokumentieren (sofort, max. 2 Wochen): Inventarisieren Sie, auf welche Datenquellen ein eingesetzter KI-Agent Zugriff hat — direkt über API-Verbindungen und indirekt über Kontextfenster. Nutzen Sie IAM-Auswertungen (Entra ID, Okta) um Scope-Creep bei OAuth-Berechtigungen zu identifizieren. Kein Agent sollte auf mehr Daten zugreifen können, als für die definierte Aufgabe erforderlich.
  2. Logging und Auditierbarkeit sicherstellen (innerhalb von 30 Tagen): Stellen Sie sicher, dass Agenten-Interaktionen — Eingaben, abgerufener Kontext, Ausgaben, ausgelöste Aktionen — in einem SIEM (z.B. Wazuh, Splunk) oder zumindest in einem zentralen Log-Store erfasst werden. Ohne Nachvollziehbarkeit gibt es bei Fehlern keine Grundlage für Root-Cause-Analyse.
  3. Human-in-the-Loop-Punkte explizit definieren (vor Produktivsetzung): Jeder Workflow, in dem ein Agent eigenständig Aktionen auslöst — E-Mails versendet, Daten schreibt, Systeme steuert — braucht definierte Eskalationsschwellen, ab denen menschliche Freigabe erforderlich ist. Das ist keine Usability-Entscheidung, sondern ein Governance-Erfordernis.

Zusätzlich für regulierte Branchen:

  1. Drittanbieter-KI in das IKT-Risikomanagement einbinden (DORA Art. 28-30): Bewerten Sie OpenAI — oder jeden vergleichbaren Anbieter — als kritischen IKT-Drittanbieter, sofern der Agent in operativen Prozessen eingesetzt wird. Das schließt Vertragsprüfung auf Exit-Klauseln, Subunternehmer-Transparenz und Incident-Notification-Pflichten ein. Ein Agent ohne sichtbares Interface erhöht die Abhängigkeit, nicht die Kontrollierbarkeit.
  2. Klassifizierung nach EU AI Act Risikoklassen dokumentieren (spätestens bis zur Anwendbarkeitsfrist): Prüfen Sie für jeden eingesetzten KI-Agenten die Einstufung nach Anhang III des AI Act. Agenten, die in HR-, Kreditentscheidungs- oder kritischen Infrastrukturprozessen eingesetzt werden, können als Hochrisiko-Systeme eingestuft sein — mit entsprechenden Konformitätspflichten nach Art. 9 (Risikomanagementsystem) und Art. 13.

Was wir kritisch sehen

Brockmans Retrospektive auf das Scheitern der Plugins ist bemerkenswert offen — aber sie verschleiert eine strukturelle Frage: OpenAI hat 2023 ein Plugin-Ökosystem aufgebaut, Entwickler zur Investition in Drittintegration bewegt und es dann ohne belastbaren Migrationspfad eingestellt. Die aktuelle Agenten-Vision könnte denselben Zyklus wiederholen. Unternehmen, die heute Ressourcen in tief integrierte OpenAI-Agenten-Architekturen investieren, bauen auf einer Plattform, deren Produktkontinuität strukturell ungesichert ist.

Zudem ist die Prämisse „fast kein Interface" aus Nutzerperspektive kein Fortschritt per se. Sichtbarkeit ist in sicherheitskritischen Umgebungen ein Feature, kein Bug. Systeme, die im Hintergrund operieren, sind schwerer zu auditieren, schwerer zu erklären und schwerer abzuschalten. Die Branche sollte dieser Designphilosophie nicht unkritisch folgen, nur weil sie von einem einflussreichen Akteur mit Visionsanspruch kommuniziert wird.

Häufige Fragen

Wie erkenne ich als Einkäufer, ob ein KI-Agent mehr Datenzugriff hat als vereinbart?

Prüfen Sie OAuth-Scopes und API-Berechtigungen über Ihr IAM-System (Entra ID, Okta). Viele Agenten-Integrationen fordern beim Setup weitreichende Lese- und Schreibrechte, die im laufenden Betrieb nicht aktiv angezeigt werden. Ein regelmäßiges Access-Review — quartalsmäßig ist realistisch — deckt Scope-Creep auf, bevor er zum Problem wird.

Muss ein KMU ohne Compliance-Pflicht wirklich Logging für KI-Agenten einrichten?

Aus rein rechtlicher Sicht nein — aber aus operativer Sicht ist es sinnvoll. Wenn ein Agent automatisiert E-Mails versendet, Angebote erstellt oder Daten in Systeme schreibt, und dabei ein Fehler passiert, brauchen Sie eine Grundlage zur Fehleranalyse. Einfaches zentrales Logging — auch ohne SIEM, etwa über einen strukturierten Log-Dienst des Cloud-Providers — kostet wenig und spart im Fehlerfall erheblichen Aufwand.

Welche DORA-Anforderung greift, wenn ein Finanzinstitut OpenAI-basierte Agenten in operativen Prozessen einsetzt?

Primär DORA Art. 28-30 zum IKT-Drittanbieterrisiko. OpenAI ist als externer Anbieter einzustufen, sobald eine operative Abhängigkeit besteht — unabhängig vom Interface-Modell. Der Vertrag muss Klauseln zu Datensouveränität, Subunternehmern, Incident-Meldepflichten und Exit-Optionen enthalten. Zusätzlich ist Art. 13 EU AI Act relevant: Transparenzanforderungen gelten auch für eingebettete Agenten ohne sichtbare Oberfläche.

Quellen

the-decoder.de
ctsd Redaktion — Die Insights der ctsd GmbH bieten Einordnungen und Handlungsempfehlungen zu aktuellen Themen aus IT-Sicherheit, KI und Regulatorik. Sitz: Tettnang am Bodensee. Mehr über uns →

Benötigen Sie Unterstützung?

Wir helfen Ihnen bei der Einordnung und Umsetzung — von der Analyse bis zur Lösung.

Gespräch vereinbaren