Stilisierte Darstellung eines KI-gestützten Web-Editors mit Code-Fragmenten und einer Browser-Vorschau auf dunklem Hintergrund
KI Veröffentlicht: Aktualisiert:

ChatGPT Sites: KI-generierte Apps ohne Code

OpenAI ermöglicht mit ChatGPT Sites das Erstellen und Veröffentlichen von Webseiten und Apps per Spracheingabe — ohne Programmierkenntnisse. Was das für Unternehmen bedeutet.

Was OpenAI konkret angekündigt hat

Mit „ChatGPT Sites" integriert OpenAI eine Veröffentlichungsplattform direkt in ChatGPT. Nutzer beschreiben in natürlicher Sprache, was sie erstellen möchten — eine Landing Page, eine einfache Web-App, ein browserbasiertes Spiel — und verfeinern das Ergebnis im laufenden Dialog. Das generierte Projekt wird anschließend über eine von OpenAI bereitgestellte URL öffentlich zugänglich gemacht. Programmierkenntnisse sind laut aktueller Berichtslage nicht erforderlich. Die Funktion baut auf dem bestehenden Canvas-Feature auf, das kollaboratives Arbeiten an Dokumenten und Code bereits ermöglichte, geht aber in der Deployment-Komponente darüber hinaus: Der Schritt vom Prototyp zur öffentlich erreichbaren Anwendung entfällt als eigenständige technische Aufgabe.

Technische Details zur Laufzeitumgebung, zu Limits bei Bandbreite oder Speicher sowie zur Persistenz von Nutzerdaten in generierten Apps waren zum Redaktionsschluss nicht vollständig dokumentiert. Gleiches gilt für die Frage, ob und wie externe Datenbankanbindungen oder Authentifizierungsschichten unterstützt werden.

Warum das weit über Hobbyentwickler hinausgeht

Die eigentliche Relevanz liegt nicht im Feature selbst, sondern in der strukturellen Verschiebung, die es beschleunigt: Die Hürde zwischen Idee und produktiver Bereitstellung sinkt auf nahezu null — und damit sinkt auch die Sichtbarkeit dieser Deployments für IT- und Sicherheitsteams.

Ein konkretes Szenario aus dem Handel: Eine Marketingmitarbeiterin eines mittelständischen Onlinehändlers erstellt ohne IT-Beteiligung eine Produktkonfigurator-App, bindet sie in die Website ein und sammelt Kundendaten — Name, E-Mail, Präferenzen. Die App läuft auf OpenAI-Infrastruktur, nicht im eigenen Rechenzentrum. Weder Datenschutzbeauftragter noch IT-Sicherheit sind eingebunden. Das ist kein hypothetisches Risiko, sondern eine direkte Verlängerung des bekannten Shadow-IT-Problems in eine neue Dimension.

Ein zweites Beispiel aus dem Bildungsbereich: Eine Schule oder Hochschule setzt ChatGPT Sites ein, um Lernmodule oder interaktive Übungen bereitzustellen. Werden dabei personenbezogene Daten von Minderjährigen verarbeitet — auch unbeabsichtigt, etwa durch Eingaben in Formulare — greifen erhöhte Schutzpflichten nach DSGVO, ohne dass die verantwortliche Stelle die Datenflüsse kontrolliert oder überhaupt kennt.

Für Industrieunternehmen mit OT-Umgebungen ist das Risiko anders gelagert: Wenn Fachabteilungen beginnen, Wartungstools oder Statusdashboards über KI-Plattformen zu generieren und bereitzustellen, entsteht eine parallele Anwendungslandschaft außerhalb jeder Asset-Inventarisierung.

Rechtlicher Rahmen: wo die Pflichten greifen

Der EU AI Act stuft generative Modelle wie ChatGPT als General Purpose AI (GPAI) ein. Art. 13 verlangt Transparenz gegenüber Nutzern; relevant wird das, wenn Endkunden mit KI-generierten Interfaces interagieren, ohne zu wissen, dass die dahinterliegende Logik maschinell erzeugt wurde. Art. 15 adressiert Robustheit und Genauigkeit — bei KI-generierten Formularen oder Berechnungslogiken keine akademische Frage.

Die DSGVO greift unmittelbar, sobald über eine ChatGPT-Site personenbezogene Daten erhoben werden. Art. 28 DSGVO erfordert einen Auftragsverarbeitungsvertrag mit OpenAI, Art. 32 verpflichtet zur technisch-organisatorischen Absicherung der Verarbeitung. Beide Anforderungen lassen sich nicht stillschweigend erfüllen, nur weil die App per Sprachbefehl entstanden ist.

Für Finanzinstitute kommt DORA Art. 28 hinzu: Jede neue IKT-Drittanbieterbeziehung — und das Hosting einer kundenseitigen Anwendung auf OpenAI-Infrastruktur qualifiziert als solche — erfordert eine dokumentierte Risikobewertung und vertragliche Mindestanforderungen. Eine spontan publizierte ChatGPT-Site eines Frontline-Mitarbeiters würde diesen Prozess de facto umgehen.

Handlungsempfehlungen

Für jeden Betreiber und Einkäufer:

  1. Sofortmaßnahme (innerhalb von 72 Stunden): Prüfen Sie, ob ChatGPT Plus oder Team bereits im Unternehmen lizenziert ist und ob die Sites-Funktion bereits aktiviert ist. Wenn ja, kommunizieren Sie umgehend an alle Nutzer, dass das Veröffentlichen von Apps oder Seiten über ChatGPT Sites bis zur Klärung der Rahmenbedingungen zu unterlassen ist.
  2. Kurzfristig (innerhalb von 14 Tagen): Ergänzen Sie Ihre Acceptable-Use-Policy für KI-Tools um eine explizite Regelung zu generierten und publizierten Anwendungen. Definieren Sie, welche Datenklassen (personenbezogen, intern, öffentlich) in solchen Anwendungen verarbeitet werden dürfen. Ohne diese Regel ist jede spätere Sanktionierung von Verstößen juristisch schwach.
  3. Mittelfristig (nächstes Quartal): Integrieren Sie KI-generierte Deployments in Ihr Shadow-IT-Discovery-Prozess. Tools wie Microsoft Defender for Cloud Apps (CASB-Funktion) oder Netskope können ausgehende Verbindungen zu openai.com-Subdomains sichtbar machen und kategorisieren. Ergänzen Sie Ihr Asset-Inventar um eine Kategorie „KI-generierte Anwendungen" und definieren Sie einen Freigabeprozess analog zur IDV-Kontrolle.

Zusätzlich für regulierte Branchen:

  1. Bewerten Sie ChatGPT Sites als potenziellen neuen IKT-Drittanbieter im Sinne von DORA Art. 28. Das erfordert ein Vendor Assessment, einen dokumentierten Risikoappetit für diese Nutzungsform und — falls die Nutzung zugelassen wird — vertragliche Regelungen zu Datenlokation, Subauftragsvergabe und Exit. MaRisk AT 9 und BAIT-Anforderungen zur Auslagerungsdokumentation gelten analog, auch wenn OpenAI den Vorgang nicht als klassische Auslagerung vermarktet.
  2. Stellen Sie sicher, dass Ihr ITSM-Prozess für neue Anwendungen (Change Advisory Board, Security Review) auch auf Anwendungen greift, die außerhalb der klassischen Entwicklungspipeline entstehen. Eine Checkliste, die explizit fragt „Wurde diese Anwendung mit KI-Unterstützung erstellt und auf Drittinfrastruktur deployed?", schließt die strukturelle Lücke.

Was wir kritisch sehen

OpenAI positioniert ChatGPT Sites als Demokratisierung von Softwareentwicklung. Das ist technisch korrekt — und sicherheitspolitisch eine der unklarsten Entwicklungen des Jahres. Die Plattform senkt nicht nur die Einstiegshürde für legitime Anwendungsfälle, sondern auch für Phishing-Seiten, gefälschte Formulare und Social-Engineering-Infrastruktur: Dieselbe Funktion, die einem KMU eine Produktseite generiert, erstellt auf Anfrage einer anderen Person eine täuschend echte Login-Maske. Die Frage, welche Content-Policies und Missbrauchserkennungen OpenAI für publizierte Sites implementiert, ist laut aktueller Berichtslage nicht beantwortet. Darüber hinaus bleibt unklar, wer im Streitfall als datenschutzrechtlich Verantwortlicher gilt — OpenAI als Plattformbetreiber oder das Unternehmen, dessen Mitarbeiter die App erstellt hat. Diese Unklarheit ist kein Randproblem, sie ist der Kern des Compliance-Risikos.

Häufige Fragen

Wie erkenne ich als IT-Verantwortlicher, ob Mitarbeiter bereits ChatGPT Sites nutzen?

Über CASB-Lösungen wie Microsoft Defender for Cloud Apps oder Netskope lassen sich ausgehende HTTPS-Verbindungen zu OpenAI-Subdomains (insbesondere chatgpt.com und oai.azure.com) kategorisieren und auf Upload-Aktivitäten analysieren. Ergänzend empfiehlt sich eine kurze Mitarbeiterbefragung im Rahmen des nächsten Security-Awareness-Zyklus, da viele Nutzer die Funktion möglicherweise ohne Bewusstsein für die Deployment-Komponente verwenden.

Muss ein KMU ohne Compliance-Pflicht wirklich reagieren?

Ja — nicht wegen Regulatorik, sondern wegen operativer Haftung. Sobald über eine ChatGPT-generierte Seite Kundendaten erhoben werden, gelten DSGVO-Pflichten unabhängig von Unternehmensgröße. Ein fehlender Auftragsverarbeitungsvertrag mit OpenAI begründet bereits einen Verstoß nach Art. 28 DSGVO, der bei einer Beschwerde durch einen Kunden oder Mitarbeiter zu Bußgeldern führen kann. Der Aufwand für eine Acceptable-Use-Policy und einen AV-Vertrag ist überschaubar — das Risiko eines uninformierten Umgangs nicht.

Welche DORA-Anforderung wird durch den Einsatz von ChatGPT Sites in einem Finanzinstitut ausgelöst?

Primär DORA Art. 28, der ein vollständiges Register IKT-bezogener Drittanbieterverträge und eine vorgelagerte Risikobewertung vor Nutzungsaufnahme vorschreibt. Wird ChatGPT Sites für kundenseitige Anwendungen genutzt, ist zusätzlich Art. 30 relevant, der Mindestinhalte für Verträge mit IKT-Drittanbietern definiert — darunter Datenlokation, Auditrechte und Ausstiegsklauseln. Diese Anforderungen kollidieren strukturell mit dem Self-Service-Charakter der Plattform.

Quellen

www.ifun.de
ctsd Redaktion — Die Insights der ctsd GmbH bieten Einordnungen und Handlungsempfehlungen zu aktuellen Themen aus IT-Sicherheit, KI und Regulatorik. Sitz: Tettnang am Bodensee. Mehr über uns →

Benötigen Sie Unterstützung?

Wir helfen Ihnen bei der Einordnung und Umsetzung — von der Analyse bis zur Lösung.

Gespräch vereinbaren