Stilisierte Darstellung von Datenstroemen zwischen Server-Racks und einem KI-Modell-Symbol, in dunklem Blau und Grau, symbolisiert Datenretention und Vertrauensfrage.
Technik Veröffentlicht: Aktualisiert:

KI-Nutzerdaten: Wenn Vertrauen zur Risikofrage wird

Anthropic speichert Nutzungsprotokolle 30 Tage – Palantir, Nvidia und Booz Allen Hamilton schränken Claude daraufhin für sensible Aufgaben ein.

Was konkret passiert ist

Anthropic hat angekündigt, Nutzungsprotokolle seines Flaggschiff-Modells Claude – intern unter dem Projektnamen „Fable" geführt – standardmäßig 30 Tage lang zu speichern. Die Reaktion aus dem Enterprise-Umfeld war unmittelbar: Palantir, Nvidia und Booz Allen Hamilton schränkten den Einsatz von Claude für sicherheitskritische und sensible Aufgaben ein. Laut aktueller Berichtslage betrifft die Maßnahme primär jene Anwendungsfälle, bei denen Prompts oder Antworten als klassifizierte, vertrauliche oder wettbewerbsrelevante Informationen einzustufen sind.

OpenAI kommuniziert gegenüber Enterprise-Kunden, Daten nicht zum Training zu verwenden – Anthropic macht formal ähnliche Zusagen für API-Kunden. Das Problem liegt tiefer: Selbst wenn kein Training stattfindet, erzeugt eine 30-tägige Speicherung von Nutzungsprotokollen ein eigenständiges Datenhaltungsrisiko, das von Rechtsdurchsetzung über Datenpannen bis zu Geheimdienstbegehrlichkeiten reicht.

Warum das weit über den KI-Sektor hinausgeht

Die Konstellation ist kein KI-spezifisches Problem – sie ist die digitale Neuauflage eines klassischen Outsourcing-Dilemmas: Ein Drittanbieter verarbeitet operativ relevante Daten, und die vertraglichen Zusicherungen decken nicht alle Risikopfade ab.

Beispiel Industrie: Ein Maschinenbauunternehmen, das Konstruktionsprobleme per natürlichsprachlichem Interface an ein Cloud-KI-Modell übergibt, riskiert, dass Teile von Bauteilspezifikationen oder Fertigungsparametern in Protokolldateien eines US-amerikanischen Anbieters landen – erreichbar über US-Behörden per CLOUD Act, unabhängig davon, ob der Server physisch in der EU steht.

Beispiel Kanzlei / Rechtswesen: Anwaltskanzleien, die KI-Assistenz zur Dokumentenanalyse einsetzen, übermitteln regelmäßig mandatsbezogene Informationen. Eine 30-tägige Retention beim Anbieter genügt, um in einen Interessenkonflikt mit anwaltlicher Verschwiegenheitspflicht zu geraten – selbst wenn kein Training erfolgt.

Beispiel öffentliche Verwaltung: Behörden, die KI-Dienste zur Bürger-Kommunikation oder Aktenbearbeitung testen, bewegen sich bereits bei standardmäßigen API-Calls in rechtlich unklarem Terrain, wenn Protokolldaten 30 Tage außerhalb der EU-Kontrolle liegen.

Für KMU ohne eigene Compliance-Abteilung ist das Risiko besonders schwer greifbar: Die Nutzungsbedingungen sind komplex, die technische Nachvollziehbarkeit der tatsächlichen Datenhaltung begrenzt, und die internen Prozesse fehlen oft, um diese Frage systematisch zu stellen.

Rechtlicher Rahmen: Was tatsächlich greift

Der EU AI Act adressiert das Thema über Artikel 13 (Transparenzpflichten) und Artikel 10 (Anforderungen an Trainingsdaten und Datenqualität), trifft aber die Kernfrage – unkontrollierte Protokollspeicherung durch Anbieter – nur indirekt. Relevanter ist hier die DSGVO, konkret Artikel 28 (Auftragsverarbeitung), Artikel 32 (technisch-organisatorische Maßnahmen) und Artikel 44 ff. (Drittlandübermittlung). Wer einen US-KI-Dienst per API nutzt und dabei personenbezogene oder besondere Kategorien von Daten eingibt, schuldet einen gültigen Transfermechanismus – und muss dokumentieren können, was mit diesen Daten geschieht.

Für Finanzinstitute kommen DORA Art. 28–30 hinzu: Die Anforderungen an IKT-Drittanbieterverträge sind explizit, einschließlich der Verpflichtung, Datenlokalisierung, Zugriffsrechte und Ausstiegsszenarien vertraglich abzusichern. MaRisk AT 9 und BAIT stellen analoge Anforderungen auf nationaler Ebene, inklusive der Pflicht zur Risikoanalyse vor Auslagerung und laufendem Monitoring.

Handlungsempfehlungen

Für jeden Einkaeufer und Betreiber

  1. Sofort (binnen 72 Stunden): Inventarisieren Sie, welche internen Prozesse aktuell KI-APIs (OpenAI, Anthropic, Google Gemini etc.) nutzen – direkt oder über eingebettete Tools wie Copilot-Integrationen in SaaS-Produkten. Erfassen Sie dabei explizit, welche Datenkategorien in Prompts eingehen: personenbezogene Daten, Geschäftsgeheimnisse, technische Spezifikationen.
  2. Binnen 14 Tagen: Prüfen Sie die aktuellen Nutzungsbedingungen und Data-Processing-Agreements der genutzten Anbieter auf Retentionsdauern, Trainingsausschlüsse und Drittlandtransfer. Verlassen Sie sich nicht auf Marketing-Aussagen – suchen Sie nach den konkreten vertraglichen Klauseln. Tools wie DPA-Management-Plattformen (z.B. DataGrail, OneTrust) können dabei strukturieren.
  3. Im nächsten Planungszyklus: Definieren Sie eine interne Klassifizierungspolitik für KI-Eingaben: Welche Datenklassen dürfen in externe KI-APIs eingehen, welche nur in self-hosted Modelle (z.B. Llama-Derivate auf eigener Infrastruktur via Ollama oder vLLM)? Dokumentieren Sie diese Entscheidung – nicht als Formalität, sondern als operative Leitlinie für Entwickler und Facheinkäufer.

Zusätzlich für regulierte Branchen

  1. DORA / MaRisk-konforme Drittanbieter-Prüfung: Ergänzen Sie Ihr IKT-Drittanbieterregister um alle KI-API-Verbindungen. Prüfen Sie gemäß DORA Art. 28 Abs. 2, ob Ausstiegsstrategien, Prüfrechte und Subunternehmer-Kaskaden dokumentiert sind. Für als wesentlich eingestufte KI-Dienste ist eine vollständige Risikoanalyse vor Verlängerung bestehender Verträge zwingend – nicht optional.
  2. BAIT-Konformität Auslagerungsmanagement: KI-API-Nutzung, die über sporadische Tests hinausgeht und operative Prozesse unterstützt, ist typischerweise als Auslagerung im Sinne der BAIT einzustufen. Das löst Anforderungen an Vorab-Analyse, laufendes Monitoring und Exit-Planung aus. Prüfen Sie, ob Ihre interne Abgrenzung zwischen „Fremdbezug von Software" und „Auslagerung" noch der operativen Realität entspricht.

Was wir kritisch sehen

Die Versicherungen der großen KI-Anbieter, Kundendaten nicht zum Training zu verwenden, sind vertraglich formuliert, aber technisch kaum verifizierbar. Kein externer Auditor hat bisher systematisch bestätigt, dass diese Zusagen auch für alle nachgelagerten Systeme – Caching, Logging, Sicherheitsmonitoring – gelten. Die 30-tägige Protokollspeicherung, die die Reaktion von Palantir und Co. ausgelöst hat, ist dabei noch das harmlosere Problem: Protokolldaten enthalten selten den vollen Kontext sensibler Eingaben. Gefährlicher ist die strukturelle Abhängigkeit von Anbietern, deren Geschäftsmodell auf Datenakkumulation aufgebaut ist und deren Regulierungsrahmen sich von dem der europäischen Nutzer fundamental unterscheidet. Die Branche diskutiert Vertrauen – sie sollte über Verifikation reden.

Häufige Fragen

Wie erkenne ich als Einkäufer, ob mein KI-Anbieter meine Daten wirklich nicht für Training nutzt?

Die einzige belastbare Grundlage ist der Auftragsverarbeitungsvertrag (AVV) gemäß DSGVO Art. 28, kombiniert mit einem expliziten vertraglichen Trainingsausschluss. Marketing-Aussagen auf der Website sind nicht ausreichend. Fordern Sie außerdem Transparenz darüber, welche Subdienstleister (Logging, Caching, Sicherheitsdienste) Zugriff auf Prompt-Daten haben – diese sind häufig nicht im Hauptvertrag aufgeführt. Ein unabhängiges Audit-Recht oder SOC-2-Typ-II-Zertifizierung des Anbieters sind zusätzliche Indikatoren, ersetzen aber keine vertragliche Absicherung.

Muss ich als KMU ohne Compliance-Pflicht wirklich eigene Richtlinien für KI-API-Nutzung aufstellen?

Formal nicht – aber das wirtschaftliche Risiko besteht unabhängig von regulatorischen Pflichten. Wenn Mitarbeitende Geschäftsgeheimnisse, Kundendaten oder vertragliche Details in externe KI-Tools eingeben, liegt ein reales Haftungsrisiko vor – gegenüber Kunden, Geschäftspartnern oder im Schadenfall. Eine einseitige interne Richtlinie ('Welche Daten dürfen in externe KI?'), die in einem halben Arbeitstag erstellt werden kann, schützt vor unkontrollierter Datenweitergabe und schärft das Bewusstsein im Team ohne nennenswerten Aufwand.

Welche DORA-Anforderungen werden durch den Einsatz von KI-APIs in Finanzinstituten ausgelöst?

DORA Art. 28 verlangt für IKT-Drittanbieter, die kritische oder wichtige Funktionen unterstützen, unter anderem vertragliche Regelungen zu Datenlokalisierung, Prüfrechten, Subunternehmer-Transparenz und Exit-Strategien. Wird ein KI-API-Dienst für operative Prozesse – etwa Kreditbearbeitung, Kundenkommunikation oder Risikobewertung – eingesetzt, ist eine Einstufung als wesentliche Auslagerung zu prüfen. Art. 30 konkretisiert Mindestinhalte entsprechender Verträge. Parallel gilt MaRisk AT 9, der die Vorab-Risikoanalyse und das laufende Monitoring als Pflicht formuliert – unabhängig davon, ob der Anbieter als 'KI-Tool' oder 'Softwarebezug' etikettiert wird.

Quellen

the-decoder.de
ctsd Redaktion — Die Insights der ctsd GmbH bieten Einordnungen und Handlungsempfehlungen zu aktuellen Themen aus IT-Sicherheit, KI und Regulatorik. Sitz: Tettnang am Bodensee. Mehr über uns →

Benötigen Sie Unterstützung?

Wir helfen Ihnen bei der Einordnung und Umsetzung — von der Analyse bis zur Lösung.

Gespräch vereinbaren