Was konkret passiert ist
Anthropic hat angekündigt, Nutzungsprotokolle seines Flaggschiff-Modells Claude – intern unter dem Projektnamen „Fable" geführt – standardmäßig 30 Tage lang zu speichern. Die Reaktion aus dem Enterprise-Umfeld war unmittelbar: Palantir, Nvidia und Booz Allen Hamilton schränkten den Einsatz von Claude für sicherheitskritische und sensible Aufgaben ein. Laut aktueller Berichtslage betrifft die Maßnahme primär jene Anwendungsfälle, bei denen Prompts oder Antworten als klassifizierte, vertrauliche oder wettbewerbsrelevante Informationen einzustufen sind.
OpenAI kommuniziert gegenüber Enterprise-Kunden, Daten nicht zum Training zu verwenden – Anthropic macht formal ähnliche Zusagen für API-Kunden. Das Problem liegt tiefer: Selbst wenn kein Training stattfindet, erzeugt eine 30-tägige Speicherung von Nutzungsprotokollen ein eigenständiges Datenhaltungsrisiko, das von Rechtsdurchsetzung über Datenpannen bis zu Geheimdienstbegehrlichkeiten reicht.
Warum das weit über den KI-Sektor hinausgeht
Die Konstellation ist kein KI-spezifisches Problem – sie ist die digitale Neuauflage eines klassischen Outsourcing-Dilemmas: Ein Drittanbieter verarbeitet operativ relevante Daten, und die vertraglichen Zusicherungen decken nicht alle Risikopfade ab.
Beispiel Industrie: Ein Maschinenbauunternehmen, das Konstruktionsprobleme per natürlichsprachlichem Interface an ein Cloud-KI-Modell übergibt, riskiert, dass Teile von Bauteilspezifikationen oder Fertigungsparametern in Protokolldateien eines US-amerikanischen Anbieters landen – erreichbar über US-Behörden per CLOUD Act, unabhängig davon, ob der Server physisch in der EU steht.
Beispiel Kanzlei / Rechtswesen: Anwaltskanzleien, die KI-Assistenz zur Dokumentenanalyse einsetzen, übermitteln regelmäßig mandatsbezogene Informationen. Eine 30-tägige Retention beim Anbieter genügt, um in einen Interessenkonflikt mit anwaltlicher Verschwiegenheitspflicht zu geraten – selbst wenn kein Training erfolgt.
Beispiel öffentliche Verwaltung: Behörden, die KI-Dienste zur Bürger-Kommunikation oder Aktenbearbeitung testen, bewegen sich bereits bei standardmäßigen API-Calls in rechtlich unklarem Terrain, wenn Protokolldaten 30 Tage außerhalb der EU-Kontrolle liegen.
Für KMU ohne eigene Compliance-Abteilung ist das Risiko besonders schwer greifbar: Die Nutzungsbedingungen sind komplex, die technische Nachvollziehbarkeit der tatsächlichen Datenhaltung begrenzt, und die internen Prozesse fehlen oft, um diese Frage systematisch zu stellen.
Rechtlicher Rahmen: Was tatsächlich greift
Der EU AI Act adressiert das Thema über Artikel 13 (Transparenzpflichten) und Artikel 10 (Anforderungen an Trainingsdaten und Datenqualität), trifft aber die Kernfrage – unkontrollierte Protokollspeicherung durch Anbieter – nur indirekt. Relevanter ist hier die DSGVO, konkret Artikel 28 (Auftragsverarbeitung), Artikel 32 (technisch-organisatorische Maßnahmen) und Artikel 44 ff. (Drittlandübermittlung). Wer einen US-KI-Dienst per API nutzt und dabei personenbezogene oder besondere Kategorien von Daten eingibt, schuldet einen gültigen Transfermechanismus – und muss dokumentieren können, was mit diesen Daten geschieht.
Für Finanzinstitute kommen DORA Art. 28–30 hinzu: Die Anforderungen an IKT-Drittanbieterverträge sind explizit, einschließlich der Verpflichtung, Datenlokalisierung, Zugriffsrechte und Ausstiegsszenarien vertraglich abzusichern. MaRisk AT 9 und BAIT stellen analoge Anforderungen auf nationaler Ebene, inklusive der Pflicht zur Risikoanalyse vor Auslagerung und laufendem Monitoring.
Handlungsempfehlungen
Für jeden Einkaeufer und Betreiber
- Sofort (binnen 72 Stunden): Inventarisieren Sie, welche internen Prozesse aktuell KI-APIs (OpenAI, Anthropic, Google Gemini etc.) nutzen – direkt oder über eingebettete Tools wie Copilot-Integrationen in SaaS-Produkten. Erfassen Sie dabei explizit, welche Datenkategorien in Prompts eingehen: personenbezogene Daten, Geschäftsgeheimnisse, technische Spezifikationen.
- Binnen 14 Tagen: Prüfen Sie die aktuellen Nutzungsbedingungen und Data-Processing-Agreements der genutzten Anbieter auf Retentionsdauern, Trainingsausschlüsse und Drittlandtransfer. Verlassen Sie sich nicht auf Marketing-Aussagen – suchen Sie nach den konkreten vertraglichen Klauseln. Tools wie DPA-Management-Plattformen (z.B. DataGrail, OneTrust) können dabei strukturieren.
- Im nächsten Planungszyklus: Definieren Sie eine interne Klassifizierungspolitik für KI-Eingaben: Welche Datenklassen dürfen in externe KI-APIs eingehen, welche nur in self-hosted Modelle (z.B. Llama-Derivate auf eigener Infrastruktur via Ollama oder vLLM)? Dokumentieren Sie diese Entscheidung – nicht als Formalität, sondern als operative Leitlinie für Entwickler und Facheinkäufer.
Zusätzlich für regulierte Branchen
- DORA / MaRisk-konforme Drittanbieter-Prüfung: Ergänzen Sie Ihr IKT-Drittanbieterregister um alle KI-API-Verbindungen. Prüfen Sie gemäß DORA Art. 28 Abs. 2, ob Ausstiegsstrategien, Prüfrechte und Subunternehmer-Kaskaden dokumentiert sind. Für als wesentlich eingestufte KI-Dienste ist eine vollständige Risikoanalyse vor Verlängerung bestehender Verträge zwingend – nicht optional.
- BAIT-Konformität Auslagerungsmanagement: KI-API-Nutzung, die über sporadische Tests hinausgeht und operative Prozesse unterstützt, ist typischerweise als Auslagerung im Sinne der BAIT einzustufen. Das löst Anforderungen an Vorab-Analyse, laufendes Monitoring und Exit-Planung aus. Prüfen Sie, ob Ihre interne Abgrenzung zwischen „Fremdbezug von Software" und „Auslagerung" noch der operativen Realität entspricht.
Was wir kritisch sehen
Die Versicherungen der großen KI-Anbieter, Kundendaten nicht zum Training zu verwenden, sind vertraglich formuliert, aber technisch kaum verifizierbar. Kein externer Auditor hat bisher systematisch bestätigt, dass diese Zusagen auch für alle nachgelagerten Systeme – Caching, Logging, Sicherheitsmonitoring – gelten. Die 30-tägige Protokollspeicherung, die die Reaktion von Palantir und Co. ausgelöst hat, ist dabei noch das harmlosere Problem: Protokolldaten enthalten selten den vollen Kontext sensibler Eingaben. Gefährlicher ist die strukturelle Abhängigkeit von Anbietern, deren Geschäftsmodell auf Datenakkumulation aufgebaut ist und deren Regulierungsrahmen sich von dem der europäischen Nutzer fundamental unterscheidet. Die Branche diskutiert Vertrauen – sie sollte über Verifikation reden.
