Stilisierte Darstellung eines neuronalen Netzwerks vor dem Hintergrund von Geheimdienstgebäuden – symbolisch für KI-Beschaffung im Sicherheitsbereich
Technik Veröffentlicht: Aktualisiert:

Anthropic: KI-Lieferant der NSA trotz Risiko

Anthropic bleibt NSA-Lieferant für Claude-Modelle – obwohl das Unternehmen intern als Lieferkettenrisiko eingestuft wurde. Was das für KI-Einkäufer bedeutet.

Was konkret bekannt ist

Laut aktueller Berichtslage darf Anthropic seine Claude-KI-Modelle weiterhin an die NSA und andere US-Geheimdienste liefern – obwohl das Unternehmen intern als sogenanntes "Supply-Chain-Risiko" klassifiziert worden sein soll. Hintergrund ist offenbar ein Hardware-Engpass: Den betroffenen Behörden fehlen Nvidias neueste Grace-Blackwell-Chips für den Betrieb aktueller Frontier-Modelle. Anthropics Modell mit dem Codenamen "Mythos" soll daher bewusst so ausgelegt worden sein, dass es auf älterer GPU-Infrastruktur lauffähig bleibt. Eine vertraglich verankerte Klausel mit dem Wortlaut "any lawful use" – die in früheren Anthropic-Nutzungsbedingungen für Debatten sorgte und zeitweise als problematisch galt – ist offenbar weiterhin Bestandteil des Arrangements. Konkrete CVE-Nummern oder technische Schwachstellendetails sind aus der vorliegenden Quelle nicht ableitbar.

Warum dieser Fall weit über Geheimdienste hinausgeht

Auf den ersten Blick wirkt das nach einem Insider-Thema für Sicherheitsbehörden und Rüstungslobbyisten. Tatsächlich berührt der Fall drei Grundfragen, die jeder Einkäufer von KI-Diensten stellen muss – unabhängig von Branche oder Unternehmensgröße.

Beispiel 1 – Mittelständischer Softwareanbieter: Ein deutsches ERP-Unternehmen mit 80 Mitarbeitern bindet einen US-amerikanischen LLM-Anbieter per API in seinen Kundendienst-Assistenten ein. Die Nutzungsbedingungen des Anbieters erlauben unter "any lawful use" die Weitergabe von Eingabedaten an Dritte zu legalen Zwecken – einschließlich Behörden nach US-Recht (z.B. über den CLOUD Act). Dass der Anbieter zugleich von einem Kunden als Lieferkettenrisiko eingestuft wird, ohne den Vertrag zu verlieren, zeigt: Risikobewertungen entfalten ohne vertragliche Konsequenzen keine Schutzwirkung.

Beispiel 2 – Krankenhaus mit KI-gestützter Diagnoseunterstützung: Ein kommunales Krankenhaus nutzt einen Cloud-basierten KI-Dienst für die Befundauswertung. Die "any lawful use"-Klausel im Anbietervertrag ist dem Einkauf nicht aufgefallen, weil sie in einem 47-seitigen Terms-of-Service-Dokument vergraben war. Im Ernstfall – etwa einem behördlichen Datenzugriff im Drittland – greift weder DSGVO-Schutz noch das Krankenhausgeheimnis, wenn der Vertrag entsprechende Weitergabe nicht ausschließt.

Das strukturelle Problem in beiden Fällen: Risikoeinstufung und Vertragspraxis laufen entkoppelt. Die NSA-Entscheidung macht das sichtbar, weil sie aus einer behördlichen Innenperspektive öffentlich wurde – in der Privatwirtschaft bleibt dieselbe Lücke meist unsichtbar.

Rechtlicher Rahmen: Was wirklich greift

Für Unternehmen in der EU sind drei Ebenen relevant:

EU AI Act: Art. 13 verpflichtet Anbieter von Hochrisiko-KI-Systemen zur Transparenz über Fähigkeiten und Grenzen – einschließlich der Nutzungszwecke. Eine Klausel wie "any lawful use" steht in direktem Spannungsverhältnis zur Anforderung, dass der Einsatzzweck klar eingegrenzt und dokumentiert sein muss. Wer als Betreiber ein solches System einsetzt, ohne die Zweckbindung vertraglich zu sichern, trägt das Compliance-Risiko mit.

DORA Art. 28–30 (für Finanzinstitute): IKT-Drittanbieterverträge müssen vollständige Übersicht über Unterauftragnehmer und deren Sicherheitsniveau enthalten. Die Situation bei Anthropic – ein Anbieter gilt intern als Risiko, liefert aber weiter – ist exakt das Szenario, das DORA-Art.-28-Prüfungen aufdecken sollen. Ohne vertragliche Exit- und Eskalationsklauseln ist die Bewertung wertlos.

DSGVO Art. 28: Drittland-Transfers über Anbieter, die US-Behördenzugriff nicht vertraglich ausschließen, sind ohne geeignete Garantien (SCCs mit Transfer Impact Assessment) unzulässig. "Any lawful use" nach US-Recht kann SCCs de facto aushöhlen.

Handlungsempfehlungen

Für jeden Einkäufer und Betreiber von KI-Diensten:

  1. Sofort (binnen 72 Stunden): Prüfen Sie laufende KI-API-Verträge auf Klauseln wie "any lawful use", "government access" oder vergleichbare Formulierungen. Eine einfache Volltextsuche im PDF der AGB genügt als erster Schritt. Dokumentieren Sie den Befund schriftlich.
  2. Innerhalb von 14 Tagen: Erstellen Sie ein Inventar aller genutzten KI-Dienste mit Anbieterland, Datenklassifizierung der verarbeiteten Eingaben und Vertragsstatus. Nutzen Sie dabei Ihr bestehendes Asset-Management oder – falls vorhanden – ein ITSM-Tool (z.B. ServiceNow, Jira Service Management) für die Dokumentation.
  3. Im nächsten Change-Window: Formulieren Sie für neue Verträge eine Mindestvorgabe: Zweckbindung der Datenverarbeitung, expliziter Ausschluss von Drittland-Behördenzugriffen ohne Benachrichtigung, und ein Recht auf Kündigung bei Statusänderung des Anbieters (Eigentümerwechsel, behördliche Auflagen). Diese Klauseln sind verhandelbar – besonders bei europäischen Anbietern.

Zusätzlich für regulierte Branchen (Finanzsektor, Healthcare, KRITIS):

  1. DORA Art. 28 / MaRisk AT 9: Wenn ein KI-Anbieter in Ihrer internen Risikobewertung als wesentlicher IKT-Drittanbieter geführt wird, muss eine formale Neubewertung ausgelöst werden, sobald neue risikorelevante Informationen vorliegen – auch wenn sie aus Presseberichten stammen. Dokumentieren Sie die Neubewertung im Auslagerungsregister. Ein "Weiter wie bisher" ohne schriftliche Begründung ist unter DORA Art. 28 Abs. 4 nicht zulässig.
  2. Transfer Impact Assessment: Für alle KI-Anbieter mit US-Mutterhüter oder US-Infrastruktur muss ein aktuelles TIA vorliegen, das die "any lawful use"-Problematik und den CLOUD Act explizit adressiert. Beauftragen Sie dieses Assessment nicht beim Anbieter selbst – das ist ein klassischer Interessenkonflikt.

Was wir kritisch sehen

Die eigentliche Nachricht ist nicht, dass Anthropic trotz Risikoklassifizierung weiter liefert – das ist in Beschaffungsprozessen mit strategischen Abhängigkeiten keine Seltenheit. Kritisch ist, dass die Risikobewertung offenbar keine vertraglichen Konsequenzen hatte: kein Eskalationsmechanismus, kein Audit-Recht, kein formaler Remediation-Plan. Das zeigt ein grundsätzliches Defizit in der Reife von KI-Beschaffungsprozessen – auch in sicherheitssensiblen Behörden. Wer diesen Fall als reines Geheimdienstthema abtut, übersieht, dass dieselbe Lücke – Risikobewertung ohne vertragliche Konsequenz – in zehntausenden Unternehmensverträgen mit KI-Anbietern klafft. Die Hardware-Abhängigkeit (Grace-Blackwell-Engpass) als Begründung für das Festhalten am Anbieter ist zudem ein Muster, das sich bei KI-Konzentration auf wenige Anbieter künftig häufen wird – mit steigendem Erpressungspotenzial auf Abnehmerseite.

Häufige Fragen

Wie erkenne ich als Einkäufer, ob mein KI-Vertrag eine problematische 'any lawful use'-Klausel enthält?

Suchen Sie im Volltext der Nutzungsbedingungen nach Formulierungen wie 'lawful use', 'government request', 'legal process' oder 'third-party disclosure'. Entscheidend ist nicht nur das Vorhandensein solcher Klauseln, sondern ob eine Benachrichtigungspflicht gegenüber Ihnen als Kunden besteht und ob Drittland-Behördenzugriffe (z.B. nach US CLOUD Act) explizit ausgeschlossen oder eingeschränkt sind. Im Zweifel: juristischen Rat einholen, bevor Daten der Schutzklasse 'vertraulich' oder höher in den Dienst eingespeist werden.

Muss ein KMU ohne explizite Compliance-Pflicht diesen Aufwand wirklich betreiben?

Nicht für jeden KI-Dienst – aber sobald Kunden- oder Mitarbeiterdaten verarbeitet werden, greift DSGVO Art. 28 unabhängig von Unternehmensgröße. Der konkrete Aufwand ist überschaubar: Eine einmalige Vertragsanalyse pro Anbieter und eine dokumentierte Entscheidung über Risikoakzeptanz sind ausreichend. Das schützt nicht nur vor Bußgeldern, sondern auch vor Haftungsrisiken gegenüber Kunden, wenn deren Daten über den KI-Anbieter in Drittlandhände gelangen.

Welche DORA-Anforderung wird durch den Anthropic-NSA-Fall konkret ausgelöst, und was müssen Banken jetzt tun?

DORA Art. 28 Abs. 4 verlangt, dass Finanzinstitute ihr IKT-Drittanbieter-Register anlassbezogen aktualisieren – also auch dann, wenn neue Informationen über das Risikoprofil eines Anbieters aus öffentlichen Quellen bekannt werden. Für Institute, die Anthropic-Modelle (direkt oder über Zwischenanbieter wie AWS Bedrock oder Google Vertex AI) nutzen, bedeutet das: formale Neubewertung im Auslagerungsregister, Prüfung bestehender Exit-Klauseln und – falls noch nicht vorhanden – Einholung eines aktuellen Transfer Impact Assessments durch eine unabhängige Stelle.

Quellen

the-decoder.de
ctsd Redaktion — Die Insights der ctsd GmbH bieten Einordnungen und Handlungsempfehlungen zu aktuellen Themen aus IT-Sicherheit, KI und Regulatorik. Sitz: Tettnang am Bodensee. Mehr über uns →

Benötigen Sie Unterstützung?

Wir helfen Ihnen bei der Einordnung und Umsetzung — von der Analyse bis zur Lösung.

Gespräch vereinbaren