Smartphone-Display mit Sprachassistenten-Interface und schematischer Darstellung externer KI-Modell-Verbindungen in Blau und Grau
Technik Veröffentlicht: Aktualisiert:

Siri mit Claude oder ChatGPT: Was das bedeutet

Apple bereitet Siri in iOS 18.x-Vorabversionen auf Drittanbieter-KI wie Claude und ChatGPT vor. Das verändert die Datenschutz- und Risikobewertung für Unternehmensgeräte.

Was im Code gefunden wurde

In Vorabversionen von iOS 18.x (intern als iOS 27 geführt) und macOS Golden Gate haben Entwickler Hinweise entdeckt, die darauf schließen lassen, dass Apple Siri für die Anbindung externer KI-Modelle vorbereitet. Laut aktueller Berichtslage deuten Code-Strings darauf hin, dass Modelle von Anthropic (Claude) und OpenAI (ChatGPT) als austauschbare Backend-Dienste integriert werden könnten — ähnlich dem bereits eingeführten ChatGPT-Opt-in in iOS 18.2, der jedoch auf eine einzelne Integration beschränkt war. Die jetzt entdeckten Strukturen legen nahe, dass Apple eine offenere Architektur mit mehreren wählbaren Anbietern plant. Konkrete CVE-Nummern oder CVSS-Scores liegen naturgemäß nicht vor, da es sich nicht um eine Sicherheitslücke, sondern um eine geplante Architekturentscheidung handelt.

Warum das weit über Apple-Nutzer hinausgeht

Die Verschiebung betrifft nicht nur Privatkunden. Überall dort, wo Apple-Geräte im Unternehmenseinsatz sind — und das sind nach aktuellen IDC-Zahlen in vielen westeuropäischen Unternehmen 30 bis 50 Prozent aller Endgeräte — entsteht eine neue Angriffsfläche auf Datenbasis.

Beispiel Gesundheitswesen: Ein niedergelassener Facharzt oder ein Krankenhaus, das iPhones und iPads für die Patientenkommunikation oder Dokumentation nutzt, muss damit rechnen, dass Sprachbefehle an Siri — etwa diktierte Entlassbriefe oder Medikamentenanfragen — künftig nicht mehr lokal oder ausschließlich über Apples eigene Server verarbeitet werden, sondern an externe Modelle weitergereicht werden können. Eine Einwilligung des Patienten liegt für diesen Verarbeitungsweg nicht vor.

Beispiel mittelständisches Industrieunternehmen: Ein Maschinenbauer, dessen Außendienstmitarbeiter iPhones für Kunden-E-Mails und interne Kommunikation nutzen, hat möglicherweise keine explizite MDM-Richtlinie für KI-Dienste. Sobald ein Mitarbeiter Siri mit einem Drittmodell als Standard konfiguriert, verlässt potenziell vertrauliches Geschäftskorrespondenz das kontrollierte Unternehmensumfeld — ohne dass IT oder Geschäftsführung davon wissen.

Das operative Risiko ist konkret: Wer heute keine Inventur macht, welche Siri-Funktionen auf verwalteten Geräten aktiv sind, verliert mit dem nächsten größeren iOS-Update die Kontrolle über den Datenfluss zu externen KI-Diensten, bevor eine Richtlinie existiert.

Rechtlicher Rahmen: Was wirklich greift

Aus DSGVO-Perspektive entsteht mit der Anbindung externer KI-Modelle ein neues Auftragsverarbeitungsverhältnis. Unternehmen, die Apple-Geräte betreiben, sind verantwortlich dafür, dass jede Weiterleitung personenbezogener Daten an OpenAI oder Anthropic über einen Art.-28-DSGVO-konformen AV-Vertrag abgedeckt ist. Ob Apple diesen Vertrag stellvertretend abschließt oder ob der Arbeitgeber selbst handeln muss, ist noch nicht abschließend geklärt — und genau das ist das Problem in der Übergangsphase.

Für den EU AI Act ist relevant, dass externe Sprachmodelle wie GPT-4o oder Claude 3 als General-Purpose AI Models unter die Transparenz- und Dokumentationspflichten des Acts fallen (Art. 13, 53 EU AI Act). Unternehmen, die diese Modelle in eigene Workflows einbetten — auch mittelbar über Siri —, müssen prüfen, ob sie als Deployer im Sinne des Acts gelten und entsprechende Risikobewertungen dokumentieren müssen.

Für Finanzinstitute kommt DORA Art. 28 hinzu: Die Nutzung eines IKT-Drittdienstleisters — und externe KI-Modelle fallen darunter — erfordert eine vertragliche Absicherung, ein Register der IKT-Drittparteien und eine Risikobewertung. Eine inoffizielle Siri-Integration über ein nicht verwaltetes Endgerät eines Bankmitarbeiters wäre ein unkontrollierter IKT-Drittbezug, der weder im Register steht noch bewertet wurde.

Handlungsempfehlungen

Für jeden Betreiber verwalteter Apple-Geräte

  1. Sofortbestandsaufnahme (binnen 72 Stunden): Prüfen Sie über Ihr MDM (Jamf Pro, Kandji, Microsoft Intune), welche iOS- und macOS-Versionen im Unternehmen ausgerollt sind und ob Siri auf verwalteten Geräten aktiv ist. Jamf ermöglicht dies über Smart Groups auf Basis von OS-Version und installierten Konfigurationsprofilen.
  2. Restriktionsprofil vorbereiten (binnen 14 Tagen): Erstellen Sie ein Konfigurationsprofil, das die Siri-Anbindung an Drittmodelle unterbindet. Apple stellt über MDM-Payloads bereits heute Restriktionen für Siri-Websuche und -Vorschläge bereit; das Profil sollte vorbereitet und im Change Advisory Board freigegeben sein, bevor iOS 18.x im Stable-Kanal erscheint.
  3. Richtlinie aktualisieren (nächstes Change-Window): Ergänzen Sie Ihre Mobile Device Policy und Acceptable-Use-Policy um einen expliziten Abschnitt zu KI-Diensten auf verwalteten Endgeräten. Formulieren Sie, welche Modelle zulässig sind, welche nicht, und wie Ausnahmen beantragt werden. Das schließt eine Schulungseinheit für Mitarbeiter ein.

Zusätzlich für regulierte Branchen

  1. Drittanbieter-Register aktualisieren (DORA Art. 28, MaRisk AT 9): Prüfen Sie, ob OpenAI und Anthropic bereits als IKT-Drittdienstleister im Register geführt werden. Falls Siri künftig Anfragen an diese Dienste weiterleitet, sind Vertragsanalyse, Risikoklassifizierung und — bei kritischer Einstufung — Ausstiegsszenarien zu dokumentieren. Die BaFin erwartet, dass auch indirekte Drittpartei-Abhängigkeiten erfasst sind.
  2. Datenschutz-Folgenabschätzung (DSGVO Art. 35): Führen Sie eine DSFA durch, sobald der genaue Datenfluss zwischen Siri, Apple-Servern und den Drittmodellen dokumentiert ist. Für Healthcare-Betreiber mit Patientendaten und Finanzinstitute mit Kundendaten ist dies keine optionale Maßnahme, sondern eine Pflicht, sobald eine systematische Verarbeitung sensibler Kategorien nicht ausgeschlossen werden kann.

Was wir kritisch sehen

Apple positioniert sich seit Jahren mit dem Datenschutz-Versprechen „What happens on your iPhone, stays on your iPhone" — Private Cloud Compute und On-Device-Verarbeitung sind zentrale Marketingargumente. Die Öffnung für externe Drittmodelle steht dazu in einem Spannungsverhältnis, das Apple bislang nicht öffentlich aufgelöst hat. Die entscheidende Frage ist nicht, ob Nutzer zustimmen müssen, sondern wie granular und revozierbar diese Zustimmung ist — und ob Unternehmen als Gerätebetreiber überhaupt eine Kontrollmöglichkeit erhalten, die über das MDM-Restriktionsprofil hinausgeht.

Kritisch ist außerdem, dass die Berichterstattung den Fokus auf die Modellauswahl legt, nicht auf die Datenflussarchitektur: Welche Anfragen gehen an welches Modell, unter welchen Bedingungen, mit welchen Metadaten? Solange Apple diese Architektur nicht in einem öffentlichen Privacy- oder Security-Dokument beschreibt, bleibt jede Risikobewertung durch Unternehmen zwangsläufig unvollständig.

Häufige Fragen

Wie kann ich als IT-Verantwortlicher verhindern, dass Siri auf verwalteten Geräten externe KI-Modelle nutzt?

Über MDM-Lösungen wie Jamf Pro, Kandji oder Microsoft Intune lassen sich Konfigurationsprofile mit Siri-Restriktionen ausrollen. Apple stellt entsprechende MDM-Payloads bereit, die Siri-Webzugriffe und externe Dienste einschränken. Das Profil sollte vor dem Stable-Release der neuen iOS-Version getestet und über den Change-Advisory-Board-Prozess freigegeben sein.

Muss ich als KMU ohne explizite Compliance-Pflicht jetzt handeln?

Ja — nicht aus regulatorischem Zwang, sondern aus operativem Risikobewusstsein. Sobald Mitarbeitende über Siri vertrauliche Geschäftsinformationen diktieren und diese an externe KI-Modelle übertragen werden, verliert das Unternehmen die Kontrolle über den Verarbeitungsweg. Das gilt unabhängig von der Branche. Ein einfaches Restriktionsprofil im MDM kostet wenig Aufwand und schließt diese Lücke, bevor sie zum Problem wird.

Welche DORA-Anforderung wird ausgelöst, wenn ein Finanzinstitut Siri mit externen KI-Modellen betreibt?

DORA Art. 28 verlangt, dass alle IKT-Drittdienstleister vertraglich eingebunden, im Drittparteien-Register erfasst und risikobewerttet sind. Eine Siri-Integration, die Anfragen an OpenAI oder Anthropic weiterleitet, konstituiert eine IKT-Drittabhängigkeit im Sinne des Acts. Fehlt der Eintrag im Register oder der AV-Vertrag nach DSGVO Art. 28, liegt ein regulatorischer Kontrollbruch vor, der bei einer BaFin- oder EBA-Prüfung als Mangel gewertet werden kann.

Quellen

www.golem.de
ctsd Redaktion — Die Insights der ctsd GmbH bieten Einordnungen und Handlungsempfehlungen zu aktuellen Themen aus IT-Sicherheit, KI und Regulatorik. Sitz: Tettnang am Bodensee. Mehr über uns →

Benötigen Sie Unterstützung?

Wir helfen Ihnen bei der Einordnung und Umsetzung — von der Analyse bis zur Lösung.

Gespräch vereinbaren