CVE-Referenz: CVE-2025-53773, CVE-2025-59145 (Quelle: BSI/NVD)
Was die Studie konkret zeigt
Forscher Abhishek Kumar und Carsten Maple haben in einer aktuellen Untersuchung nachgewiesen, dass GitHub Copilot zwei grundlegend verschiedene Sicherheitspfade betreibt — einen für den Chat-Modus und einen für die Codegenerierung im Editor. Im Chat verweigert das System Anfragen, die eindeutig schadhaft formuliert sind: Anfragen nach Malware-Routinen, Exploit-Code oder Datenexfiltrations-Logik werden blockiert und mit Ablehnungsmeldungen quittiert. Dieselbe Funktionalität lässt sich jedoch produzieren, wenn die Aufgabe in scheinbar harmlose Einzelschritte aufgeteilt wird — etwa als Folge von Code-Completions, Funktions-Stubs oder kontextbezogenen Kommentaren innerhalb eines Projekts.
Laut aktueller Berichtslage wurden keine spezifischen CVE-Nummern oder CVSS-Scores veröffentlicht, da es sich nicht um eine klassische Softwareschwachstelle, sondern um ein strukturelles Designproblem handelt: Die Sicherheitsprüfung des Chat-Interfaces und die Completion-Engine teilen keine gemeinsame Policy-Enforcement-Schicht. Der Angriffspfad funktioniert damit nicht durch technisches Ausnutzen einer Lücke im klassischen Sinne, sondern durch gezieltes Ausnutzen des Kontextwechsels zwischen zwei Interaktionsmodi desselben Systems. GitHub Copilot in seiner aktuellen Form — sowohl als VS-Code-Extension als auch in GitHub.com-integrierten Editoren — ist laut Berichtslage betroffen.
Warum das weit über Entwicklerteams hinausgeht
Die naheliegende Reaktion lautet: „Betrifft uns nicht, wir setzen Copilot nicht ein." Das greift zu kurz. Das strukturelle Problem — divergierende Sicherheitspolicies zwischen Interaktionsmodi desselben KI-Systems — ist kein GitHub-spezifisches Versagen, sondern ein Muster, das bei nahezu allen großen Coding-Assistenten und zunehmend auch bei Produktivitäts-KI-Systemen beobachtbar ist.
Beispiel Gesundheitswesen: Ein Krankenhaus, das KI-gestützte Dokumentationsassistenten einsetzt, verlässt sich darauf, dass diese Systeme keine klinisch gefährlichen Empfehlungen oder datenschutzrelevante Kombinationen automatisch generieren. Wenn Chat-Modus und Editor-Modus unterschiedliche Filtergrenzen haben, ist das Vertrauen in die Systemgrenze technisch nicht belastbar — unabhängig davon, was der Anbieter in seinen Nutzungsbedingungen verspricht.
Beispiel öffentliche Verwaltung: Behörden, die Copilot oder vergleichbare Assistenten zur Automatisierung von Schreib- und Code-Aufgaben nutzen, setzen voraus, dass die Systeme konsistent gegen Missbrauch abgesichert sind. Wird intern durch Social-Engineering-getriebene Prompting-Strategien schadhafter Code erzeugt und in Verwaltungssoftware eingecheckt, entsteht ein Insider-Risiko mit operativer Wirkung — ohne dass eine externe Angreiferin je beteiligt sein muss.
Das wirtschaftliche Risiko ist konkret: Generierter Code landet in Produktionssystemen. Wenn ein Entwickler — ob absichtlich oder durch manipulierte Prompts — schadhafte Logik erzeugt, die kein statisches Analyse-Tool als suspicious klassifiziert (weil es syntaktisch korrekt ist), schließt die normale CI/CD-Pipeline diese Lücke nicht automatisch.
Rechtlicher Rahmen: EU AI Act und DORA greifen hier direkt
GitHub Copilot gilt im Sinne des EU AI Act als KI-System mit allgemeinem Verwendungszweck (GPAI). Für Unternehmen, die solche Systeme einsetzen, sind vor allem zwei Artikel relevant: Art. 13 (Transparenz) verlangt, dass Nutzer KI-Outputs als solche erkennen und das System in seiner Funktionsweise verstehen können — ein System, das je nach Eingabemodus unterschiedliche Sicherheitsversprechen einlöst, ohne dies zu kommunizieren, erfüllt diese Anforderung strukturell nicht. Art. 15 (Genauigkeit und Robustheit) verlangt, dass KI-Systeme gegen vorhersehbare Fehleingaben abgesichert sind; Prompt-Fragmentierung ist eine vorhersehbare Technik, kein exotischer Angriff.
Für Finanzinstitute, die KI-Coding-Assistenten im Entwicklungsbetrieb einsetzen, greift zusätzlich DORA Art. 28–30: Der Einsatz von GitHub Copilot ist eine IKT-Drittanbieter-Abhängigkeit. Wenn das Tool in der Softwareentwicklung für regulierte Systeme (Kernbanking, Meldewesen, Zahlungsverkehr) verwendet wird, ist eine formale Risikobeurteilung des Drittanbieters einschließlich seiner Sicherheitskontrollen erforderlich. Die hier beschriebene Inkonsistenz ist ein materieller Befund für diese Risikobeurteilung.
Handlungsempfehlungen
Für jeden Betreiber und Einkaeufer:
- Sofort (binnen 72 Stunden): Inventarisieren Sie, in welchen Projekten und CI/CD-Pipelines GitHub Copilot oder vergleichbare KI-Coding-Assistenten aktiv sind. Nutzen Sie dafür Ihre vorhandene IDE-Deployment-Übersicht oder ein MDM-System wie Microsoft Intune oder Jamf, um Extension-Installationen zu sichten.
- Kurzfristig (binnen 14 Tagen): Implementieren Sie statische Code-Analyse (SAST) und Secret-Scanning als obligatorischen Gate im CI/CD-Prozess — unabhängig davon, ob Code manuell oder KI-gestützt geschrieben wurde. Tools wie Semgrep, Snyk Code oder GitHub Advanced Security prüfen auf verdächtige Muster unabhängig vom Entstehungskontext. Das kompensiert die fehlende konsistente Policy-Enforcement-Schicht im KI-System selbst.
- Mittelfristig (nächstes Change-Window): Etablieren Sie eine interne Policy für die Nutzung von KI-Coding-Assistenten, die explizit regelt, für welche Codebasen und Klassifizierungsstufen der Einsatz erlaubt ist. Verbinden Sie diese Policy mit einem Review-Prozess: KI-generierter Code sollte dokumentiert und in Security-Reviews explizit als solcher gekennzeichnet sein.
Zusätzlich für regulierte Branchen:
- Führen Sie die beschriebene Schwachstelle als konkreten Befund in Ihre IKT-Drittanbieter-Risikobeurteilung für GitHub/Microsoft ein (DORA Art. 28). Dokumentieren Sie, ob das Risiko durch kompensatorische Kontrollen (SAST, Code-Review-Pflicht) als residual akzeptiert, mitigiert oder der Einsatz des Tools für bestimmte Anwendungsbereiche eingeschränkt wird. Diese Dokumentation ist im Rahmen von DORA-Prüfungen durch die BaFin oder EZB vorzeigbar.
- Prüfen Sie unter MaRisk AT 7.2 und BAIT (Kapitel Informationsrisikomanagement), ob KI-Coding-Tools als kritische Komponenten im Softwareentwicklungsprozess für regulierte Anwendungen eingestuft werden müssen. Wenn ja, sind entsprechende Kontrollnachweise, Testprotokolle und Schulungsnachweise für Entwickler zu führen.
Was wir kritisch sehen
Die öffentliche Reaktion auf solche Studien folgt einem vorhersehbaren Muster: Anbieter kommunizieren, man arbeite an einer Verbesserung der Inhaltsfilter; Sicherheitsverantwortliche schließen daraus, das Problem sei in Bearbeitung. Beides unterschätzt die strukturelle Natur des Befunds. Solange Chat-Modus und Code-Completion-Engine getrennte Verarbeitungspfade mit unterschiedlichen Safety-Layern sind, ist kein Patch dieses Problem nachhaltig. Es handelt sich um ein Architekturproblem, nicht um einen Filterfehler.
Kritisch zu sehen ist auch, dass die Branche KI-Coding-Assistenten als Produktivitätswerkzeuge bewertet — Sicherheitsprüfungen für den generierten Output aber weiterhin als nachgelagertes Thema der AppSec-Teams behandelt. Die Studie zeigt, dass diese organisatorische Trennung nicht länger haltbar ist: Wer KI-Tools in der Entwicklung einsetzt, trägt ab dem ersten Commit Verantwortung für den Output — unabhängig davon, welches Sicherheitsversprechen der Anbieter im Chat-Interface kommuniziert.
