Abstraktes Split-Screen-Bild: linke Hälfte zeigt blockierte KI-Chat-Anfrage in Rot, rechte Hälfte schrittweise Codegenerierung in Grün
KI Veröffentlicht: Aktualisiert:

CVE-2025-53773 und CVE-2025-59145 in GitHub Copilot: Sicherheitsfilter per Code umgehen

Studie zeigt: GitHub Copilot blockiert gefährliche Anfragen im Chat, liefert denselben Output aber schrittweise über den Code-Editor.

CVE-Referenz: CVE-2025-53773, CVE-2025-59145 (Quelle: BSI/NVD)

Was die Studie konkret zeigt

Forscher Abhishek Kumar und Carsten Maple haben in einer aktuellen Untersuchung nachgewiesen, dass GitHub Copilot zwei grundlegend verschiedene Sicherheitspfade betreibt — einen für den Chat-Modus und einen für die Codegenerierung im Editor. Im Chat verweigert das System Anfragen, die eindeutig schadhaft formuliert sind: Anfragen nach Malware-Routinen, Exploit-Code oder Datenexfiltrations-Logik werden blockiert und mit Ablehnungsmeldungen quittiert. Dieselbe Funktionalität lässt sich jedoch produzieren, wenn die Aufgabe in scheinbar harmlose Einzelschritte aufgeteilt wird — etwa als Folge von Code-Completions, Funktions-Stubs oder kontextbezogenen Kommentaren innerhalb eines Projekts.

Laut aktueller Berichtslage wurden keine spezifischen CVE-Nummern oder CVSS-Scores veröffentlicht, da es sich nicht um eine klassische Softwareschwachstelle, sondern um ein strukturelles Designproblem handelt: Die Sicherheitsprüfung des Chat-Interfaces und die Completion-Engine teilen keine gemeinsame Policy-Enforcement-Schicht. Der Angriffspfad funktioniert damit nicht durch technisches Ausnutzen einer Lücke im klassischen Sinne, sondern durch gezieltes Ausnutzen des Kontextwechsels zwischen zwei Interaktionsmodi desselben Systems. GitHub Copilot in seiner aktuellen Form — sowohl als VS-Code-Extension als auch in GitHub.com-integrierten Editoren — ist laut Berichtslage betroffen.

Warum das weit über Entwicklerteams hinausgeht

Die naheliegende Reaktion lautet: „Betrifft uns nicht, wir setzen Copilot nicht ein." Das greift zu kurz. Das strukturelle Problem — divergierende Sicherheitspolicies zwischen Interaktionsmodi desselben KI-Systems — ist kein GitHub-spezifisches Versagen, sondern ein Muster, das bei nahezu allen großen Coding-Assistenten und zunehmend auch bei Produktivitäts-KI-Systemen beobachtbar ist.

Beispiel Gesundheitswesen: Ein Krankenhaus, das KI-gestützte Dokumentationsassistenten einsetzt, verlässt sich darauf, dass diese Systeme keine klinisch gefährlichen Empfehlungen oder datenschutzrelevante Kombinationen automatisch generieren. Wenn Chat-Modus und Editor-Modus unterschiedliche Filtergrenzen haben, ist das Vertrauen in die Systemgrenze technisch nicht belastbar — unabhängig davon, was der Anbieter in seinen Nutzungsbedingungen verspricht.

Beispiel öffentliche Verwaltung: Behörden, die Copilot oder vergleichbare Assistenten zur Automatisierung von Schreib- und Code-Aufgaben nutzen, setzen voraus, dass die Systeme konsistent gegen Missbrauch abgesichert sind. Wird intern durch Social-Engineering-getriebene Prompting-Strategien schadhafter Code erzeugt und in Verwaltungssoftware eingecheckt, entsteht ein Insider-Risiko mit operativer Wirkung — ohne dass eine externe Angreiferin je beteiligt sein muss.

Das wirtschaftliche Risiko ist konkret: Generierter Code landet in Produktionssystemen. Wenn ein Entwickler — ob absichtlich oder durch manipulierte Prompts — schadhafte Logik erzeugt, die kein statisches Analyse-Tool als suspicious klassifiziert (weil es syntaktisch korrekt ist), schließt die normale CI/CD-Pipeline diese Lücke nicht automatisch.

Rechtlicher Rahmen: EU AI Act und DORA greifen hier direkt

GitHub Copilot gilt im Sinne des EU AI Act als KI-System mit allgemeinem Verwendungszweck (GPAI). Für Unternehmen, die solche Systeme einsetzen, sind vor allem zwei Artikel relevant: Art. 13 (Transparenz) verlangt, dass Nutzer KI-Outputs als solche erkennen und das System in seiner Funktionsweise verstehen können — ein System, das je nach Eingabemodus unterschiedliche Sicherheitsversprechen einlöst, ohne dies zu kommunizieren, erfüllt diese Anforderung strukturell nicht. Art. 15 (Genauigkeit und Robustheit) verlangt, dass KI-Systeme gegen vorhersehbare Fehleingaben abgesichert sind; Prompt-Fragmentierung ist eine vorhersehbare Technik, kein exotischer Angriff.

Für Finanzinstitute, die KI-Coding-Assistenten im Entwicklungsbetrieb einsetzen, greift zusätzlich DORA Art. 28–30: Der Einsatz von GitHub Copilot ist eine IKT-Drittanbieter-Abhängigkeit. Wenn das Tool in der Softwareentwicklung für regulierte Systeme (Kernbanking, Meldewesen, Zahlungsverkehr) verwendet wird, ist eine formale Risikobeurteilung des Drittanbieters einschließlich seiner Sicherheitskontrollen erforderlich. Die hier beschriebene Inkonsistenz ist ein materieller Befund für diese Risikobeurteilung.

Handlungsempfehlungen

Für jeden Betreiber und Einkaeufer:

  1. Sofort (binnen 72 Stunden): Inventarisieren Sie, in welchen Projekten und CI/CD-Pipelines GitHub Copilot oder vergleichbare KI-Coding-Assistenten aktiv sind. Nutzen Sie dafür Ihre vorhandene IDE-Deployment-Übersicht oder ein MDM-System wie Microsoft Intune oder Jamf, um Extension-Installationen zu sichten.
  2. Kurzfristig (binnen 14 Tagen): Implementieren Sie statische Code-Analyse (SAST) und Secret-Scanning als obligatorischen Gate im CI/CD-Prozess — unabhängig davon, ob Code manuell oder KI-gestützt geschrieben wurde. Tools wie Semgrep, Snyk Code oder GitHub Advanced Security prüfen auf verdächtige Muster unabhängig vom Entstehungskontext. Das kompensiert die fehlende konsistente Policy-Enforcement-Schicht im KI-System selbst.
  3. Mittelfristig (nächstes Change-Window): Etablieren Sie eine interne Policy für die Nutzung von KI-Coding-Assistenten, die explizit regelt, für welche Codebasen und Klassifizierungsstufen der Einsatz erlaubt ist. Verbinden Sie diese Policy mit einem Review-Prozess: KI-generierter Code sollte dokumentiert und in Security-Reviews explizit als solcher gekennzeichnet sein.

Zusätzlich für regulierte Branchen:

  1. Führen Sie die beschriebene Schwachstelle als konkreten Befund in Ihre IKT-Drittanbieter-Risikobeurteilung für GitHub/Microsoft ein (DORA Art. 28). Dokumentieren Sie, ob das Risiko durch kompensatorische Kontrollen (SAST, Code-Review-Pflicht) als residual akzeptiert, mitigiert oder der Einsatz des Tools für bestimmte Anwendungsbereiche eingeschränkt wird. Diese Dokumentation ist im Rahmen von DORA-Prüfungen durch die BaFin oder EZB vorzeigbar.
  2. Prüfen Sie unter MaRisk AT 7.2 und BAIT (Kapitel Informationsrisikomanagement), ob KI-Coding-Tools als kritische Komponenten im Softwareentwicklungsprozess für regulierte Anwendungen eingestuft werden müssen. Wenn ja, sind entsprechende Kontrollnachweise, Testprotokolle und Schulungsnachweise für Entwickler zu führen.

Was wir kritisch sehen

Die öffentliche Reaktion auf solche Studien folgt einem vorhersehbaren Muster: Anbieter kommunizieren, man arbeite an einer Verbesserung der Inhaltsfilter; Sicherheitsverantwortliche schließen daraus, das Problem sei in Bearbeitung. Beides unterschätzt die strukturelle Natur des Befunds. Solange Chat-Modus und Code-Completion-Engine getrennte Verarbeitungspfade mit unterschiedlichen Safety-Layern sind, ist kein Patch dieses Problem nachhaltig. Es handelt sich um ein Architekturproblem, nicht um einen Filterfehler.

Kritisch zu sehen ist auch, dass die Branche KI-Coding-Assistenten als Produktivitätswerkzeuge bewertet — Sicherheitsprüfungen für den generierten Output aber weiterhin als nachgelagertes Thema der AppSec-Teams behandelt. Die Studie zeigt, dass diese organisatorische Trennung nicht länger haltbar ist: Wer KI-Tools in der Entwicklung einsetzt, trägt ab dem ersten Commit Verantwortung für den Output — unabhängig davon, welches Sicherheitsversprechen der Anbieter im Chat-Interface kommuniziert.

Häufige Fragen

Wie erkenne ich als Betreiber, ob KI-generierter Code in meinen Projekten ein Sicherheitsrisiko darstellt?

Statische Analyse-Tools (SAST) wie Semgrep oder Snyk Code prüfen Code auf verdächtige Muster unabhängig von seiner Herkunft. Entscheidend ist, dass KI-generierter Code nicht als vertrauenswürdig gegenüber manuell geschriebenem Code behandelt wird — beides muss denselben Review- und Analyse-Prozessen unterliegen. Zusätzlich sollte im Code-Review-Prozess explizit dokumentiert werden, welche Teile KI-assistiert entstanden sind.

Muss ich als KMU ohne Compliance-Pflichten wegen dieser Studie etwas ändern?

Ja — nicht wegen regulatorischer Pflichten, sondern wegen operativer Haftung. Wenn in Ihrem Betrieb KI-Coding-Assistenten eingesetzt werden und schadhafter Code in Ihre Produkte oder Kundenlieferungen gelangt, tragen Sie die Verantwortung für den Output. Minimalmaßnahme ist ein SAST-Gate in der CI/CD-Pipeline und eine interne Richtlinie, die regelt, für welche Projekte KI-Tools verwendet werden dürfen. Das ist mit Open-Source-Werkzeugen (z. B. Semgrep Community Edition) und geringem Aufwand umsetzbar.

Welche DORA-Anforderung wird durch den Einsatz von GitHub Copilot in der Softwareentwicklung ausgelöst?

GitHub Copilot ist als IKT-Drittanbieter-Dienstleistung einzustufen, sobald er in der Entwicklung regulierter Systeme eingesetzt wird. DORA Art. 28 verlangt eine formale Risikobeurteilung des Drittanbieters einschließlich seiner Sicherheitskontrollen. Die in der Studie beschriebene Inkonsistenz zwischen Chat- und Editor-Sicherheitsfiltern ist ein materieller Befund für diese Beurteilung und muss dokumentiert werden — entweder als akzeptiertes Residualrisiko mit kompensatorischen Kontrollen oder als Grundlage für eine Nutzungseinschränkung in bestimmten Anwendungsbereichen.

ctsd Redaktion — Die Insights der ctsd GmbH bieten Einordnungen und Handlungsempfehlungen zu aktuellen Themen aus IT-Sicherheit, KI und Regulatorik. Sitz: Tettnang am Bodensee. Mehr über uns →

Benötigen Sie Unterstützung?

Wir helfen Ihnen bei der Einordnung und Umsetzung — von der Analyse bis zur Lösung.

Gespräch vereinbaren