Abstrakte Visualisierung von KI-Verhandlungen: Claude-Symbol, Anwaltsstab, digitale Vertragsplattform auf Laptopbildschirm.
KI Veröffentlicht: Aktualisiert:

Anthropic: KI-Agenten sollen Verträge aushandeln — mit Anwälten trainiert

Anthropic berät sich mit Anwaltskanzleien, um KI-Agenten Verhandlungsfähigkeit zu verleihen. Ziel: Agenten verhandeln Preise und Verträge im Auftrag von Nutzern.

Was ist konkret passiert/neu

Anthropic, das Unternehmen hinter dem KI-Modell Claude, hat laut Financial Times (22.03.2026) Anwaltskanzleien als Berater angeheuert. Ziel ist es, KI-Agenten die Fähigkeit zu verleihen, im Auftrag von Nutzern Preise, Verträge und Beschwerden auszuhandeln. Das Konzept wird als "Conceptual Reasoning Fellows" bezeichnet: Juristen und Geisteswissenschaftler trainieren die Modelle nicht nur in Faktenwissen, sondern in verhandlungsstrategischem Denken.

Hintergrund ist eine Schwäche des aktuellen Claude-Sonnet 4.5: Bei der Bar Exam (Rechtsfragen) erreichte das Modell 60% Score, bei der Bar Exam 2 (komplexe Verhandlungen) jedoch nur 18%. Anthropic will diese Lücke schliessen, damit Agenten nicht nur Fakten abrufen, sondern aktiv verhandeln können.

Warum das alle angeht

Die Entwicklung autonomer Verhandlungs-Agenten betrifft nicht nur Tech-Firmen. Zwei Beispiele aus dem Nicht-Banking-Kontext:

  1. SaaS-Lizenzverhandlungen: Ein KMU nutzt eine KI, um Software-Lizenzen bei Anbietern wie Microsoft oder Adobe zu verhandeln. Wenn die KI hier autonom agiert, entstehen neue Abhängigkeiten und Haftungsfragen.
  2. Lieferkettenverhandlungen: Ein Tech-Händler nutzt einen Agenten, um Lieferverträge mit Lieferanten zu optimieren. Wenn der Agent einen ungünstigen Vertrag schliesst, wer haftet: der Händler oder der KI-Anbieter?

Das wirtschaftliche Risiko liegt in der Unvorhersehbarkeit autonomer KI-Agenten. Ein Agent kann einen Vertrag schliessen, der dem Nutzer langfristig mehr kostet als ein menschlicher Verhandlungspartner.

Einordnung in den rechtlichen Rahmen

Die Entwicklung autonomer Verhandlungs-Agenten stösst auf mehrere rechtliche Hürden:

  • Datenschutz (DSGVO): Wenn Agenten personenbezogene Daten verarbeiten, um Verhandlungen zu führen, greifen die datenschutzrechtlichen Anforderungen an Zweckbindung und Datensicherheit.
  • Wettbewerbsrecht: Verträge, die von KI-Agenten geschlossen werden, müssen wettbewerbsrechtlich unbedenklich sein. Eine KI kann keine Absichtshandlung im Sinne des Wettbewerbsrechts vornehmen.
  • Vertragsrecht: In vielen Rechtsordnungen muss ein Vertrag durch eine Absichtshandlung geschlossen werden. Eine KI-Agent kann keine Absicht haben, was die Gültigkeit des Vertrags infrage stellt.

Handlungsempfehlungen

Für jeden Einkäufer/Betreiber

  1. Due Diligence bei KI-Nutzung: Prüfen Sie, ob der KI-Anbieter (z.B. Anthropic, OpenAI) vertraglich für die Handlungen seiner Agenten haftet. Schließen Sie eine Haftung für autonome Handlungen ab.
  2. Vertragliche Absicherung: Verlangen Sie von KI-Anbietern eine Garantie, dass ihre Agenten keine ungültigen oder wettbewerbsrechtlich riskanten Verträge schließen.
  3. Human-in-the-Loop: Implementieren Sie eine menschliche Kontrolle vor Abschluss von Verträgen durch KI-Agenten. Der Agent soll Vorschläge machen, der Mensch schliesst den Vertrag.

Zusätzlich für regulierte Branchen

  1. DORA Art. 28-30: Bei der Nutzung von KI-Drittanbietern für Vertragsmanagement müssen Sie die DORA-Anforderungen an IT-Sicherheit und Risikobewertung beachten.
  2. Haftungsanalyse: Führen Sie eine Risikobewertung durch, ob die KI-Agenten in kritischen Prozessen (z.B. Lieferkette, Finanztransaktionen) eingesetzt werden dürfen.

Was wir kritisch sehen / Blinde Flecken

Die Idee, KI-Agenten mit Anwälten zu trainieren, klingt nach Fortschritt, hat aber mehrere Schwachstellen:

  • Black-Box-Problem: Selbst wenn Anwälte die KI trainieren, bleibt die Entscheidungslogik der KI nicht vollständig nachvollziehbar. Wie kommt die KI auf eine bestimmte Verhandlungsstrategie?
  • Ethische Implikationen: Wenn KI-Agenten autonom verhandeln, wer ist für den Ausgang der Verhandlung verantwortlich? Der Nutzer, der KI-Anbieter oder der Anwalt, der die KI trainiert hat?
  • Haftungsfrage: Wenn eine KI einen ungünstigen Vertrag schliesst, wer haftet? Der Nutzer, der die KI eingesetzt hat, oder der KI-Anbieter, der die KI trainiert hat?

Die Entwicklung autonomer Verhandlungs-Agenten ist ein Schritt in eine Richtung, die wir noch nicht vollständig durchschauen können. Wir empfehlen, menschliche Kontrolle bei Verhandlungen zu belassen und KI nur als Assistenten einzusetzen.

FAQ

Konkrete Praxis-Frage

Wie erkenne ich als Einkäufer, ob ein KI-Agent in Verhandlungen autonom agiert?
Prüfen Sie die Dokumentation des KI-Anbieters auf Aussagen zu autonomer Verhandlungsfähigkeit. Fragen Sie nach dem Training der KI und ob Anwälte involviert waren. Verlangen Sie eine Garantie, dass der Agent keine ungültigen Verträge schließt.


Muss ich als KMU das wirklich alles machen?
Ja, auch KMU ohne explizite Compliance-Pflicht sollten die Due Diligence bei KI-Nutzung durchführen. Die Haftungsfragen betreffen jeden Nutzer, der KI-Agenten in Verhandlungen einsetzt.


Welche MaRisk-Anforderung wird durch KI-Nutzung in Verhandlungen ausgelöst?
MaRisk AT 7.2 Test-Anforderung: Sie müssen die IT-Sicherheit der KI-Plattform prüfen und die Handlungen der KI-Agenten überwachen. DORA Art. 8 Risikobewertung: Führen Sie eine Risikobewertung durch, ob die KI-Agenten in kritischen Prozessen eingesetzt werden dürfen.

Häufige Fragen

Wie erkenne ich als Einkäufer, ob ein KI-Agent in Verhandlungen autonom agiert?

Prüfen Sie die Dokumentation des KI-Anbieters auf Aussagen zu autonomer Verhandlungsfähigkeit. Fragen Sie nach dem Training der KI und ob Anwälte involviert waren. Verlangen Sie eine Garantie, dass der Agent keine ungültigen Verträge schließt.

Muss ich als KMU das wirklich alles machen?

Ja, auch KMU ohne explizite Compliance-Pflicht sollten die Due Diligence bei KI-Nutzung durchführen. Die Haftungsfragen betreffen jeden Nutzer, der KI-Agenten in Verhandlungen einsetzt.

Welche MaRisk-Anforderung wird durch KI-Nutzung in Verhandlungen ausgelöst?

MaRisk AT 7.2 Test-Anforderung: Sie müssen die IT-Sicherheit der KI-Plattform prüfen und die Handlungen der KI-Agenten überwachen. DORA Art. 8 Risikobewertung: Führen Sie eine Risikobewertung durch, ob die KI-Agenten in kritischen Prozessen eingesetzt werden dürfen.

Quellen

the-decoder.de
ctsd Redaktion — Die Insights der ctsd GmbH bieten Einordnungen und Handlungsempfehlungen zu aktuellen Themen aus IT-Sicherheit, KI und Regulatorik. Sitz: Tettnang am Bodensee. Mehr über uns →

Benötigen Sie Unterstützung?

Wir helfen Ihnen bei der Einordnung und Umsetzung — von der Analyse bis zur Lösung.

Gespräch vereinbaren