KI-Agent für Vertrags-Review: On-Premise-Implementierung in 4 Wochen

Das Problem: Manuelle Vertragsprüfung bindet Anwaltsstunden

Österreichische Kanzleien mit 500 bis 2.000 Mitarbeitern stehen vor einem strukturellen Problem: Die manuelle Prüfung von B2B-Verträgen bindet 30 bis 40 % der Anwaltsstunden, ohne dass die Fehlerquote sinkt. Die DSGVO (Art. 32) verlangt technische Maßnahmen zur Datensicherheit, was Cloud-basierte KI-Lösungen für sensible Mandantendaten oft unbrauchbar macht. Ein konversationeller KI-Agent, der auf Open-Weight-Modellen basiert und on-premise läuft, löst dieses Dilemma: Er reduziert die manuelle Back-Office-Arbeit, bleibt datenschutzkonform und integriert sich in die bestehende Kanzlei-Software. Das Ziel ist nicht die vollständige Automatisierung, sondern die Reduktion der Fehlerquote um mindestens 30 % und die Verkürzung der Bearbeitungszeit um 40 %.

Voraussetzungen: Was Sie vor dem Start benötigen

Bevor Sie mit der Implementierung beginnen, müssen folgende Voraussetzungen erfüllt sein:

• Definierte Vertragskategorie: Wählen Sie eine klar umrissene Vertragsart (z. B. B2B-Dienstleistungsverträge), nicht den gesamten Vertragsbestand.
• Historische Daten: Mindestens 500 anonymisierte Vertragsdokumente für das Fine-Tuning des Modells.
• Risikokriterien: Eine schriftliche Definition der kritischen Klauseln (z. B. Haftung, Kündigung, Datenschutz).
• Hardware: Ein GPU-Server (z. B. NVIDIA A100 40GB) für das On-Premise-Deployment des Open-Weight-Modells.
• Projektteam: Ein dediziertes Team aus zwei Anwälten und einem IT-Entwickler, das für das Pilotprojekt verfügbar ist.
• Eskalationsregel: Eine klare Definition, welche Fälle der Agent nicht lösen darf und an welche Person sie eskaliert werden.

Schritte: Von der Baseline zum Pilotprojekt

1. Prozess-Audit durchführen: Dokumentieren Sie den aktuellen Workflow der Vertragsprüfung. Messen Sie die durchschnittliche Bearbeitungszeit pro Vertrag und die Fehlerquote (z. B. über Stichproben von 50 Verträgen). Erstellen Sie eine Baseline-Metrik, die Sie nach dem Go-Live vergleichen können.

2. Modell-Feintuning: Trainieren Sie ein Open-Weight-Modell (z. B. Llama 3 70B) auf Ihren historischen Vertragsdaten. Nutzen Sie ein Framework wie Hugging Face Transformers für das Fine-Tuning. Das Modell soll Klauseln erkennen und Risikobewertungen abgeben.

3. RAG-Pipeline aufbauen: Implementieren Sie eine Retrieval-Augmented-Generation-Pipeline, die das Modell mit Ihrer internen Rechtsdatenbank (z. B. OGH-Urteile, interne Leitfäden) versorgt. Nutzen Sie ein Vektor-Datenbank-System wie Weaviate oder Qdrant für die semantische Suche.

4. REST-API entwickeln: Bauen Sie eine Custom REST-API, die den Vertragstext als JSON akzeptiert und eine strukturierte Antwort mit erkannten Klauseln und Risikobewertungen zurückgibt. Sichern Sie die API mit API-Keys und OAuth 2.0.

5. Integration in die Kanzlei-Software: Verknüpfen Sie die API mit Ihrer Kanzlei-Verwaltungssoftware über Webhooks. Die Software sendet den Vertrag an den Agenten und erhält die Antwort. Die Anwälte sehen die Vorschläge direkt in ihrer Arbeitsumgebung.

6. Human-in-the-Loop-Workflow einrichten: Stellen Sie sicher, dass der Agent nur Vorschläge macht und die finale Entscheidung beim Anwalt liegt. Implementieren Sie ein Audit-Logging, das dokumentiert, welche Vorschläge angenommen oder verworfen wurden.

7. Pilotprojekt starten: Führen Sie das Pilotprojekt mit zwei Anwalts-Teams über vier Wochen durch. Messen Sie die Metriken (Fehlerquote, Bearbeitungszeit) und vergleichen Sie sie mit der Baseline.

Häufige Stolperfallen und wie Sie sie erkennen

• Halluzinationen des Modells: Das Modell erfindet Klauseln, die im Vertrag nicht vorhanden sind. Erkennung: Stichprobenkontrolle durch einen Anwalt. Wenn die Präzision unter 85 % fällt, muss das Modell nachtrainiert werden.

• Datenlecks über die API: Unbefugter Zugriff auf die REST-API führt zum Verlust von Mandantendaten. Erkennung: Monitoring der API-Logs. Wenn Anfragen von unbekannten IPs kommen, muss die Firewall konfiguriert werden.

• Hohe Latenz: Die Antwortzeit des Agenten übersteigt 10 Sekunden, was die Anwälte frustriert. Erkennung: Messung der Inferenz-Zeit. Wenn die Latenz über 5 Sekunden liegt, muss die Hardware skaliert oder das Modell optimiert werden.

• Fehlende Eskalation: Der Agent behandelt einen komplexen Fall, den er nicht lösen kann, und gibt eine falsche Bewertung ab. Erkennung: Review des Audit-Logs. Wenn Fälle mit hohem Risiko nicht eskaliert wurden, muss die Eskalationsregel angepasst werden.

• Mangelnde Akzeptanz: Die Anwälte nutzen den Agenten nicht, weil sie den Vorschlägen nicht vertrauen. Erkennung: Befragung der Anwälte nach zwei Wochen. Wenn die Nutzungsrate unter 50 % liegt, muss die Schulung intensiviert werden.

Fazit: Vom Pilotprojekt zum Managed Service

Nach dem Pilotprojekt steht die Entscheidung an: Skalierung oder Anpassung. Wenn die Metriken die Ziele erfüllen (Fehlerquote um 30 % reduziert, Bearbeitungszeit um 40 % verkürzt), können Sie den Agenten auf weitere Vertragskategorien ausrollen. Wenn nicht, analysieren Sie die Ursachen: Ist das Modell nicht gut genug trainiert? Ist die Integration zu langsam? Ist die Akzeptanz zu niedrig? Der nächste logische Schritt ist die Überführung in einen Managed-AI-Operations-Service, in dem ein externes Team die Wartung, das Monitoring und das kontinuierliche Feintuning übernimmt. Dies reduziert den internen Aufwand und stellt sicher, dass der Agent mit der Rechtsprechung und den internen Leitfäden aktuell bleibt.