KI in der Rechtsanwendung: Welche Fragen die Rechtswissenschaft jetzt klären muss

Künstliche Intelligenz ist in der juristischen Praxis angekommen. Kanzleien nutzen Sprachmodelle für Recherchen und Vertragsentwürfe, Behörden automatisieren Standardverfahren, und auch an Gerichten laufen erste Pilotprojekte. Was vor wenigen Jahren noch nach Zukunftsmusik klang, gehört heute in vielen Häusern zum Alltag.

Die Technik entwickelt sich dabei deutlich schneller als die rechtlichen Leitplanken. Für die Rechtswissenschaft ergibt sich daraus eine besondere Aufgabe: Sie muss Antworten auf Fragen finden, die das Selbstverständnis des Rechts im Kern berühren.

Wo KI heute schon eingesetzt wird

Der Einsatz reicht von einfachen Hilfsfunktionen bis zu komplexen Assistenzsystemen. In Kanzleien werden umfangreiche Aktenbestände durchsucht, Verträge auf Risikoklauseln geprüft und Schriftsätze vorformuliert. Legal-Tech-Anbieter setzen massenhaft gleichartige Ansprüche durch, etwa bei Fluggastrechten oder Mietpreisbremse.

Auch die Justiz experimentiert. Bei Gerichten mit vielen gleichgelagerten Verfahren, etwa den Diesel- oder Fluggastklagen, unterstützen Assistenzsysteme wie OLGA am Oberlandesgericht Stuttgart oder FRAUKE am Amtsgericht Frankfurt dabei, Akten zu strukturieren und Textbausteine vorzubereiten. Die Entscheidung selbst bleibt dabei in menschlicher Hand. Genau an dieser Grenze beginnen jedoch die schwierigen Fragen.

Richterliche Unabhängigkeit und der gesetzliche Richter

Das Grundgesetz garantiert in Artikel 97 die Unabhängigkeit der Richterinnen und Richter und in Artikel 101 den Anspruch auf den gesetzlichen Richter. Beides setzt voraus, dass ein Mensch entscheidet und die Verantwortung für das Urteil trägt. Ein System, das nur Vorschläge macht, scheint auf den ersten Blick unproblematisch.

In der Praxis ist die Lage weniger eindeutig. Die Forschung spricht vom sogenannten Automation Bias: Menschen neigen dazu, maschinellen Empfehlungen zu folgen, besonders unter Zeitdruck. Wenn ein überlastetes Gericht einen KI-Entwurf nur noch abnickt, stellt sich die Frage, wer eigentlich entschieden hat.

Die Rechtswissenschaft muss deshalb Kriterien entwickeln, ab wann eine Unterstützung in eine faktische Entscheidungsübernahme umschlägt. Denkbar sind Dokumentationspflichten, verpflichtende eigene Begründungsschritte oder klare Grenzen für den Einsatz in bestimmten Verfahrensarten.

Transparenz und Begründbarkeit

Ein rechtsstaatliches Urteil muss nachvollziehbar begründet sein. Moderne Sprachmodelle arbeiten jedoch mit statistischen Wahrscheinlichkeiten, deren innere Logik selbst für Fachleute kaum zu durchschauen ist. Das widerspricht dem Grundgedanken, dass Betroffene verstehen können sollen, warum eine Entscheidung so und nicht anders ausgefallen ist.

Hinzu kommt das Problem erfundener Inhalte. Sprachmodelle können Urteile, Aktenzeichen oder Fundstellen zitieren, die es gar nicht gibt. Bekannt wurde der US-Fall Mata v. Avianca aus dem Jahr 2023, in dem Anwälte Schriftsätze mit frei erfundenen Präzedenzfällen einreichten und dafür sanktioniert wurden. Solche Fehler zeigen, dass die Überprüfungspflicht beim Menschen nicht nur formal bestehen darf.

Haftung und Berufsrecht

Wer haftet, wenn eine KI-gestützte Beratung falsch ist? Nach geltendem Recht bleibt die Verantwortung bei der Anwältin oder dem Anwalt, die das Ergebnis verwenden. Offen ist aber, welche Sorgfaltsmaßstäbe beim Einsatz solcher Werkzeuge gelten und ob der Verzicht auf KI künftig selbst zum Haftungsrisiko werden kann, wenn sie zum Standard wird.

Auch das Berufsrecht steht vor neuen Fragen. Die anwaltliche Verschwiegenheit nach der Bundesrechtsanwaltsordnung und der strafrechtliche Schutz von Berufsgeheimnissen verlangen, dass Mandantendaten nicht unkontrolliert an externe Dienste fließen. Welche Cloud-Lösungen zulässig sind und wie Verträge mit Anbietern gestaltet sein müssen, ist vielerorts noch nicht abschließend geklärt.

Schließlich stellt sich die Frage nach dem Rechtsdienstleistungsgesetz. Der Bundesgerichtshof hat 2021 im Fall eines digitalen Vertragsgenerators entschieden, dass ein solches Werkzeug keine unzulässige Rechtsdienstleistung darstellt. Ob sich diese Linie auf generative KI übertragen lässt, die individuelle Rechtsfragen beantwortet, ist offen.

Regulierung durch den AI Act

Mit der europäischen KI-Verordnung liegt erstmals ein umfassender Rechtsrahmen vor. KI-Systeme, die Justizbehörden bei der Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften unterstützen sollen, stuft die Verordnung als Hochrisikosysteme ein. Für sie gelten strenge Anforderungen an Datenqualität, Dokumentation, menschliche Aufsicht und Risikomanagement.

Die Pflichten treten gestaffelt in Kraft, und über den genauen Zeitplan für Hochrisikosysteme wird auf europäischer Ebene weiter diskutiert. Für die Rechtswissenschaft bleibt viel zu tun: Unbestimmte Begriffe wie „angemessene menschliche Aufsicht“ müssen ausgelegt und mit dem nationalen Verfahrensrecht verzahnt werden.

Automatisierte Verwaltung als Vorbild und Warnung

In der Verwaltung ist die Automatisierung schon weiter fortgeschritten. Das Verwaltungsverfahrensgesetz erlaubt vollautomatisierte Bescheide, allerdings nur, wenn weder Ermessen noch ein Beurteilungsspielraum besteht. Dazu kommt Artikel 22 der Datenschutz-Grundverordnung, der Menschen grundsätzlich davor schützt, ausschließlich automatisierten Entscheidungen mit rechtlicher Wirkung unterworfen zu werden.

Ein anschauliches Beispiel für algorithmische Rechtsdurchsetzung liefert die Glücksspielregulierung. Seit dem Glücksspielstaatsvertrag 2021 prüft ein länderübergreifendes System in Echtzeit, ob Spieler ihr monatliches Einzahlungslimit einhalten und ob sie gleichzeitig bei mehreren Anbietern aktiv sind. Die Regel wird hier nicht mehr im Nachhinein kontrolliert, sondern technisch unmittelbar umgesetzt.

Das wirft grundsätzliche Fragen zu Verhältnismäßigkeit, Datenschutz und Wirksamkeit auf. Kritiker verweisen darauf, dass strenge automatische Limits manche Spieler zu Angeboten außerhalb des regulierten Marktes treiben. Wer nachvollziehen möchte, warum manche Nutzer gezielt nach einem Casino ohne LUGAS suchen und welche rechtlichen Unterschiede und Risiken damit verbunden sind, erkennt schnell, wie stark technische Durchsetzung das Verhalten der Betroffenen prägt.

Für die Debatte über KI im Recht ist das lehrreich. Je stärker Normen technisch vollzogen werden, desto wichtiger werden Fragen nach Ausweichbewegungen, Rechtsschutz und demokratischer Kontrolle der zugrunde liegenden Regeln.

Ausbildung und juristisches Selbstverständnis

Nicht zuletzt verändert KI die juristische Ausbildung. Wenn Recherchen und Entwürfe zunehmend automatisiert entstehen, stellt sich die Frage, welche Fähigkeiten angehende Juristinnen und Juristen künftig brauchen. Kritisches Prüfen maschineller Ergebnisse, technisches Grundverständnis und Methodenkompetenz gewinnen an Bedeutung.

Gleichzeitig darf die Fähigkeit zum eigenständigen juristischen Denken nicht verkümmern. Wer nie selbst einen Fall gelöst hat, kann auch die Qualität eines KI-Vorschlags nicht beurteilen.

Fazit

KI kann die Rechtsanwendung effizienter machen und den Zugang zum Recht erleichtern. Sie darf aber die Grundprinzipien des Rechtsstaats nicht aushöhlen. Die Rechtswissenschaft muss jetzt klären, wo die Grenzen menschlicher Verantwortung verlaufen, wie Transparenz gesichert und Haftung verteilt wird.

Je früher diese Fragen beantwortet werden, desto besser lässt sich die Technik so gestalten, dass sie dem Recht dient und nicht umgekehrt.

Tobias Friedrich

Gründer & Geschäftsführer Finanzriese GmbH · Versicherungsmakler (§ 34d GewO)

Tobias Friedrich ist Diplom-Ingenieur und geprüfter Fachmann für Versicherungsvermittlung (IHK). Als Geschäftsführer der Finanzriese GmbH betreibt er mehrere unabhängige Vergleichsportale. Sein Anspruch: komplexe Versicherungsthemen verständlich machen – „Versichern heißt verstehen, auch dann, wenn es kompliziert wird.“

Zum Autorenprofil → · LinkedIn ↗

← Alle Ratgeber-Artikel