KI-Autor: Eleanor Vale Global Technology Editor

Im juristischen Bereich ist ein falsches Zitat kein kleines Versehen.[1][4] Es kann Zeit von Richterinnen und Richtern verschwenden, eine Argumentation verfälschen und sowohl den Anwalt als auch die Kanzlei Sanktionen aussetzen.[1][4][6] Während generative Systeme zunehmend in Recherche- und Entwurfsprozesse eindringen, stellt sich die praktische Frage nicht mehr, ob sie nützlich sein können. Vielmehr geht es darum, ob ein Beruf, der auf Verifikation gebaut ist, es sich leisten kann, maschinell erzeugte Texte wie normale Recherche zu behandeln.

Jüngste Gerichtsverfahren lassen vermuten, dass die Antwort immer öfter nein lautet.[1][4][6][11] In den USA wurden Anwälte und sogar Kanzleien sanktioniert, nachdem Schriftsätze gefälschte Zitate und andere KI-generierte Ungenauigkeiten enthielten, und ein Bundesrichter in Pennsylvania erklärte, die Strafe solle eine Warnung an andere sein, die von Schnel[1][4][6] Gleichzeitig zeigt sich ein breiteres Muster: Rechtsprofis wird gesagt, dass das alte Motto „vertrauen, aber verifizieren“ nicht mehr ausreicht, wenn das System selbst Autorität erfinden kann.[9]

Der technische Grund ist unbequem, aber eindeutig. Große Sprachmodelle rufen die Wahrheit nicht wie eine Datenbank ab; sie erzeugen Sprache, indem sie das nächste wahrscheinliche Token vorhersagen, was flüssige Falschaussagen zu einem nativen Fehlerbild macht, nicht zu einem Ausnahmebug.[2][10] Eine Forschungsübersicht zu juristischen KI-Werkzeugen fand, dass selbst führende Systeme noch falsches oder irreführendes Material produzieren, während eine gesonderte Analyse allgemeiner LLMs Halluzinationsraten zwischen 58 % und 82 % im juristischen Recher[2][10] Die genaue Zahl variiert je nach Modell und Aufgabe, die strukturelle Aussage bleibt jedoch bestehen: Vertrauen ist nicht gleich Korrektheit.

Diese Unterscheidung ist wichtig, weil der juristische Markt Schnelligkeit als Effizienz verkauft hat. Wenn ein Assistent Gesetze zusammenfassen, Anträge entwerfen oder Präzedenzfälle in Sekunden liefern kann, ist der Anreiz für überarbeitete Anwälte und Kanzleien unter Kostendruck offensichtlich.[2][4][6] Doch die Ökonomie ändert sich, sobald die Kosten für die Überprüfung jedes einzelnen Zitats wieder einkalkuliert werden. In diesem Sinne hat die KI Arbeit nicht abgeschafft, sondern sie weiterverlagert – von der Erstellung zur Verifikation, wo die Arbeit weniger sichtbar und im Gerichtssaal deutlich folgenreicher ist.

Die beruflichen Normen passen sich bereits an.[9][4] Juristische Verlage und Rechercheplattformen betonen jetzt einen strengeren Standard: Nicht vertrauen, bevor nicht verifiziert wurde.[9][1] Das ist mehr als ein Schlagwort. Es impliziert ein neues Betriebsmodell, in dem KI-Ergebnisse als unzuverlässiger Entwurf behandelt werden, nicht als Recherche, und in dem der Anwalt persönlich für jede dem Gericht vorgelegte Quelle verantwortlich bleibt.[8][11] Der Berufsstand hat KI nicht verworfen, sondern lernt, am Ende der Kette eine menschliche Kontrollinstanz zu verankern, der weiterhin Verantwortung zugewiesen werden kann.

Die kommerziellen Auswirkungen gehen über Kanzleien hinaus. Unternehmen, die KI in Kundenservice, Compliance oder Beratungsfunktionen einsetzen, stehen vor dem gleichen Problem: Eine einzelne falsche Antwort kann Rückzahlungen, Beschwerden, regulatorische Risiken oder einen schwer wiederherstellbaren Vertrauensverlust[3][5][7] In kundenorientierten Umgebungen ist Halluzination nicht nur ein technischer Fehler. Es ist ein Reputationsereignis. Deshalb sollten Führungskräfte weniger darüber nachdenken, ob ein Modell überzeugend klingt, sondern vielmehr, ob sie belegen können, wo jede Antwort herkommt.

Ungewiss bleibt, wie weit das Rechtssystem bei der Standardisierung dieser neuen Beweislast gehen wird. Werden Gerichte eine ausdrückliche Bestätigung verlangen, dass KI-unterstützte Arbeit persönlich überprüft wurde?[8][11] Werden Kanzleien formelle Prüfungsebenen um jedes KI-unterstützte Schriftsatzverfahren aufbauen?[8][11] Und werden Anbieter aufgefordert, Zuverlässigkeit in Bereichen zu garantieren, in denen Wahrscheinlichkeit, nicht Gewissheit, ihre Muttersprache ist?[2][9][10] Die bisherigen Anzeichen deuten darauf hin, dass stärkere Verifikation unvermeidlich ist, doch die institutionelle Ausgestaltung dieses Wandels wird noch verhandelt.

Es stellt sich auch eine tiefere Frage zum Wesen der Sprache selbst. Ein probabilistisches Modell ist nicht darauf ausgelegt, zu erkennen, wenn es etwas nicht weiß.[2][10] Es ist darauf programmiert, fortzufahren.[2][10] Deshalb kann man Halluzinationen nicht einfach durch bessere Eingaben oder Werbeaussagen über Genauigkeit wegwünschen. Abrufsysteme, Schutzmechanismen und menschliche Prüfung können Risiken mindern, aber nicht beseitigen.[2][9][10] In Bereichen mit hohem Einsatz verschiebt sich die Verantwortung vom Modell auf die Organisation, die es einsetzt.

Die eigentliche Erkenntnis ist nicht, dass KI lügen kann, sondern dass moderne Institutionen entdecken, wie teuer es wird, wenn Software plausible Falschinformationen in großem Maßstab produziert. Gerichte reagieren zuerst, weil sie Konsequenzen festhalten.[1][4][6][11] Andere Branchen werden folgen, egal ob sie bereit sind oder nicht. Die nachhaltige Lehre lautet: Die KI-Anwendung hängt heute weniger von Sprachgewandtheit als von Verantwortlichkeit ab, und die nächste Marktphase wird diejenigen Systeme begünstigen, die Verifikation günstiger machen, nicht nur die Generierung schneller.