Große Sprachmodelle wurden für Betrug in Schulen und die Verbreitung von Desinformation in Nachrichtenberichten verwendet. Jetzt schleichen sie sich in die Gerichtssäle ein, verschärfen die Zahl falscher Rechtsstreitigkeiten, mit denen Richter mit großen Fallzahlen konfrontiert sind, und stellen neue Risiken für ein ohnehin schon überlastetes Justizsystem dar.
Ein aktueller Bericht von Ars Technica beschreibt detailliert ein Urteil des Berufungsgerichts von Georgia, das ein wachsendes Risiko hervorhebt, dem das US-Justizsystem ausgesetzt ist: KI-generierte Halluzinationen schleichen sich in Gerichtsdokumente ein und beeinflussen sogar Gerichtsentscheidungen. Im Scheidungsstreit legten die Anwälte des Ehemanns einen Beschlussentwurf vor, der Hinweise auf nicht existierende Fälle enthielt – Fälle, die wahrscheinlich durch generative KI-Tools wie ChatGPT erfunden wurden. Das erstinstanzliche Gericht unterzeichnete das Dokument und entschied anschließend zugunsten des Ehemanns.
Erst als die Ehefrau Berufung einlegte, kamen die gefälschten Vorladungen ans Licht. Ein Berufungsgremium unter der Leitung von Richter Jeff Watkins hob die Anordnung auf und stellte fest, dass die gefälschten Fälle die Fähigkeit des Gerichts, das Urteil zu überprüfen, untergruben. Watkins äußerte sich offen und sagte, dass es sich bei den Vorladungen um eine von der KI erzeugte Halluzination handeln könnte. Das Gericht verhängte gegen den Anwalt des Mannes eine Geldstrafe von 2.500 US-Dollar.
Das mag wie ein Einzelfall klingen, aber im Februar dieses Jahres wurde ein Anwalt in einer ähnlichen Situation mit einer Geldstrafe von 15.000 US-Dollar belegt. Rechtsexperten warnten, dass dies ein Vorbote der Zukunft sein könnte. Es ist bekannt, dass generative KI-Tools leicht und mit überzeugender Sicherheit Informationen verfälschen – ein Verhalten, das als „Halluzination“ bekannt ist. Da künstliche Intelligenz für überforderte Anwälte und selbstvertretende Prozessparteien zunehmend zugänglich wird, werden Richter laut Experten zunehmend mit Prozessdokumenten konfrontiert sein, die mit gefälschten Fällen, gefälschten Präzedenzfällen und verwirrenden rechtlichen Argumenten, die als legitim getarnt werden, gefüllt sind.
Dies verschärft das Problem in einem ohnehin schon überlasteten Justizsystem noch weiter. In vielen Gerichtsbarkeiten genehmigen Richter Urteile, die von Anwälten ausgearbeitet wurden, oft ohne lange darüber nachzudenken. Allerdings verschärft der Einsatz künstlicher Intelligenz dieses Risiko.
Stellungnahme des Berufungsgerichts zu falschen Rechtszitaten
„Ich kann mir vorstellen, dass dies in Situationen der Fall sein könnte, in denen Prozessrichter viele Fälle bearbeiten“, sagte der Rechtswissenschaftler John Browning, ein ehemaliger Richter am Berufungsgericht von Texas, der ausführlich über die Ethik der künstlichen Intelligenz im Recht geschrieben hat.
Browning sagte gegenüber Ars Technica, dass er es für „höchstwahrscheinlich“ halte, dass diese Art von Fehler häufiger auftreten werde. Er und andere Experten warnen davor, dass Gerichte, insbesondere auf Basisebene, nicht bereit sind, sich mit solchen willkürlichen KI-gesteuerten Praktiken auseinanderzusetzen. Derzeit verlangen nur zwei Bundesstaaten, Michigan und West Virginia, dass Richter über grundlegende „technische Kompetenz“ in Bezug auf künstliche Intelligenz verfügen. Einige Richter haben die Verwendung von KI-generierten Dokumenten vollständig verboten oder die Offenlegung der KI-Nutzung angeordnet, aber diese Richtlinien sind unvollständig, inkonsistent und aufgrund der schieren Menge an Fällen schwer durchzusetzen.
Gleichzeitig sind KI-generierte Dokumente nicht immer offensichtlich. Große Sprachmodelle erfinden oft realistisch klingende Fallnamen, fadenscheinige Zitate und formal klingende Rechtsbegriffe. Browning sagte, es gebe verräterische Anzeichen, auf die ein Richter achten könne: der falsche Gerichtsberichterstatter, eine Platzhalter-Fallnummer wie „123456“ oder eine gestelzte, formelhafte Sprache. Da die KI-Tools jedoch immer ausgefeilter werden, verschwinden diese Hinweise möglicherweise allmählich.
Forscher wie Peter Henderson vom Polaris Laboratory der Princeton University entwickeln Tools, um die Auswirkungen künstlicher Intelligenz auf Gerichtsdokumente zu verfolgen, und plädieren für eine offene Rechtsfallbibliothek, um die Überprüfung zu vereinfachen. Andere haben neuartige Lösungen vorgeschlagen, etwa ein „Kopfgeldsystem“, das diejenigen belohnt, die falsche Fälle entdecken, bevor sie gefasst werden.
Der Scheidungsfall in Georgia ist vorerst eine Warnung – nicht nur vor nachlässigen Anwälten, sondern auch vor der Gefahr, dass die Gerichtssysteme überlastet sind und nicht in der Lage sind, den Einsatz künstlicher Intelligenz in jedem Rechtsdokument zu verfolgen. Richter Watkins warnte: Wenn sich KI-generierte Halluzinationen weiterhin unkontrolliert in Gerichtsakten einschleichen, könnten sie das Vertrauen in das Justizsystem selbst untergraben.