Gerichtsbeschluss in Georgia enthält von KI erfundene Rechtszitate

Eine Berufungsverhandlung vor dem Obersten Gerichtshof von Georgia deckte erhebliche Zitierfehler in einer Gerichtsverfügung auf, wobei Hinweise darauf hindeuten, dass KI-generierte Halluzinationen beteiligt waren. Während der Verhandlungen in einer Berufung gegen ein Mordurteil identifizierte Oberster Richter Nels S.D. Peterson schwerwiegende Probleme mit der Gerichtsverfügung, die einen neuen Prozess ablehnte.

Wesentliche Details aus der Verhandlung

Laut dem Quellenmaterial erklärte Oberster Richter Peterson, dass die Verfügung enthielt:

• „Mindestens fünf Verweise auf Fälle, die nicht existieren“
• „Mindestens fünf weitere Verweise auf Fälle, die die Aussage, für die sie zitiert werden, nicht stützen“
• „Drei Zitate, die nicht existieren“

Die Staatsanwältin Leslie antwortete, dass ihre ursprünglich eingereichte Verfügung überarbeitet worden sei und übernahm keine Verantwortung für die fehlerhaften Zitate. Oberster Richter Peterson entgegnete jedoch: „Diese nicht existierenden Fälle wurden in Ihrer ursprünglichen Stellungnahme gegen den Antrag auf einen neuen Prozess zitiert.“

Verfügbare Dokumentation

Die Quelle gibt an, dass zwei wichtige Dokumente zur Prüfung verfügbar sind:

• Eine 33-seitige Verfügung, die einen neuen Prozess ablehnt
• Eine 37-seitige vorgeschlagene Verfügung des Staates

Dieser Vorfall verdeutlicht die Risiken der Nutzung von KI-Tools für juristische Recherchen und Zitate ohne gründliche Überprüfung. Während die Quelle nicht angibt, welches KI-Tool verwendet wurde, entspricht das Muster der halluzinierten Fälle und falsch zugeordneten Zitate bekannten Einschränkungen aktueller großer Sprachmodelle im juristischen Kontext.