Der peinliche Copy-Paste-Fehler hessischer Richter mit ChatGPT

Der peinliche Copy-Paste-Fehler hessischer Richter mit ChatGPT

Dass bei der Abfassung einer gerichtlichen Entscheidung Künstliche Intelligenz (KI) eingesetzt wurde, lässt sich gelegentlich vermuten, aber nicht beweisen. Anders verhält es sich, wenn der Beleg zur KI-Nutzung im Text selbst auftaucht. Letzteres ist am Hessischen Verwaltungsgerichtshof passiert.

In einem Beschluss vom 24. Juni 2026 legt er dem Europäischen Gerichtshof die Frage vor, ob Ukrainer ein Aufenthaltsrecht in der EU haben, wenn sie zunächst nach Georgien und erst Jahre später nach Deutschland geflüchtet waren (Aktenzeichen: 3 A 2624/25). In dem Beschluss verweisen die Richter auf Websites, fünfmal findet sich in der URL, also der Pfad- und Zugriffszeile zu besagten Websites, die Endung „source=chatgpt.com“. Dies zeigt, dass vom Gericht auch ChatGPT eingesetzt wurde.

Nun ließe sich einwenden, es sollte kein Problem darstellen, KI als Ersatz einer Suchmaschine wie „Google“ zu verwenden. Nur gilt es, zu bedenken, dass KI halluzinieren kann und gelegentlich Quellen angibt, die nicht zur Sache passen.

Andere Quellen weisen über ChatGTP hinaus

Im Beschluss des Hessischen Verwaltungsgerichtshofs heißt es an einer Stelle: „Mit einem [georgischen] Regierungsdekret vom 24. Februar 2026 wurde das Aufenthaltsrecht für ukrainische Staatsangehörige […] bis zum 24. Februar 2027 verlängert.“ Der von ChatGPT zur Verfügung gestellte Link führt zu einem Artikel von 2025. Zu diesem Zeitpunkt konnte man noch nichts von einem Dekret aus dem Jahr 2026 wissen. Folglich wäre die Quelle zumindest ungeeignet.

Dazu rechtfertigt sich das Gericht, man habe zur Recherche nicht allein ChatGTP verwendet, „sondern auch weitere Quellen herangezogen, um die Rechtslage ukrainischer Staatsangehöriger in Georgien umfassend zu klären“. Aus diesem Grund wiesen andere in der Entscheidung zitierte Quellen über ChatGTP hinaus.

Überdies ergebe sich die Verlängerung der Regelung bis zum Jahr 2027 zwar nicht aus der zitierten Quelle, lasse sich aber einer anderen Quelle entnehmen, die dem Gericht bei seiner Beratung vorlag. Dass die Tatsachenfeststellung im Ergebnis richtig ist, bestätigt eine Recherche dieser Zeitung. Zugeben muss das Gericht allerdings: „Soweit auf das Regierungsdekret vom 24. Februar 2026 Bezug genommen wird, findet dies keinen Beleg in der Fundstelle.“

Ist die Verlinkung im Beschluss also falsch?

An anderer Stelle im Beschluss suggeriert ChatGPT, es würde auf das Regierungsdekret Nr. 255 von 2015 verlinken. Die verlinkte Website ist in georgischer Sprache abgefasst; eine Übersetzung zeigt, dass der Link jedoch zu einer Änderungsvorschrift des Dekrets von 2025 führt. Relevant ist das, weil im gerichtlichen Beschluss vermerkt ist, die klagenden Ukrainer hielten sich von 2022 an in Georgien aufgrund des Regierungsdekrets Nr. 255 vom 5. Juni 2015 mit einem befristeten Aufenthaltsrecht auf.

Die Befristungszeiträume für Ukrainer unterschieden sich 2022 und 2025. Ist die Verlinkung im Beschluss also falsch? Das Gericht teilt mit: „Dass die [im Link] wiedergegebene aktuelle Fassung aufgrund der Änderung vom 3. April 2025 die Befristung der Befreiung auf ein Jahr wiedergibt, ist zwar richtig, entwertet aber nicht die Quelle als Nachweis des materiellen Regelungsgehalts des Befreiungstatbestandes.“ Auf die passende Fassung weise man an anderer Stelle hin. Auch das trifft zu.

Somit ist der Beschluss inhaltlich korrekt und bedarf, wie das Gericht betont, keiner Korrektur. Zugleich wird deutlich, dass ChatGTP nicht immer so akkurat ist, wie man es sich wünscht. Das Gericht erklärt auf F.A.Z.-Anfrage, die Quellenlage in Georgien sei schwierig. Die Nutzung von KI ermögliche den Zugriff auf Quellen, die durch andere Rechercheinstrumente nicht ohne Weiteres auffindbar seien. „Die Fehleranfälligkeit von KI-Tools erfordert eine Gegenkontrolle, die erfolgt ist.“

Auf die Frage, ob man künftig bei der Angabe von Links verräterische Quellen wie „source=chatgpt.com“ löschen werde, heißt es, ausweichend: „Die Zitierweise gehört ebenso wie insgesamt das Abfassen von Entscheidungsgründen dem Bereich der richterlichen Unabhängigkeit an.“

Im Rahmen der richterlichen Unabhängigkeit dürften Richter KI-Tools wie etwa ChatGPT zu Recherchezwecken nutzen, verdeutlicht der Hessische Verwaltungsgerichtshof. „Dabei ist allerdings strikt zu beachten, dass Akteninhalte, insbesondere personenbezogene Daten sowie sensible Daten wie etwa Dienst- und Geschäftsgeheimnisse, nicht genutzt und verarbeitet, das heißt, nicht in das jeweilige KI-Tool eingespeist werden dürfen.“

Wenn Ihnen der Artikel gefallen hat, vergessen Sie nicht, ihn mit Ihren Freunden zu teilen. Folgen Sie uns auch in Google News, klicken Sie auf den Stern und wählen Sie uns aus Ihren Favoriten aus.

Wenn Sie weitere Nachrichten lesen möchten, können Sie unsere Nachrichten kategorie besuchen.

Quelle

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert