Wenn die KI Urteile erfindet

In einem arbeitsrechtlichen Streit legte ein Anwalt Beschwerde beim Bundesarbeitsgericht ein. Dem Gericht fiel ins auge, dass sich die schriftliche Begründung deutlich von den sonstigen Schriftsätzen des Anwalts unterschied. Es gab nicht nur ungewöhnliche Formulierungen, sondern auch einige auffällige Fundstellen.

Vier der dort aufgeführten Gerichtsentscheidungen gab es bei näherer Prüfung überhaupt nicht. Drei weitere wurden mit einem fehlerhaften Inhalt wiedergegeben, sogenannte „Halluzinationen“, die bei der Nutzung  generativer KI auftreten können.

Hatte dies Auswirkungen auf die Entscheidung des Gerichts im vorliegenden Fall? 

Der Anwalt gab zwar an, den Schriftsatz selbst verantwortet zu haben. Das Bundesarbeitsgericht verwarf die Beschwerde trotzdem als unzulässig. Die gravierenden Fehler sprachen dagegen, dass er den Text eigenverantwortlich geprüft hatte. 

Erstellt ein Anwalt einen n Schriftsatz nicht selbst, muss er ihn trotzdem eigenständig prüfen und dafür die volle Verantwortung übernehmen. Insbesondere das Auftauchen fre erfundener Urteile in seinem Schriftsatz seinen ein deutlicher Hinweis, dass eine solche Prüfung nicht stattgefunden hatte.

Bemerkenswert an der Entscheidung ist: Nicht die Nutzung von Künstlicher Intelligenz ist das Problem, sondern die (fehlende) Kontrolle von Ergebnissen. 

Nicht nur vor Gericht, auch für die Aufgaben von Betriebsräten kann KI einige Hilfe bieten; wie z.B. beim Finden guter Formulierungen. Aber: KI-Ergebnisse sind keine verlässliche Quelle. Besondere Vorsicht ist also geboten, wenn ein KI-Ergebnis zur Grundlage einer wichtigen Entscheidung wird. KI kann unterstützen, die Verantwortung bleibt beim Menschen. Dass diese Kontrolle hier offensichtlich fehlte, führte am Ende zur Abweisung der Klage wegen Unzulässigkeit. (cbo)