20250526 KI schreibt Klageschriften

Die Wahrheit und nichts als die Wahrheit

... sollen Zeugen vor Gericht sagen. Ansonsten droht ihnen bei einer vorherigen Vereidigung ein Strafprozess wegen Meineides. Aber gilt das auch für künstliche Intelligenzen? Vor 2 Jahren hatten wir über eine Künstliche Intelligenz (KI) berichtet, die die Verteidigung in einem Prozess vor einem US Gericht übernommen hatte. Da wir darüber später nichts mehr gehört haben und es scheinbar keine weiteren spektakulären Fälle dieser Art gegeben hat, haben wir es unter "Jokes" verbucht.

Nun sind aber vermehrt Richterinnen und Richter besorgt, dass Klageschriften, Entgegnungen und Gutachten unter Verwendung von KI geschrieben werden und einfach Unwahrheiten enthalten. Das geht wohl über die "normalen Unwahrheiten" und Beschönigungen - oft vorgebracht von den Beklagten - hinaus. Es wird einfach halluziniert, ein Vorgehen was bei KI oft beobachtet wird.

Dabei greift die KI auf Quellen und Fakten zurück, die überhaupt nicht existieren. Für die Richter bedeutet so etwas, dass sie gezwungen werden, jeden Nebensatz in einem umfangreichen Aufsatz auf seinen Wahrheitsgehalt zu hinterfragen.

t3n.de verweist dazu auf einen Fall, in dem Anwälte der Elitekanzlei „Ellis George“ Google's KI Modell Gemini sowie rechtsspezifische KI-Modelle verwendet hatten, um ein Dokument zu verfassen. Dieses enthielt falsche Informationen, wie der kalifornische Richter Michael Wilner feststellen musste. Erst als er die Anwälte unter Eid aussagen ließ, mussten sie ihm diese Tatsache bestätigen. Die Anwaltsfirma erhielt einen Strafbefehl über 31.000 Dollar.

Aber auch die Staatsanwaltschaften spielen gern mit KI, wie ein Fall aus Israel zeigt. Dort hatte ein KI Programm der Staatsanwaltschaft sich zum Abhören eines Telefonanschlusses auf nicht existierende Gesetze berufen. Die KI hatte wieder einmal einfach halluziniert, was den zuständigen Richter bewog die Staatsanwaltschaft zu tadeln.

Wieder müssen wir - wie im Artikel gestern - auf unsere Sendereihe zur "Künstlichen Intelligenz" verweisen. Die zunehmenden "künstlerischen Freiheiten" von künstlicher Intelligenz machen das Internet - und damit uns alle - nur dümmer. Wir müssen also befürchten, dass sich künftig immer häufiger in Dokumenten Fehler einschleichen. Das sind nicht nur die von Anwält:innen selbst verfasst wurden, sondern oft auch Sachverständigengutachten. Im Endergebnis bleibt es im Gerichtssaal bei einem Schlagabtausch von KI-generierten Gutachten, die mit der Realität nichts mehr zu tun haben, sondern deren "Qualität" nur vom Geldbeutel der Beteiligten abhängen.

Es ist also höchste Zeit gegen diese Entwicklung durch entsprechende Regeln und Vorschriften vorzugehen ...

Aufrufe: 97

Kommentar abgeben