Er wollte sich einen peinlichen Auftritt vor Gericht sparen – und setzte dafür auf Künstliche Intelligenz. Doch die Richterin fand das alles andere als amüsant.
Es dauerte nicht lange, bis die Richterin durchschaut hatte, was gerade passierte. "Sehr geehrtes Gericht", setzte der junge, gut aussehende Mann gerade zu seiner Rede an, da unterbrach Sallie Manzanet-Daniels bereits die Sitzung. "Okay, halten Sie das an", platzte es aus der leitenden Richterin des Obersten Gerichtshof von New York heraus.
"Ist das Ihr Anwalt?", fragte sie den Kläger vor ihr im Gerichtssaal. "Nein, ich habe ihn mit KI erstellt, das ist kein echter Mensch", antwortete Jerome Dewald, der selbst mit verschränkten Händen zusehen wollte. "Es wäre nett, das vorher gewusst zu haben", zischte ihm die Richterin regelrecht entgegen. "Ich schätze es nicht, auf die falsche Fährte gelockt zu werden." Dann ließ sie das Video beenden.
KI-Anwalt verärgert Richterin
Dewald wollte es sich eigentlich leichter machen. Der 74-Jährige ficht derzeit einen Rechtsstreit mit einem ehemaligen Arbeitgeber aus. Weil er sich selbst vertritt, aber dazu neigt, zu stammen und zu stottern, hatte er die Aussage per Video beantragt – was ihm Richterin Manzanet-Daniels auch genehmigt hatte. Dass am Ende kein echter Mensch, sondern eine Künstliche Intelligenz vor Gericht sprechen würde, hatte er ihr nicht verraten. Er hatte zuerst eine Version seiner selbst erstellen wollen, war aber daran gescheitert, berichtet er der "New York Times". Der digitale Anwalt sei seine Notlösung gewesen. "Ich wollte meinen Fall nur so effektiv wie möglich präsentieren."
Die Richterin ärgerte sich in erster Linie über den Mangel an Transparenz. "Sie haben davon bei Ihrem Antrag kein Wort gesagt. Sie waren in der Vergangenheit in der Lage, hier mündlich auszusagen", sagte sie. "Wenn Sie also jetzt aussagen wollen, haben Sie fünf Minuten." Für Dewald folgte eine fast schmerzhaft peinliche Aussage. Weil er sich offensichtlich auf die KI verlassen musste, schien er sich nicht vorbereitet zu haben. In der Folge schien er mit einem Kopfhörer sein KI-Video abzuhören – um es dann stotternd nachzusprechen.
Es sei ihm extrem peinlich gewesen, gestand der Kläger auch gegenüber der Nachrichtenagentur "AP". "Die Richterin war wirklich sehr wütend. Sie hat mich ordentlich auseinandergenommen." Er habe seinen Fehler aber eingesehen und sich später schriftlich bei ihr entschuldigt. "Ich wollte nie jemanden hinters Licht führen", sagte er der "NYT". "Ich erkenne an, dass Offenheit und Transparenz Vorrang haben müssen."
Nicht der erste KI-Fail im Gerichtssaal
Wie auch in der übrigen Gesellschaft dürfte der Einsatz von KI im Gerichtssaal allerdings erst in den Kinderschuhen stecken. Das Schreiben und Interpretieren von Texten ist schließlich eine Kernaufgabe von Anwälten und Gerichten, gerade in diesem Bereich macht Künstliche Intelligenz in den letzten Jahren große Sprünge. Eine Studie hatte bereits 2003 gezeigt, dass Sprach-KI-Modelle bei der Prüfung von Verträgen ähnlich gut abschnitt wie junge Anwälte. Und das, obwohl die Programme bislang nicht auf Gesetztestexte und anwaltliche Aufgaben spezialisiert ist.
Allerdings lauern auch klare Risiken in der Automatisierung. Bereits mehrfach wurden Anwälte Klageschriften um die Ohren gehauen, weil sie Urteile und Gesetzestexte erfunden hatten. Der wohl prominenteste Fall: Donald Trumps ehemaliger Anwalt Michael Cohen hatte versucht, sich auf von Googles Chatbot Bard erfundene Urteilsbegründungen zu berufen. Seine Ausrede: Er habe nicht gewusst, dass KI lügen kann.
Quellen:New York Times,AP
