Trug und Täuschung im Gerichtssaal

Wenn künstliche Intelligenz Rechtsfälle erfindet

Die Nutzung von künstlicher Intelligenz (KI) hat viele Branchen revolutioniert, nun dringt sie auch in das Rechtssystem ein - allerdings nicht immer auf positive Art und Weise. Sogenanntes "Fake Law", also von KI-Systemen erdachte und gefälschte Gesetze und Rechtsfälle, werden immer häufiger in Gerichtsverfahren eingesetzt. Dies wirft nicht nur Fragen der Legalität und Ethik auf, sondern droht auch das Vertrauen der Öffentlichkeit in die globalen Rechtssysteme zu untergraben.

Wie kommt es dazu? Generative KI-Modelle werden mit großen Datenmengen trainiert und können auf Anfrage neue Inhalte wie Texte oder audiovisuelle Materialien erstellen. Obwohl diese Inhalte sehr überzeugend erscheinen können, sind sie oft ungenau oder sogar falsch, da die KI versucht, Lücken in den Trainingsdaten zu füllen. Diese als "Halluzinationen" bezeichneten Fehleinschätzungen können dann in Rechtsstreitigkeiten eingebracht werden, was zu verheerenden Folgen führen kann.

Ein bekanntes Beispiel ist der US-Fall "Mata gegen Avianca" aus dem Jahr 2023. Dabei legten Anwälte einem New Yorker Gericht Schriftsätze vor, die mit Hilfe von ChatGPT recherchiert worden waren und gefälschte Auszüge sowie Fallzitate enthielten. Als der Irrtum aufflog, wies das Gericht den Fall des Mandanten ab, bestrafte die Anwälte wegen bösgläubigen Handelns und verhängte Strafen gegen sie und ihre Kanzlei.

Solche Fälle sind leider keine Einzelfälle. Auch in Kanada und Großbritannien sind in jüngster Zeit ähnliche Vorfälle aufgetaucht, bei denen Anwälte oder sogar Mandanten arglos auf von KI-Chatbots wie Google Bard generierte Schriftsätze vertraut haben. Diese Entwicklung droht das Vertrauen der Öffentlichkeit in das gesamte Rechtssystem zu untergraben.

Gerichte und Aufsichtsbehörden weltweit haben darauf reagiert, indem sie Leitlinien für den Umgang mit generativer KI in Rechtsstreitigkeiten erlassen haben. Diese reichen von verantwortungsvoller Akzeptanz bis hin zu vollständigen Verboten. Dennoch ist ein verbindlicher Regelungsrahmen erforderlich, um Anwälte daran zu hindern, KI-generierte Inhalte unkritisch als Ersatz für ihre eigene Sorgfaltspflicht zu verwenden.

Australische Gerichte und Anwaltskammern sollten daher dringend Richtlinien oder Regeln erlassen, die klare Erwartungen an den Einsatz von generativer KI in Rechtsstreitigkeiten definieren. Nur so kann das Vertrauen der Öffentlichkeit in die Rechtspflege gewahrt und die Integrität des Rechtssystems geschützt werden.

Quellenangabe:

Dieser Artikel basiert auf einem Beitrag von Michael Legg und Vicki McNamara, der auf The Conversation / The Decoder veröffentlicht wurde.

Quelle: https://the-decoder.de/ki-schafft-fiktive-rechtsfaelle-und-haelt-einzug-in-reale-gerichtssaele-mit-katastrophalen-folgen/

Schlussfolgerungen für Trainer, Berater und Coaches:

• KI-generierte "Fake Law" stellen eine ernstzunehmende Bedrohung für die Integrität des Rechtssystems dar und können das Vertrauen der Öffentlichkeit in die Justiz untergraben.
• Selbstständige Trainer, Berater und Coaches, die im Rechtsbereich tätig sind, müssen sehr sorgfältig mit KI-Werkzeugen umgehen und deren Grenzen und Fehleranfälligkeit kennen.
• Es ist wichtig, Anwälte und Mandanten für die Gefahren von "Fake Law" zu sensibilisieren und ihnen Leitlinien an die Hand zu geben, wie generative KI verantwortungsvoll und ethisch eingesetzt werden kann.
• Trainer und Coaches können Anwälte dabei unterstützen, ihre technologischen Kompetenzen zu stärken und einen kritischen Umgang mit KI-Systemen in der Rechtspraxis zu etablieren.
• Durch proaktive Maßnahmen und Schulungen können Berater dazu beitragen, das Vertrauen in das Rechtssystem zu wahren und Fehlentwicklungen wie "Fake Law" frühzeitig zu erkennen und zu verhindern.

Bildnachweis: TTD - DALL E3

Bernhard:6.04.2024

Diese News wurde von mir mit Hilfe von Claude-3-Haiku auf POE erstellt.