Rechtsforschung und Rechtsprechung: Die Pflicht zur Überprüfung

Gewinne:

• Fähigkeit, eine Rechtsfrage in einen recherchierbaren Rahmen umzuwandeln und Vorrecherchen mit KI durchzuführen
• Fähigkeit, das Risiko erfundener Rechtsprechung/Zitate (Halluzinationen) zu erkennen und jede Quelle anhand des Primärtextes zu überprüfen
• Fähigkeit, einen Workflow zu etablieren, der KI als Ideengeber nutzt und die letztendliche Autorität offiziellen Quellen überlässt

Diese Einheit trägt die kritischste Warnung des gesamten Moduls. Künstliche Intelligenz (KI) kann eine flüssige, überzeugende und höchst sichere Antwort auf eine Rechtsfrage geben; Das Problem besteht darin, dass diese Antwort möglicherweise auf einem nicht existierenden Gesetz, einer erfundenen Gerichtsentscheidung oder einer falschen Referenz basiert. Dies nennt man Halluzination: wenn das Modell Informationen produziert, die real erscheinen, in Wirklichkeit aber erfunden sind. Es gibt weltweit Vorfälle, bei denen Anwälte dem Gericht gefälschte, von KI getroffene Entscheidungen vorlegen, weil sie denken, sie seien echt, und mit Geldstrafen, Reputationsverlust und Disziplinarstrafen rechnen müssen. Deshalb gibt es in dieser Einheit eine eiserne Regel: KI führt Voruntersuchungen durch; Die ultimative Autorität ist immer die primäre Quelle.

Lassen Sie uns die Begriffe klären. Die Rechtsprechung ist die Entscheidung der Gerichte in vergleichbaren Fällen und gilt als richtungweisend. Die primäre Quelle ist der tatsächliche Gesetzestext: der Text des geltenden Gesetzes/der geltenden Verordnung und der Text der offiziellen Entscheidung (z. B. Amtsblatt, vom Gericht selbst veröffentlichte Entscheidung). Sekundärquellen sind Artikel, Kommentare und dazu verfasste Kommentare. Ein Zitat ist ein formeller Verweis auf eine Entscheidung oder einen Artikel (Entscheidungsnummer, Artikelnummer). Bei der Verifizierung handelt es sich um den Prozess der Überprüfung jeder von der KI bereitgestellten Zuschreibung aus der Primärquelle selbst.

Warum ist es so gefährlich?

KI ist eine Sprachvorhersagemaschine, keine „Faktendatenbank“. Er hat gelernt, wie eine Entscheidungsnummer aussieht, wie man eine Begründung schreibt; Daher kann es eine Entscheidung „herstellen“, die es tatsächlich nicht gibt, im richtigen Format und mit einer überzeugenden Begründung. Und er tut dies in demselben souveränen Ton, mit dem er eine tatsächliche Entscheidung mitteilt. Es gibt also keine offensichtlichen Warnzeichen einer Halluzination; Nur weil es „sicher aussieht“, heißt das nicht, dass es vertrauenswürdig ist.

Die zweite Gefahr ist die Aktualität: Die Trainingsdaten der KI werden zu einem bestimmten Datum abgeschnitten. Das Modell ist möglicherweise nicht über geänderte Gesetze, abgeschaffte Artikel oder neue Rechtsprechung nach diesem Datum informiert; Allerdings stellt das Modell möglicherweise alte/falsche Informationen als aktuell dar.

Achtung: Ignorieren Sie eine KI-Entscheidungsnummer, Artikelnummer oder ein Zitat, wenn diese nicht anhand der Primärquelle verifiziert wurden. Es gibt keine Kategorie von „wahrscheinlich wahr“; Rechtlich gesehen ist die Referenz entweder verifiziert oder unbrauchbar.

Sicherer Forschungsworkflow

Der sichere Einsatz von KI in der Rechtsrecherche besteht darin, sie als „denkenden Partner“ und nicht als „Antwortmaschine“ zu positionieren. Schritt für Schritt:

1. Formulieren Sie die Frage. Klären Sie den Sachverhalt, die Rechtsfrage und welches Rechtsgebiet (Wirtschafts-, Handels-, Schuldrecht) Sie fragen.
2. Nutzen Sie KI als Ideen-/Rahmengenerator. Mögliche Argumente, zu betrachtende Konzepte, gegensätzliche Ansichten.
3. Fragen Sie nicht nach konkreten Referenzen, sondern nach einem Suchbegriff. Anstatt die KI zu bitten, eine Entscheidungsnummer zu erstellen, fragen Sie nach Schlüsselkonzepten und Begriffen, nach denen Sie in der offiziellen Datenbank suchen.
4. Überprüfen Sie jede Quelle anhand der Primärquelle. Jeder getroffene Punkt/Entscheidung wird durch die offizielle Gesetzgebung und den Entscheidungstext bestätigt.
5. Auf Aktualität prüfen. Prüfen Sie, ob der Artikel gültig ist und ob er sich geändert hat.
6. Die endgültige Ansicht wird von Menschen erstellt. KI erstellt Argumentationsentwürfe; Rechtsmeinung und Verantwortung liegen beim Anwalt.

Ihre Rolle: ein juristischer wissenschaftlicher Mitarbeiter. SIE SIND NICHT die letzte Autorität. Thema: [kurze Zusammenfassung des Falles und der Rechtsfrage]. Tun Sie Folgendes: 1) Listen Sie die Rechtskonzepte und möglichen Argumentationsstränge auf, die bei der Analyse dieser Frage berücksichtigt werden sollten es. Wenn Sie sich nicht sicher sind, sagen Sie „Ich weiß nicht“; Raten Sie nicht.

Wenn KI dennoch konkrete Zuschreibungen hervorbringt, ist es notwendig, diese in eine Verifizierungswarteschlange einzureihen. Wenn man die KI selbst sagen lässt: „Überprüfe dies“, ist das keine Verifizierung; Die Überprüfung erfolgt durch Menschen anhand der offiziellen Quelle.

Nachfolgend sind die Referenzen aufgeführt, die ich in meinem Argumentationsentwurf verwenden möchte. Erstellen Sie eine ÜBERPRÜFUNGS-CHECKLISTE für Folgendes: (a) welche offizielle Quelle gesucht werden sollte, (b) was bestätigt werden muss (Wirksamkeit des Artikels, Existenz der Entscheidung und ihr Gegenstand), (c) was zu tun ist, wenn es nicht überprüft werden kann. Gehen Sie NICHT davon aus, dass die Zuschreibungen korrekt sind; Sagen Sie mir einfach, wie ich es verifizieren kann.

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwache Aufforderung: Geben Sie die Präzedenzfälle des Obersten Gerichtshofs und relevante Artikel zu diesem Thema mit ihren Nummern an.

Ergebnis: Entscheidungszahlen und Artikel im richtigen Format mit überzeugender Begründung, die jedoch ganz oder teilweise erfunden sein können. Sie zu verwenden, ohne sie zu überprüfen, ist ein schwerwiegender beruflicher Fehler.

Leistungsstarke Eingabeaufforderung: [Assistentenrolle + „Sie sind nicht die letzte Autorität“ + Konzept-/Argumentanalyse + Suchbegriff anstelle der Entscheidungsnummer + Tag „MUSS ÜBERPRÜFEN“ + „Wenn Sie nicht sicher sind, sagen Sie, ich weiß es nicht“ + separate Checkliste für die Überprüfung]

Ergebnis: Eine Rechercheunterstützung, die Ihr Denken beschleunigt, Sie aber nicht in erfundene Referenzen hineinzieht und jede konkrete Information zur Überprüfung in die Warteschlange stellt.

Wo man KI einsetzt und wo nicht

Suche

Ist KI geeignet?

Warum

Generierung von Argumenten/Gegenargumenten

Ja (Entwurf)

Bietet Ideenvielfalt

Konzepte und Suchbegriffe vorschlagen

Ja

Beschleunigt die Forschung

Text vereinfachen/zusammenfassen

Ja (mit Verifizierung)

Basierend auf dem gegebenen Text

Konkrete Entscheidung/Artikelnummer

Nein (ohne Verifizierung)

Hohes Halluzinationsrisiko

Neueste Version der aktuellen Gesetzgebung

Nein (allein)

Die Trainingsdaten sind möglicherweise veraltet

Abschließendes Rechtsgutachten

Nein

Verantwortung und Autorität gehören den Menschen

Drei Mini-Hüllen

Fall 1 – Betrügerische Entscheidungen. Ein Anwalt bat die AI um „Präzedenzentscheidungen“ zur Unterstützung einer Petition und fügte der Petition 4 der 6 Entscheidungen ohne Überprüfung hinzu. Als die Gegenpartei nachwies, dass keine der Entscheidungen existierte, verlor der Anwalt das Vertrauen in den Fall und musste mit einem Disziplinarverfahren rechnen. Anschließend machte das Büro eine schriftliche Richtlinie, dass „keine Namensnennung von KI in die Akte eingeht, ohne dass die Primärquelle überprüft wurde“; Im nächsten Quartal sank die Zahl der unbestätigten Zitate auf Null.

Fall 2 – Aufgehobener Artikel. Ein Compliance-Experte war dabei, einen Prozess auf der Grundlage eines Regulierungsartikels einzurichten, auf den AI verwiesen hatte. Beim Update-Check stellte er fest, dass der Artikel vor einem Jahr geändert worden war; Die Trainingsdaten der KI waren veraltet. Der Experte richtete den Prozess nach dem aktuellen Text ein. Lektion: KI-Regulierungsinformationen sind eine „Momentaufnahme“ und möglicherweise veraltet.

Fall 3 – Richtige Verwendung. Ein Rechtsteam nutzte KI ausschließlich zur Erstellung einer Argumentkarte und eines Suchbegriffs zu einer komplexen wettbewerbsrechtlichen Frage. Die KI schlug 9 zu prüfende Konzepte und 4 mögliche Gegenargumente vor; Tatsächliche Entscheidungen zu diesen Begriffen hat das Team in der offiziellen Datenbank gefunden und überprüft. Die konzeptionelle Vorbereitungsphase der Forschung wurde halbiert; Es wurde jedoch keine Namensnennung ohne Überprüfung durch AI verwendet. Geschwindigkeit gewonnen, Zuverlässigkeit erhalten.

Häufige Fehler

• Die Entscheidung/Artikelnummer direkt von der KI erfragen und ohne Verifizierung verwenden. Dies ist der häufigste und schwerwiegendste Fehler.
• Vertrauensvoll: „Er scheint sicher zu sein.“ Ein selbstbewusster Ton ist kein Beweis für Wahrhaftigkeit.
• Umgehen der Frischeprüfung. Das regulatorische Wissen über KI ist in der Bildungsgeschichte eingefroren; kann Änderungen übersehen.
• Lassen Sie die KI ihre Zuschreibung überprüfen. Modellfehler können allein nicht zuverlässig erkannt werden; Die Überprüfung erfolgt anhand der offiziellen Quelle.
• KI mit der ultimativen Autorität verwechseln. KI ist ein vorläufiges Forschungsinstrument; Rechtsmeinung und Verantwortung liegen beim Menschen.
• Keine Rückverfolgung der Quelle. Wenn nicht erfasst wird, welche Zuordnung von wo aus überprüft wurde, entsteht eine Lücke bei der Prüfung und Verteidigung.

Zusammenfassend

In der juristischen Forschung ist KI ein mächtiger Denkpartner, aber auch eine gefährliche „Antwortmaschine“. Das größte Risiko stellen Halluzinationen dar, also erfundene Urteile und Zuschreibungen; Der zweite Punkt ist die Aktualität, das heißt, die Trainingsdaten sind veraltet. Der sichere Weg ist klar: Verwenden Sie KI, um Argumente und Suchbegriffe zu generieren, verwenden Sie niemals konkrete Referenzen ohne Überprüfung, überprüfen Sie jede Quelle anhand des Primärtexts und lassen Sie den Menschen die endgültige Meinung bilden. KI beschleunigt die Forschung; Die primäre Quelle und der qualifizierte Fachmann entscheiden, was real und gültig ist.

Anwendungsaufgabe

Wählen Sie eine Rechtsfrage (Sachverhalt oder Beispiel). (1) Erhalten Sie eine Konzeptkarte, Suchbegriffe und Gegenargumente von der KI mit sicherer Rechercheaufforderung; Stellen Sie sicher, dass keine Entscheidungsnummer angegeben ist. (2) Wenn die KI immer noch einen Punkt/eine Entscheidung getroffen hat, platzieren Sie ihn/sie mit der Validierungs-Checklisten-Eingabeaufforderung in einer Validierungswarteschlange. (3) Bestätigen Sie eine authentische Quelle, indem Sie eine offizielle Quelle mit mindestens drei der vorgeschlagenen Suchbegriffe durchsuchen. (4) Schreiben Sie die Regel „Keine Attribution von KI wird ohne Überprüfung verwendet“ in Ihren eigenen Workflow.

Checkliste

• [ ] Wird KI eher als Forschungsassistent denn als ultimative Autorität positioniert?
• [ ] Wurde statt einer konkreten Referenz ein Konzept und ein Suchbegriff abgefragt?
• [ ] Ist jeder Punkt/jede Entscheidung, die die KI trifft, mit „Muss überprüft werden“ gekennzeichnet?
• [ ] Wurde jedes Zitat anhand der primären (offiziellen) Quelle überprüft?
• [ ] Wurden die Artikel auf Aktualität/Gültigkeit geprüft?
• [ ] Wurde das endgültige Rechtsgutachten von einem Menschen erstellt?
• [ ] Werden Verifizierungsquellen und Trace aufgezeichnet?