Disziplin der Quellenüberprüfung, Halluzination und Zuschreibung

Gewinne:

• Zu wissen, warum die Halluzination im menschlichen Bereich verborgen ist, und in der Lage zu sein, jede Quelle durch die fünfstufige Verifizierungskette (Existenz, Impressum, Zitat, Kontext, Zuschreibung) weiterzuleiten.
• Möglichkeit, die Authentizität der Quelle mit konkreten Identitäten wie DOI, ISBN und Katalog zu bestätigen.
• Verstehen Sie die Disziplin, der künstlichen Intelligenz die Herstellung von Erfindungen zu verbieten und ihr niemals die Überprüfung der Zitat- und Zuschreibungsehrlichkeit zu übertragen.

Der Wert eines Textes im menschlichen und sozialen Bereich hängt von der Authentizität und der korrekten Übertragung der ihm zugrunde liegenden Quellen ab. Ein literarischer Aufsatz, eine Abschlussarbeit, ein Vorlesungsskript – alle basieren auf zuverlässigen Quellen und einer ehrlichen Quellenangabe (die zeigt, von wem/woher Sie Informationen oder ein Zitat erhalten haben). KI bietet in diesem Bereich großen Komfort, birgt aber auch die größte Gefahr: Halluzination, also die Darstellung einer nicht existierenden Quelle, eines Zitats oder einer Tatsache als real. Diese Einheit hat sich zum Ziel gesetzt, einen „Verifizierungsschutz“ gegen diese Gefahr aufzubauen.

Ein-Satz-Regel: Keine von der KI generierte Quelle, kein Zitat, kein Datum oder keine Zahl kann in den Text eingegeben werden, ohne dass dies von einer primären oder zuverlässigen Quelle aus der ersten Person bestätigt wird. Diese Regel ist die am häufigsten wiederholte und am wenigsten flexible Regel dieses Moduls.

Warum ist Halluzination in diesem Bereich so gefährlich?

Wenn die KI in einer technischen Frage falsch liegt, fällt das oft auf; aber im menschlichen Bereich wird die Halluzination geschickt verheimlicht:

• Realistische Byline: AI kombiniert den Namen eines echten Autors mit einem zum Fachgebiet passenden Titel und einer angemessenen Jahreszahl. Das Ergebnis ist eine Quelle, die nicht existiert, aber absolut echt aussieht.
• Stilgerechtes Zitat: KI kann den Stil eines Autors nachahmen und einen Satz, der nicht zu ihm gehört, als „sein Wort“ darstellen.
• Nahes, aber falsches Datum: Das Jahr eines Werkes kann um ein oder zwei Jahre verschoben sein; Dies entgeht dem unvorsichtigen Leser.
• Verwirrte Zuschreibung: Kann eine Idee der falschen Person zuordnen.

All dies kann heimlich in den Text eines Autors mit ehrlichen Absichten eindringen und, wenn es nicht erkannt wird, sowohl den Ruf des Autors als auch das Vertrauen des Lesers schädigen.

Achtung: Nur weil eine Ressource für die KI „realistisch“ erscheint, heißt das nicht, dass sie real ist. Realismus und Realität sind zwei verschiedene Dinge; KI beherrscht Ersteres, Letzteres kann sie nicht garantieren.

Verifizierungsrüstung: Schritt für Schritt

Befolgen Sie für jede Quelle und jedes Zitat diese Kette:

1. Gibt es? Suchen Sie im Bibliothekskatalog, in einer zuverlässigen Datenbank oder auf der Website des Herausgebers nach der Quelle. Wenn es nicht gefunden werden kann, existiert es nicht – verwenden Sie es nicht.
2. Stimmt das Impressum? Autor, Titel, Verlag/Zeitschrift, Jahr, Seite – alles muss genau übereinstimmen.
3. Ist das Zitat echt? Suchen Sie das Zitat in der Quelle selbst auf der angegebenen Seite und vergleichen Sie es wörtlich.
4. Stimmt der Kontext? Wird das Zitat wörtlich verwendet oder wurde es verfälscht?
5. Ist die Namensnennung ehrlich? Wird die Idee der richtigen Person zugeschrieben, wird etwas aus einer sekundären Quelle als primär dargestellt?

Wenn auch nur ein Glied dieser Kette unterbrochen ist, kann es nicht in den Quelltext gelangen.

Tipp: Weisen Sie die KI von Anfang an an: „Geben Sie keine Quellen heraus, von denen Sie nicht sicher sind, ob sie existieren. Wenn Sie sich nicht sicher sind, sagen Sie ‚Ich konnte die Quelle nicht finden‘.“ Dies beendet die Halluzination nicht vollständig, veranlasst die KI jedoch dazu, „Ich weiß nicht“ zu sagen, anstatt sich zu versöhnen.

Zitieren und Zitierdisziplin

Neben der Verifizierung ist auch die ehrliche Namensnennung eine Disziplin:

• Geben Sie das direkte Zitat mit Anführungszeichen und Seite an; Lass es wörtlich sein.
• Verknüpfen Sie auch indirekte Zitate (Zusammenfassung mit Ihren eigenen Worten) mit der Quelle; Wenn die Idee nicht von Ihnen stammt, muss sie benannt werden.
• Geben Sie den KI-Beitrag gemäß den Regeln Ihrer Organisation transparent an. KI ist keine „Ressource“, aber wenn sie verwendet wird, muss sie deklariert werden.
• Stellen Sie die Sekundärquelle nicht als Primärquelle dar; Wenn Sie ein Zitat eines Autors aus einem anderen Buch übernommen haben, geben Sie dies an.

drei Mini-Koffer

Fall 1 – Zwei der fünf Quellen erwiesen sich als fiktiv. Ein Forscher durchlief den Verifizierungsprozess von 5 von AI bereitgestellten Quellen. 2 waren überhaupt nicht im Katalog, 1 hatte das falsche Jahr, 2 waren echt und korrekt. Es wurden nur die beiden überprüften verwendet; Artikel vor fiktiver Namensnennung geschützt.

Fall 2 – Angebotsverzerrung erkannt. Ein Student fand in einem tatsächlichen Buch ein Zitat von AI, das im ursprünglichen Kontext jedoch genau das Gegenteil bedeutete. Die KI hatte den Satz aus dem Zusammenhang gerissen. Der Student hat das Zitat im richtigen Kontext korrigiert.

Fall 3 – Falsche Zuordnung korrigiert. In einem Vorlesungsskript schrieb AI eine Meinung dem falschen Autor zu. Als der Lehrer es mit zwei zuverlässigen Quellen abgleichte, fand er den rechtmäßigen Besitzer und reparierte es. Die Notiz überlebte, ohne dass der Schüler Schaden nahm.

Vier kopierbare Vorlagen

1) Fabrikationsverbotsanweisung:

Von nun an: Geben Sie KEINE Quellen, Zitate, Daten oder Zahlen an, von denen Sie nicht sicher sind, ob sie existieren. Wenn Sie sich nicht sicher sind, sagen Sie „Bestätigung erforderlich“ oder „Ich konnte es nicht finden“. Geben Sie niemals ein Etikett an, das realistisch ist, dessen Authentizität Sie jedoch nicht garantieren können. Befolgen Sie diese Regel bei jeder Antwort.

2) Roadmap zur Quellenüberprüfung:

Ich werde die Quelle unten selbst überprüfen. Sagen Sie mir, wo ich nach dieser Ressource suchen soll (Katalog, Datenbank, Verlag) und mit welchen Schlüsselinformationen. SIEbestätigen, dass die Ressource vorhanden ist; Geben Sie einfach die Verifizierungsschritte an.Quelle: [Credit einfügen]

3) Prüfung des Zitatkontexts:

Nachfolgend finden Sie ein Zitat und den eigentlichen Absatz, in dem es vorkommt. Wird das Zitat im ursprünglichen Kontext verwendet oder wurde es verfälscht? Verlassen Sie sich einfach auf den Text, den ich Ihnen gegeben habe. Hinzufügen eines Kommentars.Zitat: [...] Ursprünglicher Absatz: [...]

4) Prüfung der Attributionsintegrität:

In meinem Text unten: Für welche Sätze ist eine Quelle erforderlich, die jedoch nicht zugeordnet werden kann, welche Idee möglicherweise von jemand anderem stammt, gibt es eine Stelle, an der ich die sekundäre Quelle als primär zeige? Vorschlagen erfundener Quellen; Weisen Sie einfach auf fehlende Zitate hin.Text: [Text einfügen]

Schwache Eingabeaufforderung / Starke Eingabeaufforderung

Schwach: „Geben Sie 5 wissenschaftliche Quellen und Zitate zu diesem Thema an.“

Güçlü: „Sagen Sie mir, nach welchen Quellen und Schlüsselwörtern ich bei der Recherche zu diesem Thema suchen soll. Geben Sie keine Referenzen oder Zitate an, von denen Sie nicht sicher sind, ob sie existieren. Wenn Sie nicht sicher sind, sagen Sie „Ich konnte sie nicht finden“. Ich werde Ihnen die Quellen, die ich finde, später nennen; ich werde die Zitate aus den Büchern bestätigen.“

Die kraftvolle Aufforderung verschließt der Halluzination die Tür und überlässt die Überprüfung dem Menschen. Die schwache Aufforderung lädt direkt zur imaginären Ressourcenproduktion ein.

Validierungskettentabelle

Schritt

Frage

Verifizierungsort

Entität

Existiert die Quelle wirklich?

Katalog / Datenbank

Impressum

Sind Autor, Jahr und Seite korrekt?

Herausgeber/Impressum

Zitat

Steht es wörtlich im Text?

die Quelle selbst

Kontext

Ist die Bedeutung verfälscht?

Hauptabsatz

Zitat

An die richtige Person?

Gegenprüfung

Verifizierung mit Permanentlink und Impressum

Es gibt konkrete Möglichkeiten, schnell und zuverlässig zu bestätigen, ob eine Ressource tatsächlich vorhanden ist. Die meisten modernen wissenschaftlichen Publikationen verfügen über einen DOI (Digital Object Identifier – eine unveränderliche eindeutige ID, die einer Publikation dauerhaft zugewiesen ist; sie fungiert wie ein Link und führt direkt zur Publikation). Wenn Sie auf die eigentliche Veröffentlichung zugreifen, indem Sie den DOI eines Artikels in einen Browser eingeben, ist diese Quelle vorhanden; Wenn Sie es nicht finden können oder der DOI überhaupt nicht existiert, seien Sie misstrauisch. KI-generierte „DOIs“ sind oft erfunden und führen zu nichts. Dies ist einer der praktischsten Tests zur Erfassung der imaginären Quelle.

ISBN (International Standard Book Number) bietet eine ähnliche Identifizierung für Bücher; Sie können die Echtheit des Buchs überprüfen, indem Sie in einem Bibliothekskatalog oder einer zuverlässigen Buchdatenbank nach der ISBN suchen. Überprüfen Sie bei Zeitschriften den Zeitschriftennamen und die Band-/Ausgabeinformationen auf der offiziellen Website des Herausgebers. Diese konkreten Identitäten sind die Antwort auf die Frage „Ist die Quelle real?“ Es beantwortet Ihre Frage innerhalb weniger Minuten klar und deutlich.

Diese Methoden verwandeln die Verifizierung in eine „Transaktion“ und nicht in eine „Bestandsaufnahme“: Wenn Sie jede Quelle persönlich, im Katalog, per DOI oder auf der Verlagsseite öffnen und betrachten, ist das Risiko einer Phantomzuschreibung weitgehend ausgeschlossen.

Tipp: Wenn Sie mit Ihrer Bibliographie fertig sind, machen Sie eine „Klick-Tour“: Öffnen Sie tatsächlich den DOI oder den Katalogeintrag jeder Quelle. Selbst eine einzelne Ressource, die nicht geöffnet wird, stellt eine Warnung dar; entweder mit dem richtigen Impressum korrigieren oder aus der Liste entfernen.

Häufige Fehler

• Realismus mit Realität verwechseln. Die plausible Identität einer KI beweist nicht ihre Existenz.
• Das Zitat aus der Quelle wird nicht überprüft. Es können erfundene oder verzerrte Zitate durchsickern.
• Geschichte aus einer Hand erhalten. Vergleichen Sie dies mit mindestens zwei zuverlässigen Quellen.
• Den Sekundärteil wie den Primärteil aussehen lassen. Geben Sie die Übertragungskette ehrlich an.
• Nennen Sie KI als Quelle. KI ist keine Ressource; die Verwendung wird erklärt, auf die Primärquelle wird verwiesen.

Zusammenfassend

Ehrlichkeit in den Geisteswissenschaften hängt von der Quellen- und Zitiergenauigkeit ab. Die größte Gefahr von KI besteht darin, dass sie Quellen und Zitate produziert, die realistisch aussehen, aber nicht existieren. Führen Sie jede Quelle und jedes Zitat durch die fünfstufige Verifizierungskette (Entität, Quellenangabe, Zitat, Kontext, Namensnennung). Verbieten Sie der KI von Anfang an das Fälschen und delegieren Sie niemals die Überprüfung an sie. Diese Disziplin ist der Garant für Ihre Zuverlässigkeit in diesem Beruf.

Anwendungsaufgabe

Versuchen Sie, von der KI einige Quellen und ein Zitat zu einem Thema vorschlagen zu lassen. Führen Sie jede Quelle durch die Verifizierungskette: Wie viele existieren tatsächlich, wie viele haben eine korrekte Quellenangabe, ist das Zitat tatsächlich in der Quelle enthalten? Schreiben Sie die Ergebnisse in eine Tabelle. Diese Erfahrung wird die Grenzen der KI in diesem Bereich konkret aufzeigen.

Checkliste

• [ ] Ich habe die Existenz jeder Ressource im Katalog bestätigt.
• [ ] Ich habe jedes Zitat wörtlich anhand der Originalquelle überprüft.
• [ ] Ich habe überprüft, dass der Kontext des Zitats nicht verfälscht wurde.
• [ ] Ich habe die Daten mit mindestens zwei Quellen abgeglichen.
• [ ] Ich habe der KI das Fälschen verboten und die Überprüfung nicht an sie delegiert.