Gewinne:
- Fähigkeit zu erklären, warum Halluzinationen (erfundene Quelle, Zitat, Ereignis) und Anachronismus die gefährlichsten Fehler der Geschichte sind
- Fähigkeit, die Disziplin anzuwenden, jede Referenz im Katalog zu überprüfen, den Inhalt mit dem Dokument zu vergleichen und kritische Fakten zu bestätigen.
- Fähigkeit, Voreingenommenheit und fehlende Stimmen in Quellen zu hinterfragen, indem künstliche Intelligenz gefragt wird, wo statt der echten Quelle gesucht werden soll
In jeder Einheit dieses Moduls wird ein Vorbehalt wiederholt: Die Ausgabe der KI ist eine Behauptung und keine Tatsache, bis sie überprüft wird. Diese Einheit verwandelt diese Warnung in eine Disziplin. Geschichte und Archivierung sind von Natur aus evidenzbasierte Bereiche; Die grundlegendste Fähigkeit eines Historikers ist die Quellenkritik (hinterfragen, von wem, wann, zu welchem Zweck eine Quelle erstellt wurde und wie zuverlässig sie ist). Im Zeitalter der KI ist diese Fähigkeit noch wichtiger geworden, da die Quelle selbst nun möglicherweise erfunden ist.
Hier werden wir drei Gefahren ausführlich behandeln: Halluzination (KI erzeugt erfundene Informationen, Quellen oder Zitate), Anachronismus (periodische Elemente werden in die falsche Periode verschoben) und die Disziplin der Quellenüberprüfung im Allgemeinen. Wir werden auch sehen, dass KI aus Quellen lernt, die in der Vergangenheit ungenau oder voreingenommen waren, sodass sie Voreingenommenheit reproduzieren kann.
Halluzination: der gefährlichste Fehler
Eine Halluzination liegt vor, wenn eine KI selbstbewusst etwas präsentiert, das in Wirklichkeit nicht existiert. Historisch gesehen tritt es am häufigsten in den folgenden Formen auf:
- Erfundene Quelle/Referenz: Ein nicht vorhandener Archivbestand, Aktenzeichen, Buch oder Artikel.
- Erfundenes Zitat: Ein Wort, das nicht wirklich gesagt wurde, ein Satz, der nicht im Dokument enthalten ist.
- Erfundenes Ereignis/Datum/Person: Ein Ereignis, das nicht stattgefunden hat, ein falsches Datum, eine Person, die nicht existiert.
- Fiktive Verbindung: Eine nicht existierende Ursache-Wirkungs-Beziehung zwischen zwei realen Ereignissen.
Was eine Halluzination gefährlich macht, ist, dass sie glaubwürdig erscheint. Eine erfundene Referenz hat das gleiche Format wie eine echte Referenz: Fondsname, Nummer, Datum. „Format sieht richtig aus“ bedeutet also niemals „richtig“.
Achtung: Keine von YZ hergestellte Ressource kann verwendet werden, ohne überprüft und im Katalog oder an einem zuverlässigen Ort gefunden zu werden. Der einzige Weg, die Existenz einer Referenz nachzuweisen, besteht darin, sie dort einzusehen, wo sich die Originalquelle befindet (Archivkatalog, Bibliothek, Publikation). „KI hat es gegeben“ ist kein Beweis.
Anachronismus: Brillen der Zeit
Anachronismus bedeutet, die Vergangenheit durch die heutige Brille zu sehen. Da KI in der heutigen Sprache trainiert wird, weist sie eine starke Tendenz auf:
- Begriffsanachronismus: Verwendung eines Wortes, einer Institution oder eines Konzepts, das nicht zu dieser Zeit gehört.
- Begriffsanachronismus: Projektion einer Vorstellung von der Gegenwart (z. B. einer modernen Ideologie oder Identität) in die Vergangenheit.
- Werteanachronismus: Verhalten in der Vergangenheit nur nach heutigen Maßstäben beurteilen.
Die Aufgabe des Historikers besteht darin, die Vergangenheit in ihrem Kontext zu verstehen. Der KI fehlt diese Kontextsensitivität; Sie müssen es selbst bereitstellen.
Wenn man versteht, warum Halluzinationen so häufig auftreten, kann man sich leichter davor schützen. KI ist ein System, das daran arbeitet, das „nächstwahrscheinlichste Wort“ zu erzeugen; Es hat keinen Zweck wie „die Wahrheit zu kennen“. Wenn ihm eine Frage gestellt wird, egal ob er die Antwort kennt oder nicht, produziert er einen Text, der statistisch überzeugend aussieht. Das Format einer Archivreferenz (Fondsname, Nummer, Datum) ist ein erlerntes Muster; KI kann dieses Muster ohne echte Referenz füllen. „Warum erfindet die KI das?“ Die Antwort auf die Frage ist einfach: Es ist für ihn einfacher, sich etwas auszudenken, als „nicht zu wissen“. Die Verantwortung liegt bei Ihnen, diese Formen mit echten Ressourcen zu füllen.
Disziplin der Quellenüberprüfung: Schritt für Schritt
1. Überprüfen Sie die Existenz der Ressource. Finden Sie alle von AI angegebenen Referenzen im Katalog/in der Veröffentlichung. Wenn Sie es nicht finden können, verwenden Sie es nicht.
2. Vergleichen Sie den Inhalt mit der Quelle. Sind die Informationen, die KI einem Dokument zuordnet, tatsächlich im Dokument vorhanden? Ist das Zitat genau dasselbe?
3. Gegenbestätigung. Für eine kritische Tatsache schauen Sie sich mindestens zwei unabhängige, zuverlässige Quellen an.
4. Wenden Sie Quellenkritik an. Ist die Quelle selbst zuverlässig? Wer hat es wann und zu welchem Zweck hergestellt? Ist es voreingenommen?
5. Führen Sie es durch den Anachronismusfilter. Gibt es Begriffe, Konzepte oder Werturteile, die nicht in den Zeitraum der Ausgabe passen?
6. Vorurteile hinterfragen. Hätte KI die Vorurteile in historischen Quellen reproduzieren können (eine Gruppe ignorieren und einen Standpunkt bevorzugen)?
Authentifizierungsschicht
Frage
Wer tut das?
Entität
Existiert diese Ressource wirklich?
Sie im Katalog.
Inhalt
Steht das wirklich im Dokument?
Sie im Dokument
Bestätigung
Unterstützt es eine andere Quelle?
Du, Kreuz
Zuverlässigkeit
Ist die Quelle zuverlässig?
Expertenurteil
Zeitraum
Gibt es Anachronismen?
Expertenurteil
Vorurteil
Wessen Stimme fehlt/verzerrt?
Expertenurteil
drei Mini-Koffer
Fall 1 – Sechs erfundene Referenzen. Ein Forscher bat die KI um eine Quellenliste zu einem Thema. YZ hat 6 Archivreferenzen mit perfekter Formatierung bereitgestellt. Bei der Katalogsuche fehlten 4 der 6, 2 davon hatten die falsche Nummer. Hätte der Forscher dies nicht überprüft, wäre eine Studie entstanden, die nicht vorhandene Quellen zitierte. Lektion: Jede Referenz wird im Katalog überprüft.
Fall 2 – Ein erfundenes Angebot. Ein Autor würde ein markantes Zitat verwenden, das die KI einer historischen Persönlichkeit zuschreibt. Als er die Quelle untersuchte, stellte er fest, dass es kein Dokument gab, das beweisen würde, dass diese Person so etwas gesagt hatte, und dass die Aussage von KI „erfunden“ worden war. Lektion: Zitate können nicht ohne Überprüfung durch eine primäre oder zuverlässige Quelle verwendet werden.
Fall 3 – Reproduktion von Vorurteilen. Ein Student ließ die KI die Geschichte einer Region erklären. Die Ausgabe ignorierte eine bestimmte Community in diesem Bereich vollständig, da die Quellen, aus denen die KI gelernt hatte, sie ebenfalls ignoriert hatten. Der Student bemerkte diese Lücke und korrigierte sie durch Querverweise. Lektion: KI reproduziert Schweigen und Vorurteile in Quellen; Man muss sich fragen, wem die Stimme fehlt.
Vier kopierbare Vorlagen
1) Referenzverifizierungsliste:
ALLE Quellen-, Referenz-, Zitat-, Datums- und Personennamen im folgenden Text erscheinen in einer separaten Liste. Fügen Sie jeweils einen Hinweis hinzu: „In diesem Text behauptet, muss unabhängig überprüft werden.“ Wenn Sie „Keine“ auswählen, „verifizieren“; Erstellen Sie einfach eine Liste zur Überprüfung, damit ich sie anhand des Katalogs/der Quelle überprüfen kann. Text: [hier]
2) Anachronismus-Scanning:
Untersuchen Sie den Text zu [Punkt] unten. Heben Sie Begriffe, Institutionen, Konzepte und Werte hervor, die möglicherweise NICHT zu dieser Zeit gehören. Schreiben Sie jeweils kurz, warum Sie misstrauisch sind. Endgültiges Urteil fällen; Erstellen Sie eine Verdachtsliste, die der Experte prüft. Text: [hier]
3) Rahmenwerk zur Quellenkritik:
Es wird eine Quellenkritik über die folgende Quelle verfasst: (1) Wer könnte sie erstellt haben, (2) Wann, (3) Zu welchem Zweck, (4) Was sind mögliche Vorurteile, (5) Welche Themen sollten vertrauenswürdig und welche vorsichtig sein? Verkündung des endgültigen Urteils; Stellen Sie Fragen und mögliche Antwortmöglichkeiten. Quelle: [hier]
4) Fehlende Lautstärke-/Bias-Steuerung:
WELCHE Stimme und die Erfahrung welcher Gruppe könnten in der folgenden historischen Zusammenfassung fehlen oder einseitig sein? Welche Perspektive dominiert, welche ist unsichtbar? Erstellen Sie daraus eine Liste mit Fragen. Ich werde es mit Querverweisen füllen. Zusammenfassung: [hier]
Schwache Eingabeaufforderung / Starke Eingabeaufforderung
Schwach:
Nennen Sie mir verlässliche historische Quellen und Zitate zu diesem Thema.
Wenn man nach „Quelle“ und „Zitat“ fragt, ist die KI sehr geneigt, Referenzen zu erstellen, die zwar formal korrekt, aber inhaltlich erfunden sind. Diese Aufforderung ist eine direkte Einladung zur Halluzination.
Stark:
Schlagen Sie vor, nach welchen Quellen (Art des Archivfonds, Art der Veröffentlichung, Institution) ich bei meiner Recherche zu diesem Thema suchen sollte. ANPASSEN einer bestimmten Referenz, Aktennummer oder eines Zitats; Sag mir einfach, wo ich suchen soll. Dann werde ich die echten Quellen aus den Katalogen finden.
Unterschied: KI wird nach „wo gesucht werden soll“ gefragt, nicht nach „tatsächlicher Referenz“; Das Risiko einer Halluzination wird radikal reduziert und die Überprüfung wird dem Menschen überlassen.
Häufige Fehler
- Verlassen Sie sich auf die richtige Referenz. Auch die erfundene Referenz erscheint einwandfrei; muss im Katalog nachgewiesen werden.
- Ein direktes Zitat von AI. Zitate können nicht ohne Bestätigung der primären/zuverlässigen Quelle verwendet werden.
- Den Anachronismus übersehen. Heutige Begriffe und Konzepte versickern stillschweigend in der Vergangenheit.
- Vorurteile reproduzieren. KI kopiert Stille aus Quellen; Es ist notwendig, nach dem fehlenden Ton zu fragen.
- Verlassen Sie sich auf eine einzige Quelle. Kritische Fakten müssen von mindestens zwei unabhängigen Quellen bestätigt werden.
Zusammenfassend
Die Quellenüberprüfung steht im Mittelpunkt der Historie und Archivierung und ist im Zeitalter der KI noch wichtiger. Halluzination produziert Quellen, Zitate und Ereignisse, deren Form perfekt ist, deren Inhalt jedoch fiktiv ist; Anachronismus verzerrt die Vergangenheit aus heutiger Sicht; und KI reproduziert Vorurteile in Quellen. Verteidigung ist eine Disziplin: Überprüfen Sie jede Referenz im Katalog, vergleichen Sie Inhalte mit Dokumenten, überprüfen Sie kritische Fakten, filtern Sie nach Zeitraum und Voreingenommenheit. Fragen Sie die KI nach „wo sie suchen muss“ und nicht nach „der tatsächlichen Quelle“. Der Hüter der Wahrheit ist immer der Experte.
Anwendungsaufgabe
Lassen Sie die KI eine Liste mit Ressourcen zu einem Thema erstellen, an dem Sie arbeiten (mit einer bewusst „schwachen Eingabeaufforderung“). Extrahieren Sie dann alle Referenzen aus dieser Ausgabe mit der Vorlage „Referenzvalidierungsliste“ und durchsuchen Sie jede einzelne in einem Katalog. Zählen Sie, wie viele tatsächlich existieren und wie viele erfunden oder ungenau sind. Wiederholen Sie das gleiche Thema mit einer „starken Aufforderung“ („Wo soll ich suchen“) und erleben Sie den Unterschied.
Checkliste
- [ ] Ich habe jede Referenz im Katalog/in der vertrauenswürdigen Quelle überprüft.
- [ ] Ich habe jedes Zitat mit der primären/zuverlässigen Quelle überprüft.
- [ ] Ich habe kritische Fakten mit mindestens zwei unabhängigen Quellen abgeglichen.
- [ ] Ich habe die Ausgabe nach Anachronismen gefiltert.
- [ ] Ich habe fehlende/verzerrte Stimmen und Voreingenommenheit in Frage gestellt.