Gewinne:
- Fähigkeit, die Halluzination zu erfassen, indem die Existenz jeder Quelle überprüft wird, zur Primärquelle gegangen wird und unabhängige Kreuzbestätigungsschritte durchgeführt werden
- Fähigkeit, Originalität und akademische Integrität gegenüber gefälschten Zitaten und Dokumenten in den Geistes- und Sozialwissenschaften zu wahren
- Fähigkeit, Benutzern Fähigkeiten zur Quellenüberprüfung und Informationskompetenz im KI-Zeitalter beizubringen
Im Mittelpunkt des gesellschaftlichen Auftrags des Bibliothekswesens steht ein einziges Versprechen: verlässliche Informationen. Ein Bibliothekar bringt den Benutzer nicht nur zu Informationen, sondern zu verifizierten Informationen und bringt ihm bei, diese Informationen selbst zu bewerten. Im Zeitalter der künstlichen Intelligenz ist diese Mission sowohl schwieriger als auch wichtiger geworden; weil KI auf äußerst überzeugende Weise Fehlinformationen erzeugen kann. In dieser Einheit befassen wir uns mit der Erkennung von Halluzinationen, der Disziplin der Quellenüberprüfung und der Vermittlung von Informationskompetenz im Zeitalter der KI.
Lassen Sie uns die Konzepte definieren. Von einer Halluzination spricht man, wenn KI Informationen, Quellen, Zitate oder Ereignisse erzeugt, die tatsächlich nicht existieren, als ob sie real wären. Die Quellenüberprüfung ist die Bestätigung, dass Informationen auf einer echten, zuverlässigen und primären Quelle basieren. Informationskompetenz ist die Fähigkeit einer Person, Informationen zu finden, sie zu bewerten, ihre Zuverlässigkeit in Frage zu stellen und sie ethisch zu nutzen. Diese Einheit zielt darauf ab, dass der Bibliothekar diese Fähigkeiten sowohl in seiner eigenen Praxis als auch beim Unterrichten des Benutzers stärkt.
Schritt für Schritt: Disziplin der Quellenüberprüfung
1. Fordern Sie die Quelle an und überprüfen Sie deren Existenz. Wenn die KI einen Anspruch oder ein Zitat abgibt, „aus welcher Quelle stammt das?“ und prüfen Sie, ob die Quelle tatsächlich in einem unabhängigen Katalog, einer Datenbank oder einem Primärdokument vorhanden ist.
2. Gehen Sie zur Primärquelle. Die zuverlässigste Form der Information ist die Quelle aus erster Hand. Geben Sie sich nicht mit einer Zusammenfassung von AI oder einem sekundären Text zufrieden; Greifen Sie nach Möglichkeit auf das Originaldokument, die Originaldaten oder die Originalpublikation zu.
3. Gegenbestätigung. Überprüfen Sie eine kritische Behauptung mit mindestens zwei zuverlässigen, voneinander unabhängigen Quellen. Eine Ressource, insbesondere eine KI-Ressource, reicht nicht aus.
4. Bewerten Sie die Glaubwürdigkeit der Quelle. Wer hat es wann, zu welchem Zweck und auf Grundlage welcher Beweise geschrieben? Ist es aktuell? Die Existenz einer Information macht sie nicht wahr; Stellen Sie auch die Art der Quelle in Frage.
5. Drücken Sie Ihre Unsicherheit ehrlich aus. Wenn Informationen nicht überprüft werden können, sagen Sie dies deutlich. Es ist immer besser, „unbestätigt“ zu sagen, als eine erfundene Gewissheit anzubieten.
Tipp: Wenn Sie ein Zitat oder eine Quelle von AI erhalten, suchen Sie zunächst in einem tatsächlichen Katalog nach Titel und Autor. Nicht vorhandene Ressourcen werden hier sofort angezeigt. Diese 30-Sekunden-Prüfung verhindert, dass eine erfundene Quelle in eine Bibliographie, eine Aufgabe oder eine Veröffentlichung gelangt.
Authentizität und Verifizierung in den Geistes- und Sozialwissenschaften
Die Geistes- und Sozialwissenschaften sind besonders anfällig für das Risiko von Halluzinationen. In diesen Bereichen basieren Beweise häufig auf einem bestimmten Dokument, einem Datum, einem Zitat oder der Quelle eines Kommentars. KI kann hochspezifische, aber völlig erfundene Behauptungen hervorbringen, wie zum Beispiel „dieser Historiker sagte“ oder „dieses Dokument aus dem Jahr 1923 sagt“. In einem literarischen, historischen oder juristischen Werk bedeutet dies eine falsche Beweiskette.
Darüber hinaus ist Originalität der grundlegende Wert dieser Bereiche: Es kommt darauf an, wem ein Text, eine Interpretation oder eine Übersetzung wirklich gehört. Einen von KI erstellten Text als Originalwerk darzustellen oder sich auf eine von KI erstellte „Quelle“ zu verlassen, verstößt gegen die akademische Integrität. Der Bibliothekar ist ein Führer, der den Benutzern sowohl die Überprüfung als auch die Grenzen von Originalität und Plagiat vermittelt.
Achtung: Auch in Fällen, in denen ein KI-generiertes Zitat Wort für Wort korrekt erscheint und einem echten Autor zugeordnet wird, kann dieses Zitat gefälscht sein. Überprüfen Sie ein Zitat, indem Sie es nur im tatsächlichen Werk des Autors finden. Die Logik „Dieser Autor könnte so etwas gesagt haben“ reicht nicht aus.
drei Mini-Koffer
Fall 1 – Dem Schüler wurde die Verifizierung beigebracht. Ein Bibliothekar sah in der Aufgabe eines Studenten fünf Ressourcen von AI. Gemeinsam überprüften sie es im Katalog: 2 Quellen waren gefälscht. Der Schüler erlebte aus erster Hand die Lektion, dass „es nicht richtig ist, wenn es echt aussieht“, und gewöhnte sich wieder einmal daran, jede Quelle zu überprüfen.
Fall 2 – Gefälschtes historisches Dokument. Ein Forscher erhielt von AI einen „Zeitungsbericht von 1919“; Datum, Zeitungsname und Inhalt waren äußerst überzeugend. Der Bibliothekar durchsuchte das Zeitungsarchiv: Damals gab es keine derartigen Nachrichten. Eine gefälschte Primärquelle wurde entdeckt, bevor sie überhaupt in einen Artikel aufgenommen wurde.
Fall 3 – Falsch zugeordnetes Zitat. AI hat einem berühmten Denker ein Zitat zugeschrieben. Der Bibliothekar suchte dieses Wort in den Werken des Denkers und konnte es nicht finden; Das Wort wurde nirgends erwähnt. Eine Gegenprüfung verhinderte die Verbreitung eines falsch zugeordneten Zitats.
Die Kette der Verbreitung von Fehlinformationen und die Rolle des Bibliothekars
Fehlinformationen beginnen oft mit einer einzigen erfundenen Ausgabe, aber sie hören hier nicht auf. Ein Benutzer fügt einer Aufgabe eine gefälschte, von der KI generierte Ressource hinzu. der Auftrag wird zu einer Veröffentlichung; die Veröffentlichung wird von anderen zitiert, so dass eine fiktive Quelle durch wiederholtes Zitieren den Anschein von „Wahrheit“ erhält. Wir können dies als Attributionskontamination bezeichnen: Falsche Informationen gewinnen an Legitimität, indem sie immer wieder wiederholt werden. Der Bibliothekar steht am kritischsten Glied in dieser Kette; denn es ist der letzte Kontrollpunkt, an dem Informationen überprüft werden, bevor sie in das System gelangen. Nur weil eine Quelle „an vielen Orten vorkommt“, heißt das nicht, dass sie wahr ist; Dieselben gefälschten Informationen können an vielen Stellen auftauchen, indem sie voneinander kopiert werden. Daher sollte die Gegenbestätigung auf der Frage basieren: „Wie viele zuverlässige Quellen bestätigen es unabhängig voneinander“ und nicht auf „An wie vielen Orten erscheint es?“ Zehn Sekundärquellen, die dieselbe Behauptung wiederholen, sind nicht so viel wert wie eine einzelne unabhängige Primärquelle. Der Bibliothekar sollte diese Unterscheidung (Unabhängigkeit nicht mit Wiederholung verwechseln) in den Mittelpunkt sowohl seiner eigenen Überprüfung als auch seiner Vermittlung an den Benutzer stellen.
Achtung: Das Erscheinen von Informationen in einer Suchmaschine oder auf vielen Webseiten ist kein Beweis für deren Richtigkeit. Derselbe Fehler könnte durch das Kopieren von Quelle zu Quelle weit verbreitet sein. Prävalenz und Genauigkeit sind verschiedene Dinge; Für die Bestätigung ist eine unabhängige und zuverlässige Quelle erforderlich.
Vier kopierbare Vorlagen
1) Abfrage der Ressourcenentität:
Listen Sie alle Quellenangaben und Zitate im folgenden Text auf. Für jeden: Autor, Titel, Jahr und Veröffentlichungsinformationen (falls vorhanden). Extrahieren Sie Element für Element die Informationen, die ich überprüfen muss. nicht hinzufügen.Text: [hier]
2) Bestätigbarkeitsbewertung:
Isolieren Sie für jede der folgenden Behauptungen die Sachelemente (Datum, Name, Nummer, Zitat), die überprüft werden müssen. Schlagen Sie vor, gegen welche Art von Quelle (Katalog, Primärdokument, Datenbank) es verifiziert werden kann. Beurteilen Sie nicht die Genauigkeit, sondern zeigen Sie nur den Verifizierungspfad an. Behauptungen: [hier]
3) Checkliste zur Schweißzuverlässigkeit:
Bewerten Sie die Glaubwürdigkeit der folgenden Quelle: Wer hat sie geschrieben, wann und zu welchem Zweck, gibt es Belege, ist sie aktuell, liegt eine mögliche Voreingenommenheit vor? Verlassen Sie sich einfach auf die Informationen, die ich gegeben habe, schreiben Sie „unbekannt“, wo sie fehlen. Quellenangaben: [hier]
4) Lehrplan für Informationskompetenz:
Erstellen Sie ein kurzes 20-minütiges Tutorial zum Thema Quellenverifizierung und Halluzination im Zeitalter der KI für die folgende Benutzergruppe (z. B. Studenten): Ziele, 3 Beispiele, 1 Anwendung. Gruppe: [hier]
Schwache Eingabeaufforderung / Starke Eingabeaufforderung
Schwache Eingabeaufforderung:
Schreiben Sie eine Zusammenfassung zu diesem Thema mit zuverlässigen Quellen.
Die Aussage „mit zuverlässigen Quellen“ ermutigt die KI, gefälschte Quellen zu produzieren, die echt erscheinen; Es gibt keinen Validierungs-Hook.
Kraftvolle Aufforderung:
Ihre Rolle: Assistent für Informationskompetenz. SCHREIBEN einer Zusammenfassung zum folgenden Thema; Listen Sie stattdessen die sachlichen Fragen auf, die ein Benutzer überprüfen muss, und die Art der zuverlässigen Quelle, mit der er sie überprüfen kann. Fälschen Sie keine Quellenangaben; Markieren Sie den Bereich, bei dem Sie sich nicht sicher sind, als „muss überprüft werden“. Betreff: [hier]
Leistungsstarke Eingabeaufforderung; Es verwendet KI als Leitfaden, der den Weg zur Verifizierung zeigt, anstatt Antworten zu liefern, und strukturell Fälschungen verhindert.
Tabelle der Authentifizierungsebenen
Schicht
Frage
Methode
Entität
Ist diese Quelle echt?
Katalog-/Datenbanksuche
Vorrang
Ist das die nächstgelegene Quelle?
Zugriff auf das Originaldokument
Bestätigung
Bestätigt eine andere Quelle dies?
Unabhängige Gegenprüfung
Zuverlässigkeit
Wie solide ist die Quelle?
Autor, Datum, Zweck, Beweise
Ehrlichkeit
Bin ich sicher?
Zustandsunsicherheit deutlich
Häufige Fehler
- Denken, dass das, was überzeugt, wahr ist. Gutes Aussehen ist kein Beweis für Rechtschaffenheit.
- Mit einer einzigen Quelle zufrieden sein. Kritische Informationen erfordern eine unabhängige Gegenbestätigung.
- Ich suche nicht nach dem Zitat an seiner Quelle. So verbreiten sich falsch zugeordnete Wörter.
- Unsicherheit verbergen. „Nicht überprüfbar“ ist besser als falsche Gewissheit.
- Dem Benutzer wird nicht beigebracht, sich zu authentifizieren. Informationskompetenz ist die Aufgabe des Bibliothekars.
Zusammenfassend
Quellenüberprüfung und Informationskompetenz sind die wichtigsten Aufgaben des Bibliothekswesens im Zeitalter der KI. Halluzinationen liefern überzeugende, aber erfundene Informationen und sind in den Geistes- und Sozialwissenschaften besonders gefährlich. Die Disziplin ist klar: Überprüfen Sie die Existenz jeder Quelle, gehen Sie zur Primärquelle, führen Sie unabhängige Gegenprüfungen durch, stellen Sie die Glaubwürdigkeit der Quelle in Frage und äußern Sie Ihre Unsicherheit ehrlich. Der Bibliothekar verbreitet diese Kultur der Überprüfung nicht nur in seiner Praxis, sondern auch durch die Schulung der Benutzer; Originalität und akademische Integrität sind integraler Bestandteil dieser Mission.
Anwendungsaufgabe
Fordern Sie 6 Quellen und 2 Zitate von AI in Ihrem Fachgebiet an. Überprüfen Sie jede Quelle, indem Sie sie in einem tatsächlichen Katalog und nach jedem Zitat im tatsächlichen Werk des Autors suchen. Beachten Sie, wie viele Erfindungen es gibt. Erstellen Sie dann mithilfe der Vorlage „Lehrplan für Informationskompetenz“ ein 20-minütiges Tutorial, um einer Benutzergruppe die Quellenüberprüfung zu erklären und reale Beispiele einzubeziehen, die Sie selbst gefunden haben.
Checkliste
- [ ] Ich habe unabhängig überprüft, dass jede Quelle tatsächlich existiert.
- [ ] Ich habe, wo immer möglich, Primärquellen verwendet.
- [ ] Ich habe kritische Behauptungen mit mindestens zwei unabhängigen Quellen abgeglichen.
- [ ] Ich habe die Zitate überprüft, indem ich sie im eigentlichen Werk des Autors gesucht habe.
- [ ] Ich habe die nicht überprüfbaren Informationen deutlich als „nicht überprüfbar“ gekennzeichnet.