Gewinne:
- In der Lage sein zu unterscheiden, wo künstliche Intelligenz im Bibliotheksarbeitsablauf Zeit spart (Metadaten, Zusammenfassung, Suche, Vorschlag) und wo Genauigkeit, Quellenzuverlässigkeit und Datenschutzentscheidungen je nach Risikograd dem Menschen überlassen werden.
- Fähigkeit, eine Disziplin anzuwenden, die jede Ausgabe überprüft, indem sie sie mit der Quelle verknüpft, sie in einer unabhängigen Quelle bestätigt und sie durch einen Bias-Filter leitet.
- Verstehen, warum Halluzinationen, gefälschte Quellen und die Privatsphäre der Benutzer Risiken darstellen, die in diesem Beruf von Anfang an berücksichtigt werden müssen.
Wenn sich ein Katalogisierungsspezialist morgens an seinen Schreibtisch setzt, hat er möglicherweise Dutzende neu eingetroffener Bücher, Hunderte Dokumente aus einer Spendensammlung und eine Archivbox, die darauf wartet, digitalisiert zu werden. Ein Referenzbibliothekar (der Experte, der Benutzern bei der Suche nach Informationen hilft) beantwortet den ganzen Tag über Fragen wie „Wo ist die zuverlässige Quelle zu diesem Thema?“ Ein Informationsmanager ist dafür verantwortlich, dass die Tausenden von Dokumenten einer Organisation auffindbar und zuverlässig bleiben. In dieser Einheit klären wir, wo genau künstliche Intelligenz (kurz KI; große Sprachmodelle und ähnliche Tools) bei diesen Aufgaben Zeit spart und wo Urteilsvermögen, Wahlmöglichkeiten und Verantwortung beim Menschen verbleiben.
Beginnen wir mit einer Definition: Künstliche Intelligenz. Damit meinen wir Softwaretools zur Sprachgenerierung und Mustererkennung, die auf große Textmengen trainiert werden. Diese Tools fassen große Datenmengen zusammen, übersetzen sie, schlagen Klassifizierungen vor, generieren Textentwürfe und kennzeichnen Muster. Es weiß jedoch nicht, ob eine Quelle wirklich existiert, ob eine Information korrekt ist oder ob die Privatsphäre eines Benutzers geschützt ist. Aus diesem Grund ist KI im Bibliothekswesen und im Informationsmanagement ein Assistent und kein Entscheidungsträger.
Wo funktioniert künstliche Intelligenz und wo nicht?
Lassen Sie uns den Arbeitsablauf im Bibliothekswesen in drei Ebenen unterteilen. Die erste Ebene besteht aus mechanischen und sich wiederholenden Aufgaben: Extrahieren von Entwurfsmetadaten aus der Byline eines Buches, Zusammenfassen eines langen Berichts, Übersetzen von Texten aus einer Sprache in eine andere, Bereinigen einer Datentabelle. KI ist hier leistungsstark und spart viel Zeit.
Die zweite Ebene ist quasi-gerichtliche Arbeit: Welche Themenüberschrift soll einem Dokument gegeben werden, ob eine Ressource in eine Sammlung aufgenommen werden soll und welche Ressource einem Benutzer empfohlen werden soll. KI macht hier Vorschläge, aber das letzte Wort hat der Experte, der die Richtlinien der Institution und die tatsächlichen Bedürfnisse des Nutzers kennt.
Die dritte Ebene ist reines Urteilsvermögen und Rechenschaftspflicht: Bestätigung, dass Informationen korrekt sind, Entscheidung über ein Urheberrecht, ob vertrauliche personenbezogene Daten offengelegt werden sollen, Bestätigung der Zuverlässigkeit einer Quelle. Auf dieser Ebene ist die Ausgabe der KI nur ein Ausgangspunkt; Die Verantwortung liegt allein beim Menschen.
Tipp: Bevor Sie der KI eine Aufgabe erteilen, fragen Sie sich: „Was passiert, wenn diese Ausgabe falsch ist?“ Wenn die Antwort „Ich werde etwas Zeit verschwenden“ lautet, können Sie gerne auf KI zurückgreifen. Wenn die Antwort lautet: „Eine falsche Quelle wird verbreitet, ein Benutzer wird in die Irre geführt oder persönliche Daten werden durchgesickert“, überprüfen Sie unbedingt die Ausgabe.
Halluzination: die größte Gefahr für den Bibliothekar
Von einer Halluzination spricht man, wenn die KI nicht existierende Informationen, Quellen oder Zitate so erzeugt, als ob sie real wären, und das in einer äußerst überzeugenden Sprache. Dies ist besonders gefährlich für das Bibliothekswesen und das Informationsmanagement; Denn das Wesentliche unseres Berufs ist die Authentizität und Verlässlichkeit der Quelle.
Wenn Sie der KI sagen, dass sie „fünf wissenschaftliche Arbeiten zu diesem Thema vorschlagen soll“, kann sie Titel, Autoren und Zeitschriftennamen generieren, die real erscheinen, aber überhaupt nicht existieren. Diese erfundenen Quellen sind so überzeugend, dass ein Benutzer oder sogar ein Bibliothekar sie einer Bibliographie hinzufügen kann, ohne sie zu überprüfen. In den Geistes- und Sozialwissenschaften ist die Gefahr sogar noch größer: Wenn „dieses Dokument von 1897“ für einen Historiker oder „diese Gerichtsentscheidung“ für einen Juristen gefälscht wird, kommt es zu schwerwiegenden Fehlinformationen.
Achtung: Keine von AI erstellten Quellenzitate, Zitate oder Referenzen sollten ohne Überprüfung in einem echten Katalog, einer Datenbank oder der Quelle selbst irgendwohin übertragen werden. Nur weil es „überzeugend aussieht“, heißt das nicht, dass es wahr ist.
Überprüfungsdisziplin: drei Schritte
Die Grunddisziplin, die der Bibliothekar bei der Arbeit mit KI anwenden muss, ist folgende:
1. Mit der Quelle verbinden. Alle Fakten, Zahlen, Daten und Impressum müssen auf einer Originalquelle basieren. Fragen Sie die KI: „Sagen Sie mir, aus welcher Quelle Sie diese Informationen erhalten haben“ und überprüfen Sie diese Quelle unabhängig.
2. Unabhängig bestätigen. Überprüfen Sie kritische Informationen in mindestens einer zuverlässigen Quelle außerhalb der KI (authentischer Katalog, offizielle Datenbank, Primärdokument).
3. Führen Sie es durch den Bias-Filter. KI trägt die Vorurteile der Daten, auf denen sie trainiert wird. Ein vorgeschlagenes Thema, eine Liste mit Vorschlägen oder eine Zusammenfassung können bestimmte Standpunkte hervorheben und andere verdecken. Fragen Sie, wer außen vor bleibt, welche Perspektive fehlt.
Datenschutz und Benutzerdatenschutz
Einer der grundlegendsten ethischen Grundsätze des Bibliotheksberufs ist die Privatsphäre der Benutzer: Was eine Person liest, wonach sie sucht und für welches Thema sie sich interessiert, ist vertraulich. Die Eingabe von Daten in KI-Tools, insbesondere öffentliche Tools, die über das Internet betrieben werden, einschließlich der Identität von Benutzern, des Suchverlaufs oder geliehener Ressourcen, kann gegen diesen Grundsatz verstoßen; denn diese Daten können an Drittsysteme gelangen.
Ebenso sollten in einer Organisation nicht klassifizierte, aber sensible Dokumente (Personalinformationen, Verträge, interne Korrespondenz) nicht in ein allgemeines KI-Tool hochgeladen werden. Für diese Art von Daten werden Tools bevorzugt, die auf dem eigenen sicheren, geschlossenen System der Institution laufen.
Tipp: Bevor Sie Daten in die KI eingeben, fragen Sie: „Sind diese Informationen öffentlich?“ fragen. Wenn die Antwort „Nein“ lautet oder Sie sich nicht sicher sind, geben Sie diese Daten in ein entpersonalisiertes, anonymes Format ein oder verwenden Sie nur sichere, von der Institution genehmigte Tools.
drei Mini-Koffer
Fall 1 – Entwurf von Metadaten für 400 Dokumente. Eine Universitätsbibliothek musste ein Archiv mit 400 von einem Professor gespendeten Dokumenten katalogisieren. Der Experte extrahierte mit KI einen Titel-, Datums- und Themenvorschlag aus der ersten Seite jedes Dokuments: Die durchschnittliche Zeit pro Dokument verringerte sich von 12 Minuten auf 4 Minuten. Aber jeder Abdruckentwurf wurde mit dem Originaldokument verglichen und vom Experten genehmigt; In diesem Schritt wurden 17 von der KI erfundene falsche Daten erfasst.
Fall 2 – Fake-Quelle entdeckt. Ein beratender Bibliothekar erhielt 6 Artikelvorschläge von YZ, als er für einen Bachelor-Studenten nach Ressourcen zum Thema „Klimamigration“ suchte. Der Bibliothekar hat sie alle in der Datenbank der Institution durchsucht: 2 von 6 Artikeln existierten überhaupt nicht. Der Überprüfungsschritt verhinderte, dass dem Studenten eine gefälschte Quelle gegeben wurde.
Fall 3 – Verletzung der Vertraulichkeit verhindert. Eine Bibliothek erwog, ein allgemeines KI-Tool zu verwenden, um anhand von Checkout-Datensätzen zu analysieren, „welcher Benutzer sich für welches Thema interessiert“. Der Informationsmanager erkannte, dass es eine Verletzung der Privatsphäre darstellen würde, wenn diese Daten mit der Benutzer-ID herausgegeben würden; Die Daten wurden zunächst anonymisiert und ausschließlich als aggregierte, nicht identifizierte Statistiken verarbeitet.
Vier kopierbare Vorlagen
1) Beginnen Sie mit der Definition von Rollen und Grenzen:
Ihre Rolle: erfahrener Assistent für Katalogisierung und Informationsmanagement. Ihre Aufgabe: Aus den Informationen der von mir angegebenen Quelle einen Entwurf zu erstellen. Regeln: (1) Verwenden Sie nur die Informationen aus dem Text, den ich Ihnen gegeben habe, und fügen Sie keine eigenen Informationen hinzu. (2) Markieren Sie „[muss überprüft werden]“, wenn Sie sich nicht sicher sind. (3) Erfinden Sie keine Daten, Namen oder Aufdrucke. Wenn Sie es verstanden haben, beginnen Sie. Quelle: [hier]
2) Frage zur Validierungsprüfung:
Listen Sie jede Tatsachenbehauptung (Datum, Name, Nummer, Quellenangabe) im folgenden Text auf. Für jeden: Woher im Text haben Sie diese Informationen? Wenn es im Text nicht klar steht, schreiben Sie „nicht im Text“. Text: [hier]
3) Voreingenommenheit und Überprüfung fehlender Perspektiven:
Welche Perspektiven beleuchtet die folgende Zusammenfassung/Empfehlung und welche lässt sie außen vor? Welche Gruppen, Regionen oder Ansichten fehlen möglicherweise? Verlassen Sie sich einfach auf den Text, spekulieren Sie nicht. Text: [hier]
4) Datenschutz-Vorabprüfung:
Enthält der unten stehende Text personenbezogene Daten (Name, ID-Nummer, Kontakt, Lese-/Suchverlauf) oder sensible Unternehmensinformationen? Wenn ja, listen Sie es auf und schlagen Sie vor, wie es anonymisiert werden kann. Text: [hier]
Schwache Eingabeaufforderung / Starke Eingabeaufforderung
Schwache Eingabeaufforderung:
Finden Sie für mich einige Ressourcen zu diesem Thema.
Diese Aufforderung lädt die KI dazu ein, gefälschte Ressourcen zu generieren. Es gibt keine Rollen, Grenzen, Validierungsregeln und Ressourcen. KI kann glaubwürdige, aber nicht existierende Tags erzeugen.
Kraftvolle Aufforderung:
Ihre Rolle: Referenzbibliothekarassistent. Wählen Sie aus den Katalogeinträgen, die ich Ihnen unten gegeben habe, diejenigen aus, die sich auf das Thema „Klimamigration“ beziehen, und erläutern Sie, warum sie relevant sind. Fügen Sie keine Quellen hinzu, die nicht auf der Liste stehen, und erfinden Sie keine Quellen. Wenn Sie sich nicht sicher sind, sagen Sie „Es sind keine geeigneten Quellen aufgeführt.“ Katalogeinträge: [hier]
Der Unterschied ist klar: Eine starke Eingabeaufforderung zwingt die KI dazu, mit der gegebenen realen Quelle und nicht mit ihrem eigenen Gedächtnis zu arbeiten, und verhindert Fälschungen.
Schicht- und Verantwortungstabelle
Business-Schicht
Beispielaufgabe
Rolle der KI
Entscheidung des Menschen
mechanisch
Entwurf von Metadaten, Zusammenfassung, Übersetzung
Erstellt schnell Entwürfe
Überprüfung, Genehmigung
quasi-gerichtlich
Thementitel, Quellenvorschlag
bietet Anregungen
Auswahl nach Richtlinie
reines Urteil
Authentifizierung, Urheberrechtsentscheidung
Nur vorläufige Informationen
Die volle Verantwortung liegt bei der Person
Häufige Fehler
- Ersetzen der Quelle durch die KI-Ausgabe. KI ist ein Assistent, keine Ressource; Jede Ausgabe wird validiert.
- Akzeptieren Sie die erfundene Quelle als überzeugend. Nur weil es gut aussieht, heißt das nicht, dass es richtig ist.
- Eingabe persönlicher/sensibler Daten in das öffentliche Tool. Die Privatsphäre der Nutzer und die Unternehmensgeheimnisse werden von Anfang an respektiert.
- Vorurteile ignorieren. KI trägt die Perspektiven der Daten, auf denen sie trainiert wird; Fragen Sie, was fehlt.
- Überlassen Sie das Urteil der KI. Entscheidungen über Genauigkeit, Urheberrecht und Privatsphäre liegen beim Menschen.
Zusammenfassend
künstliche Intelligenz; Es ist ein leistungsstarker Assistent zum Zusammenfassen, Entwerfen, Übersetzen und Markieren von Mustern im Bibliothekswesen und im Informationsmanagement. Es spart viel Zeit bei der mechanischen Arbeit; berät in gerichtsähnlichen Angelegenheiten; Aber die Überprüfung der Genauigkeit, der Zuverlässigkeit der Quelle, der Privatsphäre der Benutzer und ethischer Entscheidungen sind Sache des Menschen. Halluzinationen sind die größte Gefahr für diesen Beruf: Es werden keine Quellenangaben oder Zitate ohne Überprüfung verwendet. Führen Sie KI mit klaren Rollen-, Grenz- und Validierungsregeln aus; Bestätigen Sie jede kritische Ausgabe mit einer unabhängigen Quelle.
Anwendungsaufgabe
Wählen Sie ein reales Thema aus Ihrem Fachgebiet. Bitten Sie die KI um 5 Ressourcenempfehlungen zu diesem Thema, durchsuchen Sie dann jede einzelne in einem tatsächlichen Katalog oder einer Datenbank und notieren Sie, wie viele tatsächlich vorhanden sind. Weisen Sie dann mit der Vorlage „Startup definiert Rollen und Grenzen“ die KI an, nur mit einem von Ihnen bereitgestellten Text zu arbeiten, und vergleichen Sie die Ergebnisse der beiden Ansätze. Schreiben Sie, welcher Ansatz die Anpassung verhindert.
Checkliste
- [ ] Ich habe festgestellt, auf welcher Ebene (mechanisch, halbgerichtlich, reines Urteil) sich die Aufgabe befindet.
- [ ] „Was passiert, wenn diese Ausgabe falsch ist?“ Ich habe die Frage gestellt.
- [ ] Ich habe jede Quellenangabe und jedes Zitat anhand einer unabhängigen Quelle überprüft.
- [ ] Ich habe überprüft, dass die in die KI eingegebenen Daten keine persönlichen/sensiblen Informationen enthalten.
- [ ] Die endgültige Entscheidung und Verantwortung lag bei mir.