Κέρδη:
- Να είστε σε θέση να διακρίνετε πού εξοικονομεί χρόνο η τεχνητή νοημοσύνη στη ροή εργασιών της βιβλιοθηκονομίας (μεταδεδομένα, περίληψη, αναζήτηση, προτάσεις) και πού η ακρίβεια, η αξιοπιστία της πηγής και οι αποφάσεις απορρήτου αφήνονται στους ανθρώπους, ανάλογα με το επίπεδο κινδύνου.
- Δυνατότητα εφαρμογής μιας πειθαρχίας που επαληθεύει κάθε έξοδο συνδέοντάς την με την πηγή, επιβεβαιώνοντάς την σε μια ανεξάρτητη πηγή και περνώντας την από ένα φίλτρο πόλωσης.
- Η κατανόηση του γιατί η ψευδαίσθηση, οι κατασκευασμένες πηγές και το απόρρητο των χρηστών είναι κίνδυνοι που πρέπει να ληφθούν υπόψη σε αυτό το επάγγελμα από την αρχή.
Όταν ένας ειδικός καταλογογράφησης κάθεται στο γραφείο του το πρωί, μπορεί να έχει δεκάδες νεοαφιχθέντα βιβλία, εκατοντάδες έγγραφα από μια συλλογή δωρεών και ένα κουτί αρχείου που περιμένει να ψηφιοποιηθεί. Ένας βιβλιοθηκάριος αναφοράς (ο ειδικός που βοηθά τους χρήστες να βρουν πληροφορίες) απαντά σε ερωτήσεις καθ' όλη τη διάρκεια της ημέρας όπως "πού βρίσκεται η αξιόπιστη πηγή για αυτό το θέμα;" Ένας διαχειριστής πληροφοριών είναι υπεύθυνος για τη διατήρηση των χιλιάδων εγγράφων ενός οργανισμού ανιχνεύσιμα και αξιόπιστα. Σε αυτήν την ενότητα, θα διευκρινίσουμε πού ακριβώς η τεχνητή νοημοσύνη (AI εν συντομία, μεγάλα γλωσσικά μοντέλα και παρόμοια εργαλεία) εξοικονομεί χρόνο σε αυτές τις εργασίες και πού η κρίση, η επιλογή και η ευθύνη παραμένουν στον άνθρωπο.
Ας ξεκινήσουμε με έναν ορισμό: τεχνητή νοημοσύνη, με τον οποίο εννοούμε εργαλεία λογισμικού που δημιουργούν γλώσσα και αναγνωρίζουν μοτίβα και έχουν εκπαιδευτεί σε μεγάλες ποσότητες κειμένου. Αυτά τα εργαλεία συνοψίζουν, μεταφράζουν, προτείνουν ταξινόμηση, δημιουργούν πρόχειρο κείμενο και επισημαίνουν μοτίβα σε μεγάλα κομμάτια δεδομένων. Αλλά δεν γνωρίζει αν υπάρχει πραγματικά μια πηγή, εάν μια πληροφορία είναι σωστή ή αν προστατεύεται το απόρρητο ενός χρήστη. Γι' αυτό στη βιβλιοθηκονομία και τη διαχείριση πληροφοριών, η τεχνητή νοημοσύνη είναι βοηθός και όχι υπεύθυνος λήψης αποφάσεων.
Πού λειτουργεί και πού δεν λειτουργεί η τεχνητή νοημοσύνη;
Ας χωρίσουμε τη ροή εργασιών βιβλιοθηκονομίας σε τρία επίπεδα. Το πρώτο επίπεδο είναι μηχανικές και επαναλαμβανόμενες εργασίες: εξαγωγή πρόχειρων μεταδεδομένων από τη γραμμή ενός βιβλίου, σύνοψη μιας εκτενούς αναφοράς, μετάφραση κειμένου από μια γλώσσα σε άλλη, καθαρισμός πίνακα δεδομένων. Το AI είναι ισχυρό εδώ και εξοικονομεί χρόνο.
Το δεύτερο επίπεδο είναι οιονεί δικαστική εργασία: ποια θεματική επικεφαλίδα πρέπει να δοθεί σε ένα έγγραφο, εάν πρέπει να συμπεριληφθεί ένας πόρος σε μια συλλογή, ποιος πόρος να προτείνεται σε έναν χρήστη. Η τεχνητή νοημοσύνη παράγει προτάσεις εδώ, αλλά ο ειδικός που γνωρίζει την πολιτική του ιδρύματος και τις πραγματικές ανάγκες του χρήστη έχει τον τελευταίο λόγο.
Το τρίτο επίπεδο είναι η καθαρή κρίση και η λογοδοσία: επιβεβαίωση ότι οι πληροφορίες είναι ακριβείς, απόφαση σχετικά με τα πνευματικά δικαιώματα, εάν θα αποκαλυφθούν ευαίσθητα προσωπικά δεδομένα, επιβεβαίωση της αξιοπιστίας μιας πηγής. Σε αυτό το επίπεδο, η έξοδος του AI είναι απλώς ένα σημείο εκκίνησης. Η ευθύνη ανήκει αποκλειστικά στους ανθρώπους.
Συμβουλή: Προτού αναθέσετε μια εργασία στο AI, αναρωτηθείτε: "Τι θα συμβεί εάν αυτή η έξοδος είναι λάθος;" Εάν η απάντηση είναι "Θα χάσω λίγο χρόνο", μη διστάσετε να χρησιμοποιήσετε AI. Εάν η απάντηση είναι "διαδόθηκε μια ψευδής πηγή, παραπλανήθηκε ένας χρήστης ή διαρρεύσαν προσωπικά δεδομένα", φροντίστε να επαληθεύσετε το αποτέλεσμα.
Ψευδαίσθηση: ο μεγαλύτερος κίνδυνος του βιβλιοθηκονόμου
Παραίσθηση είναι όταν η τεχνητή νοημοσύνη παράγει ανύπαρκτες πληροφορίες, πηγή ή απόσπασμα σαν να ήταν αληθινές και σε μια εξαιρετικά πειστική γλώσσα. Αυτό είναι ιδιαίτερα επικίνδυνο για τη βιβλιοθηκονομία και τη διαχείριση πληροφοριών. γιατί η ουσία του επαγγέλματός μας είναι η αυθεντικότητα και η αξιοπιστία της πηγής.
Όταν λέτε στο AI να «προτείνει πέντε ακαδημαϊκές εργασίες για αυτό το θέμα», μπορεί να δημιουργήσει τίτλους, συγγραφείς και ονόματα περιοδικών που φαίνονται αληθινά αλλά δεν υπάρχουν καθόλου. Αυτές οι κατασκευασμένες πηγές είναι τόσο πειστικές που ένας θαμώνας ή ακόμα και ένας βιβλιοθηκάριος μπορεί να τις προσθέσει σε μια βιβλιογραφία χωρίς να τις επαληθεύσει. Στις ανθρωπιστικές και κοινωνικές επιστήμες, ο κίνδυνος είναι ακόμη μεγαλύτερος: όταν «αυτό το έγγραφο του 1897» κατασκευάζεται για έναν ιστορικό ή «αυτή η δικαστική απόφαση» για έναν νομικό, το αποτέλεσμα είναι σοβαρή παραπληροφόρηση.
Προσοχή: Καμία αναφορά πηγής, απόσπασμα ή αναφορά που παράγεται από AI δεν πρέπει να μεταφέρεται οπουδήποτε χωρίς επαλήθευση σε πραγματικό κατάλογο, βάση δεδομένων ή την ίδια την πηγή. Το ότι «φαίνεται πειστικό» δεν σημαίνει ότι είναι αλήθεια.
Πειθαρχία επαλήθευσης: τρία βήματα
Η βασική πειθαρχία που πρέπει να εφαρμόσει ο βιβλιοθηκάριος όταν εργάζεται με AI είναι η εξής:
1. Συνδεθείτε στην πηγή. Κάθε γεγονός, αριθμός, ημερομηνία και αποτύπωμα πρέπει να βασίζεται σε μια πρωτότυπη πηγή. Ρωτήστε το AI «πείτε μου από ποια πηγή πήρατε αυτές τις πληροφορίες» και ελέγξτε αυτήν την πηγή ανεξάρτητα.
2. Επιβεβαιώστε ανεξάρτητα. Επαληθεύστε κρίσιμες πληροφορίες σε τουλάχιστον μία αξιόπιστη πηγή εκτός του AI (αυθεντικός κατάλογος, επίσημη βάση δεδομένων, πρωτεύον έγγραφο).
3. Περάστε το από το φίλτρο πόλωσης. Το AI φέρει τις προκαταλήψεις των δεδομένων στα οποία εκπαιδεύεται. Ένα προτεινόμενο θέμα, μια λίστα προτάσεων ή μια περίληψη μπορεί να τονίσει ορισμένες απόψεις και να συγκαλύψει άλλες. Ρωτήστε ποιος μένει έξω, ποια προοπτική λείπει.
Απόρρητο και απόρρητο χρήστη
Μία από τις πιο θεμελιώδεις ηθικές αρχές του επαγγέλματος του βιβλιοθηκονόμου είναι το απόρρητο των χρηστών: ό,τι διαβάζει ένα άτομο, αυτό που αναζητά και το θέμα για το οποίο ενδιαφέρεται είναι εμπιστευτικά. Η εισαγωγή δεδομένων σε εργαλεία τεχνητής νοημοσύνης, ειδικά σε δημόσια εργαλεία που λειτουργούν μέσω του Διαδικτύου, που περιλαμβάνουν την ταυτότητα των χρηστών, το ιστορικό αναζήτησης ή τους δανεισμένους πόρους ενδέχεται να παραβιάζει αυτήν την αρχή. επειδή αυτά τα δεδομένα ενδέχεται να μεταφερθούν σε συστήματα τρίτων.
Ομοίως, σε έναν οργανισμό, μη διαβαθμισμένα αλλά ευαίσθητα έγγραφα (στοιχεία προσωπικού, συμβάσεις, εσωτερική αλληλογραφία) δεν θα πρέπει να ανεβαίνουν σε ένα γενικό εργαλείο τεχνητής νοημοσύνης. Για αυτόν τον τύπο δεδομένων προτιμώνται εργαλεία που εκτελούνται στο ασφαλές, κλειστό σύστημα του ίδιου του ιδρύματος.
Συμβουλή: Πριν εισαγάγετε δεδομένα στο AI, ρωτήστε "Είναι αυτές οι πληροφορίες δημόσιες;" παρακαλώ. Εάν η απάντηση είναι αρνητική ή δεν είστε σίγουροι, βάλτε αυτά τα δεδομένα σε μια αποπροσωποποιημένη, ανώνυμη μορφή ή χρησιμοποιήστε μόνο ασφαλή εργαλεία που έχουν εγκριθεί από το ίδρυμα.
τρεις μίνι θήκες
Περίπτωση 1 — Σχέδιο μεταδεδομένων για 400 έγγραφα. Μια πανεπιστημιακή βιβλιοθήκη έπρεπε να καταγράψει ένα αρχείο με 400 έγγραφα που δώρισε ένας καθηγητής. Ο ειδικός εξήγαγε ένα πρόχειρο τίτλο, ημερομηνία και πρόταση θέματος από την πρώτη σελίδα κάθε εγγράφου με τεχνητή νοημοσύνη: ο μέσος χρόνος ανά έγγραφο μειώθηκε από 12 λεπτά σε 4 λεπτά. Ωστόσο, κάθε σχέδιο αποτύπωσης συγκρίθηκε με το αρχικό έγγραφο και εγκρίθηκε από τον εμπειρογνώμονα. Σε αυτό το βήμα καταγράφηκαν 17 λανθασμένες ημερομηνίες που δημιουργήθηκαν από το AI.
Υπόθεση 2 — Συνελήφθη ψεύτικη πηγή. Ένας συμβουλευτικός βιβλιοθηκάριος έλαβε 6 προτάσεις άρθρων από την YZ ενώ έψαχνε για πόρους σχετικά με τη "κλιματική μετανάστευση" για έναν προπτυχιακό φοιτητή. Ο βιβλιοθηκάριος τα έψαξε όλα στη βάση δεδομένων του ιδρύματος: 2 από τα 6 άρθρα δεν υπήρχαν καθόλου. Το βήμα επαλήθευσης εμπόδισε τον μαθητή να λάβει μια κατασκευασμένη πηγή.
Περίπτωση 3 — Αποτροπή παραβίασης του απορρήτου. Μια βιβλιοθήκη σκέφτηκε να χρησιμοποιήσει ένα γενικό εργαλείο τεχνητής νοημοσύνης για να αναλύσει «ποιος χρήστης ενδιαφέρεται για ποιο θέμα» από τις εγγραφές ολοκλήρωσης αγοράς. Ο διαχειριστής πληροφοριών συνειδητοποίησε ότι θα αποτελούσε παραβίαση του απορρήτου εάν αυτά τα δεδομένα διατίθενται με το αναγνωριστικό χρήστη. Τα δεδομένα αρχικά ανωνυμοποιήθηκαν και υποβλήθηκαν σε επεξεργασία αποκλειστικά ως συγκεντρωτικά, αποπροσδιορισμένα στατιστικά στοιχεία.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Ξεκινήστε να ορίζετε ρόλους και όρια:
Ο ρόλος σας: έμπειρος βοηθός ειδικός καταλογογράφησης και διαχείρισης πληροφοριών. Το καθήκον σας: να δημιουργήσετε ένα προσχέδιο από τις πληροφορίες στην πηγή που σας έδωσα. Κανόνες: (1) Χρησιμοποιήστε μόνο τις πληροφορίες στο κείμενο που σας έδωσα, μην προσθέτετε τις δικές σας πληροφορίες. (2) Σημειώστε "[πρέπει να επαληθευτεί]" όπου δεν είστε σίγουροι. (3) Μην δημιουργείτε ημερομηνίες, ονόματα ή αποτυπώματα. Αν καταλαβαίνεις, ξεκίνα. Πηγή: [εδώ]
2) Ερώτηση ελέγχου επικύρωσης:
Καταγράψτε κάθε πραγματικό ισχυρισμό (ημερομηνία, όνομα, αριθμός, αναφορά πηγής) στο παρακάτω κείμενο. Για το καθένα: από πού στο κείμενο πήρατε αυτές τις πληροφορίες; Εάν δεν είναι καθαρά στο κείμενο, γράψτε "όχι στο κείμενο". Κείμενο: [εδώ]
3) Έλεγχος μεροληψίας και έλλειψης προοπτικής:
Ποιες προοπτικές επισημαίνει η ακόλουθη περίληψη/σύσταση και ποιες παραλείπει; Ποιες ομάδες, περιοχές ή προβολές μπορεί να λείπουν; Απλά βασιστείτε στο κείμενο, μην κάνετε εικασίες. Κείμενο: [εδώ]
4) Προκαταρκτικός έλεγχος απορρήτου:
Το παρακάτω κείμενο περιέχει προσωπικά δεδομένα (όνομα, αριθμός ταυτότητας, επαφή, ιστορικό ανάγνωσης/αναζήτησης) ή ευαίσθητες εταιρικές πληροφορίες; Εάν ναι, απαριθμήστε το και προτείνετε πώς μπορεί να γίνει ανώνυμο. Κείμενο: [εδώ]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Βρείτε μου μερικούς πόρους για αυτό το θέμα.
Αυτή η προτροπή καλεί το AI να δημιουργήσει ψεύτικους πόρους. Δεν υπάρχουν ρόλοι, όρια, κανόνες επικύρωσης και πόροι. Το AI μπορεί να παράγει πιστευτές αλλά ανύπαρκτες ετικέτες.
Ισχυρή προτροπή:
Ο ρόλος σας: Βοηθός βιβλιοθηκονόμου αναφοράς. Επιλέξτε αυτά που σχετίζονται με το θέμα της «κλιματικής μετανάστευσης» από τις καταχωρήσεις του καταλόγου που σας έδωσα παρακάτω και εξηγήστε γιατί είναι σχετικές. Μην προσθέτετε πηγές που δεν βρίσκονται στη λίστα, μην κατασκευάζετε πηγές. Όταν δεν είστε σίγουροι, πείτε "δεν αναφέρονται κατάλληλες πηγές". Εγγραφές καταλόγου: [εδώ]
Η διαφορά είναι ξεκάθαρη: η ισχυρή προτροπή αναγκάζει το AI να λειτουργεί από τη δεδομένη πραγματική πηγή, όχι από τη δική του μνήμη, και εμποδίζει την κατασκευή.
Πίνακας επιπέδων και ευθύνης
επιχειρηματικό επίπεδο
δείγμα εργασίας
Ο ρόλος της AI
απόφαση του ανθρώπου
μηχανικό
Σχέδιο μεταδεδομένων, περίληψη, μετάφραση
Παράγει προσχέδια γρήγορα
επαλήθευση, έγκριση
οιονεί δικαστική
Τίτλος θέματος, πρόταση πηγής
προσφέρει προτάσεις
Επιλογή ανά πολιτική
καθαρή κρίση
Έλεγχος ταυτότητας, απόφαση πνευματικών δικαιωμάτων
Μόνο προκαταρκτικές πληροφορίες
Η πλήρης ευθύνη ανήκει στο άτομο
Συνήθη λάθη
- Αντικατάσταση της εξόδου AI για την πηγή. Το AI είναι βοηθός, όχι πόρος. Κάθε έξοδος επικυρώνεται.
- Αποδεχόμενοι την κατασκευασμένη πηγή ως πειστική. Το ότι φαίνεται καλό δεν σημαίνει ότι είναι σωστό.
- Εισαγωγή προσωπικών/ευαίσθητων δεδομένων στο δημόσιο εργαλείο. Το απόρρητο των χρηστών και το εταιρικό απόρρητο γίνονται σεβαστά από την αρχή.
- Αγνοώντας την προκατάληψη. Η τεχνητή νοημοσύνη φέρει τις προοπτικές των δεδομένων στα οποία εκπαιδεύεται. Ρωτήστε τι λείπει.
- Αφήνοντας την κρίση στην ΑΙ. Οι αποφάσεις για την ακρίβεια, τα πνευματικά δικαιώματα και το απόρρητο ανήκουν σε ανθρώπους.
Συνοπτικά
τεχνητή νοημοσύνη? Είναι ένας ισχυρός βοηθός για τη σύνοψη, τη σύνταξη, τη μετάφραση και τη σήμανση προτύπων στη βιβλιοθηκονομία και τη διαχείριση πληροφοριών. Εξοικονομεί πολύ χρόνο στη μηχανική εργασία. παρέχει συμβουλές για οιονεί δικαστικά θέματα· Αλλά η επαλήθευση της ακρίβειας, η αξιοπιστία της πηγής, το απόρρητο των χρηστών και οι ηθικές αποφάσεις ανήκουν στους ανθρώπους. Η ψευδαίσθηση είναι ο μεγαλύτερος κίνδυνος για αυτό το επάγγελμα: καμία πηγή πιστώσεων ή αποσπάσματα δεν χρησιμοποιούνται χωρίς επαλήθευση. Εκτελέστε AI με σαφείς κανόνες ρόλου, ορίων και επικύρωσης. Επιβεβαιώστε κάθε κρίσιμη έξοδο με μια ανεξάρτητη πηγή.
Εργασία εφαρμογής
Επιλέξτε ένα πραγματικό θέμα από τον τομέα σας. Ζητήστε από την τεχνητή νοημοσύνη 5 προτάσεις πόρων για αυτό το θέμα, στη συνέχεια αναζητήστε την καθεμία σε έναν πραγματικό κατάλογο ή βάση δεδομένων και σημειώστε πόσες υπάρχουν στην πραγματικότητα. Στη συνέχεια, με το πρότυπο «Εκκίνηση που ορίζει ρόλους και όρια», πείτε στο AI να λειτουργεί μόνο από ένα κείμενο που παρέχετε και συγκρίνετε τα αποτελέσματα των δύο προσεγγίσεων. Γράψτε ποια προσέγγιση εμποδίζει την εφαρμογή.
λίστα ελέγχου
- [ ] Προσδιόρισα σε ποιο επίπεδο (μηχανική, ημιδικαστική, καθαρή κρίση) βρίσκεται η εργασία.
- [ ] "Τι συμβαίνει εάν αυτή η έξοδος είναι λανθασμένη;" έκανα την ερώτηση.
- [ ] Έχω επαληθεύσει κάθε πίστωση και παραπομπή σε σχέση με μια ανεξάρτητη πηγή.
- [ ] Έχω ελέγξει ότι δεν υπάρχουν προσωπικές/ευαίσθητες πληροφορίες στα δεδομένα που εισάγονται στο AI.
- [ ] Κράτησα την τελική απόφαση και την ευθύνη κατά την κρίση μου.