Κέρδη:
- Δυνατότητα καταγραφής της ψευδαίσθησης με επαλήθευση της ύπαρξης κάθε πηγής, μετάβαση στην κύρια πηγή και ανεξάρτητα βήματα διασταυρούμενης επιβεβαίωσης
- Ικανότητα διατήρησης πρωτοτυπίας και ακαδημαϊκής ακεραιότητας έναντι κατασκευασμένων αποσπασμάτων και εγγράφων στις ανθρωπιστικές και κοινωνικές επιστήμες
- Δυνατότητα διδασκαλίας δεξιοτήτων επαλήθευσης πηγής και πληροφοριακής παιδείας στους χρήστες στην εποχή της τεχνητής νοημοσύνης
Στο επίκεντρο της κοινωνικής αποστολής της βιβλιοθηκονομίας βρίσκεται μια ενιαία υπόσχεση: αξιόπιστες πληροφορίες. Ένας βιβλιοθηκάριος φέρνει τον χρήστη όχι μόνο σε πληροφορίες, αλλά σε επαληθευμένες πληροφορίες, και τον διδάσκει πώς να αξιολογεί ο ίδιος αυτές τις πληροφορίες. Στην εποχή της τεχνητής νοημοσύνης, αυτή η αποστολή έχει γίνει πιο δύσκολη και πιο σημαντική. επειδή η τεχνητή νοημοσύνη μπορεί να παράγει παραπληροφόρηση με πολύ πειστικό τρόπο. Σε αυτή την ενότητα, θα καλύψουμε την αναγνώριση παραισθήσεων, την πειθαρχία της επαλήθευσης της πηγής και τη διδασκαλία της πληροφοριακής παιδείας στην εποχή της τεχνητής νοημοσύνης.
Ας ορίσουμε τις έννοιες. Η ψευδαίσθηση είναι όταν η τεχνητή νοημοσύνη παράγει πληροφορίες, πηγές, αποσπάσματα ή γεγονότα που στην πραγματικότητα δεν υπάρχουν σαν να ήταν αληθινά. Η επαλήθευση πηγής είναι η επιβεβαίωση ότι οι πληροφορίες βασίζονται σε μια πραγματική, αξιόπιστη και πρωτογενή πηγή. Η πληροφοριακή παιδεία είναι η ικανότητα του ατόμου να βρίσκει πληροφορίες, να τις αξιολογεί, να αμφισβητεί την αξιοπιστία τους και να τις χρησιμοποιεί ηθικά. Αυτή η ενότητα στοχεύει ο βιβλιοθηκάριος να ενισχύσει αυτές τις δεξιότητες τόσο στη δική του πρακτική όσο και στη διδασκαλία του χρήστη.
Βήμα προς βήμα: πειθαρχία επαλήθευσης πηγής
1. Ζητήστε την πηγή και επαληθεύστε την ύπαρξή της. Όταν το AI δίνει έναν ισχυρισμό ή ένα απόσπασμα, "από ποια πηγή είναι αυτό;" και ελέγξτε ότι η πηγή υπάρχει πράγματι σε ανεξάρτητο κατάλογο, βάση δεδομένων ή πρωτεύον έγγραφο.
2. Μεταβείτε στην κύρια πηγή. Η πιο αξιόπιστη μορφή πληροφοριών είναι η πηγή της από πρώτο χέρι. Μην συμβιβάζεστε με μια περίληψη της τεχνητής νοημοσύνης ή ένα δευτερεύον κείμενο. Εάν είναι δυνατόν, αποκτήστε πρόσβαση στο πρωτότυπο έγγραφο, δεδομένα ή δημοσίευση.
3. Διασταυρούμενη επιβεβαίωση. Επαληθεύστε έναν κρίσιμο ισχυρισμό με τουλάχιστον δύο αξιόπιστες πηγές, ανεξάρτητες μεταξύ τους. Ένας πόρος, ειδικά ο πόρος AI, δεν είναι αρκετός.
4. Αξιολογήστε την αξιοπιστία της πηγής. Ποιος το έγραψε, πότε, για ποιο σκοπό, με ποια στοιχεία; Είναι ενημερωμένο; Η ύπαρξη πληροφοριών δεν την κάνει αληθινή. Επίσης, αμφισβητήστε τη φύση της πηγής.
5. Εκφράστε την αβεβαιότητα με ειλικρίνεια. Εάν οι πληροφορίες δεν μπορούν να επαληθευτούν, πείτε το ξεκάθαρα. Είναι πάντα καλύτερο να λες "μη επιβεβαιωμένο" παρά να προσφέρεις μια κατασκευασμένη βεβαιότητα.
Συμβουλή: Όταν λαμβάνετε ένα απόσπασμα ή μια πηγή από την τεχνητή νοημοσύνη, αναζητήστε πρώτα τον τίτλο και τον συγγραφέα σε έναν πραγματικό κατάλογο. Οι ανύπαρκτοι πόροι εμφανίζονται αμέσως εδώ. Αυτός ο έλεγχος διάρκειας 30 δευτερολέπτων εμποδίζει μια κατασκευασμένη πηγή να εισέλθει σε μια βιβλιογραφία, μια εργασία ή μια δημοσίευση.
Αυθεντικότητα και επαλήθευση στις ανθρωπιστικές και κοινωνικές επιστήμες
Οι ανθρωπιστικές και κοινωνικές επιστήμες είναι ιδιαίτερα ευάλωτες στον κίνδυνο παραισθήσεων. Σε αυτούς τους τομείς, τα στοιχεία βασίζονται συχνά σε ένα συγκεκριμένο έγγραφο, μια ημερομηνία, ένα απόσπασμα ή την πηγή ενός σχολίου. Η τεχνητή νοημοσύνη μπορεί να παράγει πολύ συγκεκριμένους αλλά εντελώς κατασκευασμένους ισχυρισμούς, όπως «αυτός ο ιστορικός είπε» ή «αυτό το έγγραφο από το 1923 λέει». Σε ένα έργο λογοτεχνίας, ιστορίας ή δικαίου, αυτό σημαίνει μια ψευδή αλυσίδα αποδεικτικών στοιχείων.
Επιπλέον, η πρωτοτυπία είναι η θεμελιώδης αξία αυτών των πεδίων: έχει σημασία σε ποιον ανήκει πραγματικά ένα κείμενο, μια ερμηνεία ή μια μετάφραση. Η παρουσίαση ενός κειμένου που παράγεται από την τεχνητή νοημοσύνη ως πρωτότυπο έργο ή η βάση μιας «πηγής» που έχει δημιουργηθεί από την τεχνητή νοημοσύνη παραβιάζει την ακαδημαϊκή ακεραιότητα. Ο βιβλιοθηκάριος είναι ένας οδηγός που διδάσκει στους χρήστες τόσο την επαλήθευση όσο και τα όρια πρωτοτυπίας και λογοκλοπής.
Προσοχή: Ακόμη και σε περιπτώσεις όπου ένα απόσπασμα που δημιουργείται από AI εμφανίζεται λέξη προς λέξη ακριβές και αποδίδεται σε πραγματικό συγγραφέα, αυτό το απόσπασμα μπορεί να κατασκευαστεί. Επαληθεύστε ένα απόσπασμα βρίσκοντάς το μόνο στο πραγματικό έργο του συγγραφέα. Η λογική του «κάτι τέτοιο μπορεί να είπε αυτός ο συγγραφέας» δεν αρκεί.
τρεις μίνι θήκες
Περίπτωση 1 — Ο μαθητής διδάχθηκε επαλήθευση. Ένας βιβλιοθηκάριος είδε 5 πόρους από την τεχνητή νοημοσύνη σε μια εργασία ενός μαθητή. Μαζί το έλεγξαν στον κατάλογο: κατασκευάστηκαν 2 πηγές. Ο μαθητής βίωσε από πρώτο χέρι το μάθημα ότι «δεν είναι σωστό να φαίνεται αληθινό» και απέκτησε για άλλη μια φορά τη συνήθεια να επαληθεύει κάθε πηγή.
Περίπτωση 2 — Κατασκευασμένο ιστορικό έγγραφο. Ένας ερευνητής έλαβε μια "ρεπορτάζ εφημερίδας του 1919" από την AI. Η ημερομηνία, το όνομα της εφημερίδας και το περιεχόμενο ήταν εξαιρετικά πειστικά. Ο βιβλιοθηκάριος σάρωνε το αρχείο της εφημερίδας: δεν υπήρχαν τέτοια νέα εκείνη την εποχή. Μια κατασκευασμένη πρωτογενής πηγή πιάστηκε πριν καν γίνει άρθρο.
Περίπτωση 3 — Εσφαλμένο απόσπασμα. Το AI απέδωσε ένα απόσπασμα σε έναν διάσημο στοχαστή. Ο βιβλιοθηκάριος αναζήτησε αυτή τη λέξη στα έργα του στοχαστή και δεν τη βρήκε. Η λέξη δεν αναφέρθηκε πουθενά. Ο διασταυρούμενος έλεγχος απέτρεψε τη διάδοση μιας εσφαλμένης απόδοσης.
Η αλυσίδα διάδοσης της παραπληροφόρησης και ο ρόλος του βιβλιοθηκονόμου
Η παραπληροφόρηση ξεκινά συχνά με ένα μόνο κατασκευασμένο αποτέλεσμα, αλλά δεν σταματά εκεί. Ένας χρήστης τοποθετεί έναν ψεύτικο πόρο που δημιουργείται από AI σε μια ανάθεση. η εργασία γίνεται δημοσίευση. η δημοσίευση αναφέρεται από άλλους, ώστε μια πλασματική πηγή να αποκτά την εμφάνιση της «αλήθειας» με την επανειλημμένη αναφορά της. Μπορούμε να ονομάσουμε αυτήν την απόδοση μόλυνσης: οι ψευδείς πληροφορίες αποκτούν νομιμότητα με το να επαναλαμβάνονται ξανά και ξανά. Ο βιβλιοθηκάριος βρίσκεται στον πιο κρίσιμο κρίκο αυτής της αλυσίδας. γιατί είναι το τελευταίο σημείο ελέγχου όπου οι πληροφορίες επαληθεύονται πριν εισέλθουν στο σύστημα. Ακριβώς επειδή μια πηγή "βρίσκεται σε πολλά μέρη" δεν το κάνει αληθινό. Οι ίδιες πλαστές πληροφορίες μπορούν να εμφανιστούν σε πολλά σημεία με αντιγραφή μεταξύ τους. Επομένως, η διασταυρούμενη επιβεβαίωση θα πρέπει να βασίζεται στο ερώτημα "πόσες αξιόπιστες πηγές το επιβεβαιώνουν ανεξάρτητα η μία από την άλλη", όχι "πόσα μέρη εμφανίζεται;" Δέκα δευτερεύουσες πηγές που επαναλαμβάνουν τον ίδιο ισχυρισμό δεν αξίζουν όσο μια ανεξάρτητη πρωτογενής πηγή. Ο βιβλιοθηκάριος θα πρέπει να τοποθετήσει αυτή τη διάκριση (χωρίς να συγχέει την ανεξαρτησία με την επανάληψη) στο επίκεντρο τόσο της δικής του επαλήθευσης όσο και της διδασκαλίας του προς τον χρήστη.
Προσοχή: Η εμφάνιση πληροφοριών σε μηχανή αναζήτησης ή σε πολλές ιστοσελίδες δεν αποτελεί απόδειξη της ακρίβειάς τους. Το ίδιο λάθος μπορεί να έχει γίνει ευρέως διαδεδομένο με την αντιγραφή από πηγή σε πηγή. Η επικράτηση και η ακρίβεια είναι διαφορετικά πράγματα. Η επιβεβαίωση απαιτεί μια ανεξάρτητη και αξιόπιστη πηγή.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Ερώτημα οντότητας πόρων:
Καταχωρίστε κάθε παραπομπή πηγής και παραπομπή στο παρακάτω κείμενο. Για καθένα: συγγραφέας, τίτλος, έτος και πληροφορίες δημοσίευσης (εάν υπάρχουν). Εξαγωγή στοιχείο προς στοιχείο τις πληροφορίες που πρέπει να επαληθεύσω. μην προσθέσετε.Κείμενο: [εδώ]
2) Αξιολόγηση επιβεβαιότητας:
Για καθέναν από τους ακόλουθους ισχυρισμούς, απομονώστε τα πραγματικά στοιχεία (ημερομηνία, όνομα, αριθμός, προσφορά) που πρέπει να επαληθευτούν. Προτείνετε ποιος τύπος πηγής (κατάλογος, πρωτεύον έγγραφο, βάση δεδομένων) μπορεί να επαληθευτεί. Μην κρίνετε την ακρίβεια, απλώς δείξτε τη διαδρομή επαλήθευσης. Ισχυρισμοί: [εδώ]
3) Λίστα ελέγχου αξιοπιστίας συγκόλλησης:
Αξιολογήστε την αξιοπιστία της ακόλουθης πηγής: ποιος το έγραψε, πότε, για ποιο σκοπό, υπάρχουν στοιχεία, είναι τρέχοντα, υπάρχει πιθανή μεροληψία; Απλά βασιστείτε στις πληροφορίες που έδωσα, γράψτε "άγνωστο" όπου λείπει. Πληροφορίες πηγής: [εδώ]
4) Σχέδιο διδασκαλίας πληροφοριακής παιδείας:
Δημιουργήστε ένα σύντομο σεμινάριο διάρκειας 20 λεπτών σχετικά με την επαλήθευση πηγής και τις ψευδαισθήσεις στην εποχή της τεχνητής νοημοσύνης για την ακόλουθη ομάδα χρηστών (π.χ. προπτυχιακοί): στόχοι, 3 παραδείγματα, 1 εφαρμογή. Ομάδα: [εδώ]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Γράψτε μια περίληψη για αυτό το θέμα με αξιόπιστες πηγές.
Λέγοντας "με αξιόπιστες πηγές" ενθαρρύνει την τεχνητή νοημοσύνη να παράγει ψεύτικες πηγές που φαίνονται αληθινές. Δεν υπάρχει άγκιστρο επικύρωσης.
Ισχυρή προτροπή:
Ο ρόλος σας: βοηθός πληροφοριακής παιδείας. ΓΡΑΦΗ περίληψης για το ακόλουθο θέμα. Αντίθετα, αναφέρετε τις πραγματικές ερωτήσεις που πρέπει να επαληθεύσει ένας χρήστης και τον τύπο της αξιόπιστης πηγής με την οποία μπορεί να τις επαληθεύσει. Μην δημιουργείτε παραπομπές σε πηγές. Σημειώστε την περιοχή για την οποία δεν είστε σίγουροι ως "πρέπει να επαληθευτεί". Θέμα: [εδώ]
Ισχυρή προτροπή. Χρησιμοποιεί την τεχνητή νοημοσύνη ως οδηγό που δείχνει τον δρόμο προς την επαλήθευση, αντί να παράγει απαντήσεις και αποτρέπει δομικά την κατασκευή.
Πίνακας επιπέδων ελέγχου ταυτότητας
στρώμα
Ερώτηση
Μέθοδος
οντότητα
Είναι αληθινή αυτή η πηγή;
Αναζήτηση καταλόγου/βάσης δεδομένων
πρωτοκαθεδρία
Είναι αυτή η πλησιέστερη πηγή;
Πρόσβαση στο αρχικό έγγραφο
Επιβεβαίωση
Το επιβεβαιώνει άλλη πηγή;
Ανεξάρτητος διασταυρούμενος έλεγχος
αξιοπιστία
Πόσο σταθερή είναι η πηγή;
Συγγραφέας, ημερομηνία, σκοπός, στοιχεία
ειλικρίνεια
Είμαι σίγουρος;
Δηλώστε ξεκάθαρα την αβεβαιότητα
Συνήθη λάθη
- Νομίζοντας ότι αυτό που είναι πειστικό είναι αλήθεια. Η καλή εμφάνιση δεν είναι απόδειξη δικαιοσύνης.
- Το να είσαι ικανοποιημένος με μια μόνο πηγή. Οι κρίσιμες πληροφορίες απαιτούν ανεξάρτητη διασταυρούμενη επιβεβαίωση.
- Δεν ψάχνω το απόσπασμα στην πηγή του. Έτσι διαδίδονται λανθασμένα λόγια.
- Απόκρυψη αβεβαιότητας. Το "μη επαληθεύσιμο" είναι καλύτερο από την ψευδή βεβαιότητα.
- Μη διδάσκοντας στον χρήστη τον έλεγχο ταυτότητας. Η πληροφοριακή παιδεία είναι η αποστολή του βιβλιοθηκονόμου.
Συνοπτικά
Η επαλήθευση πηγών και η πληροφοριακή παιδεία είναι τα πιο κρίσιμα καθήκοντα της βιβλιοθηκονομίας στην εποχή της τεχνητής νοημοσύνης. Η ψευδαίσθηση παράγει πειστικές αλλά κατασκευασμένες πληροφορίες και είναι ιδιαίτερα επικίνδυνη στις ανθρωπιστικές/κοινωνικές επιστήμες. Η πειθαρχία είναι σαφής: επαληθεύστε την ύπαρξη κάθε πηγής, μεταβείτε στην κύρια πηγή, πραγματοποιήστε ανεξάρτητο διασταυρούμενο έλεγχο, αμφισβητήστε την αξιοπιστία της πηγής και εκφράστε την αβεβαιότητα με ειλικρίνεια. Ο βιβλιοθηκάριος διαδίδει αυτήν την κουλτούρα επαλήθευσης όχι μόνο στην πρακτική του/της αλλά και διδάσκοντας τους χρήστες. Η πρωτοτυπία και η ακαδημαϊκή ακεραιότητα αποτελούν αναπόσπαστο κομμάτι αυτής της αποστολής.
Εργασία εφαρμογής
Ζητήστε 6 πηγές και 2 παραπομπές από AI στον τομέα σας. Επαληθεύστε κάθε πηγή αναζητώντας την σε έναν πραγματικό κατάλογο και κάθε αναφορά στο πραγματικό έργο του συγγραφέα. Σημειώστε πόσα είναι κατασκευάσματα. Στη συνέχεια, χρησιμοποιώντας το πρότυπο «Σχέδιο διδασκαλίας πληροφοριακού αλφαβητισμού», συντάξτε ένα σεμινάριο διάρκειας 20 λεπτών για να εξηγήσετε την επαλήθευση πηγής σε μια ομάδα χρηστών και συμπεριλάβετε πραγματικά παραδείγματα που βρήκατε μόνοι σας.
λίστα ελέγχου
- [ ] Έχω επαληθεύσει ανεξάρτητα ότι κάθε πηγή υπάρχει στην πραγματικότητα.
- [ ] Έχω χρησιμοποιήσει πρωτεύουσες πηγές όπου είναι δυνατόν.
- [ ] Έχω διασταυρώσει κρίσιμους ισχυρισμούς με τουλάχιστον δύο ανεξάρτητες πηγές.
- [ ] Επαλήθευσα τα αποσπάσματα αναζητώντας τα στο πραγματικό έργο του συγγραφέα.
- [ ] Επισήμανα ξεκάθαρα τις μη επαληθεύσιμες πληροφορίες ως "μη επαληθεύσιμες".