Κέρδη:
- Ικανότητα να εξηγήσει γιατί η ψευδαίσθηση (κατασκευασμένη πηγή, απόσπασμα, γεγονός) και ο αναχρονισμός είναι τα πιο επικίνδυνα λάθη στην ιστορία
- Δυνατότητα εφαρμογής της πειθαρχίας της επαλήθευσης κάθε αναφοράς στον κατάλογο, της σύγκρισης του περιεχομένου με το έγγραφο και της αλληλοεπιβεβαίωσης κρίσιμων γεγονότων.
- Δυνατότητα αμφισβήτησης της μεροληψίας και των φωνών που λείπουν στις πηγές ρωτώντας την τεχνητή νοημοσύνη πού να κοιτάξει αντί για την πραγματική πηγή
Υπάρχει μια προειδοποίηση που επαναλαμβάνεται σε κάθε μονάδα αυτής της ενότητας: η έξοδος της τεχνητής νοημοσύνης είναι ισχυρισμός, όχι γεγονός, μέχρι να επαληθευτεί. Αυτή η ενότητα μετατρέπει αυτήν την προειδοποίηση σε πειθαρχία. Η ιστορία και η αρχειοθέτηση είναι εγγενώς πεδία που βασίζονται σε στοιχεία. Η πιο βασική ικανότητα ενός ιστορικού είναι η κριτική πηγών (να αναρωτιέται από ποιον, πότε, για ποιο σκοπό δημιουργήθηκε μια πηγή και πόσο αξιόπιστη είναι). Στην εποχή της τεχνητής νοημοσύνης, αυτή η ικανότητα έχει γίνει ακόμη πιο κρίσιμη επειδή η ίδια η πηγή μπορεί τώρα να κατασκευαστεί.
Εδώ θα καλύψουμε τρεις κινδύνους σε βάθος: την ψευδαίσθηση (AI που παράγει κατασκευασμένες πληροφορίες, πηγές ή αποσπάσματα), τον αναχρονισμό (περιοδικά στοιχεία που μετακινούνται σε λάθος περίοδο) και την πειθαρχία της επαλήθευσης της πηγής γενικά. Θα δούμε επίσης την τεχνητή νοημοσύνη να μαθαίνει από πηγές που ήταν ανακριβείς ή προκατειλημμένες στο παρελθόν, ώστε να μπορεί να αναπαράγει μεροληψία.
Ψευδαίσθηση: το πιο επικίνδυνο λάθος
Μια ψευδαίσθηση είναι όταν ένα AI παρουσιάζει με σιγουριά κάτι που στην πραγματικότητα δεν υπάρχει. Ιστορικά, εμφανίζεται πιο συχνά στις ακόλουθες μορφές:
- Κατασκευασμένη πηγή/αναφορά: Ανύπαρκτο αρχειακό ταμείο, αριθμός αρχείου, βιβλίο ή άρθρο.
- Φτιαγμένο απόσπασμα: Μια λέξη που δεν ειπώθηκε στην πραγματικότητα, μια πρόταση που δεν υπάρχει στο έγγραφο.
- Φτιαγμένο συμβάν/ημερομηνία/πρόσωπο: Ένα γεγονός που δεν συνέβη, μια ψεύτικη ημερομηνία, ένα άτομο που δεν υπάρχει.
- Εικονική σύνδεση: Ανύπαρκτη σχέση αιτίου-αποτελέσματος μεταξύ δύο πραγματικών γεγονότων.
Αυτό που κάνει μια ψευδαίσθηση επικίνδυνη είναι ότι φαίνεται πιστευτή. Μια κατασκευασμένη αναφορά έχει την ίδια μορφή με μια πραγματική αναφορά: όνομα κεφαλαίου, αριθμός, ημερομηνία. Άρα, το "format looks right" δεν σημαίνει ποτέ "σωστό".
Προσοχή: Κανένας πόρος που παράγεται από την YZ δεν μπορεί να χρησιμοποιηθεί χωρίς να έχει επαληθευτεί και βρεθεί στον κατάλογο ή σε αξιόπιστο μέρος. Ο μόνος τρόπος για να αποδείξετε ότι υπάρχει μια αναφορά είναι να την δείτε πού βρίσκεται η αρχική πηγή (κατάλογος αρχείου, βιβλιοθήκη, δημοσίευση). Το "AI το έδωσε" δεν είναι απόδειξη.
Αναχρονισμός: ποτήρια εποχής
Αναχρονισμός είναι να βλέπεις το παρελθόν με τα σημερινά γυαλιά. Επειδή η τεχνητή νοημοσύνη είναι εκπαιδευμένη στη σημερινή γλώσσα, έχει μια ισχυρή τάση:
- Όρος αναχρονισμός: Χρήση λέξης, θεσμού ή έννοιας που δεν ανήκει στην περίοδο.
- Έννοια αναχρονισμός: Προβολή μιας ιδέας του παρόντος (π.χ. μια σύγχρονη ιδεολογία ή ταυτότητα) στο παρελθόν.
- Αναχρονισμός αξιών: Κρίνοντας την προηγούμενη συμπεριφορά μόνο με τα σημερινά πρότυπα.
Η δουλειά του ιστορικού είναι να κατανοήσει το παρελθόν στο πλαίσιο του. Η τεχνητή νοημοσύνη στερείται αυτής της ευαισθησίας περιβάλλοντος. Πρέπει να το παρέχετε μόνοι σας.
Η κατανόηση του γιατί η ψευδαίσθηση συμβαίνει τόσο συχνά καθιστά ευκολότερη την προστασία από αυτήν. Το AI είναι ένα σύστημα που λειτουργεί για να παράγει την «επόμενη πιο πιθανή λέξη». Δεν έχει σκοπό όπως «να γνωρίζει την αλήθεια». Όταν τίθεται μια ερώτηση, είτε γνωρίζει την απάντηση είτε όχι, παράγει κείμενο που φαίνεται στατιστικά πειστικό. Η μορφή μιας αναφοράς αρχείου (όνομα κεφαλαίου, αριθμός, ημερομηνία) είναι ένα μαθημένο μοτίβο. Το AI μπορεί να γεμίσει αυτό το μοτίβο χωρίς πραγματική αναφορά. Λοιπόν "γιατί το AI το συνθέτει;" Η απάντηση στην ερώτηση είναι απλή: του είναι πιο εύκολο να τα φτιάξει παρά να «μη γνωρίζει». Η ευθύνη βαραίνει εσάς να γεμίσετε αυτά τα καλούπια με πραγματικούς πόρους.
Πειθαρχία επαλήθευσης πηγής: βήμα προς βήμα
1. Επαληθεύστε την ύπαρξη του πόρου. Βρείτε κάθε αναφορά που δίνεται από το AI στον κατάλογο/δημοσίευση. Εάν δεν μπορείτε να το βρείτε, μην το χρησιμοποιήσετε.
2. Συγκρίνετε το περιεχόμενο με την πηγή. Υπάρχουν πράγματι στο έγγραφο οι πληροφορίες που αποδίδει η τεχνητή νοημοσύνη σε ένα έγγραφο; Το απόσπασμα είναι ακριβώς το ίδιο;
3. Διασταυρούμενη επιβεβαίωση. Για ένα κρίσιμο γεγονός, δείτε τουλάχιστον δύο ανεξάρτητες αξιόπιστες πηγές.
4. Εφαρμόστε κριτική πηγής. Είναι η ίδια η πηγή αξιόπιστη; Ποιος το παρήγαγε, πότε και για ποιο σκοπό; Είναι προκατειλημμένο;
5. Περάστε το από το φίλτρο αναχρονισμού. Υπάρχουν όροι, έννοιες ή αξιολογικές κρίσεις που δεν ταιριάζουν στην περίοδο στην παραγωγή;
6. Προκατάληψη ερωτήσεων. Θα μπορούσε η τεχνητή νοημοσύνη να αναπαράγει τις προκαταλήψεις στις ιστορικές πηγές (αγνοώντας μια ομάδα, ευνοώντας μια άποψη);
Επίπεδο ελέγχου ταυτότητας
Ερώτηση
ποιος το κάνει
οντότητα
Υπάρχει πραγματικά αυτός ο πόρος;
Εσύ στον κατάλογο.
περιεχόμενο
Αλήθεια αυτό αναφέρεται στο έγγραφο;
Εσείς στο έγγραφο
Επιβεβαίωση
Το υποστηρίζει κάποια άλλη πηγή;
εσύ, σταυρός
αξιοπιστία
Είναι αξιόπιστη η πηγή;
κρίση εμπειρογνωμόνων
Περίοδος
Υπάρχουν αναχρονισμοί;
κρίση εμπειρογνωμόνων
προκατάληψη
Ποιανού η φωνή λείπει/παραμορφώνεται;
κρίση εμπειρογνωμόνων
τρεις μίνι θήκες
Περίπτωση 1 — Έξι κατασκευασμένες αναφορές. Ένας ερευνητής ζήτησε από το AI μια λίστα πηγών για ένα θέμα. Η YZ παρείχε 6 αναφορές αρχείων με τέλεια μορφοποίηση. Στην αναζήτηση καταλόγου, 4 από τα 6 έλειπαν, 2 από αυτά είχαν λάθος αριθμό. Εάν ο ερευνητής δεν είχε επαληθεύσει, θα είχε προκύψει μια μελέτη που ανέφερε ανύπαρκτες πηγές. Μάθημα: κάθε αναφορά επαληθεύεται στον κατάλογο.
Περίπτωση 2 — Φτιαγμένο απόσπασμα. Ένας συγγραφέας θα χρησιμοποιούσε ένα εντυπωσιακό απόσπασμα που το AI αποδίδει σε μια ιστορική προσωπικότητα. Όταν ερεύνησε την πηγή, είδε ότι δεν υπήρχε κανένα έγγραφο που να αποδεικνύει ότι το άτομο αυτό είπε κάτι τέτοιο και ότι η δήλωση ήταν «φτιαγμένη» από την ΑΙ. Μάθημα: Τα εισαγωγικά δεν μπορούν να χρησιμοποιηθούν χωρίς επαλήθευση από μια κύρια ή αξιόπιστη πηγή.
Περίπτωση 3 — Αναπαραγωγή προκατάληψης. Ένας μαθητής έβαλε το AI να εξηγήσει την ιστορία μιας περιοχής. Το αποτέλεσμα αγνόησε εντελώς μια συγκεκριμένη κοινότητα σε αυτήν την περιοχή, επειδή οι πηγές από τις οποίες είχε μάθει η τεχνητή νοημοσύνη τις είχαν επίσης αγνοήσει. Ο μαθητής παρατήρησε και διόρθωσε αυτό το κενό με παραπομπές. Μάθημα: Η τεχνητή νοημοσύνη αναπαράγει σιωπές και προκαταλήψεις στις πηγές. Πρέπει να ρωτήσει κανείς ποιανού η φωνή λείπει.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Λίστα επαλήθευσης αναφοράς:
ΟΛΑ τα ονόματα πηγής, αναφοράς, απόσπασμα, ημερομηνία και πρόσωπα στο παρακάτω κείμενο εμφανίζονται σε ξεχωριστή λίστα. Προσθέστε μια σημείωση για καθεμία: "η αξίωση σε αυτό το κείμενο, πρέπει να επαληθευτεί ανεξάρτητα." Εάν δεν επιλέξετε κανένα, "επαλήθευση". Απλώς δημιουργήστε μια λίστα για επαλήθευση, ώστε να μπορώ να την ελέγξω από τον κατάλογο/πηγή. Κείμενο: [εδώ]
2) Σάρωση αναχρονισμού:
Εξετάστε το κείμενο σχετικά με την [περίοδο] παρακάτω. Επισημάνετε όρους, θεσμούς, έννοιες και αξίες που ΜΠΟΡΕΙ ΝΑ ΔΕΝ ανήκουν σε αυτήν την περίοδο. Για καθένα, γράψτε εν συντομία γιατί είστε καχύποπτοι. Τελική κρίση. Δημιουργήστε μια λίστα με τις υποψίες που θα ελέγξει ο ειδικός. Κείμενο: [εδώ]
3) Πλαίσιο κριτικής πηγής:
Συντάσσεται μια κριτική πηγής σχετικά με την ακόλουθη πηγή: (1) Ποιος θα μπορούσε να την παρήγαγε, (2) Πότε, (3) Για ποιο σκοπό, (4) Ποιες είναι οι πιθανές προκαταλήψεις της, (5) Ποια θέματα πρέπει να είναι αξιόπιστα και ποια πρέπει να είναι προσεκτικά. Επιβολή τελικής κρίσης. Δώστε ερωτήσεις και πιθανές επιλογές απαντήσεων. Πηγή: [εδώ]
4) Λείπει έλεγχος έντασης/προκατάληψης:
ΠΟΙΟΥΣ η φωνή και η εμπειρία ποιας ομάδας μπορεί να λείπει ή να είναι μονόπλευρη στην παρακάτω ιστορική περίληψη; Ποια προοπτική είναι κυρίαρχη, ποια είναι αόρατη; Δημιουργήστε αυτό ως μια λίστα ερωτήσεων. Θα το γεμίσω με παραπομπές. Περίληψη: [εδώ]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμο:
Δώστε μου αξιόπιστες ιστορικές πηγές και αποσπάσματα για αυτό το θέμα.
Η τεχνητή νοημοσύνη είναι πολύ επιρρεπής στο να παράγει αναφορές που είναι σωστές σε μορφή, αλλά κατασκευασμένες ως προς το περιεχόμενο όταν τους ζητείται "πηγή" και "αναφορά". Αυτή η προτροπή είναι μια άμεση πρόσκληση σε παραισθήσεις.
Δυνατό:
Προτείνετε τι είδους πηγές (τύπος αρχειακού ταμείου, τύπος δημοσίευσης, ίδρυμα) πρέπει να αναζητήσω στην έρευνά μου για αυτό το θέμα. ΤΟΠΟΘΕΤΗΣΗ συγκεκριμένης αναφοράς, αριθμού αρχείου ή προσφοράς. Πες μου μόνο πού να κοιτάξω. Μετά θα βρω τις πραγματικές πηγές από τους καταλόγους.
Διαφορά: Η τεχνητή νοημοσύνη ζητείται για "πού να ψάξει", όχι "πραγματική αναφορά". Ο κίνδυνος παραισθήσεων μειώνεται ριζικά και η επαλήθευση επαφίεται στον άνθρωπο.
Συνήθη λάθη
- Στηριζόμενη στη σωστή αναφορά. Η κατασκευασμένη αναφορά φαίνεται επίσης άψογη. πρέπει να επαληθευτεί στον κατάλογο.
- Λαμβάνοντας ένα άμεσο απόσπασμα από AI. Οι προσφορές δεν μπορούν να χρησιμοποιηθούν χωρίς επιβεβαίωση από την κύρια/αξιόπιστη πηγή.
- Με θέα τον αναχρονισμό. Οι σημερινοί όροι και έννοιες εισχωρούν σιωπηλά στο παρελθόν.
- Αναπαράγοντας την προκατάληψη. Το AI αντιγράφει τις σιωπές από πηγές. Είναι απαραίτητο να ρωτήσετε για τον ήχο που λείπει.
- Βασιζόμενοι σε μία μόνο πηγή. Τα κρίσιμα γεγονότα πρέπει να επιβεβαιώνονται από τουλάχιστον δύο ανεξάρτητες πηγές.
Συνοπτικά
Η επαλήθευση πηγής βρίσκεται στο επίκεντρο της ιστορίας και της αρχειοθέτησης και είναι ακόμη πιο κρίσιμη στην εποχή της τεχνητής νοημοσύνης. Η ψευδαίσθηση παράγει πηγές, αποσπάσματα και γεγονότα των οποίων η μορφή είναι τέλεια αλλά το περιεχόμενο είναι πλασματικό. Ο αναχρονισμός διαστρεβλώνει το παρελθόν μέσα από τους σημερινούς φακούς. και η τεχνητή νοημοσύνη αναπαράγει προκαταλήψεις στις πηγές. Η άμυνα είναι μια πειθαρχία: επαληθεύστε κάθε αναφορά στον κατάλογο, συγκρίνετε περιεχόμενο με έγγραφο, διασταυρώστε κρίσιμα γεγονότα, φιλτράρετε την περίοδο και την προκατάληψη. Ρωτήστε το AI για «πού να ψάξετε», όχι «την πραγματική πηγή». Ο φύλακας της αλήθειας είναι πάντα ο ειδικός.
Εργασία εφαρμογής
Ζητήστε από το AI να παράγει μια λίστα πόρων για ένα θέμα στο οποίο εργάζεστε (με μια εσκεμμένα "αδύναμη προτροπή"). Στη συνέχεια, εξαγάγετε όλες τις αναφορές από αυτήν την έξοδο με το πρότυπο "λίστα επικύρωσης αναφοράς" και αναζητήστε την καθεμία σε έναν κατάλογο. Μετρήστε πόσα πραγματικά υπάρχουν και πόσα είναι φτιαγμένα ή ανακριβή. Επαναλάβετε το ίδιο θέμα με μια «ισχυρή προτροπή» («πού να κοιτάξω») και ζήστε τη διαφορά.
λίστα ελέγχου
- [ ] Έχω επαληθεύσει κάθε αναφορά στον κατάλογο/αξιόπιστη πηγή.
- [ ] Έχω επαληθεύσει κάθε προσφορά με την κύρια/αξιόπιστη πηγή.
- [ ] Έχω διασταυρώσει κρίσιμα γεγονότα με τουλάχιστον δύο ανεξάρτητες πηγές.
- [ ] Φιλτράρωσα την έξοδο για αναχρονισμούς.
- [ ] Αμφισβήτησα τις χαμένες/παραμορφωμένες φωνές και τις προκαταλήψεις.