Κέρδη:
- Γνωρίζοντας γιατί η ψευδαίσθηση είναι κρυμμένη στον ανθρώπινο τομέα και είναι σε θέση να περάσει κάθε πηγή μέσω της αλυσίδας επαλήθευσης πέντε βημάτων (ύπαρξη, αποτύπωμα, απόσπασμα, πλαίσιο, απόδοση)
- Δυνατότητα επιβεβαίωσης της αυθεντικότητας της πηγής με συγκεκριμένες ταυτότητες όπως DOI, ISBN και κατάλογος.
- Κατανοήστε την πειθαρχία της απαγόρευσης της τεχνητής νοημοσύνης να κάνει κατασκευές και να μην αναθέτει ποτέ την επαλήθευση της προσφοράς και την ειλικρίνεια απόδοσης σε αυτήν.
Η αξία ενός κειμένου σε ανθρώπινο και κοινωνικό πεδίο εξαρτάται από την αυθεντικότητα και την ακριβή μεταφορά των πηγών στις οποίες βασίζεται. Ένα λογοτεχνικό δοκίμιο, μια διατριβή, ένα σημείωμα διάλεξης—όλα βασίζονται σε αξιόπιστες πηγές και ειλικρινή αναφορά (που δείχνει ποιος/πού πήρατε πληροφορίες ή ένα απόσπασμα). Η τεχνητή νοημοσύνη προσφέρει μεγάλη ευκολία σε αυτόν τον τομέα, αλλά εγκυμονεί και τον μεγαλύτερο κίνδυνο: ψευδαίσθηση, δηλαδή την παραγωγή μιας ανύπαρκτης πηγής, αποσπάσματος ή γεγονότος ως πραγματική. Αυτή η μονάδα είναι αφιερωμένη στη δημιουργία μιας «τεθωρακισμένης επαλήθευσης» ενάντια σε αυτόν τον κίνδυνο.
Κανόνας μιας πρότασης: Καμία πηγή, απόσπασμα, ημερομηνία ή αριθμός που δημιουργείται από AI δεν μπορεί να εισέλθει στο κείμενο χωρίς επιβεβαίωση σε πρώτο πρόσωπο από μια κύρια ή αξιόπιστη πηγή. Αυτός ο κανόνας είναι ο πιο επαναλαμβανόμενος και λιγότερο ευέλικτος κανόνας αυτής της ενότητας.
Γιατί η ψευδαίσθηση είναι τόσο επικίνδυνη σε αυτόν τον τομέα;
Εάν η τεχνητή νοημοσύνη είναι λάθος σε μια τεχνική ερώτηση, θα γίνεται συχνά αντιληπτή. αλλά στην ανθρώπινη σφαίρα η ψευδαίσθηση κρύβεται επιδέξια:
- Ρεαλιστική γραμμή: Η τεχνητή νοημοσύνη συνδυάζει το όνομα ενός πραγματικού συγγραφέα με έναν τίτλο κατάλληλο για το πεδίο και μια λογική χρονιά. Το αποτέλεσμα είναι μια πηγή που δεν υπάρχει αλλά φαίνεται ακριβώς αληθινή.
- Παράθεση κατάλληλη για το στυλ: Η τεχνητή νοημοσύνη μπορεί να μιμηθεί το ύφος ενός συγγραφέα και να παρουσιάσει μια πρόταση που δεν του ανήκει ως «ο λόγος του».
- Κλείσιμο αλλά λάθος ημερομηνία: Το έτος μιας εργασίας μπορεί να μετατοπιστεί κατά ένα ή δύο χρόνια. Αυτό διαφεύγει από τον απρόσεκτο αναγνώστη.
- Μπερδεμένη απόδοση: Μπορεί να αποδώσει μια ιδέα σε λάθος άτομο.
Όλα αυτά μπορούν σιωπηλά να διεισδύσουν στο κείμενο ενός συγγραφέα με ειλικρινείς προθέσεις, και αν δεν συλληφθούν, να βλάψουν τόσο τη φήμη του συγγραφέα όσο και την εμπιστοσύνη του αναγνώστη.
Προσοχή: Ακριβώς επειδή ένας πόρος φαίνεται "ρεαλιστικός" στο AI δεν σημαίνει ότι είναι πραγματικός. Ο ρεαλισμός και η πραγματικότητα είναι δύο διαφορετικά πράγματα. Η τεχνητή νοημοσύνη είναι κύριος στο πρώτο, δεν μπορεί να εγγυηθεί το δεύτερο.
Επαλήθευση πανοπλίας: βήμα προς βήμα
Για κάθε πηγή και απόσπασμα, ακολουθήστε αυτήν την αλυσίδα:
- Υπάρχει; Αναζητήστε την πηγή στον κατάλογο της βιβλιοθήκης, σε μια αξιόπιστη βάση δεδομένων ή στον ιστότοπο του εκδότη. Εάν δεν μπορεί να βρεθεί, δεν υπάρχει — μην το χρησιμοποιήσετε.
- Είναι σωστό το αποτύπωμα; Συγγραφέας, τίτλος, εκδότης/περιοδικό, έτος, σελίδα — όλα πρέπει να ταιριάζουν ακριβώς.
- Είναι αληθινό το απόσπασμα; Βρείτε το απόσπασμα στην ίδια την πηγή, στην καθορισμένη σελίδα και συγκρίνετε το αυτολεξεί.
- Είναι σωστό το πλαίσιο; Το απόσπασμα χρησιμοποιείται κυριολεκτικά ή έχει παραμορφωθεί;
- Είναι ειλικρινής η απόδοση; Αποδίδεται η ιδέα στο σωστό άτομο, κάτι που προέρχεται από δευτερεύουσα πηγή απεικονίζεται ως πρωταρχικό;
Εάν έστω και ένας σύνδεσμος αυτής της αλυσίδας σπάσει, δεν μπορεί να εισαγάγει το κείμενο προέλευσης.
Συμβουλή: Δώστε εντολή στην τεχνητή νοημοσύνη από την αρχή: "Μην δίνετε καμία πηγή για την οποία δεν είστε σίγουροι ότι υπάρχει. Εάν δεν είστε σίγουροι, πείτε "Δεν μπόρεσα να βρω την πηγή". Αυτό δεν τελειώνει εντελώς την ψευδαίσθηση, αλλά προτρέπει την τεχνητή νοημοσύνη να πει "Δεν ξέρω" αντί να επισκευαστεί.
Παραπομπή και πειθαρχία παραπομπών
Μαζί με την επαλήθευση, η ειλικρινής απόδοση είναι επίσης μια πειθαρχία:
- Δώστε την άμεση προσφορά με εισαγωγικά και σελίδα. Ας είναι κυριολεκτικά.
- Συνδέστε επίσης την έμμεση αναφορά (συνοψίζοντας με δικά σας λόγια) με την πηγή. Εάν η ιδέα δεν είναι δική σας, χρειάζεται απόδοση.
- Δηλώστε με διαφάνεια τη συνεισφορά AI σύμφωνα με τον κανόνα του οργανισμού σας. Το AI δεν είναι «πόρος», αλλά εάν χρησιμοποιείται, πρέπει να δηλωθεί.
- Μην απεικονίζετε τη δευτερεύουσα πηγή ως κύρια. Εάν πήρατε ένα απόσπασμα από έναν συγγραφέα από άλλο βιβλίο, υποδείξτε αυτό.
τρεις μίνι θήκες
Περίπτωση 1 — Δύο από τις πέντε πηγές αποδείχθηκαν πλασματικές. Ένας ερευνητής πέρασε από τη διαδικασία επαλήθευσης 5 πηγών που έδωσε η AI. 2 δεν ήταν καθόλου στον κατάλογο, 1 είχε λάθος χρονιά, 2 ήταν πραγματικές και σωστές. Χρησιμοποιήθηκαν μόνο τα 2 επαληθευμένα. άρθρο που προστατεύεται από πλασματική απόδοση.
Περίπτωση 2 — Εντοπίστηκε παραμόρφωση εισαγωγικών. Ένας μαθητής βρήκε ένα απόσπασμα από την τεχνητή νοημοσύνη σε ένα πραγματικό βιβλίο, αλλά το απόσπασμα σήμαινε ακριβώς το αντίθετο στο αρχικό πλαίσιο. Το AI είχε βγάλει την πρόταση εκτός πλαισίου. Ο μαθητής διόρθωσε το απόσπασμα με το σωστό του πλαίσιο.
Περίπτωση 3 — Διορθώθηκε η λανθασμένη απόδοση. Σε ένα σημείωμα διάλεξης, η AI απέδωσε μια γνώμη σε λάθος συγγραφέα. Όταν ο δάσκαλος το διασταύρωσε με δύο αξιόπιστες πηγές, βρήκε τον νόμιμο ιδιοκτήτη και το διόρθωσε. Το σημείωμα επέζησε χωρίς να πάει στραβά στον μαθητή.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Οδηγία απαγόρευσης κατασκευής:
Από εδώ και στο εξής: ΜΗΝ δημιουργείτε καμία πηγή, απόσπασμα, ημερομηνία ή αριθμό που δεν είστε βέβαιοι ότι υπάρχουν. Εάν δεν είστε σίγουροι, πείτε "χρειάζεται επαλήθευση" ή "Δεν μπόρεσα να το βρω". Ποτέ μην δίνετε μια ετικέτα που είναι ρεαλιστική, αλλά δεν μπορείτε να εγγυηθείτε την αυθεντικότητά της. Ακολουθήστε αυτόν τον κανόνα με κάθε απάντηση.
2) Οδικός χάρτης επαλήθευσης πηγής:
Θα επαληθεύσω την πηγή παρακάτω μόνος μου. Πείτε μου πού να αναζητήσω αυτόν τον πόρο (κατάλογος, βάση δεδομένων, εκδότης) και με ποιες βασικές πληροφορίες. ΕΠΙΒΕΒΑΙΩΝΕΤΕ ότι ο πόρος υπάρχει. απλώς δώστε τα βήματα επαλήθευσης. Πηγή: [επικόλληση πίστωσης]
3) Έλεγχος περιβάλλοντος προσφοράς:
Παρακάτω είναι ένα απόσπασμα και η πραγματική παράγραφος στην οποία εμφανίζεται. Χρησιμοποιείται το απόσπασμα στο αρχικό του πλαίσιο ή έχει παραμορφωθεί; Απλά βασιστείτε στο κείμενο που σας έδωσα. προσθέτοντας ένα σχόλιο.Απόσπασμα: [...] Αρχική παράγραφος: [...]
4) Έλεγχος ακεραιότητας απόδοσης:
Στο παρακάτω κείμενό μου: ποιες προτάσεις απαιτούν πηγή, αλλά παραμένουν χωρίς να αποδοθούν, ποια ιδέα μπορεί να ανήκει σε κάποιον άλλο, υπάρχει μέρος όπου δείχνω τη δευτερεύουσα πηγή ως κύρια; Πρόταση κατασκευασμένων πηγών. απλώς επισημάνετε τις παραπομπές που λείπουν. Κείμενο: [επικόλληση κειμένου]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμο: "Δώστε 5 ακαδημαϊκές πηγές και αποσπάσματα για αυτό το θέμα."
Güçlü: "Πείτε μου τι είδους πηγές και λέξεις-κλειδιά πρέπει να αναζητήσω κατά την έρευνα για αυτό το θέμα. Μην παράγετε αναφορές ή αποσπάσματα που δεν είστε βέβαιοι ότι υπάρχουν. Εάν δεν είστε σίγουροι, πείτε "Δεν το βρήκα". Θα σας δώσω τις πηγές που θα βρω αργότερα. Θα επιβεβαιώσω τα αποσπάσματα από τα βιβλία."
Η ισχυρή προτροπή κλείνει την πόρτα στις παραισθήσεις και αφήνει την επαλήθευση στον άνθρωπο. Η αδύναμη προτροπή προσκαλεί άμεσα τη φανταστική παραγωγή πόρων.
Πίνακας αλυσίδας επικύρωσης
βήμα
Ερώτηση
τοποθεσία επαλήθευσης
οντότητα
Υπάρχει πράγματι η πηγή;
Κατάλογος / βάση δεδομένων
αποτύπωμα
Είναι σωστός ο συγγραφέας, έτος, σελίδα;
Εκδότης/αποτύπωμα
απόσπασμα
Είναι αυτολεξεί στο κείμενο;
η ίδια η πηγή
Πλαίσιο
Διαστρεβλώνεται το νόημα;
κύρια παράγραφος
Παράθεση
Στο σωστό άτομο;
διασταυρούμενος έλεγχος
Επαλήθευση με μόνιμο σύνδεσμο και αποτύπωμα
Υπάρχουν συγκεκριμένοι τρόποι για να επιβεβαιώσετε γρήγορα και αξιόπιστα εάν ένας πόρος υπάρχει πράγματι. Οι περισσότερες σύγχρονες ακαδημαϊκές εκδόσεις έχουν ένα DOI (Digital Object Identifier - ένα αμετάβλητο μοναδικό αναγνωριστικό που εκχωρείται μόνιμα σε μια δημοσίευση· λειτουργεί σαν σύνδεσμος και οδηγεί απευθείας στη δημοσίευση). Εάν έχετε πρόσβαση στην πραγματική δημοσίευση όταν πληκτρολογείτε το DOI ενός άρθρου σε ένα πρόγραμμα περιήγησης, αυτή η πηγή υπάρχει. Εάν δεν μπορείτε να το βρείτε ή το DOI δεν υπάρχει καθόλου, να είστε υποψιασμένοι. Τα «DOI» που δημιουργούνται από την τεχνητή νοημοσύνη είναι συχνά κατασκευασμένα και δεν οδηγούν πουθενά. Αυτό είναι ένα από τα πιο πρακτικά τεστ σύλληψης της φανταστικής πηγής.
Το ISBN (Διεθνής Τυπικός Αριθμός Βιβλίου) παρέχει παρόμοια αναγνώριση για βιβλία. Μπορείτε να επαληθεύσετε την αυθεντικότητα του βιβλίου αναζητώντας το με ISBN σε έναν κατάλογο βιβλιοθήκης ή σε μια αξιόπιστη βάση δεδομένων βιβλίων. Για περιοδικά, ελέγξτε το όνομα του περιοδικού και τις πληροφορίες τόμου/τεύματος στον επίσημο ιστότοπο του εκδότη. Αυτές οι συγκεκριμένες ταυτότητες είναι η απάντηση στο ερώτημα "Είναι η πηγή πραγματική;" Απαντάει στην ερώτησή σας ξεκάθαρα μέσα σε λίγα λεπτά.
Αυτές οι μέθοδοι μετατρέπουν την επαλήθευση σε "συναλλαγή" και όχι σε "απόθεμα": όταν ανοίγετε και προβάλλετε κάθε πηγή αυτοπροσώπως, στον κατάλογο, μέσω DOI ή στον ιστότοπο του εκδότη, ο κίνδυνος απόδοσης φάντασμα εξαλείφεται σε μεγάλο βαθμό.
Συμβουλή: Όταν ολοκληρώσετε τη βιβλιογραφία σας, κάντε μια «περιήγηση με κλικ»: στην πραγματικότητα ανοίξτε την εγγραφή DOI ή καταλόγου κάθε πηγής. Ακόμη και ένας πόρος που δεν ανοίγει είναι μια προειδοποίηση. είτε διορθώστε το με το σωστό αποτύπωμα είτε αφαιρέστε το από τη λίστα.
Συνήθη λάθη
- Μπερδεύοντας τον ρεαλισμό με την πραγματικότητα. Η εύλογη ταυτότητα ενός AI δεν αποδεικνύει την ύπαρξή του.
- Χωρίς επαλήθευση του απόσπασμα από την πηγή. Κατασκευασμένα ή παραμορφωμένα εισαγωγικά ενδέχεται να διαρρεύσουν.
- Λήψη ιστορίας από μία μόνο πηγή. Ελέγξτε με τουλάχιστον δύο αξιόπιστες πηγές.
- Κάνοντας το δευτερεύον να μοιάζει με το πρωτεύον. Δηλώστε ειλικρινά την αλυσίδα μετάδοσης.
- Αναφέροντας την AI ως πηγή. Το AI δεν είναι πόρος. δηλώνεται η χρήση του, γίνεται αναφορά στην πρωτογενή πηγή.
Συνοπτικά
Η ειλικρίνεια στις ανθρωπιστικές επιστήμες βασίζεται στην ακρίβεια της πηγής και των παραπομπών. Ο μεγαλύτερος κίνδυνος της τεχνητής νοημοσύνης είναι ότι παράγει πηγές και αποσπάσματα που φαίνονται ρεαλιστικά αλλά δεν υπάρχουν. Περάστε κάθε πηγή και παραπομπή μέσω της αλυσίδας επαλήθευσης πέντε βημάτων (οντότητα, πίστωση, προσφορά, πλαίσιο, απόδοση). Απαγορέψτε την κατασκευή του AI από την αρχή και μην αναθέσετε ποτέ την επαλήθευση σε αυτό. Αυτή η πειθαρχία είναι η εγγύηση της αξιοπιστίας σας σε αυτό το επάγγελμα.
Εργασία εφαρμογής
Δοκιμάστε να ζητήσετε από το AI να προτείνει μερικές πηγές και ένα απόσπασμα για ένα θέμα. Εκτελέστε κάθε πηγή μέσω της αλυσίδας επαλήθευσης: πόσες υπάρχουν στην πραγματικότητα, πόσες έχουν σωστή απόδοση, είναι πράγματι το απόσπασμα στην πηγή; Γράψτε τα αποτελέσματα σε έναν πίνακα. Αυτή η εμπειρία θα δείξει συγκεκριμένα τα όρια της τεχνητής νοημοσύνης σε αυτόν τον τομέα.
λίστα ελέγχου
- [ ] Επιβεβαίωσα την ύπαρξη κάθε πόρου στον κατάλογο.
- [ ] Έχω επαληθεύσει κάθε απόσπασμα αυτολεξεί από την αρχική πηγή.
- [ ] Έχω ελέγξει ότι το πλαίσιο της προσφοράς δεν έχει παραμορφωθεί.
- [ ] Έχω διασταυρώσει τις ημερομηνίες με τουλάχιστον δύο πηγές.
- [ ] Απαγόρευσα την κατασκευή του AI και δεν του ανέθεσα την επαλήθευση.