Κέρδη:
- Μπορεί να εξηγήσει τι είναι η ψευδαίσθηση και γιατί εμφανίζεται
- Μπορεί να καθορίσει πότε πρέπει να επικυρωθεί η έξοδος AI
- Μπορεί να εφαρμόσει πρακτικές τεχνικές που αυξάνουν την αξιοπιστία
Ίσως το πιο κρίσιμο θέμα της παιδείας τεχνητής νοημοσύνης βρίσκεται σε αυτήν την ενότητα: Δημιουργία μοντέλων, δηλαδή παραισθήσεις. Η κατανόηση αυτού του όρου είναι η πιο βασική προφύλαξη ασφαλείας για οποιονδήποτε χρησιμοποιεί AI. Επειδή ένας χρήστης που δεν αναγνωρίζει την ψευδαίσθηση μπορεί να μπερδέψει τις ψευδείς πληροφορίες ως αληθινές και να τις μεταφέρει σε επιχειρηματική απόφαση, επικοινωνία πελάτη ή επίσημο έγγραφο. Σε αυτή την ενότητα, θα μάθετε τι είναι μια ψευδαίσθηση, γιατί είναι αναπόφευκτη και πώς να προστατευτείτε από αυτήν.
Τι είναι η παραίσθηση;
Μια ψευδαίσθηση είναι όταν ένα γλωσσικό μοντέλο παράγει πληροφορίες που στην πραγματικότητα δεν υπάρχουν σε μια γλώσσα με ευχέρεια και αυτοπεποίθηση, ακριβώς σαν να ήταν αληθινή. Το μοντέλο δεν σκοπεύει να πει ψέματα. Παράγοντας μόνο την «πιθανότερη συνέχεια», δημιουργεί ένα κείμενο που φαίνεται πιθανό αλλά στην πραγματικότητα είναι ψευδές.
Παράδειγμα: Εάν πείτε σε ένα μοντέλο «Προτείνετε μια ακαδημαϊκή πηγή για το θέμα Όλα εμφανίζονται στη σωστή μορφή και πειστικά· Αλλά η πηγή είναι εντελώς φανταστική. Αυτό είναι ένα κλασικό παράδειγμα παραισθήσεων.
Γιατί Συμβαίνει; (Θυμηθείτε τη δεύτερη ενότητα)
Η πηγή της ψευδαίσθησης βρίσκεται στην αρχή λειτουργίας του μοντέλου. Το μοντέλο δεν είναι μια «εγκυκλοπαίδεια γεγονότων». Είναι μια «μηχανή πιθανοτήτων». Η δουλειά του είναι να παράγει την πιο ομαλή δυνατή συνέχεια της ερώτησής σας. Δεν πρόκειται για την παροχή των πιο ακριβών πληροφοριών. Μοντέλο:
- Δεν ξέρει τι δεν ξέρει. Όταν βρίσκεται αντιμέτωπος με ένα κενό, τείνει να συμπληρώνει μια πιθανή απάντηση αντί να λέει «δεν ξέρω».
- Δεν έχει μηχανισμό ελέγχου της πραγματικότητας. Δεν ελέγχει αν το κείμενο που παράγει ταιριάζει με τον κόσμο.
- Η ευχέρεια και η ακρίβεια είναι δύο διαφορετικά πράγματα για αυτόν. Το ότι είναι άπταιστα δεν σημαίνει ότι είναι σωστό.
Προσοχή: Η ψευδαίσθηση δεν είναι «δυσλειτουργία». Είναι ένα εγγενές χαρακτηριστικό της τεχνολογίας. Τα νέα μοντέλα μειώνουν αυτό, αλλά δεν μπορούν να το εξαλείψουν εντελώς. Επομένως, αντί να περιμένουμε ένα «μοντέλο χωρίς ψευδαισθήσεις», είναι απαραίτητο να μάθουμε να ζούμε με παραισθήσεις.
Πού είναι υψηλός ο κίνδυνος ψευδαισθήσεων;
Δεν είναι κάθε αποτέλεσμα εξίσου επικίνδυνο. Ο κίνδυνος αυξάνεται όταν:
Υψηλού κινδύνου
Χαμηλού κινδύνου
Ακριβή στοιχεία, ημερομηνίες, στατιστικά
Δημιουργία γενικών ιδεών, καταιγισμός ιδεών
Ζητώντας πηγές, αποσπάσματα, παραπομπές
Αλλάξτε τον τόνο ενός κειμένου
Niche, εξειδικευμένα θέματα
Κοινά, γενικά θέματα
Τρέχοντα γεγονότα και πρόσωπα
Συνοψίστε το κείμενό σας
Εσωτερικές πληροφορίες ειδικά για την εταιρεία σας
Διόρθωση γραμματικής
Τρεις Μίνι Θήκες
Περίπτωση 1 — Μια ψεύτικη φιγούρα μπήκε στην παρουσίαση. Ένας υπάλληλος ζήτησε από την τεχνητή νοημοσύνη "2023 ρυθμό ανάπτυξης ηλεκτρονικού εμπορίου και πηγή στην Τουρκία" για την έκθεση του κλάδου. Το μοντέλο επέστρεψε ένα πειστικό ποσοστό (48%) και ένα όνομα ιδρύματος. Ο υπάλληλος το έβαλε στην παρουσίαση χωρίς να το επαληθεύσει. Όταν στη συνάντηση αποκαλύφθηκε ότι η φιγούρα ήταν κατασκευασμένη, τόσο η παρουσίαση όσο και η φήμη της εταιρείας έπληξαν. Αν ο ίδιος υπάλληλος είχε λάβει το νούμερο από την επίσημη πηγή, δεν θα υπήρχε πρόβλημα.
Περίπτωση 2 — Ανύπαρκτη νομοθεσία. Ένας βοηθός ζήτησε από την AI το "σχετικό άρθρο νόμου" για μια αναφορά. Το μοντέλο παρήγαγε έναν αριθμό αντικειμένου και κείμενο με ρεαλιστική εμφάνιση. αλλά αυτό το αντικείμενο δεν ήταν εκεί. Ευτυχώς, το νομικό τμήμα το παρατήρησε πριν από την παράδοση. Μάθημα: οι νομικές αναφορές επαληθεύονται πάντα από την κύρια πηγή.
Περίπτωση 3 — Σωστή μέθοδος, ασφαλές αποτέλεσμα. Ένας άλλος υπάλληλος της ίδιας ομάδας απλώς ζήτησε από την τεχνητή νοημοσύνη να συντάξει την αναφορά, εισάγοντας ο ίδιος όλους τους αριθμούς από επίσημα δεδομένα και δίνοντάς του εντολή να "προσθέσει κανένα αριθμό που να μην περιέχεται σε αυτό το κείμενο". Το αποτέλεσμα ήταν γρήγορο και ακριβές. Διαφορά: Η τεχνητή νοημοσύνη έγραψε προσχέδια, γεγονότα που τρέφονται από ανθρώπους.
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή: Δώστε τις 3 πιο σημαντικές ακαδημαϊκές πηγές για αυτό το θέμα με τον συγγραφέα και το έτος.
Αποτέλεσμα: Το μοντέλο μπορεί να χωρέσει με ασφάλεια ανύπαρκτες πηγές.
Ισχυρή προτροπή: Γράψτε μια περίληψη με βάση το κείμενο που επικόλλησα παρακάτω. Χρησιμοποιήστε μόνο τις πληροφορίες σε αυτό το κείμενο. Μην προσθέτετε ονόματα, αριθμούς ή πηγές που δεν υπάρχουν στο κείμενο. Εάν δεν είστε σίγουροι, γράψτε "δεν προσδιορίζεται στο κείμενο".<text>[επικολλήστε εδώ]</text>
Αποτέλεσμα: Εφόσον το μοντέλο παίρνει την πηγή από εσάς, ο χώρος τοποθέτησης γίνεται στενότερος.
Πρακτικές τεχνικές που αυξάνουν την αξιοπιστία
Σημειώστε κάθε επαληθεύσιμη αξίωση στην απάντησή σας (αριθμός, ημερομηνία, όνομα, πηγή) και βάλτε τα σε μια ξεχωριστή λίστα "πρέπει να ελέγξετε".
Απαντήστε σε αυτή την ερώτηση. Εάν δεν είστε σίγουροι, μην μαντέψετε. Πείτε «δεν είμαι σίγουρος» και εξηγήστε ότι δεν ξέρετε τι. Θέμα: [θέμα]
Απαντήστε στην ίδια ερώτηση με δύο διαφορετικούς τρόπους και σημειώστε τις αντιφάσεις μεταξύ των δύο απαντήσεων. Επιτρέψτε μου λοιπόν να δω ποια σημεία είναι αμφισβητήσιμα. Ερώτηση: [ερώτηση]
Θα επαληθεύσω το κείμενο παρακάτω. Καταγράψτε τους επικίνδυνους ισχυρισμούς που πρέπει να ελέγξω με σειρά σπουδαιότητας και προτείνετε πού μπορώ να επαληθεύσω τον καθένα. Κείμενο: [επικολλήστε εδώ]
Επιπλέον, υιοθετήστε αυτές τις συνήθειες:
- Παρέχετε την πηγή. Επικολλήστε το σχετικό έγγραφο στο κείμενο και πείτε "απάντηση με βάση αυτό και μόνο".
- Ελέγχετε πάντα επαληθεύσιμα γεγονότα. Επαληθεύστε αριθμούς, ημερομηνίες, ονόματα, αποσπάσματα και πηγές από μια ανεξάρτητη, αξιόπιστη πηγή.
- Ζητήστε του να υποδείξει ότι δεν είναι σίγουρος για το μοντέλο. Αυτό μειώνει τον κίνδυνο αλλά δεν τον εξαλείφει εντελώς.
- Για εργασίες υψηλού κινδύνου, ζητήστε από έναν ειδικό να επιθεωρήσει το αποτέλεσμα. Τα νομικά, οικονομικά και σχετιζόμενα με την υγεία αποτελέσματα πρέπει να περάσουν από το φίλτρο των ανθρώπινων ειδικών.
- Χρησιμοποιήστε το AI ως «σημείο εκκίνησης» και όχι ως «τελική λέξη». Το προσχέδιο είναι από αυτόν. Η επαλήθευση και η απόφαση είναι δική σας.
Προσοχή: «Το μοντέλο το είπε δύο φορές, τότε είναι αλήθεια» η λογική είναι λάθος. Μπορεί να επαναλάβει το ίδιο λάθος με σιγουριά. Η επανάληψη δεν είναι απόδειξη ακρίβειας.
Κοινά λάθη
Συνήθη λάθη
- Χρήση πηγών χωρίς επαλήθευση. Μπορεί να δημιουργήσει πρότυπα βιβλία, άρθρα, άρθρα νόμου και συνδέσμους. Κάθε αναφορά πρέπει να επιβεβαιώνεται.
- Παρεξηγώντας τον σίγουρο τόνο με την ακρίβεια. Το πιο επικίνδυνο πράγμα για μια ψευδαίσθηση είναι ακριβώς ότι φαίνεται να έχει αυτοπεποίθηση.
- Αρκεί μόνο να πει το μοντέλο «επαληθεύετε». Η αυτοεπικύρωση του μοντέλου δεν είναι ανεξάρτητη επικύρωση.
- Χρήση εκροών υψηλού κινδύνου χωρίς να το δείξετε σε ειδικό. Ο ανθρώπινος έλεγχος είναι απαραίτητος για τα χρήματα, το νόμο και την υγεία.
Συνοπτικά
- Ψευδαίσθηση είναι όταν το μοντέλο παράγει ανύπαρκτες πληροφορίες με άπταιστο και σίγουρο τρόπο σαν να ήταν αληθινές.
- Η αιτία δεν είναι μια δυσλειτουργία, αλλά η φύση πρόβλεψης πιθανοτήτων του μοντέλου. δεν μπορεί να εξαλειφθεί εντελώς.
- Ο κίνδυνος είναι ιδιαίτερα υψηλός όταν πρόκειται για ακριβή στοιχεία, πηγές, ενημερωμένες πληροφορίες και εξειδικευμένα ζητήματα.
- Για να προστατευτείτε: δώστε την πηγή, επαληθεύστε τα γεγονότα, πείτε "αν δεν είστε σίγουροι, πείτε μου", ελέγξτε τα αποτελέσματα υψηλού κινδύνου από έναν ειδικό.
- Χρησιμοποιήστε το AI ως σημείο εκκίνησης. Η απόλυτη επαλήθευση και ευθύνη παραμένει πάντα μαζί σας.
Εργασία εφαρμογής
Πείτε στο εργαλείο τεχνητής νοημοσύνης να "προτείνει 3 ακαδημαϊκές πηγές" για ένα θέμα που απαιτεί εξειδίκευση και προσπαθήστε να επιβεβαιώσετε τις πηγές που προτείνει στο Διαδίκτυο. Σημειώστε πόσα είναι αληθινά. Στη συνέχεια, επαναλάβετε την ίδια εργασία με τη μέθοδο «δίνετε την πηγή» και παρατηρήστε τη διαφορά.
Λίστα ελέγχου
- [ ] Μπορώ να εξηγήσω τι είναι η ψευδαίσθηση και γιατί εμφανίζεται.
- [ ] Μπορώ να διακρίνω μεταξύ εργασιών υψηλού και χαμηλού κινδύνου παραισθήσεων.
- [ ] Μπορώ να μειώσω τον κίνδυνο κατασκευής δίνοντας την πηγή στο μοντέλο.
- [ ] Επαληθεύω ανεξάρτητα τους αριθμούς, τις ημερομηνίες, τα ονόματα και τις πηγές.
- [ ] Δεν θεωρώ τον σίγουρο τόνο ως απόδειξη ακρίβειας.