Κέρδη:
- Κατανοήστε τι είναι ο επαγγελματικός σκεπτικισμός και οι κίνδυνοι να πέσετε σε μεροληψία επιβεβαίωσης και μεροληψία αυτοματισμού όταν χρησιμοποιείτε τεχνητή νοημοσύνη
- Δυνατότητα δοκιμής εξόδου τεχνητής νοημοσύνης με τεχνική αμφισβήτησης που προσπαθεί να αντικρούσει (αναζητήστε το αντίθετο)
- Να μπορούμε να κατανοήσουμε ότι η ευχέρεια της τεχνητής νοημοσύνης δεν σημαίνει ακρίβεια, ότι το σκεπτικιστικό μυαλό είναι ο πυρήνας του ελέγχου και δεν μπορεί να μεταφερθεί.
Υπάρχει μια νοητική στάση που διακρίνει τον ανεξάρτητο έλεγχο από πολλά άλλα επαγγέλματα: ο επαγγελματικός σκεπτικισμός. Τα ISA ορίζουν αυτό ως ο ελεγκτής που εργάζεται «με διερευνητικό μυαλό, σημειώνοντας εάν τα στοιχεία υποδεικνύουν πιθανή ανακρίβεια και αξιολογώντας κριτικά τα αποδεικτικά στοιχεία». Δηλαδή, ο ελεγκτής δεν αποδέχεται αυτόματα καμία πληροφορία που του παρουσιάζεται —ούτε μια δήλωση διαχείρισης, ούτε ένα έγγραφο, ούτε καν έναν λογαριασμό που «φαίνεται λογικός»— ως αληθής. Αναρωτιέμαι συνεχώς «Είναι όντως έτσι;». ρωτάει. Αυτή η στάση είναι ο πυρήνας του ελέγχου και είναι αναπαλλοτρίωτη.
Στην εποχή της τεχνητής νοημοσύνης, αυτός ο πυρήνας αντιμετωπίζει μια ολοκαίνουργια δοκιμή. Επειδή η τεχνητή νοημοσύνη είναι ικανή να πυροδοτεί δύο βαθιά ριζωμένες αδυναμίες του ανθρώπινου μυαλού - την προκατάληψη αυτοματισμού και την προκατάληψη επιβεβαίωσης. Σε αυτή την ενότητα, θα καλύψουμε πώς ένας ελεγκτής που χρησιμοποιεί AI μπορεί να διατηρήσει ή ακόμα και να ενισχύσει τον σκεπτικισμό του. Η κύρια θέση είναι ότι η ευχέρεια του AI δεν είναι η ακρίβεια. Το σκεπτικιστικό μυαλό γίνεται ακόμη πιο σημαντικό μπροστά στην τεχνητή νοημοσύνη.
Δύο επικίνδυνες προκαταλήψεις
Η μεροληψία αυτοματισμού είναι η τάση των ανθρώπων να εμπιστεύονται την έξοδο μιας μηχανής/λογισμικού περισσότερο από τη δική τους κρίση. «Το υπολόγισε ο υπολογιστής, είναι σωστό». Αυτός ο κίνδυνος μεγεθύνεται όταν πρόκειται για τεχνητή νοημοσύνη, επειδή η τεχνητή νοημοσύνη δεν υπολογίζει απλώς. Μιλάει άπταιστα, με αυτοπεποίθηση, ανθρώπινες, αιτιολογημένες προτάσεις. Ένας σίγουρος τόνος είναι πειστικός ακόμα κι αν οι πληροφορίες δεν είναι ακριβείς.
Η μεροληψία επιβεβαίωσης είναι η τάση των ανθρώπων να αναζητούν πληροφορίες που υποστηρίζουν το συμπέρασμα που πίστευαν ή ήλπιζαν προηγουμένως και να αγνοούν αντικρουόμενες πληροφορίες. Αυτό είναι μοιραίο στον έλεγχο: Ένας ελεγκτής που πιστεύει ότι "Αυτός ο πελάτης πρέπει να είναι καθαρός" θα ανακουφιστεί όταν ρωτήσει την τεχνητή νοημοσύνη και λάβει επιβεβαίωση και θα σταματήσει να αναζητά στοιχεία για το αντίθετο. Επειδή η τεχνητή νοημοσύνη τείνει να κλίνει στην ερώτηση που τίθεται (αν ρωτήσετε «είναι εντάξει, σωστά;» είναι πιο πιθανό να δώσει μια απάντηση που συμφωνεί μαζί σας), μπορεί να ενισχύσει την προκατάληψη επιβεβαίωσης.
Υπάρχει και ένα τρίτο: η ψευδαίσθηση. Το είδαμε πολλές φορές στη λειτουργική μονάδα — η τεχνητή νοημοσύνη μπορεί να δημιουργήσει με ευχέρεια έναν αριθμό, ένα στοιχείο, έναν πόρο που δεν υπάρχει. Ο κίνδυνος επιδεινώνεται όταν συνδυάζονται τρεις αδυναμίες: η τεχνητή νοημοσύνη φτιάχνει τα πράγματα (ψευδαίσθηση), το πιστεύεις επειδή είναι ρευστό (προκατάληψη αυτοματισμού), δεν το αμφισβητείς επειδή σου λέει τι περιμένεις (προκατάληψη επιβεβαίωσης).
Τα τρία εργαλεία του σκεπτικιστικού μυαλού ενάντια στην τεχνητή νοημοσύνη
Ας βάλουμε σκεπτικισμό σε συγκεκριμένες τεχνικές ενάντια στην τεχνητή νοημοσύνη:
- Προσπαθήστε να διαψεύσετε, όχι να επιβεβαιώσετε. Ένα AI μπορεί να ρωτήσει την έξοδο του "είναι αλήθεια;" όχι "πώς μπορώ να ξέρω αν αυτό είναι λάθος;" ερώτηση. Αναρωτηθείτε: «Αν αυτή η δήλωση ήταν ψευδής, ποια στοιχεία θα το έδειχναν;» και ψάξτε για αυτά τα στοιχεία. Είναι εύκολο να βρεθεί ένα μόνο επιβεβαιωτικό παράδειγμα. Η προσπάθεια διάψευσης και η αποτυχία δίνει πραγματική βεβαιότητα.
- Ρωτήστε ουδέτερα και αντίστροφα. Ρωτήστε το AI "κανένα πρόβλημα εδώ, σωστά;" Μην ρωτάς? αυτό απαιτεί μια εγκριτική απάντηση. Αντίθετα, "ποιοι είναι οι κίνδυνοι που μπορεί να έχω χάσει σε αυτά τα δεδομένα;" και "ποια είναι τα τρία πιο πιθανά σενάρια στα οποία αυτό το αποτέλεσμα θα μπορούσε να είναι λάθος;" παρακαλώ. Κάντε την ίδια ερώτηση από δύο αντίθετες πλευρές και συγκρίνετε τις απαντήσεις.
- Λήψη στην πηγή και αναπαραγωγή. Για κάθε θέμα, απόδοση και συμπέρασμα, "πού μπορώ να το επαληθεύσω ανεξάρτητα;" Κάντε την ερώτηση και επαληθεύστε πραγματικά. Δείτε την έξοδο του AI ως ισχυρισμό. Τα στοιχεία είναι εξωτερικά του ισχυρισμού.
Συμβουλή: Κάντε μια συνήθεια: Δίπλα σε κάθε σημαντική έξοδο που δίνει η τεχνητή νοημοσύνη, γράψτε δύο πράγματα με το χέρι — "(1) με τι το επαλήθευσα αυτό, (2) με ποια στοιχεία θα το έδειχναν αυτό αν ήταν ψευδές." Αυτές οι δύο σημειώσεις σπάνε τόσο την αυτοματοποίηση όσο και την προκατάληψη επιβεβαίωσης.
Κρίσεις που ο ελεγκτής δεν μπορεί να αναθέσει
Ορισμένες δουλειές απαιτούν εγγενώς σκεπτικισμό και κρίση. δεν μπορούν να ανατεθούν σε AI, υποστηρίζονται μόνο:
αναπαλλοτρίωτη δικαιοδοσία
Γιατί
Αν τα στοιχεία είναι επαρκή και κατάλληλα
Επαγγελματική κρίση; εξαρτώμενο από το πλαίσιο
Αληθοφάνεια μιας εξήγησης
Απαιτεί εξέταση της επιχείρησης και της πρόθεσης
Εκτίμηση κινδύνου απάτης
Σκεπτικισμός και διαίσθηση. πέρα από το πρότυπο δεδομένων
Ουσιαστικότητα και απόφαση γνώμης
Δικαιοσύνη υπεύθυνη απέναντι στο κοινό
Γνώμη για την εντιμότητα της διοίκησης
Διαβάζοντας την ανθρώπινη συμπεριφορά. Το AI δεν μπορεί να το κάνει αυτό
Η διαφορά μεταξύ σκεπτικισμού και παιδαγωγίας: μια μετρημένη στάση
Επαγγελματικός σκεπτικισμός δεν σημαίνει να μην πιστεύεις τα πάντα ή να κατηγορείς τη διοίκηση εκ των προτέρων. Αυτό θα ήταν υπέρβαση και θα καθιστούσε τον έλεγχο αναποτελεσματικό. Ο σκεπτικισμός δεν είναι ούτε καθαρή εμπιστοσύνη (να αποδέχεσαι όλα όσα σου λένε) ούτε τυφλή άρνηση (απορρίπτοντας τα πάντα). Ενδιάμεσα, είναι μια στάση έρευνας ανάλογη με τα στοιχεία. Ο ελεγκτής μπορεί να αποδεχθεί τη διοίκηση ως έντιμη, αλλά ελέγχει αυτή την αποδοχή με στοιχεία. μπορεί να βρει μια εξήγηση εύλογη, αλλά επιβεβαιώνει την αληθοφάνεια. Η τεχνητή νοημοσύνη μπορεί να διαταράξει αυτή την ισορροπία: προς μία κατεύθυνση, σας καθησυχάζει σε υπερβολική αυτοπεποίθηση με την έξοδο υγρών της. Από την άλλη, αν του πεις «βρες τα λάθη σε όλα» θα σε βομβαρδίσει με άπειρα ψευδώς θετικά. Η σωστή στάση είναι να σταθμίζετε πάντα το αποτέλεσμα έναντι του βάρους των αποδεικτικών στοιχείων, ενώ εκτελείτε την τεχνητή νοημοσύνη για να παράγετε στοιχεία και να διαψεύσετε τα στοιχεία. Ο σκεπτικισμός δεν είναι χαρακτηριστικό της προσωπικότητας, αλλά ένας πειθαρχημένος τρόπος εργασίας. Και είναι ο ελεγκτής που καθιερώνει, διατηρεί και αποδεικνύει αυτή την πειθαρχία, όχι η AI.
τρεις μίνι θήκες
Περίπτωση 1 — Η τεχνική της αντίκρουσης λειτουργεί. Ένας ελεγκτής τύπωσε το AI λέγοντας «αυτή η αποτίμηση μετοχών φαίνεται λογική». Αντί να επιβεβαιώσει, ρώτησε αναπάντητα: «Αν αυτή η αποτίμηση είναι υπερεκτιμημένη, ποια στοιχεία θα το έδειχναν;» "Είδη για τα οποία οι τιμές μετά την πώληση πέφτουν κάτω από το κόστος", δήλωσε η YZ. Ο ελεγκτής έψαξε για αυτά τα στοιχεία και βρήκε μια ομάδα που στην πραγματικότητα ήταν υποτιμημένη. Η ερώτηση διάψευσης αποκάλυψε τον κίνδυνο που έκρυβε η επιβεβαίωση.
Περίπτωση 2 — Πτώση σε προκατάληψη επιβεβαίωσης. Ένα μέλος της ομάδας ρώτησε την τεχνητή νοημοσύνη κατά τη διάρκεια μιας δύσκολης περιόδου, "δεν υπάρχει τίποτα σημαντικό με αυτόν τον λογαριασμό, σωστά;" ρώτησε. Ο YZ στηρίχτηκε στην ερώτηση και είπε: «Σύμφωνα με τις πληροφορίες που παρείχατε, δεν φαίνεται να υπάρχει σημαντικό πρόβλημα». Το μέλος της ομάδας χαλάρωσε και σκέπασε το στυλό. Ωστόσο, δεν είχε παρουσιάσει κανένα στοιχείο. Το AI απλώς αντικατόπτριζε τη φράση του. Ο υπεύθυνος έδειξε ότι η ερώτηση δεν έγινε αμερόληπτα. Μάθημα: ο τρόπος που κάνετε την ερώτηση καθορίζει την απάντηση που θα λάβετε. Μια ερώτηση που αναζητά επιβεβαίωση παράγει επιβεβαίωση.
Περίπτωση 3 — Πέφτω σε ευχέρεια. Ένας ελεγκτής θεώρησε ότι μια ερμηνεία της νομοθεσίας που εξήγησε ο YZ σε μια πολύ ευχάριστη και αιτιολογημένη παράγραφο ήταν σωστή και τη συμπεριέλαβε στο έγγραφο εργασίας. Το κείμενο ήταν τόσο προσεγμένο που δεν του πέρασε από το μυαλό να το αμφισβητήσει. Ο υπεύθυνος έδειξε ότι η αναφορά δεν είχε αντίστοιχο στο επίσημο κείμενο. Μάθημα: η ευχέρεια και η αυτοπεποίθηση δεν αποτελούν απόδειξη ακρίβειας. Το αποτέλεσμα που φαίνεται πιο πειστικό μπορεί να είναι και το πιο επικίνδυνο.
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Αυτή η ανάλυση είναι σωστή, σωστά; Εγκρίνετε;
Το πρόβλημα: μια προκατειλημμένη ερώτηση που αναζητά επιβεβαίωση. Σπρώχνει το AI να ενωθεί μαζί σας. Ενθαρρύνει την προκατάληψη επιβεβαίωσης και κρύβει τον πραγματικό κίνδυνο.
Ισχυρή προτροπή:
Ο ρόλος σας: είστε ένας ανεξάρτητος ελεγκτής κρίσιμος συνεργάτης έρευνας. Το καθήκον σας δεν είναι να ΣΥΜΦΩΝΕΙΤΕ μαζί μου, αλλά να προσπαθήσετε να ΑΡΝΗΣΕΤΕ την έκδοσή μου. Πλαίσιο: Παρακάτω είναι το συμπέρασμά μου για μια αναλυτική διαδικασία και το δοκιμαστικό μου συμπέρασμα. Προτείνετε συγκεκριμένα στοιχεία με δυνατότητα αναζήτησης. 3) Σημειώστε τυχόν δεδομένα ή παραδοχές που μπορεί να έχω παραλείψει. 4) Μην κάνετε προτάσεις που συμφωνούν μαζί μου. Αναλαμβάνετε να βρείτε τα αδύνατα σημεία. Σημειώστε "άγνωστο" όπου δεν είστε σίγουροι.
Αυτή η προτροπή είναι ισχυρή επειδή αντιστρέφει τον ρόλο του AI (αντίψεως), απαιτώντας σενάρια αντίκρουσης και αποδεικτικά στοιχεία με δυνατότητα αναζήτησης και απαγορεύοντας τη γλώσσα αναζήτησης επιβεβαίωσης. Αυτό θέτει την τεχνητή νοημοσύνη στην υπηρεσία του σκεπτικισμού και όχι ενός εργαλείου μεροληψίας επιβεβαίωσης.
Συνήθη λάθη
- Θέτοντας ερωτήσεις ζητώντας έγκριση. «Είναι εντάξει, σωστά; ζητώντας και διασφαλίζοντας τη συμφωνημένη απάντηση.
- Λάθος της ευχέρειας για την ακρίβεια. Αποδοχή καλογραμμένων, σίγουρης απόδοσης χωρίς αμφιβολία.
- Να είστε ικανοποιημένοι με ένα μόνο επιβεβαιωτικό παράδειγμα. Κλείνοντας με το πρώτο υποστηρικτικό εύρημα, χωρίς να προσπαθεί να το διαψεύσει.
- Να εκχωρήσει αναπαλλοτρίωτη δικαιοδοσία. Αφήνοντας την απόφαση επάρκειας αποδεικτικών στοιχείων, λογικότητας, γνώμης στην ΑΙ.
- Αφήνοντας τον σκεπτικισμό υπό την πίεση χρόνου. Καταφύγετε στην παρήγορη απάντηση της τεχνητής νοημοσύνης όταν είστε κολλημένοι.
Προσοχή: Η πίεση του χρόνου είναι ο μεγαλύτερος εχθρός του σκεπτικισμού και η τεχνητή νοημοσύνη γίνεται πιο επικίνδυνη υπό αυτήν την πίεση. γιατί σας προσφέρει μια γρήγορη, ευχάριστη και παρηγορητική απάντηση. Πρέπει να κάνετε την ερώτηση αντίκρουσης όταν βιάζεστε.
Συνοπτικά
Ο επαγγελματικός σκεπτικισμός βρίσκεται στον πυρήνα του ελέγχου και γίνεται ακόμη πιο κρίσιμος στην εποχή της τεχνητής νοημοσύνης. Η τεχνητή νοημοσύνη πυροδοτεί τρεις αδυναμίες: παραισθήσεις (το συνθέτει), μεροληψία αυτοματισμού (το πιστεύουμε επειδή είναι ρευστό), προκατάληψη επιβεβαίωσης (δεν το αμφισβητούμε γιατί λέει αυτό που ελπίζουμε). Το αντίδοτο είναι να βιαστείτε να διαψεύσετε την τεχνητή νοημοσύνη, όχι να την επιβεβαιώσετε: «αν αυτό είναι ψευδές, ποια στοιχεία θα το έδειχναν;» Και αναζητώντας αντίθετα στοιχεία, ρωτώντας αντικειμενικά και αντίστροφα, αναπαράγοντας κάθε έξοδο από την πηγή. Κρίσεις όπως η επάρκεια αποδεικτικών στοιχείων, η λογική, ο κίνδυνος απάτης και η κρίση γνώμης απαιτούν σκεπτικισμό και δεν είναι μεταβιβάσιμες. Η ευχέρεια δεν είναι ακρίβεια. Το σκεπτικιστικό μυαλό είναι δικό σου.
Εργασία εφαρμογής
Λάβετε το αποτέλεσμα του ελέγχου σας (ή ένα υποθετικό αποτέλεσμα). Ρωτήστε το AI πρώτα με μια αδύναμη ερώτηση "επιβεβαίωσης" και στη συνέχεια με το ισχυρό μοτίβο προτροπής "αντίρρηση" παραπάνω. Βάλτε τα δύο αποτελέσματα δίπλα-δίπλα και σημειώστε τη διαφορά: ποιοι κίνδυνοι αποκαλύφθηκαν μόνο από την ερώτηση αντίκρουσης; Στη συνέχεια, προσθέστε δύο σημειώσεις δίπλα σε κάθε βασική αξίωση στο αποτέλεσμα: "με τι επαλήθευσα" και "ποια στοιχεία θα έδειχναν αν ήταν ψευδή".
λίστα ελέγχου
- [ ] Έθεσα ερωτήσεις αντίκρουσης/ουδέτερης τεχνητής νοημοσύνης, όχι ερωτήσεις επιβεβαίωσης.
- [ ] Για κάθε σημαντικό αποτέλεσμα, "αν αυτό είναι ψευδές, ποια στοιχεία θα το έδειχναν;" Έκανα την ερώτηση και έψαξα για στοιχεία.
- [ ] Δοκίμασα την έξοδο, η οποία φαινόταν ομαλή και σίγουρη, με επιπλέον σκεπτικισμό.
- [ ] Δεν σταμάτησα με ένα μόνο επιβεβαιωτικό παράδειγμα. Προσπάθησα να το διαψεύσω αλλά δεν τα κατάφερα.
- [ ] Έκανα τις δικές μου κρίσεις όπως επάρκεια αποδεικτικών στοιχείων, λογική και γνώμη.
- [ ] Ακόμη και υπό την πίεση χρόνου, δεν παρέλειψα την ερώτηση της αντίκρουσης.
- [ ] Δίπλα στους σημαντικούς ισχυρισμούς, σημείωσα "με τι επαλήθευσα / τι θα έδειχνε αν ήταν λάθος".