Κέρδη:
- Αναφέρετε τις βασικές αρχές της υπεύθυνης χρήσης τεχνητής νοημοσύνης
- Μπορεί να εξηγήσει γιατί ο ανθρώπινος έλεγχος είναι απαραίτητος
- Μπορεί να δημιουργήσει μια λίστα ελέγχου υπεύθυνης χρήσης για τη δική του εργασία
Σε αυτήν την ενότητα, μάθαμε τι είναι η τεχνητή νοημοσύνη, πώς λειτουργεί, τα δυνατά σημεία, τις αδυναμίες, τους κινδύνους και τη ροή εργασιών. Σε αυτή την ενότητα, τα συνδυάζουμε όλα αυτά σε ένα πρακτικό πλαίσιο υπό τον τίτλο της υπεύθυνης χρήσης. Το AI είναι ένα ισχυρό εργαλείο. Όμως η δύναμή του γίνεται ρίσκο όταν δεν εξισορροπείται με την ευθύνη του ατόμου που το χρησιμοποιεί. Η «υπεύθυνη χρήση» μπορεί να ακούγεται σαν μια αφηρημένη ηθική αρχή. Ωστόσο, αποτελείται από πολύ συγκεκριμένες, καθημερινές συνήθειες. Σε αυτή την ενότητα, θα βάλουμε αυτές τις συνήθειες σε ένα απλό και πιασάρικο πλαίσιο.
Πέντε Βασικές Αρχές Υπεύθυνης Χρήσης
1. Οι άνθρωποι έχουν τον τελευταίο λόγο
Αυτή είναι η πιο βασική αρχή. Η τεχνητή νοημοσύνη εκδίδει μια σύσταση. Ο κόσμος φέρει την απόφαση και την ευθύνη. Ιδιαίτερα σε θέματα υψηλού αντίκτυπου όπως τα χρήματα, η υγεία, η νομοθεσία, η απασχόληση και η φήμη, η παραγωγή της τεχνητής νοημοσύνης δεν πρέπει ποτέ να εφαρμόζεται χωρίς επίβλεψη. «Η μηχανή μου είπε» δεν είναι ποτέ έγκυρη δικαιολογία.
2. Επαληθεύστε, στη συνέχεια εμπιστευτείτε
Θυμηθείτε τη μονάδα παραισθήσεων. Μην χρησιμοποιείτε επαληθεύσιμα γεγονότα που δημιουργούνται από AI (αριθμός, ημερομηνία, όνομα, πηγή) χωρίς να τα επιβεβαιώσετε ανεξάρτητα. Η άπταιστη και σίγουρη γλώσσα δεν αποτελεί απόδειξη ακρίβειας.
3. Προστατέψτε το απόρρητο
Εφαρμόστε την αρχή στη μονάδα απορρήτου δεδομένων: Μην γράφετε προσωπικά δεδομένα, εμπορικά μυστικά και εμπιστευτικές πληροφορίες στα δημόσια μέσα. ανωνυμοποιήστε όπου χρειάζεται και συμμορφωθείτε με την πολιτική της εταιρείας σας.
4. Τηρείτε τη Δικαιοσύνη
Λάβετε υπόψη σας την προκατάληψη: βεβαιωθείτε ότι το αποτέλεσμα δεν αποκλείει ή στερεότυπα άδικα ορισμένες ομάδες. Παρακολουθήστε μια ποικιλία ματιών σε αποφάσεις υψηλού αντίκτυπου.
5. Να είστε διαφανείς
Μην παραποιείτε ότι χρησιμοποιείτε AI. Η κατάλληλη δήλωση ότι ένα βασικό παραδοτέο έχει προετοιμαστεί με τη βοήθεια της τεχνητής νοημοσύνης, με βάση το επιχειρηματικό πλαίσιο και την εταιρική πολιτική, οικοδομεί εμπιστοσύνη.
Σημείωση: Αυτές οι πέντε αρχές αλληλοσυμπληρώνονται. Δεν αρκεί να εφαρμόσουμε μόνο ένα. Για παράδειγμα, εάν δώσετε προσοχή στο απόρρητο και παραλείψετε την επαλήθευση, εξακολουθείτε να διατρέχετε κίνδυνο.
Γιατί είναι απαραίτητος ο ανθρώπινος έλεγχος;
Το AI δεν μπορεί να αναλάβει την ευθύνη. Όταν κάνει ένα λάθος, δεν είναι αυτός που πληρώνει το τίμημα, αλλά το άτομο και το ίδρυμα που τον χρησιμοποιεί. Επιπλέον, η τεχνητή νοημοσύνη δεν μπορεί να δει το πλήρες πλαίσιο (εταιρική πολιτική, σχέσεις, τομεακή ευαισθησία, συγκεκριμένη κατάσταση αυτή τη στιγμή). Ανθρώπινος έλεγχος; Καθορίζει και την αρχή που θα φέρει τη νομική ευθύνη και είναι το φίλτρο που πιάνει τα τυφλά σημεία του μοντέλου (ψευδαίσθηση, μεροληψία, ανάρμοστα). Όσο πιο κοντά είναι ο έλεγχος σε μια απόφαση υψηλού αντίκτυπου, τόσο πιο αυστηρός θα πρέπει να είναι.
Επίπεδο Ελέγχου Ανάλογα με τον Κίνδυνο
Τύπος εργασίας
παράδειγμα
Απαιτούμενος έλεγχος
χαμηλό αντίκτυπο
Προσχέδιο εσωτερικού σημειώματος, καταιγισμός ιδεών
Ελαφριά κριτική
μέτριο αποτέλεσμα
Εξερχόμενο email, περίληψη αναφοράς
Προσεκτικό διάβασμα + έλεγχος γεγονότων
υψηλή επίδραση
Νομική/οικονομική/υγειονομική/εργατική απόφαση
Επαλήθευση εμπειρογνωμόνων + γραπτή επιβεβαίωση
Αδύναμη Προσέγγιση / Ισχυρή Προσέγγιση
Αδύναμη προσέγγιση: Εφαρμόστε μια απόφαση υψηλού αντίκτυπου (π.χ. αξιολόγηση εργαζομένου) με βάση τα αποτελέσματα της τεχνητής νοημοσύνης χωρίς επαλήθευση.
Αποτέλεσμα: Η ψευδαίσθηση ή η προκατάληψη εμπλέκεται άμεσα στην απόφαση που επηρεάζει τη ζωή ενός ατόμου.
Ισχυρή προσέγγιση: Χρησιμοποιήστε AI μόνο για υποστήριξη/πρόχειρο. Αιτιολογήστε μόνοι σας την απόφαση με σχετικά αποδεικτικά στοιχεία, συμβουλευτείτε τον αρμόδιο πραγματογνώμονα και δώστε την τελική έγκριση γραπτώς.
Αποτέλεσμα: Επωφελείστε από την ταχύτητα, αλλά διατηρείται η υπευθυνότητα και η δικαιοσύνη.
Τρεις Μίνι Θήκες
Περίπτωση 1 — Η λίστα ελέγχου εντόπισε το σφάλμα. Όταν ξεκίνησε με την τεχνητή νοημοσύνη, μια ομάδα εκτύπωσε τις πέντε αρχές σε μια κάρτα και τις τοποθέτησε στα τραπέζια. Ένας υπάλληλος έπεσε πάνω στην ερώτηση "απόρρητο" σε μια πρόταση που έπρεπε να σταλεί και παρατήρησε ότι περιείχε το όνομα ενός πελάτη και την ανωνυμία. Μια απλή λίστα απέτρεψε μια πιθανή παραβίαση.
Περίπτωση 2 — «Το μηχάνημα το είπε» δεν λειτούργησε. Ένας άλλος υπάλληλος εφάρμοσε εσφαλμένες κανονιστικές πληροφορίες που έδωσε η AI χωρίς να τις επαληθεύσει και όταν προέκυψε πρόβλημα, αμύνθηκε λέγοντας «Αυτό είπε η AI». Αυτή η δικαιολογία δεν έγινε αποδεκτή. γιατί ήταν αυτός που χρησιμοποίησε και εφάρμοσε το εργαλείο. Η ευθύνη ανήκει στον χρήστη.
Περίπτωση 3 — Ευέλικτος έλεγχος ανάλογα με τον κίνδυνο. Όταν ένας διευθυντής χρησιμοποιεί γρήγορα εσωτερικές εκροές καταιγισμού ιδεών. Απαιτείται έγκριση ειδικού + γραπτή αιτιολόγηση για αποφάσεις υψηλού αντίκτυπου όπως προσλήψεις και απόδοση. Έτσι, επιτάχυνε τόσο την εργασία χαμηλού κινδύνου όσο και αύξησε την ασφάλεια στις κρίσιμες αποφάσεις.
Αντιγράψιμα πρότυπα
Πριν χρησιμοποιήσετε αυτό το αποτέλεσμα, κάντε με πέντε ερωτήσεις υπεύθυνης χρήσης με τη σειρά και ζητήστε μου να σημειώσω "ok / ελλιπές" για καθεμία: 1) Έχει γίνει έλεγχος από ανθρώπους; 2) Έχουν επαληθευτεί τα γεγονότα; 3) Τηρήθηκε το απόρρητο; 4) Είναι δίκαιο και περιεκτικό; 5) Είμαι έτοιμος να είμαι υπεύθυνος για το αποτέλεσμα;
Αξιολογήστε το επίπεδο επιπτώσεων (χαμηλό/μέσο/υψηλό) αυτής της εργασίας και προτείνετε μια λίστα βημάτων ελέγχου ανάλογα. Εργασία: [εγγραφή εργασίας]
Στο παρακάτω αποτέλεσμα, απαριθμήστε τα επικίνδυνα σημεία (αλήθεια, εμπιστευτικότητα, δικαιοσύνη, δέσμευση) που ένα άτομο πρέπει οπωσδήποτε να ελέγξει, κατά σειρά σπουδαιότητας. Έξοδος: [επικολλήστε εδώ]
Ετοίμασέ μου έναν σύντομο, προσωπικό «κώδικα υπεύθυνης χρήσης τεχνητής νοημοσύνης» για τον ρόλο μου. Κάντε τα στοιχεία προσανατολισμένα στη δράση και εύκολα στη μνήμη. Ο ρόλος μου: [γράψε τον ρόλο σου]
Πρακτική λίστα ελέγχου
έλεγχος
Ερώτηση
Έλεγχος
Έχω εξετάσει αυτό το αποτέλεσμα ως άνθρωπος;
ακρίβεια
Έχω επιβεβαιώσει τα γεγονότα (αριθμός, όνομα, ημερομηνία) σε αυτό;
Απόρρητο
Έχω γράψει ευαίσθητα ή προσωπικά δεδομένα στο εργαλείο;
δικαιοσύνη
Είναι το αποτέλεσμα δίκαιο και περιεκτικό;
διαφάνεια
Η χρήση της τεχνητής νοημοσύνης δηλώνεται κατάλληλα και δεν είναι παραπλανητική;
Ευθύνη
Είμαι έτοιμος να είμαι υπεύθυνος για τις συνέπειες αυτής της παραγωγής;
Η απάντηση στην τελευταία ερώτηση πρέπει να είναι πάντα «ναι». Γιατί όσο είσαι εσύ αυτός που χρησιμοποιεί το εργαλείο, το αποτέλεσμα είναι δικό σου.
Κοινά λάθη
Συνήθη λάθη
- Εφαρμογή απόφασης υψηλού αντίκτυπου χωρίς επίβλεψη. Η έγκριση εμπειρογνωμόνων και η γραπτή εποπτεία είναι απαραίτητες για τα χρήματα, την υγεία, το νόμο και την απασχόληση.
- Σημαίνει «Η μηχανή το είπε». Η ευθύνη δεν δεσμεύει το εργαλείο, αλλά το άτομο που το χρησιμοποιεί.
- Εφαρμογή πολιτικών επιλεκτικά. Οι πέντε αρχές είναι ένα σύνολο. Αν λείπει ένα, ο κίνδυνος παραμένει.
- Πάντα να εκτελείτε την επιθεώρηση με την ίδια αυστηρότητα. Έλεγχος κλίμακας ανάλογα με τον κίνδυνο. ταχύτητα σε χαμηλό κίνδυνο, σχολαστικότητα σε υψηλό κίνδυνο.
Η ευθύνη φέρνει ελευθερία
Οι κανόνες υπεύθυνης χρήσης μπορεί να φαίνονται περιοριστικοί, αλλά κάνουν ακριβώς το αντίθετο: Αφού έχετε αυτές τις συνήθειες ασφαλείας, μπορείτε να χρησιμοποιήσετε την τεχνητή νοημοσύνη πολύ πιο άνετα και με τόλμη. Γιατί ακόμα κι αν γίνει λάθος, ξέρεις ότι έχεις φίλτρο για να το πιάσεις. Οι κανόνες δεν υπάρχουν για να σας επιβραδύνουν, είναι εκεί για να σας βοηθήσουν να επιταχύνετε με ασφάλεια.
Συνοπτικά
- Πέντε αρχές υπεύθυνης χρήσης: οι άνθρωποι έχουν τον τελευταίο λόγο, επαληθεύουν και μετά εμπιστεύονται, προστατεύουν την εμπιστευτικότητα, επιδιώκουν τη δικαιοσύνη, είναι διαφανείς.
- Αυτές οι αρχές αλληλοσυμπληρώνονται. Εάν λείπει ένα, ο κίνδυνος συνεχίζεται.
- Η ανθρώπινη επίβλεψη είναι απαραίτητη επειδή η τεχνητή νοημοσύνη δεν μπορεί να αναλάβει την ευθύνη και να δει το πλήρες πλαίσιο.
- Κλιμακώστε τον έλεγχο ανάλογα με τον κίνδυνο: ελαφρύ σε χαμηλό αντίκτυπο, έγκριση ειδικού και γραπτή αιτιολόγηση σε υψηλό αντίκτυπο.
- Εφόσον είστε εσείς που χρησιμοποιεί το εργαλείο, είστε επίσης υπεύθυνοι για το αποτέλεσμα. «Η μηχανή μου είπε» δεν είναι δικαιολογία.
Εργασία εφαρμογής
Δημιουργήστε έναν σύντομο, προσωπικό «κωδικό υπεύθυνης χρήσης AI» για τον ρόλο σας χρησιμοποιώντας το παραπάνω πρότυπο (6 στοιχεία το πολύ). Καταγράψτε το κάπου ορατό και εξασκηθείτε στις ερωτήσεις στον πίνακα "λίστα ελέγχου πρακτικής" μία προς μία στο επόμενο σημαντικό παραδοτέο τεχνητής νοημοσύνης.
Λίστα ελέγχου
- [ ] Μπορώ να αναφέρω πέντε αρχές υπεύθυνης χρήσης.
- [ ] Μπορώ να εξηγήσω γιατί ο ανθρώπινος έλεγχος είναι απαραίτητος.
- [ ] Μπορώ να προσαρμόσω το επίπεδο ελέγχου ανάλογα με τον κίνδυνο της εργασίας.
- [ ] Έχω δημιουργήσει μια λίστα ελέγχου υπεύθυνης χρήσης για τον ρόλο μου.
- [ ] Έχω εσωτερικεύσει ότι «μου είπε η μηχανή» δεν αποτελεί δικαιολογία.