Κέρδη:
- Ικανότητα σύνδεσης των υπεύθυνων αρχών τεχνητής νοημοσύνης (δικαιοσύνη, διαφάνεια, υπευθυνότητα, ιδιωτικότητα, ανθρώπινη εποπτεία, ασφάλεια, βιωσιμότητα) με συγκεκριμένες αποφάσεις
- Δυνατότητα δοκιμής των επηρεαζόμενων μερών και της μεροληψίας διαχωρίζοντας τη δεοντολογία από τη νομική συμμόρφωση και διακρίνοντας το «μπορούμε» και το «πρέπει»
- Δυνατότητα μείωσης των σεναρίων κατάχρησης εκ των προτέρων με την ενσωμάτωση της διαφάνειας, της ανθρώπινης παρακολούθησης και της ελκυστικότητας στο σχεδιασμό
Μια startup τεχνητής νοημοσύνης μπορεί να είναι τεχνικά τέλεια, οικονομικά κερδοφόρα και νομικά βιώσιμη. αλλά μπορεί και πάλι να είναι λάθος. Η ηθική είναι η διαφορά μεταξύ «μπορούμε» και «πρέπει». Για έναν ανώτερο διευθυντή, η ηθική δεν είναι θέμα εξωραϊσμού ή δημοσίων σχέσεων. Είναι το θεμέλιο που διατηρεί τη μακροπρόθεσμη αξιοπιστία, τη φήμη και την κοινωνική νομιμότητα του ιδρύματος. Σε αυτή την ενότητα, θα μάθετε τις αρχές της υπεύθυνης τεχνητής νοημοσύνης (μια προσέγγιση για την ανάπτυξη και χρήση τεχνητής νοημοσύνης με τρόπο δίκαιο, διαφανή, υπεύθυνο και με σεβασμό στην ανθρώπινη αξιοπρέπεια) και πώς να τις αντικατοπτρίζετε στις καθημερινές αποφάσεις.
Θεμελιώδεις αρχές της υπεύθυνης τεχνητής νοημοσύνης
Διαφορετικά πλαίσια συναντώνται σε παρόμοιες αρχές. Πρακτική περίληψη για έναν διευθυντή:
αρχή
Τι εννοείς;
ερώτηση διαχειριστή
δικαιοσύνη
μη διάκριση
Αυτό επηρεάζει άδικα μια ομάδα;
διαφάνεια
να είναι κατανοητό
Μπορούμε να εξηγήσουμε τον λόγο της απόφασης;
λογοδοσία
Προσδιορισμός ποιος είναι υπεύθυνος
Ποιος είναι υπεύθυνος εάν παρουσιαστεί κάποιο λάθος;
Απόρρητο
Σεβασμός στα προσωπικά δεδομένα
Έχουμε το δικαίωμα να χρησιμοποιούμε δεδομένα;
ανθρώπινη επιτήρηση
Διατηρώντας τον έλεγχο
Μπορεί κάποιος να αντιταχθεί και να το σταματήσει;
Ασφάλεια
μην κάνεις κακό
Θα μπορούσε να γίνει κατάχρηση;
Βιωσιμότητα
Περιβαλλοντικές/κοινωνικές επιπτώσεις
Σε ποιον επιβάλλουμε το κόστος;
Αυτές οι αρχές δεν είναι αφηρημένες. Κάθε ένα από αυτά μπορεί να συνδεθεί με μια συγκεκριμένη απόφαση. Για παράδειγμα, «διαφάνεια» σημαίνει να ενημερώνει έναν πελάτη ότι μιλά με τεχνητή νοημοσύνη. Η «ανθρώπινη επίβλεψη» σημαίνει ότι η άρνηση δανείου πρέπει να επανεξεταστεί και να αφεθεί ανοιχτή για ένσταση.
Συμβουλή: Με κάθε απόφαση τεχνητής νοημοσύνης με μεγάλο αντίκτυπο, κάντε μια ερώτηση: «Μπορώ να εξηγήσω ξεκάθαρα και να σταθώ πίσω από αυτήν την απόφαση στο άτομο που επηρεάζεται περισσότερο;» Εάν η απάντηση προσβάλλει, υπάρχει ηθικό πρόβλημα.
Η ηθική είναι διαφορετική από το δίκαιο
Μια κρίσιμη διάκριση: η νομική συμμόρφωση (Μονάδα 9) είναι το ελάχιστο. Η ηθική είναι ανώτερη γραμμή. Κάτι μπορεί να είναι νόμιμο αλλά ανήθικο. Για παράδειγμα, μπορεί να μην απαγορεύεται σε μια εφαρμογή να χρησιμοποιεί τεχνητή νοημοσύνη για να χειραγωγήσει τη συμπεριφορά των χρηστών, αλλά είναι ανήθικο. Οι αρμόδιοι φορείς «απαγορεύεται;» όχι "Είναι αλήθεια;" ρωτάει.
Βήμα προς βήμα: ενσωμάτωση της ηθικής στην απόφαση
1. Προσδιορίστε τα επηρεαζόμενα μέρη. Ποιους επηρεάζει αυτή η πρωτοβουλία; (Πελάτης, εργαζόμενος, κοινωνία, μειονεκτικές ομάδες)
2. Σάρωση με πολιτικές. Αμφισβητήστε την πρωτοβουλία όσον αφορά καθεμία από τις παραπάνω αρχές.
3. Δοκιμή για προκατάληψη και βλάβη. Το μοντέλο επηρεάζει άδικα ορισμένες ομάδες; Ποια είναι τα σενάρια κατάχρησης;
4. Προσθέστε διαφάνεια και επίβλεψη. Αναφέρετε τη χρήση τεχνητής νοημοσύνης, χωρίς να αφήνετε κανένα περιθώριο για ανθρώπινη αντίρρηση.
5. Έγγραφα και αναθεώρηση. Αποθήκευση ηθικής αξιολόγησης. Ελέγξτε ξανά περιοδικά.
τρεις μίνι θήκες
Περίπτωση 1 — Νόμιμη αλλά λάθος. Μια εφαρμογή χρησιμοποιούσε τεχνητή νοημοσύνη για να δημιουργήσει εθιστικές ειδοποιήσεις για να κρατήσει τους χρήστες στην εφαρμογή περισσότερο. Δεν υπήρχε νομικό εμπόδιο, αλλά όταν αναφέρθηκε στον Τύπο, υπήρξε σοβαρή απώλεια της φήμης. Ιδιαίτερα η στόχευση νέων χρηστών προκάλεσε κριτική. Η εταιρεία αφαίρεσε τη δυνατότητα. Αν το ηθικό φίλτρο ήταν από την αρχή, αυτός ο κίνδυνος θα φαινόταν.
Περίπτωση 2 — Η αξία του τεστ δικαιοσύνης. Το μοντέλο πιστωτικής βαθμολογίας μιας τράπεζας έδινε συστηματικά χαμηλότερες βαθμολογίες σε αιτήσεις από προστατευόμενες ομάδες. Αυτό καταγράφηκε σε έλεγχο δικαιοσύνης. Το μοντέλο επανασχεδιάστηκε και δοκιμαζόταν τακτικά για να διασφαλιστεί η ισότητα μεταξύ ομίλων στα αποτελέσματά του. Η ηθική αρχή (δικαιοσύνη) μετατράπηκε σε συγκεκριμένη δοκιμασία και απέτρεψε την πραγματική ζημιά.
Περίπτωση 3 — Η διαφάνεια χτίστηκε εμπιστοσύνη. Μια εταιρεία ηλεκτρονικού εμπορίου έβαλε τη φράση "Ένας βοηθός τεχνητής νοημοσύνης σας βοηθά, μπορείτε να συνδεθείτε με έναν ανθρώπινο εκπρόσωπο ανά πάσα στιγμή" στην αρχή του chatbot υποστήριξης πελατών της. Η διαφάνεια και η ανθρώπινη έξοδος δεν μείωσαν την ικανοποίηση. Αντίθετα, αύξησε την εμπιστοσύνη και τα παράπονα μειώθηκαν κατά 15%. Η διαφάνεια που έγινε σωστά ήταν αξία, όχι κόστος.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Ηθικός έλεγχος:
Ο ρόλος σας: υπεύθυνος σύμβουλος τεχνητής νοημοσύνης. Σαρώστε αυτήν την πρωτοβουλία για 7 αρχές: δικαιοσύνη, διαφάνεια, λογοδοσία, ιδιωτικότητα, ανθρώπινη εποπτεία, ασφάλεια, βιωσιμότητα. Για κάθε πολιτική, γράψτε έναν κίνδυνο και μια σύσταση. Πρωτοβουλία: [κείμενο]
2) Ανάλυση επηρεαζόμενων μερών:
Καταγράψτε όλα τα μέρη που επηρεάζονται από αυτήν την πρωτοβουλία τεχνητής νοημοσύνης (πελάτης, εργαζόμενος, κοινωνία, μειονεκτούσες ομάδες). Καταγράψτε τις πιθανές θετικές και αρνητικές επιπτώσεις για κάθε μέρος. Σημειώστε την ομάδα που είναι πιο πιθανό να πληγωθεί. Πρωτοβουλία: [κείμενο]
3) Σενάριο κατάχρησης:
Δημιουργήστε 5 σενάρια στα οποία θα μπορούσε να γίνει κατάχρηση της ακόλουθης δυνατότητας AI (συμπεριλαμβανομένης της χειραγώγησης, της διάκρισης, της παραβίασης του απορρήτου, της εξαπάτησης). Προτείνετε μια προληπτική απόφαση σχεδιασμού για κάθε σενάριο. Ιδιότητα: [κείμενο]
4) Έλεγχος διαφάνειας και επιτήρησης:
Γράψτε ένα σχέδιο διαφάνειας και ανθρώπινης εποπτείας για την τεχνητή νοημοσύνη που αντιμετωπίζει πελάτες που: τι θα κοινοποιηθεί στον χρήστη και πώς. Πώς μπορεί να μεταφερθεί στον άνθρωπο; Πώς μπορεί να αντιταχθεί στην απόφαση; Χρήση: [κείμενο]
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμο: "Είναι αυτό το AI ηθικό;"
Αποτέλεσμα: Ένα επιφανειακό «ναι/όχι». Ποια αρχή, ποιος θίγεται, ποιο μέτρο είναι ασαφές.
Strong: "Σκεφτόμαστε να χρησιμοποιήσουμε την τεχνητή νοημοσύνη σε ένα εργαλείο προεπιλογής προσλήψεων (ο άνθρωπος θα λάβει την τελική απόφαση). Εξετάστε το για αρχές δικαιοσύνης, διαφάνειας, λογοδοσίας και ανθρώπινης επίβλεψης. Γράψτε συγκεκριμένα ποιες ομάδες υποψηφίων μπορεί να επηρεαστούν άδικα, ποιες δοκιμές μεροληψίας πρέπει να κάνω και πώς οι υποψήφιοι μπορούν να κάνουν έφεση στην απόφαση."
Αποτέλεσμα: Μια πρακτική αξιολόγηση βασισμένη σε αρχές που προσδιορίζει το θιγόμενο μέρος και προτείνει τη διενέργεια δοκιμών και ένστασης.
Συνήθη λάθη
- Συγχέοντας την ηθική με τη νομική συμμόρφωση. Δεν είναι ηθικά όλα όσα είναι νόμιμα. Η ηθική είναι ανώτερη γραμμή.
- Αφήνοντας την ηθική να κρατήσει. Η λήψη "έγκρισης δεοντολογίας" μετά το σχεδιασμό είναι πολύ αργά. Η ηθική πρέπει να ενσωματωθεί στο σχέδιο από την αρχή.
- Δεν δοκιμάζει τη δικαιοσύνη. Η υπόθεση ότι «το μοντέλο μας είναι ουδέτερο» είναι επικίνδυνη. δεν μπορεί να γίνει γνωστό χωρίς μέτρηση.
- Λάθος διαφάνεια ως προς το κόστος. Η σωστή διαφάνεια αυξάνει την εμπιστοσύνη και την αξία.
- Διατηρώντας στενές τις πληγείσες πλευρές. Το να σκέφτεσαι μόνο τον πελάτη και να αγνοείς τον εργαζόμενο, την κοινωνία και τις μειονεκτούσες ομάδες δημιουργεί ένα τυφλό σημείο.
Προσοχή: Το να αφήσουμε εντελώς την ηθική αξιολόγηση στην τεχνητή νοημοσύνη είναι αντιφατικό και επικίνδυνο. Η τεχνητή νοημοσύνη μπορεί να βοηθήσει να τεθούν ηθικά ερωτήματα, αλλά η αξιακή κρίση, το πολιτισμικό πλαίσιο και η τελική ηθική ευθύνη ανήκουν στον άνθρωπο. Η ηθική στάση ενός οργανισμού καθορίζεται από τις συνειδητές επιλογές των ανθρώπων και όχι από «το είπε η AI».
Συνοπτικά
Η ηθική είναι η διαφορά μεταξύ «μπορούμε» και «πρέπει» και προστατεύει τη μακροπρόθεσμη αξιοπιστία του οργανισμού. Υπεύθυνη τεχνητή νοημοσύνη. Βασίζεται στις αρχές της δικαιοσύνης, της διαφάνειας, της λογοδοσίας, της ιδιωτικής ζωής, της ανθρώπινης εποπτείας, της ασφάλειας και της βιωσιμότητας. Αυτές οι αρχές δεν είναι αφηρημένες. Μεταφράζεται σε συγκεκριμένες αποφάσεις όπως ο εντοπισμός των επηρεαζόμενων μερών, ο έλεγχος για μεροληψία, η παροχή διαφάνειας και η προσθήκη ανθρώπινης εποπτείας. Η ηθική είναι διαφορετική από το δίκαιο και είναι ανώτερη γραμμή. Δεν μπορεί να αφεθεί μέχρι το τέλος, πρέπει να ενσωματωθεί στο σχέδιο. Στην επόμενη ενότητα, θα συζητήσουμε τη συμμόρφωση, η οποία είναι το νομικό ισοδύναμο της δεοντολογίας, ειδικά του νόμου της ΕΕ για την τεχνητή νοημοσύνη και του KVKK.
Εργασία εφαρμογής
Επιλέξτε μια εκκίνηση τεχνητής νοημοσύνης με μεγάλο αντίκτυπο. Με το πρότυπο 2, απαριθμήστε όλα τα επηρεαζόμενα μέρη και σημειώστε την ομάδα που είναι πιο πιθανό να ζημιωθεί. Με το πρότυπο 1, σαρώστε την πρωτοβουλία για τις επτά αρχές. Καθορίστε ένα συγκεκριμένο μέτρο (δοκιμή δικαιοσύνης, κοινοποίηση διαφάνειας, οδός προσφυγής κ.λπ.) για τους δύο πιο κρίσιμους ηθικούς κινδύνους. Τέλος, «μπορώ να εξηγήσω αυτή την απόφαση στο άτομο που επηρεάζεται περισσότερο;» Απαντήστε στην ερώτηση με ειλικρίνεια.
λίστα ελέγχου
- [ ] Έχω εντοπίσει όλα τα επηρεαζόμενα μέρη.
- [ ] Εξέτασα την εκκίνηση με επτά αρχές υπεύθυνης τεχνητής νοημοσύνης.
- [ ] Σχεδίασα ένα τεστ για μεροληψία/δικαιοσύνη.
- [ ] Σχεδίασα τη δήλωση διαφάνειας.
- [ ] Δεν άφησα κανένα τρόπο για ανθρώπινη εποπτεία και έκκληση.
- [ ] Σκέφτηκα τα σενάρια κατάχρησης.
- [ ] "Μπορώ να το εξηγήσω σε αυτόν που επηρεάζεται περισσότερο;" Πέρασα το τεστ.