Κέρδη:
- Ικανότητα σαφούς καθορισμού των εννοιών της αντιπροσωπείας, του χάσματος ευθύνης, της αλγοριθμικής μεροληψίας, της διαφάνειας και της αυτονομίας και της δημιουργίας εντάσεων.
- Αναθέτοντας την ευθύνη όχι στην «τεχνητή νοημοσύνη» αλλά στην ανθρώπινη αλυσίδα που την σχεδιάζει, την αναπτύσσει και τη χρησιμοποιεί
- Δυνατότητα διεξαγωγής μιας πολυμερούς συζήτησης ελέγχοντας την αισιόδοξη προκατάληψη της τεχνητής νοημοσύνης και την απαρχαιωμένη γνώση της δικής της τεχνολογίας
Η φιλοσοφία και η εφαρμοσμένη ηθική είναι τομείς που όχι μόνο χρησιμοποιούν την τεχνητή νοημοσύνη αλλά και μελετούν την τεχνητή νοημοσύνη. Η ίδια η τεχνητή νοημοσύνη είναι ένα από τα πιο ζωντανά θέματα στην ηθική φιλοσοφία σήμερα: Ποιος είναι υπεύθυνος όταν ένα σύστημα AI λαμβάνει μια απόφαση; Εάν ένας αλγόριθμος είναι προκατειλημμένος, πώς ονομάζεται αυτή η αδικία; Μπορεί η τεχνητή νοημοσύνη να θεωρηθεί «πράκτορας» (υποκείμενο ικανό για ηθική δράση); Ως ηθικολόγος, είστε το άτομο που διεξάγετε αυτές τις συζητήσεις και διδάσκετε. Σε αυτήν την ενότητα, θα διευκρινίσουμε τις βασικές έννοιες της συζήτησης για την ηθική της τεχνητής νοημοσύνης (ο κλάδος της εφαρμοσμένης ηθικής που εξετάζει τα ηθικά ερωτήματα - ευθύνη, μεροληψία, διαφάνεια, αυτονομία, δικαιοσύνη - που προκύπτουν από την ανάπτυξη και τη χρήση συστημάτων τεχνητής νοημοσύνης) και θα δούμε πώς μπορείτε να αναλύσετε καλύτερα και να διδάξετε αυτήν τη συζήτηση με εργαλεία τεχνητής νοημοσύνης.
Ακολουθεί ένας ενδιαφέρον κύκλος: Μπορείτε να χρησιμοποιήσετε την τεχνητή νοημοσύνη ως εργαλείο ακόμα και όταν συζητάτε για την ηθική της τεχνητής νοημοσύνης — αλλά εκεί ακριβώς πρέπει να είστε πιο προσεκτικοί για τις προκαταλήψεις και τους περιορισμούς της τεχνητής νοημοσύνης.
Βασικές έννοιες και εντάσεις
Πράκτορας και ηθικό υποκείμενο. Πρόθεση, κατανόηση, ελευθερία και επίγνωση των συνεπειών απαιτούνται συχνά για να φέρει ηθική ευθύνη ένα ον. Το αν η τεχνητή νοημοσύνη τα έχει αυτά είναι συζητήσιμο. Οι περισσότερες απόψεις υποστηρίζουν ότι η τεχνητή νοημοσύνη είναι ένα εργαλείο και ότι η ευθύνη παραμένει στους ανθρώπους που το σχεδιάζουν, το αναπτύσσουν και το χρησιμοποιούν. Αυτό ευθυγραμμίζεται με την αρχή που δίνει έμφαση στην ενότητα: η τελική ευθύνη ανήκει στον άνθρωπο.
Κενό ευθύνης. Όταν ένα σύστημα τεχνητής νοημοσύνης προκαλεί ζημιά, μπορεί να προκύψουν καταστάσεις όπου η ευθύνη είναι διασκορπισμένη ("αφήνεται στο κενό"): ο σχεδιαστής, ο πάροχος των δεδομένων, το ίδρυμα που το χρησιμοποιεί, ο απόλυτος χειριστής; Αυτό το «κενό ευθύνης» είναι ένα από τα κεντρικά προβλήματα της σύγχρονης ηθικής της τεχνητής νοημοσύνης.
Αλγοριθμική προκατάληψη. Ένα AI μπορεί να μάθει και να αναπαράγει ιστορικές ανισότητες στα δεδομένα εκπαίδευσης. Αυτή η αλγοριθμική μεροληψία (όταν ένα σύστημα παράγει συστηματικά αποτελέσματα που βλάπτουν ορισμένες ομάδες) βρίσκεται στον πυρήνα των συζητήσεων περί δικαιοσύνης και διάκρισης.
Διαφάνεια και επεξήγηση. Η αποτυχία κατανόησης του γιατί μια απόφαση τεχνητής νοημοσύνης είναι έτσι όπως είναι (το πρόβλημα του «μαύρου κουτιού») είναι ένα ηθικό πρόβλημα όσον αφορά την ευθύνη και το δικαίωμα προσφυγής. Η επεξηγησιμότητα (καθιστώντας το σκεπτικό για την παραγωγή ενός συστήματος ανθρωπίνως κατανοητό) γίνεται όλο και περισσότερο ηθική και νομική απαίτηση.
Συμβουλή: Κατά τη συζήτηση για την ηθική της τεχνητής νοημοσύνης, διαχωρίστε τις έννοιες με σαφήνεια: Αντί να πείτε "Η τεχνητή νοημοσύνη πήρε την απόφαση", πείτε "Η τεχνητή νοημοσύνη παρήγαγε ένα αποτέλεσμα, ο άνθρωπος το υλοποίησε". Αυτή η γλωσσική αυστηρότητα τοποθετεί την ευθύνη στη σωστή θέση και σώζει τη συζήτηση από το θόρυβο.
Χρησιμοποιώντας το AI ως εργαλείο σε αυτή τη συζήτηση
Το ίδιο το AI είναι εξαιρετικό ενδεικτικό υλικό σε μαθήματα ηθικής τεχνητής νοημοσύνης. Μπορείτε να ζητήσετε από τους μαθητές να βρουν προκατάληψη σε μια έξοδο τεχνητής νοημοσύνης, να αποδείξουν την αδικαιολόγητη απόφαση μιας απόφασης και να συγκρίνουν διαφορετικές απόψεις. Αλλά δύο επιφυλάξεις: (1) Η τεχνητή νοημοσύνη μπορεί να έχει εμπορική ή αισιόδοξη κλίση σχετικά με την τεχνολογία της. Φροντίστε να αναζητήσετε και κριτικές απόψεις. (2) Αυτό το πεδίο αλλάζει γρήγορα. Οι πληροφορίες της τεχνητής νοημοσύνης μπορεί να είναι ξεπερασμένες, πηγαίνετε στην τρέχουσα πηγή για κανονισμούς και γεγονότα.
Προσοχή: Όταν ρωτάτε την τεχνητή νοημοσύνη "Είναι η τεχνητή νοημοσύνη ηθική;" Όταν κάνετε μια ερώτηση όπως αυτή, η απάντηση που λαμβάνετε είναι ο μέσος όρος των δεδομένων εκπαίδευσης, όχι το αποτέλεσμα μιας φιλοσοφικής συζήτησης. Πάρτε αυτή την απάντηση ως σημείο εκκίνησης. Καθορίστε μόνοι σας τις έννοιες, καθορίστε τις εντάσεις μόνοι σας και υποστηρίξτε τις μόνοι σας με τρέχοντα πραγματικά παραδείγματα.
τρεις μίνι θήκες
Περίπτωση 1 — Συζήτηση για το κενό ευθυνών. Ένα σεμινάριο συζήτησε ένα σενάριο όπου ένα σύστημα στρατολόγησης με τεχνητή νοημοσύνη άφησε μια ομάδα σε μειονεκτική θέση. Ρωτήστε το AI "ποιος είναι υπεύθυνος;" Είχαν την ανάλυση της ερώτησης από διαφορετικά πλαίσια. Η έξοδος χαρτογράφησε την αλυσίδα σχεδιαστή-δεδομένων-ίδρυμα-χειριστή. Η ομάδα χρησιμοποίησε αυτόν τον χάρτη για να αναπτύξει τη δική της αιτιολογημένη θέση: υποστήριξε τη λογοδοσία κάθε συνδέσμου, ώστε η ευθύνη να μην πέσει στο «κενό».
Περίπτωση 2 — Προκατάληψη που αποδεικνύεται με ένα ζωντανό παράδειγμα. Ένας εκπαιδευτής έβαλε το AI να γράψει την ίδια περιγραφή εργασίας με διαφορετικά ονόματα και έδειξε τα στερεότυπα στην εκτύπωση στους μαθητές. Οι μαθητές είδαν την αλγοριθμική προκατάληψη όχι ως μια αφηρημένη έννοια, αλλά συγκεκριμένα στην έξοδο που είχαν μπροστά τους. Το μάθημα ενσωμάτωσε την έννοια με ένα πραγματικό παράδειγμα. Ο ομιλητής τόνισε επίσης ότι αυτό ήταν ένα ενιαίο αποτέλεσμα και απαιτούνται συστηματικά στοιχεία για τη γενίκευση.
Περίπτωση 3 — Η αισιόδοξη τάση έχει σταθεροποιηθεί. Ένας μαθητής ζήτησε από την τεχνητή νοημοσύνη να γράψει σχετικά με την «επίδραση της τεχνητής νοημοσύνης στην κοινωνία». Η παραγωγή ήταν κυρίως θετική και υποεκτίμησε τους κινδύνους. Ο μαθητής πήγε σε κρίσιμες ακαδημαϊκές πηγές, πρόσθεσε αντίθετες απόψεις και κατασκεύασε μια ισορροπημένη ανάλυση. Η προκατάληψη του AI προς τον δικό του τομέα εξισορροπείται από τον ανθρώπινο έλεγχο.
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Η τεχνητή νοημοσύνη είναι ηθική ή όχι; Απάντηση.
Αυτή η προτροπή μειώνει μια περίπλοκη φιλοσοφική συζήτηση σε μια δυαδική απάντηση. Η τεχνητή νοημοσύνη επιστρέφει τον μέσο όρο, οι έννοιες παραμένουν απροσδιόριστες και η προκατάληψη γίνεται αόρατη.
Ισχυρή προτροπή:
Ο ρόλος σας: Ένας αμερόληπτος αναλυτής στον τομέα της ηθικής της τεχνητής νοημοσύνης. ΜΗ ΜΕ ΚΡΙΝΕΤΕ για το [Σενάριο]. Αντίθετα:1) Ορίστε τις σχετικές έννοιες (δρύτης, κενό ευθύνης, αλγοριθμική μεροληψία, διαφάνεια) — συνοπτική και ουδέτερη. 2) Χαρτογραφήστε την πιθανή κατανομή ευθύνης (σχεδιαστής, δεδομένα, ίδρυμα, χειριστής).3) Παρουσιάστε τουλάχιστον δύο αντίθετες ηθικές θέσεις, η καθεμία στην πιο ισχυρή της.4) Σημειώστε ότι αυτό το πεδίο αλλάζει γρήγορα. Σενάριο: [γράψτε το σενάριο]
Αυτή η προτροπή διευκρινίζει έννοιες, δημιουργεί μια πολυμερή συζήτηση και αφήνει την απόφαση σε εσάς.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Διευκρίνιση έννοιας:
Προσδιορίστε συνοπτικά και αντικειμενικά τις ακόλουθες έννοιες στην ηθική της τεχνητής νοημοσύνης: πράκτορας/ηθικό υποκείμενο, κενό ευθύνης, αλγοριθμική προκατάληψη, διαφάνεια, επεξήγηση. Συμπεριλάβετε ένα καθημερινό παράδειγμα κάτω από κάθε ορισμό. Επισημάνετε τις αμφιλεγόμενες περιοχές ως "οι απόψεις διίστανται".
2) Χαρτογράφηση ευθυνών:
Στο ακόλουθο σενάριο, σχεδιάστε την αλυσίδα ευθύνης για τη ζημιά που προκαλείται από ένα σύστημα τεχνητής νοημοσύνης: σχεδιαστής, πάροχος δεδομένων, ίδρυμα διανομής, χειριστής χρήστη, ρυθμιστής. Γράψτε το πιθανό ποντάρισμα και υπεράσπιση κάθε κρίκου. Κάντε μια τελική κρίση. Σενάριο: [σενάριο]
3) Παρουσίαση αντίθετης θέσης:
Παρουσιάστε τουλάχιστον δύο αντίθετες ηθικές θέσεις σχετικά με [το ερώτημα ηθικής της τεχνητής νοημοσύνης], η καθεμία στην πιο ισχυρή και ειλικρινή της μορφή. Δηλώστε κανέναν «νικητή». Ονομάστε την τιμή στην οποία βασίζεται κάθε θέση. Ερώτηση: [ερώτηση]
4) Έλεγχος αισιοδοξίας/προκατάληψης:
Ελέγξτε εάν το παρακάτω κείμενο σχετικά με την τεχνητή νοημοσύνη υποτιμά τους κινδύνους ή μεταδίδει μια αισιόδοξη διάθεση για την τεχνολογία. Σημειώστε τυχόν κρίσιμες προοπτικές που λείπουν και κινδύνους που πρέπει να προστεθούν. Κείμενο: [επικόλληση κειμένου]
Έννοια / πίνακας τάσης
έννοια
βασική ερώτηση
ηθική ένταση
Δράστης/ηθικό υποκείμενο
Η τεχνητή νοημοσύνη φέρει ευθύνη;
Εργαλείο ή θέμα;
κενό ευθύνης
Ποιος ευθύνεται όταν προκαλείται ζημιά;
Διάσπαρτη λογοδοσία
αλγοριθμική προκατάληψη
Μειονέκτημα σε ποιον;
Δικαιοσύνη εναντίον αποτελεσματικότητας
διαφάνεια
Γιατί αυτή η απόφαση;
Επεξηγησιμότητα κλπ πολυπλοκότητα
αυτονομία
Πόσος είναι ο ανθρώπινος έλεγχος;
Αυτοματισμός έναντι ελέγχου
Συνήθη λάθη
- Γλώσσα «Αποφάσισε το AI». Θολώνει την ευθύνη. Η τεχνητή νοημοσύνη παράγει αποτελέσματα, οι άνθρωποι το εφαρμόζουν και η ευθύνη ανήκει στους ανθρώπους.
- Μειώνοντας τη συζήτηση σε μια δυαδική απάντηση. «Ηθική ή όχι;» Η ερώτηση καταστρέφει το εννοιολογικό βάθος. Ρυθμίστε τάσεις.
- Μη παρατηρώντας την αισιόδοξη τάση του AI. Η τεχνητή νοημοσύνη μπορεί να είναι ασταθής ως προς τη δική της τεχνολογία. Προσθήκη κρίσιμης πηγής.
- Γενίκευση ενός μόνο αποτελέσματος. Η μεροληψία σε ένα δείγμα είναι εντυπωσιακή, αλλά ένας συστηματικός ισχυρισμός απαιτεί συστηματικά στοιχεία.
- Βασιζόμενοι σε ξεπερασμένες πληροφορίες. Αυτό το πεδίο και οι ρυθμίσεις του αλλάζουν γρήγορα. Επιβεβαιώστε τα γεγονότα με την τρέχουσα πηγή.
Συνοπτικά
Η ηθική της τεχνητής νοημοσύνης είναι ένας από τους πιο ζωντανούς σύγχρονους τομείς της φιλοσοφίας και ως ηθικολόγος διεξάγετε και διδάσκετε αυτήν τη συζήτηση. Καθορίστε με σαφήνεια τις βασικές έννοιες - πρακτορεία, κενό λογοδοσίας, αλγοριθμική μεροληψία, διαφάνεια, αυτονομία - και δημιουργήστε εντάσεις. Μπορείτε να χρησιμοποιήσετε την τεχνητή νοημοσύνη και ως εργαλείο και ως παράδειγμα σε αυτήν τη συζήτηση, αλλά προσέξτε δύο παγίδες: η τεχνητή νοημοσύνη τείνει να είναι αισιόδοξη για την τεχνολογία της και οι γνώσεις της μπορεί να είναι ξεπερασμένες. Γλώσσα όπως «Αποφασίστηκε AI» θολώνει την ευθύνη. Η αυστηρή εννοιολογική γλώσσα τοποθετεί την ευθύνη στη σωστή θέση. Πάντα παίρνεις την απόφαση.
Εργασία εφαρμογής
- Επιλέξτε ένα σενάριο ηθικής τεχνητής νοημοσύνης (π.χ. ένα σύστημα αλγοριθμικών αποφάσεων).
- Ορίστε και αναθεωρήστε τις βασικές έννοιες με το πρότυπο "διευκρίνιση εννοιών".
- Εξαγάγετε την αλυσίδα ευθύνης σε περίπτωση ζημιάς με το πρότυπο "χαρτογράφηση ευθύνης".
- Συγκρίνετε τουλάχιστον δύο ηθικές θέσεις με το πρότυπο «παρουσίαση αντίθετης θέσης».
- Δοκιμάστε την προκατάληψη σε ένα κείμενο AI με το πρότυπο "έλεγχος αισιοδοξίας" και προσθέστε μια κρίσιμη πηγή.
λίστα ελέγχου
- [ ] Όρισα τις έννοιες ξεκάθαρα και αντικειμενικά.
- [ ] Έβαλα την ευθύνη στην ανθρώπινη αλυσίδα, όχι στο «AI».
- [ ] Δόμησα τη συζήτηση πολυμερώς, δεν την έκανα δυαδική απάντηση.
- [ ] Έλεγξα την αισιόδοξη διάθεση του AI προς το πεδίο του.
- [ ] Έχω επιβεβαιώσει τα γεγονότα και τους κανονισμούς με την τρέχουσα πηγή.
- [ ] Την τελική κρίση και αιτιολόγηση την έκανα μόνος μου.