Κέρδη:
- Ικανότητα ανάλυσης μιας ηθικής περίπτωσης από πολλαπλές οπτικές γωνίες, από συνεπακόλουθα, δεοντολογικά και ηθικά πλαίσια αρετής
- Ικανότητα αποσαφήνισης γεγονότων και ενδιαφερομένων και κατονομασίας συγκρούσεων αρχών
- Να είσαι σε θέση να λαμβάνεις ηθικές κρίσεις και αποφάσεις με δικαιολογημένο τρόπο με έλεγχο μεροληψίας, χωρίς να το αφήνεις στην τεχνητή νοημοσύνη
Η καρδιά της εφαρμοσμένης ηθικής είναι το ερώτημα "τι να κάνουμε;" σε μια πραγματική κατάσταση. είναι να δώσει μια αιτιολογημένη απάντηση στην ερώτηση. Μια επιτροπή δεοντολογίας του νοσοκομείου συζητά μια απόφαση θεραπείας, μια εταιρεία αξιολογεί εάν η χρήση δεδομένων είναι ηθική, ένας ερευνητής σταθμίζει τη βλάβη ενός πειράματος για τους συμμετέχοντες. Τα εργαλεία που χρησιμοποιούνται σε αυτές τις εργασίες είναι ηθικά πλαίσια (προσεγγίσεις που προσφέρουν ένα συνεκτικό σύνολο αρχών και συλλογισμών για την αξιολόγηση μιας κατάστασης) - για παράδειγμα, συνεπακόλουθος (προσέγγιση που αξιολογεί την ορθότητα μιας πράξης σύμφωνα με τις συνέπειές της, τα οφέλη και τις βλάβες που παράγει), δεοντολογία (προσέγγιση που αξιολογεί την ορθότητα μιας πράξης, κανόνες και ανεξάρτητες ενέργειες με βάση τα δικαιώματα της. ηθική της αρετής (προσέγγιση που πλαισιώνει το ερώτημα ως «τι θα έκανε ένας ενάρετος άνθρωπος;» αντί «τι δράση;»). Η τεχνητή νοημοσύνη μπορεί να είναι ένα γρήγορο εργαλείο για την ανάλυση μιας υπόθεσης από διαφορετικά πλαίσια, την προβολή διαστάσεων που παραβλέπονται και τον πολλαπλασιασμό των επιλογών. Αλλά η τελική ηθική κρίση - ποια αρχή επικρατεί, ποια απόφαση να ληφθεί και το σκεπτικό της - ανήκει στον άνθρωπο, ειδικά στην αρμόδια επιτροπή και τον ειδικό.
Σε αυτή την ενότητα, θα δούμε πώς να αναλύσουμε μια ηθική υπόθεση με τρόπο που βασίζεται στην τεχνητή νοημοσύνη αλλά κρίνεται από τον άνθρωπο.
Ανάλυση πολλαπλών καρέ: Η πραγματική δύναμη της τεχνητής νοημοσύνης
Το πιο συνηθισμένο λάθος σε μια ηθική υπόθεση είναι να εμμείνεις σε μια ενιαία άποψη. Μια καλή ανάλυση βλέπει την ίδια κατάσταση από πολλαπλά πλαίσια και αποκαλύπτει εντάσεις. Εδώ είναι ισχυρή η τεχνητή νοημοσύνη: μπορεί να αναλύσει μια περίπτωση από συνεπακόλουθες, δεοντολογικές και βασισμένες στην αρετή προοπτικές ταυτόχρονα και να απαριθμήσει γρήγορα σε ποιο συμπέρασμα οδηγεί κάθε πλαίσιο. Αυτό χαρτογραφεί τη συζήτηση.
Βήματα:
1. Διευκρινίστε τα γεγονότα. Ποιος, τι, πότε εμπλέκεται. διάκριση μεταξύ αβέβαιων και υποτιθέμενων γεγονότων. Η ηθική ανάλυση δεν μπορεί να βασίζεται σε ψευδή γεγονότα.
2. Προσδιορίστε τα ενδιαφερόμενα μέρη και τα συμφέροντα. Ποιους επηρεάζει η απόφαση, ποια είναι τα δικαιώματα και τα συμφέροντα του καθενός;
3. Αναλύστε από διαφορετικά πλαίσια. Πώς βλέπει κάθε πλαίσιο αυτήν την κατάσταση και ποια δράση προτείνει;
4. Δείξτε εντάσεις και συγκρούσεις αρχών. Εάν τα πλαίσια καταλήξουν σε διαφορετικά συμπεράσματα, πού ακριβώς είναι η σύγκρουση; (Για παράδειγμα, μεταξύ της αυτονομίας του ατόμου και του οφέλους της κοινωνίας.)
5. Καταλήξτε σε αιτιολογημένη απόφαση. Να αιτιολογήσετε ποια αρχή υπερτερεί του γιατί αποδεχόμενοι την ισχυρότερη αντίρρηση της άλλης πλευράς.
Συμβουλή: Μην ζητάτε από την τεχνητή νοημοσύνη να "μου πει τη σωστή απάντηση". Πείτε, «ανάλυσε αυτήν την υπόθεση από τρία πλαίσια και δείξτε το συμπέρασμα και την ισχυρότερη αντίρρηση του καθενός». Η δουλειά του AI είναι να δημιουργήσει τον χάρτη. Εσείς παράγετε την απόφαση και την αιτιολόγηση. Στην ηθική, «η απάντηση που δίνει η μηχανή» δεν είναι δικαιολογία.
Γιατί η τεχνητή νοημοσύνη δεν μπορεί να λάβει ηθικές αποφάσεις;
Ας το θέσουμε αυτό ξεκάθαρα. Ηθική κρίση; Απαιτεί γνώση του πλαισίου, ιεράρχηση των αξιών, ανάληψη ευθύνης και βούληση να υπογράψει αυτή την απόφαση. Η τεχνητή νοημοσύνη δεν έχει τίποτα από αυτά: δεν έχει αξίες, καμία ευθύνη, περιορισμένη γνώση του πλαισίου και μπορεί να αναπαράγει πολιτισμικές/ιδεολογικές προκαταλήψεις στα δεδομένα εκπαίδευσης. Επιπλέον, η τεχνητή νοημοσύνη συχνά δίνει τη «μέση» ή την πιο κοινή γνώμη για ένα αμφιλεγόμενο θέμα. ενώ στην ηθική η σωστή απάντηση μπορεί να είναι ως επί το πλείστον μειοψηφία ή μπορεί να μην υπάρχει καθόλου. Το AI ανοίγει επιλογές. Εσύ ζυγίζεις και αποφασίζεις.
Προσοχή: Σε υψηλού κινδύνου ηθικές αποφάσεις (ιατρικές, νομικές, θεσμικές) η παραγωγή τεχνητής νοημοσύνης δεν πρέπει ποτέ να αντικαθιστά την κρίση ενός αρμόδιου συμβουλίου ή εμπειρογνώμονα. Χρησιμοποιήστε την τεχνητή νοημοσύνη ως «συμβουλευτικό συντάκτη». Η τελική απόφαση και ευθύνη ανήκει στον υπεύθυνο. Επίσης, εάν τα πραγματικά δεδομένα της υπόθεσης περιέχουν προσωπικές/εμπιστευτικές πληροφορίες, μην τα εισάγετε σε δημόσια εργαλεία.
τρεις μίνι θήκες
Περίπτωση 1 — Χάρτης πολλαπλών πλαισίων. Μια επιτροπή δεοντολογίας συζητούσε την κατανομή ενός περιορισμένου πόρου (π.χ. περιορισμένου αριθμού επιλογών θεραπείας). Έβαλαν το AI να αναλύσει την υπόθεση από συνεπακόλουθες, δεοντολογικές και βασισμένες στην αρετή προοπτικές. Τρεις διαφορετικές δικαιολογίες και τα σημεία σύγκρουσής τους χαρτογραφήθηκαν σε 20 λεπτά. Χρησιμοποιώντας αυτόν τον χάρτη ως σημείο εκκίνησης, το συμβούλιο διεξήγαγε τη δική του συζήτηση και πήρε τη δική του αιτιολογημένη απόφαση.
Περίπτωση 2 — Ο παραμελημένος ενδιαφερόμενος. Μια εταιρεία αξιολογούσε μια απόφαση χρήσης δεδομένων. Στην ανάλυσή της, η YZ σημείωσε μια τρίτη ομάδα (άτομα των οποίων τα δεδομένα χρησιμοποιήθηκαν αλλά δεν εμπλέκονται στη διαδικασία) που επηρεάστηκαν έμμεσα, εκτός από τα άμεσα μέρη της απόφασης. Η ομάδα είχε παραβλέψει αυτό το ενδιαφερόμενο μέρος. Η συμβολή του AI έκανε την απόφαση πιο ολοκληρωμένη — αλλά η ομάδα έκανε την ιεράρχηση.
Περίπτωση 3 — Διορθώθηκε η μεροληπτική πρόταση. Ένας ερευνητής έβαλε μια τεχνητή νοημοσύνη να αναλύσει μια πολιτιστικά ευαίσθητη υπόθεση. Η τεχνητή νοημοσύνη παρουσίασε μια ενιαία πολιτισμική άποψη ως την «καθολική αλήθεια» και αγνόησε εναλλακτικά συστήματα αξιών. Ο ερευνητής παρατήρησε αυτή τη μονόπλευρη συμπεριφορά και διαφοροποίησε την ανάλυση. Η κυρίαρχη άποψη των δεδομένων εκπαίδευσης του AI εξισορροπείται από την ανθρώπινη επίβλεψη.
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Τι πρέπει να κάνω ηθικά σε αυτήν την κατάσταση;
Αυτή η προτροπή εκχωρεί ηθική κρίση και ευθύνη στο AI. Παίρνεις μια «απάντηση», δεν βλέπεις το σκεπτικό και το πλαίσιο, η προκατάληψη παραμένει κρυφή.
Ισχυρή προτροπή:
Ο ρόλος σας: αναλυτής εφαρμοσμένης ηθικής (όχι υπεύθυνος λήψης αποφάσεων). Αναλύστε την παρακάτω περίπτωση. ΜΗ ΜΟΥ ΔΩΣΕΙΣ ΤΗΝ ΑΠΟΦΑΣΗ.1) Καταγράψτε τα διφορούμενα γεγονότα που πρέπει να διευκρινιστούν. 2) Αφαιρέστε τα ενδιαφερόμενα μέρη και τα συμφέροντα/δικαιώματα του καθενός. Δώστε το συμπέρασμα και την ισχυρότερη αντίρρηση του καθενός. 4) Δείξτε τη βασική σύγκρουση αρχών μεταξύ των πλαισίων. Θα προσκομίσω την απόφαση και την αιτιολόγηση. Προειδοποιήστε εάν υπάρχουν προσωπικά/εμπιστευτικά δεδομένα. Υπόθεση: [write case]
Αυτή η προτροπή αφαιρεί τον χάρτη πολλαπλών καρέ, αφήνει την απόφαση σε εσάς και κάνει ορατή την προκατάληψη.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Γεγονός και διευκρίνιση των ενδιαφερομένων:
Στην ακόλουθη περίπτωση, παραθέστε (α) ορισμένα γνωστά γεγονότα, (β) αβέβαια/υποτιθέμενα γεγονότα, (γ) όλα τα ενδιαφερόμενα μέρη και τα συμφέροντα και τα δικαιώματα του καθενός. Προσθέστε σχόλια και αποφάσεις. Υπόθεση: [υπόθεση]
2) Ανάλυση τριών πλαισίων:
Αναλύστε αυτήν την περίπτωση ξεχωριστά από τις προοπτικές του συνεπειακού χαρακτήρα, της δεοντολογίας και της ηθικής της αρετής. Για κάθε καρέ: πώς το βλέπει, τη δράση που προτείνει και την ισχυρότερη αντίρρηση σε αυτήν την πρόταση. Δήλωση ενός πλαισίου «σωστό». Υπόθεση: [υπόθεση]
3) Διάγνωση σύγκρουσης πολιτικής:
Ονομάστε τις βασικές αρχές στις οποίες τα πλαίσια συγκρούονται στην παρακάτω ανάλυση (π.χ. αυτονομία έναντι κοινού καλού, δικαιοσύνη έναντι συμπόνιας). Δείξτε ακριβώς πού επικεντρώνεται η σύγκρουση. Λήψη αποφάσεων. Ανάλυση: [επικόλληση κειμένου]
4) Έλεγχος προκατάληψης και πολιτισμικής ευαισθησίας:
Ελέγξτε εάν αυτή η ηθική ανάλυση δεν παρουσιάζει μια ενιαία πολιτισμική/ιδεολογική άποψη ως καθολική αλήθεια. Υπάρχουν εναλλακτικά συστήματα αξιών ή προοπτικές που αγνοούνται; Επισημάνετε όπου χρειάζεται περισσότερος πλουραλισμός. Ανάλυση: [επικόλληση κειμένου]
Διάγραμμα σύγκρισης πλαισίων
Πλαίσιο
βασική ερώτηση
Εστίαση
τυπική αδυναμία
συνέπειας
Ποιο είναι το καλύτερο αποτέλεσμα;
Ισορροπία οφέλους/ζημίωσης
Μπορεί να συντρίψει τα δικαιώματα των μειονοτήτων
δεοντολογία
Τι λέει η ανάθεση/κανόνας;
δικαίωμα, καθήκον, αρχή
Αυστηρός, μπορεί να αγνοήσει το αποτέλεσμα
ηθική της αρετής
Τι κάνει ένας ενάρετος άνθρωπος;
χαρακτήρας, πρόθεση
Αόριστος οδηγός δράσης
Συνήθη λάθη
- Κάνοντας την AI να αποφασίσει. «Τι να κάνω; Η ερώτηση αναθέτει ηθική κρίση. Το AI δημιουργεί έναν χάρτη, εσείς αποφασίζετε.
- Όντας κολλημένος σε ένα μόνο πλαίσιο. Βλέποντας την υπόθεση από μία μόνο οπτική γωνία. Η ανάλυση πολλαπλών πλαισίων αποκαλύπτει ένταση.
- Μη διευκρίνιση των γεγονότων. Η ηθική ανάλυση που βασίζεται σε ψευδή ή υποτιθέμενα γεγονότα καταρρέει.
- Μη αναγνωρίζοντας την προκατάληψη. Η τεχνητή νοημοσύνη μπορεί να παρουσιάζει την κυρίαρχη πολιτιστική άποψη ως «καθολική». Ο πλουραλισμός παρέχεται από τους ανθρώπους.
- Εισαγωγή εμπιστευτικής/προσωπικής υπόθεσης σε δημόσιο εργαλείο. Κίνδυνος παραβίασης απορρήτου σε πραγματικά αρχεία. Ανωνυμοποιήστε ή χρησιμοποιήστε ασφαλές σύστημα.
Συνοπτικά
Η πραγματική δύναμη της τεχνητής νοημοσύνης στην ανάλυση περιπτώσεων εφαρμοσμένης ηθικής είναι να χαρτογραφεί γρήγορα μια κατάσταση από πολλαπλά πλαίσια, να εξάγει ενδιαφερόμενα μέρη και να κάνει ορατές τις συγκρούσεις αρχών. Όμως η ηθική κρίση —η οποία κυριαρχεί η αρχή, η απόφαση και η αιτιολόγηση— ανήκει στον άνθρωπο, ιδιαίτερα στην αρμόδια επιτροπή και εμπειρογνώμονα. επειδή η τεχνητή νοημοσύνη δεν έχει αξίες, καμία ευθύνη, καμία γνώση του πλαισίου και φέρει προκατάληψη. Αποσαφηνίστε τα γεγονότα, αναλύστε πολλαπλά πλαίσια, ονομάστε τη σύγκρουση, ελέγξτε για προκατάληψη και πάρτε την απόφαση μόνοι σας με αιτιολόγηση. Σε αποφάσεις υψηλού στοιχήματος, η τεχνητή νοημοσύνη τοποθετείται παράλληλα, αντί να αντικαθιστά, την κρίση των ειδικών.
Εργασία εφαρμογής
- Επιλέξτε μια πραγματική ή φανταστική ηθική υπόθεση (ανωνυμοποιήστε εάν περιλαμβάνει προσωπικά δεδομένα).
- Εξαγωγή γεγονότων και ενδιαφερομένων με το πρότυπο «Γεγονός και διευκρίνιση ενδιαφερόμενων μερών».
- Αναλύστε την υπόθεση από τρεις οπτικές γωνίες με το πρότυπο «ανάλυση τριών πλαισίων».
- Ονομάστε την υποκείμενη ένταση με το πρότυπο «αρχική διάγνωση σύγκρουσης».
- Γράψτε τη δική σας αιτιολογημένη απόφαση — αποδεχόμενοι την ισχυρότερη ένσταση του αντιπάλου.
λίστα ελέγχου
- [ ] Διευκρίνισα τα γεγονότα και τις αβεβαιότητες.
- [ ] Προσδιόρισα όλα τα ενδιαφερόμενα μέρη και τα συμφέροντά τους.
- [ ] Είχα αναλύσει την υπόθεση από τουλάχιστον τρία ηθικά πλαίσια.
- [ ] Έχω ονομάσει ξεκάθαρα τη σύγκρουση αρχής.
- [ ] Έλεγξα για μεροληψία και μονόπλευρη.
- [ ] Άφησα την απόφαση και την αιτιολόγηση στον εαυτό μου/το συμβούλιο, όχι στο AI.
- [ ] Προστάτεψα εμπιστευτικά/προσωπικά δεδομένα.