Κέρδη:
- Ικανότητα αναγνώρισης των κινδύνων διάκρισης, μεροληψίας και έμμεσων διακρίσεων κατά την τιμολόγηση και την αναδοχή και τη δοκιμή τους στην παραγωγή τεχνητής νοημοσύνης
- Δυνατότητα τήρησης του δικαιώματος επεξήγησης και αντίρρησης στο πλαίσιο των κανονισμών SEDDK, του KVKK και των αρχών αυτόματης λήψης αποφάσεων
- Ικανότητα εφαρμογής των υποχρεώσεων ανθρώπινου ελέγχου και αιτιολόγησης σε αυτοματοποιημένες αποφάσεις υψηλού κινδύνου
Η ασφάλιση είναι μια επιχείρηση που ομαδοποιεί και τιμολογεί κινδύνους. αλλά αυτή η ομαδοποίηση πρέπει να είναι δίκαιη. Η παροχή υψηλότερου ασφάλιστρου ή η άρνηση κάλυψης σε ένα άτομο λόγω προστατευμένων χαρακτηριστικών όπως το φύλο, η εθνικότητα, οι πεποιθήσεις, η περιοχή διαμονής του αποτελεί άδικη διάκριση και απαγορεύεται. Η τεχνητή νοημοσύνη (λογισμικό που μαθαίνει από ιστορικά δεδομένα και δημιουργεί συστάσεις τιμών και αποφάσεων) ενέχει ιδιαίτερο κίνδυνο σε αυτόν τον τομέα: μπορεί να μάθει άδικα πρότυπα στα ιστορικά δεδομένα και να διαιωνίσει άθελά του ή ακόμη και να κρύψει τις διακρίσεις. Επιπλέον, μπορεί να το κάνει αυτό όχι άμεσα αλλά έμμεσα (μέσω μιας μεταβλητής μεσολάβησης). Σε αυτή την ενότητα, θα μάθετε πώς να αναγνωρίζετε τους κινδύνους μεροληψίας και διακρίσεων στην τιμολόγηση και την αναδοχή, πώς να ελέγχετε την παραγωγή τεχνητής νοημοσύνης για δικαιοσύνη και πώς να τηρείτε το δικαίωμα στην επεξήγηση και την αντίρρηση στο πλαίσιο του SEDDK (Φορέας ρύθμισης και εποπτείας ασφαλιστικών και ιδιωτικών συντάξεων), KVKK και αρχές αυτόματης λήψης αποφάσεων. Αυτή η μονάδα δεν είναι νομικός σύμβουλος. Εξηγεί τις γενικές αρχές, σε κάθε συγκεκριμένη περίπτωση, φροντίστε να συμβουλευτείτε τη μονάδα νομικών/συμμόρφωσης.
Από πού προέρχονται οι προκαταλήψεις και οι διακρίσεις;
Η μεροληψία AI προκύπτει από τρεις κύριες πηγές:
- Προκατάληψη δεδομένων: Το μοντέλο μαθαίνει για την αδικία στα ιστορικά δεδομένα. Για παράδειγμα, εάν μια συγκεκριμένη ομάδα έχει λάβει συστηματικά υψηλά ασφάλιστρα στο παρελθόν, το μοντέλο συνεχίζει να το θεωρεί αυτό ως "φυσιολογικό".
- Υποκατάστατη μεταβλητή (proxy): Ακόμα κι αν το μοντέλο δεν χρησιμοποιεί άμεσα το προστατευμένο χαρακτηριστικό (φύλο, προέλευση), κάνει έμμεσα διάκριση χρησιμοποιώντας μια μεταβλητή που σχετίζεται στενά με αυτό (γειτονιά, όνομα, μοτίβο αγορών).
- Μεροληψία δειγματοληψίας: Επειδή ορισμένες ομάδες υποεκπροσωπούνται στα δεδομένα, το μοντέλο παράγει αναξιόπιστες και άδικες κρίσεις για αυτές.
Υπάρχουν δύο είδη διακρίσεων. Άμεση διάκριση: κραυγαλέα χρήση προστατευόμενου χαρακτηριστικού. Έμμεση διάκριση: όταν ένα φαινομενικά ουδέτερο κριτήριο επηρεάζει δυσανάλογα μια συγκεκριμένη ομάδα. Το δεύτερο είναι πιο ύπουλο γιατί συμβαίνει χωρίς πρόθεση και είναι δύσκολο να εντοπιστεί.
Προσοχή: Η υπεράσπιση ότι «το μοντέλο βασίζεται σε στατιστικά στοιχεία, άρα είναι αντικειμενικό» είναι λάθος. Οι στατιστικές περιλαμβάνουν επίσης την αδικία του παρελθόντος. Το μοντέλο δεν το νομιμοποιεί, το διαιωνίζει. Η δικαιοσύνη είναι κάτι που πρέπει να δοκιμαστεί ενεργά.
Έλεγχος αποτελεσμάτων για δικαιοσύνη
Δοκιμάστε το αποτέλεσμα AI (σύσταση τιμής, λόγος απόρριψης, βαθμολογία κινδύνου) με τρεις ερωτήσεις για δικαιοσύνη:
- Είναι νόμιμος ο λόγος; Η απόφαση βασίζεται σε κριτήρια που έχουν πραγματική και δικαιολογημένη σχέση με τον κίνδυνο ή στην προστατευόμενη περιουσία ή στον αντιπρόσωπό της;
- Υπάρχει πληρεξούσιος; Θα μπορούσε μία από τις μεταβλητές που χρησιμοποιούνται (γειτονιά, όνομα, επάγγελμα, οικογενειακή κατάσταση) να συνδέεται στενά με ένα προστατευμένο χαρακτηριστικό;
- Μπορεί να εξηγηθεί; Μπορείτε να εξηγήσετε την απόφαση στον πελάτη και τον ελεγκτή με σαφή και αξιόπιστο τρόπο; «Το είπε το μοντέλο» δεν είναι δήλωση.
Εάν μια αιτιολόγηση δεν περάσει αυτές τις τρεις δοκιμασίες, απορρίπτεται και η απόφαση βασίζεται σε θεμιτά κριτήρια.
Συμβουλή: Δοκιμάστε το σκεπτικό για απόρριψη ή υψηλό ασφάλιστρο με αυτήν την πρόταση: "Θα ντραπώ αν το εξηγήσω στον πελάτη και σε έναν ελεγκτή;" Δεν πρέπει να χρησιμοποιείται επαίσχυντη ή απαράδεκτη αιτιολόγηση (γειτονιά, όνομα, καταγωγή).
Νομοθετικό πλαίσιο: ΣΕΔΔΚ, ΚΒΚΚ, αυτόματη απόφαση
Η χρήση της τεχνητής νοημοσύνης στην ασφάλιση υπόκειται σε διάφορους κανονισμούς. Βασικές αρχές:
- Αρχές SEDDK: Οι ασφαλιστικές δραστηριότητες πρέπει να διεξάγονται με δίκαιο, διαφανή και προστατευτικό τρόπο για τους καταναλωτές. Η τιμολόγηση πρέπει να είναι δικαιολογημένη και δεν πρέπει να υπάρχουν άδικες διακρίσεις.
- KVKK: Τα προσωπικά δεδομένα πρέπει να υποβάλλονται σε επεξεργασία σύμφωνα με το νόμο, να περιορίζονται στον σκοπό και με ασφάλεια. Τα ειδικά δεδομένα, όπως η υγεία, υπόκεινται στην υψηλότερη προστασία.
- Αρχές αυτοματοποιημένης λήψης αποφάσεων: Σε αποφάσεις που βασίζονται αποκλειστικά στην αυτόματη επεξεργασία και επηρεάζουν σημαντικά το άτομο (για παράδειγμα, μια απόρριψη που γίνεται μόνο από την τεχνητή νοημοσύνη), το άτομο. Τα δικαιώματα για ένσταση στην απόφαση, αίτημα ανθρώπινης παρέμβασης και εκμάθησης του σκεπτικού της απόφασης έρχονται στο προσκήνιο.
Ως εκ τούτου, η επεξήγηση, ο ανθρώπινος έλεγχος και η αιτιολόγηση είναι ουσιαστικής σημασίας σε αποφάσεις υψηλού αντίκτυπου. Η αδικαιολόγητη απόφαση ενός μοντέλου «μαύρου κουτιού» είναι τόσο ανεξέλεγκτη όσο και σε σύγκρουση με αυτά τα δικαιώματα.
Βήμα προς βήμα: Δίκαιη και αρμονική απόφαση
- Προσδιορίστε τις προστατευόμενες ιδιότητες. Φύλο, καταγωγή, πεποιθήσεις, υγεία, περιοχή κατοικίας κ.λπ.
- Κάντε μια σάρωση διακομιστή μεσολάβησης. Να αμφισβητήσετε τη σχέση των μεταβλητών που χρησιμοποιούνται με τις προστατευμένες ιδιότητες.
- Βάλτε τη δικαιολόγηση στη δοκιμασία της νομιμότητας. Υπάρχει πραγματική σχέση με τον κίνδυνο; Μπορεί να εξηγηθεί;
- Προσθέστε τον ανθρώπινο έλεγχο. Αφήστε έναν άνθρωπο να αναθεωρήσει το αυτόματο αποτέλεσμα σε μια απόφαση υψηλού αντίκτυπου.
- Τεκμηριώστε το σκεπτικό. Καταγράψτε σε ποια θεμιτά κριτήρια βασίστηκε η απόφαση.
- Μάθετε τον τρόπο προσφυγής. Παρέχετε στον πελάτη το δικαίωμα αντίρρησης, ανθρώπινης κριτικής και αιτιολόγησης.
τρεις μίνι θήκες
Περίπτωση 1 — Απόρριψη του πληρεξούσιου. Ένα μοντέλο τιμολόγησης κατοικιών πρότεινε ένα συστηματικά υψηλό ασφάλιστρο για έναν συγκεκριμένο ταχυδρομικό κώδικα. Ο εμπειρογνώμονας εξέτασε: ο ταχυδρομικός κώδικας αλληλεπικαλύπτονταν με μια περιοχή με μια συγκεκριμένη εθνοτική συγκέντρωση. αυτή ήταν μια μεταβλητή μεσολάβησης. Όταν αναλυθεί ο πραγματικός κίνδυνος (ηλικία κτιρίου, τύπος κατασκευής, ιστορικό ζημιών), το μεγαλύτερο μέρος της αύξησης δεν δικαιολογείται πλέον. Η τιμή έχει αποκατασταθεί με βάση θεμιτά κριτήρια κινδύνου.
Περίπτωση 2 — Υποεκπροσωπούμενη ομάδα. Για ένα προϊόν υγειονομικής περίθαλψης, το μοντέλο προσέφερε ένα υπερβολικά υψηλό ασφάλιστρο σε μια μικρή ηλικιακή ομάδα. Αιτία: αυτή η ομάδα ήταν τόσο υποεκπροσωπούμενη στα δεδομένα που μερικές υψηλές ζημιές έκαναν ολόκληρη την ομάδα να φαίνεται "σε κίνδυνο". Ο εμπειρογνώμονας πραγματοποίησε διόρθωση αξιοπιστίας (στατιστικής αξιοπιστίας) και τεκμηρίωσε ότι η σύσταση ήταν αναξιόπιστη. Δεν εφαρμόστηκε άδικη αύξηση.
Περίπτωση 3 — Δικαίωμα αντίρρησης. Μια αίτηση απορρίφθηκε αυτόματα με βαθμολογία με τεχνητή νοημοσύνη. Ο πελάτης αντιτάχθηκε. Ως μέρος της διαδικασίας προσαρμογής, η απόφαση επανεξετάστηκε από εμπειρογνώμονα. Η βαθμολογία φάνηκε να βασίζεται σε δεδομένα που λείπουν (αναντιστοιχία προηγούμενων ζημιών). Η απόφαση διορθώθηκε. Χωρίς τον ανθρώπινο έλεγχο και το δικαίωμα αντίρρησης, η άδικη απόρριψη θα ήταν μόνιμη.
Τέσσερα μηνύματα με δυνατότητα αντιγραφής
1) Σάρωση πληρεξουσίου και διάκριση:
Ελέγξτε την ακόλουθη αιτιολόγηση τιμολόγησης/απόφασης για δικαιοσύνη: [αιτιολόγηση]Αναζητήστε: χρησιμοποιείται άμεσα ή έμμεσα το προστατευόμενο χαρακτηριστικό (φύλο, καταγωγή, πεποίθηση, υγεία, περιοχή κατοικίας) (αντιπρόσωπος: γειτονιά, όνομα, επάγγελμα κ.λπ.); Για κάθε αμφισβητήσιμη μεταβλητή, εξηγήστε γιατί θα μπορούσε να είναι πληρεξούσιος και προτείνετε μια νόμιμη εναλλακτική.
2) Δοκιμή νομιμότητας αιτιολόγησης:
Δοκιμάστε την ακόλουθη λογική άρνησης/υψηλού μπόνους με τρεις ερωτήσεις: [αιτιολόγηση]1. Υπάρχει πραγματική και δικαιολογημένη σχέση με τον κίνδυνο;2. Βασίζεται σε προστατευόμενη περιουσία ή σε πληρεξούσιό της;3. Μπορεί να εξηγηθεί στον πελάτη και στον ελεγκτή; Απαντήστε σε κάθε ερώτηση ξεκάθαρα. Σημειώστε τον λόγο που δεν πέρασε το τεστ ως "ΑΠΟΡΡΙΨΗ".
3) Επεξηγήσιμο σχέδιο αιτιολόγησης:
Σχεδιάστε μια διατυπωμένη αιτιολογία στον πελάτη για την απόφαση με βάση τα ακόλουθα ΕΠΑΛΗΘΕΥΜΕΝΑ, θεμιτά κριτήρια κινδύνου: [νόμιμα κριτήρια] Τόνος: σεβασμός, σαφής. Χρήση προστατευμένης ιδιοκτησίας/διαμεσολαβητή. Δηλώστε το δικαίωμα του πελάτη να αντιταχθεί και να ζητήσει τον ανθρώπινο έλεγχο. Αυτό είναι ένα προσχέδιο. επιβεβαιώνει ο ειδικός.
4) Λίστα ελέγχου ανθρώπινης επιθεώρησης:
Δημιουργήστε μια λίστα ελέγχου ανθρώπινου ελέγχου για μια αυτοματοποιημένη απόφαση υψηλού αντίκτυπου: Τύπος απόφασης: [απόρριψη/υψηλό ασφάλιστρο/περιορισμός εξασφάλισης]Λίστα: έλεγχος από ειδικευμένο εμπειρογνώμονα, ελεγμένα δεδομένα, δικαιοσύνη/έλεγχος μεσολάβησης, έγγραφο αιτιολόγησης, ειδοποίηση ένστασης πελάτη, αρχείο παρακολούθησης.
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμο: "Προσδιορίστε την πιο κερδοφόρα τιμή με αυτά τα δεδομένα και γράψτε την αιτιολόγηση."
Πρόβλημα: Η δικαιοσύνη, η πληρεξουσιότητα και η επεξήγηση δεν τηρούνται. το μοντέλο μπορεί να διαιωνίσει και να δικαιολογήσει παλαιότερες διακρίσεις.
Ισχυρό: "Ελέγξτε αυτήν την αιτιολόγηση για πληρεξούσιο και διάκριση. επισημάνετε σημεία που βασίζονται σε προστατευμένο χαρακτηριστικό ή στον διακομιστή μεσολάβησής του και αντικαταστήστε το με κριτήριο θεμιτού κινδύνου. Περιγράψτε μια εξηγήσιμη αιτιολόγηση."
Γιατί είναι καλό: Οι διακρίσεις δοκιμάζονται ενεργά, η απόφαση βασίζεται σε θεμιτά και εξηγήσιμα κριτήρια.
γράφημα σύγκρισης
Θέμα
επικίνδυνη προσέγγιση
σωστή προσέγγιση
Έξοδος μοντέλου
«Η στατιστική είναι αντικειμενική»
Δοκιμάστε ενεργά τη δικαιοσύνη
Μεταβλητή επιλογή
Χρησιμοποιήστε όλα τα δεδομένα
Εξαγωγή πληρεξουσίων
αιτιολόγηση
«Αυτό είπε το μοντέλο»
Θεμιτό, εξηγήσιμο κριτήριο
Απόφαση υψηλού αντίκτυπου
πλήρως αυτόματο
Η ανθρώπινη επίβλεψη είναι υποχρεωτική
Σωστός πελάτης
Δεν αναφέρεται
Ένσταση + ανθρώπινη κριτική + αιτιολόγηση
Συνήθη λάθη
- Η άμυνα «η στατιστική είναι αντικειμενική». Δικαιολογώντας την περασμένη αδικία.
- Αγνοώντας τον πληρεξούσιο. Έμμεση διάκριση με βάση τη γειτονιά/όνομα/επάγγελμα.
- Αναξιόπιστη απόφαση για υποεκπροσωπούμενη ομάδα. Υποθέτοντας ότι ο ρυθμός που λαμβάνεται από ένα μικρό δείγμα είναι ακριβής.
- Απόφαση για το μαύρο κουτί. Εφαρμογή αυτόματης απόφασης για την οποία δεν μπορεί να εξηγηθεί ο λόγος.
- Μη αναγνώριση του δικαιώματος αντίρρησης. Μη δίνοντας στον πελάτη το δικαίωμα σε ανθρώπινη αναθεώρηση και αιτιολόγηση.
Συνοπτικά
Η τεχνητή νοημοσύνη μπορεί να μάθει τις διακρίσεις στα ιστορικά δεδομένα και να τις συνεχίσει έμμεσα (μέσω πληρεξουσίου) στην τιμολόγηση και την αναδοχή. Δοκιμάστε ενεργά τη δικαιοσύνη: προσδιορίστε προστατευμένες ιδιότητες και πληρεξούσιους, δοκιμάστε την αιτιολόγηση για τη νομιμότητα και την επεξήγηση. SEDDK, KVKK και αρχές αυτόματης λήψης αποφάσεων. Η δίκαιη τιμολόγηση απαιτεί επεξήγηση, ανθρώπινη κριτική και δικαίωμα αντίρρησης. Ο ανθρώπινος έλεγχος είναι απαραίτητος σε αποφάσεις υψηλού αντίκτυπου. Στη συγκεκριμένη περίπτωση, συμβουλευτείτε το νομικό τμήμα/τμήμα συμμόρφωσης. Οι διακρίσεις είναι η κόκκινη γραμμή.
Εργασία εφαρμογής
Γράψτε μια λίστα με 10 μεταβλητές που χρησιμοποιεί ένα μοντέλο τιμολόγησης (πραγματική ή παράδειγμα). Για καθένα, απαντήστε στην ερώτηση "θα μπορούσε αυτό να είναι πληρεξούσιος για μια προστατευόμενη ιδιοκτησία". Επισημάνετε τα ύποπτα. Στη συνέχεια, βάλτε μια αιτιολόγηση απόρριψης δείγματος μέσω του τεστ νομιμότητας #2: περνάει το τεστ και εάν όχι, πώς μπορείτε να το αντικαταστήσετε με ένα νόμιμο κριτήριο;
λίστα ελέγχου
- [ ] Έχω καθορίσει προστατευμένες ιδιότητες.
- [ ] Σάρωσα τις μεταβλητές για διακομιστή μεσολάβησης.
- [ ] Έβαλα την αιτιολόγηση στη δοκιμασία της νομιμότητας και της επεξήγησης.
- [ ] Πραγματοποίησα ελέγχους αξιοπιστίας για ομάδες που υποεκπροσωπούνται.
- [ ] Πρόσθεσα τον ανθρώπινο έλεγχο στην απόφαση υψηλού αντίκτυπου.
- [ ] Τεκμηρίωσα το σκεπτικό και έδωσα στον πελάτη το δικαίωμα αντίρρησης/ανθρώπινου ελέγχου.
- [ ] Σε περίπτωση αμφιβολίας, συμβουλεύτηκα το νομικό τμήμα/τμήμα συμμόρφωσης.