Κέρδη:
- Αξιολόγηση εάν μια χρήση AI απαιτεί DPIA
- Εφαρμογή της διαδικασίας DPIA επτά βημάτων σε ένα έργο AI
- Δώστε προτεραιότητα στους κινδύνους με έναν πίνακα πιθανοτήτων-επιπτώσεων και σχεδιάστε μέτρα μετριασμού
Ορισμένες χρήσεις της τεχνητής νοημοσύνης ενέχουν σοβαρούς κινδύνους για τα άτομα: παρακολούθηση μεγάλης κλίμακας, επεξεργασία ευαίσθητων δεδομένων, αυτοματοποιημένες αποφάσεις. Σε τέτοια έργα, τόσο ο KVKK/GDPR όσο και ο νόμος της ΕΕ για την τεχνητή νοημοσύνη αναμένουν μια δομημένη αξιολόγηση κινδύνου πριν από την έναρξη των εργασιών. Το όνομα αυτής της αξιολόγησης είναι Αξιολόγηση Επιπτώσεων Προστασίας Δεδομένων (DPIA). Σε αυτήν την ενότητα θα μάθουμε πώς να γνωρίζουμε εάν μια χρήση απαιτεί DPIA, πώς να εφαρμόσετε τη διαδικασία DPIA επτά βημάτων σε ένα έργο τεχνητής νοημοσύνης και πώς να ιεραρχήσετε τους κινδύνους με έναν πίνακα πιθανοτήτων-επιπτώσεων.
Τι είναι το DPIA και πότε χρειάζεται;
Η Αξιολόγηση Επιπτώσεων Προστασίας Δεδομένων (DPIA) είναι μια δομημένη ανάλυση που αξιολογεί εκ των προτέρων τους κινδύνους μιας δραστηριότητας επεξεργασίας για τα δικαιώματα και τις ελευθερίες των ατόμων και καθορίζει μέτρα μετριασμού. Το κρίσιμο σημείο: Η DPIA πραγματοποιείται στο στάδιο του σχεδιασμού, πριν ξεκινήσει η επεξεργασία — όχι μετά την εμφάνιση του προβλήματος.
Η DPIA απαιτείται συνήθως όταν:
- Χρήση νέας τεχνολογίας (συχνά περιλαμβάνεται AI).
- Μεγάλης κλίμακας επεξεργασία προσωπικών δεδομένων.
- Συστηματική παρακολούθηση ή δημιουργία προφίλ.
- Ειδική επεξεργασία δεδομένων.
- Αυτοματοποιημένες αποφάσεις που επηρεάζουν σημαντικά τους ανθρώπους.
Συμβουλή: Εάν δεν είστε βέβαιοι, κάντε έναν "έλεγχο": εάν υπάρχουν δύο ή περισσότερα από τα πέντε παραπάνω, κάντε προεπιλογή DPIA. Το κόστος της DPIA είναι χαμηλό. Το κόστος για να μην γίνει αυτό είναι πολύ υψηλό σε μία παράβαση.
Διαδικασία DPIA επτά βημάτων
Εφαρμόζετε το DPIA σε ένα έργο AI σε αυτά τα επτά βήματα:
βήμα
Τι κάνεις;
1. Περιγραφή
Περιγράψτε την επεξεργασία: ποια δεδομένα, σκοπός, εύρος, ροή
2. Αναγκαιότητα και αναλογικότητα
Είναι πραγματικά απαραίτητο το AI; Υπάρχει λιγότερο παρεμβατικός τρόπος;
3. Γνώμη των ενδιαφερομένων
Λάβετε τη γνώμη των σχετικών προσώπων/εκπροσώπων
4. Προσδιορισμός κινδύνου
Καταγράψτε πιθανές βλάβες σε άτομα
5. Εκτίμηση κινδύνου
Βαθμολογήστε κάθε κίνδυνο με βάση την πιθανότητα και τον αντίκτυπο
6. Μέτρα μετριασμού
Σχεδιάστε προφυλάξεις για κάθε κίνδυνο, προσδιορίστε τον υπολειπόμενο κίνδυνο
7. Έγκριση και επανεξέταση
Τεκμηριώστε το αποτέλεσμα, υποβάλετέ το για έγκριση, ενημερώστε το περιοδικά
Προτεραιότητα κινδύνου: πίνακας πιθανότητας-επίπτωσης
Αξιολογείτε κάθε κίνδυνο σε δύο διαστάσεις: την πιθανότητα να συμβεί και τον αντίκτυπο εάν συμβεί. Ο συνδυασμός των δύο δίνει προτεραιότητα.
<w:tcPr><w:tcW w:type="dxa" w:w="2160"/></w:tcPr><w:p><w:r><w:rPr><w:b/></w:rPr><w:t>Χαμηλή επίδραση
μέτριο αποτέλεσμα
υψηλή επίδραση
μεγάλη πιθανότητα
μεσαίο
ψηλά
κριτικό
μεσαία πιθανότητα
χαμηλά
μεσαίο
ψηλά
χαμηλή πιθανότητα
χαμηλά
χαμηλά
μεσαίο
Κρίσιμοι και υψηλοί κίνδυνοι είναι κίνδυνοι για τους οποίους το έργο δεν πρέπει να συνεχιστεί χωρίς να λαμβάνονται προφυλάξεις. Ο στόχος δεν είναι να εξαλειφθεί κάθε κίνδυνος. είναι η μείωση κάθε κινδύνου σε ένα αποδεκτό επίπεδο και η συνειδητή αποδοχή του υπολειπόμενου (υπολειπόμενου) κινδύνου.
τρεις μίνι θήκες
Περίπτωση 1 — Παράλειψη DPIA. Μια αλυσίδα λιανικής εφαρμόζει ένα σύστημα που παρακολουθεί τη συμπεριφορά των πελατών στο κατάστημα με AI, χωρίς DPIA. Μήνες αργότερα, μια καταγγελία αποκαλύπτει ότι το σύστημα έκανε συγκεκριμένα συμπεράσματα (υγεία, πρόβλεψη εγκυμοσύνης). Δεν υπάρχει απάντηση στο ερώτημα «γιατί δεν κάνατε DPIA» στον έλεγχο. Μια DPIA από την αρχή θα είχε αντιληφθεί αυτόν τον κίνδυνο στο στάδιο του σχεδιασμού και θα έκανε το έργο ασφαλές.
Περίπτωση 2 — Έργο που διασώθηκε από την DPIA. Η DPIA πραγματοποιείται για τεχνητή νοημοσύνη υποστήριξης προσλήψεων σε τράπεζα. Κατά τη φάση προσδιορισμού κινδύνου, ο κίνδυνος μεροληψίας φύλου λόγω ιστορικών δεδομένων αποδεικνύεται «υψηλός». Ως μετριασμός, η ομάδα αφαιρεί πληροφορίες φύλου από το μοντέλο, αποδίδει τα αποτελέσματα σε τακτικές δοκιμές μεροληψίας και απαιτεί επικύρωση από τον άνθρωπο. Τώρα ο κίνδυνος πέφτει στο «μέτριο» και το έργο γίνεται αποδεκτό. Η DPIA καθιστά το έργο ασφαλές αντί να το σκοτώνει.
Περίπτωση 3 — Δοκιμή αναλογικότητας. Μια εταιρεία θέλει να σαρώσει τα email των εργαζομένων για «ανάλυση αφοσίωσης» με AI. Στο βήμα αναγκαιότητας/αναλογικότητας του DPIA, αυτό φαίνεται ότι είναι υπερβολικά παρεμβατικό σε σχέση με τον σκοπό. Υπάρχουν λιγότερο παρεμβατικές εναλλακτικές. Το έργο δεν έχει εγκριθεί στην τρέχουσα μορφή του. Το τεστ αναλογικότητας κάνει διάκριση μεταξύ «μπορούμε» και «πρέπει».
Προσοχή: Το DPIA δεν είναι μια φόρμα που συμπληρώνεται μία φορά και αφήνεται στην άκρη. Κατά την επεξεργασία αλλαγών (νέα δεδομένα, νέος σκοπός, νέο εργαλείο) το DPIA πρέπει να ενημερώνεται. Ένα νεκρό DPIA είναι πιο παραπλανητικό από το μηδενικό DPIA γιατί δίνει ψεύτικη εμπιστοσύνη.
Ποιος έχει σχέση με το DPIA και την εγγραφή κινδύνου με το DPIA
Ένα άτομο δεν μπορεί να συμπληρώσει το DPIA στο γραφείο του. Η σωστή DPIA είναι μια ομαδική προσπάθεια. Τυπικά, ο υπεύθυνος προστασίας δεδομένων εκτελεί τη διαδικασία (Doer), ο υπεύθυνος συμμόρφωσης είναι τελικά υπεύθυνος (Accountable), η σχετική επιχειρηματική μονάδα περιγράφει την επεξεργασία, αξιολογεί τα τεχνικά μέτρα πληροφορικής/ασφάλειας και επιβεβαιώνει τη νομική βάση. Η λήψη των απόψεων των σχετικών ατόμων (τρίτο βήμα) δεν πρέπει να παραμεληθεί. Ωστόσο, αυτό είναι το βήμα που παραλείπεται περισσότερο στην πράξη.
Το αποτέλεσμα της DPIA δεν βρίσκεται στο κενό: οι εντοπισμένοι κίνδυνοι καταγράφονται στο μητρώο κινδύνων του οργανισμού. Το μητρώο κινδύνου είναι ένα ζωντανό γράφημα που καταγράφει όλους τους ανοιχτούς κινδύνους, τις προτεραιότητές τους, τους μετριασμούς, τους ενόχους και τις ημερομηνίες τελευταίας αναθεώρησης. Με αυτόν τον τρόπο, οι κίνδυνοι ενός έργου AI μιλούν την ίδια γλώσσα με τη συνολική διαχείριση κινδύνου του οργανισμού και παρακολουθούνται τακτικά.
Περιοχή μητρώου κινδύνου
παράδειγμα
Ορισμός κινδύνου
Προκατάληψη φύλου στην τεχνητή νοημοσύνη πρόσληψης
προτεραιότητα
ψηλά
Μέτρο μετριασμού
Υποκατάστατη εξαγωγή μεταβλητής + δοκιμή μεροληψίας
Υπεύθυνος
Υπεύθυνος προστασίας δεδομένων
αναθεώρηση
κάθε 3 μήνες
Συμβουλή: Αντιμετωπίστε το DPIA με μια νοοτροπία «καταγραφής κινδύνου και παρακολούθησης» και όχι με μια προσέγγιση «τελείωσε και ξεχάστε». Έχει εφαρμοστεί ένας περιορισμός κινδύνου, είναι ο υπολειπόμενος κίνδυνος σε αποδεκτό επίπεδο — χωρίς την τήρηση αρχείου αυτών, το DPIA γίνεται παραθυρικό έγγραφο.
Αντιγράψιμα πρότυπα
ΠΡΟΤΥΠΟ 1 — Προέλεγχος DPIA: "Απαιτείται DPIA για αυτήν τη χρήση τεχνητής νοημοσύνης; [περιγράψτε τη χρήση]. Αξιολογήστε με βάση πέντε παράγοντες ενεργοποίησης: νέα τεχνολογία, μεγάλης κλίμακας επεξεργασία, συστηματική παρακολούθηση, ευαίσθητα δεδομένα, σημαντική αυτοματοποιημένη λήψη αποφάσεων. Πόσοι παράγοντες ενεργοποίησης υπάρχουν, προτείνετε το DPIA, με αιτιολόγηση."
ΠΡΟΤΥΠΟ 2 — Καταιγισμός ιδεών για τον εντοπισμό κινδύνου: "Καταγράψτε τις πιθανές βλάβες για τους ανθρώπους σε αυτό το έργο AI [περιγράψτε το έργο]: διαρροή δεδομένων, διακρίσεις, εσφαλμένη εκτίμηση, παραβίαση του απορρήτου, έλλειψη διαφάνειας, ολίσθηση σκοπού. Γράψτε ένα σενάριο μίας πρότασης για κάθε βλάβη. Απλώς εντοπίστε, αλλά μην αντιμετωπίσετε."
ΠΡΟΤΥΠΟ 3 — Βαθμολογία πιθανότητας-επίδρασης: "Βαθμολογήστε τους ακόλουθους κινδύνους [καταλόγου κινδύνους] ως πιθανότητα (χαμηλό/μέσο/υψηλό) και αντίκτυπο (χαμηλό/μέσο/υψηλό). Η προτεραιότητα (χαμηλή/μέση/υψηλή/κρίσιμη) εμφανίζεται σε κάθε σειρά. Λίστα κρίσιμη και υψηλή στην κορυφή. Παρουσιάζεται σε μορφή πίνακα."
ΠΡΟΤΥΠΟ 4 — Σχεδιασμός μετριασμού: "Για τον ακόλουθο κίνδυνο [γράψτε τον κίνδυνο], προτείνετε τουλάχιστον 3 μέτρα μετριασμού (τεχνικά, διεργασιακά, οργανωτικά). Υπολογίστε το επίπεδο "υπολειπόμενου κινδύνου" μετά από κάθε μέτρο. Εάν ο κίνδυνος εξακολουθεί να είναι υψηλός μετά το μέτρο, υποδείξτε ότι το έργο πρέπει να επανασχεδιαστεί."
Αδύναμη προτροπή / Ισχυρή προτροπή
ΑΔΥΝΑΜΟΣ: "Είναι αυτό το έργο τεχνητής νοημοσύνης επικίνδυνο;"-> Το μοντέλο δίνει μια ασαφή απάντηση "ίσως". δεν ταξινομεί κινδύνους, δεν ιεραρχεί κινδύνους, δεν παράγει μέτρα. ΔΥΝΑΤΟΤΗΤΑ: "Διεξαγωγή μίνι DPIA για το ακόλουθο έργο τεχνητής νοημοσύνης: (1) περιγράψτε την επεξεργασία, (2) αξιολογήστε την ανάγκη για DPIA με 5 εναύσματα, (3) λίστα6 πιθανές βλάβες σε άτομα, (4) βαθμολογήστε το καθένα με βάση πιθανότητα-επίπτωση, καθιστήστε τον ορισμό του κινδύνου / κρίσιμο για τον καθορισμό του κινδύνου (5) λήψης αποφάσεων να παράγει ένα προσχέδιο που θα εγκριθεί νομικά."-> Το μοντέλο παράγει ένα προσχέδιο δομημένου DPIA.
Συνήθη λάθη
- Εκτέλεση του DPIA μετά την έναρξη της συναλλαγής (ή ακόμα και μετά την εμφάνιση του προβλήματος).
- Παράλειψη επεξεργασίας υψηλού κινδύνου που απαιτεί DPIA ως "καμία μεγάλη υπόθεση".
- Μη απαρίθμηση των κινδύνων και ιεράρχησή τους με βάση την πιθανότητα και τον αντίκτυπο.
- Θεωρώντας το DPIA «ολοκληρωμένο» χωρίς να ληφθούν μέτρα για κάθε κίνδυνο.
- Παρακάμπτοντας το βήμα της αναγκαιότητας/αναλογικότητας και λέγοντας «μπορούμε να το κάνουμε, ας το κάνουμε λοιπόν».
- Συμπλήρωση του DPIA μία φορά και μη ενημέρωση του όταν αλλάζει η διαδικασία.
- Έγκριση του έργου χωρίς σαφή τεκμηρίωση του υπολειπόμενου (υπολειπόμενου) κινδύνου.
Συνοπτικά
- Η DPIA είναι μια δομημένη ανάλυση που αξιολογεί τον αντίκτυπο μιας επεξεργασίας υψηλού κινδύνου σε άτομα πριν από την έναρξή της.
- Απαιτείται DPIA εάν υπάρχει νέα τεχνολογία, επεξεργασία μεγάλης κλίμακας, συστηματική παρακολούθηση, ευαίσθητα δεδομένα ή σημαντική αυτοματοποιημένη λήψη αποφάσεων.
- Η διαδικασία αποτελείται από επτά βήματα: προσδιορισμός, αναγκαιότητα/αναλογικότητα, γνώμη των ενδιαφερομένων, προσδιορισμός κινδύνου, αξιολόγηση, δράση, έγκριση/αναθεώρηση.
- Οι κίνδυνοι ιεραρχούνται με έναν πίνακα πιθανοτήτων-επίπτωσης. Οι κρίσιμοι/υψηλοί κίνδυνοι δεν γίνονται δεκτοί χωρίς προφυλάξεις.
- Το DPIA δεν σκοτώνει το έργο, το καθιστά ασφαλές. Είναι ένα ζωντανό έγγραφο που πρέπει να ενημερώνεται καθώς αλλάζει η επεξεργασία.
Εργασία εφαρμογής
Επιλέξτε μια χρήση τεχνητής νοημοσύνης που μπορεί να χρησιμοποιήσει ο οργανισμός σας, η οποία μπορεί να είναι υψηλού κινδύνου (για παράδειγμα, υποστήριξη πρόσληψης, παρακολούθηση συμπεριφοράς ή βαθμολογία πίστωσης). Αρχικά εξετάστε εάν η DPIA είναι απαραίτητη με πέντε εναύσματα. Στη συνέχεια, πραγματοποιήστε μια μίνι DPIA για αυτήν τη χρήση: περιγράψτε την επεξεργασία, απαριθμήστε τουλάχιστον έξι πιθανές βλάβες σε άτομα, βαθμολογήστε το καθένα στον πίνακα πιθανότητας-επίπτωσης και δώστε προτεραιότητα. Σχεδιάστε τρία μέτρα μετριασμού για δύο κρίσιμους και υψηλούς κινδύνους και εκτιμήστε το επίπεδο υπολειπόμενου κινδύνου μετά το μέτρο. Τέλος, σημειώστε πότε θα χρειαστεί να ενημερωθεί αυτό το DPIA.
λίστα ελέγχου
- [ ] Αξιολόγησα την απαίτηση DPIA με πέντε εναύσματα.
- [ ] Καθόρισα την επεξεργασία (δεδομένα, σκοπός, εύρος, ροή).
- [ ] Αμφισβήτησα την αναγκαιότητα και την αναλογικότητα.
- [ ] Έχω απαριθμήσει τις πιθανές βλάβες σε άτομα.
- [ ] Έδωσα προτεραιότητα στους κινδύνους στον πίνακα πιθανοτήτων-επίπτωσης.
- [ ] Σχεδίασα μέτρα μετριασμού για κρίσιμους/υψηλούς κινδύνους.
- [ ] Έχω πλέον τεκμηριώσει τον κίνδυνο και έχω ορίσει τους όρους επανεξέτασης.