Κέρδη:
- Δυνατότητα ταξινόμησης και ανωνυμοποίησης δεδομένων μαθητών στο πλαίσιο του KVKK και ειδικών εννοιών προσωπικών δεδομένων και εφαρμογή ασφαλούς επιλογής οχήματος
- Ικανότητα προσαρμογής των αρχών επαγγελματικής δεοντολογίας PDR (εμπιστευτικότητα, ευεργεσία, μη κακόβουλη συμπεριφορά, αυτονομία) στη χρήση της τεχνητής νοημοσύνης
- Ικανότητα αναγνώρισης μεροληψίας, πολιτισμικής αναισθησίας και παραισθήσεων στην παραγωγή τεχνητής νοημοσύνης και δημιουργία μιας πολιτικής ηθικής χρήσης
Η εμπιστοσύνη βρίσκεται στην καρδιά του επαγγέλματος PDR. Εάν ένας μαθητής μπορεί να πει τα πιο οικεία συναισθήματα, την οικογένειά του και τους φόβους του σε έναν ειδικό, είναι μόνο επειδή πιστεύει ότι οι πληροφορίες θα προστατεύονται. Τα εργαλεία τεχνητής νοημοσύνης θέτουν ένα σοβαρό νέο τεστ για αυτήν την εμπιστοσύνη: τα πιο ευαίσθητα δεδομένα μπορούν να βγουν εκτός ελέγχου σε μια πρόταση. Σε αυτήν την ενότητα, συζητάμε συστηματικά το απόρρητο, την επαγγελματική δεοντολογία KVKK, PDR και πώς εφαρμόζονται στη χρήση της τεχνητής νοημοσύνης. Έχουμε εφαρμόσει αυτές τις αρχές κομμάτι προς κομμάτι σε προηγούμενες ενότητες. Εδώ θα το συνδυάσουμε συνολικά και θα το μετατρέψουμε σε μόνιμη πολιτική.
KVKK και τύποι δεδομένων: τι είναι πιο προστατευμένο
Ο KVKK (Νόμος για την Προστασία Δεδομένων Προσωπικού Χαρακτήρα) είναι ο νόμος που ρυθμίζει τη νόμιμη επεξεργασία δεδομένων ατόμων. Δύο έννοιες είναι ιδιαίτερα σημαντικές. Προσωπικά δεδομένα είναι κάθε πληροφορία που προσδιορίζει ή προσδιορίζει ένα πρόσωπο: όνομα, επώνυμο, αριθμός σχολείου, τάξη, διεύθυνση, φωτογραφία. Τα ειδικά προσωπικά δεδομένα είναι ένα είδος ευαίσθητων δεδομένων που απαιτούν υψηλότερη προστασία: υγεία, ψυχική κατάσταση, διάγνωση, σεξουαλική ζωή, θρησκεία, εθνικότητα, ποινική κατάσταση. Η πλειοψηφία των εγγραφών PDR εμπίπτει σε αυτή τη δεύτερη, ευαίσθητη κατηγορία. γιατί η ψυχική κατάσταση, τα οικογενειακά ζητήματα και το ιστορικό υποστήριξης είναι άμεσα προσωπικά δεδομένα. Αυτό σημαίνει ότι τα δεδομένα PDR δεν πρέπει ποτέ να εισάγονται στην ακατέργαστη μορφή τους σε δημόσια εργαλεία.
Στην πράξη, αυτό μεταφράζεται σε τρεις κανόνες: (1) Ελαχιστοποίηση δεδομένων — εργασία με τη μικρότερη ποσότητα δεδομένων που απαιτείται για την εκτέλεση μιας εργασίας. (2) Ανωνυμοποίηση — καταστήστε τα δεδομένα ασύνδετα με το άτομο αφαιρώντας στοιχεία προσωπικής ταυτοποίησης. (3) Ασφαλή μέσα και όριο σκοπού — χρήση εργαλείων επιχείρησης που προστατεύονται από δεδομένα όπου είναι δυνατόν και επεξεργάζονται δεδομένα μόνο για τον σκοπό για τον οποίο συλλέχθηκαν.
Προσοχή: Δεν αρκεί να πούμε «το ανώνυμα κάπως». Ακόμα κι αν ένα όνομα παραλείπεται από ένα κείμενο, μια μοναδική περιγραφή της κατάστασης (μια πολύ συγκεκριμένη κατάσταση σε έναν μόνο μαθητή σε ένα μικρό σχολείο) μπορεί να κάνει το άτομο αναγνωρίσιμο. Στην ανωνυμοποίηση, γενικεύστε όχι μόνο το όνομα αλλά και τις λεπτομέρειες που μαζί υποδηλώνουν το άτομο.
Πρακτική ανωνυμοποίησης: διαδικασία ελέγχου
Πριν εξαγάγετε ένα κείμενο στο εργαλείο, ακολουθήστε αυτή τη διαδικασία: (α) Καταργήστε τα άμεσα αναγνωριστικά όπως όνομα, επώνυμο, αριθμός, κλάδος τάξης, όνομα γονέα, διεύθυνση, τηλέφωνο, όνομα σχολείου. (β) Γενικεύστε τους έμμεσους περιγραφείς: «ένας μαθητής γυμνασίου» αντί για «ο μόνος μαθητής με προβλήματα όρασης στο 12-Β». (γ) Θολώστε τις λεπτομέρειες ημερομηνίας και συμβάντος όπως απαιτείται. (δ) Μετά την ανάγνωση: "Μπορεί κάποιος που διαβάζει αυτό το κείμενο να βρει ποιος αναφέρεται;" Εάν η απάντηση είναι ασαφής, γενικεύστε περαιτέρω. Η επικυρωμένη εγγραφή εγγράφεται μόνο στο κλειστό, ασφαλές σύστημα του ιδρύματος. Το εργαλείο AI είναι εκτός αυτού του συστήματος.
PDR επαγγελματική ηθική και AI
Η επαγγελματική δεοντολογία PDR βασίζεται σε τέσσερις θεμελιώδεις αρχές, καθεμία από τις οποίες εφαρμόζεται άμεσα στη χρήση της τεχνητής νοημοσύνης:
- Εμπιστευτικότητα (κρατώντας μυστικά): Προστατεύονται οι πληροφορίες των μαθητών. Η μη εισαγωγή ακατέργαστων δεδομένων στην τεχνητή νοημοσύνη, η ανωνυμοποίησή τους και η επιλογή ενός ασφαλούς εργαλείου αποτελούν απαίτηση αυτής της αρχής.
- Ευεργεσία: Ό,τι γίνεται πρέπει να εξυπηρετεί την ευημερία του μαθητή. Η τεχνητή νοημοσύνη χρησιμοποιείται για λόγους ευκολίας, όχι με τρόπο που θα διακυβεύσει το όφελος του μαθητή.
- Μη κακοήθεια: Η προτεραιότητα είναι να μην κάνεις κακό. Τα μη επαληθευμένα αποτελέσματα, τα ανακριβή στατιστικά στοιχεία, η επισήμανση και η χρήση τεχνητής νοημοσύνης σε κρίση αποτελούν κίνδυνο βλάβης. Ως εκ τούτου, η επαλήθευση και το όριο κρίσης είναι μια ηθική επιταγή.
- Αυτονομία: Προστατεύεται το δικαίωμα του μαθητή να πάρει τη δική του απόφαση. Η τεχνητή νοημοσύνη δεν πρέπει να μειώνει τον μαθητή σε μια ετικέτα ή να λαμβάνει αποφάσεις για λογαριασμό του/της.
Η λογοδοσία προστίθεται σε αυτό: Η ευθύνη για κάθε προϊόν που χρησιμοποιείται ανήκει στον ειδικό. Το "AI το παρήγαγε" δεν είναι άμυνα.
Μεροληψία, πολιτισμική ευαισθησία και διαφάνεια
Η τεχνητή νοημοσύνη μπορεί να αντικατοπτρίζει κοινωνικά πρότυπα στα δεδομένα εκπαίδευσης. Στην PDR, αυτό είναι ένα ζήτημα δικαιοσύνης: τα αποτελέσματα που στερεοτυποποιούν έναν μαθητή ανάλογα με το φύλο, τον πολιτισμό ή την κοινωνικοοικονομική του θέση υπονομεύουν την ισότητα ευκαιριών. Ο ειδικός ελέγχει το περιεχόμενο που παράγεται για πολιτιστική ευαισθησία και προκατάληψη. Επίσης διαφάνεια: όπου ενδείκνυται, θα πρέπει να καταστεί σαφές εσωτερικά ότι η τεχνητή νοημοσύνη χρησιμοποιήθηκε για την προετοιμασία ενός υλικού ή σχεδίου. Δεν πρέπει να χρησιμοποιείται ως μυστική «μαγεία». Η εμπιστευτικότητα είναι απαραίτητη στη σχέση με τον μαθητή. Αυτό που εξηγεί ο μαθητής δεν μεταφέρεται σε όχημα.
Βήμα προς βήμα: καθιέρωση μιας πολιτικής χρήσης AI
- Ταξινόμηση δεδομένων. Διαχωρίστε όλες τις πληροφορίες που έχετε ως «προσωπικές / ιδιωτικές / δημόσιες».
- Επιλέξτε όχημα. Το μόνο ασφαλές, εταιρικό εργαλείο για ευαίσθητα δεδομένα. Εργαστείτε ανώνυμα για το γενικό περίγραμμα.
- Ακολουθήστε τη διαδικασία ανωνυμοποίησης. Εκτελέστε τη ρουτίνα ελέγχου πριν από κάθε καταχώριση.
- Έλεγχος επικύρωσης και μεροληψίας. Εξετάστε κάθε έξοδο για γεγονότα και δικαιοσύνη.
- Διατήρηση του ορίου κρίσης. Κρατήστε τη σχέση κρίσης και διαβούλευσης έξω από το όχημα.
- Αναλάβετε την ευθύνη και να είστε διαφανείς. Η τελική έγκριση ανήκει στον εμπειρογνώμονα. Η χρήση είναι ανοιχτή εντός του οργανισμού.
Αντιγράψιμα πρότυπα
1) Έλεγχος ανωνυμοποίησης:
Ο ρόλος σας: βοηθός ελέγχου απορρήτου. Καταγράψτε κάθε δήλωση στο παρακάτω κείμενο που θα μπορούσε να προσδιορίσει ΑΜΕΣΑ ή ΕΜΜΕΣΑ το άτομο (όνομα, αριθμός, τάξη, σχολείο, περιγραφή μοναδικής κατάστασης) και προτείνετε μια πιο γενική εναλλακτική για το καθένα. Σχολιασμός περιεχομένου. Κείμενο: [επικόλληση κειμένου]
2) Έλεγχος μεροληψίας και πολιτισμικής ευαισθησίας:
Ελέγξτε το ακόλουθο υλικό PDR για προκατάληψη και πολιτισμική ευαισθησία: Περιέχει στερεότυπα σχετικά με το φύλο, τον πολιτισμό, την κοινωνικοοικονομική κατάσταση ή τη δομή της οικογένειας; Ποιος μπορεί να αποκλείσει; Επισημάνετε επικίνδυνες δηλώσεις και προτείνετε εναλλακτικές λύσεις χωρίς αποκλεισμούς. Υλικό: [επικόλληση υλικού]
3) Σχέδιο εταιρικής πολιτικής χρήσης AI:
Ο ρόλος σας: βοηθός γραφής PDR. Για την υπηρεσία προσανατολισμού, συντάξτε μια σύντομη εσωτερική πολιτική σχετικά με τη χρήση εργαλείων τεχνητής νοημοσύνης. Επικεφαλίδες: σε ποιες θέσεις εργασίας χρησιμοποιείται, σε ποιες θέσεις εργασίας δεν χρησιμοποιείται (κρίση, διάγνωση, διαβούλευση), κανόνας ανωνυμοποίησης δεδομένων, υποχρέωση επαλήθευσης, ευθύνη ανήκει στον εμπειρογνώμονα. Σύντομη και εφαρμόσιμη.
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμο:
Για να συνοψίσουμε την κατάσταση του Ahmet Yılmaz 8-C, δεχόταν βία στο σπίτι.
Εισάγει τα πιο ευαίσθητα δεδομένα (όνομα, κατηγορία, ειδική κατάσταση) στο όχημα στην ακατέργαστη μορφή του — μια σοβαρή παραβίαση του KVKK και της δεοντολογίας. Επιπλέον, αυτή μπορεί να είναι μια κατάσταση ειδοποίησης (ενότητα 9).
Δυνατό:
Ο ρόλος σας: βοηθός ελέγχου απορρήτου. Σημείωση: Ανωνυμοποίησα το παρακάτω κείμενο πριν το υποβάλω στο εργαλείο. Ωστόσο, ελέγξτε ξανά: υπάρχει κάποια λεπτομέρεια που καθιστά το άτομο αναγνωρίσιμο; Κείμενο: «Ένας μαθητής γυμνασίου άφησε να εννοηθεί ότι βίωνε ένταση στο σπίτι».
τρεις μίνι θήκες
Περίπτωση 1 — Έμμεση αποκάλυψη. Ένας ειδικός επρόκειτο να εισαγάγει ένα κείμενο στο εργαλείο από το οποίο είχε παραλείψει το όνομα. αλλά συνειδητοποίησε ότι η φράση «ο μοναδικός μαθητής του σχολείου που χρησιμοποιεί αναπηρικό καροτσάκι» αναφερόταν άμεσα σε αυτό το άτομο. Αυτό το γενίκευσε σε «μαθητή». Η ονομασία από μόνη της δεν ήταν αρκετή. Η περιγραφή της μοναδικής κατάστασης ήταν επίσης προσδιοριστική.
Περίπτωση 2 — Διόρθωση μεροληψίας. Ένας εμπειρογνώμονας που έλεγξε ένα υλικό καριέρας διαπίστωσε ότι η τεχνητή νοημοσύνη χρησιμοποιούσε πάντα ανδρικά ονόματα σε παραδείγματα μηχανικών και γυναικεία ονόματα σε επαγγέλματα φροντίδας. Ισορροπούσε τα δείγματα και έσπασε το καλούπι. Αυτή η φαινομενικά μικρή διόρθωση διατήρησε το δίκαιο του μηνύματος που στάλθηκε στους μαθητές.
Περίπτωση 3 — Καθιέρωση πολιτικής. Μια υπηρεσία καθοδήγησης δημιούργησε ένα κοινό κείμενο εσωτερικής πολιτικής για να εξαλείψει τη σύγχυση που προκύπτει από το γεγονός ότι ο καθένας χρησιμοποιεί την τεχνητή νοημοσύνη διαφορετικά: σε ποιες εργασίες χρησιμοποιείται, όχι σε κρίση και διάγνωση, τα δεδομένα είναι ανώνυμα, η έξοδος επαληθεύεται, η ευθύνη ανήκει στον ειδικό. Το AI έδωσε προσχέδιο. Η ομάδα οριστικοποίησε το περιεχόμενο με τις δικές της αξίες. Η αβεβαιότητα έδωσε τη θέση της σε ένα ξεκάθαρο πλαίσιο.
Συνήθη λάθη
- Εισαγωγή πρωτογενών δεδομένων. Γράψιμο σε όχημα με όνομα/κατάσταση. Λύση: διαδικασία ανωνυμοποίησης, ασφαλές εργαλείο.
- Απλώς αφαιρώντας το όνομα. Ξεχνώντας τα έμμεσα αναγνωριστικά. Λύση: γενικεύστε και μοναδικές λεπτομέρειες.
- Αγνοώντας την προκατάληψη. Υιοθέτηση στερεοτυπικής απόδοσης. Λύση: έλεγχος μεροληψίας και πολιτισμού.
- Αναθέτοντας την ευθύνη στο όχημα. Σημαίνει "το AI το παρήγαγε". Λύση: η ευθύνη ανήκει στον ειδικό.
- Κακή χρήση. Επεξεργασία δεδομένων που συλλέγονται για έναν σκοπό για έναν άλλο σκοπό. Λύση: σεβαστείτε το όριο σκοπού.
Πίνακας: Τύπος δεδομένων και κανόνας AI
Τύπος δεδομένων
παράδειγμα
Κανόνας AI
δημόσιο
Εισαγωγή γενικού επαγγέλματος
ελεύθερα διαθέσιμα
προσωπικά δεδομένα
Όνομα, αριθμός, τάξη
Δεν είναι δυνατή η εισαγωγή χωρίς ανωνυμοποίηση
Ειδικά ποιοτικά δεδομένα
Ψυχική κατάσταση, οικογένεια, διάγνωση
Δεν μπορεί ποτέ να εισαχθεί στην ακατέργαστη μορφή του.
δεδομένα κρίσης
Κίνδυνος, κατάχρηση, αυτοκτονία
Μην εισέρχεστε ποτέ στο όχημα (μονάδα 9)
Συνοπτικά
Στο PDR, η εμπιστευτικότητα είναι το θεμέλιο της εμπιστοσύνης στο επάγγελμα και η πιο δοκιμασμένη αρχή στην εποχή της τεχνητής νοημοσύνης. Το KVKK διαχωρίζει τα δεδομένα σε προσωπικά και ιδιωτικά δεδομένα. Τα περισσότερα δεδομένα PDR είναι ευαίσθητα και δεν εισάγονται στο εργαλείο στην ακατέργαστη μορφή του. Η ελαχιστοποίηση δεδομένων, η ανωνυμοποίηση (με άμεσα και έμμεσα αναγνωριστικά) και η ασφαλής επιλογή εργαλείων είναι οι βασικοί κανόνες. Οι τέσσερις αρχές της επαγγελματικής δεοντολογίας - εμπιστευτικότητα, ευεργεσία, μη κακόβουλη συμπεριφορά, αυτονομία - είναι δεσμευτικές για τη χρήση της τεχνητής νοημοσύνης. Η προκατάληψη ελέγχεται, η ευθύνη παραμένει στον ειδικό και η χρήση είναι διαφανής εντός του οργανισμού.
Εργασία εφαρμογής
Σχεδιάστε μια σύντομη «Πολιτική χρήσης AI» για τη δική σας υπηρεσία καθοδήγησης. Ξεκινήστε με το πρότυπο «Πρόχειρο πολιτικής χρήσης τεχνητής νοημοσύνης για επιχειρήσεις». Στη συνέχεια, προσαρμόστε το σύμφωνα με την πραγματικότητα του δικού σας ιδρύματος. Περάστε επίσης ένα (φανταστικό) κείμενο μέσω του προτύπου "έλεγχος ανωνυμοποίησης" και καταγράψτε και γενικεύστε τουλάχιστον ένα έμμεσο αναγνωριστικό.
λίστα ελέγχου
- [ ] Έχω ταξινομήσει τα δεδομένα που έχω ως προσωπικά / ιδιωτικά / δημόσια.
- [ ] Έχω γενικεύσει άμεσα και έμμεσα αναγνωριστικά στην ανωνυμοποίηση.
- [ ] Χρησιμοποίησα ασφαλές/επιχειρηματικό εργαλείο για ευαίσθητα δεδομένα.
- [ ] Έλεγξα το αποτέλεσμα για μεροληψία και πολιτισμική ευαισθησία.
- [ ] Αποδέχτηκα την ευθύνη και διατήρησα τη χρήση διαφανή.