Κέρδη:
- Ικανότητα κατανόησης και εφαρμογής του γεγονότος ότι τα δεδομένα του παιδιού είναι ειδικά δεδομένα και ότι πρέπει να είναι ανώνυμα εντός του πεδίου εφαρμογής του KVKK και του απορρήτου και απαιτείται συγκατάθεση της οικογένειας.
- Δυνατότητα αξιολόγησης εργαλείων τεχνητής νοημοσύνης ως προς την ασφάλεια δεδομένων, αποθήκευση και χρήση στην εκπαίδευση μοντέλων και επιλογή του ασφαλούς
- Ικανότητα διατήρησης ηθικών ορίων όπως η διαγνωστική εξουσία, το στίγμα, οι διακρίσεις και το βέλτιστο συμφέρον του παιδιού στη ροή εργασίας
Το αναπτυξιακό αρχείο ενός παιδιού περιέχει τις πιο προσωπικές πληροφορίες αυτού του παιδιού: αναπτυξιακό ιστορικό, οικογενειακή κατάσταση, αποτελέσματα προσυμπτωματικού ελέγχου, παρατηρήσεις και μερικές φορές ιατρικές πληροφορίες. Όταν αυτές οι πληροφορίες πέφτουν σε λάθος χέρια ή χρησιμοποιούνται κατά λάθος, μπορεί να βλάψουν το παιδί για τα επόμενα χρόνια: μια ταμπέλα, ένα στίγμα, μια διάκριση. Ως εκ τούτου, η προστασία των δεδομένων των παιδιών είναι μια από τις πιο σοβαρές ευθύνες του ειδικού της παιδικής ανάπτυξης. Στην εποχή της τεχνητής νοημοσύνης, αυτή η ευθύνη πολλαπλασιάζεται, γιατί η επικόλληση δεδομένων σε ένα εργαλείο διαρκεί δευτερόλεπτα και δεν μπορεί να αναιρεθεί. Σε αυτήν την ενότητα, θα καλύψουμε το νομικό καθεστώς των δεδομένων παιδιών, την αξιολόγηση των εργαλείων τεχνητής νοημοσύνης όσον αφορά το απόρρητο και τα ηθικά όρια.
Πρώτον, η νομική βάση: Στην Τουρκία, ο KVKK (Νόμος για την Προστασία Δεδομένων Προσωπικού Χαρακτήρα) ρυθμίζει την επεξεργασία δεδομένων προσωπικού χαρακτήρα. Τα δεδομένα υγείας και ανάπτυξης του παιδιού ανήκουν στην κατηγορία των ειδικών προσωπικών δεδομένων. Αυτή η κατηγορία υπόκειται στο υψηλότερο επίπεδο προστασίας. Στην Ευρώπη, το αντίστοιχο είναι το GDPR. Στην περίπτωση ενός παιδιού, η ευαισθησία είναι ακόμη μεγαλύτερη, επειδή το παιδί δεν μπορεί να δώσει έγκυρη συγκατάθεση για τα δικά του δεδομένα. Η συγκατάθεση (ενημερωμένη ρητή συναίνεση) λαμβάνεται από τον νόμιμο εκπρόσωπο, δηλαδή την οικογένεια. Σε κάθε απόφαση κυριαρχεί η αρχή του «καλού συμφέροντος του παιδιού».
Ανωνυμοποίηση: το πιο βασικό και ισχυρό βήμα
Το πιο βασικό, πιο πρακτικό βήμα που προστατεύει το απόρρητο όταν εργάζεστε με τεχνητή νοημοσύνη είναι η ανωνυμοποίηση: η αφαίρεση όλων των πληροφοριών αποκάλυψης ταυτότητας (όνομα, επώνυμο, αριθμός TR ID, ημερομηνία γέννησης, όνομα σχολείου/ιδρύματος, διεύθυνση, αριθμός πρωτοκόλλου/αρχείου, ονόματα οικογένειας) από τα δεδομένα και χρήση μόνο των μη αναγνωρισμένων πληροφοριών που είναι απαραίτητες για την εργασία σας. Γράφοντας «3 χρονών και 2 μηνών κοριτσάκι» αντί για «Ελίφ Καγιά, 3 ετών και 2 μηνών, νηπιαγωγείο Papatya» κάνει τη δουλειά των δεδομένων αλλά διατηρεί την ταυτότητα.
Μια λέξη προσοχής: η ταυτότητα μπορεί να αναδυθεί ξανά όταν συνδυάζονται πολλές μικρές λεπτομέρειες (αυτό ονομάζεται επαναπροσδιορισμός). Για παράδειγμα, λεπτομέρειες όπως "Το μόνο δίδυμο στο χωριό Χ, ο πατέρας του είναι ο αρχηγός" μπορούν να ταυτοποιήσουν το άτομο ακόμα κι αν δεν υπάρχει όνομα. Επομένως, είναι απαραίτητο όχι μόνο να διαγράψετε το όνομα αλλά και να γενικεύσετε τις λεπτομέρειες που το κάνουν μοναδικό.
Ακατέργαστο (δεν μπορεί να κοινοποιηθεί)
Ανώνυμος (με δυνατότητα κοινής χρήσης)
Elif Kaya, TC 123..., γενν. 12.03.2022.
Κοριτσάκι 3 ετών 2 μηνών
Νηπιαγωγείο Papatya, 3-Α τάξη
προσχολικό ίδρυμα
Η μητέρα του είναι η Ayşe και ο πατέρας του ο Mukhtar.
γονείς
Αριθμός φακέλου 2024/187
(καταργήθηκε)
Προσοχή: Η μεταφόρτωση στοιχείων ταυτότητας, πλήρους αναφοράς ή φωτογραφίας του παιδιού σε ένα δημοσίως διαθέσιμο εργαλείο τεχνητής νοημοσύνης αποτελεί παραβίαση του KVKK και του απορρήτου και δεν μπορεί να αποσυρθεί. Τα δεδομένα πηγαίνουν σε έναν εξωτερικό διακομιστή και ορισμένα εργαλεία μπορούν να τα χρησιμοποιήσουν για εκπαίδευση μοντέλων. Ανωνυμοποιείτε πάντα πριν από τη μεταφόρτωση.
Επιλογή εργαλείου και κύκλος ζωής δεδομένων
Δεν έχουν όλα τα εργαλεία τεχνητής νοημοσύνης το ίδιο επίπεδο απορρήτου. Κατά την αξιολόγηση ενός εργαλείου, ρωτήστε: Χρησιμοποιεί την αποτελεσματικότητα στην εκπαίδευση του μοντέλου; Πού αποθηκεύει δεδομένα και για πόσο καιρό; Προσφέρει συμφωνία επεξεργασίας δεδομένων (για εταιρική χρήση); Πού είναι οι διακομιστές τους; Εταιρικά εργαλεία, εργαλεία με σύμβαση και εκπαίδευση που δεν χρησιμοποιούν τα δεδομένα σας είναι πιο ασφαλή από τα δημόσια διαθέσιμα δωρεάν εργαλεία. Ωστόσο, ακόμη και στο πιο ασφαλές εργαλείο, μην μοιράζεστε περιττά διαπιστευτήρια — η ανωνυμοποίηση είναι η πρώτη άμυνα σε όλες τις περιστάσεις.
Εξετάστε τον κύκλο ζωής των δεδομένων: συλλογή δεδομένων (επικύρωση), επεξεργασία (όπως απαιτείται), αποθήκευση (ασφαλής, χρονισμένη), κοινή χρήση (μόνο εξουσιοδοτημένη, ανώνυμη) και διαγραφή (όταν ολοκληρωθεί). Οτιδήποτε κολλήσετε στα εργαλεία AI διατρέχει τον κίνδυνο να πέσει έξω από αυτόν τον βρόχο.
Συμβουλή: Βάλτε έναν σκληρό κανόνα στην κορυφή των αγαπημένων σας προτροπών: «Δεν θα κοινοποιήσω καμία πληροφορία που προσδιορίζει το παιδί ή την οικογένεια σε αυτήν τη συνομιλία». Κάνοντας αυτό το αντανακλαστικό ελέγχου αποτρέπεται η πιο συνηθισμένη παραβίαση (ασυνείδητη επικόλληση αναγνωριστικού).
Ηθικά όρια: διάγνωση, στίγμα, διάκριση
Το απόρρητο είναι ένα τεχνικό ζήτημα, αλλά η ηθική είναι ευρύτερη. Τρία όρια είναι κρίσιμα. Διαγνωστική αρχή: ο ειδικός στην ανάπτυξη του παιδιού διενεργεί προσυμπτωματικό έλεγχο και αξιολόγηση της ανάπτυξης. Η οριστική διάγνωση είναι δουλειά του αρμόδιου ιατρού/κλινικής ομάδας. Η τεχνητή νοημοσύνη δεν γνωρίζει αυτό το όριο. θα προστατέψεις. Στίγμα: το να μαρκάρεις ένα παιδί με μια πρώιμη και μόνιμη ταμπέλα (στο αρχείο, στην οικογένεια, στο δικό σου μυαλό) είναι άδικο για το παιδί και μπορεί να επηρεάσει αρνητικά την ανάπτυξή του. Διακρίσεις και μεροληψία: Η τεχνητή νοημοσύνη μπορεί να αντανακλά προκαταλήψεις στα δεδομένα εκπαίδευσης. Μπορεί να παράγει μεροληπτικά αποτελέσματα σχετικά με μια συγκεκριμένη κουλτούρα, φύλο ή κοινωνικοοικονομική ομάδα. Ο ειδικός θα πρέπει να τα παρατηρήσει και να τα διορθώσει. Πάνω από όλα αυτά βρίσκεται η αρχή του βέλτιστου συμφέροντος του παιδιού: είναι κάθε απόφαση για το καλό του παιδιού;
Τέσσερα μηνύματα με δυνατότητα αντιγραφής
1) Προτροπή ανωνυμοποίησης:
Θα σου δώσω ένα κείμενο. Αφαιρέστε τυχόν πληροφορίες που μπορεί να αποκαλύπτουν την ταυτότητα του παιδιού ή της οικογένειας (όνομα, επώνυμο, TR ID, ημερομηνία γέννησης, σχολείο/ίδρυμα, διεύθυνση, αριθμός αρχείου, μοναδικά στοιχεία)· αντικαταστήστε με γενική έκφραση([κορίτσι], [προσχολικό ίδρυμα]). Γενικεύστε όχι μόνο το όνομα, αλλά και μοναδικές λεπτομέρειες που μπορεί να προσδιορίσουν το άτομο. Καταγράψτε τι αφαιρέσατε. Κείμενο: [ακατέργαστο]
2) Προτροπή αξιολόγησης απορρήτου οχήματος:
Δώστε μου μια λίστα ελέγχου ερωτήσεων απορρήτου που πρέπει να κάνω για να αποφασίσω αν μπορώ να χρησιμοποιήσω ένα εργαλείο τεχνητής νοημοσύνης με δεδομένα παιδιών (είναι τα δεδομένα που χρησιμοποιούνται στην εκπαίδευση, τη διατήρηση, τη σύμβαση, την τοποθεσία διακομιστή, τη διαγραφή). Μην επινοείτε τις απαντήσεις. απλά απαριθμήστε τις ερωτήσεις.
3) Προτροπή ηθικής/ορίου ελέγχου εξουσίας:
Ελέγξτε δεοντολογικά το ακόλουθο κείμενο: (1) κάνει/υποδηλώνει διάγνωση; (2) υπάρχει κάποια στιγματιστική ετικέτα; (3) υπάρχουν πολιτισμικές/φύλο/κοινωνικοοικονομικές προκαταλήψεις; Επισημάνετε κάθε πρόβλημα και προτείνετε μια διορθωμένη, προσεκτική εναλλακτική. Κείμενο: [πρόχειρο]
4) Προτροπή κειμένου για πληροφορίες συγκατάθεσης οικογένειας:
Σχεδιάστε ένα σύντομο κείμενο ΕΙΔΟΠΟΙΗΣΗΣ/ΣΥΝΑΙΝΗΣΗΣ προς την οικογένεια που απλώς εξηγεί πώς θα χρησιμοποιήσω και θα προστατεύσω τα δεδομένα του παιδιού. Περιλαμβάνει: ποια δεδομένα, για ποιο σκοπό, πώς προστατεύονται, με ποιους κοινοποιούνται, δικαίωμα υπαναχώρησης. Παροχή νομικών συμβουλών. Σημειώστε ότι είναι προσχέδιο και πρέπει να εγκριθεί από το ίδρυμα.
τρεις μίνι θήκες
Περίπτωση 1 — Παραβίαση μεταφόρτωσης ταυτότητας. Σε μια κουραστική μέρα, ένας ειδικός επικολλά την αναφορά ανάπτυξης ενός παιδιού, με πλήρες όνομα και ταυτότητα, σε ένα δημόσιο εργαλείο και λέει "συνοψίστε". Τα δεδομένα έφυγαν από το ίδρυμα και η συγκατάθεση της οικογένειας δεν ελήφθη. Ο σωστός τρόπος ήταν να ανωνυμοποιήσουμε τα δεδομένα με την 1η προτροπή και να χρησιμοποιήσουμε μόνο ανώνυμες πληροφορίες σε ένα ασφαλές εργαλείο. Αυτή η παραβίαση είναι τόσο νομικό όσο και ηθικό ζήτημα και δεν μπορεί να ανατραπεί.
Περίπτωση 2 — Επαναυτοποίηση. Ένας ειδικός διαγράφει το όνομα αλλά αφήνει τη λεπτομέρεια «η μόνη τρίδυμη στο χωριό, ο πατέρας του είναι ιμάμης». Αυτή η λεπτομέρεια προσδιορίζει το παιδί ακόμη και χωρίς όνομα. Ο ειδικός εμβαθύνει την ανωνυμοποίηση για να γενικεύσει μοναδικές λεπτομέρειες: «ένα παιδί πολύδυμης εγκυμοσύνης που ζει σε μια αγροτική περιοχή». Η ταυτότητα προστατεύεται πλέον.
Περίπτωση 3 — Διόρθωση μεροληψίας. Η τεχνητή νοημοσύνη παράγει μια προκατειλημμένη υπόθεση που εμφαίνεται στο περιεχόμενο σχετικά με μια οικογένεια χαμηλού εισοδήματος, όπως «η συμμετοχή είναι συχνά ανεπαρκής σε αυτές τις οικογένειες». Ο ειδικός το πιάνει αυτό με την 3η προτροπή. βρίσκει τη δήλωση αβάσιμη, στιγματιστική και μεροληπτική και την αφαιρεί. Ξαναγράφει το περιεχόμενο σε μια γλώσσα που βλέπει κάθε οικογένεια ως ίση και σεβαστή.
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Επικολλώ την πλήρη αναφορά της Elif εδώ, αξιολογώ και προτείνω μια διάγνωση.
Πρόβλημα: κοινοποιούνται πληροφορίες ταυτότητας (παραβίαση KVKK), ζητείται διάγνωση (υπέρβαση εξουσιοδότησης), δεν υπάρχει συναίνεση, δεν αμφισβητείται το ασφαλές όχημα.
Ισχυρή προτροπή:
Επεξεργαστείτε την ακόλουθη ΑΝΩΝΥΜΗ σύνοψη ανάπτυξης (καταργήθηκαν οι πληροφορίες αναγνώρισης) για το ΣΧΕΔΙΟ αξιολόγησης. Κάνοντας μια διάγνωση? χρήση στιγματιστικών ετικετών· Αποφύγετε την προκατειλημμένη υπόθεση. Σημειώστε [αφήστε έναν ειδικό να αξιολογήσει] όπου δεν είστε σίγουροι. Περίληψη: [ανώνυμος]
Συνήθη λάθη
- Μεταφόρτωση διαπιστευτηρίων: Η πιο συνηθισμένη και πιο σοβαρή παραβίαση. πάντα ανώνυμα.
- Επιφανειακή ανωνυμοποίηση: Δεν αρκεί απλώς η διαγραφή του ονόματος. γενικεύει επίσης μοναδικές λεπτομέρειες.
- Δεν αμφισβητείται το απόρρητο του εργαλείου: Αποφύγετε εργαλεία που χρησιμοποιούν τα δεδομένα σας για εκπαίδευση.
- Διέλευση του διαγνωστικού ορίου: Η αξιολόγηση δεν είναι διάγνωση. Η εξουσία ανήκει στον γιατρό/την ομάδα.
- Μη αναγνώριση μεροληψίας: Διορθώστε υποθέσεις στιγματισμού/μεροληπτικής τεχνητής νοημοσύνης.
Συνοπτικά
Τα δεδομένα παιδιού είναι ειδικά προσωπικά δεδομένα. Απαιτεί την υψηλότερη προστασία εντός του πεδίου εφαρμογής του KVKK και η εμπιστευτικότητα και η συγκατάθεση λαμβάνονται από την οικογένεια. Η ισχυρότερη άμυνα όταν εργάζεστε με τεχνητή νοημοσύνη είναι η ανωνυμοποίηση — γενικεύστε όχι μόνο το όνομα, αλλά και μοναδικές λεπτομέρειες που μπορεί να προσδιορίσουν το άτομο. Αξιολόγηση εργαλείων για το απόρρητο. Επιλέξτε το ασφαλές που δεν χρησιμοποιεί τα δεδομένα σας στην προπόνηση. Διατηρήστε τα ηθικά όρια (διαγνωστική εξουσία, στίγμα, διακρίσεις/προκατάληψη) και λάβετε υπόψη το βέλτιστο συμφέρον του παιδιού σε κάθε απόφαση.
Εργασία εφαρμογής
Πάρτε μια μη ανωνυμοποιημένη (αυθεντική, από τα δικά σας αρχεία) σημείωση προόδου. Χωρίς να το αντικατοπτρίζετε στην οθόνη, ανωνυμοποιήστε το χειροκίνητα χρησιμοποιώντας τη λογική της 1ης προτροπής και καταχωρίστε όλες τις πληροφορίες που έχετε εξαγάγει. Αξιολογήστε ένα εργαλείο τεχνητής νοημοσύνης που χρησιμοποιείτε ως προς το απόρρητο με τη 2η προτροπή. Ελέγξτε ένα προσχέδιο για ηθική/προκατάληψη με την προτροπή 3. Σημειώστε τουλάχιστον τρεις διορθώσεις που κάνατε (μία ανωνυμοποίηση, μία δεοντολογία, μία μεροληψία).
λίστα ελέγχου
- [ ] Ανωνυμοποίησα τα δεδομένα. Επίσης γενίκευσα μοναδικές λεπτομέρειες.
- [ ] Αξιολόγησα το εργαλείο που χρησιμοποίησα όσον αφορά το απόρρητο. Διάλεξα το ασφαλές.
- [ ] Πήρα συγκατάθεση της οικογένειας όταν ήταν απαραίτητο.
- [ ] Διατήρησα το όριο της διαγνωστικής αρχής. Εφάρμοσα τη διάκριση αξιολόγησης-διάγνωσης.
- [ ] Αφαίρεσα ετικέτες στιγματισμού και μεροληπτικές/προκατειλημμένες εκφράσεις.
- [ ] Θεώρησα το καλύτερο συμφέρον του παιδιού σε κάθε απόφαση.
- [ ] Δεν έχω ανεβάσει τα διαπιστευτήρια σε κανένα όχημα.