Κέρδη:
- Δυνατότητα αξιολόγησης πληροφοριών σύμφωνα με την κατηγορία ευαισθησίας (δημόσιο / εσωτερικό / εμπιστευτικό / άκρως απόρρητο) και εφαρμογή του αντανακλαστικού «ρωτήστε την τάξη, αντιστοιχίστε το εργαλείο»
- Κατανόηση των κινδύνων αποθήκευσης δεδομένων, εκπαίδευσης μοντέλων, συλλογής και παραβίασης της τεχνητής νοημοσύνης και διατηρώντας τον ανοιχτό και ταξινομημένο κόσμο ξεχωριστό
- Δυνατότητα υιοθέτησης της αρχής των ελάχιστων δεδομένων, της προστασίας των προσωπικών δεδομένων και της πειθαρχίας προστασίας αβέβαιων πληροφοριών σαν να ήταν ανώτερης κατηγορίας.
Η διπλωματία βασίζεται στην εμπιστοσύνη και η εμπιστοσύνη στη μυστικότητα. Μια διαπραγματευτική θέση, μια εκτίμηση πληροφοριών, το περιεχόμενο μιας συνομιλίας με έναν συνομιλητή ή μια απόφαση που δεν έχει ακόμη ανακοινωθεί, σε λάθος χέρια, μπορεί να θέσει σε κίνδυνο τα συμφέροντα ενός κράτους, το αποτέλεσμα μιας διαπραγμάτευσης ή ακόμα και την ασφάλεια των ανθρώπων. Η τεχνητή νοημοσύνη φέρνει τεράστια ταχύτητα σε αυτόν τον τομέα, αλλά εγκυμονεί επίσης νέους και σοβαρούς κινδύνους για την προστασία της ιδιωτικής ζωής. Σε αυτή την ενότητα, θα μάθετε πώς να προστατεύετε διαβαθμισμένες και ευαίσθητες πληροφορίες στην εποχή της τεχνητής νοημοσύνης, ποια δεδομένα μπορούν να εισαχθούν σε ποιο όχημα και την πειθαρχία της ασφαλούς χρήσης.
Αυτή η μονάδα είναι το πιο κρίσιμο μάθημα ασφάλειας της μονάδας. Ένα λάθος εδώ — η επικόλληση ενός εμπιστευτικού εγγράφου σε λάθος εργαλείο — είναι μη αναστρέψιμο. Επομένως, ένα αντανακλαστικό που πρέπει να απομνημονευτεί θα δημιουργηθεί εδώ: Πριν δώσετε οποιαδήποτε δεδομένα σε ένα εργαλείο τεχνητής νοημοσύνης, ρωτήστε πάντα: σε ποια κατηγορία βρίσκονται αυτά τα δεδομένα και είναι εγκεκριμένο αυτό το εργαλείο για αυτήν την κατηγορία;
Ταξινόμηση πληροφοριών: βασική διάκριση
Οι διπλωματικές πληροφορίες συχνά ταξινομούνται ανάλογα με την ευαισθησία τους. Αν και διαφέρει από ίδρυμα σε ίδρυμα, η βασική λογική είναι η εξής:
- Μη διαβαθμισμένη/δημόσια: Πληροφορίες που έχουν ήδη δημοσιευτεί και είναι προσβάσιμες στο κοινό. Παράδειγμα: επίσημα δελτία τύπου, δημόσιες ειδήσεις.
- Περιορισμένες/εσωτερικές: Εσωτερικές πληροφορίες που δεν είναι δημόσια διαθέσιμες αλλά έχουν χαμηλή ευαισθησία.
- Εμπιστευτικό: Πληροφορίες των οποίων η αποκάλυψη θα μπορούσε να βλάψει σοβαρά τα συμφέροντα του κράτους. Παράδειγμα: θέση διαπραγμάτευσης, εσωτερική αξιολόγηση.
- Απόρρητο: Πληροφορίες των οποίων η αποκάλυψη θα προκαλούσε τη σοβαρότερη βλάβη. Παράδειγμα: ευαίσθητες πληροφορίες, κρίσιμες πληροφορίες ασφαλείας.
Ο εμπειρικός κανόνας είναι απλός: Καμία απόρρητη πληροφορία που δεν είναι δημόσια διαθέσιμη δεν θα εισαχθεί σε ένα εργαλείο τεχνητής νοημοσύνης που το ίδρυμά σας δεν έχει εγκρίνει για τη συγκεκριμένη κατηγορία. Μια δημόσια υπηρεσία τεχνητής νοημοσύνης, εξ ορισμού, δεν είναι πιστοποιημένη για αυτήν την κατηγορία πληροφοριών.
Συμβουλή: Εάν δεν είστε σίγουροι, αντιμετωπίστε τις πληροφορίες σαν ανώτερος. Το να πεις "αυτό είναι μάλλον ήδη γνωστό" είναι μια επικίνδυνη εικασία. Μέχρι να είστε 100 τοις εκατό σίγουροι ότι οι πληροφορίες είναι δημόσιες, προστατέψτε τις σαν να ήταν εμπιστευτικές. Η περιττή προσοχή δεν είναι κόστος, είναι διαβεβαίωση.
Κίνδυνοι απορρήτου της τεχνητής νοημοσύνης
Τα εργαλεία τεχνητής νοημοσύνης ενέχουν διαφορετικούς κινδύνους απορρήτου από το παραδοσιακό λογισμικό:
1. Επεξεργασία και αποθήκευση δεδομένων: Το κείμενο που γράφετε σε μια δημόσια υπηρεσία τεχνητής νοημοσύνης μπορεί να υποβληθεί σε επεξεργασία και να αποθηκευτεί στους διακομιστές αυτής της υπηρεσίας. Δεν μπορείτε να ελέγξετε ποιος έχει πρόσβαση, πόσο καιρό διατηρείται και πώς χρησιμοποιείται.
2. Χρήση στην εκπαίδευση μοντέλων: Ορισμένες υπηρεσίες ενδέχεται να χρησιμοποιούν τα δεδομένα που εισάγετε για να βελτιώσουν το μοντέλο. Αυτό δημιουργεί τον κίνδυνο οι εμπιστευτικές σας πληροφορίες να εισέλθουν έμμεσα στη "μνήμη" του μοντέλου και να διαρρεύσουν σε άλλους.
3. Κίνδυνος συγκέντρωσης: Κομμάτια πληροφοριών που φαίνονται ακίνδυνα μεμονωμένα μπορούν να σχηματίσουν μια ευαίσθητη εικόνα όταν συνδυάζονται. Μικρές πληροφορίες που εισάγονται σε διαφορετικές χρονικές στιγμές μπορούν συλλογικά να δώσουν μια μυστική θέση.
4. Κίνδυνος πρόσβασης και παραβίασης: Όπως κάθε εξωτερικό σύστημα, οι υπηρεσίες AI μπορεί να υπόκεινται σε παραβίαση δεδομένων. Τα δεδομένα που παρέχετε ενδέχεται να εκτεθούν σε αυτήν την παραβίαση.
Η λύση σε αυτούς τους κινδύνους είναι η δημιουργία δύο χωριστών κόσμων: γενικά εργαλεία για εργασία ανοιχτού κώδικα. Μόνο εσωτερικά, ασφαλή, εγκεκριμένα συστήματα που δεν εξάγουν δεδομένα για διαβαθμισμένη εργασία. Ποτέ μην ανακατεύετε τα δύο.
Προσοχή: Το να πείτε «το έκανα ανώνυμο» συχνά δεν αρκεί. Ακόμα κι αν διαγράψετε τα ονόματα, το πλαίσιο (ημερομηνία, τοποθεσία, εκδήλωση, αριθμός πάρτι) μπορεί να είναι αρκετό για έναν ειδικό να διορθώσει τις ταυτότητες και τη θέση του. Οι πραγματικές ευαίσθητες πληροφορίες προστατεύονται όχι με κάλυψη, αλλά με κατάλληλη επιλογή εργαλείων και μέσων.
Πειθαρχία ασφαλούς χρήσης
Ρυθμίστε μια πρακτική ροή ελέγχου:
- Προσδιορίστε την τάξη. Είναι αυτά τα δεδομένα δημόσια, εσωτερικά, εμπιστευτικά ή άκρως απόρρητα;
- Συνδυάστε το όχημα. Μπορεί να γίνει επεξεργασία αυτής της κλάσης σε αυτό το εργαλείο; Αν όχι, σταματήστε.
- Πολιτική ελάχιστων δεδομένων. Ακόμη και σε μια λειτουργική δουλειά, μην δίνετε περισσότερες πληροφορίες από αυτές που απαιτεί η εργασία.
- Προστατέψτε τα προσωπικά δεδομένα. Τα προσωπικά δεδομένα (όνομα, επαφή, τοποθεσία) υποβάλλονται σε επεξεργασία μόνο εάν είναι απαραίτητο και σε νομική βάση. Εάν δεν είναι απαραίτητο, καλύπτεται ή δεν δίνεται καθόλου.
- Κρατήστε το αρχείο. Τεκμηριώστε ποιο εργαλείο χρησιμοποιήσατε για ποια εργασία, με ποια δεδομένα. Εάν υπάρχει πρόβλημα, μπορεί να εντοπιστεί.
Συμβουλή: Καθιερώστε μια κουλτούρα «πρώτα το απόρρητο» στην ομάδα σας: ένας νέος υπάλληλος ή ασκούμενος θα πρέπει να μάθει το αντανακλαστικό «κανένα εμπιστευτικό έγγραφο δεν εισέρχεται στον δημόσιο τομέα» από την πρώτη μέρα. Οι περισσότερες παραβιάσεις δεν προέρχονται από κακία, αλλά από τη μη γνώση του πόσο ανοιχτό είναι ένα όχημα.
τρεις μίνι θήκες
Περίπτωση 1 — Η αντανακλαστική αποτροπή παραβίασης. Ένας ειδικός επρόκειτο να συνοψίσει ένα σημείωμα συνέντευξης όταν σταμάτησε και ρώτησε την ταξινόμησή του: το σημείωμα ήταν μια εμπιστευτική συνομιλία με έναν συνομιλητή. Μετάβαση σε ένα εσωτερικό ασφαλές σύστημα αντί για ένα δημόσιο εργαλείο. Ένα απλό αντανακλαστικό «ρωτήστε πρώτα την τάξη» απέτρεψε μια παραβίαση.
Περίπτωση 2 — Αναγνωρίστηκε ο κίνδυνος είσπραξης. Μια ομάδα θα εισαγάγει μικρά, φαινομενικά «αβλαβή» κομμάτια πληροφοριών σε ένα εξωτερικό εργαλείο σε διαφορετικές ημέρες. Μια ανασκόπηση ασφαλείας έδειξε ότι όταν συνδυαστούν, αυτά τα κομμάτια έδωσαν την ατζέντα μιας επερχόμενης διαπραγμάτευσης. Η εφαρμογή έχει διακοπεί. Το έργο μεταφέρθηκε σε ασφαλές περιβάλλον.
Περίπτωση 3 — Ψεύτικη ανωνυμία. Ένας υπάλληλος θεώρησε ένα έγγραφο "ανώνυμο" επειδή είχε διαγράψει ονόματα και το παρέδωσε στον εξωτερικό πράκτορα. Ωστόσο, η ημερομηνία, ο τόπος και η περιγραφή του συμβάντος στο έγγραφο κατέστησαν σαφές ποιος εννοούσε. Η διαγραφή του ονόματος δεν ήταν αρκετή. Το έγγραφο θα έπρεπε να έχει υποστεί επεξεργασία σε ασφαλές περιβάλλον ούτως ή άλλως.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Προέλεγχος κατηγορίας και οχήματος:
Θα περιγράψω το έργο παρακάτω. Πες μου (μην κάνεις τη δουλειά): (1) ποια κατηγορία ευαισθησίας μπορεί να έχουν αυτά τα δεδομένα (δημόσιο / εσωτερικό / μυστικό / άκρως απόρρητο), (2) εάν αυτή η κλάση υποβληθεί σε επεξεργασία σε ένα δημόσιο εργαλείο τεχνητής νοημοσύνης, (3) εάν όχι, ποιος τύπος περιβάλλοντος απαιτείται. Περιγραφή εργασίας/δεδομένων: [εδώ]
2) Σάρωση και κάλυψη προσωπικών δεδομένων:
Αναφέρετε τα προσωπικά/ευαίσθητα δεδομένα (όνομα, τίτλος, επαφή, τοποθεσία, υγεία, αριθμός ταυτότητας) που πρέπει να καλύπτονται πριν από την επεξεργασία στο παρακάτω κείμενο. ΕΠΕΞΕΡΓΑΣΙΑ ΤΟΥ ΚΕΙΜΕΝΟΥ. Απλώς πείτε μου ποιες περιοχές πρέπει να αφαιρεθούν. Θα κάνω το masking και θα ξαναστείλω. Κείμενο: [εδώ]
3) Εκτίμηση κινδύνου συλλογής:
Σκέφτομαι να εξάγω τις ακόλουθες πληροφορίες ξεχωριστά σε ένα εξωτερικό εργαλείο: [κομμάτια]. Παρόλο που αυτά μπορεί να φαίνονται αβλαβή μεμονωμένα, όταν ΣΥΝΔΥΑΣΤΑΙ μπορούν να δημιουργήσουν μια ευαίσθητη εικόνα (π.χ. θέση, ατζέντα, ταυτότητα); Αξιολογήστε τον κίνδυνο συλλογής και πείτε ποια είδη δεν πρέπει να δίνονται μαζί.
4) Επιβεβαίωση δημόσιας διαθεσιμότητας:
Δεν είμαι σίγουρος αν οι ακόλουθες πληροφορίες είναι δημόσιες: [πληροφορίες]. Αναφέρετε τι επαλήθευση πρέπει να κάνω πριν το κρίνω δημόσιο (υπάρχει επίσημη έκδοση, ποιος τη δημοσίευσε, ημερομηνία). Αν δεν είμαι σίγουρος, υπενθύμισέ μου την αρχή "μεταχείριση ως εμπιστευτικού".
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμη προτροπή:
Συνοψίστε αυτό το σημείωμα της συνέντευξης. (το κρυφό περιεχόμενο επικολλάται απευθείας στη σημείωση)
Αυτό είναι το πιο επικίνδυνο λάθος: ένα εμπιστευτικό έγγραφο εισήλθε σε δημόσιο μέσο χωρίς να αμφισβητηθεί η κατηγορία του. Ο κίνδυνος διαρροής έχει προκύψει και δεν μπορεί να αντιστραφεί.
Ισχυρή προτροπή (ελέγξτε πρώτα):
Θέλω να επεξεργαστώ ένα σημείωμα συνάντησης. Αλλά πρώτα: αυτό το σημείωμα είναι πιθανώς στη μυστική τάξη. Πείτε μου εάν αυτό το είδος εγγράφου μπορεί να υποβληθεί σε επεξεργασία σε ένα δημόσιο εργαλείο και ποιος είναι ο σωστός τρόπος; ΔΕΝ ΣΟΥ ΔΙΝΩ ΤΟ ΠΕΡΙΕΧΟΜΕΝΟ ΤΟΥ ΕΓΓΡΑΦΟΥ. Απλά ζητάω τη σωστή διαδικασία.
Η διαφορά είναι ξεκάθαρη: το εμπιστευτικό περιεχόμενο δεν δίνεται καθόλου, ζητείται πρώτα η σωστή διαδικασία και η εργασία κατευθύνεται στο κατάλληλο περιβάλλον.
Πίνακας χαρτογράφησης κατηγορίας σε όχημα
τάξη πληροφοριών
παράδειγμα
Δημόσιο AI
σωστό περιβάλλον
δημόσιο
δελτίο τύπου
κατάλληλος
γενικό εργαλείο
Ειδικό εσωτερικό/υπηρεσία
εσωτερική νότα
Συνήθως όχι
Εγκεκριμένο από το σπίτι
μυστικό
διαπραγματευτική θέση
ποτέ
Ασφαλές σύστημα ιδρυμάτων
άκρως μυστικό
ευαίσθητη νοημοσύνη
ποτέ
υψηλότερη ασφάλεια
προσωπικά δεδομένα
διαπιστευτήρια
Απαραίτητο+νόμιμο μόνο
Καλυμμένο/ασφαλισμένο
Συνήθη λάθη
- Εισαγωγή δεδομένων χωρίς να ζητηθεί η τάξη. Πριν από κάθε δουλειά, το αντανακλαστικό "σε ποια τάξη είναι αυτό;" είναι απαραίτητο.
- Υποθέτοντας ότι «είναι μάλλον προφανές». Αβέβαιες πληροφορίες προστατεύονται ως εμπιστευτικές.
- Λάθος η διαγραφή ονόματος ως ανωνυμοποίηση. Το πλαίσιο μπορεί να δώσει ταυτότητες.
- Αγνοώντας τον κίνδυνο συλλογής. Τα μικρά εξαρτήματα μπορεί να είναι ευαίσθητα όταν συναρμολογούνται.
- Ανάμειξη δύο κόσμων. Οι ανοιχτές και ταξινομημένες εργασίες εκτελούνται σε ξεχωριστά εργαλεία/περιβάλλοντα.
Συνοπτικά
Το απόρρητο είναι το πιο κρίσιμο όριο της διπλωματικής χρήσης τεχνητής νοημοσύνης. Λάβετε ως τη ραχοκοκαλιά αυτής της μονάδας την ταξινόμηση πληροφοριών (δημόσια/εσωτερική/εμπιστευτική/άκρως απόρρητη), το αντανακλαστικό «ρωτήστε την τάξη, ταιριάξτε όχημα», την αρχή ελάχιστων δεδομένων, την προστασία προσωπικών δεδομένων και τον κίνδυνο συλλογής. Γενικά εργαλεία για εργασία ανοιχτού κώδικα. Χρησιμοποιείτε μόνο εσωτερικά ασφαλή, εγκεκριμένα συστήματα για διαβαθμισμένες εργασίες. Ποτέ μην συγχέετε τα δύο. Σε περίπτωση αμφιβολίας, φυλάξτε τις πληροφορίες σαν ανώτερος.
Εργασία εφαρμογής
Καταγράψτε 8 διαφορετικά κομμάτια δεδομένων από το δικό σας (ή φανταστικό) γραφείο (κάποια δημόσια, μερικά ευαίσθητα). Τοποθετήστε το καθένα σε μια τάξη και αποφασίστε "σε ποιο εργαλείο μπορεί να γίνει επεξεργασία". Αξιολογήστε τα διφορούμενα με το πρότυπο "Προ-έλεγχος κατηγορίας και οχήματος". Επιλέξτε τρία κομμάτια και εξετάστε εάν σχηματίζουν μια ευαίσθητη εικόνα όταν συνδυάζονται με την «αξιολόγηση κινδύνου συλλογής».
λίστα ελέγχου
- [ ] Πρώτα καθόρισα την κατηγορία ευαισθησίας για κάθε δεδομένα.
- Δεν έχω καταχωρήσει ποτέ δεδομένα των οποίων η κλάση [ ] δεν είναι κατάλληλη για δημόσιο όχημα.
- [ ] Φύλαγα τις πληροφορίες για τις οποίες δεν ήμουν σίγουρος σαν ανώτερος.
- [ ] Επεξεργάζομαι προσωπικά δεδομένα μόνο όταν είναι απαραίτητο και νόμιμο, καλυμμένος.
- [ ] Πήρα το ρίσκο της συλλογής και του χωρισμού δύο κόσμων.