Κέρδη:
- Δυνατότητα δημιουργίας στοιχείων ενός πλαισίου διακυβέρνησης AI που εξισορροπεί την ταχύτητα, την ασφάλεια και τη συνέπεια
- Δυνατότητα σχεδιασμού πολυλειτουργικής πλακέτας AI και απλών, εφαρμόσιμων βασικών πολιτικών (αποδεκτή χρήση, δεδομένα, κίνδυνος)
- Δυνατότητα επιπέδων έγκρισης σύμφωνα με το επίπεδο κινδύνου και διατήρηση της διακυβέρνησης στο πεδίο με απογραφή συστήματος και τακτικό έλεγχο
Στρατηγική, περίπτωση χρήσης, απόδοση επένδυσης (ROI) και κίνδυνος. Είναι όλοι δυνατοί, αλλά μόνοι τους είναι ακατάστατοι. Αυτό που τις συγκρατεί, τις κάνει επαναλαμβανόμενες και δίνει εμπιστοσύνη στον θεσμό είναι η διακυβέρνηση (διακυβέρνηση· το πλαίσιο που καθορίζει ποιος θα λάβει αποφάσεις, με ποιους κανόνες και με ποιον έλεγχο). Η διακυβέρνηση είναι η μόνιμη απάντηση στο «πώς κάνουμε την τεχνητή νοημοσύνη υπεύθυνα σε αυτήν την επιχείρηση;» Σε αυτή την ενότητα, θα μάθετε πώς να καθιερώνετε διακυβέρνηση AI, γραπτές πολιτικές και δομή του συμβουλίου λήψης αποφάσεων. Ο στόχος δεν είναι να δημιουργηθεί γραφειοκρατία. Για να διασφαλιστεί η ασφαλής και επαναλαμβανόμενη λειτουργία χωρίς επιβράδυνση της ταχύτητας.
Γιατί είναι απαραίτητη η διακυβέρνηση;
Σε έναν οργανισμό χωρίς διακυβέρνηση, κάθε ομάδα διαμορφώνει τους δικούς της κανόνες: κάποιος επικολλά δεδομένα πελατών σε ένα δημόσιο εργαλείο, κάποιος βάζει ένα μη πιστοποιημένο μοντέλο στην παραγωγή, κανείς δεν κάνει καμία αξιολόγηση κινδύνου. Όταν προκύπτουν προβλήματα, "ποιος το ενέκρινε;" Δεν υπάρχει απάντηση στο ερώτημα. Η διακυβέρνηση καλύπτει αυτό το κενό: ποιος αποφασίζει, ποιοι κανόνες ισχύουν, ποιος παρακολουθεί και ποιος λογοδοτεί όταν προκύπτουν προβλήματα.
Η χρηστή διακυβέρνηση εξισορροπεί τρία πράγματα: ταχύτητα (όχι ασφυκτική πρωτοβουλία), ασφάλεια (έλεγχος του κινδύνου) και συνέπεια (όλοι παίζουν με τους ίδιους κανόνες). Η υπερβολική διακυβέρνηση σκοτώνει την ταχύτητα. Η ατελής διακυβέρνηση σκοτώνει την εμπιστοσύνη. Η ισορροπία είναι τέχνη.
Συμβουλή: Κατά τη ρύθμιση της διακυβέρνησης, δημιουργήστε επίπεδα με βάση το επίπεδο κινδύνου, από την "πιο αργή, ασφαλέστερη διαδρομή" στην "γρηγορότερη, πιο επικίνδυνη διαδρομή". Οι εργασίες χαμηλού κινδύνου πρέπει να ρέουν γρήγορα. Μόνο οι εργασίες υψηλού κινδύνου πρέπει να υποβάλλονται σε αυστηρή έγκριση. Η εφαρμογή της ίδιας επαχθούς διαδικασίας για όλους κάνει τη διακυβέρνηση να ανακηρύσσεται εχθρός.
Συστατικά της διακυβέρνησης
συστατικό
Τι κάνει;
παράδειγμα
πίνακα τεχνητής νοημοσύνης
Στρατηγική απόφαση, προτεραιότητα, έγκριση
Μηνιαία συνεδρίαση, έγκριση υψηλού κινδύνου
Σύνολο πολιτικής/αρχών
γραπτούς κανόνες
Αποδεκτή χρήση, δεδομένα, προμηθευτής
Ρόλοι και ιδιοκτησία
Ποιος είναι υπεύθυνος για τι
Ιδιοκτήτης επιχείρησης για κάθε τομέα χρήσης
Διαδικασία κινδύνου και έγκρισης
Πώς να ξεκινήσετε
Επίπεδο έγκρισης με βάση το επίπεδο κινδύνου
Παρακολούθηση και έλεγχος
Συνεχής έλεγχος
Παρακολούθηση ολίσθησης, περιοδικός έλεγχος
Εγγραφή/απογραφή
Τι λειτουργεί πού
Απογραφή συστήματος τεχνητής νοημοσύνης
Το συμβούλιο τεχνητής νοημοσύνης (συμβούλιο AI / διευθύνουσα επιτροπή) είναι το όργανο που αποτελείται από υψηλού επιπέδου εκπροσώπους διαφορετικών λειτουργιών (επιχειρήσεις, τεχνολογία, νόμος, κίνδυνος, δεδομένα), δίνοντας στρατηγική κατεύθυνση και εγκρίνοντας πρωτοβουλίες υψηλού κινδύνου. Το συμβούλιο δεν διαχειρίζεται έργα. θέτει το πλαίσιο και παίρνει κρίσιμες αποφάσεις.
Βασικές πολιτικές
Κάθε οργανισμός χρειάζεται τουλάχιστον αυτές τις πολιτικές:
- Πολιτική αποδεκτής χρήσης: Ποια εργαλεία τεχνητής νοημοσύνης μπορούν να χρησιμοποιήσουν οι εργαζόμενοι, με ποια δεδομένα και για ποιο σκοπό; (Π.χ.: "Μην εισάγετε προσωπικά δεδομένα πελάτη σε μη εξουσιοδοτημένο εξωτερικό εργαλείο.")
- Δεδομένα και πολιτική απορρήτου: Ποια δεδομένα, πού και πώς υφίστανται επεξεργασία; Πώς να διασφαλίσετε τη συμμόρφωση με το KVKK;
- Πολιτική κινδύνου και έγκρισης: Ποιες αξιολογήσεις πραγματοποιεί μια startup πριν μπει στην παραγωγή;
- Προμηθευτής/Πολιτική αγορών: Με ποια κριτήρια επιλέγονται οι εξωτερικοί πάροχοι τεχνητής νοημοσύνης; (Μονάδα 11)
- Πολιτική διαφάνειας: Πότε ειδοποιείται ο πελάτης/εργαζόμενος ότι χρησιμοποιείται τεχνητή νοημοσύνη;
Βήμα προς βήμα: εγκαθίδρυση διακυβέρνησης
1. Δημιουργήστε τον πίνακα. Εκπρόσωπος από επιχειρήσεις, τεχνολογία, νομικά θέματα, κινδύνους και δεδομένα. ξεκάθαρη εξουσία και ρυθμός συνάντησης.
2. Γράψτε βασικές πολιτικές. Γράψτε τις παραπάνω πέντε πολιτικές απλά και εφαρμόσιμες. Δεν είναι μυθιστόρημα, είναι κανόνας.
3. Καθιερώστε μια ροή έγκρισης βάσει κινδύνου. Χαμηλού κινδύνου γρήγορη, υψηλού κινδύνου βαριά έγκριση.
4. Διατηρήστε απόθεμα. Ποιο σύστημα τεχνητής νοημοσύνης βρίσκεται πού, ποιος είναι υπεύθυνος, σε ποιο επίπεδο κινδύνου.
5. Να θεσμοθετηθεί η παρακολούθηση και ο έλεγχος. Περιοδική αναθεώρηση, μετατόπιση και έλεγχος συμμόρφωσης.
τρεις μίνι θήκες
Περίπτωση 1 — Διαρροή χωρίς πολιτική. Σε ένα δικηγορικό γραφείο, οι δικηγόροι είχαν εμπιστευτικά έγγραφα υποθέσεων που συνοψίζονται από ένα δημοσίως διαθέσιμο εργαλείο τεχνητής νοημοσύνης. Αυτό θεωρήθηκε φυσιολογικό επειδή δεν υπήρχε αποδεκτή πολιτική χρήσης. Όταν ένας πελάτης το έμαθε αυτό, υπήρξε κρίση εμπιστοσύνης. Η εταιρεία έγραψε αμέσως πολιτική, παρείχε ένα εργαλείο για την επιχείρηση (ασφάλεια δεδομένων) και παρείχε εκπαίδευση. Αν η πολιτική ήταν από την αρχή, η κρίση δεν θα είχε συμβεί.
Περίπτωση 2 — Υπόλοιπο του πίνακα. Ένας κατασκευαστής κατασκεύασε την πλακέτα AI του αποκλειστικά από την ομάδα τεχνολογίας του. Το διοικητικό συμβούλιο έδωσε εγκρίσεις που ήταν τεχνικά λαμπρές αλλά είχαν νομική και ηθική τύφλωση. Όταν στο διοικητικό συμβούλιο προστέθηκε ένας νόμιμος εκπρόσωπος και εκπρόσωπος κινδύνου, ανακαλύφθηκε ένα σοβαρό πρόβλημα συμμόρφωσης προτού μπει στην παραγωγή μια επιχείρηση υψηλού κινδύνου. Η διαφορετικότητα ήταν το όραμα του διοικητικού συμβουλίου.
Περίπτωση 3 — Αποπνικτική ορμή διακυβέρνησης. Σε μια τράπεζα, κάθε ιδέα τεχνητής νοημοσύνης, ακόμη και μια ιδέα χαμηλού κινδύνου, περνούσε από μια αυστηρή διαδικασία έγκρισης 6 εβδομάδων. Ομάδες άρχισαν να αποφεύγουν τη διαδικασία και να χρησιμοποιούν οχήματα «σκιάς». Η τράπεζα στρωματοποίησε την έγκριση ανά επίπεδο κινδύνου: θέσεις εργασίας χαμηλού κινδύνου σε 3 ημέρες, υψηλού κινδύνου μέσω της πλήρους διαδικασίας. Επιστράφηκαν τόσο η ταχύτητα όσο και ο έλεγχος. Η χρήση σκιών μειώθηκε.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Σχέδιο σύστασης συμβουλίου:
Ο ρόλος σας: σύμβουλος διακυβέρνησης AI. Πρότεινε μας ένα σχέδιο ενός συμβουλίου τεχνητής νοημοσύνης: πόσα μέλη από ποιες λειτουργίες, τις εξουσίες του συμβουλίου, τη συχνότητα των συνεδριάσεων, ποιες αποφάσεις εγκρίνει, ποιες αφήνει στις ομάδες. Αποφύγετε την υπερβολική γραφειοκρατία. Προτείνετε μια ισορροπία που θα διατηρήσει την ταχύτητα.
2) Σχέδιο αποδεκτής πολιτικής χρήσης:
[Βιομηχανία] συντάσσει μια απλή, εφαρμόσιμη «πολιτική αποδεκτής χρήσης AI» για έναν οργανισμό: ποια εργαλεία μπορούν να χρησιμοποιηθούν, με ποια δεδομένα, για τι. τι απαγορεύεται αυστηρά? Τι γίνεται σε περίπτωση παράβασης; Γράψτε στοιχείο προς στοιχείο, σε κατανοητή γλώσσα.
3) Ροή έγκρισης βάσει κινδύνου:
Σχεδιάστε μας μια πολυεπίπεδη ροή έγκρισης τεχνητής νοημοσύνης με βάση το επίπεδο κινδύνου: ποια βήματα, ποιανού η έγκριση, πόσο καιρό, ξεχωριστά για χαμηλό/μεσαίο/υψηλό κίνδυνο. Βεβαιωθείτε ότι οι εργασίες χαμηλού κινδύνου ρέουν γρήγορα και ότι οι εργασίες υψηλού κινδύνου περνούν από αυστηρή επιθεώρηση.
4) Πρότυπο αποθέματος AI:
Σχεδιάστε ένα πρότυπο αποθέματος για την καταγραφή συστημάτων τεχνητής νοημοσύνης στον οργανισμό: όνομα συστήματος, προβλεπόμενη χρήση, ιδιοκτήτης επιχείρησης, επίπεδο κινδύνου, δεδομένα που χρησιμοποιούνται, προμηθευτής, ημερομηνία τελευταίας ελέγχου. Εξηγήστε συνοπτικά γιατί είναι απαραίτητο κάθε πεδίο.
Αδύναμη προτροπή / Ισχυρή προτροπή
Αδύναμο: "Γράψτε μας μια πολιτική AI."
Αποτέλεσμα: Ένα κείμενο που είναι γενικό, δεν ταιριάζει στο ίδρυμα και είναι πολύ αφηρημένο για να εφαρμοστεί.
Güçlü: "Είμαστε μια εταιρεία τεχνολογίας υγείας 200 ατόμων, εργαζόμαστε με δεδομένα ασθενών και υπόκεινται στο KVKK. Σχεδιάστε μια απλή, εφαρμοστέα αποδεκτή πολιτική χρήσης σχετικά με τον τρόπο χρήσης των εργαλείων τεχνητής νοημοσύνης από τους εργαζόμενους: κανόνας δεδομένων ασθενών, εγκεκριμένα εργαλεία, απαγορεύσεις και συνέπειες παραβίασης. Γράψτε το ρήτρα προς ρήτρα και σε σαφή γλώσσα. Η ομάδα νομικής μας θα το υποθέσει."
Αποτέλεσμα: Ένα ισχύον προσχέδιο που ταιριάζει στο ίδρυμα, τον τομέα και τη νομοθεσία.
Συνήθη λάθη
- Καθόλου καθιέρωση διακυβέρνησης. Λέγοντας «θα δούμε αργότερα» σημαίνει τη σιωπηλή συσσώρευση κινδύνου.
- Υπερβολική γραφειοκρατία. Η εφαρμογή μεγάλης έγκρισης σε κάθε εργασία ωθεί τις ομάδες σε σκιώδη χρήση.
- Πλακέτα μονής λειτουργίας. Η τεχνολογία μόνη της ή ένα συμβούλιο με μόνο νομική εκπροσώπηση δημιουργεί τυφλά σημεία. η διαφορετικότητα είναι απαραίτητη.
- Να μην γράφω την πολιτική και να την βάζω στο γήπεδο. Η τοποθέτηση πολιτικής στο ράφι δεν παρέχει προστασία. Θα πρέπει να υποστηρίζεται με εκπαίδευση και εργαλεία.
- Μη τήρηση αποθέματος. Ένα ίδρυμα που δεν γνωρίζει σε τι εργάζεται δεν μπορεί να ξέρει τι να ελέγξει.
Προσοχή: Η τεχνητή νοημοσύνη μπορεί να δημιουργήσει ένα προσχέδιο πολιτικής ή συμβουλίου. Ωστόσο, αυτά τα σχέδια δεν πρέπει να τεθούν σε ισχύ χωρίς να προσαρμοστούν στην πραγματικότητα, τον τομέα και τη νομοθεσία του ιδρύματος και να αναθεωρηθούν από τις νομικές λειτουργίες και τις λειτουργίες κινδύνου. Μια πολιτική που παράγεται από την τεχνητή νοημοσύνη είναι ένα προσχέδιο για μια υπεύθυνη εταιρική απόφαση, όχι η ίδια.
Συνοπτικά
Η διακυβέρνηση είναι το πλαίσιο που καθιστά τη στρατηγική AI μόνιμη, επαναλαμβανόμενη και αξιόπιστη. εξισορροπεί την ταχύτητα, την ασφάλεια και τη συνέπεια. Τα βασικά του στοιχεία είναι μια πολυλειτουργική πλακέτα τεχνητής νοημοσύνης, απλές και εφαρμόσιμες πολιτικές, σαφείς ρόλοι, ροή έγκρισης βάσει κινδύνου, συνεχής παρακολούθηση και απογραφή συστήματος. Η υπερβολική ταχύτητα της γραφειοκρατίας και η ελλιπής διακυβέρνηση σκοτώνουν την εμπιστοσύνη. Η ισορροπία καταλήγει σε layering ανάλογα με το επίπεδο κινδύνου. Οι πολιτικές πρέπει να ζουν στο πεδίο με εκπαίδευση και εργαλεία, όχι στο ράφι. Στην επόμενη ενότητα, θα καλύψουμε τις αρχές της ηθικής και υπεύθυνης τεχνητής νοημοσύνης, που αποτελούν την ηθική βάση της διακυβέρνησης.
Εργασία εφαρμογής
Σχεδιάστε έναν πίνακα τεχνητής νοημοσύνης για τον οργανισμό σας: ποιος από ποιον λειτουργεί, με ποια εξουσία, σε ποιο ρυθμό. Στη συνέχεια, δημιουργήστε ένα σχέδιο αποδεκτής πολιτικής χρήσης με το πρότυπο 2 και προσαρμόστε μη αυτόματα τουλάχιστον τρεις ρήτρες σύμφωνα με τα πραγματικά δεδομένα/ρυθμιστικές συνθήκες του ιδρύματός σας. Τέλος, περιγράψτε τα τρία επίπεδα (χαμηλό/μεσαίο/υψηλό) μιας ροής έγκρισης βάσει κινδύνου σε μια πρόταση.
λίστα ελέγχου
- [ ] Σχεδίασα μια πολυλειτουργική δομή πλακέτας.
- [ ] Έχω συντάξει τουλάχιστον μία βασική πολιτική.
- [ ] Προσάρμοσα την πολιτική στη νομοθεσία και την πραγματικότητα δεδομένων του οργανισμού.
- [ ] Καθόρισα μια ροή έγκρισης κλιμακωτής βάσει κινδύνου.
- [ ] Έχω δημιουργήσει ένα πρότυπο αποθέματος συστήματος AI.
- [ ] Σχεδίασα τον ρυθμό παρακολούθησης και ελέγχου.
- [ ] Σκέφτηκα πώς να βάλω τις πολιτικές στο πεδίο (εκπαίδευση/εργαλείο).