Μονάδες
1. Εισαγωγή στην Τεχνητή Νοημοσύνη στη Διαχείριση Συστημάτων και Δικτύων: Ρόλοι, Όρια, Έλεγχος ταυτότητας και Εξουσία 2. Σενάρια αυτοματισμού: Δημιουργία Bash, PowerShell και Python με ασφάλεια 3. Ανάλυση καταγραφής και ανάλυση ρίζας αιτίας: Εύρεση του σήματος στο θόρυβο 4. Παρακολούθηση ικανότητας και απόδοσης: Ανάγνωση μετρήσεων και προγραμματισμός για το μέλλον 5. Διαχείριση Διαμόρφωσης: Δημιουργία Διαμόρφωσης, Επικύρωση και Καταγραφή Drift 6. Διαχείριση Υποδομής ως Κώδικας (IaC): Terraform, Ansible και Plan Control 7. Διαχείριση τεκμηρίωσης και πληροφοριών: Runbook, Post-mortem και Corporate Memory 8. Προγνωστική Συντήρηση: Βλέποντας αποτυχίες πριν συμβούν 9. Διαχείριση αλλαγών: Παράθυρο αξιολόγησης κινδύνου, επαναφοράς και συντήρησης 10. Ασφάλεια και άμυνα: Χρήση τεχνητής νοημοσύνης για αμυντικούς σκοπούς και εντός των ορίων της εξουσίας 11. Ενσωμάτωση από άκρο σε άκρο: Διαχείριση ενός περιστατικού από την αρχή μέχρι το τέλος
Μονάδα 1 / 11

Εισαγωγή στην Τεχνητή Νοημοσύνη στη Διαχείριση Συστημάτων και Δικτύων: Ρόλοι, Όρια, Έλεγχος ταυτότητας και Εξουσία

Κέρδη:

  • Δυνατότητα διάκρισης σε ποιες εργασίες (σενάρια, αρχεία καταγραφής, προσχέδια εγγράφων) η τεχνητή νοημοσύνη εξοικονομεί πραγματικό χρόνο και σε ποιες εργασίες όπως ο χρόνος διακοπής λειτουργίας, η απώλεια δεδομένων και οι εκτελεστικές αποφάσεις που επηρεάζουν την ασφάλεια αφήνονται στους ανθρώπους, ανάλογα με το επίπεδο κινδύνου της εργασίας.
  • Δυνατότητα εφαρμογής μιας πειθαρχίας τεσσάρων βημάτων που επαληθεύει κάθε έξοδο AI ​​διαβάζοντάς το, συνδέοντάς το με ένα έγγραφο, δοκιμάζοντας το σε απομονωμένο περιβάλλον και προετοιμάζοντας ένα σχέδιο επιστροφής.
  • Δυνατότητα εσωτερίκευσης της αρχής της κάλυψης ευαίσθητων δεδομένων σε αρχεία καταγραφής και διαμόρφωσης και χρήσης τεχνητής νοημοσύνης για αμυντικούς σκοπούς μόνο σε εξουσιοδοτημένα συστήματα

Ένας τηλεειδοποιητής εκπέμπει ένα ηχητικό σήμα στις 3 π.μ., ένας διακομιστής παραγωγής δεν αποκρίνεται, χιλιάδες λίβρες την ώρα διακοπών επεξεργάζονται πίσω από την πλάτη σας και όλα τα βλέμματα είναι στραμμένα πάνω σας. Διαχείριση συστήματος και δικτύου. Είναι η πειθαρχία που διασφαλίζει την αδιάλειπτη, ασφαλή και υψηλής απόδοσης λειτουργία των διακομιστών, των δικτύων, της αποθήκευσης και των υπηρεσιών — από την εγκατάσταση έως την επιδιόρθωση, την παρακολούθηση έως την απόκριση σε περιστατικά, τη δημιουργία αντιγράφων ασφαλείας έως την ανάκτηση καταστροφών. Η φύση αυτής της δουλειάς είναι ότι κάτω από έναν μεγάλο αριθμό επαναλαμβανόμενων εργασιών (γράψιμο σεναρίων, ανάγνωση αρχείων καταγραφής, σύγκριση διαμορφώσεων) κρύβεται ένας μικρός αριθμός πολύ βαρέων αποφάσεων (επανεκκίνηση διακομιστή, αλλαγή κανόνα τείχους προστασίας, επαναφορά αντιγράφου ασφαλείας). Εδώ, η τεχνητή νοημοσύνη (AI - λογισμικό που εξάγει μοτίβα από ιστορικά δεδομένα και παράγει κείμενο, κώδικα και προβλέψεις) σας εξοικονομεί χρόνο στην καρδιά αυτής της διπλής δομής. Αλλά η πρώτη και σταθερή υπόσχεση αυτής της ενότητας είναι σαφής: η τεχνητή νοημοσύνη είναι ένας βοηθός, ένα εργαλείο δημιουργίας σχεδίων και υποστήριξης αποφάσεων. Σας αφήνουν να εκτελέσετε την εντολή, να επιβεβαιώσετε την αλλαγή και να αναλάβετε την ευθύνη για το σύστημα.

Αυτή η προηγμένη μονάδα εγκαθιστά τα αντανακλαστικά ενός μηχανικού, όχι τα κλειδιά ενός οχήματος. Σε αυτήν την πρώτη ενότητα, θα εξετάσουμε πού η τεχνητή νοημοσύνη παράγει πραγματική αξία και πού υπάρχει πραγματικός κίνδυνος στον κόσμο του συστήματος και του δικτύου. πώς να επικυρώσετε κάθε έξοδο. Θα μάθετε ποια δεδομένα μπορείτε να δώσετε σε ποιο εργαλείο και, το πιο σημαντικό, ότι μόνο εξουσιοδοτημένες και αμυντικές χρήσεις αυτής της δύναμης είναι νόμιμες. Χωρίς να τεθεί αυτό το θεμέλιο, οι επόμενες μονάδες θα μετατραπούν σε επικίνδυνη ταχύτητα.

Πού είναι χρήσιμο το AI στη λειτουργία;

Ας χωρίσουμε την εργασία συστήματος και δικτύου σε δύο μεγάλα συμπλέγματα. Πρώτη ομάδα: επαναλαμβανόμενη εργασία, βασισμένη σε κείμενο και κώδικα, παραγωγική εργασία. Γράψτε το πρώτο προσχέδιο ενός εφεδρικού σεναρίου, συνοψίζοντας χιλιάδες γραμμές καταγραφής και ανωμαλίες επισήμανσης, επεξήγηση της σύνταξης μιας διαμόρφωσης nginx, πλαισίωση μιας μεταθανάτιας αναφοράς, αποκωδικοποίηση μιας δήλωσης cron, λίστα πιθανών αιτιών μηνύματος σφάλματος. Σε αυτές τις εργασίες, η τεχνητή νοημοσύνη μειώνει τα λεπτά σε δευτερόλεπτα, δεν κουράζεται και λειτουργεί με την ίδια ποιότητα ακόμα και τα μεσάνυχτα.

Το δεύτερο σύμπλεγμα: αποφάσεις επιβολής που οδηγούν σε διακοπές λειτουργίας, απώλεια δεδομένων ή παραβιάσεις ασφάλειας. Εκτέλεση DELETE στη βάση δεδομένων παραγωγής, άνοιγμα κανόνα τείχους προστασίας, αφαίρεση διακομιστή από το σύμπλεγμα, επαναφορά ενός αντιγράφου ασφαλείας στην παραγωγή, ανάπτυξη ενημερωμένης έκδοσης κώδικα σε ολόκληρο τον στόλο. Αυτές οι αποφάσεις απαιτούν πλαίσιο, θεσμική γνώση, ανοχή κινδύνου και υπευθυνότητα. Εδώ, το AI κάνει ορατά τις επιλογές και τα πιθανά εφέ — αλλά πατάτε το πλήκτρο Enter.

Ας διευκρινίσουμε τη διάκριση με μια φράση: η τεχνητή νοημοσύνη είναι ισχυρή στις ερωτήσεις «τι σημαίνει αυτό και τι μπορεί να είναι». Η απόφαση είναι δική σας όταν πρόκειται για ερωτήσεις όπως "πρέπει να το τρέξω τώρα και ποιος εγγυάται γι' αυτό;" Ο μηχανικός που εσωτερικεύει αυτή τη διάκριση ούτε βάζει την τεχνητή νοημοσύνη στην παραγωγή με τυφλή σιγουριά ούτε την απορρίπτει πεισματικά. Το χρησιμοποιεί στο σωστό μέρος και στη σωστή δόση.

Συμβουλή: Πριν αναθέσετε μια εργασία σε μια τεχνητή νοημοσύνη, ρωτήστε: «Τι χάνω αν αυτό το αποτέλεσμα είναι λάθος;» Εάν η απάντηση είναι "λίγα λεπτά", μη διστάσετε να αναθέσετε. Εάν η απάντηση είναι "διακοπή, δεδομένα ή ασφάλεια", αφήστε το AI να δημιουργήσει ένα προσχέδιο, το επαληθεύετε σε ένα δοκιμαστικό περιβάλλον και το εφαρμόζετε.

Πειθαρχία επαλήθευσης: τέσσερα βήματα

Το AI μιλάει άπταιστα και με αυτοπεποίθηση. Αυτό δεν σημαίνει ότι είναι αλήθεια. Η τεχνητή νοημοσύνη προκαλεί περιστασιακά παραισθήσεις — δηλαδή, παραποιεί μια ανύπαρκτη σημαία εντολής, ένα κλειδί διαμόρφωσης ή μια κλήση API ως αληθινή. Μια ψεύτικη σημαία rm στο σύστημα διαγράφει δεδομένα, μια ψεύτικη σύνταξη τείχους προστασίας είτε ανοίγει την ασφάλεια είτε διακόπτει την πρόσβαση. Αναπτύξτε λοιπόν ένα αντανακλαστικό τεσσάρων βημάτων για εφαρμογή σε κάθε έξοδο:

  1. Διαβάστε και κατανοήστε. Διαβάστε κάθε γραμμή εντολών και διαμόρφωσης που παράγει το AI, γραμμή προς γραμμή, πριν την εκτελέσετε για να καταλάβετε τι κάνει. Ποτέ μην εκτελείτε μια εντολή που δεν καταλαβαίνετε. Ζητήστε από το AI να εξηγήσει κάθε σημαία.
  2. Σύνδεσμος με έγγραφο. Επιβεβαιώστε τη σημαία, το κλειδί ή τη σύνταξη που δίνεται από το AI με το επίσημο εγχειρίδιο (σελίδα man, τεκμηρίωση προϊόντος). "Υπάρχει πραγματικά αυτή η σημαία;" Επαληθεύστε την ερώτηση με μια αναζήτηση.
  3. Δοκιμάστε το σε ένα απομονωμένο περιβάλλον. Εκτελέστε μια κρίσιμη εντολή πρώτα σε μια μηχανή δοκιμής/σταδιοποίησης, με --dry-run αν είναι δυνατόν. Η παραγωγή δεν είναι το μέρος για πρόβα.
  4. Ετοιμάστε την επιστροφή σας. Καταγράψτε ένα σχέδιο "πώς μπορώ να επιστρέψω εάν αυτό πάει στραβά" πριν από την εφαρμογή: αντίγραφο ασφαλείας, στιγμιότυπο, προηγούμενο αντίγραφο διαμόρφωσης. Μην κάνετε μια μη αναστρέψιμη αλλαγή μόνο και μόνο επειδή την πρότεινε η AI.
Προσοχή: "Το είπε το AI" δεν είναι δικαιολογία. Εάν υπάρξει διακοπή, η ευθύνη δεν ανήκει στο AI, αλλά στον μηχανικό που εκτέλεσε αυτήν την εντολή χωρίς να την επαληθεύσει. Μια μη επαληθευμένη εντολή AI είναι εξίσου επικίνδυνη με ένα sudo που πιέζεται στην παραγωγή χωρίς να διαβαστεί.

Εξουσία, άμυνα και ηθική: η κόκκινη γραμμή

Οι πληροφορίες συστήματος και δικτύου έχουν διπλή χρήση: οι ίδιες πληροφορίες μπορούν να προστατεύσουν και να καταστρέψουν ένα δίκτυο. Επομένως, η ηθική γραμμή αυτής της ενότητας είναι ενιαία και αδιαμφισβήτητη: Χρησιμοποιήστε AI μόνο σε συστήματα για τα οποία έχετε εξουσία, για αμυντικούς και επιχειρησιακούς σκοπούς. Είναι θεμιτό να σκληρύνετε τον διακομιστή του ιδρύματός σας, να αναζητήσετε απειλές στο δικό σας αρχείο καταγραφής και να κλείσετε μια ευπάθεια στο δικό σας δίκτυο. Είναι παράνομο να σαρώνετε ένα σύστημα που δεν σας ανήκει, να προσπαθείτε να εισβάλετε στην πρόσβαση κάποιου άλλου, να διεισδύσετε σε ένα δίκτυο χωρίς άδεια και είναι επίσης παράνομο να χρησιμοποιείτε AI για αυτόν τον σκοπό. Ρωτάτε την τεχνητή νοημοσύνη όχι "πώς μπορώ να διεισδύσω σε αυτό το σύστημα" αλλά "πώς προστατεύω το δικό μου σύστημα από αυτήν την επίθεση;"

Παρόμοια αυστηρότητα απαιτείται από την πλευρά των δεδομένων. Τα αρχεία καταγραφής, οι διαμορφώσεις και οι τοπολογίες είναι συχνά ευαίσθητα και εμπιστευτικά: εσωτερικές διευθύνσεις IP, ονόματα χρήστη, ονόματα κεντρικών υπολογιστών, κλειδιά API, πιστοποιητικά. Καλύψτε ένα αρχείο καταγραφής ή διαμόρφωση πριν το επικολλήσετε σε ένα δημόσιο εργαλείο (10.x.x.x αντί για πραγματική IP, user1 αντί για πραγματικό χρήστη, REDACTED κλειδιά). Δώστε εμπιστευτικά δεδομένα μόνο στα συμβεβλημένα οχήματα του ιδρύματος των οποίων τα δεδομένα δεν πηγαίνουν στην εκπαίδευση μοντέλων.

τρεις μίνι θήκες

Περίπτωση 1 — Εξοικονόμηση χρόνου στο σωστό μέρος. Ένας διαχειριστής συστήματος ξόδευε 45 λεπτά κάθε πρωί σαρώνοντας χειροκίνητα την έξοδο καταγραφής συστήματος από 60 διακομιστές. Έδωσε το αρχείο καταγραφής, με τα ονόματα IP και κεντρικών υπολογιστών καλυμμένα, στο AI και είπε: "Ομαδοποιήστε τα σφάλματα ανάλογα με το επίπεδο σοβαρότητάς τους και σημειώστε 5 επαναλαμβανόμενα μοτίβα". Ο χρόνος μειώθηκε στα 8 λεπτά. Αφιέρωσε τα αποθηκευμένα 37 λεπτά για να επιβεβαιώσει τα κρίσιμα μοτίβα που επισημαίνονται από το AI στο πραγματικό σύστημα. Το AI πήρε την επανάληψη. Η απόφαση έμεινε στον μηχανικό.

Περίπτωση 2 — Η επαλήθευση απέτρεψε μια καταστροφή. Ένας μηχανικός DevOps ζήτησε από το AI ένα σενάριο για τον καθαρισμό του δίσκου. YZ find /var/log -mtime +30 -exec rm {} \; Έδωσε μια παρόμοια εντολή. Ήταν άπταιστα, αλλά ο μηχανικός έκανε το βήμα "ανάγνωση και κατανόηση" και συνειδητοποίησε ότι η εντολή μπορεί να εκτελείται στον ριζικό κατάλογο αντί για /var/log λόγω λανθασμένης μεταβλητής διαδρομής. Δοκίμασε να χρησιμοποιήσει τη λογική --dry-run αντικαθιστώντας το rm με echo στο δοκιμαστικό μηχάνημα, είδε το σφάλμα και το διόρθωσε. Αυτό το βήμα απέτρεψε μια πιθανή διάσωση πολλών ωρών.

Περίπτωση 3 — Όριο ηθικής και εμπιστευτικότητας. Ένας ασκούμενος μόλις επικόλλησε την πλήρη συμβολοσειρά σύνδεσης μιας βάσης δεδομένων παραγωγής (συμπεριλαμβανομένου ονόματος χρήστη, κωδικού πρόσβασης, κεντρικού υπολογιστή) σε ένα δημόσιο εργαλείο και είπε "βελτιστοποίηση αυτής της σύνδεσης". Ο ανώτερος μηχανικός παρενέβη: αυτό ήταν ένα ζωντανό διαπιστευτήριο που βγήκε εκτός ελέγχου και απαιτούσε άμεση εναλλαγή κωδικού πρόσβασης (αλλαγή). Η ίδια δουλειά έγινε ξανά στο εργαλείο εγκεκριμένο από το ίδρυμα, με όλα τα μυστικά καλυμμένα με REDACTED και ο κωδικός που διέρρευσε άλλαξε αμέσως.

Τέσσερα πρότυπα με δυνατότητα αντιγραφής

1) Αξιολόγηση κινδύνου αποστολής:

Ο ρόλος σας: ανώτερος σύμβουλος μηχανικής συστημάτων/δικτύων. Θα περιγράψω τον ρόλο παρακάτω. Πείτε μου (1) εάν πρόκειται για εργασία σύνταξης/ανάλυσης που μπορεί να ανατεθεί με ασφάλεια στην τεχνητή νοημοσύνη ή κρίσιμη εργασία εκτέλεσης όπου ο άνθρωπος πρέπει να αποφασίσει, (2) τον πιθανό αντίκτυπο λανθασμένων αποτελεσμάτων (χρόνος διακοπής λειτουργίας/δεδομένα/ασφάλεια), (3) ποιο σχέδιο επικύρωσης και αλλαγής πρέπει να προετοιμάσω πριν από την εκτέλεση. Εργασία: [εισαγάγετε την εργασία εδώ]

2) Περιγραφή εντολών και έλεγχος ασφαλείας:

Εξηγήστε την ακόλουθη γραμμή προς γραμμή εντολών: προσδιορίζοντας τι κάνει κάθε σημαία, ποιο αρχείο/κατάλογο επηρεάζει και τα πιθανά καταστροφικά αποτελέσματά του. Χρήση κατασκευασμένης σημαίας. Εάν δεν είστε σίγουροι, γράψτε "χρειάζεται επαλήθευση". Καταγράψτε 3 κινδύνους στους οποίους πρέπει να προσέξω πριν εκτελέσετε αυτήν την εντολή στην παραγωγή. Εντολή: [εντολή]

3) Έλεγχος απόκρυψης δεδομένων:

Το κείμενο καταγραφής/διαμόρφωσης που θα σας δώσω μπορεί να περιέχει ευαίσθητα δεδομένα (IP, όνομα κεντρικού υπολογιστή, χρήστης, κωδικός πρόσβασης, κλειδί API, πιστοποιητικό). Πρώτα απαριθμήστε ποιες περιοχές σε αυτό το κείμενο πρέπει να καλυφθούν. Θα το καλύψω και θα το στείλω ξανά. Μην το αναλύετε όπως είναι.

4) Πλαίσιο εξουσίας και σκοπός:

Στόχος μου είναι η άμυνα και η λειτουργία στο [σύστημα/δίκτυο] στο οποίο είμαι εξουσιοδοτημένος. Θα σου κάνω μια ερώτηση. Δώστε την απάντησή σας μόνο στα πλαίσια άμυνας, σκλήρυνσης και επαλήθευσης. Προειδοποιήστε με σε περίπτωση μη εξουσιοδοτημένης πρόσβασης ή αιτήματος για βήματα επίθεσης και προτείνω μια νόμιμη εναλλακτική άμυνα.

Αδύναμη προτροπή / Ισχυρή προτροπή

Αδύναμη προτροπή:

Επιτάχυνση του διακομιστή μου.

Αυτή η προτροπή δεν έχει περιεχόμενο: δεν είναι σαφές ποιο λειτουργικό σύστημα, ποιο σημείο συμφόρησης, ποια μέτρηση. Η τεχνητή νοημοσύνη είναι mainstream, ανεφάρμοστη και ορισμένοι εκπέμπουν επικίνδυνες ουσίες.

Ισχυρή προτροπή:

Ο ρόλος σας: ανώτερος βοηθός μηχανικός συστημάτων Linux. Έχω έναν διακομιστή ιστού 8 πυρήνων/16 GB που τρέχει το Ubuntu 22.04 με CPU συνεχώς στο 85%. Έχω την έξοδο του "ball" και του "iostat" καλυμμένη (κάτω). Ο στόχος μου είναι να εντοπίσω το σημείο συμφόρησης. Δώστε μου (1) ποιες μετρήσεις να αναζητήσω στην έξοδο, (2) πιθανές αιτίες κατά σειρά πιθανότητας, (3) διαγνωστικές εντολές μόνο για ανάγνωση για κάθε αιτία που μπορώ να εκτελέσω χωρίς να αγγίξω την παραγωγή. Προτείνετε αλλαγές. διάγνωση πρώτα. Έξοδοι: [μασκαρισμένα δεδομένα]

Προσέγγιση

ταχύτητα

Κίνδυνος ακεραιότητας/ασφάλειας

Ποιανού ευθύνη

Εκτέλεση κρίσιμης εντολής με AI χωρίς επαλήθευση

ψηλά

πολύ ψηλά

Αβέβαιο — επικίνδυνο

Σχέδιο AI, ανθρώπινη επαλήθευση και επιβολή

ψηλά

Χαμηλό (αν επιβεβαιωθεί)

Άνθρωπος — αλήθεια

Μην τα κάνετε όλα με το χέρι

χαμηλά

χαμηλά

ανθρώπινο αλλά αργό

Μην χρησιμοποιείτε ποτέ AI

χαμηλά

χαμηλά

πίσω από τους ανταγωνιστές

Συνήθη λάθη

  • Λάθος της ευχέρειας για την ακρίβεια. Το AI παράγει σίγουρη εντολή. Αυτό δεν σημαίνει ότι η εντολή είναι ασφαλής, διαβάστε κάθε γραμμή.
  • Ανάθεση κρίσιμης εκτέλεσης. Στην παραγωγή, το να κάνεις το AI να «εγκρίνει» το rm, το DELETE, το firewall αλλάζει και αποκαθιστά, αφήνει την ευθύνη να κρέμεται στον αέρα.
  • Εξαγωγή ευαίσθητων δεδομένων σε ανοιχτό εργαλείο. Η επικόλληση του αρχείου καταγραφής που περιέχει IP, κωδικό πρόσβασης και κλειδί χωρίς απόκρυψη αποτελεί παραβίαση ασφαλείας.
  • Αφήνοντας ασαφή την εξουσία και τον σκοπό. Χρησιμοποιήστε μόνο στα δικά σας εξουσιοδοτημένα συστήματα για αμυντικούς σκοπούς. αλλιώς είναι παράνομο.
  • Εφαρμογή χωρίς εναλλακτικό σχέδιο. Κάνοντας μια αλλαγή χωρίς αντίγραφο ασφαλείας ή στιγμιότυπο μόνο και μόνο επειδή μια τεχνητή νοημοσύνη πρότεινε ότι θα ήταν μια συνταγή για καταστροφή.
Συμβουλή: Ξεκινήστε κάθε συνεδρία τεχνητής νοημοσύνης με «ρόλος + πλαίσιο συστήματος + συγκαλυμμένα δεδομένα + εργασία + περιορισμός + εξουσία/σκοπός + υπεύθυνος λήψης αποφάσεων». Αυτό το πλαίσιο βελτιώνει ταυτόχρονα τόσο την ποιότητα όσο και την ασφάλεια της παραγωγής.

Συνοπτικά

Η διαχείριση συστημάτων και δικτύου είναι ένας κλάδος όπου ένας μικρός αριθμός βαρέων αποφάσεων βασίζεται σε μεγάλο αριθμό επαναλαμβανόμενων εργασιών. Το AI είναι ένας ισχυρός βοηθός που επιταχύνει τις επαναλαμβανόμενες εργασίες κειμένου και κώδικα. αλλά ο χρόνος διακοπής λειτουργίας, η απώλεια δεδομένων και οι εκτελεστικές αποφάσεις που επηρεάζουν την ασφάλεια είναι ευθύνη του μηχανικού. Διαβάστε κάθε έξοδο, συνδέστε το με το έγγραφο, δοκιμάστε το μεμονωμένα, προετοιμάστε την επιστροφή. Καλύψτε τα ευαίσθητα δεδομένα, δώστε τα μόνο σε ασφαλή εργαλεία. Και το πιο σημαντικό: χρησιμοποιήστε αυτή τη δύναμη για αμυντικούς σκοπούς μόνο σε συστήματα για τα οποία είστε εξουσιοδοτημένοι. Ο μηχανικός που καθιερώνει αυτή την πειθαρχία εφαρμόζει με ασφάλεια κάθε τεχνική στις επόμενες μονάδες.

Εργασία εφαρμογής

Καταγράψτε 10 εργασίες από τη δική σας επιχείρηση που έχετε κάνει την τελευταία εβδομάδα. Επισημάνετε το καθένα ως "Πρόχειρο/ανάλυση με δυνατότητα ανάθεσης τεχνητής νοημοσύνης" ή "απόφαση εκτέλεσης από τον άνθρωπο" και προσθέστε μια στήλη "επίπτωση εάν είναι λάθος (διακοπή/δεδομένα/ασφάλεια)" δίπλα του. Επιλέξτε ένα από τα μεταβιβάσιμα και συμβουλευτείτε το AI με το πρότυπο "Αξιολόγηση κινδύνου εργασιών" παραπάνω. Στη συνέχεια, καλύψτε ένα από τα αρχεία καταγραφής σας (IP, κεντρικός υπολογιστής, χρήστης) και ζητήστε μια ανάλυση δείγματος. Εφαρμόστε το αντανακλαστικό επαλήθευσης τεσσάρων βημάτων και γράψτε τις παρατηρήσεις σας σε 6 στοιχεία.

λίστα ελέγχου

  • [ ] Έχω διαχωρίσει τα καθήκοντα σε «μεταβιβάσιμη» και «ανθρώπινη εκτελεστική απόφαση»;
  • [ ] Έχω διαβάσει κάθε κρίσιμο αποτέλεσμα, το έχω συνδέσει με το έγγραφο, το έχω δοκιμάσει σε απομονωμένο περιβάλλον, έχω ετοιμάσει ένα σχέδιο επιστροφής;
  • [ ] Έχω καλύψει την IP, τον κεντρικό υπολογιστή, τον χρήστη, τον κωδικό πρόσβασης και τα κλειδιά στο αρχείο καταγραφής και στη διαμόρφωση;
  • [ ] Έχω δημοσιεύσει ευαίσθητα δεδομένα μόνο σε ένα ασφαλές εργαλείο εγκεκριμένο από το ίδρυμα;
  • [ ] Έχω χρησιμοποιήσει AI μόνο σε συστήματα για τα οποία είμαι εξουσιοδοτημένος και για αμυντικούς σκοπούς;
  • [ ] Έχω συμπεριλάβει τον ρόλο, το πλαίσιο, τα καλυμμένα δεδομένα, την εργασία, τον περιορισμό, την εξουσία και τον υπεύθυνο λήψης αποφάσεων στην προτροπή μου;