Κέρδη:
- Δυνατότητα δημιουργίας μιας ροής εργασίας από άκρο σε άκρο που τοποθετεί μια πύλη επαλήθευσης τεχνητής νοημοσύνης + ανθρώπου σε κάθε στάδιο από την ιδέα μέχρι το κύριο δίκτυο
- Δυνατότητα δημιουργίας πλαισίου διακυβέρνησης με εγκεκριμένη λίστα εργαλείων, ταξινόμηση δεδομένων, πειθαρχία καταγραφής και ασφάλεια ιδιωτικού κλειδιού
- Ικανότητα ενσωμάτωσης των αρχών της ανθρώπινης ευθύνης, της υπεράσπισης, της εμπιστευτικότητας, της διαφάνειας και της ακεραιότητας σε κάθε βήμα της ροής εργασίας
Σε αυτήν την τελική ενότητα, συνδυάζουμε όλα τα μέρη της ενότητας σε μια συνεκτική ροή εργασιών: πώς να χρησιμοποιείτε υπεύθυνα την τεχνητή νοημοσύνη από άκρο σε άκρο, ξεκινώντας από μια ιδέα, μέσω έξυπνης σύνταξης συμβολαίων, ελέγχου, ανάλυσης εντός της αλυσίδας, tokenomics και υπεράσπισης απάτης. Θα καλύψουμε επίσης τη θέσπιση ενός πλαισίου διακυβέρνησης ως ομάδα ή ανεξάρτητο εμπειρογνώμονα —την πειθαρχία της επιλογής εργαλείων, την ταξινόμηση δεδομένων, την καταγραφή και την επαλήθευση— και την ενσωμάτωση ηθικών αρχών στη ροή εργασίας.
Ροή εργασιών από άκρο σε άκρο: από την ιδέα στο κύριο δίκτυο
Το ταξίδι με τεχνητή νοημοσύνη, επαληθευμένο από τον άνθρωπο ενός έργου Web3:
1. Σχεδιασμός και tokenomics. Η τεχνητή νοημοσύνη δημιουργεί επιλογές μηχανισμού και τοκενομικό περίγραμμα. Ο οικονομολόγος και η ομάδα το προσομοιώνουν με αρνητικά σενάρια. Θύρα: άντεξε η προσομοίωση πολλαπλών σεναρίων;
2. Ορθογραφία. Το AI δημιουργεί δοκιμασμένα πλαίσια βασισμένα σε βιβλιοθήκες και πρότυπα δοκιμών. ολοκληρώνει ο προγραμματιστής. Πύλη: κατασκευή + δοκιμή + αναθεώρηση.
3. Σάρωση. Εργαλεία στατικής ανάλυσης + σάρωση AI για γνωστά πρότυπα ευπάθειας. Πύλη: έχουν εξαλειφθεί τα ψευδώς θετικά και οι πραγματικοί υποψήφιοι έχουν περάσει στον ελεγκτή;
4. Έλεγχος. Ο ανεξάρτητος αρμόδιος ελεγκτής εξετάζει ολιστικά, χρησιμοποιώντας την τεχνητή νοημοσύνη ως βοηθό· Οι άνθρωποι αξιολογούν την επιχειρηματική λογική. Πόρτα: υπογεγραμμένη έκθεση επιθεώρησης.
5. Δοκιμή και προσομοίωση. Δίκτυο δοκιμής, fuzzing και οικονομική προσομοίωση. Πόρτα: άντεξαν τα σενάρια;
6. Τεκμηρίωση. Λευκή βίβλος AI, NatSpec και προσχέδια αποκάλυψης δίκαιου κινδύνου. ο άνθρωπος επιβεβαιώνει την αλήθεια. Πύλη: οι τεχνικοί ισχυρισμοί ταιριάζουν με τον κωδικό;
7. Διανομή. Επιβεβαίωση πολλαπλών υπογραφών, σταδιακή έξοδος δικτύου. Πόρτα: Είναι έτοιμο το σχέδιο αντιμετώπισης περιστατικών;
8. Παρακολούθηση. Η on-chain παρακολούθηση επισημαίνει ανωμαλίες με AI. παρεμβαίνει ο κόσμος. Πόρτα: ποιος θα επέμβει σε μια ανωμαλία και πώς;
Συμβουλή: Σπάστε αυτήν τη ροή σε μια λίστα ελέγχου και ρωτήστε "ποιος εγκρίνει, ποια είναι η συνθήκη επιτυχίας;" για κάθε πόρτα. Συμπληρώστε τις στήλες. Όχι ένα προφορικό "ok", αλλά μια γραπτή πειθαρχία της πόρτας κάνει τη διαφορά στον κρίσιμο τομέα της ασφάλειας.
Θέσπιση πλαισίου διακυβέρνησης
Δεν αρκεί η ατομική καλή θέληση. Απαιτείται ένα επαναλαμβανόμενο πλαίσιο. Ελάχιστη διακυβέρνηση για ομάδα ή ειδικό:
Εγκεκριμένος κατάλογος οχημάτων. Ποια εργαλεία τεχνητής νοημοσύνης και ασφάλειας μπορούν να χρησιμοποιηθούν για ποιες εργασίες; Ποιο απομονωμένο/επιχειρηματικό εργαλείο για μυστικό κωδικό αγορών; Η δωρεάν οδήγηση είναι κίνδυνος διαρροών.
Ταξινόμηση δεδομένων. Ποια δεδομένα μπορούν να δοθούν σε ένα ανοιχτό εργαλείο AI (δημόσιος κωδικός) και ποια δεν μπορούν ποτέ να δοθούν (μη ελεγμένος κωδικός πελάτη, ιδιωτικό κλειδί, προσωπικά δεδομένα); Αυτή η διάκριση πρέπει να γραφτεί ξεκάθαρα.
Πειθαρχία εγγραφής (διαδρομή ελέγχου). Το ποιο προϊόν παρήχθη από AI και ποιος το επαλήθευσε καταγράφεται. Αυτό είναι απαραίτητο τόσο για τη διαφάνεια όσο και για τη λογοδοσία.
Συνεχής επαλήθευση. Καμία αξίωση ασφαλείας που παράγεται από AI δεν προέρχεται χωρίς επαλήθευση. Αυτό πρέπει να είναι πολιτισμός.
Στοιχείο διακυβέρνησης
ερώτηση
Σκοπός
Εγκεκριμένα οχήματα
Ποιο εργαλείο, ποια δουλειά;
Συνέπεια, πρόληψη διαρροών
Ταξινόμηση δεδομένων
Τι μπορεί και τι δεν μπορεί να δοθεί;
Απόρρητο
Πειθαρχία εγγραφής
Ποιος το παρήγαγε, ποιος το επιβεβαίωσε;
λογοδοσία
Πύλες επικύρωσης
Ποια είναι η μεταβατική συνθήκη;
Ασφάλεια
Κλειδί και ασφάλεια απορρήτου
Μια κρίσιμη προειδοποίηση ειδικά για το Web3: το ιδιωτικό κλειδί (το μυστικό κλειδί που παρέχει πρόσβαση στο πορτοφόλι και τα χρήματα) και η βασική φράση (λέξεις ανάκτησης) σε καμία περίπτωση δεν γράφονται σε ένα εργαλείο τεχνητής νοημοσύνης, ένα μήνυμα προτροπής ή οπουδήποτε στο διαδίκτυο. Αυτό σημαίνει άμεση απώλεια κεφαλαίων. Ομοίως, ο μη ελεγμένος κώδικας πελάτη δεν μπορεί να επικολληθεί σε ανοιχτά εργαλεία AI χωρίς άδεια.
Προσοχή: Μια ιδέα όπως "Να δώσω στο AI το ιδιωτικό μου κλειδί και να του ζητήσω να διαχειριστεί το πορτοφόλι μου" είναι καταστροφή. Το ιδιωτικό κλειδί φυλάσσεται μόνο σε ασφαλές, εκτός σύνδεσης ή πορτοφόλι υλικού. Το AI δεν πρέπει ποτέ να δει κλειδί.
Αδύναμη προσέγγιση / Δυνατή προσέγγιση
Αδύναμη προσέγγιση:
Ο καθένας θα πρέπει να χρησιμοποιεί ό,τι εργαλείο AI θέλει, ό,τι κι αν προκύψει. Επικολλήστε τον κωδικό πελάτη στο πιο γρήγορο εργαλείο και χρησιμοποιήστε απευθείας την έξοδο.
Ισχυρή προσέγγιση:
Υπάρχει μια λίστα με εγκεκριμένα οχήματα. Μυστικός κωδικός μόνο σε απομονωμένο όχημα και με έγκριση πελάτη. Κάθε έξοδος AI διέρχεται από την πύλη επαλήθευσης και καταγράφεται ποιος την επαλήθευσε. Το ιδιωτικό κλειδί δεν εισέρχεται σε κανένα όχημα. Κάθε αξίωση ασφαλείας απαιτεί ανεξάρτητη επιβεβαίωση.
Τέσσερα πρότυπα με δυνατότητα αντιγραφής
1) Σχέδιο πύλης ροής εργασίας:
Δημιουργήστε ένα σχέδιο ροής εργασιών επαληθευμένο από τον άνθρωπο για ένα έργο Web3 από την ιδέα στο κύριο δίκτυο με τεχνητή νοημοσύνη. Για κάθε στάδιο: Τι κάνει το AI, ποια είναι η ανθρώπινη πύλη, ποια είναι η μεταβατική συνθήκη; Παρουσιάστε το με έναν πίνακα. Δηλώστε ξεκάθαρα την έγκριση εμπειρογνωμόνων για κρίσιμα για την ασφάλεια βήματα.
2) Πολιτική ταξινόμησης δεδομένων:
Γράψτε μια πολιτική "τι μπορεί να δοθεί στην τεχνητή νοημοσύνη" για μια ομάδα ελέγχου: ξεχωριστοί κανόνες για δημόσιο κωδικό, μη ελεγμένο κωδικό πελάτη, προσωπικά δεδομένα, ιδιωτικό κλειδί. Καθορίστε "εξαγώγιμο/απομονωμένο σε όχημα/ποτέ" για κάθε κατηγορία. Γράψε τους λόγους σου.
3) Σημείωση διαφάνειας χρήσης AI:
Δημιουργήστε ένα σχέδιο σημειώματος διαφάνειας για μια έξοδο ελέγχου/τεκμηρίωσης: Πώς και σε ποιο στάδιο χρησιμοποιείται η τεχνητή νοημοσύνη. ποια έξοδο επαληθεύεται ανθρώπινα· που έχει την τελική ευθύνη. Να είστε ειλικρινείς και μετρημένοι.
4) Σχέδιο αντίδρασης και επικοινωνίας σε περιστατικά:
Σχεδιάστε ένα σχέδιο απόκρισης για ένα ζωντανό περιστατικό ασφάλειας σε ένα πρωτόκολλο: τεχνικά βήματα (διακοπή, προστασία κεφαλαίων), επικοινωνία (κοινότητα, χρήστης), ανάρτηση (ανάλυση, ανάκτηση). Αυτό είναι ένα προσχέδιο. Η ομάδα πρέπει να βαθμονομηθεί. Χρήση γλώσσας πανικού. Να είστε ξεκάθαροι και ήρεμοι.
Τρεις μίνι θήκες (σε αριθμούς)
Περίπτωση 1 — Η διακυβέρνηση απέτρεψε τη διαρροή. Μια ελεγκτική εταιρεία εμπόδισε έναν ελεγκτή να επικολλήσει εμπιστευτικό κωδικό πελάτη σε ένα δημοσίως διαθέσιμο εργαλείο χάρη στην πολιτική ταξινόμησης δεδομένων (η πολιτική επέβαλλε το απομονωμένο εργαλείο). Αποφεύχθηκε πιθανή αθέτηση της σύμβασης και διαρροή. Μάθημα: η γραπτή πολιτική εντοπίζει μεμονωμένα σφάλματα.
Περίπτωση 2 — Η πειθαρχία της πύλης έφερε συνέπεια. Μία ομάδα εφάρμοσε την ίδια ροή 8 λιμένων σε κάθε έργο σε ένα τρίμηνο 6 έργων. Ο αριθμός των ευρημάτων που εντοπίστηκαν πριν από τον έλεγχο αυξήθηκε κατά 40%, ενώ ο αριθμός των περιστατικών μετά το mainnet ήταν μηδενικός. Μάθημα: το επαναλαμβανόμενο πλαίσιο τυποποιεί την ποιότητα.
Περίπτωση 3 — Επιστροφή από βασική καταστροφή. Ένας προγραμματιστής επρόκειτο να επικολλήσει το ιδιωτικό κλειδί ενός δοκιμαστικού πορτοφολιού στο μήνυμα AI κατά τη διάρκεια ενός εντοπισμού σφαλμάτων. Σταμάτησε και γύρισε το κλειδί επειδή η πολιτική της ομάδας το απαγόρευε. Αν ήταν πραγματική χρηματοδότηση θα ήταν καταστροφή. Μάθημα: το κλειδί δεν μπαίνει σε κανένα όχημα, ούτε εξαιρέσεις.
Ενσωμάτωση της ηθικής στη ροή εργασίας
Η ηθική δεν είναι ένα στοιχείο που προστέθηκε αργότερα, αλλά μια πειθαρχία που ενσωματώνεται σε κάθε βήμα της ροής:
- Η ανθρώπινη ευθύνη βρίσκεται σε κάθε πόρτα κρίσιμης σημασίας για την ασφάλεια.
- Αμυντικός σκοπός: προστασία και έλεγχος οχημάτων. Ποτέ για εκμετάλλευση ή παγίδευση.
- Απόρρητο: τα δεδομένα και τα κλειδιά των πελατών προστατεύονται.
- Διαφάνεια: Η χρήση AI δηλώνεται με ειλικρίνεια.
- Ειλικρίνεια: οι χρήστες και οι επενδυτές δεν παραπλανούνται, οι κίνδυνοι δεν κρύβονται.
- Αμεροληψία και επαλήθευση: κάθε αξίωση αποδίδεται στην πηγή, λαμβάνεται υπόψη η σύγκρουση συμφερόντων.
Αυτές οι αρχές δεν είναι αφηρημένες. Μετατρέπεται σε συγκεκριμένες αποφάσεις σε κάθε προτροπή, σε κάθε πόρτα και σε κάθε έξοδο. Η ουσία αυτής της ενότητας είναι: Η τεχνητή νοημοσύνη μεγεθύνει τη δύναμη του ειδικού στο Web3. αλλά δεν υποκαθιστά την κρίση, την ευθύνη και την ηθική.
Συνήθη λάθη
- Έλλειψη γραπτής ροής εργασίας / πειθαρχίας πύλης. Ένα λεκτικό «εντάξει» δεν αρκεί.
- Εργασία χωρίς εγκεκριμένα εργαλεία και πολιτική δεδομένων. Κίνδυνος διαρροής.
- Απόκρυψη της χρήσης AI. Αντιβαίνει στην αρχή της διαφάνειας.
- Δίνοντας το ιδιωτικό κλειδί/μυστικό κωδικό στο όχημα. Σκέτη καταστροφή.
- Μετάδοση ζωντανά χωρίς σχέδιο αντιμετώπισης περιστατικών. Έλλειψη προετοιμασίας σε μια κρίση.
- Θεωρώντας την ηθική ως στοιχείο που αφήνεται στο τέλος. Η ηθική πρέπει να είναι ενσωματωμένη σε κάθε βήμα.
Συνοπτικά
- Η ροή από άκρο σε άκρο τοποθετεί μια πύλη επαλήθευσης AI + ανθρώπου σε κάθε στάδιο, από την ιδέα μέχρι την παρακολούθηση.
- Πλαίσιο διακυβέρνησης: εγκεκριμένα εργαλεία, ταξινόμηση δεδομένων, πειθαρχία καταγραφής, συνεχής επαλήθευση.
- Το ιδιωτικό κλειδί και ο μυστικός κωδικός δεν δίνονται σε κανένα εργαλείο τεχνητής νοημοσύνης. Αυτός είναι ένας κανόνας χωρίς εξαίρεση.
- Οι ηθικές αρχές (υπευθυνότητα, υπεράσπιση, εχεμύθεια, διαφάνεια, ειλικρίνεια) είναι ενσωματωμένες σε κάθε βήμα.
- Το AI μεγεθύνει τη δύναμη του ειδικού. Δεν υποκαθιστά την κρίση, την ευθύνη και την ηθική.
Εργασία εφαρμογής
Γράψτε ένα μονοσέλιδο "Πλαίσιο Χρήσης Τεχνητής Νοημοσύνης Web3" για εσάς ή την ομάδα σας: (1) Πύλη 8 σταδίων από την ιδέα στο κεντρικό δίκτυο, (2) πολιτική ταξινόμησης δεδομένων, (3) κανόνες κλειδιού/απόρρητου, (4) λίστα ηθικών αρχών. Στη συνέχεια, σχεδιάστε διεξοδικά μια πραγματική εργασία που μάθατε σε αυτήν την ενότητα (π.χ. έλεγχος σύμβασης) σύμφωνα με αυτό το πλαίσιο και σημειώστε σε ποιο βήμα είναι πιο αξιόπιστο το AI και ποιο είναι το λιγότερο αξιόπιστο.
λίστα ελέγχου
- [ ] Έχω μια πειθαρχία πύλης γραμμένη από την ιδέα στο mainnet.
- [ ] Έχω εγκεκριμένη πολιτική ταξινόμησης οχημάτων και δεδομένων.
- [ ] Έχω θέσει ως κανόνα ότι το ιδιωτικό κλειδί/μυστικός κωδικός δεν θα δοθεί ποτέ στο όχημα.
- [ ] Τεκμηριώνω με διαφάνεια τη χρήση της τεχνητής νοημοσύνης.
- [ ] Περνάω κάθε αξίωση ασφαλείας από την πύλη επαλήθευσης.
- [ ] Έχω ένα σχέδιο αντιμετώπισης περιστατικών.
- [ ] Έχω ενσωματώσει ηθικές αρχές σε κάθε βήμα. Έχω υιοθετήσει ότι η ευθύνη ανήκει στους ανθρώπους.
Εξέταση Ενοτήτων
1. Ποιο από τα παρακάτω είναι η πιο ακριβής τοποθέτηση για την τεχνητή νοημοσύνη στο Blockchain και στο Web3;
- Α) Η τεχνητή νοημοσύνη μπορεί να ολοκληρώσει τον έλεγχο ασφαλείας από μόνη της και να εισάγει τον κωδικό απευθείας στο κεντρικό δίκτυο
- Β) Το AI δεν λειτουργεί στο Web3. Όλες οι εργασίες πρέπει να γίνονται εξ ολοκλήρου με το χέρι
- Γ) Η τεχνητή νοημοσύνη είναι βοηθός παραγωγής ρεύματος και επιταχυντή. Η κρίσιμη για την ασφάλεια τελική έγκριση γίνεται με τον αρμόδιο εμπειρογνώμονα ✔
- Δ) Δεδομένου ότι η τεχνητή νοημοσύνη είναι πιο αντικειμενική από τους ανθρώπους, οι αποφάσεις για την ασφάλεια θα πρέπει να αφεθούν σε αυτήν.
Περιγραφή: Στο Web3, τα σφάλματα λογισμικού μετατρέπονται αμετάκλητα απευθείας σε χρήματα. Τεχνητή νοημοσύνη; Είναι ένας βοηθός επιταχυντή που δημιουργεί πρόχειρα, σημειώνει μοτίβα και γράφει ερωτήματα. Στους ελέγχους κρίσιμους για την ασφάλεια, τον τελευταίο λόγο έχει ο αρμόδιος εμπειρογνώμονας που αναλαμβάνει την επαγγελματική ευθύνη. Η συμβολή της τεχνητής νοημοσύνης αυξάνεται όσο μειώνεται το κόστος του λάθους.
2. Ποια είναι η ασφαλέστερη προσέγγιση για να πείσουμε το AI να γράψει κώδικα κατά την ανάπτυξη ενός έξυπνου συμβολαίου;
- Α) Δημιουργήστε ένα πλαίσιο που βασίζεται σε δοκιμασμένες/επαληθευμένες βιβλιοθήκες, μεταγλωττίστε, δοκιμάστε και επαληθεύστε με το testnet ✔
- Β) Εγγραφή μηχανισμών ασφαλείας στην τεχνητή νοημοσύνη από την αρχή, με μοναδικό τρόπο
- Γ) Μόλις μεταγλωττιστεί ο κώδικας, θεωρήστε τον ασφαλή και μεταφέρετέ τον απευθείας στο mainnet.
- Δ) Αφήστε τα στοιχεία ελέγχου πρόσβασης στο τέλος και επικεντρωθείτε μόνο στη λειτουργικότητα
Εξήγηση: Η ασφάλεια εκτύπωσης από την αρχή είναι επικίνδυνη. Η τεχνητή νοημοσύνη μπορεί να κάνει λάθη στον αρχικό κωδικό ασφαλείας και τα δεδομένα εκπαίδευσης μπορεί να είναι παλιά. Η σωστή προσέγγιση είναι να δημιουργήσετε ένα πλαίσιο με βάση δοκιμασμένες βιβλιοθήκες (π.χ. OpenZeppelin), και στη συνέχεια να δημιουργήσετε, να δοκιμάσετε και να επαληθεύσετε με το testnet.
3. Πώς πρέπει να το ερμηνεύσει αυτό ένας ελεγκτής όταν ρωτά την τεχνητή νοημοσύνη για μια σύμβαση και λαμβάνει την απάντηση ότι «δεν φαίνεται να υπάρχει σημαντικό ζήτημα ασφάλειας»;
- Α) Ο κωδικός μπορεί πλέον να θεωρηθεί ασφαλής και ο έλεγχος μπορεί να συντομευτεί
- Β) Ο ανεξάρτητος έλεγχος δεν είναι πλέον απαραίτητος
- Γ) Το αποτέλεσμα είναι σίγουρο γιατί η τεχνητή νοημοσύνη σαρώνει πλήρως κάθε κατηγορία.
- Δ) Αυτό δεν αποτελεί διαβεβαίωση. Η τεχνητή νοημοσύνη μπορεί να χάσει πρωτότυπα λάθη και σφάλματα επιχειρηματικής λογικής, ο ολιστικός έλεγχος εξακολουθεί να απαιτείται ✔
Εξήγηση: Το γεγονός ότι η τεχνητή νοημοσύνη δεν μπορεί να βρει κάτι δεν αποδεικνύει ότι δεν υπάρχει. Η απόδειξη απουσίας δεν είναι απουσία αποδεικτικών στοιχείων. Η τεχνητή νοημοσύνη χάνει ιδιαίτερα τα μοναδικά τρωτά σημεία και τα λάθη επιχειρηματικής λογικής. Μια ρητή δήλωση «ασφαλούς» δεν αποτελεί διαβεβαίωση και δεν εξαλείφει την ανάγκη για ολιστικό έλεγχο.
4. Ποιο από τα παρακάτω είναι ο πιο αδύναμος τομέας τεχνητής νοημοσύνης στη σάρωση ευπάθειας;
- Α) Σήμανση γνωστών και ξεκάθαρων μοτίβων όπως το Reentrancy
- Β) MEV/front-running και ειδικά για πρωτόκολλα ευπάθειες επιχειρηματικής λογικής ✔
- Γ) Εξήγηση της εξόδου ενός εργαλείου στατικής ανάλυσης σε απλή γλώσσα
- Δ) Καταγράψτε τις λειτουργίες ελέγχου πρόσβασης που λείπουν
Περιγραφή: Η τεχνητή νοημοσύνη είναι ισχυρή στη σάρωση για γνωστά, ξεκάθαρα μοτίβα, όπως η επανεισαγωγή, ο έλεγχος πρόσβασης και οι λειτουργίες ακέραιου αριθμού. Ωστόσο, οι ευπάθειες επιχειρησιακής λογικής που αφορούν το MEV/front-running και το πρωτόκολλο είναι συναφείς και συχνά μοναδικές. Αυτά είναι το τυφλό σημείο της τεχνητής νοημοσύνης και απαιτούν ανθρώπινη εξειδίκευση και προσομοίωση.
5. Ποιοι είναι οι ασφαλέστεροι και πιο επικίνδυνοι τρόποι χρήσης της τεχνητής νοημοσύνης στην ανάλυση δεδομένων on-chain;
- Α) Το πιο ασφαλές πράγμα είναι να εκτυπώσετε ένα ερώτημα εξαγωγής δεδομένων. Το πιο επικίνδυνο είναι να ζητάς ζωντανά δεδομένα απευθείας από την τεχνητή νοημοσύνη και να μην το επιβεβαιώνεις ✔
- Β) Το πιο ασφαλές είναι να ζητάς ζωντανά δεδομένα απευθείας από την τεχνητή νοημοσύνη. Η εγγραφή ερωτήματος είναι περιττή
- Γ) Τα κατακερματισμένα και οι διευθύνσεις που παράγονται από την τεχνητή νοημοσύνη είναι πάντα αξιόπιστα, δεν απαιτείται επιβεβαίωση.
- Δ) Η σύνδεση σχολίων με την πηγή είναι χάσιμο χρόνου. Αρκεί μια άπταιστη περίληψη
Εξήγηση: Η τεχνητή νοημοσύνη δεν εξαρτάται από τη ζωντανή αλυσίδα. Το να του ζητηθεί απευθείας τη συναλλαγή/διεύθυνση παράγει ένα κατασκευασμένο (παραισθησιολογικό) κατακερματισμό και διεύθυνση. Η ασφαλέστερη χρήση είναι η εκτύπωση του ερωτήματος (π.χ. Dune SQL) που θα τραβήξει τα δεδομένα από την πηγή επειδή η πηγή δεδομένων παράγει το αποτέλεσμα. Η δωρεάν ερμηνεία είναι επικίνδυνη και κάθε αριθμός πρέπει να επιβεβαιωθεί στον εξερευνητή μπλοκ.
6. Ποιοι τύποι ευπάθειας είναι πιο δαπανηροί στα πρωτόκολλα DeFi και γιατί αποτελούν πρόκληση για την τεχνητή νοημοσύνη;
- Α) Μόνο ορθογραφικά/συντακτικά λάθη. Το AI τα πιάνει εύκολα
- Β) Μόνο σφάλματα διασύνδεσης. ο οικονομικός σχεδιασμός δεν έχει καμία σχέση με αυτό
- Γ) Οικονομικά/επιχειρηματικά κενά λογικής. ακόμα κι αν ο κώδικας λειτουργεί σωστά, το πρωτόκολλο μπορεί να αξιοποιηθεί οικονομικά και το AI χάνει αυτό ✔
- Δ) Μόνο ορθογραφικά λάθη. Αποδεικνύεται οριστικά λαμβάνοντας υπόψη την οικονομική ασφάλεια, δεν χρειάζεται προσομοίωση
Εξήγηση: Στο DeFi, τα πιο ακριβά exploits συνήθως προκύπτουν όχι από το τεχνικό σφάλμα του κώδικα, αλλά από την εκμεταλλευσιμότητα της οικονομικής/επιχειρηματικής λογικής (χειραγώγηση μαντείου, διαστρέβλωση τιμής δανείου flash, κατάχρηση κινήτρων). Ακόμα κι αν ο κώδικας λειτουργεί τεχνικά «σωστά», το πρωτόκολλο μπορεί να εξαπατηθεί οικονομικά. Ενώ η τεχνητή νοημοσύνη είναι καλή στη σάρωση τυπικού κώδικα, συχνά δεν μπορεί να δει αυτά τα συμφραζόμενα και μοναδικά οικονομικά τρωτά σημεία. Αυτά απαιτούν προσομοίωση και ανθρώπινη εμπειρία.
7. Ποιο είναι το πιο επικίνδυνο λάθος της τεχνητής νοημοσύνης στο tokenomic modeling και πώς να το αποφύγετε;
- Α) Το να είσαι πολύ απαισιόδοξος. η λύση είναι να προσθέσουμε πιο αισιόδοξες υποθέσεις
- Β) Ενιαίος/αισιόδοξος σεναρισμός. Η λύση είναι το stress test με αρνητικά σενάρια και η επικύρωση με προσομοίωση ✔
- Γ) Παράγει πάρα πολλά τραπέζια. η λύση είναι να αφαιρέσετε τα τραπέζια
- Δ) Αποτυχία δημιουργίας πίνακα διανομής. Η λύση είναι να μην μοντελοποιηθεί καθόλου η διανομή
Εξήγηση: Η τεχνητή νοημοσύνη συνήθως υποθέτει ένα ενιαίο, αισιόδοξο σενάριο όπου η τιμή πάντα αυξάνεται, ο χρήστης πάντα αυξάνεται. Αυτό κάνει τα μη βιώσιμα μοντέλα να φαίνονται «βιώσιμα», οδηγώντας σε κατάρρευση. Το μέτρο είναι η δοκιμή ακραίων καταστάσεων του μοντέλου με δυσμενή σενάρια (bear market, απόδραση κυνηγών επικηρυγμένων, πώληση φαλαινών) και επαλήθευση των υπολογισμών εκπομπών με μια πραγματική προσομοίωση.
8. Ένας οδηγός χρήστη που παράγεται από την τεχνητή νοημοσύνη λέει «τα χρήματά σας μπορούν να αποσυρθούν ανά πάσα στιγμή», αλλά υπάρχει ένα κλείδωμα 7 ημερών στο συμβόλαιο. Τι δείχνει αυτή η κατάσταση;
- Α) Δεν υπάρχει πρόβλημα. Εάν το έγγραφο είναι άπταιστα, μπορεί να δημοσιευθεί ως έχει
- Β) Ο κωδικός είναι λάθος, το έγγραφο είναι σωστό. ο κωδικός πρέπει να είναι σύμφωνος με το έγγραφο
- Γ) Ο χρήστης δεν κοιτάζει το έγγραφο ούτως ή άλλως. η ασυμφωνία είναι άσχετη
- Δ) Το έγγραφο έρχεται σε διένεξη με τον κωδικό. Κάθε τεχνικός ισχυρισμός πρέπει να επιβεβαιώνεται με πραγματικό κωδικό, η ψευδής τεκμηρίωση θα παραπλανήσει τον χρήστη ✔
Περιγραφή: Η τεκμηρίωση περιγράφει τον κωδικό. Δεν είναι ο ίδιος ο κώδικας. Η τεχνητή νοημοσύνη μπορεί να παραποιήσει την πραγματική συμπεριφορά του κώδικα, η οποία παραπλανά τον χρήστη και γίνεται ζήτημα ασφαλείας. Αυτός είναι ο λόγος για τον οποίο κάθε τεχνικός ισχυρισμός θα πρέπει να επαληθεύεται έναντι του πραγματικού κώδικα. Η εσφαλμένη τεκμηρίωση μπορεί να είναι ακόμη πιο επικίνδυνη από τον σωστό κωδικό, επειδή ο χρήστης εμπιστεύεται την τεκμηρίωση.
9. Πώς να ενεργήσετε όταν η τεχνητή νοημοσύνη σαρώνει ένα συμβολικό συμβόλαιο και επισημαίνει μια «κόκκινη σημαία» (π.χ. ο ιδιοκτήτης μπορεί να σταματήσει τη μεταφορά);
- Α) Η σημαία συνδέεται με την πηγή και αξιολογείται από το πλαίσιο και την ανθρώπινη κρίση. Η τελική κρίση/συκοφαντία αποφεύγεται ✔
- Β) Το συμβόλαιο θα κηρυχθεί οπωσδήποτε απάτη και θα ανακοινωθεί άμεσα
- Γ) Εφόσον η τεχνητή νοημοσύνη ορίζει τη σημαία, δεν χρειάζεται περαιτέρω επαλήθευση
- Δ) Η σημαία αγνοείται. Τα προνόμια του ιδιοκτήτη δεν αποτελούν ποτέ κίνδυνο
Περιγραφή: Η τεχνητή νοημοσύνη είναι χρήσιμη για την επισήμανση γνωστών προτύπων απάτης, αλλά δεν μπορεί να κάνει οριστικές κρίσεις. Ορισμένες νόμιμες συμβάσεις (π.χ. προστατεύονται από διακυβέρνηση πολλαπλών υπογραφών) ενδέχεται επίσης να περιέχουν ισχύ διακοπής. Κάθε σημαία θα πρέπει να συνδέεται με την πηγή (κώδικας/αλυσίδα) και να αξιολογείται με βάση το πλαίσιο και την ανθρώπινη κρίση. Θα πρέπει να χρησιμοποιείται μέτρια γλώσσα και να αποφεύγονται οι ανεπιβεβαίωτες κατηγορίες (συκοφαντίες).
10. Το ότι το blockchain είναι «κρίσιμο για την ασφάλεια» σχετίζεται πιο άμεσα με ποιον από τους λόγους για τους οποίους η παραγωγή τεχνητής νοημοσύνης δεν μπορεί να αντικαταστήσει την έγκριση ειδικών;
- Α) Η τεχνητή νοημοσύνη δεν μπορεί να χρησιμοποιηθεί στην πράξη γιατί λειτουργεί πολύ αργά
- Β) Γιατί η τεχνητή νοημοσύνη παράγει πάντα λάθη μεταγλώττισης
- Γ) Η τεχνητή νοημοσύνη δεν μπορεί να καλύψει τον μη αναστρέψιμο κίνδυνο λόγω της αδυναμίας προβολής του αρχικού σφάλματος, της ψευδούς διασφάλισης, της μη ενημέρωσης και της αδυναμίας ανάληψης ευθύνης ✔
- Δ) Η τεχνητή νοημοσύνη δεν μπορεί να χρησιμοποιηθεί σε τουρκικά έργα γιατί λειτουργεί μόνο στα αγγλικά.
Εξήγηση: Τα σφάλματα σε μια κρίσιμη για την ασφάλεια περιοχή είναι μη αναστρέψιμα και οδηγούν άμεσα σε σοβαρή απώλεια (εκατομμύρια δολάρια). Η τεχνητή νοημοσύνη δεν μπορεί να δει το πρωτότυπο/συμφραζόμενο σφάλμα, μπορεί να δώσει ψευδείς διαβεβαιώσεις με άπταιστη γλώσσα, δεν γνωρίζει την περίοδο μετά την ημερομηνία λήξης της εκπαίδευσης και το πιο σημαντικό, δεν μπορεί να αναλάβει την ευθύνη. Η έγκριση μηχανικού είναι μια τεχνική, νομική και ηθική δέσμευση. Ένα μηχάνημα δεν μπορεί να αναλάβει αυτή τη δέσμευση, επομένως η τελική έγκριση ανήκει στον αρμόδιο εμπειρογνώμονα.
11. Ποιος είναι ο πιο αποτελεσματικός τρόπος προστασίας ενός έργου Web3 που είναι κρίσιμο για την ασφάλεια από ένα μεμονωμένο σφάλμα AI που διαρρέει στο κεντρικό δίκτυο;
- Α) Αναθέστε ολόκληρη τη διαδικασία σε ένα μόνο εργαλείο AI και ρίξτε μια ματιά στο τέλος
- Β) Εφαρμόστε επαλήθευση σε επίπεδα που θέτει μια ανθρώπινη πύλη επαλήθευσης και συνθήκη διέλευσης σε κάθε στάδιο ✔
- Γ) Παράκαμψη της πύλης ανεξάρτητου ελέγχου για εξοικονόμηση χρόνου
- Δ) Κάθε προγραμματιστής είναι ελεύθερος να χρησιμοποιεί το δικό του εργαλείο χωρίς να διατηρεί κανένα αρχείο καταγραφής
Επεξήγηση: Στην επαλήθευση πολλαπλών στρωμάτων, μια πύλη επαλήθευσης από τον άνθρωπο και μια συνθήκη καθαρής επιτυχίας (πέτυχε η δοκιμή, υπέγραψε ο ελεγκτής, κράτησε η προσομοίωση) τοποθετούνται σε κάθε στάδιο (εγγραφή, σάρωση, έλεγχος, δοκιμή/προσομοίωση, ανάπτυξη, παρακολούθηση). Δεν μπορείτε να περάσετε από μια πόρτα χωρίς να περάσετε από μια άλλη. Αυτή η πολυεπίπεδη δομή αποτρέπει τη διαρροή ενός μόνο σφάλματος AI στους ζωντανούς.
12. Ποιος είναι ο αμετάβλητος κανόνας σχετικά με το ιδιωτικό κλειδί ή τη φράση σποράς κατά τη λήψη βοήθειας από την τεχνητή νοημοσύνη κατά τη διάρκεια ενός εντοπισμού σφαλμάτων;
- Α) Μόνο τα κλειδιά για δοκιμαστικά πορτοφόλια μπορούν να κοινοποιηθούν ελεύθερα
- Β) Εάν το κλειδί είναι κρυπτογραφημένο, μπορεί να δοθεί στην τεχνητή νοημοσύνη
- Γ) Όταν η τεχνητή νοημοσύνη είναι αξιόπιστη, η διαχείριση του πορτοφολιού μπορεί να αφεθεί σε αυτήν
- Δ) Το ιδιωτικό κλειδί και η αρχική φράση δεν μπορούν να εισαχθούν σε κανένα εργαλείο τεχνητής νοημοσύνης ή προτροπή σε καμία περίπτωση ✔
Περιγραφή: Οι φράσεις του ιδιωτικού κλειδιού και του βασικού κλειδιού είναι ολόκληρη η πρόσβαση στο πορτοφόλι και τα χρήματα. Σε καμία περίπτωση δεν εγγράφονται σε ένα εργαλείο τεχνητής νοημοσύνης, σε προτροπή ή σε οποιαδήποτε άλλη διαδικτυακή τοποθεσία. Διαφορετικά υπάρχει κίνδυνος άμεσης και μη ανακτήσιμης απώλειας κεφαλαίων. Τα κλειδιά φυλάσσονται μόνο σε ένα ασφαλές, κατά προτίμηση εκτός σύνδεσης/ πορτοφόλι υλικού.
13. Ποια είναι η καλύτερη προσέγγιση διακυβέρνησης για τη ρύθμιση της χρήσης τεχνητής νοημοσύνης με εμπιστευτικό κωδικό πελάτη σε μια ελεγκτική εταιρεία;
- Α) Επεξεργαστείτε τον μυστικό κωδικό μόνο σε απομονωμένο όχημα και με έγκριση πελάτη, με πολιτική ταξινόμησης δεδομένων ✔
- Β) Επικόλληση του μυστικού κώδικα σε οποιοδήποτε δημόσιο εργαλείο για ταχύτερα αποτελέσματα
- Γ) Δεν έχει σημασία αν ο κωδικός είναι μυστικός. κάθε εργαλείο είναι δωρεάν για κάθε δεδομένα
- Δ) Ακόμα κι αν υπάρχει διαρροή, οι προφυλάξεις είναι περιττές καθώς η ευθύνη ανήκει στον πάροχο τεχνητής νοημοσύνης
Διευκρίνιση: Η επικόλληση ακυκλοφόρητου (κλειστού κώδικα) κώδικα πελάτη σε ένα δημόσιο εργαλείο τεχνητής νοημοσύνης χωρίς άδεια αποτελεί παραβίαση της σύμβασης και κίνδυνο διαρροής. Σωστή διακυβέρνηση. Καθορισμός χωριστών κανόνων για δημόσιο κωδικό, εμπιστευτικό κωδικό πελάτη, προσωπικά δεδομένα και ιδιωτικό κλειδί με πολιτική ταξινόμησης δεδομένων, επεξεργασία εμπιστευτικού κωδικού μόνο σε μεμονωμένα/επιχειρησιακά εργαλεία και με έγκριση πελάτη.