Κέρδη:
- Token μπορεί να εξηγήσει διαισθητικά τις έννοιες της πιθανότητας και της πρόβλεψης
- Κατανοεί γιατί ένα γλωσσικό μοντέλο παράγει κείμενο «τμηματικά»
- Μπορεί να ερμηνεύσει γιατί το μοντέλο άλλοτε συμπεριφέρεται αποφασιστικά και άλλοτε δημιουργικά
Όταν γράφετε "το καλύτερο πράγμα για την Κωνσταντινούπολη" σε ένα γλωσσικό μοντέλο, δημιουργείται μια άπταιστη παράγραφο σε λίγα δευτερόλεπτα. Πώς συμβαίνει αυτό; Αλήθεια «σκέφτεται» το μοντέλο ή υπάρχει ένας πολύ πιο απλός αλλά ισχυρός μηχανισμός πίσω από αυτό; Σε αυτή την ενότητα θα εξηγήσουμε πώς λειτουργεί η γενετική τεχνητή νοημοσύνη, χωρίς να υπεισέλθουμε σε τεχνικές εξισώσεις, αλλά εγκαθιστώντας τη σωστή διαίσθηση. Αυτή η διαίσθηση είναι η βάση για όλα όσα ακολουθούν—ειδικά τα θέματα της ψευδαίσθησης, της επαλήθευσης και της καλής έγκαιρης γραφής. Το Generative AI, δηλαδή η «γεννητική τεχνητή νοημοσύνη», είναι η κοινή ονομασία για τα εργαλεία που δημιουργούν κείμενο από την αρχή αντί να βρίσκουν και να ανακτούν μια υπάρχουσα απάντηση.
Βασική ιδέα: Πρόβλεψη του επόμενου κομματιού
Το εκπληκτικό είναι ότι η μόνη βασική εργασία που μαθαίνει ένα γλωσσικό μοντέλο είναι "ποιο μέρος ενός κειμένου είναι πιο πιθανό να ακολουθήσει;" είναι να απαντήσω στην ερώτηση. Το μοντέλο δεν ετοιμάζει μια ολοκληρωμένη πρόταση και την παρουσιάζει μπροστά σας. Αντίθετα, παράγει την πρόταση κομμάτι-κομμάτι, από αριστερά προς τα δεξιά.
Δείτε πώς λειτουργεί βήμα προς βήμα:
- Διαβάζει το κείμενο (προτροπή) που γράφετε.
- Προβλέπει το πιο πιθανό μέρος που θα ακολουθήσει αυτό το κείμενο.
- Προσθέτει αυτό το κομμάτι.
- Κοιτάζει ξανά το νεοσύστατο κείμενο και μαντεύει το επόμενο πιο πιθανό κομμάτι.
- Επαναλαμβάνει μέχρι να ολοκληρωθεί η απάντηση.
Παράδειγμα: Αν δώσατε στο μοντέλο το κείμενο "Have a hot cup when you waking to the πρωί...", η πιο πιθανή συνέχεια θα ήταν "τσάι" ή "καφές". Όχι «άσφαλτος». Το μοντέλο έχει μάθει τέτοιες πιθανότητες από εκατομμύρια κείμενα. Στη συνέχεια προσθέτει «τσάι», μετά κοιτάζει τη νέα πρόταση και μαντεύει το επόμενο πιο πιθανό μέρος και ούτω καθεξής.
Με άλλα λόγια, σε κάθε βήμα, το μοντέλο κάνει το επόμενο βήμα κοιτάζοντας τι έχει γράψει. Γι' αυτό μερικές φορές ονομάζεται "πολύ προηγμένη έκδοση της αυτόματης συμπλήρωσης". Αλλά αυτή η αναλογία δεν πρέπει να μειώνει το ταλέντο. Στη σωστή κλίμακα, αυτή η πρόβλεψη μπορεί να παράγει αποτελέσματα που μοιάζουν με συλλογισμό.
Token: Small Pies of a Word
Το μοντέλο στην πραγματικότητα δεν λειτουργεί με πλήρεις "λέξεις" αλλά με μικρότερα κομμάτια που ονομάζονται μάρκες. Ένα διακριτικό? Άλλοτε είναι ολόκληρη λέξη, άλλοτε μέρος μιας λέξης, άλλοτε είναι σημείο στίξης.
- Το "βιβλίο" μπορεί να είναι ένα μόνο διακριτικό.
- Το "από τα βιβλία μας" μπορεί να χωριστεί σε πολλές μάρκες όπως "βιβλίο", "σ", "δικό μας", "από".
- Τα κενά και τα σημεία στίξης υπολογίζονται επίσης ως μάρκες.
Προσοχή: Το Token δεν είναι απλώς μια τεχνική λεπτομέρεια. Τα περισσότερα εργαλεία τεχνητής νοημοσύνης χρεώνουν με βάση τον αριθμό των κουπονιών και το μήκος του κειμένου (παράθυρο περιβάλλοντος) που μπορούν να επεξεργαστούν τα μοντέλα κάθε φορά είναι επίσης περιορισμένο σε διακριτικά. Άρα το «πόσο καιρό γράφεις» είναι άμεσο κόστος και όριο.
Πιθανότητα και «Ζεστασιά»: Αποφασιστικότητα ή Δημιουργικότητα;
Σε κάθε βήμα, το μοντέλο δεν παράγει μια ενιαία οριστική απάντηση αλλά μια λίστα πιθανοτήτων πιθανών συνεχειών. Για παράδειγμα, μετά τη λέξη "ζεστό": τσάι 55%, καφές 35%, γάλα 7%, άλλα 3%. Ποιο λοιπόν επιλέγει;
Εδώ, μια ρύθμιση που ονομάζεται θερμοκρασία μπαίνει στο παιχνίδι. Η θερμοκρασία είναι ένα είδος πόμολο δημιουργικότητας που καθορίζει πόσο θα «ρισκάρει» το μοντέλο.
Ρύθμιση
συμπεριφορά
Συμπέρασμα
Πού είναι χρήσιμο;
χαμηλή θερμοκρασία
Παίρνει πάντα την πιο πιθανή επιλογή
Σταθερό, επαναλαμβανόμενο
Νομική περίληψη, τεχνική περιγραφή, εξαγωγή δεδομένων
μέτρια θερμοκρασία
Ισορροπημένη επιλογή
Φυσικό αλλά συνεπές
Γενικό email, σχέδιο αναφοράς
υψηλή θερμοκρασία
Δοκιμάζει λιγότερο πιθανές επιλογές
Δημιουργική, ποικιλόμορφη, απρόβλεπτη
Καταιγισμός ιδεών, σλόγκαν, παραγωγή ονόματος
Αυτό εξηγεί επίσης τη συχνή ερώτηση: "Γιατί λαμβάνω διαφορετικές απαντήσεις όταν κάνω την ίδια ερώτηση δύο φορές;" Επειδή υπάρχει κάποια τυχαιότητα στη διαδικασία επιλογής. Το μοντέλο δεν αντλεί μια σταθερή απάντηση από μια βάση δεδομένων, την αναπαράγει κάθε φορά.
Αδύναμη προτροπή / Ισχυρή προτροπή
Γνωρίζοντας ότι το μοντέλο λειτουργεί με "πιθανότητες" αλλάζει επίσης τον τρόπο με τον οποίο το καθοδηγείτε. Όσο περισσότερο πλαίσιο δίνετε, τόσο πιο πιθανή είναι η σωστή συνέχεια.
Αδύναμη προτροπή: Γράψτε ένα εισαγωγικό κείμενο.
Αποτέλεσμα: Το μοντέλο παράγει το πιο «μέσο» και γενικό κείμενο γιατί δεν ξέρει ποιο προϊόν, ποιο κοινό, ποιον τόνο.
Ισχυρή προτροπή: Γράψτε ένα διαφημιστικό κείμενο στο Instagram για τον νέο καφέ φίλτρου ενός μικρού καφέ. Κοινό: 25-35 ετών, λάτρης του καφέ. Τόνος: φιλικός, σύντομος. Μέγιστο 3 προτάσεις, 2 hashtag στο τέλος.
Αποτέλεσμα: Ένα χρησιμοποιήσιμο κείμενο που είναι σχετικό επειδή το περιβάλλον περιορίζει τις δυνατότητες.
Τρεις Μίνι Θήκες
Περίπτωση 1 — Μάρκετινγκ, μεγάλη ποικιλία. Μια ομάδα ήθελε 30 συνθήματα για ένα νέο προϊόν. Με τη ρύθμιση υψηλής θερμοκρασίας, το μοντέλο παρήγαγε διαφορετικές, δημιουργικές επιλογές. Η ομάδα επέλεξε και ανέπτυξε 4 από τα 30. Συνολικός χρόνος: 10 λεπτά. Αν γινόταν με το χέρι θα έπαιρνε μισή μέρα.
Περίπτωση 2 — Δίκαιο, υψηλή αποφασιστικότητα. Η νομική ομάδα της ίδιας εταιρείας απλοποιούσε μια ρήτρα σύμβασης. Ήθελαν συνέπεια, όχι δημιουργικότητα. Με χαμηλή θερμοκρασία το μοντέλο έδινε σχεδόν την ίδια, συντηρητική περίληψη κάθε φορά. Έτσι, δεν υπήρχε ασυνέπεια μεταξύ των διαφορετικών δοκιμών.
Περίπτωση 3 — «Γιατί άλλαξε;» ερώτηση. Ένας υπάλληλος ζήτησε το ίδιο προσχέδιο email δύο φορές και έλαβε δύο διαφορετικά αποτελέσματα. Θεώρησε ότι ήταν «λάθος». Στην πραγματικότητα, αυτό είναι μια φυσική συνέπεια της τυχαιότητας του μοντέλου. Μόλις ο υπάλληλος έμαθε να αποθηκεύει την έκδοση που του άρεσε και να λέει "κάντε την όπως η προηγούμενη" αν χρειαστεί, δεν υπήρχε πρόβλημα.
Το μοντέλο «τα παίρνει»;
Αυτή είναι η πιο περίεργη ερώτηση. Το μοντέλο έχει μάθει τις στατιστικές σχέσεις μεταξύ των λέξεων τόσο διεξοδικά που προσποιείται ότι κατανοεί πολλές εργασίες. Αλλά δεν έχει συνειδητή κατανόηση, πρόθεση ή μηχανισμό ελέγχου της πραγματικότητας. Παράγει "την πιο πιθανή συνέχεια"? Δεν εγγυάται την παραγωγή των "πιο ακριβών πληροφοριών". Αυτή η διάκριση είναι η βάση του θέματος της ψευδαίσθησης, το οποίο θα συζητήσουμε στις επόμενες ενότητες.
Κοινά λάθη
Συνήθη λάθη
- Παρεξήγηση του μοντέλου με μηχανή αναζήτησης. Το μοντέλο δεν πραγματοποιεί αναζήτηση στο διαδίκτυο και δεν ανακτά πόρους (εκτός εάν υπάρχει ειδική δυνατότητα αναζήτησης). Δημιουργεί πιθανό κείμενο από τη μνήμη. Έτσι μπορεί να φτιάξει την πηγή/φιγούρα.
- Λάθος της ευχέρειας για την ακρίβεια. Το ότι το κείμενο είναι όμορφο και γεμάτο αυτοπεποίθηση δεν σημαίνει ότι το περιεχόμενό του είναι σωστό.
- Περιμένοντας την ίδια απάντηση κάθε φορά. Η τυχαιότητα είναι φυσική. Αποθηκεύστε την έξοδο που σας αρέσει για κρίσιμες εργασίες.
- Επικόλληση πολύ μεγάλου, περιττού κειμένου και υπέρβαση του ορίου συμβολικού. Το μήκος αυξάνει το κόστος και μπορεί να αποσπάσει την προσοχή του μοντέλου. απλά δώστε το απαραίτητο πλαίσιο.
Προσοχή: Το ότι το μοντέλο μιλάει άπταιστα και με αυτοπεποίθηση δεν σημαίνει ότι μιλάει σωστά. Η ευχέρεια είναι η φυσική συνέπεια της εκτίμησης πιθανοτήτων. Η ακρίβεια είναι κάτι που πρέπει να ελέγχεται ξεχωριστά και ανεξάρτητα.
Συνοπτικά
- Το Generative AI δημιουργεί κείμενο βήμα προς βήμα προβλέποντας το επόμενο πιο πιθανό κομμάτι (token). κατασκευάζει την πρόταση κομμάτι κομμάτι.
- Τα διακριτικά είναι μικρότερα μέρη λέξεων και θέτουν όρια κόστους και μήκους.
- Σε κάθε βήμα, το μοντέλο παράγει μια λίστα δυνατοτήτων. Η ρύθμιση θερμοκρασίας καθορίζει πόσο σταθερή ή δημιουργική θα είναι η έξοδος.
- Ο λόγος για τις διαφορετικές απαντήσεις στην ίδια ερώτηση οφείλεται στην τυχαιότητα που είναι εγγενής σε αυτή τη διαδικασία.
- Το μοντέλο μιλάει άπταιστα, αλλά αυτό δεν εγγυάται ότι λέει την αλήθεια. Η ευχέρεια και η ακρίβεια είναι διαφορετικά πράγματα.
Εργασία εφαρμογής
Δώστε στο εργαλείο AI σας την ίδια δημιουργική εργασία (π.χ. «γράψτε ένα γρήγορο ευχαριστήριο σημείωμα») δύο φορές στη σειρά και παρατηρήστε πώς διαφέρουν τα αποτελέσματα. Στη συνέχεια, επαναλάβετε την ίδια εργασία με το πρότυπο "Ισχυρή προτροπή", προσθέτοντας το πλαίσιο και σημειώστε τη διαφορά ποιότητας μεταξύ των δύο αποτελεσμάτων.
Λίστα ελέγχου
- [ ] Μπορώ να εξηγήσω ότι το μοντέλο παράγει το κείμενο «προβλέποντας το επόμενο πιθανό κομμάτι».
- Ξέρω τι είναι το [ ] Token και γιατί σημαίνει κόστος/όριο.
- [ ] Μπορώ να διακρίνω μεταξύ εργασιών που απαιτούν αποφασιστικότητα και εκείνων που απαιτούν δημιουργικότητα.
- [ ] Γνωρίζω ότι είναι φυσιολογικό να λαμβάνετε διαφορετικές απαντήσεις στην ίδια ερώτηση.
- [ ] Έχω εσωτερικεύσει ότι η ευχέρεια δεν αποτελεί εγγύηση για την ακρίβεια.