Εισαγωγή στην Τεχνητή Νοημοσύνη και Προτροπή: Πώς «σκέφτεται» το μοντέλο

Κέρδη:

Εξηγήστε πώς λειτουργεί το μοντέλο της μεγάλης γλώσσας προβλέποντας την επόμενη λέξη και τι σημαίνει αυτό για άμεση γραφή
Μπορεί να δείξει γιατί το Prompt καθορίζει τόσο πολύ την ποιότητα παραγωγής με ένα παράδειγμα από τη δική του δουλειά.
Διακρίνοντας τα δυνατά και τα αδύνατα σημεία του μοντέλου, μπορεί κανείς να αποφασίσει ποιες εργασίες θα το χρησιμοποιήσει με ασφάλεια.

Ο καλύτερος τρόπος για να μάθετε πραγματικά πώς να γράφετε προτροπές είναι να κατανοήσετε πρώτα πώς λειτουργεί το εργαλείο. Σε αυτή την ενότητα, θα δούμε τη βασική λογική του μεγάλου γλωσσικού μοντέλου (LLM για συντομία, δηλαδή το σύστημα τεχνητής νοημοσύνης που παράγει κείμενο), γιατί είναι τόσο χρήσιμο στην καθημερινή σας εργασία και πού έχει τα όριά του. Οι προτροπές που γράφονται χωρίς αυτό το θεμέλιο συχνά οδηγούν στο ερώτημα "γιατί μερικές φορές παράγουν εξαιρετικά αποτελέσματα και μερικές φορές τρομερά αποτελέσματα;" σε αφήνει μόνο με την ερώτηση. Αυτή η αβεβαιότητα θα εξαφανιστεί σε μεγάλο βαθμό όταν ολοκληρωθεί αυτή η μονάδα.

Τι κάνει στην πραγματικότητα ένα μεγάλο μοντέλο γλώσσας;

Στον απλούστερο ορισμό του, το μοντέλο της μεγάλης γλώσσας είναι ένα σύστημα που προβλέπει την πιο πιθανή λέξη που θα ακολουθήσει το κείμενο που δίνετε. Εξετάζοντας δισεκατομμύρια προτάσεις, το μοντέλο έμαθε το μοτίβο «ποια λέξη προέρχεται μετά από ποια λέξη». Όταν ξεκινάτε μια πρόταση, το μοντέλο εξετάζει ό,τι έχει γραφτεί μέχρι τώρα και δημιουργεί την πιο πιθανή συνέχεια, στη συνέχεια προσθέτει τη λέξη που δημιουργήθηκε στην είσοδο και προβλέπει την επόμενη. Αυτός ο κύκλος συνεχίζεται μέχρι να ολοκληρωθεί η απόκριση.

Ας διευκρινίσουμε τον όρο διακριτικό που χρησιμοποιείται εδώ: το διακριτικό είναι η μικρότερη μονάδα στην οποία το μοντέλο αναλύει το κείμενο. Είναι περίπου το μέγεθος μιας λέξης ή μέρους μιας λέξης. Το μοντέλο προχωρά όχι λέξη προς λέξη, αλλά συμβολικά. Η πρακτική συνέπεια για εσάς είναι ότι το μοντέλο δεν είναι άνθρωπος που «καταλαβαίνει» την πρόθεσή σας, αλλά μια πολύ ισχυρή μηχανή πρόβλεψης που επιλέγει στατιστικά την καταλληλότερη συνέχεια για το κείμενο που του δίνετε.

Η πιο σημαντική συνέπεια αυτού του ορισμού είναι ότι ο πιο ισχυρός καθοριστικός παράγοντας της κατεύθυνσης της εξόδου είναι το κείμενο που δίνετε ως είσοδο. Η προτροπή σας λοιπόν. Το μοντέλο δεν αντλεί έτοιμη απάντηση από βάση δεδομένων, δεν πραγματοποιεί ζωντανή αναζήτηση στο διαδίκτυο και δεν αντιγράφει σελίδες (εκτός εάν ρητά αναφέρεται διαφορετικά). Παράγει μόνο κείμενο που ταιριάζει καλύτερα στο πλαίσιο που του δίνετε. Μια καλή είσοδος είναι η πιο αποφασιστική προϋπόθεση για μια καλή έξοδο.

Γιατί «Ίδιο μοντέλο, διαφορετικό αποτέλεσμα»;

Το μοντέλο χρησιμοποιεί επίσης ένα μικρό περιθώριο τυχαίας επιλογής κάθε φορά της πιο πιθανής λέξης. Επομένως, όταν ζητάτε την ίδια προτροπή δύο φορές, ενδέχεται να μην λάβετε τις ίδιες ακριβώς προτάσεις. Αυτό δεν είναι σφάλμα, είναι μέρος του σχεδιασμού. Η δουλειά σας είναι να σχεδιάσετε ένα πλαίσιο αρκετά σαφές ώστε να μην αφήνετε το αποτέλεσμα στην τύχη. Όσο πιο ξεκάθαρο είναι το πλαίσιο, τόσο πιο κοντά και πιο χρήσιμα θα είναι τα αποτελέσματα δύο διαφορετικών πειραμάτων.

Βήμα προς βήμα: πώς προχωρά ένα αίτημα μέσω του μοντέλου;

Διαβάζει την εισαγωγή. Κάθε λέξη που γράφετε είναι μια ένδειξη που καθοδηγεί την πρόβλεψη. Όταν λέτε «σαν ανώτερος δικηγόρος», το μοντέλο κάνει τα κείμενα πιο κοντά σε αυτόν τον τόνο πιο πιθανά.
Ζυγίζει το πλαίσιο. Το υπόβαθρο, οι περιορισμοί και τα παραδείγματα που δίνετε περιορίζουν την εκτίμηση. Εάν το περιβάλλον είναι κενό, το μοντέλο συμπληρώνει τα κενά με τις δικές του υποθέσεις.
Παράγει λέξη προς λέξη. Κάθε διακριτικό που παράγει γίνεται η είσοδος για το επόμενο. οπότε η κατεύθυνση που δίνετε στην αρχή μεταφέρεται σε ολόκληρη την απάντηση.
Σταματάει. Διακόπτει την παραγωγή όταν η εργασία ολοκληρωθεί ή φτάσει στο μήκος που καθορίσατε.

Τρεις Μίνι Υποθέσεις: Άμεση Διαφορά στους Αριθμούς

Περίπτωση 1 — Επαγγελματίας μάρκετινγκ, θέμα ηλεκτρονικού ταχυδρομείου. Όταν ένας ειδικός στο μάρκετινγκ είπε "πρότεινε ένα θέμα για την καμπάνια", πήρε 5 γενικούς τίτλους και δεν του άρεσε κανένας από αυτούς. Πέρασε 20 λεπτά για να το διορθώσει με το χέρι. Την επόμενη μέρα, όταν είπε, «Το κοινό-στόχος είναι ιδιοκτήτες ΜΜΕ ηλικίας 30-45 ετών, το προϊόν είναι λογισμικό λογιστικής cloud, 6 μονάδες, η καθεμία με μέγιστο αριθμό 45 χαρακτήρων, ενδιαφέρουσα αλλά υποτιμημένη», χρησιμοποίησε απευθείας 4 από τους 6 τίτλους. Η διάρκεια μειώθηκε από 20 λεπτά σε 4 λεπτά.

Περίπτωση 2 — Ανθρώπινο δυναμικό, διαφημιστικό κείμενο. Ένας ειδικός ανθρώπινου δυναμικού έλαβε ένα κείμενο boilerplate με την προτροπή "γράψτε μια εργασία προγραμματιστή λογισμικού". Όταν προσθέσαμε την πραγματική γλώσσα της εταιρείας (περιγραφή κουλτούρας 3 προτάσεων), 4 υποχρεωτικά προσόντα και τον περιορισμό "γράψτε το εύρος μισθών καθαρά" στην προτροπή, το ποσοστό των ακατάλληλων αιτούντων στη διαφήμιση μειώθηκε αισθητά στην επόμενη διαφήμιση, επειδή το κείμενο καθόριζε σαφώς την προσδοκία.

Περίπτωση 3 — Λογιστική, περίληψη έκθεσης. Όταν ένα στέλεχος λογιστή είπε ότι «συνόψισε» μια έκθεση εξόδων 12 σελίδων, το μοντέλο παρέλειψε σημαντικά στοιχεία. Όταν είπε, «Από αυτήν την έκθεση, τα 5 υψηλότερα στοιχεία δαπανών παρουσιάζονται σε πίνακα με την ποσοστιαία μεταβολή σε σύγκριση με τον προηγούμενο μήνα», πήρε ακριβώς τη δομή που θα έπαιρνε στη συνεδρίαση της διοίκησης. Το περιεχόμενο ήταν το ίδιο, οι οδηγίες ήταν διαφορετικές.

Αδύναμη προτροπή / Ισχυρή προτροπή

Ίδια δουλειά, με δύο διαφορετικές οδηγίες:

Αδύναμη προτροπή:

Συνοψίστε αυτό το κείμενο.[κείμενο]

Ισχυρή προτροπή:

Συνοψίστε το σημείωμα της συνεδρίασης παρακάτω για να παρουσιαστεί στο διοικητικό συμβούλιο. - Έως 5 είδη. - Κάθε στοιχείο πρέπει να περιέχει μια απόφαση ή ενέργεια. Παραλείψτε τις λεπτομέρειες της συνομιλίας. - Γράψτε το όνομα σε παρένθεση για ενέργειες για τις οποίες είναι γνωστός ο υπεύθυνος. - Χρησιμοποιήστε απλή, επίσημη γλώσσα. Κείμενο: [κείμενο]

Η δεύτερη προτροπή λέει στο μοντέλο τι να παράγει, για ποιον, σε ποια μορφή και τι να παραλείψει. Το μοντέλο δεν κάνει τη «σκέψη» αλλά μάλλον την παραγωγή της σωστής συνέχειας. Σχεδιάζετε το πλαίσιο αυτής της συνέχειας.

Τέσσερα αντιγράψιμα πρότυπα

Τέσσερα απλά πρότυπα εκκίνησης για γρήγορη εφαρμογή της λογικής αυτής της μονάδας. Συμπληρώστε τις αγκύλες με τα δικά σας στοιχεία.

1) Πλαίσιο για την ενίσχυση ενός αιτήματος:

Θέλω να κάνετε αυτήν την εργασία: [εργασία]Για ποιον: [αγοραστής/κοινό]Σε ποια μορφή: [μήκος, δομή]Τι να παραλείψετε: [τι δεν θέλετε]

2) Έλεγχος των ορίων του μοντέλου (ανακλαστικό επαλήθευσης):

Εάν υπάρχουν πραγματικοί ισχυρισμοί (αριθμός, ημερομηνία, όνομα, πηγή) στην απάντησή σας παρακάτω, εξαγάγετε τον καθένα ως ξεχωριστή λίστα και σημειώστε τον ως "πρέπει να επαληθευτεί". Απάντηση: [έξοδος του μοντέλου]

3) Δοκιμάστε την ίδια εργασία σε δύο επίπεδα:

Εξηγήστε το παρακάτω θέμα δύο φορές:Α) Σε έναν εντελώς άγνωστο, στην καθημερινή γλώσσα. Β) Σε έναν ειδικό στον τομέα, με τεχνικούς όρους. Θέμα: [θέμα]

4) Κάνοντας το μοντέλο να συνειδητοποιήσει την αβεβαιότητα:

Πριν υποβάλετε το αίτημα που σας δίνω, κάντε μου 3 ερωτήσεις σχετικά με τα σημεία που σας λείπουν ή δεν είναι ξεκάθαρα. στη συνέχεια παράγετε σύμφωνα με τις απαντήσεις μου. Αίτημα: [αίτημα]

Δυνατά και αδύναμα σημεία του μοντέλου

Θέμα

Το μοντέλο είναι δυνατό

Το μοντέλο είναι αδύναμο / προσοχή

γλωσσικά θέματα

Γράψιμο, περίληψη, μετάφραση, αλλαγή τόνου

Πολύ τεχνικά / εξειδικευμένα λάθη ορολογίας

δομή

Μετατροπή κειμένου σε πίνακα, λίστα, σκίτσο

Διατήρηση συνέπειας στο εκτενές κείμενο

ιδέα

Καταιγισμός ιδεών, δημιουργία εναλλακτικών λύσεων

Εγγύηση για το "σωστό"

περίπτωση

Γενικές πληροφορίες, ορισμός, εξήγηση

Τρέχοντα/ακριβή στοιχεία, αριθμός, ημερομηνία, πηγή

συλλογιστική

Καλό αν καθοδηγείται βήμα προς βήμα

Μην κάνετε αθόρυβα σύνθετους υπολογισμούς

Συμβουλή: Δείτε το μοντέλο όχι ως «ειδήμονα που τα ξέρει όλα» αλλά ως «βοηθό που γράφει πολύ γρήγορα, διαβάζει πολύ, αλλά όλα όσα λέει πρέπει να επαληθεύονται». Αυτή η άποψη προσαρμόζει σωστά τόσο τις προσδοκίες σας όσο και τη συνήθεια ελέγχου σας.

Προσοχή: Το μοντέλο μπορεί να γράφει πληροφορίες σε μια πολύ σίγουρη γλώσσα, αλλά αυτό δεν σημαίνει ότι οι πληροφορίες είναι σωστές. Ελέγχετε πάντα ανεξάρτητα τα πραγματικά στοιχεία, ιδίως τον αριθμό, το όνομα, την ημερομηνία, το καταστατικό και την πηγή. Θα επανέλθουμε λεπτομερώς σε αυτό το θέμα στην ενότητα 11.

Συνήθη λάθη

Λάθος το πρότυπο για άνθρωπο. Δίνοντας ελλιπείς οδηγίες λέγοντας «Θα καταλάβουν έτσι κι αλλιώς». Το μοντέλο δεν διαβάζει την πρόθεσή σας. Επεξεργάζεται μόνο αυτό που πληκτρολογείτε.
Παραίτηση με μια προσπάθεια. Εάν η αρχική απόδοση είναι κακή, κατηγορήστε το εργαλείο. Ωστόσο, τις περισσότερες φορές το πρόβλημα βρίσκεται στις οδηγίες και μια μικρή διόρθωση μπορεί να αλλάξει το αποτέλεσμα.
Χρησιμοποιώντας γεγονότα χωρίς να τα επαληθεύσετε. Η αποδοχή ενός στατιστικού ή μιας πηγής που παράγεται από το μοντέλο χωρίς αμφιβολία είναι η πιο επικίνδυνη συνήθεια.
Εισαγωγή εμπιστευτικών δεδομένων χωρίς σκέψη. Επικόλληση ευαίσθητων πληροφοριών χωρίς να γνωρίζετε πώς λειτουργεί το εργαλείο. Υπάρχουν κανόνες σε αυτό, όπως θα δούμε στην ενότητα απορρήτου.
Παρεξήγηση της τυχαιότητας με ένα λάθος. Ερμηνεύοντας δύο διαφορετικά αποτελέσματα ως "το όχημα έχει σπάσει". Ωστόσο, όταν αυξήσετε τη σαφήνεια, τα αποτελέσματα συγκλίνουν.

Συνοπτικά

Το μοντέλο της μεγάλης γλώσσας λειτουργεί προβλέποντας τη λέξη (κουπόνι) που είναι πιο πιθανό να εμφανίζεται στη συνέχεια στο κείμενο που δίνετε. Δεν επιλέγει έτοιμες απαντήσεις.
Ο πιο ισχυρός παράγοντας που καθορίζει την κατεύθυνση της εξόδου είναι η προτροπή που δίνετε ως είσοδο.
Ισχυρή στη γλώσσα μοντέλου, στη δομή και στον ιδεασμό. είναι προσεκτικός με ακριβή γεγονότα, τρέχοντα δεδομένα και πολύπλοκους υπολογισμούς.
Λόγω μικρής τυχαιότητας, η ίδια προτροπή μπορεί να δώσει διαφορετικά αποτελέσματα. Καθώς αυξάνεται η σαφήνεια, τα αποτελέσματα γίνονται πιο συνεπή.
Το μοντέλο δεν είναι «ένας ειδικός που είναι πιστός σε όλα όσα λέει», αλλά «ένας βοηθός που είναι γρήγορος αλλά χρειάζεται επαλήθευση».

Εργασία εφαρμογής

Επιλέξτε μια εργασία γραφής από την καθημερινή σας εργασία που κάνετε τακτικά (ένα email, μια περίληψη ή μια λίστα, για παράδειγμα). Πρώτα, γράψτε την απλούστερη έκδοση μιας πρότασης, δώστε την σε ένα εργαλείο τεχνητής νοημοσύνης και αποθηκεύστε την έξοδο. Στη συνέχεια, στην ίδια εργασία. Προσθέστε τις απαντήσεις στις ερωτήσεις «για ποιον, σε ποια μορφή, σε τι μήκος και τι να παραλείψετε» και ρωτήστε τις ξανά. Τοποθετήστε τις δύο εξόδους δίπλα δίπλα και σημειώστε σε μια πρόταση ποια προσθήκη βελτιώνει περισσότερο το αποτέλεσμα.

λίστα ελέγχου

[ ] Συνειδητοποίησα ότι το μοντέλο «προέβλεψε την επόμενη λέξη» και δεν διάβαζε την πρόθεσή μου.
[ ] Συνειδητοποίησα ότι η ποιότητα της εξόδου εξαρτάται σε μεγάλο βαθμό από την ποιότητα της προτροπής.
[ ] Μπορώ να διακρίνω τους τύπους εργασιών όπου το μοντέλο είναι ισχυρό και αδύναμο.
[ ] Κατανοώ ότι πρέπει να επαληθεύσω τα πραγματικά στοιχεία (αριθμός, ημερομηνία, όνομα, πηγή).
[ ] Μπορώ να εξηγήσω γιατί η ίδια προτροπή μπορεί να δώσει διαφορετικά αποτελέσματα.