Come funziona l’intelligenza artificiale generativa? — Alfabetizzazione sull’intelligenza artificiale

Guadagni:

Il token può spiegare in modo intuitivo i concetti di probabilità e previsione
Comprendere perché un modello linguistico produce testo "frammentario"
È in grado di interpretare il motivo per cui il modello a volte si comporta in modo deciso e a volte in modo creativo

Quando si scrive "la cosa migliore di Istanbul" in un modello linguistico, si ottiene un paragrafo fluido in pochi secondi. Come avviene questo? Il modello “pensa” davvero o dietro c’è un meccanismo molto più semplice ma potente? In questa unità spiegheremo come funziona l’intelligenza artificiale generativa, senza entrare in equazioni tecniche ma stabilendo la giusta intuizione. Questa intuizione è la base di tutto ciò che segue, in particolare degli argomenti relativi alle allucinazioni, alla verifica e alla buona scrittura tempestiva. L'intelligenza artificiale generativa, ovvero "intelligenza artificiale generativa", è il nome comune per gli strumenti che creano testo da zero invece di trovare e recuperare una risposta esistente.

Idea di base: prevedere il pezzo successivo

La cosa sorprendente è che l’unico compito fondamentale che un modello linguistico apprende è “quale parte di un testo è più probabile che venga seguita?” è rispondere alla domanda. Il modello non prepara una frase completa e non la presenta davanti a te. Invece, produce la frase pezzo per pezzo, da sinistra a destra.

Ecco come funziona passo dopo passo:

Legge il testo (prompt) che scrivi.
Prevede la parte che con maggiore probabilità seguirà questo testo.
Aggiunge quel pezzo.
Osserva nuovamente il testo appena formato e indovina il prossimo pezzo più probabile.
Si ripete finché la risposta non è completa.

Esempio: se fornissi al modello il testo "Prendi una tazza calda quando ti svegli la mattina...", la continuazione più probabile sarebbe "tè" o "caffè"; Non "asfalto". Il modello ha appreso tali probabilità da milioni di testi. Poi aggiunge "tè", poi guarda la nuova frase e indovina la parte successiva più probabile, e così via.

In altre parole, ad ogni passo, il modello fa il passo successivo guardando ciò che ha scritto. Ecco perché a volte viene chiamata "versione molto avanzata del completamento automatico". Ma questa analogia non deve sminuire il talento; Alla giusta scala, questa previsione può produrre risultati che sembrano ragionamenti.

Segno: piccoli pezzi di una parola

Il modello in realtà non funziona con "parole" complete ma con pezzi più piccoli chiamati gettoni. Un gettone; A volte è una parola intera, a volte fa parte di una parola, a volte è un segno di punteggiatura.

"libro" può essere un singolo token.
"dai nostri libri" può essere suddiviso in diversi token come "libro", "s", "nostro", "da".
Anche gli spazi e i segni di punteggiatura contano come token.

Attenzione: il token non è solo un dettaglio tecnico. La maggior parte degli strumenti di intelligenza artificiale addebitano i costi in base al numero di token e anche la lunghezza del testo (finestra di contesto) che i modelli possono elaborare contemporaneamente è limitata in token. Quindi "per quanto tempo scrivi" è un costo diretto e un limite.

Probabilità e “calore”: determinazione o creatività?

Ad ogni passaggio, il modello non produce un’unica risposta definitiva ma un elenco probabilistico di possibili continuazioni. Ad esempio, dopo la parola "caldo": tè 55%, caffè 35%, latte 7%, altro 3%. Quindi quale sceglie?

Qui entra in gioco un'impostazione chiamata temperatura. La temperatura è una sorta di manopola della creatività che determina quanto "rischia" il modello.

Impostazione

comportamento

Conclusione

Dove è utile?

bassa temperatura

Scegli sempre l'opzione più probabile

Stabile, ripetibile

Sintesi giuridica, descrizione tecnica, estrazione dati

temperatura media

Scelta equilibrata

Naturale ma coerente

E-mail generale, bozza del rapporto

alta temperatura

Prova opzioni meno probabili

Creativo, vario, imprevedibile

Brainstorming, slogan, produzione di nomi

Ciò spiega anche la domanda più frequente: "Perché ottengo risposte diverse quando faccio la stessa domanda due volte?" Perché c'è una certa casualità nel processo di selezione; Il modello non trae una risposta fissa da un database, la riproduce ogni volta.

Prompt debole / Prompt forte

Sapere che il modello funziona con la "probabilità" cambia anche il modo in cui lo istruisci. Più contesto fornisci, più è probabile che la continuazione corretta diventi.

Suggerimento debole: scrivere un testo introduttivo.

Risultato: il modello produce il testo più "medio" e generico perché non sa quale prodotto, quale pubblico, quale tono.

Suggerimento forte: scrivi un testo promozionale su Instagram per il nuovo caffè filtro di un piccolo bar. Pubblico: 25-35 anni, appassionato di caffè. Tono: amichevole, breve. Massimo 3 frasi, 2 hashtag alla fine.

Risultato: un testo utilizzabile che è rilevante perché il contesto restringe le possibilità.

Tre mini custodie

Caso 1 — Marketing, alta varietà. Un team voleva 30 slogan per un nuovo prodotto. Con la sua impostazione ad alta temperatura, il modello ha prodotto diverse opzioni creative; Il team ne ha selezionati e sviluppati 4 su 30. Tempo totale: 10 minuti. Se fosse fatto a mano ci vorrebbe mezza giornata.

Caso 2 — Diritto, determinazione elevata. Il team legale della stessa azienda stava semplificando una clausola contrattuale. Volevano coerenza, non creatività; Con la bassa temperatura il modello ha fornito ogni volta quasi lo stesso riassunto conservativo. Pertanto, non è stata riscontrata alcuna incoerenza tra i diversi studi.

Caso 3 – “Perché è cambiato?” domanda. Un dipendente ha richiesto due volte la stessa bozza di email e ha ricevuto due risultati diversi; Pensò che fosse un "errore". In realtà, questa è una conseguenza naturale della casualità del modello. Una volta che il dipendente ha imparato a salvare la versione che gli piaceva e a dire "rendila come la precedente" se necessario, non ci sono stati problemi.

Il modello "capisce"?

Questa è la domanda più curiosa. Il modello ha appreso le relazioni statistiche tra le parole in modo così approfondito che finge di comprendere molti compiti. Ma non ha alcuna comprensione cosciente, intenzione o meccanismo di controllo della realtà. Produce "il seguito più probabile"; Non garantisce la produzione delle "informazioni più accurate". Questa distinzione è alla base del tema delle allucinazioni, di cui parleremo nelle prossime unità.

Errori comuni

Confondere il modello per un motore di ricerca. Il modello non effettua ricerche in Internet e non recupera risorse (a meno che non vi sia una funzione di ricerca speciale); Genera possibile testo dalla memoria. Quindi può inventare la fonte/figura.
Confondere la fluidità con la precisione. Solo perché il testo è bello e sicuro non significa che il suo contenuto sia corretto.
Aspettandosi ogni volta la stessa risposta. La casualità è naturale; Salva l'output che preferisci per le attività critiche.
Incollare testo molto lungo e non necessario e spingere il limite del token. La lunghezza aumenta i costi e può distrarre l'attenzione del modello; basta fornire il contesto necessario.

Attenzione: solo perché la modella parla fluentemente e con sicurezza non significa che parli correttamente. La fluidità è la conseguenza naturale della stima delle probabilità; La precisione è qualcosa che deve essere controllato separatamente e indipendentemente.

In sintesi

L’intelligenza artificiale generativa genera il testo passo dopo passo prevedendo il successivo frammento (token) più probabile; costruisce la frase pezzo per pezzo.
I token sono parti più piccole di parole e stabiliscono limiti sia di costo che di lunghezza.
Ad ogni passaggio, il modello produce un elenco di possibilità; L'impostazione della temperatura determina quanto stabile o creativo sarà l'output.
Il motivo delle risposte diverse alla stessa domanda è dovuto alla casualità inerente a questo processo.
La modella parla fluentemente, ma questo non garantisce che dica la verità; La fluidità e la precisione sono cose diverse.

Compito dell'applicazione

Assegna al tuo strumento di intelligenza artificiale lo stesso compito creativo (ad esempio "scrivi una breve nota di ringraziamento") due volte di seguito e osserva come differiscono i risultati. Quindi ripeti la stessa attività con il modello "Prompt potente", aggiungendo contesto e nota la differenza di qualità tra i due risultati.

Lista di controllo

[ ] Posso spiegare che il modello produce il testo "predicendo il prossimo pezzo possibile".
So cos'è [ ] Token e perché sta per costo/limite.
[ ] So distinguere tra i lavori che richiedono determinazione e quelli che richiedono creatività.
[ ] So che è normale ricevere risposte diverse alla stessa domanda.
[] Ho interiorizzato che la fluidità non è garanzia di accuratezza.