Introduksjon til kunstig intelligens og spørsmål: Hvordan modellen "tenker"

Gevinster:

Forklar hvordan den store språkmodellen fungerer ved å forutsi neste ord og hva dette betyr for rask skriving
Han kan vise hvorfor Prompt bestemmer utskriftskvaliteten så mye med et eksempel fra sitt eget arbeid.
Ved å skille styrker og svakheter ved modellen kan man bestemme hvilke oppgaver som skal brukes på en sikker måte.

Den beste måten å virkelig lære å skrive spørsmål er å først forstå hvordan verktøyet fungerer. I denne enheten skal vi se den grunnleggende logikken til den store språkmodellen (LLM forkortet; det vil si det kunstige intelligenssystemet som produserer tekst), hvorfor det er så nyttig i ditt daglige arbeid og hvor det har sine grenser. Spørsmål skrevet uten dette grunnlaget på plass fører ofte til spørsmålet "hvorfor gir de noen ganger gode resultater og noen ganger forferdelige resultater?" lar deg være alene med spørsmålet. Denne usikkerheten vil stort sett forsvinne når denne enheten er ferdigstilt.

Hva gjør egentlig en stor språkmodell?

I sin enkleste definisjon er den store språkmodellen et system som forutsier det mest sannsynlige ordet som vil følge teksten du gir. Ved å undersøke milliarder av setninger har modellen lært "hvilket ord kommer etter hvilket ord"-mønsteret. Når du starter en setning, ser modellen på hva som er skrevet så langt og genererer den mest sannsynlige fortsettelsen, legger deretter det genererte ordet til input og forutsier det neste. Denne syklusen fortsetter til svaret er fullført.

La oss tydeliggjøre begrepet token som brukes her: token er den minste enheten som modellen bryter ned teksten i; Det er omtrent på størrelse med et ord eller en del av et ord. Modellen går ikke ord for ord, men token for token. Den praktiske konsekvensen for deg er at modellen ikke er et menneske som «forstår» intensjonen din, men en veldig kraftig prediksjonsmaskin som statistisk velger den mest passende fortsettelsen for teksten du gir den.

Den viktigste implikasjonen av denne definisjonen er at den kraftigste determinanten for utdataretningen er teksten du gir som input. Så spørsmålet ditt. Modellen trekker ikke et ferdig svar fra en database, utfører ikke et live-søk på internett og kopierer ikke sider (med mindre annet er spesifikt oppgitt). Den produserer bare tekst som passer best til konteksten du gir den. Et godt innspill er den mest avgjørende forutsetningen for en god utgang.

Hvorfor "Samme modell, forskjellig resultat"?

Modellen bruker også en liten tilfeldighetsmargin ved å velge det mest sannsynlige ordet hver gang; Derfor, når du spør den samme ledeteksten to ganger, kan det hende du ikke får nøyaktig samme setninger. Dette er ikke en feil, det er en del av designet. Din jobb er å tegne et rammeverk som er tydelig nok til å ikke overlate resultatet til tilfeldighetene. Jo klarere rammeverket er, jo nærmere og mer nyttige vil resultatene av to forskjellige eksperimenter være.

Trinn for trinn: hvordan går en forespørsel gjennom modellen?

Leser innspillet. Hvert ord du skriver er en ledetråd som styrer spådommen. Når du sier «som en senioradvokat», gjør modellen tekster nærmere den tonen mer sannsynlig.
Veier konteksten. Bakgrunnen, begrensningene og eksemplene du gir begrenser estimatet. Hvis konteksten er tom, fyller modellen ut de tomme feltene med sine egne forutsetninger.
Den produserer ord for ord. Hver token den produserer blir input for den neste; så retningen du gir i begynnelsen overføres til hele svaret.
Han stopper. Den avbryter produksjonen når oppgaven er fullført eller når lengden du spesifiserte.

Tre minietuier: Spørsmålsforskjell i tall

Case 1 - Markedsføringspersonell, e-postemne. Da en markedsføringsekspert sa "foreslå et emne for kampanjen", fikk han 5 generelle titler og likte ikke noen av dem; Han brukte 20 minutter på å korrigere det for hånd. Dagen etter, da han sa: "Målgruppen er SMB-eiere i alderen 30-45 år, produktet er skyregnskapsprogramvare, 6 enheter, hver med maksimalt 45 tegn, spennende men undervurdert," brukte han direkte 4 av de 6 overskriftene. Varigheten gikk ned fra 20 minutter til 4 minutter.

Case 2 — Personale, annonsetekst. En HR-spesialist mottok en tekst med oppfordringen "skriv en programvareutviklerjobb". Da vi la til det faktiske språket til bedriften (3-setnings kulturbeskrivelse), 4 obligatoriske kvalifikasjoner og begrensningen "skriv lønnsintervallet tydelig" i ledeteksten, sank andelen ukvalifiserte søkere til annonsen merkbart i neste annonse fordi teksten tydelig etablerte forventningen.

Sak 3 — Regnskap, rapportsammendrag. Da en regnskapsfører sa at han "oppsummerte" en 12-siders utgiftsrapport, utelot modellen viktige elementer. Da han sa: «Fra denne rapporten er de 5 høyeste utgiftspostene tabellert med prosentvis endring sammenlignet med forrige måned», fikk han akkurat den strukturen han ville ta på ledermøtet. Innholdet var det samme, instruksjonene var forskjellige.

Svak forespørsel / sterk forespørsel

Samme jobb, med to forskjellige instruksjoner:

Svak melding:

Oppsummer denne teksten.[tekst]

Kraftig ledetekst:

Oppsummer møtenotatet nedenfor som skal presenteres for styret. - Maksimalt 5 varer. - Hvert element bør inneholde en beslutning eller handling; Hopp over chatdetaljene. - Skriv navnet i parentes for handlinger som den ansvarlige er kjent for. - Bruk et rent, formelt språk. Tekst: [tekst]

Den andre ledeteksten forteller modellen hva den skal produsere, for hvem, i hvilket format og hva den skal hoppe over. Modellen gjør ikke "tenkningen", men snarere produksjonen av den riktige fortsettelsen; Du tegner rammen for den fortsettelsen.

Fire kopierbare maler

Fire enkle startmaler for raskt å sette logikken i denne enheten ut i livet. Fyll inn parentes med din egen informasjon.

1) Rammeverk for å styrke en forespørsel:

Jeg vil at du skal gjøre denne oppgaven: [oppgave]For hvem: [kjøper/publikum]I hvilket format: [lengde, struktur]Hva du skal hoppe over: [hva du ikke vil ha]

2) Sjekke grensene til modellen (verifiseringsrefleks):

Hvis det er faktiske påstander (nummer, dato, navn, kilde) i svaret ditt nedenfor, trekk ut hver som en egen liste og merk den som "må verifiseres". Svar: [utdata fra modellen]

3) Prøv den samme oppgaven på to nivåer:

Forklar følgende emne to ganger:A) Til en helt fremmed, i dagligspråk.B) Til en ekspert på området, i tekniske termer.Tema: [emne]

4) Få modellen til å innse usikkerheten:

Før du gjør forespørselen jeg gir deg, still meg 3 spørsmål om punktene du synes mangler eller er uklare; deretter produsere i henhold til mine svar.Request: [request]

Styrker og svakheter ved modellen

Emne

Modellen er sterk

Modellen er svak / forsiktig

språksaker

Skrive, oppsummere, oversette, endre tone

Veldig tekniske/nisje-sjargongfeil

struktur

Konverter tekst til tabell, liste, skisse

Opprettholde konsistens i lang tekst

idé

Brainstorming, generere alternativer

Garanterer hva som er "riktig"

sak

Generell informasjon, definisjon, forklaring

Aktuelle/nøyaktige data, nummer, dato, kilde

resonnement

Bra hvis veiledet trinn for trinn

Ikke gjør komplekse beregninger feil i det stille

Tips: Se modellen ikke som en "kunnskapsekspert", men som en "assistent som skriver veldig fort, leser mye, men alt han sier må verifiseres." Denne visningen justerer både forventningene dine og kontrollvanen din.

Oppmerksomhet: Modellen kan skrive informasjon på et svært selvsikkert språk, men dette betyr ikke at informasjonen er korrekt. Verifiser alltid saklige detaljer uavhengig, spesielt nummer, navn, dato, lov og kilde. Vi vil komme tilbake til dette emnet i detalj i del 11.

Vanlige feil

Forveksler modellen med et menneske. Å gi ufullstendige instruksjoner ved å si "De vil forstå uansett". Modellen leser ikke intensjonen din; Den behandler bare det du skriver.
Gi opp på ett forsøk. Hvis den første utgangen er dårlig, skyld på verktøyet. Men mesteparten av tiden ligger problemet i instruksjonene og en liten korrigering kan endre resultatet.
Bruke fakta uten å verifisere dem. Å akseptere en statistikk eller kilde produsert av modellen uten tvil er den mest risikable vanen.
Legge inn konfidensielle data uten å tenke. Lim inn sensitiv informasjon uten å vite hvordan verktøyet fungerer. Det er regler for dette, som vi vil se i personvernenheten.
Misforstå tilfeldighet for en feil. Tolking av to forskjellige resultater som "kjøretøyet er ødelagt"; Men når du øker klarheten, konvergerer resultatene.

Oppsummert

Den store språkmodellen fungerer ved å forutsi ordet (token) som mest sannsynlig vil dukke opp neste gang i teksten du gir; Han velger ikke ferdige svar.
Den kraftigste faktoren som bestemmer retningen på utgangen er forespørselen du gir som input.
Sterk i modellspråk, struktur og forestillinger; er forsiktig med presise fakta, aktuelle data og komplekse beregninger.
På grunn av liten tilfeldighet kan samme forespørsel gi forskjellige resultater; Etter hvert som klarheten øker, blir resultatene mer konsistente.
Modellen er ikke «en ekspert som er tro mot alt han sier», men «en assistent som er rask, men som må verifiseres».

Søknadsoppgave

Velg en skriveoppgave fra din daglige jobb som du gjør regelmessig (for eksempel en e-post, et sammendrag eller en liste). Skriv først den enkleste versjonen med én setning, gi den til et AI-verktøy og lagre utdataene. Så til samme oppgave; Legg til svarene på spørsmålene "for hvem, i hvilket format, i hvilken lengde og hva du skal hoppe over" og still dem igjen. Plasser de to utgangene side om side og noter i én setning hvilken tillegg som forbedrer resultatet mest.

sjekkliste

[ ] Jeg innså at modellen «forutså neste ord» og ikke leste intensjonen min.
[ ] Jeg innså at kvaliteten på resultatet i stor grad avhenger av kvaliteten på ledeteksten.
[ ] Jeg kan skille mellom oppgavetyper der modellen er sterk og svak.
[ ] Jeg forstår at jeg må bekrefte faktaopplysninger (nummer, dato, navn, kilde).
[ ] Jeg kan forklare hvorfor samme forespørsel kan gi forskjellige resultater.