Jak działa generatywna sztuczna inteligencja?

Zyski:

• Token może intuicyjnie wyjaśnić pojęcia prawdopodobieństwa i przewidywania
• Rozumie, dlaczego model języka tworzy tekst fragmentaryczny
• Potrafi zinterpretować, dlaczego model czasami zachowuje się zdecydowanie, a czasami kreatywnie

Kiedy napiszesz „najlepszą rzecz w Stambule” w modelu językowym, w ciągu kilku sekund powstanie płynny akapit. Jak to się dzieje? Czy model naprawdę „myśli”, czy też kryje się za nim znacznie prostszy, ale potężny mechanizm? W tej części wyjaśnimy, jak działa generatywna sztuczna inteligencja, bez wchodzenia w równania techniczne, ale poprzez ustalenie właściwej intuicji. Ta intuicja jest podstawą wszystkiego, co następuje – zwłaszcza tematów halucynacji, weryfikacji i dobrego szybkiego pisania. Generatywna sztuczna inteligencja, czyli „generatywna sztuczna inteligencja”, to potoczna nazwa narzędzi, które tworzą tekst od zera, zamiast znajdować i pobierać istniejącą odpowiedź.

Podstawowa idea: przewidywanie następnego utworu

Zaskakujące jest to, że jedynym podstawowym zadaniem, jakiego uczy się model językowy, jest „która część tekstu najprawdopodobniej nastąpi?” jest udzielenie odpowiedzi na pytanie. Modelka nie przygotowuje pełnego zdania i nie prezentuje go przed Tobą. Zamiast tego tworzy zdanie kawałek po kawałku, od lewej do prawej.

Oto jak to działa krok po kroku:

1. Czyta tekst (podpowiedź), który piszesz.
2. Przewiduje najbardziej prawdopodobną część, która pojawi się po tym tekście.
3. Dodaje ten kawałek.
4. Patrzy ponownie na nowo utworzony tekst i zgaduje następny najbardziej prawdopodobny fragment.
5. Powtarza się, aż do zakończenia odpowiedzi.

Przykład: Jeśli dasz modelowi tekst „Napij się gorącej filiżanki, gdy obudzisz się rano…”, najbardziej prawdopodobną kontynuacją będzie „herbata” lub „kawa”; Nie „asfalt”. Model nauczył się takich prawdopodobieństw z milionów tekstów. Następnie dodaje „herbatę”, następnie patrzy na nowe zdanie i odgaduje następną najbardziej prawdopodobną część i tak dalej.

Innymi słowy, na każdym kroku model wykonuje kolejny krok, sprawdzając, co zapisał. Dlatego czasami nazywa się ją „bardzo zaawansowaną wersją autouzupełniania”. Ale ta analogia nie powinna umniejszać talentu; Przy odpowiedniej skali przewidywanie to może dawać wyniki przypominające rozumowanie.

Żeton: Małe kawałki słowa

Model faktycznie działa nie z pełnymi „słowami”, ale z mniejszymi fragmentami zwanymi żetonami. Znak; Czasami jest to całe słowo, czasami część słowa, czasami jest to znak interpunkcyjny.

• „książka” może być pojedynczym tokenem.
• „z naszych ksiąg” można podzielić na kilka tokenów, takich jak „książka”, „s”, „nasz”, „z”.
• Spacje i znaki interpunkcyjne również liczą się jako tokeny.

Uwaga: Token to nie tylko szczegół techniczny. Większość narzędzi AI pobiera opłaty na podstawie liczby tokenów, a długość modeli tekstowych (okna kontekstowego), które modele tekstowe (okna kontekstowe) mogą przetwarzać jednocześnie, jest również ograniczona w przypadku tokenów. Zatem „jak długo piszesz” jest bezpośrednim kosztem i limitem.

Prawdopodobieństwo i „ciepło”: determinacja czy kreatywność?

Na każdym etapie model nie daje jednej ostatecznej odpowiedzi, ale listę prawdopodobieństwa możliwych kontynuacji. Przykładowo po słowie „gorący”: herbata 55%, kawa 35%, mleko 7%, pozostałe 3%. Którego zatem wybiera?

Tutaj wchodzi w grę ustawienie zwane temperaturą. Temperatura to swego rodzaju pokrętło kreatywności, które określa, jak bardzo model będzie „ryzykować”.

Ustawienie

zachowanie

Wniosek

Gdzie się to przydaje?

niska temperatura

Zawsze wybiera najbardziej prawdopodobną opcję

Stabilny, powtarzalny

Streszczenie prawne, opis techniczny, ekstrakcja danych

średnia temperatura

Zrównoważony wybór

Naturalne, ale spójne

Ogólny e-mail, wersja robocza raportu

wysoka temperatura

Próbuje mniej prawdopodobnych opcji

Kreatywni, różnorodni, nieprzewidywalni

Burza mózgów, slogan, produkcja nazwy

Wyjaśnia to również często zadawane pytanie: „Dlaczego otrzymuję różne odpowiedzi, gdy zadaję dwa razy to samo pytanie?” Ponieważ w procesie selekcji występuje pewna losowość; Model nie wyciąga ustalonej odpowiedzi z bazy danych, lecz odtwarza ją za każdym razem.

Słaba podpowiedź/silna podpowiedź

Świadomość, że model działa z „prawdopodobieństwem”, zmienia także sposób jego instruowania. Im więcej kontekstu podasz, tym większe prawdopodobieństwo, że będzie to właściwa kontynuacja.

Słaba zachęta: napisz tekst wprowadzający.

Wynik: model generuje najbardziej „przeciętny” i ogólny tekst, ponieważ nie wie, jaki produkt, dla jakich odbiorców i jaki ton.

Mocna podpowiedź: napisz tekst promocyjny na Instagramie dotyczący nowej kawy filtrowanej do małej kawiarni. Odbiorcy: 25-35 lat, miłośnik kawy. Ton: przyjazny, krótki. Maksymalnie 3 zdania, 2 hashtagi na końcu.

Wynik: użyteczny tekst, który jest odpowiedni, ponieważ kontekst zawęża możliwości.

Trzy mini etui

Przypadek 1 — Marketing, duża różnorodność. Zespół potrzebował 30 sloganów na nowy produkt. Dzięki ustawieniu wysokiej temperatury model zapewniał różne, kreatywne możliwości; Zespół wybrał i opracował 4 z 30. Czas całkowity: 10 minut. Gdyby ktoś zrobił to ręcznie, zajęłoby to pół dnia.

Przypadek 2 – Prawo, wysoka determinacja. Zespół prawny tej samej firmy upraszczał klauzulę umowną. Chcieli konsekwencji, a nie kreatywności; Przy niskiej temperaturze model za każdym razem dawał niemal takie same, konserwatywne podsumowanie. Zatem nie było żadnej niespójności pomiędzy różnymi próbami.

Przypadek 3 – „Dlaczego to się zmieniło?” pytanie. Pracownik dwukrotnie poprosił o tę samą wersję roboczą wiadomości e-mail i otrzymał dwa różne wyniki; Uważał, że to „pomyłka”. W istocie jest to naturalna konsekwencja losowości modelu. Kiedy już pracownik nauczył się zapisywać wersję, która mu się podoba i w razie potrzeby mówić „zrób tak jak poprzednio”, nie było problemu.

Czy model „rozumie”?

To najciekawsze pytanie. Model tak dokładnie nauczył się zależności statystycznych między słowami, że udaje, że rozumie wiele zadań. Nie ma jednak świadomego zrozumienia, intencji ani mechanizmu kontrolującego rzeczywistość. Tworzy „najbardziej prawdopodobną kontynuację”; Nie gwarantuje uzyskania „najdokładniejszych informacji”. To rozróżnienie stanowi podstawę tematu halucynacji, który omówimy w kolejnych rozdziałach.

Typowe błędy

Typowe błędy

• Mylenie modelu z wyszukiwarką. Model nie przeszukuje Internetu i nie pobiera zasobów (chyba że istnieje specjalna funkcja wyszukiwania); Generuje możliwy tekst z pamięci. Może więc wymyślić źródło/figurę.
• Mylisz płynność z dokładnością. To, że tekst jest piękny i pewny, nie oznacza, że ​​jego treść jest prawidłowa.
• Za każdym razem oczekując tej samej odpowiedzi. Losowość jest naturalna; Zapisz dane wyjściowe, które lubisz, do kluczowych zadań.
• Wklejanie bardzo długiego, niepotrzebnego tekstu i przesuwanie limitu tokenów. Długość zarówno zwiększa koszty, jak i może odwrócić uwagę modelu; po prostu podaj niezbędny kontekst.

Uwaga: To, że modelka mówi płynnie i pewnie, nie znaczy, że mówi poprawnie. Płynność jest naturalną konsekwencją szacowania prawdopodobieństwa; Dokładność jest czymś, co należy sprawdzić osobno i niezależnie.

Podsumowując

• Generatywna sztuczna inteligencja generuje tekst krok po kroku, przewidując kolejny najbardziej prawdopodobny fragment (token); konstruuje zdanie kawałek po kawałku.
• Tokeny to mniejsze części słów, które wyznaczają limity zarówno kosztu, jak i długości.
• Na każdym etapie model generuje listę możliwości; Ustawienie temperatury określa, jak stabilny i kreatywny będzie wydruk.
• Powodem różnych odpowiedzi na to samo pytanie jest losowość związana z tym procesem.
• Modelka mówi płynnie, ale to nie gwarantuje, że mówi prawdę; Płynność i dokładność to dwie różne rzeczy.

Zadanie aplikacji

Powierz swojemu narzędziu AI to samo kreatywne zadanie (np. „napisz krótkie podziękowanie”) dwa razy z rzędu i obserwuj, jak różnią się wyniki. Następnie powtórz to samo zadanie z szablonem „Potężny monit”, dodając kontekst i zwróć uwagę na różnicę w jakości pomiędzy obydwoma wynikami.

Lista kontrolna

• [ ] Mogę wyjaśnić, że model tworzy tekst, „przewidując następny możliwy fragment”.
• Wiem, czym jest [ ] Token i dlaczego oznacza koszt/limit.
• [ ] Potrafię rozróżnić zawody wymagające determinacji od tych wymagających kreatywności.
• [ ] Wiem, że otrzymywanie różnych odpowiedzi na to samo pytanie jest rzeczą normalną.
• [ ] Zrozumiałem, że płynność nie jest gwarancją dokładności.