Keuntungan:
- Token boleh menerangkan secara intuitif konsep kebarangkalian dan ramalan
- Memahami mengapa model bahasa menghasilkan teks 'sedikit demi sedikit'
- Boleh mentafsir mengapa model kadangkala berkelakuan tegas dan kadangkala kreatif
Apabila anda menulis "perkara terbaik tentang Istanbul" ke dalam model bahasa, ia menghasilkan perenggan yang lancar dalam beberapa saat. Bagaimana ini berlaku? Adakah model itu benar-benar "berfikir" atau adakah mekanisme yang lebih mudah tetapi berkuasa di belakangnya? Dalam unit ini kami akan menerangkan cara AI generatif berfungsi, tanpa menggunakan persamaan teknikal tetapi dengan mewujudkan gerak hati yang betul. Intuisi ini adalah asas untuk semua yang berikut—terutamanya topik halusinasi, pengesahan dan penulisan segera yang baik. AI Generatif, iaitu, "kecerdasan buatan generatif", ialah nama biasa untuk alatan yang mencipta teks dari awal dan bukannya mencari dan mengambil jawapan sedia ada.
Idea Asas: Meramalkan Sekeping Seterusnya
Perkara yang mengejutkan ialah satu-satunya tugas asas yang dipelajari oleh model bahasa ialah "bahagian teks mana yang paling mungkin diikuti?" ialah menjawab soalan. Model tidak menyediakan ayat yang lengkap dan membentangkannya di hadapan anda. Sebaliknya, ia menghasilkan sepotong demi sepotong ayat, dari kiri ke kanan.
Begini cara ia berfungsi langkah demi langkah:
- Ia membaca teks (prompt) yang anda tulis.
- Meramalkan bahagian yang paling mungkin mengikuti teks ini.
- Menambah bahagian itu.
- Ia melihat sekali lagi pada teks yang baru dibentuk dan meneka bahagian yang paling berkemungkinan seterusnya.
- Berulang sehingga jawapan selesai.
Contoh: Jika anda memberi model teks "Ambil secawan panas apabila anda bangun pada waktu pagi...", kemungkinan sambungan yang paling mungkin ialah "teh" atau "kopi"; Bukan "asfalt". Model itu telah mempelajari kebarangkalian sedemikian daripada berjuta-juta teks. Kemudian dia menambah "teh", kemudian melihat ayat baru dan meneka bahagian seterusnya yang paling mungkin, dan seterusnya.
Dalam erti kata lain, pada setiap langkah, model mengambil langkah seterusnya dengan melihat apa yang telah ditulisnya. Itulah sebabnya ia kadangkala dipanggil "versi autolengkap yang sangat maju." Tetapi analogi ini tidak seharusnya memperkecilkan bakat; Pada skala yang betul, ramalan ini boleh menghasilkan keputusan yang kelihatan seperti penaakulan.
Token: Cebisan Kecil Kata
Model ini sebenarnya tidak berfungsi dengan "perkataan" penuh tetapi dengan kepingan yang lebih kecil dipanggil token. Token; Kadang-kadang ia adalah keseluruhan perkataan, kadang-kadang ia adalah sebahagian daripada perkataan, kadang-kadang ia adalah tanda baca.
- "buku" boleh menjadi satu token.
- "daripada buku kami" boleh dibahagikan kepada beberapa token seperti "buku", "s", "kami", "dari".
- Ruang dan tanda baca juga dikira sebagai token.
Perhatian: Token bukan hanya butiran teknikal. Kebanyakan alat AI mengecas mengikut bilangan token, dan panjang teks (tetingkap konteks) boleh diproses pada satu-satu masa juga terhad dalam token. Jadi "berapa lama anda menulis" adalah kos dan had langsung.
Kebarangkalian dan "Kehangatan": Keazaman atau Kreativiti?
Pada setiap langkah, model tidak menghasilkan satu jawapan pasti tetapi senarai kebarangkalian kemungkinan sambungan. Sebagai contoh, selepas perkataan "panas": teh 55%, kopi 35%, susu 7%, lain-lain 3%. Jadi mana satu yang dia pilih?
Di sini, tetapan yang dipanggil suhu mula dimainkan. Suhu ialah sejenis tombol kreativiti yang menentukan berapa banyak model akan "berisiko".
Tetapan
tingkah laku
Kesimpulan
Di mana ia berguna?
suhu rendah
Sentiasa mengambil pilihan yang paling mungkin
Stabil, boleh diulang
Ringkasan undang-undang, penerangan teknikal, pengekstrakan data
suhu sederhana
Pilihan yang seimbang
Semulajadi tetapi konsisten
E-mel am, draf laporan
suhu tinggi
Mencuba pilihan yang kurang berkemungkinan
Kreatif, pelbagai, tidak dapat diramalkan
Sumbangsaran, slogan, penghasilan nama
Ini juga menerangkan soalan yang sering ditanya: "Mengapa saya mendapat jawapan yang berbeza apabila saya bertanya soalan yang sama dua kali?" Kerana terdapat beberapa rambang dalam proses pemilihan; Model tidak melukis jawapan tetap daripada pangkalan data, ia menghasilkan semula setiap kali.
Gesaan Lemah / Gesaan Kuat
Mengetahui bahawa model berfungsi dengan "kebarangkalian" juga mengubah cara anda mengarahkannya. Lebih banyak konteks yang anda berikan, semakin besar kemungkinan sambungan yang betul.
Gesaan lemah: Tulis teks pengenalan.
Keputusan: Model menghasilkan teks yang paling "purata" dan generik kerana ia tidak tahu produk mana, khalayak mana, nada mana.
Gesaan kuat: Tulis teks promosi Instagram untuk kopi penapis baharu sebuah kafe kecil. Penonton: 25-35 tahun, penggemar kopi. Nada: mesra, pendek. Maksimum 3 ayat, 2 hashtag di hujungnya.
Keputusan: Teks yang boleh digunakan yang relevan kerana konteks mengecilkan kemungkinan.
Tiga Kes Mini
Kes 1 — Pemasaran, kepelbagaian tinggi. Satu pasukan mahukan 30 slogan untuk produk baharu. Dengan tetapan suhu tinggi, model menghasilkan pilihan kreatif yang berbeza; Pasukan memilih dan membangunkan 4 daripada 30. Jumlah masa: 10 minit. Jika ia dilakukan dengan tangan ia akan mengambil masa setengah hari.
Kes 2 - Undang-undang, keazaman yang tinggi. Pasukan undang-undang syarikat yang sama sedang memudahkan klausa kontrak. Mereka mahukan konsistensi, bukan kreativiti; Dengan suhu rendah model memberikan ringkasan konservatif yang hampir sama setiap kali. Oleh itu, tidak ada percanggahan antara percubaan yang berbeza.
Kes 3 — “Mengapa ia berubah?” soalan. Seorang pekerja meminta draf e-mel yang sama dua kali dan menerima dua keputusan berbeza; Dia fikir ia adalah satu "kesilapan". Malah, ini adalah akibat semula jadi daripada kerawak model. Sebaik sahaja pekerja belajar untuk menyimpan versi yang dia suka dan sebut "jadikan ia seperti yang sebelumnya" jika perlu, tiada masalah.
Adakah model "mendapatkannya"?
Ini adalah soalan yang paling ingin tahu. Model ini telah mempelajari hubungan statistik antara perkataan dengan begitu teliti sehingga ia berpura-pura memahami banyak tugas. Tetapi ia tidak mempunyai pemahaman sedar, niat atau mekanisme kawalan realiti. Ia menghasilkan "sekuel yang paling mungkin"; Ia tidak menjamin menghasilkan "maklumat yang paling tepat". Perbezaan ini adalah asas kepada subjek halusinasi, yang akan kita bincangkan dalam unit seterusnya.
Kesilapan Biasa
Kesilapan biasa
- Tersalah model sebagai enjin carian. Model tidak mencari di internet dan mendapatkan semula sumber (melainkan terdapat ciri carian khas); Menghasilkan teks yang mungkin daripada ingatan. Jadi dia boleh membuat sumber / angka.
- Tersilap kefasihan untuk ketepatan. Hanya kerana teks itu cantik dan yakin tidak bermakna kandungannya betul.
- Mengharapkan jawapan yang sama setiap masa. Keacakan adalah semula jadi; Simpan output yang anda suka untuk tugasan kritikal.
- Menampal teks yang sangat panjang dan tidak perlu dan menolak had token. Panjang kedua-duanya meningkatkan kos dan boleh mengganggu tumpuan model; hanya berikan konteks yang diperlukan.
Perhatian: Hanya kerana model bercakap dengan lancar dan yakin tidak bermakna dia bercakap dengan betul. Kefasihan ialah akibat semula jadi daripada anggaran kebarangkalian; Ketepatan adalah sesuatu yang mesti diperiksa secara berasingan dan bebas.
Secara ringkasnya
- AI Generatif menjana teks langkah demi langkah dengan meramalkan serpihan (token) yang paling mungkin seterusnya; membina ayat sepotong demi sepotong.
- Token ialah bahagian perkataan yang lebih kecil dan menetapkan kedua-dua kos dan had panjang.
- Pada setiap langkah, model menghasilkan senarai kemungkinan; Tetapan suhu menentukan sejauh mana stabil atau kreatif output itu.
- Sebab jawapan yang berbeza untuk soalan yang sama adalah disebabkan oleh kerawak yang wujud dalam proses ini.
- Model itu bercakap dengan lancar, tetapi ini tidak menjamin bahawa dia bercakap benar; Kelancaran dan ketepatan adalah perkara yang berbeza.
Tugas Permohonan
Berikan alat AI anda tugas kreatif yang sama (cth. “tulis nota terima kasih cepat”) dua kali berturut-turut dan perhatikan bagaimana output berbeza. Kemudian ulangi tugas yang sama dengan templat "Gesaan berkuasa", menambah konteks dan perhatikan perbezaan kualiti antara kedua-dua hasil.
Senarai semak
- [ ] Saya boleh menerangkan bahawa model menghasilkan teks dengan "meramalkan kemungkinan bongkah seterusnya".
- Saya tahu apa itu [ ] Token dan mengapa ia bermaksud kos/had.
- [ ] Saya boleh membezakan antara pekerjaan yang memerlukan keazaman dan yang memerlukan kreativiti.
- [ ] Saya tahu adalah perkara biasa untuk mendapatkan jawapan yang berbeza untuk soalan yang sama.
- [ ] Saya telah memahami bahawa kefasihan bukanlah jaminan ketepatan.