Keuntungan:
- Token secara intuitif dapat menjelaskan konsep probabilitas dan prediksi
- Memahami mengapa model bahasa menghasilkan teks 'sedikit demi sedikit'
- Dapat mengartikan mengapa model terkadang berperilaku tegas dan terkadang kreatif
Saat Anda menulis "hal terbaik tentang Istanbul" ke dalam model bahasa, ini akan menghasilkan paragraf yang lancar dalam beberapa detik. Bagaimana ini bisa terjadi? Apakah model tersebut benar-benar "berpikir" atau adakah mekanisme yang lebih sederhana namun kuat di baliknya? Pada unit ini kami akan menjelaskan cara kerja AI generatif, tanpa membahas persamaan teknis tetapi dengan menetapkan intuisi yang tepat. Intuisi ini adalah dasar untuk segala sesuatu yang mengikutinya—terutama topik halusinasi, verifikasi, dan penulisan cepat yang baik. AI generatif, yaitu, "kecerdasan buatan generatif", adalah nama umum untuk alat yang membuat teks dari awal alih-alih mencari dan mengambil jawaban yang sudah ada.
Ide Dasar: Memprediksi Potongan Berikutnya
Hal yang mengejutkan adalah bahwa satu-satunya tugas dasar yang dipelajari model bahasa adalah “bagian teks mana yang paling mungkin diikuti?” adalah menjawab pertanyaan itu. Model tidak menyiapkan kalimat lengkap dan menyajikannya di depan Anda. Sebaliknya, ia menghasilkan kalimat sepotong demi sepotong, dari kiri ke kanan.
Begini cara kerjanya langkah demi langkah:
- Bunyinya teks (prompt) yang Anda tulis.
- Memprediksi bagian yang paling mungkin mengikuti teks ini.
- Menambahkan bagian itu.
- Ia melihat kembali teks yang baru dibentuk dan menebak bagian berikutnya yang paling mungkin.
- Ulangi sampai jawabannya selesai.
Contoh: Jika Anda memberi model teks "Minumlah secangkir panas saat Anda bangun di pagi hari...", kemungkinan besar kelanjutannya adalah "teh" atau "kopi"; Bukan "aspal". Model tersebut telah mempelajari probabilitas tersebut dari jutaan teks. Lalu dia menambahkan "teh", lalu melihat kalimat baru dan menebak bagian berikutnya yang paling mungkin, dan seterusnya.
Dengan kata lain, pada setiap langkah, model mengambil langkah berikutnya dengan melihat apa yang telah ditulisnya. Itu sebabnya terkadang disebut sebagai "pelengkapan otomatis versi sangat canggih". Namun analogi ini tidak boleh meremehkan bakat; Pada skala yang tepat, prediksi ini dapat membuahkan hasil yang terlihat seperti penalaran.
Token: Potongan Kecil dari Sebuah Kata
Model ini sebenarnya tidak bekerja dengan "kata-kata" penuh tetapi dengan potongan-potongan kecil yang disebut token. Sebuah tanda; Terkadang berupa kata utuh, terkadang merupakan bagian dari sebuah kata, terkadang berupa tanda baca.
- "buku" bisa menjadi satu token.
- "dari buku kami" dapat dibagi menjadi beberapa token seperti "buku", "s", "milik kami", "dari".
- Spasi dan tanda baca juga dihitung sebagai token.
Perhatian: Token bukan sekedar detail teknis. Sebagian besar alat AI mengenakan biaya berdasarkan jumlah token, dan panjang teks (jendela konteks) yang dapat diproses oleh model dalam satu waktu juga dibatasi dalam token. Jadi "berapa lama Anda menulis" adalah biaya dan batasan langsung.
Probabilitas dan “Kehangatan”: Tekad atau Kreativitas?
Pada setiap langkah, model tidak menghasilkan satu jawaban pasti, melainkan daftar kemungkinan kelanjutan yang mungkin. Misalnya setelah kata “panas”: teh 55%, kopi 35%, susu 7%, lainnya 3%. Jadi yang mana yang dia pilih?
Di sini, pengaturan yang disebut suhu ikut berperan. Suhu adalah semacam tombol kreativitas yang menentukan seberapa besar "risiko" model.
Pengaturan
perilaku
Kesimpulan
Dimana manfaatnya?
suhu rendah
Selalu mengambil pilihan yang paling mungkin
Stabil, dapat diulang
Ringkasan hukum, deskripsi teknis, ekstraksi data
suhu sedang
Pilihan yang seimbang
Alami tetapi konsisten
Email umum, draf laporan
suhu tinggi
Mencoba opsi yang lebih kecil kemungkinannya
Kreatif, beragam, tidak dapat diprediksi
Brainstorming, slogan, produksi nama
Hal ini juga menjelaskan pertanyaan yang sering diajukan: “Mengapa saya mendapat jawaban berbeda ketika saya menanyakan pertanyaan yang sama dua kali?” Karena ada beberapa keacakan dalam proses pemilihan; Model tidak mengambil jawaban tetap dari database, melainkan mereproduksinya setiap saat.
Prompt Lemah / Prompt Kuat
Mengetahui bahwa model bekerja dengan "probabilitas" juga mengubah cara Anda menginstruksikannya. Semakin banyak konteks yang Anda berikan, semakin besar kemungkinan kelanjutan yang benar.
Perintah lemah: Tulis teks pengantar.
Hasil: Model menghasilkan teks paling "rata-rata" dan umum karena tidak mengetahui produk yang mana, audiens yang mana, nada yang mana.
Perintah kuat: Tulis teks promosi Instagram untuk kopi saring baru di kafe kecil. Penonton: 25-35 tahun, pecinta kopi. Nada: ramah, pendek. Maksimal 3 kalimat, 2 hashtag di akhir.
Hasil: Teks yang dapat digunakan dan relevan karena konteksnya mempersempit kemungkinan.
Tiga Kasus Mini
Kasus 1 — Pemasaran, variasi tinggi. Sebuah tim menginginkan 30 slogan untuk produk baru. Dengan pengaturan suhu tinggi, model ini menghasilkan pilihan kreatif yang berbeda; Tim memilih dan mengembangkan 4 dari 30. Total waktu: 10 menit. Jika dilakukan dengan tangan maka akan memakan waktu setengah hari.
Kasus 2 — Hukum, tekad yang tinggi. Tim hukum perusahaan yang sama sedang menyederhanakan klausul kontrak. Mereka menginginkan konsistensi, bukan kreativitas; Dengan suhu rendah, model memberikan ringkasan konservatif yang hampir sama setiap saat. Dengan demikian, tidak terjadi inkonsistensi antar uji coba yang berbeda.
Kasus 3 — “Mengapa berubah?” pertanyaan. Seorang karyawan meminta draf email yang sama dua kali dan menerima dua hasil berbeda; Dia pikir itu adalah sebuah "kesalahan". Faktanya, ini adalah konsekuensi wajar dari keacakan model. Setelah karyawan tersebut belajar menyimpan versi yang disukainya dan mengatakan "jadikan seperti versi sebelumnya" jika perlu, tidak ada masalah.
Apakah modelnya "mengerti"?
Ini adalah pertanyaan yang paling membuat penasaran. Model tersebut telah mempelajari hubungan statistik antar kata secara menyeluruh sehingga model tersebut berpura-pura memahami banyak tugas. Namun ia tidak memiliki pemahaman sadar, niat, atau mekanisme pengendali realitas. Ini menghasilkan "sekuel yang paling mungkin"; Ini tidak menjamin menghasilkan "informasi paling akurat". Pembedaan ini menjadi dasar pokok bahasan halusinasi yang akan kita bahas pada unit selanjutnya.
Kesalahan Umum
Kesalahan umum
- Salah mengira model sebagai mesin pencari. Model tidak mencari di internet dan mengambil sumber daya (kecuali ada fitur pencarian khusus); Menghasilkan kemungkinan teks dari memori. Jadi dia bisa membuat sumber/gambarnya.
- Salah mengira kefasihan sebagai akurasi. Hanya karena teksnya indah dan percaya diri bukan berarti isinya benar.
- Mengharapkan jawaban yang sama setiap saat. Keacakan itu wajar; Simpan keluaran yang Anda suka untuk tugas-tugas penting.
- Menempelkan teks yang sangat panjang dan tidak perlu dan melampaui batas token. Panjangnya meningkatkan biaya dan dapat mengalihkan fokus model; berikan saja konteks yang diperlukan.
Perhatian: Hanya karena model berbicara dengan lancar dan percaya diri tidak berarti dia berbicara dengan benar. Kefasihan adalah konsekuensi alami dari estimasi probabilitas; Akurasi adalah sesuatu yang harus diperiksa secara terpisah dan independen.
Singkatnya
- AI generatif menghasilkan teks selangkah demi selangkah dengan memprediksi fragmen (token) berikutnya yang paling mungkin terjadi; menyusun kalimat sepotong demi sepotong.
- Token adalah bagian kata yang lebih kecil dan menetapkan batas biaya dan panjangnya.
- Pada setiap langkah, model menghasilkan daftar kemungkinan; Pengaturan suhu menentukan seberapa stabil atau kreatif hasilnya.
- Alasan perbedaan jawaban terhadap pertanyaan yang sama adalah karena keacakan yang melekat dalam proses ini.
- Model tersebut berbicara dengan lancar, tetapi ini tidak menjamin bahwa dia mengatakan yang sebenarnya; Kefasihan dan akurasi adalah hal yang berbeda.
Tugas Aplikasi
Berikan alat AI Anda tugas kreatif yang sama (misalnya “menulis ucapan terima kasih singkat”) dua kali berturut-turut dan amati perbedaan keluarannya. Kemudian ulangi tugas yang sama dengan templat “Permintaan yang kuat”, tambahkan konteks, dan perhatikan perbedaan kualitas antara kedua hasil.
Daftar periksa
- [ ] Saya dapat menjelaskan bahwa model menghasilkan teks dengan "memprediksi kemungkinan potongan berikutnya".
- Saya tahu apa itu [ ] Token dan mengapa itu berarti biaya/batas.
- [ ] Saya dapat membedakan antara pekerjaan yang membutuhkan tekad dan pekerjaan yang membutuhkan kreativitas.
- [ ] Saya tahu bahwa mendapatkan jawaban berbeda untuk pertanyaan yang sama adalah hal yang wajar.
- [ ] Saya telah menginternalisasikan bahwa kelancaran bukanlah jaminan keakuratan.