Keuntungan:
- Dapat menjelaskan apa itu halusinasi dan mengapa hal itu terjadi
- Dapat menentukan kapan keluaran AI perlu divalidasi
- Dapat menerapkan teknik praktis yang meningkatkan keandalan
Mungkin topik literasi AI yang paling penting ada di unit ini: Pembuatan model, yaitu halusinasi. Memahami istilah ini adalah tindakan pencegahan keselamatan paling dasar bagi siapa pun yang menggunakan AI. Karena pengguna yang tidak mengenali halusinasinya mungkin salah mengira informasi palsu sebagai benar dan mentransfernya ke keputusan bisnis, komunikasi pelanggan, atau dokumen resmi. Dalam unit ini, Anda akan mempelajari apa itu halusinasi, mengapa halusinasi tidak dapat dihindari, dan bagaimana cara melindungi diri dari halusinasi.
Apa itu halusinasi?
Halusinasi adalah ketika model bahasa menghasilkan informasi yang sebenarnya tidak ada dalam bahasa yang lancar dan percaya diri, seolah-olah itu benar. Model tersebut tidak bermaksud berbohong; Dengan hanya menghasilkan "kelanjutan yang paling mungkin", hal ini menciptakan sebuah teks yang tampaknya mungkin terjadi namun sebenarnya salah.
Contoh: Jika Anda memberi tahu model "Rekomendasikan sumber akademis tentang topik Semuanya muncul dalam format yang benar dan meyakinkan; Namun sumber tersebut sepenuhnya khayalan. Ini adalah contoh klasik halusinasi.
Mengapa Itu Terjadi? (Ingat Unit Dua)
Sumber halusinasinya terletak pada prinsip kerja model. Model bukanlah sebuah "ensiklopedia fakta"; Ini adalah "mesin probabilitas". Tugasnya adalah menghasilkan kelanjutan pertanyaan Anda sehalus mungkin; Ini bukan tentang memberikan informasi yang paling akurat. Model:
- Dia tidak mengetahui apa yang tidak dia ketahui; Ketika dihadapkan pada bagian yang kosong, dia cenderung mengisi jawaban yang mungkin daripada mengatakan "Saya tidak tahu".
- Ia tidak memiliki mekanisme untuk mengendalikan realitas; Ia tidak memeriksa apakah teks yang dihasilkannya cocok dengan dunia.
- Kefasihan dan akurasi adalah dua hal yang berbeda baginya; Hanya karena fasih bukan berarti benar.
Perhatian: Halusinasi bukanlah suatu "kerusakan"; Ini adalah fitur yang melekat pada teknologi. Model-model baru mengurangi hal ini tetapi tidak dapat menghilangkannya sepenuhnya. Oleh karena itu, daripada menunggu “model non-halusinasi”, kita perlu belajar hidup dengan halusinasi.
Dimana Risiko Halusinasi Tinggi?
Tidak semua hasil memiliki risiko yang sama. Risikonya meningkat ketika:
Resiko Tinggi
Risiko Rendah
Angka pasti, tanggal, statistik
Menghasilkan ide-ide umum, bertukar pikiran
Meminta sumber, kutipan, referensi
Mengubah nada teks
Niche, topik khusus
Topik umum dan umum
Peristiwa terkini dan orang-orang
Ringkaslah teks Anda
Informasi orang dalam khusus untuk perusahaan Anda
Koreksi tata bahasa
Tiga Kasus Mini
Kasus 1 — Sosok palsu memasuki presentasi. Seorang karyawan menanyakan AI tentang "tingkat pertumbuhan e-commerce tahun 2023 dan sumbernya di Türkiye" untuk laporan industri. Model tersebut menghasilkan persentase yang meyakinkan (48%) dan nama institusi. Karyawan tersebut memasukkannya ke dalam presentasi tanpa memverifikasinya; Ketika terungkap dalam rapat bahwa angka tersebut palsu, baik presentasi maupun reputasi perusahaan pun rusak. Jika pegawai yang sama menerima angka tersebut dari sumber resmi, tidak akan ada masalah.
Kasus 2 – Tidak ada peraturan perundang-undangan. Seorang asisten meminta AI untuk "pasal hukum yang relevan" untuk mengajukan petisi. Model tersebut menghasilkan nomor item dan teks yang tampak realistis; tapi barang itu tidak ada di sana. Untungnya, departemen hukum menyadarinya sebelum pengiriman. Pelajaran: Kutipan resmi selalu diverifikasi dari sumber utama.
Kasus 3 — Metode yang benar, hasil yang aman. Karyawan lain di tim yang sama hanya meminta AI untuk menyusun laporannya, memasukkan sendiri semua angka dari data resmi dan menginstruksikan dia untuk "tidak menambahkan angka yang tidak ada dalam teks ini". Hasilnya cepat dan akurat. Perbedaan: AI menulis draf, fakta yang diberikan manusia.
Prompt Lemah / Prompt Kuat
Perintah lemah: Berikan 3 sumber akademis terpenting mengenai subjek ini beserta penulis dan tahunnya.
Hasil: Model dapat dengan aman menyesuaikan sumber yang tidak ada.
Perintah yang kuat: Tulis ringkasan berdasarkan teks yang saya tempel di bawah. Gunakan hanya informasi dalam teks ini. Jangan menambahkan nama, nomor atau sumber apa pun yang tidak ada dalam teks. Jika Anda tidak yakin, tulis "tidak ditentukan dalam teks".<text>[tempel di sini]</text>
Hasil: Karena model mendapat sumber dari Anda, ruang pas menjadi lebih sempit.
Teknik Praktis yang Meningkatkan Keandalan
Tandai setiap klaim yang dapat diverifikasi dalam jawaban Anda (nomor, tanggal, nama, sumber) dan masukkan ke dalam daftar terpisah yang "harus dicentang".
Jawab pertanyaan ini. Jika Anda tidak yakin, jangan menebak; Katakan "Saya tidak yakin" dan jelaskan bahwa Anda tidak tahu apa. Subjek: [subjek]
Jawablah pertanyaan yang sama dengan dua cara yang berbeda dan tandai kontradiksi di antara kedua jawaban tersebut. Jadi coba saya lihat poin mana yang dipertanyakan. Pertanyaan: [pertanyaan]
Saya akan memverifikasi teks di bawah ini. Buat daftar klaim berisiko yang harus saya periksa berdasarkan kepentingannya dan sarankan di mana saya dapat memverifikasi masing-masing klaim tersebut. Teks: [tempel di sini]
Selain itu, terapkan kebiasaan berikut:
- Anda memberikan sumbernya. Tempelkan dokumen yang relevan ke dalam teks dan ucapkan "jawaban berdasarkan ini saja".
- Selalu periksa fakta yang dapat diverifikasi. Verifikasi nomor, tanggal, nama, kutipan dan sumber dari sumber independen dan terpercaya.
- Minta dia untuk menunjukkan bahwa dia tidak yakin dengan modelnya. Hal ini mengurangi risiko namun tidak menghilangkan sepenuhnya.
- Untuk pekerjaan berisiko tinggi, mintalah seorang ahli memeriksa hasilnya. Hasil-hasil yang berkaitan dengan hukum, keuangan dan kesehatan harus melalui proses penyaringan yang dilakukan oleh para ahli.
- Gunakan AI sebagai “titik awal”, bukan sebagai “kata akhir”. Drafnya dari dia; Verifikasi dan keputusan ada di tangan Anda.
Perhatian: "Model mengatakannya dua kali, maka itu benar" logikanya salah. Dapat mengulangi kesalahan yang sama dengan percaya diri. Pengulangan bukanlah bukti keakuratan.
Kesalahan Umum
Kesalahan umum
- Menggunakan sumber tanpa memverifikasinya. Dapat membuat buku model, artikel, pasal hukum dan link; Setiap referensi harus dikonfirmasi.
- Salah mengira nada percaya diri sebagai akurasi. Hal yang paling berbahaya tentang halusinasi adalah ia tampak percaya diri.
- Hanya dengan meminta model mengatakan "Anda memverifikasi" sudah cukup. Validasi mandiri terhadap model bukanlah validasi independen.
- Menggunakan keluaran yang beresiko tinggi tanpa menunjukkannya kepada ahlinya. Kontrol manusia sangat penting dalam hal uang, hukum dan kesehatan.
Singkatnya
- Halusinasi adalah ketika model menghasilkan informasi yang tidak ada dengan lancar dan percaya diri seolah-olah informasi tersebut benar.
- Penyebabnya bukanlah kegagalan fungsi, namun sifat model yang memprediksi probabilitas; tidak dapat sepenuhnya dihilangkan.
- Risikonya sangat tinggi jika menyangkut angka yang tepat, sumber, informasi terkini, dan isu-isu khusus.
- Untuk melindungi diri Anda sendiri: berikan sumbernya, verifikasi faktanya, katakan "jika Anda tidak yakin, beri tahu saya", periksakan keluaran berisiko tinggi ke ahlinya.
- Gunakan AI sebagai titik awal; Verifikasi dan tanggung jawab utama selalu ada pada Anda.
Tugas Aplikasi
Perintahkan alat AI Anda untuk "menyarankan 3 sumber akademis" tentang subjek yang memerlukan keahlian dan mencoba mengonfirmasi sumber yang disarankan di internet; Perhatikan berapa banyak yang nyata. Kemudian ulangi tugas yang sama dengan metode "Anda memberikan sumbernya" dan amati perbedaannya.
Daftar periksa
- [ ] Saya dapat menjelaskan apa itu halusinasi dan mengapa halusinasi itu terjadi.
- [ ] Saya dapat membedakan tugas dengan risiko halusinasi tinggi dan rendah.
- [ ] Saya dapat mengurangi risiko fabrikasi dengan memberikan sumbernya kepada model.
- [ ] Saya secara independen memverifikasi nomor, tanggal, nama dan sumber.
- [ ] Saya tidak menganggap nada percaya diri sebagai bukti keakuratan.