Keuntungan:
- Boleh menerangkan apa itu halusinasi dan mengapa ia berlaku
- Boleh menentukan bila output AI perlu disahkan
- Boleh menggunakan teknik praktikal yang meningkatkan kebolehpercayaan
Mungkin topik celik AI yang paling kritikal adalah dalam unit ini: Membuat model, iaitu halusinasi. Memahami istilah ini ialah langkah berjaga-jaga keselamatan paling asas untuk sesiapa yang menggunakan AI. Kerana pengguna yang tidak mengenali halusinasi itu mungkin menyalahkan maklumat palsu sebagai benar dan memindahkannya kepada keputusan perniagaan, komunikasi pelanggan atau dokumen rasmi. Dalam unit ini, anda akan mempelajari apa itu halusinasi, mengapa ia tidak dapat dielakkan, dan cara melindungi daripadanya.
Apakah halusinasi?
Halusinasi ialah apabila model bahasa menghasilkan maklumat yang sebenarnya tidak wujud dalam bahasa yang fasih dan yakin, seolah-olah ia benar. Model itu tidak berniat untuk berbohong; Dalam menghasilkan hanya "sambungan yang paling mungkin", ia mencipta teks yang kelihatan berkemungkinan tetapi sebenarnya palsu.
Contoh: Jika anda memberitahu model "Cadangkan sumber akademik mengenai topik Semuanya muncul dalam format yang betul dan meyakinkan; Tetapi sumber itu adalah khayalan sepenuhnya. Ini adalah contoh klasik halusinasi.
Mengapa Ia Berlaku? (Ingat Unit Dua)
Sumber halusinasi terletak pada prinsip kerja model. Model itu bukan "encyclopedia of facts"; Ia adalah "mesin kebarangkalian". Tugasnya adalah untuk menghasilkan kesinambungan yang paling lancar bagi soalan anda; Ia bukan tentang membawa maklumat yang paling tepat. Model:
- Dia tidak tahu apa yang dia tidak tahu; Apabila berhadapan dengan kosong, dia cenderung untuk mengisi jawapan yang mungkin daripada berkata "Saya tidak tahu."
- Ia tidak mempunyai mekanisme untuk mengawal realiti; Ia tidak menyemak sama ada teks yang dihasilkannya sepadan dengan dunia.
- Kefasihan dan ketepatan adalah dua perkara yang berbeza baginya; Hanya kerana ia fasih tidak bermakna ia betul.
Awas: Halusinasi bukanlah "kerosakan fungsi"; Ia adalah ciri khas teknologi. Model baharu mengurangkan ini tetapi tidak dapat menghapuskannya sepenuhnya. Oleh itu, daripada menunggu "model bukan halusinasi", adalah perlu untuk belajar hidup dengan halusinasi.
Di manakah Risiko Halusinasi Tinggi?
Tidak semua hasil adalah sama berisiko. Risiko meningkat apabila:
Berisiko Tinggi
Risiko Rendah
Angka tepat, tarikh, statistik
Menjana idea umum, sumbang saran
Meminta sumber, petikan, rujukan
Tukar nada teks
Niche, topik khusus
Topik biasa, umum
Peristiwa dan orang semasa
Ringkaskan teks anda
Maklumat dalaman khusus untuk syarikat anda
Pembetulan tatabahasa
Tiga Kes Mini
Kes 1 — Seorang tokoh palsu memasuki pembentangan. Seorang pekerja meminta AI untuk "kadar pertumbuhan e-dagang 2023 dan sumber di Türkiye" untuk laporan industri. Model itu mengembalikan peratusan yang meyakinkan (48%) dan nama institusi. Pekerja memasukkannya ke dalam pembentangan tanpa mengesahkannya; Apabila didedahkan pada mesyuarat itu bahawa angka itu adalah rekaan, kedua-dua pembentangan dan reputasi syarikat telah rosak. Sekiranya pekerja yang sama telah menerima angka itu daripada sumber rasmi, tidak ada masalah.
Kes 2 — Sekeping perundangan yang tidak wujud. Seorang pembantu meminta AI untuk "artikel undang-undang yang berkaitan" untuk petisyen. Model ini menghasilkan nombor dan teks item yang kelihatan realistik; tetapi barang itu tiada. Nasib baik, jabatan undang-undang menyedarinya sebelum penghantaran. Pengajaran: petikan undang-undang sentiasa disahkan daripada sumber utama.
Kes 3 — Kaedah yang betul, hasil yang selamat. Pekerja lain dalam pasukan yang sama hanya meminta AI merangka laporan itu, memasukkan semua nombor sendiri daripada data rasmi dan mengarahkannya untuk "tidak menambah angka yang tiada dalam teks ini." Hasilnya adalah cepat dan tepat. Perbezaan: AI menulis draf, fakta makanan manusia.
Gesaan Lemah / Gesaan Kuat
Gesaan yang lemah: Berikan 3 sumber akademik yang paling penting mengenai subjek ini dengan pengarang dan tahun.
Keputusan: Model boleh memuatkan sumber yang tidak wujud dengan selamat.
Gesaan berkuasa: Tulis ringkasan berdasarkan teks yang saya tampal di bawah. Gunakan hanya maklumat dalam teks ini. Jangan tambah sebarang nama, nombor atau sumber yang tiada dalam teks. Jika anda tidak pasti, tulis "tidak dinyatakan dalam teks".<text>[tampal di sini]</text>
Keputusan: Memandangkan model mendapat sumber daripada anda, ruang pemasangan menjadi lebih sempit.
Teknik Praktikal Yang Meningkatkan Kebolehpercayaan
Tandai setiap tuntutan yang boleh disahkan dalam jawapan anda (nombor, tarikh, nama, sumber) dan letakkannya pada senarai "mesti semak" berasingan.
Jawab soalan ini. Jika anda tidak pasti, jangan meneka; Sebut "Saya tidak pasti" dan terangkan bahawa anda tidak tahu apa. Subjek: [subjek]
Jawab soalan yang sama dalam dua cara yang berbeza dan tandakan percanggahan antara kedua-dua jawapan. Jadi biar saya lihat mata mana yang boleh dipersoalkan. Soalan: [soalan]
Saya akan mengesahkan teks di bawah. Senaraikan tuntutan berisiko yang perlu saya semak mengikut urutan kepentingan dan cadangkan tempat saya boleh mengesahkan setiap satu.Teks: [tampal di sini]
Selain itu, amalkan tabiat ini:
- Anda sediakan sumbernya. Tampalkan dokumen yang berkaitan ke dalam teks dan sebut "jawapan berdasarkan ini sahaja."
- Sentiasa semak fakta yang boleh disahkan. Sahkan nombor, tarikh, nama, petikan dan sumber daripada sumber yang bebas dan boleh dipercayai.
- Minta dia menunjukkan bahawa dia tidak pasti tentang model itu. Ini mengurangkan risiko tetapi tidak menghapuskannya sepenuhnya.
- Untuk pekerjaan berisiko tinggi, minta pakar memeriksa output. Output undang-undang, kewangan dan berkaitan kesihatan mesti melalui penapis pakar manusia.
- Gunakan AI sebagai "titik permulaan", bukan sebagai "kata akhir." Draf itu daripadanya; Pengesahan dan keputusan adalah milik anda.
Awas: "Model itu mengatakannya dua kali, maka itu benar" logiknya salah. Boleh mengulangi kesilapan yang sama dengan yakin. Pengulangan bukan bukti ketepatan.
Kesilapan Biasa
Kesilapan biasa
- Menggunakan sumber tanpa mengesahkannya. Ia boleh mencipta buku model, artikel, artikel undang-undang dan pautan; Setiap rujukan mesti disahkan.
- Tersilap nada yakin untuk ketepatan. Perkara yang paling berbahaya tentang halusinasi adalah tepat bahawa ia kelihatan yakin.
- Hanya meminta model mengatakan "anda mengesahkan" sudah memadai. Pengesahan kendiri model bukan pengesahan bebas.
- Menggunakan output berisiko tinggi tanpa menunjukkannya kepada pakar. Kawalan manusia adalah penting dalam wang, undang-undang dan kesihatan.
Secara ringkasnya
- Halusinasi ialah apabila model menghasilkan maklumat yang tidak wujud dengan cara yang lancar dan yakin seolah-olah ia benar.
- Puncanya bukanlah kerosakan, tetapi sifat meramal kebarangkalian model; tidak boleh dihapuskan sepenuhnya.
- Risiko adalah tinggi terutamanya apabila melibatkan angka yang tepat, sumber, maklumat terkini dan isu khusus.
- Untuk melindungi diri anda: berikan sumber, sahkan fakta, katakan "jika anda tidak pasti, beritahu saya", pastikan output berisiko tinggi diperiksa oleh pakar.
- Gunakan AI sebagai titik permulaan; Pengesahan dan tanggungjawab muktamad sentiasa kekal bersama anda.
Tugas Permohonan
Beritahu alat AI anda untuk "mencadangkan 3 sumber akademik" pada subjek yang memerlukan kepakaran dan cuba mengesahkan sumber yang dicadangkan di internet; Perhatikan berapa banyak yang sebenar. Kemudian ulangi tugas yang sama dengan kaedah "anda berikan sumber" dan perhatikan perbezaannya.
Senarai semak
- [ ] Saya boleh menerangkan apa itu halusinasi dan mengapa ia berlaku.
- [ ] Saya boleh membezakan antara tugas berisiko halusinasi tinggi dan rendah.
- [ ] Saya boleh mengurangkan risiko fabrikasi dengan memberikan sumber kepada model.
- [ ] Saya secara bebas mengesahkan nombor, tarikh, nama dan sumber.
- [ ] Saya tidak menganggap nada yakin sebagai bukti ketepatan.