Keuntungan:
- Memahami bahawa model boleh menghasilkan halusinasi dan setiap output mesti disahkan
- Mengetahui risiko dan alternatif selamat untuk meletakkan data sulit dan peribadi segera
- Menggunakan etika, hak cipta dan had liabiliti dalam penggunaan kecerdasan buatan
Ia tidak mencukupi untuk menguasai cara menulis gesaan; Ia juga perlu untuk belajar menggunakan kecerdasan buatan secara bertanggungjawab. Unit ini adalah lapisan keselamatan yang mesti diletakkan di atas kemahiran teknikal. AI menghasilkan jawapan yang pantas, meyakinkan dan selalunya tepat; Tetapi kadangkala ia menghasilkan maklumat palsu sepenuhnya dengan keyakinan yang sama, boleh meletakkan data sensitif pada risiko dan menolak sempadan etika. Dalam unit ini kami akan meliputi pengesahan output, batasan model, kerahsiaan dan tanggungjawab etika. Tanpa pengetahuan ini, semua teknik lain tetap tidak lengkap.
Halusinasi: Memasang Model
Halusinasi ialah apabila model menghasilkan maklumat yang tidak sebenar dalam bahasa yang yakin. Sumber yang tidak wujud, tarikh yang salah, statistik rekaan atau undang-undang yang tidak pernah ditulis adalah contoh-contohnya. Mengapa ia berlaku? Kerana model itu direka bukan untuk "mengetahui kebenaran" tetapi untuk "menjana kemungkinan kesinambungan" (ingat logik dalam unit pertama). Hanya kerana ayat mungkin dari segi tatabahasa tidak bermakna ia benar dari segi fakta.
Implikasi praktikal ini adalah jelas: setiap fakta yang dihasilkan oleh AI adalah tuntutan, bukan fakta, sehingga disahkan secara bebas. Khususnya, sentiasa semak:
- Nombor dan statistik
- Nama, tarikh, nama tempat
- Petikan dan rujukan sumber
- Fasal undang-undang, piawaian teknikal, maklumat perubatan/kewangan
Tabiat Pengesahan
Anda boleh mengurangkan tetapi tidak menetapkan semula pengesahan dengan teknik segera. Bekerja dalam dua lapisan:
- Lapisan gesaan: Berikan sekatan model seperti "hanya bergantung pada sumber yang saya berikan, jangan tambah maklumat yang tidak wujud, tulis 'Saya tidak tahu' jika anda tidak pasti, tunjukkan sumber setiap tuntutan." Ini mengurangkan pemasangan.
- Lapisan manusia: Sahkan sendiri setiap fakta kritikal daripada sumbernya. Langkah ini tidak boleh dirunding; Ia adalah wajib terutamanya untuk kandungan yang akan diterbitkan, akan menjadi asas untuk membuat keputusan atau akan mempengaruhi orang lain.
Had: Perkara yang Model Tidak Berfungsi Dengan Baik
kawasan
risiko
pendekatan yang betul
peristiwa semasa
Data latihan mungkin sudah lapuk
Sahkan daripada sumber bertarikh/semasa
nombor tepat
Terdapat kebarangkalian tinggi untuk dipasang
Semak dengan kalkulator/sumber
Undang-undang/perubatan/kewangan
Risiko bahaya yang serius
Rujuk pakar sebenar, jangan bergantung padanya sahaja
Sumber/ nukilan
Boleh menghasilkan sumber yang tidak wujud
Semak sendiri kesahihan sumber tersebut
Topik jarang / khusus
Dangkal atau tidak tepat
Bandingkan dengan pengetahuan pakar
Model itu adalah pembantu, bukan pihak berkuasa terakhir. Tanggungjawab sentiasa terletak pada orang yang menggunakannya.
Privasi dan Data Peribadi
Teks yang anda taip ke dalam alat AI awam tertakluk pada dasar pemprosesan alat itu dan mungkin di luar kawalan organisasi anda. Oleh itu, memasukkan data sulit dan peribadi tanpa berfikir adalah risiko yang serius. Pemprosesan data peribadi di Türkiye dikawal oleh KVKK (Undang-undang Perlindungan Data Peribadi); Institusi juga selalunya mempunyai dasar data mereka sendiri.
Cara kerja yang selamat:
- Anonimkan/topeng: Tulis "pelanggan" bukannya nama sebenar, "[nombor akaun]" bukannya nombor sebenar. Selalunya, mengatakan "pelanggan korporat 3 tahun" akan melakukan silap mata.
- Gunakan alat yang diluluskan oleh institusi: Sesetengah institusi menawarkan alat kontrak/institusi yang tidak membocorkan data. Proses data sensitif hanya pada mereka.
- Jangan berikan apa yang tidak diperlukan: Jangan sertakan sebarang butiran sensitif yang sebenarnya tidak penting untuk melakukan tugas.
- Ketahui dasar: Ketahui dan patuhi peraturan penggunaan kecerdasan buatan organisasi anda.
Etika dan Hak Cipta
Penggunaan yang bertanggungjawab tidak berakhir dengan privasi. Tiga prinsip:
- Ketelusan: Mengkreditkan kandungan yang dijana AI dengan sewajarnya jika konteks memerlukannya (contohnya, di mana tenaga manusia dijangkakan). Elakkan penggunaan yang menipu.
- Hak cipta dan keaslian: Output model mungkin menyerupai karya lain. Semak keaslian dan status hak sebelum penggunaan komersial; Jangan tiru jenama/kerja orang lain.
- Non-maleficence: Jangan gunakan untuk mencipta kandungan yang mengelirukan, mendiskriminasi, manipulatif atau disasarkan. Kuasa alat meningkatkan tanggungjawab.
Empat Templat Boleh Disalin
1) Kekangan mengehadkan pemasangan:
Hanya bergantung pada sumber di bawah. Jangan tambah sebarang maklumat yang tiada dalam sumbernya. Tulis "bukan dalam sumber" di mana anda tidak pasti. Di sebelah setiap tuntutan penting, nyatakan baris yang menjadi asasnya. Sumber: [teks]
2) Ekstrak senarai pengesahan:
Senaraikan semua fakta (nombor, tarikh, nama, tuntutan) yang perlu disahkan dalam teks di bawah. Cadangkan secara ringkas cara saya boleh mengesahkan untuk setiap satu. Teks: [output]
3) Anonimisasi:
Tutup semua data peribadi/sulit dalam teks berikut: buat nama [PERSON], syarikat [SYARIKAT], nombor [NOMBOR]. Berikan versi tanpa nama dengan makna yang utuh. Teks: [teks]
4) Semakan etika:
Nilai kandungan ini secara beretika sebelum menerbitkannya: adakah ia mengelirukan, mendiskriminasi atau tidak adil? Tandai jika ya dan cadangkan pembetulan. Kandungan: [teks]
Gesaan Lemah / Gesaan Kuat
Lemah (berisiko):
Cari masalah dalam kontrak Ahmet Yılmaz (TC: ...) dan bandingkan dengan purata industri.
Kuat (selamat):
Cari klausa berisiko dalam teks kontrak di bawah. - Penggunaan data peribadi; Biarkan pihak dirujuk sebagai [SYARIKAT-A] dan [PERSON].- Hanya bergantung pada apa yang tertulis dalam teks; purata industri dibuat, tulis "data tidak tersedia".- Tunjukkan setiap risiko dengan itemnya.Teks (tanpa nama): [teks]
Versi berkuasa kedua-duanya melindungi data peribadi dan menyekat data industri palsu; Output sedia untuk disemak oleh pasukan undang-undang.
Tiga Kes Mini
Kes 1 — Sumber rekaan. Seorang penyelidik meletakkan 3 "sumber akademik" yang diberikan oleh model ke dalam pembentangan tanpa mengesahkannya; Dua daripada sumber itu tidak tersedia sama sekali. Seorang rakan sekerja menyedarinya sebelum pembentangan. Selepas itu, pasukan itu menerima pakai peraturan "cari dan buka setiap sumber secara peribadi sebelum diterbitkan".
Kes 2 — Kerahsiaan. Seorang pekerja menampal kontrak pelanggan sebenar secara utuh ke dalam alat awam dan meminta ringkasan. Apabila pasukan keselamatan maklumat institusi mengesan ini, proses itu telah disemak; Dokumen sensitif kini diproses hanya dalam alat korporat yang diluluskan oleh institusi dan tidak dikenali.
Kes 3 — Tanggungjawab keputusan. Seorang pemilik perniagaan kecil akan mengambil tindakan berdasarkan tafsiran cukai yang diberikan oleh model tersebut; Komen itu tidak mematuhi undang-undang semasa. Kesilapan itu diketahui apabila dia berunding dengan penasihat kewangannya. Pengajarannya jelas: AI bersedia, pakar dan manusia membuat keputusan.
Petua: Biasakan menandakan fakta sebagai "tidak disahkan". Letakkan tanda semak di sebelah setiap nombor dan sumber dalam output sehingga anda mengesahkannya; Disiplin mudah ini menghalang maklumat yang salah daripada tersebar secara senyap.
Awas: "AI berkata demikian" bukanlah alasan. Anda bertanggungjawab ke atas sebarang kandungan yang anda terbitkan, hantar atau asaskan keputusan anda. Kelajuan kenderaan tidak melepaskan anda daripada tanggungjawab pemeriksaan anda.
Kesilapan biasa
- Tersilap output fasih sebagai betul. Kesalahan bahasa persuasif sebagai bukti kebenaran.
- Menggunakan sumber tanpa menyemaknya. Menerbitkan sumber yang tidak wujud.
- Memasukkan data sulit tanpa berfikir. Menampal dokumen sensitif tanpa menamakannya tanpa nama.
- Serahkan kepakaran kepada model sahaja. Kegagalan untuk mengesahkan keputusan undang-undang/perubatan/kewangan.
- Meletakkan tanggungjawab pada kenderaan. Mengelak kawalan dengan mengatakan "AI berkata begitu".
Secara ringkasnya
- Halusinasi ialah apabila model dengan yakin menghasilkan apa yang tidak nyata; Setiap fakta adalah tuntutan sehingga disahkan.
- Pengesahan adalah dua kali ganda: kekangan segera mengurangkan fabrikasi, pemeriksaan manusia menangkapnya.
- Model ini terhad kepada perkara semasa, tepat, undang-undang/perubatan/kewangan; bukanlah kuasa muktamad.
- Anonimkan data atau proses sulit dan peribadi hanya dalam alat yang diluluskan oleh institusi (KVKK dan dasar institusi).
- Mematuhi prinsip etika, hak cipta dan bukan kejahatan; Tanggungjawab untuk kandungan sentiasa terletak pada orang itu.
Tugasan permohonan
Ambil cetakan yang anda hasilkan baru-baru ini dan ekstrak semua fakta di dalamnya (nombor, tarikh, nama, sumber, tuntutan) sebagai senarai pengesahan. Tulis kaedah pengesahan untuk setiap satu dan semak sekurang-kurangnya tiga daripadanya. Juga, semak sama ada terdapat data sulit/peribadi dalam input output yang sama dan awanamakannya jika perlu.
senarai semak
- [ ] Saya boleh menerangkan apa itu halusinasi dan mengapa ia berlaku.
- [ ] Saya mengesahkan output fakta daripada sumber bebas.
- [ ] Saya menamakan data sulit/peribadi atau memprosesnya dalam alat selamat.
- [ ] Saya berunding dengan pakar sebenar dalam hal undang-undang/perubatan/kewangan.
- [ ] Saya menerima bahawa saya bertanggungjawab ke atas kandungannya.