Qazanclar:
- Modelin halüsinasiyalar yarada biləcəyini və hər bir çıxışın yoxlanılmalı olduğunu başa düşür
- Məxfi və şəxsi məlumatların operativ şəkildə yerləşdirilməsinin risklərini və təhlükəsiz alternativlərini bilir
- Süni intellektin istifadəsində etika, müəllif hüquqları və məsuliyyət məhdudiyyətlərini tətbiq edir
Təkliflərin necə yazılmasını mənimsəmək kifayət deyil; Süni intellektdən məsuliyyətlə istifadə etməyi də öyrənmək lazımdır. Bu bölmə texniki bacarıqların üstünə qoyulmalı olan təhlükəsizlik təbəqəsidir. AI sürətli, inandırıcı və çox vaxt dəqiq cavablar istehsal edir; Ancaq bəzən eyni inamla tamamilə yalan məlumatlar istehsal edir, həssas məlumatları riskə ata bilər və etik sərhədləri aşır. Bu bölmədə biz yoxlama nəticələrini, modelin məhdudiyyətlərini, məxfiliyi və etik məsuliyyəti əhatə edəcəyik. Bu bilik olmadan, bütün digər texnikalar natamam qalır.
Halüsinasiya: Modelin Uyğunlaşdırılması
Halüsinasiya, modelin etibarlı bir dildə qeyri-real məlumat çıxarmasıdır. Mövcud olmayan mənbə, səhv tarix, uydurma statistika və ya heç yazılmamış qanun buna misaldır. Niyə belə olur? Çünki model “həqiqəti bilmək” üçün deyil, “mümkün davamını yaratmaq” üçün nəzərdə tutulub (birinci bölmədə məntiqi yadda saxlayın). Cümlənin qrammatik cəhətdən mümkün olması onun faktiki olaraq doğru olması demək deyil.
Bunun praktiki mənası aydındır: süni intellekt tərəfindən yaradılan hər bir fakt müstəqil şəkildə yoxlanılana qədər fakt deyil, iddiadır. Xüsusilə həmişə yoxlayın:
- Rəqəmlər və statistika
- Adlar, tarixlər, yer adları
- Sitatlar və mənbə istinadları
- Hüquqi müddəalar, texniki standartlar, tibbi/maliyyə məlumatı
Doğrulama vərdişi
Sürətli bir texnika ilə yoxlamanı azalda, lakin sıfırlaya bilməzsiniz. İki təbəqədə işləyin:
- Prompt layer: “yalnız mənim verdiyim mənbəyə etibar edin, mövcud olmayan məlumatları əlavə etməyin, əmin deyilsinizsə “bilmirəm” yazın, hər bir iddianın mənbəyini göstərin” kimi model məhdudiyyətlərini verin. Bu uyğunlaşmanı azaldır.
- İnsan təbəqəsi: Hər bir kritik faktı mənbədən özünüz yoxlayın. Bu addım müzakirə edilə bilməz; Xüsusilə dərc olunacaq, qərarlar üçün əsas olacaq və ya başqalarına təsir edəcək məzmun üçün məcburidir.
Məhdudiyyətlər: Model nəyi yaxşı etmir
sahə
Risk
düzgün yanaşma
cari hadisələr
Təlim məlumatları köhnəlmiş ola bilər
Tarixi/cari mənbədən doğrulayın
dəqiq rəqəmlər
Uyğunlaşma ehtimalı yüksəkdir
Kalkulyator/mənbə ilə yoxlayın
Hüquqi/tibbi/maliyyə
Ciddi zərər riski
Həqiqi bir mütəxəssislə məsləhətləşin, yalnız ona etibar etməyin
Mənbə/sitat
Mövcud olmayan resursları istehsal edə bilər
Mənbənin həqiqiliyini özünüz yoxlayın
Nadir/niş mövzu
Səthi və ya qeyri-dəqiq
Mütəxəssis bilikləri ilə müqayisə edin
Model son səlahiyyət deyil, köməkçidir. Məsuliyyət həmişə ondan istifadə edənin üzərinə düşür.
Məxfilik və Şəxsi Məlumat
İctimai AI alətinə yazdığınız mətn həmin alətin emal siyasətlərinə tabedir və təşkilatınızın nəzarətindən kənarda ola bilər. Buna görə də, məxfi və şəxsi məlumatları düşünmədən daxil etmək ciddi riskdir. Türkiyədə fərdi məlumatların işlənməsi KVKK (Şəxsi Məlumatların Qorunması Qanunu) ilə tənzimlənir; Qurumların da çox vaxt öz məlumat siyasətləri olur.
Təhlükəsiz iş üsulları:
- Anonimləşdirmə/maska: Həqiqi ad yerinə "müştəri", həqiqi nömrə yerinə "[hesab nömrəsi]" yazın. Çox vaxt "3 illik korporativ müştəri" deyərək hiylə işləyəcək.
- Qurum tərəfindən təsdiqlənmiş alətdən istifadə edin: Bəzi qurumlar məlumat sızdırmayan müqaviləli/institusional alətlər təklif edir. Həssas məlumatları yalnız onların üzərində işləyin.
- Lazım olmayanı verməyin: Tapşırığı yerinə yetirmək üçün əslində vacib olmayan hər hansı həssas detalları daxil etməyin.
- Siyasəti bilin: Təşkilatınızın süni intellektdən istifadə qaydalarını öyrənin və onlara əməl edin.
Etika və Müəlliflik hüququ
Məsuliyyətli istifadə məxfiliklə bitmir. Üç prinsip:
- Şəffaflıq: Kontekst tələb edirsə (məsələn, insan əməyinin gözlənildiyi yerlərdə) süni intellekt tərəfindən yaradılmış məzmunu müvafiq şəkildə kreditləşdirin. Aldadıcı istifadədən çəkinin.
- Müəllif hüququ və orijinallıq: Modelin çıxışı digər əsərlərə bənzəyir. Kommersiya istifadəsindən əvvəl orijinallığı və hüquqların vəziyyətini nəzərdən keçirin; Başqasının markasını/işini təqlid etməyin.
- Qeyri-zərərlilik: Yanıltıcı, ayrıseçkilik, manipulyasiya və ya hədəflənmiş məzmun yaratmaq üçün istifadə etməyin. Alətin gücü məsuliyyəti artırır.
Dörd Kopyalana bilən Şablon
1) Məhdudiyyəti məhdudlaşdıran uyğunluq:
Sadəcə aşağıdakı mənbəyə etibar edin. Mənbədə olmayan heç bir məlumat əlavə etməyin. Əmin olmadığınız yerdə "mənbədə deyil" yazın. Hər bir vacib iddianın yanında onun əsaslandığı xətti göstərin. Mənbə: [mətn]
2) Doğrulama siyahısını çıxarın:
Aşağıdakı mətndə təsdiq edilməli olan bütün faktları (nömrə, tarix, ad, iddia) sadalayın. Hər biri üçün necə doğrulaya biləcəyimi qısaca təklif edin. Mətn: [çıxış]
3) Anonimləşdirmə:
Aşağıdakı mətndə bütün şəxsi/məxfi məlumatları maskalayın: adlar [ŞƏXS], şirkət [ŞİRKƏT], nömrələr [NUMBER] olun. Mənası toxunulmamış anonim versiyanı verin. Mətn: [mətn]
4) Etik baxış:
Bu məzmunu dərc etməzdən əvvəl etik cəhətdən qiymətləndirin: bu, aldadıcı, ayrı-seçkilik və ya ədalətsizdir? Əgər belədirsə, onu işarələyin və düzəlişlər təklif edin. Məzmun: [mətn]
Zəif Tələb / Güclü Tələb
Zəif (riskli):
Ahmet Yılmazın (TC: ...) müqaviləsindəki problemləri tapın və sənaye ortalamaları ilə müqayisə edin.
Güclü (təhlükəsiz):
Aşağıdakı müqavilə mətnində riskli bəndləri tapın. - Şəxsi məlumatların istifadəsi; Tərəflər [ŞİRKƏT-A] və [ŞƏXS] kimi adlandırılsın.- Yalnız mətndə yazılanlara etibar edin; sənaye ortasını təşkil edir, "məlumat mövcud deyil" yazın.- Hər bir riski onun maddəsi ilə göstərin. Mətn (anonim): [mətn]
Güclü versiya həm şəxsi məlumatları qoruyur, həm də saxta sənaye məlumatlarını bloklayır; Çıxış hüquq qrupu tərəfindən nəzərdən keçirilməyə hazırdır.
Üç mini qutu
Məsələn 1 – Uydurma mənbə. Tədqiqatçı modelin verdiyi 3 “akademik mənbə”ni yoxlamadan təqdimata yerləşdirdi; Mənbələrdən ikisi ümumiyyətlə mövcud deyildi. Təqdimatdan əvvəl bir həmkarım bunu fərq etdi. Daha sonra komanda “nəşr etməzdən əvvəl hər bir resursu şəxsən tapın və açın” qaydasını qəbul edib.
2-ci hal – Məxfilik. Bir işçi faktiki müştəri müqaviləsini bütöv halda ictimai alətə yapışdırdı və xülasə istədi. Qurumun informasiya təhlükəsizliyi qrupu bunu aşkar etdikdə prosesə baxış keçirilib; Həssas sənədlər indi yalnız qurum tərəfindən təsdiqlənmiş korporativ alətdə işlənir və anonimləşdirilir.
İş 3 – Qərar məsuliyyəti. Kiçik biznes sahibi modelin verdiyi vergi şərhinə əsasən hərəkətə keçmək üzrə idi; Şərh mövcud qanunvericiliyə uyğun gəlmir. Səhv maliyyə məsləhətçisi ilə məsləhətləşəndə tutuldu. Dərs aydındır: AI hazırlayır, ekspert və insan qərar verir.
İpucu: Bir faktı "təsdiqlənməmiş" kimi qeyd etməyi vərdiş edin. Təsdiqləyənə qədər çıxışdakı hər bir nömrənin və mənbənin yanında bir işarə qoyun; Bu sadə intizam dezinformasiyanın səssizcə yayılmasının qarşısını alır.
Diqqət: "AI belə dedi" bəhanə deyil. Siz dərc etdiyiniz, göndərdiyiniz və ya qərarlarınızı əsaslandırdığınız hər hansı məzmuna görə məsuliyyət daşıyırsınız. Avtomobilin sürəti sizi yoxlama öhdəliyinizdən azad etmir.
Ümumi səhvlər
- Səhv çıxışı düzgün hesab etmək. İnandırıcı dili həqiqətin sübutu ilə səhv salmaq.
- Mənbəni yoxlamadan istifadə etmək. Mövcud olmayan mənbənin dərc edilməsi.
- Düşünmədən məxfi məlumatların daxil edilməsi. Həssas sənədləri anonimləşdirmədən yapışdırın.
- Təcrübəni yalnız modelə buraxın. Hüquqi/tibbi/maliyyə qərarlarının yoxlanılmaması.
- Məsuliyyəti avtomobilin üzərinə qoymaq. "AI dedi" deyərək nəzarətdən yayınmaq.
Xülasə
- Halüsinasiya modelin inamla real olmayanı istehsal etməsidir; Hər bir fakt yoxlanılana qədər iddiadır.
- Doğrulama ikiqatdır: operativ məhdudiyyətlər istehsalı azaldır, insan yoxlaması onu tutur.
- Model cari, dəqiq, hüquqi/tibbi/maliyyə məsələləri ilə məhdudlaşır; son səlahiyyət deyil.
- Məxfi və şəxsi məlumatları anonimləşdirin və ya yalnız qurumun təsdiq etdiyi alətdə emal edin (KVKK və qurum siyasəti).
- Etik, müəllif hüququ və zərər verməmək prinsiplərinə riayət etmək; Məzmuna görə məsuliyyət həmişə insanın üzərinə düşür.
Tətbiq tapşırığı
Bu yaxınlarda hazırladığınız çapı götürün və oradakı bütün faktları (nömrə, tarix, ad, mənbə, iddia) yoxlama siyahısı kimi çıxarın. Hər biri üçün yoxlama metodunu yazın və onlardan ən azı üçünü yoxlayın. Həmçinin, eyni çıxışın girişində məxfi/şəxsi məlumatların olub-olmadığını yoxlayın və lazım olduqda onları anonimləşdirin.
yoxlama siyahısı
- [ ] Mən hallüsinasiyanın nə olduğunu və niyə baş verdiyini izah edə bilərəm.
- [ ] Müstəqil mənbədən faktiki çıxışı yoxlayıram.
- [ ] Mən məxfi/şəxsi məlumatları anonimləşdirirəm və ya onları təhlükəsiz alətdə emal edirəm.
- [ ] Hüquq/tibbi/maliyyə məsələləri üzrə əsl ekspertlə məsləhətləşirəm.
- [ ] Məzmun üçün məsuliyyət daşıdığımı qəbul edirəm.