Dobički:
- Razume, da lahko model povzroči halucinacije in da je treba vsak rezultat preveriti
- Pozna tveganja in varne alternative dajanja zaupnih in osebnih podatkov na poziv
- Uporablja etiko, avtorske pravice in omejitve odgovornosti pri uporabi umetne inteligence
Ni dovolj obvladati pisanja pozivov; Prav tako se je treba naučiti odgovorno uporabljati umetno inteligenco. Ta enota je plast varnosti, ki mora biti postavljena poleg tehnične spretnosti. AI proizvaja odgovore, ki so hitri, prepričljivi in pogosto točni; Toda včasih z enako samozavestjo ustvari popolnoma napačne informacije, lahko ogrozi občutljive podatke in premakne etične meje. V tej enoti bomo obravnavali preverjanje rezultatov, omejitve modela, zaupnost in etično odgovornost. Brez tega znanja ostanejo vse druge tehnike nepopolne.
Halucinacija: prileganje modelu
Halucinacija je, ko model proizvede neresnične informacije v samozavestnem jeziku. Primeri tega so neobstoječ vir, napačen datum, izmišljena statistika ali zakon, ki ni bil nikoli napisan. Zakaj se zgodi? Ker model ni zasnovan tako, da "spozna resnico", ampak da "generira možno nadaljevanje" (spomnite se logike v prvi enoti). Samo zato, ker je stavek slovnično mogoč, še ne pomeni, da je dejansko resničen.
Praktične posledice tega so jasne: vsako dejstvo, ki ga ustvari AI, je trditev, ne dejstvo, dokler ni neodvisno preverjeno. Zlasti vedno preverite:
- Številke in statistika
- Imena, datumi, imena krajev
- Citati in viri
- Pravne klavzule, tehnični standardi, zdravstvene/finančne informacije
Navada preverjanja
Preverjanje lahko zmanjšate, vendar ne ponastavite s tehniko hitrega odziva. Delajte v dveh slojih:
- Sloj poziva: modelu navedite omejitve, kot je "zanašajte se samo na vir, ki ga navedem, ne dodajajte informacij, ki ne obstajajo, napišite 'ne vem', če niste prepričani, pokažite vir vsake trditve." To zmanjša prileganje.
- Človeška plast: vsako kritično dejstvo preverite sami iz vira. O tem koraku se ni mogoče pogajati; Še posebej je obvezno za vsebine, ki bodo objavljene, bodo podlaga za odločanje ali bodo vplivale na druge.
Omejitve: Kaj model ne počne dobro
območje
Tveganje
pravi pristop
aktualni dogodki
Podatki o usposabljanju so morda zastareli
Preverite iz datiranega/trenutnega vira
natančne številke
Obstaja velika verjetnost prileganja
Preverite s kalkulatorjem/virom
Pravno/medicinsko/finančno
Nevarnost hudih poškodb
Posvetujte se s pravim strokovnjakom, ne zanašajte se samo nanj
Vir/navedba
Lahko proizvaja neobstoječe vire
Verodostojnost vira preverite sami
Redka/nišna tema
Površno ali netočno
Primerjaj s strokovnim znanjem
Model je pomočnik, ne zadnja avtoriteta. Odgovornost vedno nosi oseba, ki jo uporablja.
Zasebnost in osebni podatki
Za besedilo, ki ga vnesete v javno orodje AI, veljajo pravilniki o obdelavi tega orodja in je morda izven nadzora vaše organizacije. Zato je vnos zaupnih in osebnih podatkov brez premisleka resno tveganje. Obdelavo osebnih podatkov v Turčiji ureja KVKK (Zakon o varstvu osebnih podatkov); Institucije imajo pogosto tudi lastne politike podatkov.
Varni načini dela:
- Anonimiziraj/maskiraj: namesto pravega imena napišite "stranka", namesto prave številke "[številka računa]". Večino časa bo beseda "3-letna korporativna stranka" pomagala.
- Uporabite orodje, ki ga je odobrila institucija: Nekatere ustanove ponujajo pogodbena/institucionalna orodja, ki ne uhajajo podatkov. Obdelujte občutljive podatke samo na njih.
- Ne izdajajte nepotrebnega: ne vključujte nobenih občutljivih podrobnosti, ki dejansko niso bistvene za opravljanje naloge.
- Spoznajte pravilnik: Naučite se in upoštevajte pravila uporabe umetne inteligence vaše organizacije.
Etika in avtorska pravica
Odgovorna uporaba se ne konča pri zasebnosti. Tri načela:
- Transparentnost: Ustrezno pripišite vsebini, ki jo ustvari umetna inteligenca, če to zahteva kontekst (na primer, kjer se pričakuje človeško delo). Izogibajte se zavajajoči uporabi.
- Avtorske pravice in izvirnost: rezultat modela je lahko podoben drugim delom. Pred komercialno uporabo preverite izvirnost in status pravic; Ne posnemajte blagovne znamke/dela nekoga drugega.
- Neškodljivost: Ne uporabljajte za ustvarjanje vsebine, ki je zavajajoča, diskriminatorna, manipulativna ali ciljana. Moč orodja povečuje odgovornost.
Štiri kopirane predloge
1) Omejevanje omejitve:
Samo zanesite se na spodnji vir. Ne dodajajte informacij, ki niso v viru. Napišite "ni v viru", kjer niste prepričani. Ob vsaki pomembni trditvi navedite vrstico, na kateri temelji. Vir: [besedilo]
2) Izvleček seznama za preverjanje:
V spodnjem besedilu navedite vsa dejstva (številka, datum, ime, trditev), ki jih je treba preveriti. Na kratko predlagajte, kako lahko preverim za vsakega. Besedilo: [izhod]
3) Anonimizacija:
Zakrijte vse osebne/zaupne podatke v naslednjem besedilu: imena [OSEBA], podjetje [PODJETJE], številke [ŠTEVILKA]. Podajte anonimizirano različico z nedotaknjenim pomenom. Besedilo: [besedilo]
4) Etični pregled:
Etično ocenite to vsebino, preden jo objavite: ali je zavajajoča, diskriminatorna ali nepoštena? Označite, če je tako, in predlagajte popravke. Vsebina: [besedilo]
Šibek poziv / močan poziv
Šibko (tvegano):
Poiščite težave v pogodbi Ahmeta Yılmaza (TC: ...) in jo primerjajte s povprečji v panogi.
Močno (varno):
Poiščite tvegane klavzule v spodnjem besedilu pogodbe. - Uporaba osebnih podatkov; Naj se stranki imenujeta [DRUŽBA-A] in [OSEBA].- Zanašajte se samo na napisano v besedilu; povprečje panoge izmišljeno, napišite "podatki niso na voljo".- Pokažite vsako tveganje z njegovim elementom. Besedilo (anonimizirano): [besedilo]
Zmogljiva različica ščiti osebne podatke in blokira lažne podatke o industriji; Rezultat je pripravljen za pregled s strani pravne skupine.
Trije mini kovčki
Primer 1 – Izdelan vir. Raziskovalec je v predstavitev vključil 3 "akademske vire", ki jih je navedel model, ne da bi jih preveril; Dva vira sploh nista bila na voljo. Kolega ga je opazil pred predstavitvijo. Nato je ekipa sprejela pravilo "poiščite in odprite vsak vir osebno pred objavo".
Primer 2 – Zaupnost. Zaposleni je dejansko strankino pogodbo nedotaknjeno prilepil v javno orodje in prosil za povzetek. Ko je ekipa za informacijsko varnost institucije to zaznala, je bil postopek pregledan; Občutljivi dokumenti se zdaj obdelujejo samo v korporativnem orodju, ki ga odobri institucija, in so anonimizirani.
Primer 3 – Odgovornost za odločitev. Lastnik malega podjetja je nameraval ukrepati na podlagi davčne razlage, ki jo je dal model; Komentar ni bil v skladu z veljavno zakonodajo. Napako so ugotovili, ko se je posvetoval s svojim finančnim svetovalcem. Nauk je jasen: AI pripravlja, strokovnjak in človek odločata.
Nasvet: Navadite se označevati dejstvo kot "nepreverjeno". Postavite kljukico poleg vsake številke in vira v izhodu, dokler tega ne potrdite; Ta preprosta disciplina preprečuje, da bi se napačne informacije tiho širile.
Pozor: "AI je tako rekel" ni izgovor. Odgovorni ste za vsako vsebino, ki jo objavite, pošljete ali na podlagi katere se odločite. Hitrost vozila vas ne razbremeni obveznosti pregleda.
Pogoste napake
- Napačen tekoči izhod kot pravilen. Zamenjati prepričljiv jezik za dokaz resnice.
- Uporaba vira brez preverjanja. Objava neobstoječega vira.
- Vnašanje zaupnih podatkov brez razmišljanja. Lepljenje občutljivih dokumentov brez njihove anonimizacije.
- Prepuščanje strokovnega znanja samo modelu. Nezmožnost preverjanja pravnih/medicinskih/finančnih odločitev.
- Prelaganje odgovornosti na vozilo. Izmikanje nadzoru z besedami "AI je tako rekla".
Če povzamem
- Halucinacija je, ko model samozavestno proizvede tisto, kar ni resnično; Vsako dejstvo je trditev, dokler ni preverjeno.
- Preverjanje je dvojno: hitre omejitve zmanjšajo izdelavo, človeško preverjanje to ujame.
- Model je omejen na trenutne, natančne pravne/medicinske/finančne zadeve; ni zadnja avtoriteta.
- Zaupne in osebne podatke anonimizirati ali obdelovati le v orodju, ki ga odobri zavod (KVKK in pravilnik zavoda).
- ravnati v skladu z etičnimi načeli, načeli avtorskih pravic in neškodljivosti; Za vsebino je vedno odgovorna oseba.
Aplikacijska naloga
Vzemite izpis, ki ste ga nedavno izdelali, in izvlecite vsa dejstva (številko, datum, ime, vir, trditev) kot seznam za preverjanje. Za vsakega zapišite način preverjanja in dejansko preverite vsaj tri od njih. Preverite tudi, ali so v vhodu istega izhoda zaupni/osebni podatki in jih po potrebi anonimizirajte.
kontrolni seznam
- [ ] Znam razložiti, kaj so halucinacije in zakaj do njih pride.
- [ ] Preverjam dejansko stanje iz neodvisnega vira.
- [ ] Zaupne/osebne podatke anonimiziram ali obdelujem v varnem orodju.
- [ ] Posvetujem se s pravim strokovnjakom za pravne/medicinske/finančne zadeve.
- [ ] Strinjam se, da sem odgovoren za vsebino.