Ieguvumi:
- Saprot, ka modelis var izraisīt halucinācijas un ka katrs rezultāts ir jāpārbauda
- Zina riskus un drošas alternatīvas, kas saistītas ar konfidenciālu un personas datu tūlītēju ievietošanu
- Piemēro ētikas, autortiesību un atbildības ierobežojumus mākslīgā intelekta izmantošanā
Nepietiek ar prasmi rakstīt uzvednes; Tāpat ir jāiemācās atbildīgi izmantot mākslīgo intelektu. Šī vienība ir drošības slānis, kas jāpaaugstina tehniskajām prasmēm. AI sniedz atbildes, kas ir ātras, pārliecinošas un bieži vien precīzas; Bet dažreiz tas ar tādu pašu pārliecību sniedz pilnīgi nepatiesu informāciju, var apdraudēt sensitīvus datus un pārkāpt ētikas robežas. Šajā nodaļā mēs apskatīsim rezultātu pārbaudi, modeļa ierobežojumus, konfidencialitāti un ētisko atbildību. Bez šīm zināšanām visas pārējās metodes paliek nepilnīgas.
Halucinācijas: pielāgošanās modelim
Halucinācijas ir tad, kad modelis sniedz nereālu informāciju pārliecinātā valodā. Neesošs avots, nepareizs datums, safabricēta statistika vai likums, kas nekad nav rakstīts, ir to piemēri. Kāpēc tā notiek? Jo modelis ir izstrādāts nevis, lai "zinātu patiesību", bet lai "ģenerētu iespējamo turpinājumu" (atcerieties loģiku pirmajā vienībā). Tas, ka teikums ir gramatiski iespējams, nenozīmē, ka tas ir patiess.
Tā praktiskā nozīme ir skaidra: katrs AI radītais fakts ir apgalvojums, nevis fakts, kamēr tas nav pārbaudīts neatkarīgi. Jo īpaši vienmēr pārbaudiet:
- Skaitļi un statistika
- Vārdi, datumi, vietvārdi
- Citāti un avotu atsauces
- Juridiskās klauzulas, tehniskie standarti, medicīniskā/finanšu informācija
Validācijas ieradums
Varat samazināt, bet ne atiestatīt verifikāciju, izmantojot tūlītēju paņēmienu. Darbs divos slāņos:
- Uzvednes slānis: norādiet modeļa ierobežojumus, piemēram, "paļaujieties tikai uz manis norādīto avotu, nepievienojiet informāciju, kas neeksistē, ierakstiet "Es nezinu", ja neesat pārliecināts, parādiet katra apgalvojuma avotu." Tas samazina montāžu.
- Cilvēka slānis: pārbaudiet katru kritisko faktu pats no avota. Šis solis nav apspriežams; Tas ir īpaši obligāts saturam, kas tiks publicēts, būs par pamatu lēmumiem vai ietekmēs citus.
Ierobežojumi: ko modelis nedara labi
apgabalā
Risks
pareizā pieeja
aktuālie notikumi
Apmācības dati var būt novecojuši
Pārbaudiet no datēta/pašreizējā avota
precīzi skaitļi
Ir liela varbūtība, ka tas tiks piemērots
Pārbaudiet ar kalkulatoru/avotu
Juridiskais/medicīniskais/finansiālais
Nopietna kaitējuma risks
Konsultējieties ar īstu ekspertu, nepaļaujieties tikai uz to
Avots/citāts
Var ražot neesošus resursus
Pats pārbaudiet avota autentiskumu
Reta/nišas tēma
Virspusēji vai neprecīzi
Salīdziniet ar ekspertu zināšanām
Modelis ir palīgs, nevis galīgā autoritāte. Atbildība vienmēr gulstas uz personu, kas to izmanto.
Privātums un personas dati
Uz tekstu, ko ievadāt publiskajā AI rīkā, attiecas šī rīka apstrādes politikas, un tas var būt ārpus jūsu organizācijas kontroles. Tāpēc konfidenciālu un personas datu ievadīšana bez domāšanas ir nopietns risks. Personas datu apstrādi Türkiye regulē KVKK (Personas datu aizsardzības likums); Arī iestādēm bieži ir savas datu politikas.
Droši darba veidi:
- Anonimizēt/maskēt: īstā vārda vietā ierakstiet “klients”, reālā numura vietā “[konta numurs]”. Lielāko daļu laika, sakot "3 gadu korporatīvais klients", tas palīdzēs.
- Izmantojiet iestādes apstiprinātu rīku: dažas iestādes piedāvā līgumus/institūciju rīkus, kas nenopludina datus. Apstrādājiet sensitīvus datus tikai par tiem.
- Neatdodiet to, kas nav nepieciešams: neiekļaujiet sensitīvu informāciju, kas faktiski nav svarīga uzdevuma veikšanai.
- Iepazīstieties ar politiku: apgūstiet un ievērojiet savas organizācijas mākslīgā intelekta lietošanas noteikumus.
Ētika un autortiesības
Atbildīga izmantošana nebeidzas ar privātumu. Trīs principi:
- Pārredzamība: atbilstoši kreditējiet mākslīgā intelekta radīto saturu, ja to prasa konteksts (piemēram, ja ir paredzēts cilvēku darbs). Izvairieties no maldinošas lietošanas.
- Autortiesības un oriģinalitāte: modeļa izvade var līdzināties citiem darbiem. Pirms komerciālas izmantošanas pārbaudiet oriģinalitāti un tiesību statusu; Neatdariniet kāda cita zīmolu/darbu.
- Nav ļaunprātīga izmantošana: neizmantojiet, lai izveidotu saturu, kas ir maldinošs, diskriminējošs, manipulatīvs vai mērķtiecīgs. Instrumenta jauda palielina atbildību.
Četras kopējamas veidnes
1) Ierobežojumu ierobežojoša montāža:
Vienkārši paļaujieties uz tālāk norādīto avotu. Nepievienojiet informāciju, kas nav avotā. Ja neesat pārliecināts, rakstiet "nav avotā". Blakus katrai svarīgai pretenzijai norādiet rindiņu, uz kuras tā ir balstīta. Avots: [teksts]
2) Izņemt verifikācijas sarakstu:
Tālāk tekstā uzskaitiet visus faktus (numurs, datums, vārds, prasība), kas ir jāpārbauda. Īsi iesakiet, kā es varu pārbaudīt katru. Teksts: [izeja]
3) Anonimizācija:
Maskējiet visus personas/konfidenciālos datus šādā tekstā: vārds [PERSONA], uzņēmums [UZŅĒMUMS], numuri [NUMURS]. Sniedziet anonimizētu versiju ar neskartu nozīmi. Teksts: [teksts]
4) Ētiskā pārbaude:
Ētiski novērtējiet šo saturu pirms tā publicēšanas: vai tas ir maldinošs, diskriminējošs vai negodīgs? Ja tā, atzīmējiet to un iesakiet labojumus. Saturs: [teksts]
Vāja uzvedne / spēcīga uzvedne
Vāji (riskanti):
Atrodiet problēmas Ahmeta Jilmaza (TC: ...) līgumā un salīdziniet to ar nozares vidējiem rādītājiem.
Spēcīgs (drošs):
Atrodiet riskantos punktus zemāk esošajā līguma tekstā. - Personas datu izmantošana; Lai puses tiek apzīmētas kā [UZŅĒMUMS-A] un [PERSONA].- Paļaujieties tikai uz tekstā rakstīto; izstrādāts nozares vidējais rādītājs, ierakstiet "dati nav pieejami".- Parādiet katru risku ar tā vienumu.Teksts (anonimizēts): [teksts]
Jaudīgā versija gan aizsargā personas datus, gan bloķē viltotus nozares datus; Izvade ir gatava pārskatīšanai juridiskajā komandā.
Trīs mini futrāļi
1. gadījums — izdomāts avots. Pētnieks prezentācijā ievietoja 3 modeļa sniegtos "akadēmiskos avotus", tos nepārbaudot; Divi no avotiem vispār nebija pieejami. Kolēģe to pamanīja pirms prezentācijas. Pēc tam komanda pieņēma noteikumu "atrodiet un atveriet katru resursu personīgi pirms publicēšanas".
2. gadījums — Konfidencialitāte. Darbinieks ielīmēja faktisko klienta līgumu neskartu publiskā rīkā un lūdza kopsavilkumu. Kad iestādes informācijas drošības komanda to konstatēja, process tika pārskatīts; Sensitīvie dokumenti tagad tiek apstrādāti tikai iestādes apstiprinātajā korporatīvajā rīkā un ir anonimizēti.
3. gadījums — atbildība par lēmumu. Mazā uzņēmuma īpašnieks gatavojās rīkoties, pamatojoties uz modeļa sniegto nodokļu interpretāciju; Komentārs neatbilda spēkā esošajiem tiesību aktiem. Kļūda tika pieķerta, kad viņš konsultējās ar savu finanšu konsultantu. Mācība ir skaidra: AI sagatavo, eksperts un cilvēks izlemj.
Padoms: izveidojiet ieradumu atzīmēt faktu kā "nepārbaudītu". Atzīmējiet atzīmi blakus katram numuram un avotam izvadē, līdz to apstiprināsit; Šī vienkāršā disciplīna novērš dezinformācijas klusu izplatīšanos.
Uzmanību: “AI teica” nav attaisnojums. Jūs esat atbildīgs par jebkādu saturu, ko publicējat, nosūtāt vai uz kuru pamatojat savus lēmumus. Transportlīdzekļa ātrums neatbrīvo jūs no pienākuma veikt pārbaudi.
Biežas kļūdas
- Kļūdaina plūstoša izvade kā pareiza. Pārliecinošu valodu maldināšana, lai pierādītu patiesību.
- Avota izmantošana, to nepārbaudot. Neesoša avota publicēšana.
- Konfidenciālu datu ievadīšana bez domāšanas. Sensitīvu dokumentu ielīmēšana bez anonimizācijas.
- Atstājot zināšanas tikai modelei. Nespēja pārbaudīt juridiskos/medicīniskos/finansiālos lēmumus.
- Atbildības uzlikšana transportlīdzeklim. Izvairīšanās no kontroles, sakot "AI teica."
Rezumējot
- Halucinācijas ir tad, kad modelis pārliecinoši rada to, kas nav īsts; Katrs fakts ir apgalvojums, kamēr tas nav pārbaudīts.
- Pārbaude ir divējāda: tūlītēji ierobežojumi samazina izgatavošanu, bet cilvēka pārbaude to uztver.
- Modelis attiecas tikai uz aktuāliem, precīziem, juridiskiem/medicīniskiem/finanšu jautājumiem; nav galīgā autoritāte.
- Anonimizēt konfidenciālos un personas datus vai apstrādāt tikai iestādes apstiprinātajā rīkā (KVKK un iestādes politika).
- Ievērot ētikas, autortiesību un ļaunprātīgas izmantošanas principus; Atbildība par saturu vienmēr gulstas uz cilvēku.
Lietojumprogrammas uzdevums
Paņemiet nesen izdrukātu izdruku un izņemiet tajā visus faktus (numurs, datums, nosaukums, avots, pretenzija) kā pārbaudes sarakstu. Pierakstiet katrai verifikācijas metodi un faktiski pārbaudiet vismaz trīs no tām. Tāpat pārbaudiet, vai vienas un tās pašas izvades ievadē nav konfidenciālu/personisku datu, un, ja nepieciešams, anonimizē tos.
kontrolsaraksts
- [ ] Es varu izskaidrot, kas ir halucinācijas un kāpēc tā notiek.
- [ ] Es pārbaudu faktu rezultātus no neatkarīga avota.
- [ ] Es anonimizēju konfidenciālus/personas datus vai apstrādāju tos drošā rīkā.
- [ ] Konsultēju īstu ekspertu juridiskos/medicīnas/finanšu jautājumos.
- [ ] Es piekrītu, ka esmu atbildīgs par saturu.