Dobici:
- Razumije da model može proizvesti halucinacije i da se svaki izlaz mora provjeriti
- Poznaje rizike i sigurne alternative stavljanja povjerljivih i ličnih podataka na upit
- Primjenjuje ograničenja etike, autorskih prava i odgovornosti u korištenju umjetne inteligencije
Nije dovoljno savladati kako pisati upite; Također je potrebno naučiti odgovorno koristiti umjetnu inteligenciju. Ova jedinica je sloj sigurnosti koji se mora staviti na vrh tehničke vještine. AI daje odgovore koji su brzi, uvjerljivi i često tačni; Ali ponekad proizvodi potpuno lažne informacije s istim povjerenjem, može ugroziti osjetljive podatke i pomjeriti etičke granice. U ovoj jedinici ćemo pokriti provjeru rezultata, ograničenja modela, povjerljivost i etičku odgovornost. Bez ovog znanja, sve ostale tehnike ostaju nepotpune.
Halucinacija: Prilagođavanje modelu
Halucinacija je kada model proizvodi nestvarne informacije na pouzdanom jeziku. Nepostojeći izvor, netačan datum, izmišljena statistika ili zakon koji nikada nije napisan su primjeri toga. Zašto se to dešava? Jer model nije dizajniran da "zna istinu" već da "generira mogući nastavak" (sjetite se logike u prvoj cjelini). Samo zato što je rečenica gramatički moguća ne znači da je činjenično istinita.
Praktična implikacija ovoga je jasna: svaka činjenica koju proizvede AI je tvrdnja, a ne činjenica, dok se ne potvrdi nezavisno. Posebno uvijek provjerite:
- Brojevi i statistika
- Imena, datumi, nazivi mjesta
- Citati i reference izvora
- Pravne klauzule, tehnički standardi, medicinske/finansijske informacije
Validation Habit
Možete smanjiti, ali ne i resetirati verifikaciju uz pomoć brze tehnike. Radite u dva sloja:
- Sloj upita: Dajte ograničenja modela kao što su "oslonite se samo na izvor koji dajem, nemojte dodavati informacije koje ne postoje, napišite 'Ne znam' ako niste sigurni, pokažite izvor svake tvrdnje." Ovo smanjuje pristajanje.
- Ljudski sloj: Provjerite svaku kritičnu činjenicu sami iz izvora. O ovom koraku se ne može pregovarati; Posebno je obavezan za sadržaje koji će biti objavljeni, koji će biti osnova za odluke ili će uticati na druge.
Ograničenja: Šta model ne radi dobro
području
Rizik
pravi pristup
aktuelna dešavanja
Podaci o obuci mogu biti zastarjeli
Potvrdite iz datumskog/trenutnog izvora
tačne brojke
Postoji velika vjerovatnoća uklapanja
Provjerite pomoću kalkulatora/izvora
Pravni/medicinski/finansijski
Rizik od ozbiljne povrede
Konsultujte se sa pravim stručnjakom, nemojte se oslanjati samo na njega
Izvor/citiranje
Može proizvesti nepostojeće resurse
Provjerite autentičnost izvora sami
Rijetka/niša tema
Površno ili netačno
Uporedite sa stručnim znanjem
Model je pomoćnik, a ne konačni autoritet. Odgovornost uvijek leži na osobi koja ga koristi.
Privatnost i lični podaci
Tekst koji unesete u javni AI alat podliježe politikama obrade tog alata i može biti van kontrole vaše organizacije. Stoga je unošenje povjerljivih i ličnih podataka bez razmišljanja ozbiljan rizik. Obrada ličnih podataka u Turskoj je regulisana KVKK (Zakon o zaštiti ličnih podataka); Institucije također često imaju vlastite politike podataka.
Sigurni načini rada:
- Anonimiziranje/maska: Napišite "kupac" umjesto pravog imena, "[broj računa]" umjesto stvarnog broja. Većinu vremena, izgovaranje "trogodišnji korporativni klijent" će učiniti trik.
- Koristite alat koji je odobrila institucija: Neke institucije nude ugovorene/institucionalne alate koji ne propuštaju podatke. Obradite osjetljive podatke samo o njima.
- Nemojte davati ono što nije potrebno: Nemojte uključivati nikakve osjetljive detalje koji zapravo nisu bitni za obavljanje zadatka.
- Upoznajte se s pravilima: Naučite i pridržavajte se pravila korištenja umjetne inteligencije vaše organizacije.
Etika i autorska prava
Odgovorno korištenje ne završava privatnošću. tri principa:
- Transparentnost: Odgovarajuće kreditirajte sadržaje generisane umjetnom inteligencijom ako to kontekst zahtijeva (na primjer, gdje se očekuje ljudski rad). Izbjegavajte obmanjujuće korištenje.
- Autorska prava i originalnost: Rezultat modela može ličiti na druga djela. Pregledajte originalnost i status prava prije komercijalne upotrebe; Nemojte imitirati tuđu marku/rad.
- Ne-zlonamjernost: Nemojte koristiti za stvaranje sadržaja koji je obmanjujući, diskriminirajući, manipulativan ili ciljani. Snaga alata povećava odgovornost.
Četiri predloška koji se mogu kopirati
1) Ograničenje ograničenja:
Samo se oslonite na izvor ispod. Nemojte dodavati informacije koje nisu u izvoru. Napišite "nije u izvoru" gdje niste sigurni. Pored svake važne tvrdnje navedite liniju na kojoj se zasniva. Izvor: [tekst]
2) Ekstrakt verifikacione liste:
Navedite sve činjenice (broj, datum, ime, zahtjev) koje je potrebno provjeriti u tekstu ispod. Ukratko predložite kako mogu provjeriti za svaki. Tekst: [izlaz]
3) Anonimizacija:
Maskirajte sve lične/povjerljive podatke u sljedećem tekstu: ime [OSOBA], kompanija [KOMPANIJA], brojevi [BROJ]. Dajte anonimiziranu verziju sa netaknutim značenjem. Tekst: [tekst]
4) Etička ocjena:
Etički procijenite ovaj sadržaj prije objavljivanja: da li je obmanjujući, diskriminirajući ili nepravedan? Označite ga ako jeste i predložite ispravke. Sadržaj: [tekst]
Slaba prompt / jaka prompt
Slabo (rizično):
Pronađite probleme u ugovoru Ahmeta Yılmaza (TC: ...) i uporedite ga sa industrijskim prosjekima.
Jaka (sigurna):
Rizične klauzule potražite u tekstu ugovora u nastavku. - Korišćenje ličnih podataka; Neka se strane nazovu kao [KOMPANIJA-A] i [OSOBA].- Oslonite se samo na ono što je napisano u tekstu; industrijski prosjek sastavljen, napišite "podaci nisu dostupni".- Prikaži svaki rizik sa svojom stavkom. Tekst (anonimiziran): [tekst]
Moćna verzija istovremeno štiti lične podatke i blokira lažne industrijske podatke; Rezultat je spreman za pregled od strane pravnog tima.
Tri mini futrole
Slučaj 1 — Izrađen izvor. Istraživač je u prezentaciju stavio 3 „akademska izvora“ data od strane modela, a da ih nije verificirao; Dva izvora uopšte nisu bila dostupna. Kolega je to primijetio prije prezentacije. Nakon toga, tim je usvojio pravilo "pronađi i otvori svaki resurs lično prije objavljivanja".
Slučaj 2 — Povjerljivost. Zaposlenik je zalijepio stvarni kupčev ugovor netaknut u javni alat i zatražio sažetak. Kada je tim institucije za informatičku sigurnost to otkrio, proces je revidiran; Osjetljivi dokumenti se sada obrađuju samo u korporativnom alatu koji je odobrila institucija i anonimizirani su.
Slučaj 3 — Odgovornost za odlučivanje. Vlasnik malog preduzeća je trebao da preduzme akciju na osnovu poreskog tumačenja datog modelom; Komentar nije u skladu sa važećim zakonima. Greška je uhvaćena kada se konsultovao sa svojim finansijskim savetnikom. Pouka je jasna: AI se priprema, stručnjak i čovjek odlučuju.
Savjet: Napravite naviku označavanja činjenice kao "neprovjerene". Stavite kvačicu pored svakog broja i izvora u izlazu dok to ne potvrdite; Ova jednostavna disciplina sprječava da se dezinformacije tiho šire.
Oprez: "AI je tako rekao" nije izgovor. Odgovorni ste za bilo koji sadržaj koji objavljujete, šaljete ili na kojem zasnivate svoje odluke. Brzina vozila vas ne oslobađa obaveze pregleda.
Uobičajene greške
- Pogrešan tečni izlaz kao ispravan. Zamijeniti uvjerljivi jezik kao dokaz istine.
- Korištenje izvora bez provjere. Objavljivanje nepostojećeg izvora.
- Unošenje povjerljivih podataka bez razmišljanja. Lijepljenje osjetljivih dokumenata bez njihove anonimizacije.
- Ostavljanje stručnosti samo modelu. Neprovjera pravnih/medicinskih/finansijskih odluka.
- Prebacivanje odgovornosti na vozilo. Izbjegavanje kontrole govoreći "AI je tako rekao".
Ukratko
- Halucinacija je kada model samouvjereno proizvodi ono što nije stvarno; Svaka činjenica je tvrdnja dok se ne potvrdi.
- Verifikacija je dvostruka: brza ograničenja smanjuju proizvodnju, ljudska provjera je uhvati.
- Model je ograničen na aktuelna, precizna, pravna/medicinska/finansijska pitanja; nije konačni autoritet.
- Anonimizirati povjerljive i lične podatke ili obrađivati samo u alatu koji je odobrila institucija (KVKK i politika institucije).
- Poštujte etičke principe, principe autorskih prava i nezlonamjernost; Odgovornost za sadržaj uvijek leži na licu.
Zadatak aplikacije
Uzmite ispis koji ste nedavno napravili i izdvojite sve činjenice iz njega (broj, datum, ime, izvor, zahtjev) kao verifikacionu listu. Zapišite način provjere za svaki i zapravo provjerite najmanje tri od njih. Također provjerite ima li povjerljivih/ličnih podataka u ulazu istog izlaza i po potrebi ih anonimizirajte.
kontrolna lista
- [ ] Mogu objasniti šta je halucinacija i zašto se dešava.
- [ ] Provjeravam činjenične podatke iz nezavisnog izvora.
- [ ] Anonimiziram povjerljive/lične podatke ili ih obrađujem u sigurnom alatu.
- [ ] Konsultujem se sa pravim stručnjakom za pravna/medicinska/finansijska pitanja.
- [ ] Prihvatam da sam odgovoran za sadržaj.