Dobici:
- Razumije da model može proizvesti halucinacije i da se svaki rezultat mora provjeriti
- Poznaje rizike i sigurne alternative postavljanja povjerljivih i osobnih podataka na upit
- Primjenjuje etička, autorska prava i ograničenja odgovornosti u korištenju umjetne inteligencije
Nije dovoljno savladati kako pisati upute; Također je potrebno naučiti odgovorno koristiti umjetnu inteligenciju. Ova jedinica je sloj sigurnosti koji se mora staviti na vrh tehničke vještine. AI daje odgovore koji su brzi, uvjerljivi i često točni; Ali ponekad proizvodi potpuno lažne informacije s istom pouzdanošću, može ugroziti osjetljive podatke i pomaknuti etičke granice. U ovoj jedinici ćemo pokriti provjeru rezultata, ograničenja modela, povjerljivost i etičku odgovornost. Bez tog znanja sve druge tehnike ostaju nepotpune.
Halucinacije: uklapanje u model
Halucinacija je kada model proizvodi nestvarne informacije samouvjerenim jezikom. Primjeri su nepostojeći izvor, netočan datum, izmišljena statistika ili zakon koji nikada nije napisan. Zašto se to događa? Zato što model nije dizajniran da "spozna istinu", već da "generira mogući nastavak" (sjetite se logike u prvoj cjelini). Samo zato što je rečenica gramatički moguća ne znači da je činjenično istinita.
Praktična implikacija ovoga je jasna: svaka činjenica koju proizvodi umjetna inteligencija je tvrdnja, a ne činjenica, dok se neovisno ne potvrdi. Posebno uvijek provjerite:
- Brojke i statistika
- Imena, datumi, imena mjesta
- Citati i izvori
- Pravne klauzule, tehnički standardi, medicinske/financijske informacije
Navika provjere valjanosti
Promptnom tehnikom možete smanjiti, ali ne i poništiti potvrdu. Radite u dva sloja:
- Sloj upita: Dajte modelu ograničenja kao što su "oslanjajte se samo na izvor koji sam naveo, nemojte dodavati informacije koje ne postoje, napišite 'ne znam' ako niste sigurni, pokažite izvor svake tvrdnje." Ovo smanjuje pristajanje.
- Ljudski sloj: sami provjerite svaku kritičnu činjenicu iz izvora. O ovom koraku se ne može pregovarati; Posebno je obvezan za sadržaje koji će biti objavljeni, koji će biti temelj za odlučivanje ili će utjecati na druge.
Ograničenja: Što model ne radi dobro
područje
Rizik
pravi pristup
aktualna događanja
Podaci o obuci mogu biti zastarjeli
Provjerite iz datiranog/trenutačnog izvora
točne brojke
Postoji velika vjerojatnost uklapanja
Provjerite pomoću kalkulatora/izvora
Pravni/medicinski/financijski
Rizik od ozbiljne ozljede
Posavjetujte se s pravim stručnjakom, nemojte se oslanjati samo na njega
Izvor/navod
Može proizvesti nepostojeće resurse
Provjerite sami autentičnost izvora
Rijetka/specijalna tema
Površno ili netočno
Usporedite sa stručnim znanjem
Model je pomoćnik, a ne konačni autoritet. Odgovornost uvijek leži na osobi koja ga koristi.
Privatnost i osobni podaci
Tekst koji upisujete u javni AI alat podliježe pravilima obrade tog alata i može biti izvan kontrole vaše organizacije. Stoga je unos povjerljivih i osobnih podataka bez razmišljanja ozbiljan rizik. Obrada osobnih podataka u Turskoj regulirana je KVKK (Zakon o zaštiti osobnih podataka); Institucije također često imaju vlastite politike podataka.
Sigurni načini rada:
- Anonimizacija/maskiranje: Napišite "kupac" umjesto pravog imena, "[broj računa]" umjesto stvarnog broja. Većinu vremena, reći će "trogodišnji korporativni kupac" biti dovoljan.
- Koristite alat koji je odobrila institucija: Neke institucije nude ugovorene/institucionalne alate koji ne cure podatke. Obradite osjetljive podatke samo na njima.
- Nemojte odavati ono što nije potrebno: nemojte uključivati osjetljive detalje koji zapravo nisu bitni za obavljanje zadatka.
- Upoznajte se s pravilima: naučite i pridržavajte se pravila korištenja umjetne inteligencije vaše organizacije.
Etika i autorsko pravo
Odgovorno korištenje ne završava s privatnošću. Tri principa:
- Transparentnost: Na odgovarajući način dodijelite zasluge sadržaju generiranom umjetnom inteligencijom ako to kontekst zahtijeva (na primjer, gdje se očekuje ljudski rad). Izbjegavajte lažnu upotrebu.
- Autorsko pravo i originalnost: rezultat modela može nalikovati drugim djelima. Pregledajte izvornost i status prava prije komercijalne upotrebe; Nemojte oponašati tuđi brend/rad.
- Neškodljivost: Nemojte koristiti za stvaranje sadržaja koji dovodi u zabludu, diskriminirajući, manipulativan ili ciljan. Snaga alata povećava odgovornost.
Četiri predloška za kopiranje
1) Prilagodba ograničenja ograničenja:
Samo se oslonite na izvor u nastavku. Nemojte dodavati informacije koje nisu u izvoru. Napišite "nije u izvoru" tamo gdje niste sigurni. Uz svaku važnu tvrdnju naznačite redak na kojem se temelji. Izvor: [tekst]
2) Izdvojite verifikacijski popis:
U nastavku teksta navedite sve činjenice (broj, datum, naziv, tvrdnja) koje je potrebno provjeriti. Ukratko predložite kako mogu provjeriti za svaki. Tekst: [izlaz]
3) Anonimizacija:
Zamaskirajte sve osobne/povjerljive podatke u sljedećem tekstu: imena [OSOBA], tvrtka [TVRTKA], brojevi [BROJ]. Navedite anonimiziranu verziju s netaknutim značenjem. Tekst: [tekst]
4) Etički pregled:
Etički procijenite ovaj sadržaj prije nego što ga objavite: je li obmanjujući, diskriminirajući ili nepravedan? Označite ga ako je tako i predložite ispravke. Sadržaj: [tekst]
Slab upit / Jak upit
Slabo (rizično):
Pronađite probleme u ugovoru Ahmeta Yılmaza (TC: ...) i usporedite ga s prosjekom industrije.
Jak (siguran):
Pronađite rizične klauzule u tekstu ugovora ispod. - Korištenje osobnih podataka; Neka se stranke nazivaju [TVRTKA-A] i [OSOBA].- Oslanjajte se samo na ono što je napisano u tekstu; industrijski prosjek izmišljen, napišite "podaci nisu dostupni".- Pokažite svaki rizik s njegovom stavkom. Tekst (anonimiziran): [tekst]
Snažna verzija štiti osobne podatke i blokira lažne podatke o industriji; Rezultat je spreman za pregled pravnog tima.
Tri mini kućišta
Slučaj 1 — Izmišljeni izvor. Istraživač je stavio 3 "akademska izvora" koje je dao model u prezentaciju bez da ih je provjerio; Dva izvora uopće nisu bila dostupna. Kolega je to primijetio prije prezentacije. Nakon toga, tim je usvojio pravilo "osobno pronađite i otvorite svaki resurs prije objavljivanja".
Slučaj 2 — Povjerljivost. Zaposlenik je stvarni kupčev ugovor netaknut zalijepio u javni alat i zatražio sažetak. Kad je institucijski tim za informacijsku sigurnost to otkrio, proces je revidiran; Osjetljivi dokumenti sada se obrađuju samo u korporativnom alatu koji je odobrila institucija i anonimizirani su.
Slučaj 3 — Odgovornost za odluku. Vlasnik male tvrtke spremao se poduzeti radnju na temelju porezne interpretacije koju daje model; Komentar nije u skladu s važećim zakonima. Greška je uočena kada se konzultirao sa svojim financijskim savjetnikom. Lekcija je jasna: AI priprema, stručnjak i čovjek odlučuju.
Savjet: Stvorite naviku označavati činjenicu kao "neprovjereno". Stavite kvačicu pored svakog broja i izvora u izlazu dok to ne potvrdite; Ova jednostavna disciplina sprječava tiho širenje dezinformacija.
Oprez: "AI je tako rekao" nije isprika. Vi ste odgovorni za svaki sadržaj koji objavite, pošaljete ili na temelju kojeg donosite svoje odluke. Brzina vozila ne oslobađa vas obveze pregleda.
Uobičajene greške
- Zamjena tečnog izlaza kao ispravnog. Zamjena uvjerljivog jezika za dokaz istine.
- Korištenje izvora bez provjere. Objavljivanje nepostojećeg izvora.
- Unos povjerljivih podataka bez razmišljanja. Lijepljenje osjetljivih dokumenata bez anonimizacije.
- Prepuštajući stručnost samo modelu. Neprovjera pravnih/medicinskih/financijskih odluka.
- Prebacivanje odgovornosti na vozilo. Izbjegavanje kontrole izgovaranjem "AI je tako rekao".
Ukratko
- Halucinacija je kada model samouvjereno proizvodi ono što nije stvarno; Svaka činjenica je tvrdnja dok se ne potvrdi.
- Provjera je dvostruka: brza ograničenja smanjuju proizvodnju, ljudska provjera to hvata.
- Model je ograničen na trenutna, precizna, pravna/medicinska/financijska pitanja; nije konačni autoritet.
- Povjerljive i osobne podatke anonimizirati ili obrađivati samo u alatu odobrenom od strane ustanove (KVKK i politika ustanove).
- Pridržavati se etičkih načela, načela autorskih prava i načela neškodljivosti; Odgovornost za sadržaj uvijek leži na osobi.
Zadatak aplikacije
Uzmite ispis koji ste nedavno izradili i izdvojite sve činjenice iz njega (broj, datum, ime, izvor, tvrdnja) kao popis za provjeru. Zapišite način provjere za svaki i provjerite barem tri od njih. Također provjerite postoje li povjerljivi/osobni podaci u ulazu istog izlaza i anonimizirajte ih ako je potrebno.
popis za provjeru
- [ ] Mogu objasniti što je halucinacija i zašto se događa.
- [ ] Provjeravam činjenični rezultat iz neovisnog izvora.
- [ ] Anonimiziram povjerljive/osobne podatke ili ih obrađujem u sigurnom alatu.
- [ ] Savjetujem pravog stručnjaka za pravna/medicinska/financijska pitanja.
- [ ] Prihvaćam da sam odgovoran za sadržaj.