Dobici:
- Navedite osnovna načela odgovornog korištenja umjetne inteligencije
- Može objasniti zašto je ljudska kontrola neophodna
- Može napraviti popis za odgovorno korištenje za svoj rad
U ovom smo modulu naučili što je AI, kako funkcionira, njegove snage, slabosti, rizike i tijek rada. U ovoj jedinici sve to spajamo u praktičan okvir pod naslovom odgovornog korištenja. AI je moćan alat; Ali njegova snaga postaje rizik kada nije uravnotežena s odgovornošću osobe koja je koristi. “Odgovorna uporaba” može zvučati kao apstraktno etičko načelo; No, sastoji se od vrlo konkretnih, svakodnevnih navika. U ovoj ćemo jedinici te navike staviti u jednostavan i privlačan okvir.
Pet osnovnih načela odgovornog korištenja
1. Ljudi imaju posljednju riječ
Ovo je najosnovnije načelo. AI daje preporuku; Ljudi snose odluku i odgovornost. Osobito u pitanjima koja imaju veliki utjecaj kao što su novac, zdravlje, zakon, zapošljavanje i ugled, izlaz AI-a nikad se ne bi trebao provoditi bez nadzora. "Mašina mi je rekla" nikada nije valjan izgovor.
2. Provjerite, a zatim vjerujte
Sjetite se jedinice za halucinacije. Ne koristite provjerljive činjenice koje je generirala umjetna inteligencija (broj, datum, ime, izvor) bez da ih neovisno potvrdite. Tečan i samouvjeren jezik nije dokaz točnosti.
3. Zaštitite privatnost
Primijenite načelo u jedinici za privatnost podataka: Ne pišite osobne podatke, poslovne tajne i povjerljive informacije u javnim medijima; anonimizirati gdje je to potrebno i pridržavati se politike vaše tvrtke.
4. Promatrajte pravdu
Budite svjesni pristranosti: osigurajte da rezultati nepravedno ne isključuju ili stereotipiziraju određene skupine; Nadgledajte različite poglede na odluke s velikim utjecajem.
5. Budite transparentni
Nemojte lažno predstavljati da koristite AI. Prikladno navođenje da je ključna isporuka pripremljena uz pomoć umjetne inteligencije, na temelju poslovnog konteksta i korporativne politike, gradi povjerenje.
Napomena: Ovih pet principa se međusobno nadopunjuju. Nije dovoljno implementirati samo jedno; Na primjer, ako obratite pozornost na privatnost i preskočite provjeru, još uvijek ste u opasnosti.
Zašto je ljudska kontrola neophodna?
AI ne može preuzeti odgovornost; Kada pogriješi, ne plaća on cijenu, već osoba i institucija koja ga koristi. Dodatno, umjetna inteligencija ne može vidjeti puni kontekst (korporativnu politiku, odnose, sektorsku osjetljivost, konkretnu trenutnu situaciju). Ljudska kontrola; On ujedno određuje autoritet koji će snositi pravnu odgovornost i predstavlja filter koji hvata mrtve točke modela (halucinacije, pristranost, neprimjerenost). Što je revizija bliža odluci s velikim utjecajem, to bi trebala biti stroža.
Razina revizije prema riziku
Vrsta zadatka
primjer
Obavezan pregled
nizak utjecaj
Nacrt internog dopisa, oluja ideja
Lagani pregled
srednji učinak
Odlazna e-pošta, sažetak izvješća
Pažljivo čitanje + provjera činjenica
veliki utjecaj
Odluka o pravnom/financijskom/zdravstvenom/zapošljavanju
Stručna provjera + pismena potvrda
Slab pristup / Jak pristup
Slab pristup: Provedba odluke s velikim utjecajem (npr. procjena zaposlenika) na temelju rezultata umjetne inteligencije bez provjere.
Rezultat: Halucinacija ili predrasuda izravno utječe na odluku koja utječe na život osobe.
Snažan pristup: Koristite AI samo za podršku/nacrt; Odluku obrazložite sami relevantnim dokazima, posavjetujte se s nadležnim stručnjakom i dajte konačnu pismenu suglasnost.
Rezultat: Imate koristi od brzine, ali zadržavate odgovornost i poštenje.
Tri mini kućišta
Slučaj 1 — Kontrolni popis je otkrio pogrešku. Kad su počinjali s umjetnom inteligencijom, jedan je tim ispisao pet načela na kartici i stavio ih na stolove. Zaposlenik je slučajno naletio na pitanje "privatnost" na prijedlogu koji je trebao biti poslan i primijetio da sadrži ime kupca i anonimizira ga. Jednostavan popis spriječio je mogući proboj.
Slučaj 2 — "Stroj je tako rekao" nije radio. Drugi je zaposlenik primijenio netočne regulatorne informacije koje je dao AI bez da ih je provjerio, a kada se pojavio problem, branio se govoreći "To je ono što je AI rekao." Ovaj izgovor nije prihvaćen; jer je on bio taj koji je koristio i implementirao alat. Odgovornost je na korisniku.
Slučaj 3 — Fleksibilna kontrola prema riziku. Kada menadžer brzo koristi interne rezultate brainstorminga; Potrebno odobrenje stručnjaka + pismeno obrazloženje za odluke s velikim utjecajem kao što su zapošljavanje i učinak. Stoga je ubrzao rad niskog rizika i povećao sigurnost u kritičnim odlukama.
Predlošci koji se mogu kopirati
Prije korištenja ovog izlaza, postavite mi pet pitanja o odgovornom korištenju po redu i zamolite me da označim "u redu / nepotpuno" za svako: 1) Je li izvršena ljudska revizija? 2) Jesu li činjenice provjerene? 3) Je li povjerljivost održana? 4) Je li pošteno i uključivo? 5) Jesam li spreman biti odgovoran za ishod?
Ocijenite razinu utjecaja (niska/srednja/visoka) ovog zadatka i prema tome predložite popis koraka revizije. Zadatak: [napišite zadatak]
U donjem rezultatu navedite rizične točke (istina, povjerljivost, poštenje, predanost) koje bi osoba svakako trebala provjeriti, prema važnosti. Izlaz: [zalijepi ovdje]
Pripremite mi kratki, osobni "kodeks odgovornog korištenja umjetne inteligencije" za moju ulogu; Neka stavke budu orijentirane na akciju i lake za pamćenje. Moja uloga: [napišite svoju ulogu]
Praktični kontrolni popis
kontrola
Pitanje
revizija
Jesam li pregledao ovaj rezultat kao čovjek?
točnost
Jesam li potvrdio činjenice (broj, ime, datum) u njemu?
Privatnost
Jesam li u alat upisao osjetljive ili osobne podatke?
pravednost
Je li ishod pravedan i uključiv?
prozirnost
Je li upotreba umjetne inteligencije prikladno navedena i ne dovodi u zabludu?
Odgovornost
Jesam li spreman snositi odgovornost za posljedice ovog rezultata?
Odgovor na posljednje pitanje uvijek bi trebao biti "da"; Jer sve dok ste vi taj koji koristi alat, rezultat je vaš.
Uobičajene greške
Uobičajene greške
- Provedba visoko utjecajnih odluka bez nadzora. Odobrenje stručnjaka i pismeni nadzor neophodni su u novcu, zdravstvu, pravu i zapošljavanju.
- To znači "Mašina je to rekla." Odgovornost ne obvezuje alat, već osobu koja ga koristi.
- Selektivna primjena politika. Pet principa su cjelina; Ako jedan nedostaje, rizik ostaje.
- Uvijek obavljajte pregled s istom strogošću. Kontrola razmjera prema riziku; brzina uz mali rizik, pedantnost uz visoki rizik.
Odgovornost donosi slobodu
Pravila odgovorne uporabe mogu se činiti restriktivnima, ali čine upravo suprotno: jednom kada steknete te sigurnosne navike, AI možete koristiti puno ugodnije i hrabrije. Jer čak i ako postoji pogreška, znate da imate filter da je uhvatite. Pravila nisu tu da vas usporavaju, ona su tu da vam pomognu da sigurno ubrzate.
Ukratko
- Pet načela odgovornog korištenja: ljudi imaju posljednju riječ, provjerite pa vjerujte, zaštitite povjerljivost, težite poštenju, budite transparentni.
- Ova se načela međusobno nadopunjuju; Ako jedan nedostaje, rizik se nastavlja.
- Ljudski nadzor je neophodan jer AI ne može preuzeti odgovornost i vidjeti puni kontekst.
- Razmjerite reviziju prema riziku: lagana kod slabog utjecaja, odobrenje stručnjaka i pisano obrazloženje kod velikog utjecaja.
- Budući da ste vi taj koji koristi alat, vi ste također odgovorni za rezultat; "Mašina mi je rekla" nije isprika.
Zadatak primjene
Napravite kratki, osobni "kod odgovornog korištenja umjetne inteligencije" za svoju ulogu pomoću gornjeg predloška (najviše 6 stavki). Zabilježite to negdje na vidljivom mjestu i vježbajte pitanja u tablici "kontrolnog popisa za vježbu" jedno po jedno na sljedećem važnom rezultatu umjetne inteligencije.
Kontrolni popis
- [ ] Mogu navesti pet načela odgovornog korištenja.
- [ ] Mogu objasniti zašto je ljudska kontrola neophodna.
- [ ] Mogu prilagoditi razinu kontrole prema riziku zadatka.
- [ ] Napravio sam kontrolni popis odgovornog korištenja za svoju ulogu.
- [ ] Shvatio sam da "stroj mi je rekao" nije isprika.