Dobički:
- Naštejte osnovna načela odgovorne uporabe AI
- Lahko pojasni, zakaj je človeški nadzor nepogrešljiv
- Lahko sestavi kontrolni seznam odgovorne uporabe za svoje delo
V tem modulu smo izvedeli, kaj je umetna inteligenca, kako deluje, njene prednosti, slabosti, tveganja in potek dela. V tej enoti vse to združujemo v praktičnem okviru pod naslovom odgovorna uporaba. AI je močno orodje; Toda njegova moč postane tveganje, če ni uravnotežena z odgovornostjo osebe, ki jo uporablja. »Odgovorna uporaba« morda zveni kot abstraktno etično načelo; Sestavljen pa je iz zelo konkretnih, vsakodnevnih navad. V tej enoti bomo te navade postavili v preprost in privlačen okvir.
Pet osnovnih načel odgovorne uporabe
1. Ljudje imajo zadnjo besedo
To je najbolj osnovno načelo. AI pripravi priporočilo; Ljudje nosijo odločitev in odgovornost. Zlasti pri vprašanjih z velikim vplivom, kot so denar, zdravje, zakonodaja, zaposlitev in ugled, se rezultat umetne inteligence nikoli ne sme izvajati nenadzorovano. "Stroj mi je povedal" ni nikoli veljaven izgovor.
2. Preveri, nato zaupaj
Spomnite se enote za halucinacije. Ne uporabljajte preverljivih dejstev, ki jih ustvari umetna inteligenca (številka, datum, ime, vir), ne da bi jih neodvisno potrdili. Tekoč in samozavesten jezik ni dokaz točnosti.
3. Zaščitite zasebnost
Uporabite načelo v enoti za zasebnost podatkov: Ne pišite osebnih podatkov, poslovnih skrivnosti in zaupnih informacij v javne medije; po potrebi anonimizirajte in upoštevajte politiko vašega podjetja.
4. Upoštevajte pravičnost
Zavedajte se pristranskosti: zagotovite, da rezultati ne bodo nepravično izključevali ali stereotipizirali določenih skupin; Nadzirajte različne poglede na odločitve z velikim vplivom.
5. Bodite pregledni
Ne lažno predstavljajte, da uporabljate AI. Ustrezna navedba, da je bil ključni rezultat pripravljen s pomočjo umetne inteligence, ki temelji na poslovnem kontekstu in politiki podjetja, gradi zaupanje.
Opomba: teh pet načel se med seboj dopolnjuje. Ni dovolj uveljaviti samo enega; Na primer, če ste pozorni na zasebnost in preskočite preverjanje, ste še vedno v nevarnosti.
Zakaj je človeški nadzor nepogrešljiv?
AI ne more prevzeti odgovornosti; Ko naredi napako, cene ne plača on, ampak oseba in institucija, ki ga uporabi. Poleg tega AI ne more videti celotnega konteksta (politika podjetja, odnosi, sektorska občutljivost, trenutna specifična situacija). Človeški nadzor; Določa organ, ki bo nosil pravno odgovornost, in je filter, ki lovi slepe pege modela (halucinacije, pristranskost, neprimernost). Bližje ko je revizija odločitvi z velikim učinkom, strožja mora biti.
Raven revizije glede na tveganje
Vrsta naloge
primer
Obvezen pregled
majhen vpliv
Osnutek internega dopisa, možganska nevihta
Lahek pregled
srednji učinek
Odhodna e-pošta, povzetek poročila
Pozorno branje + preverjanje dejstev
velik vpliv
Pravna/finančna/zdravstvena/zaposlitvena odločitev
Strokovna overitev + pisna potrditev
Šibek pristop / močan pristop
Šibek pristop: Izvedite odločitev z velikim vplivom (npr. ocena zaposlenega) na podlagi rezultatov umetne inteligence brez preverjanja.
Rezultat: Halucinacija ali predsodek vpliva neposredno na odločitev, ki vpliva na človekovo življenje.
Močan pristop: uporabite AI samo za podporo/osnutek; Odločitev utemeljite sami z ustreznimi dokazili, posvetujte se z ustreznim strokovnjakom in podajte končno pisno soglasje.
Rezultat: hitrost vam koristi, odgovornost in poštenost pa ostajata.
Trije mini kovčki
1. primer – Kontrolni seznam je odkril napako. Ko je začela z umetno inteligenco, je ena ekipa natisnila pet načel na kartico in jih postavila na mize. Zaposleni je naletel na vprašanje "zasebnost" na predlogu, ki naj bi ga poslali, in opazil, da vsebuje ime stranke in ga anonimizira. Preprost seznam je preprečil morebitno kršitev.
Primer 2 — »Stroj je tako rekel« ni deloval. Drugi zaposleni je uporabil napačne regulativne informacije, ki jih je dal AI, ne da bi jih preveril, in ko je prišlo do težave, se je branil z besedami: "To je rekel AI." Ta izgovor ni bil sprejet; ker je bil on tisti, ki je uporabil in implementiral orodje. Odgovornost nosi uporabnik.
Primer 3 – Prilagodljiv nadzor glede na tveganje. Ko vodja hitro uporabi interne rezultate možganske nevihte; Zahtevana strokovna odobritev + pisna utemeljitev za odločitve z velikim vplivom, kot sta zaposlovanje in uspešnost. Tako je pospešil delo z nizkim tveganjem in povečal varnost pri kritičnih odločitvah.
Predloge, ki jih je mogoče kopirati
Pred uporabo tega izhoda mi postavite pet vprašanj o odgovorni uporabi po vrstnem redu in me prosite, da za vsako označim »v redu/nedokončano«: 1) Ali je bila opravljena človeška revizija? 2) Ali so bila dejstva preverjena? 3) Ali je bila ohranjena zaupnost? 4) Ali je pošteno in vključujoče? 5) Ali sem pripravljen prevzeti odgovornost za rezultat?
Ocenite stopnjo vpliva (nizko/srednje/visoko) te naloge in ustrezno predlagajte seznam revizijskih korakov. Naloga: [napišite nalogo]
V spodnjem rezultatu naštejte tvegane točke (resnica, zaupnost, poštenost, predanost), ki jih mora oseba vsekakor preveriti, po pomembnosti. Izhod: [prilepite sem]
Pripravite mi kratek osebni "kodeks odgovorne uporabe AI" za mojo vlogo; Predmeti naj bodo usmerjeni k dejanjem in si jih bo enostavno zapomniti. Moja vloga: [napišite svojo vlogo]
Praktični kontrolni seznam
nadzor
vprašanje
revizija
Ali sem ta rezultat pregledal kot človek?
natančnost
Ali sem potrdil dejstva (številko, ime, datum) v njem?
Zasebnost
Ali sem v orodje zapisal občutljive ali osebne podatke?
pravičnost
Ali je rezultat pošten in vključujoč?
preglednost
Ali je uporaba AI ustrezno navedena in ni zavajajoča?
Odgovornost
Ali sem pripravljen odgovarjati za posledice tega rezultata?
Odgovor na zadnje vprašanje naj bo vedno "da"; Kajti dokler ste vi tisti, ki uporabljate orodje, je rezultat vaš.
Pogoste napake
Pogoste napake
- Izvajanje zelo vplivnih odločitev brez nadzora. Strokovna odobritev in pisni nadzor sta nujna pri denarju, zdravju, pravu in zaposlovanju.
- Pomeni "stroj je rekel." Odgovornost ne zavezuje orodje, ampak osebo, ki ga uporablja.
- Selektivna uporaba politik. Pet načel je celota; Če eden manjka, tveganje ostaja.
- Inšpekcijo vedno opravite enako strogo. Nadzor obsega glede na tveganje; hitrost pri majhnem tveganju, natančnost pri visokem tveganju.
Odgovornost prinaša svobodo
Pravila odgovorne uporabe se morda zdijo restriktivna, vendar delujejo ravno nasprotno: ko imate te varnostne navade, lahko umetno inteligenco uporabljate veliko bolj udobno in pogumno. Ker tudi če pride do napake, veste, da imate filter, da jo ujamete. Pravila niso zato, da bi vas upočasnila, ampak zato, da bi vam pomagala varno pospeševati.
Če povzamem
- Pet načel odgovorne uporabe: ljudje imajo zadnjo besedo, preverite in nato zaupajte, varujte zaupnost, prizadevajte si za pravičnost, bodite pregledni.
- Ta načela se dopolnjujejo; Če eden manjka, se tveganje nadaljuje.
- Človeški nadzor je nepogrešljiv, saj umetna inteligenca ne more prevzeti odgovornosti in videti celotnega konteksta.
- Revizijo prilagodite glede na tveganje: majhna pri majhnem vplivu, strokovna odobritev in pisna utemeljitev pri velikem vplivu.
- Ker ste vi tisti, ki uporabljate orodje, ste tudi odgovorni za rezultat; "Mašina mi je rekla" ni opravičilo.
Naloga aplikacije
Z zgornjo predlogo ustvarite kratek osebni »kodeks odgovorne uporabe umetne inteligence« za svojo vlogo (največ 6 elementov). Posnemite ga na vidno mesto in eno za drugim vadite vprašanja v tabeli »kontrolnega seznama za vadbo« na naslednjem pomembnem rezultatu AI.
Kontrolni seznam
- [ ] Navedem lahko pet načel odgovorne uporabe.
- [ ] Lahko pojasnim, zakaj je človeški nadzor nepogrešljiv.
- [ ] Stopnjo nadzora lahko prilagodim glede na tveganje naloge.
- [ ] Ustvaril sem kontrolni seznam odgovorne uporabe za svojo vlogo.
- [ ] Ponotranjil sem, da "stroj mi je rekel" ni izgovor.