Kasu:
- Loetlege tehisintellekti vastutustundliku kasutamise põhiprintsiibid
- Oskab selgitada, miks inimese kontroll on hädavajalik
- Oskab koostada oma töö jaoks vastutustundliku kasutamise kontrollnimekirja
Selles moodulis õppisime, mis on tehisintellekt, kuidas see toimib, selle tugevaid ja nõrku külgi, riske ja töövoogu. Selles üksuses ühendame need kõik praktilises raamistikus vastutustundliku kasutamise rubriigi all. AI on võimas tööriist; Kuid selle jõud muutub riskiks, kui see ei ole tasakaalus selle kasutaja vastutusega. „Vastutustundlik kasutamine” võib tunduda abstraktse eetilise põhimõttena; See koosneb aga väga konkreetsetest igapäevastest harjumustest. Selles üksuses paneme need harjumused lihtsasse ja meeldejäävasse raamistikku.
Vastutustundliku kasutamise viis peamist põhimõtet
1. Inimestel on viimane sõna
See on kõige elementaarsem põhimõte. AI koostab soovituse; Inimesed kannavad otsuseid ja vastutust. AI väljundit ei tohiks kunagi järelevalveta rakendada, eriti sellistes suure mõjuga küsimustes nagu raha, tervis, õigus, tööhõive ja maine. "Masin ütles mulle" pole kunagi mõjuv vabandus.
2. Kinnitage ja seejärel usaldage
Pidage meeles hallutsinatsiooniüksust. Ärge kasutage tehisintellekti loodud kontrollitavaid fakte (number, kuupäev, nimi, allikas) ilma neid iseseisvalt kinnitamata. Ladus ja enesekindel keel ei tõenda täpsust.
3. Kaitske privaatsust
Rakenda andmeprivaatsusüksuses põhimõtet: Ärge kirjutage avalikku meediasse isikuandmeid, ärisaladusi ja konfidentsiaalset teavet; muutke vajaduse korral anonüümseks ja järgige oma ettevõtte poliitikat.
4. Jälgige õiglust
Olge teadlik eelarvamustest: veenduge, et väljund ei välistaks teatud rühmi ebaõiglaselt ega stereotüüpseks; Jälgige paljusid mõjukaid otsuseid.
5. Ole läbipaistev
Ärge esitage valeandmeid, et kasutate AI-d. Asjakohane väitmine, et tehisintellekti abiga on koostatud ärikontekstist ja ettevõtte poliitikast lähtuv põhitoode, suurendab usaldust.
Märkus. Need viis põhimõtet täiendavad üksteist. Ainult ühe rakendamisest ei piisa; Näiteks kui pöörate tähelepanu privaatsusele ja jätate kinnitamise vahele, olete endiselt ohus.
Miks on inimkontroll hädavajalik?
AI ei saa vastutust võtta; Kui ta eksib, ei maksa hinda mitte tema, vaid inimene ja asutus, kes teda kasutab. Lisaks ei näe tehisintellekt kogu konteksti (ettevõtte poliitika, suhted, valdkondlik tundlikkus, konkreetne olukord hetkel). Inimkontroll; See määrab nii asutuse, kes kannab juriidilist vastutust, kui ka on filter, mis püüab kinni modelli pimealad (hallutsinatsioonid, eelarvamused, ebasobivus). Mida lähemal on audit suure mõjuga otsusele, seda rangem see peaks olema.
Auditi tase vastavalt riskile
Ülesande tüüp
näide
Nõutav ülevaatus
madal mõju
Sisememo mustand, ajurünnak
Kerge ülevaade
keskmine efekt
Väljuv meil, aruande kokkuvõte
Hoolikas lugemine + faktide kontrollimine
suur mõju
Õiguslik/rahaline/tervise-/tööotsus
Ekspertkontroll + kirjalik kinnitus
Nõrk lähenemine / tugev lähenemine
Nõrk lähenemisviis: tehke tehisintellekti väljundil põhinev suure mõjuga otsus (nt töötaja hinnang) ilma kontrollimiseta.
Tulemus: Hallutsinatsioonid või eelarvamused on otseselt seotud inimese elu mõjutava otsusega.
Tugev lähenemine: kasutage AI-d ainult toetuseks/mustandiks; Põhjendage otsust ise asjakohaste tõenditega, konsulteerige vastava eksperdiga ja andke lõplik kinnitus kirjalikult.
Tulemus: saate kiirusest kasu, kuid vastutus ja õiglus säilivad.
Kolm miniümbrist
Juhtum 1 – kontrollnimekiri tuvastas vea. Tehisintellektiga alustades printis üks meeskond viis põhimõtet kaardile ja asetas need laudadele. Üks töötaja komistas saadetava ettepaneku juures küsimusele "privaatsus" ja märkas, et see sisaldab kliendi nime, ning muutis selle anonüümseks. Lihtne nimekiri hoidis ära võimaliku rikkumise.
Juhtum 2 — "Masin ütles nii" ei töötanud. Teine töötaja rakendas tehisintellekti antud ebaõiget regulatiivset teavet seda kontrollimata ja kui probleem tekkis, kaitses ta end öeldes: "Nii ütles AI". Seda vabandust ei aktsepteeritud; sest tema oli see, kes tööriista kasutas ja rakendas. Vastutus lasub kasutajal.
Juhtum 3 – paindlik kontroll vastavalt riskile. Kui juht kasutab kiiresti sisemisi ajurünnaku väljundeid; Nõutav eksperdi kinnitus + kirjalik põhjendus suure mõjuga otsuste jaoks, nagu töölevõtmine ja tulemuslikkus. Seega kiirendas see nii madala riskiga tööd kui ka suurendas turvalisust kriitiliste otsuste tegemisel.
Kopeeritavad mallid
Enne selle väljundi kasutamist esitage mulle järjekorras viis vastutustundliku kasutamise küsimust ja paluge mul märkida iga kohta "ok / mittetäielik": 1) Kas on toimunud inimaudit? 2) Kas faktid on kontrollitud? 3) Kas konfidentsiaalsus on säilinud? 4) Kas see on õiglane ja kaasav? 5) Kas ma olen valmis tulemuse eest vastutama?
Hinnake selle ülesande mõjutaset (madal/keskmine/kõrge) ja pakkuge vastavalt välja auditi etappide loend.Ülesanne: [kirjuta ülesanne]
Allolevas väljundis loetlege tähtsuse järjekorras riskantsed punktid (tõde, konfidentsiaalsus, õiglus, pühendumus), mida inimene peaks kindlasti kontrollima. Väljund: [kleebi siia]
Valmistage mulle minu rolli jaoks ette lühike isiklik "vastutustundliku tehisintellekti kasutamise kood"; Muutke üksused tegevusele orienteeritud ja kergesti meeldejäävaks. Minu roll: [kirjutage oma roll]
Praktiline kontrollnimekiri
kontrolli
küsimus
Audit
Kas ma olen selle väljundi inimesena üle vaadanud?
täpsust
Kas olen kinnitanud selles sisalduvaid fakte (number, nimi, kuupäev)?
Privaatsus
Kas olen tööriistasse kirjutanud tundlikke või isikuandmeid?
õiglus
Kas tulemus on õiglane ja kõikehõlmav?
läbipaistvus
Kas tehisintellekti kasutamine on õigesti märgitud ega ole eksitav?
Vastutus
Kas ma olen valmis vastutama selle väljundi tagajärgede eest?
Vastus viimasele küsimusele peaks alati olema "jah"; Sest seni, kuni tööriista kasutate teie, on tulemus teie.
Levinud vead
Levinud vead
- Suure mõjuga otsuse elluviimine ilma järelevalveta. Raha, tervise, õiguse ja töösuhte vallas on asjatundja nõusolek ja kirjalik järelevalve hädavajalikud.
- See tähendab "Masin ütles seda." Vastutus ei seo tööriista, vaid inimest, kes seda kasutab.
- Eeskirjade valikuline rakendamine. Viis põhimõtet on tervik; Kui üks on puudu, jääb risk alles.
- Tehke ülevaatus alati samasuguse rangusega. Skaala kontroll vastavalt riskile; kiirus madala riskiga, täpsus kõrge riskiga.
Vastutus toob vabaduse
Vastutustundliku kasutamise reeglid võivad tunduda piiravad, kuid toimivad täpselt vastupidiselt: kui olete need ohutusharjumused omandanud, saate tehisintellekti palju mugavamalt ja julgemalt kasutada. Sest isegi kui on viga, teate, et teil on selle tabamiseks filter. Reeglid ei ole selleks, et teid aeglustada, need on selleks, et aidata teil ohutult kiirendada.
Kokkuvõttes
- Viis vastutustundliku kasutamise põhimõtet: inimesed ütlevad lõpliku sõna, kontrollivad ja usaldavad, kaitsevad konfidentsiaalsust, taotlevad õiglust, ole läbipaistvad.
- Need põhimõtted täiendavad üksteist; Kui üks on puudu, siis risk jätkub.
- Inimeste järelevalve on hädavajalik, sest tehisintellekt ei saa võtta vastutust ega näha kogu konteksti.
- Skaala auditit vastavalt riskile: väikese mõju puhul kerge, suure mõju puhul ekspertide kinnitus ja kirjalik põhjendus.
- Kuna tööriista kasutate teie, vastutate ka tulemuse eest; "Masin ütles mulle" ei ole vabandus.
Rakendusülesanne
Looge ülaltoodud malli abil oma rolli jaoks lühike isiklik vastutustundliku tehisintellekti kasutamise kood (maksimaalselt 6 üksust). Salvestage see kuhugi nähtavale kohale ja harjutage järgmisel olulisel tehisintellekti ülesandel ükshaaval tabelis "harjutuste kontrollnimekirja" olevaid küsimusi.
Kontrollnimekiri
- [ ] Oskan nimetada viis vastutustundliku kasutamise põhimõtet.
- [ ] Ma võin selgitada, miks inimkontroll on hädavajalik.
- [ ] Saan reguleerida juhtimistaset vastavalt ülesande riskile.
- [ ] Olen koostanud oma rolli jaoks vastutustundliku kasutamise kontrollnimekirja.
- [ ] Olen mõistnud, et "masin ütles mulle" ei ole vabandus.