Pelnas:
- Išvardykite pagrindinius atsakingo AI naudojimo principus
- Gali paaiškinti, kodėl žmogaus kontrolė yra būtina
- Gali sudaryti atsakingo naudojimo kontrolinį sąrašą savo darbui
Šiame modulyje sužinojome, kas yra AI, kaip jis veikia, jo stipriąsias, silpnąsias puses, rizikas ir darbo eigą. Šiame skyriuje mes sujungiame visa tai praktiškoje atsakingo naudojimo sistemoje. AI yra galingas įrankis; Tačiau jos galia tampa rizika, kai ji nesubalansuota su ja besinaudojančio asmens atsakomybe. „Atsakingas naudojimas“ gali atrodyti kaip abstraktus etinis principas; Tačiau tai susideda iš labai konkrečių kasdienių įpročių. Šiame skyriuje mes sudėsime šiuos įpročius į paprastą ir patrauklią sistemą.
Penki pagrindiniai atsakingo naudojimo principai
1. Žmonės turi paskutinį žodį
Tai pats pagrindinis principas. AI pateikia rekomendaciją; Žmonės prisiima sprendimą ir atsakomybę. Ypatingai didelės įtakos turinčiais klausimais, tokiais kaip pinigai, sveikata, teisė, užimtumas ir reputacija, dirbtinio intelekto rezultatai niekada neturėtų būti įgyvendinami be priežiūros. „Mašina man pasakė“ niekada nėra tinkamas pasiteisinimas.
2. Patikrinkite, tada pasitikėkite
Prisiminkite haliucinacijų vienetą. Nenaudokite dirbtinio intelekto sugeneruotų patikrinamų faktų (numerio, datos, pavadinimo, šaltinio) savarankiškai jų nepatvirtinus. Sklandi ir pasitikinti kalba nėra tikslumo įrodymas.
3. Apsaugokite privatumą
Duomenų privatumo skyriuje taikykite principą: Nerašykite asmens duomenų, komercinių paslapčių ir konfidencialios informacijos viešosiose žiniasklaidos priemonėse; anonimizuoti, kai reikia, ir laikytis įmonės politikos.
4. Stebėkite teisingumą
Atsižvelkite į šališkumą: įsitikinkite, kad išvestis nesąžiningai neatskiria ar stereotipuoja tam tikras grupes; Stebėkite įvairias akis į didelio poveikio sprendimus.
5. Būkite skaidrūs
Nekelkite klaidingos informacijos, kad naudojate AI. Tinkamas pareiškimas, kad pagrindinis rezultatas buvo parengtas naudojant AI, remiantis verslo kontekstu ir įmonės politika, didina pasitikėjimą.
Pastaba: šie penki principai papildo vienas kitą. Neužtenka įgyvendinti tik vieną; Pavyzdžiui, jei atkreipsite dėmesį į privatumą ir praleisite patvirtinimą, jums vis tiek gresia pavojus.
Kodėl žmogaus kontrolė yra būtina?
AI negali prisiimti atsakomybės; Kai jis suklysta, kainą sumoka ne jis, o juo besinaudojantis asmuo ir institucija. Be to, AI negali matyti viso konteksto (įmonės politikos, santykių, sektoriaus jautrumo, konkrečios situacijos šiuo metu). Žmogaus kontrolė; Tai ir nustato autoritetą, kuris prisiims teisinę atsakomybę, ir yra filtras, užfiksuojantis modelio akląsias vietas (haliucinacijas, šališkumą, netinkamumą). Kuo auditas arčiau didelio poveikio sprendimo, tuo jis turėtų būti griežtesnis.
Audito lygis pagal riziką
Užduoties tipas
pavyzdys
Reikalingas patikrinimas
mažas poveikis
Vidinis atmintinės juodraštis, minčių šturmas
Lengva apžvalga
vidutinio efekto
Siunčiamas el. laiškas, ataskaitos santrauka
Atidus skaitymas + faktų tikrinimas
didelis poveikis
Teisinis/finansinis/sveikatos/įdarbinimo sprendimas
Ekspertinis patikrinimas + raštiškas patvirtinimas
Silpnas požiūris / Stiprus požiūris
Silpnas požiūris: įgyvendinkite didelį poveikį turintį sprendimą (pvz., darbuotojo įvertinimą), pagrįstą AI rezultatais be patikrinimo.
Rezultatas: Haliucinacijos ar išankstinis nusistatymas tiesiogiai priklauso nuo sprendimo, kuris turi įtakos žmogaus gyvenimui.
Tvirtas požiūris: AI naudokite tik palaikymui / juodraščiui; Pats pagrįskite sprendimą atitinkamais įrodymais, pasikonsultuokite su atitinkamu ekspertu ir duokite galutinį patvirtinimą raštu.
Rezultatas: jums naudingas greitis, tačiau išlaikoma atsakomybė ir sąžiningumas.
Trys mini dėklai
1 atvejis – kontrolinis sąrašas užfiksavo klaidą. Pradėjusi dirbti su dirbtiniu intelektu, viena komanda išspausdino penkis principus ant kortelės ir padėjo juos ant stalų. Darbuotojas užklupo klausimą „privatumo“ dėl pasiūlymo išsiųsti ir pastebėjo, kad jame yra kliento vardas ir pavardė, ir jį anonimino. Paprastas sąrašas apsaugojo nuo galimo pažeidimo.
2 atvejis – „Mašina taip pasakė“ neveikė. Kitas darbuotojas taikė neteisingą AI pateiktą norminę informaciją jos nepatikrinęs, o iškilus problemai gynėsi sakydamas: „Taip pasakė AI“. Šis pasiteisinimas nebuvo priimtas; nes jis buvo tas, kuris naudojo ir įdiegė įrankį. Atsakomybė tenka vartotojui.
3 atvejis. Lankstus valdymas pagal riziką. Kai vadovas greitai naudoja vidinius smegenų šturmo rezultatus; Reikalingas eksperto patvirtinimas + raštiškas didelio poveikio sprendimų, pvz., samdymo ir veiklos rezultatų, pagrindimas. Taigi tai paspartino ir mažos rizikos darbą, ir padidino svarbiausių sprendimų saugumą.
Kopijuojami šablonai
Prieš naudodami šią išvestį, užduokite man penkis atsakingo naudojimo klausimus iš eilės ir paprašykite pažymėti „gerai / neužbaigta“: 1) Ar buvo atliktas žmogaus auditas? 2) Ar faktai buvo patikrinti? 3) Ar buvo išlaikytas konfidencialumas? 4) Ar tai teisinga ir įtraukianti? 5) Ar esu pasirengęs būti atsakingas už rezultatą?
Įvertinkite šios užduoties poveikio lygį (žemas/vidutinis/didelis) ir atitinkamai pasiūlykite audito etapų sąrašą.Užduotis: [rašyti užduotį]
Žemiau esančiame išvestyje pagal svarbą išvardykite rizikingus dalykus (tiesa, konfidencialumas, sąžiningumas, įsipareigojimas), kuriuos asmuo turėtų būtinai patikrinti. Išvestis: [įklijuokite čia]
Paruoškite man trumpą, asmeninį atsakingo AI naudojimo kodą mano vaidmeniui; Padarykite elementus orientuotus į veiksmą ir lengvai įsimenamus. Mano vaidmuo: [parašykite savo vaidmenį]
Praktinis kontrolinis sąrašas
kontroliuoti
Klausimas
Auditas
Ar aš peržiūrėjau šią produkciją kaip žmogus?
tikslumu
Ar aš patvirtinau jame esančius faktus (numeris, vardas, pavardė, data)?
Privatumas
Ar į įrankį įrašiau neskelbtinus ar asmeninius duomenis?
teisingumo
Ar rezultatas teisingas ir įtraukus?
skaidrumas
Ar AI naudojimas yra tinkamai nurodytas ir neklaidina?
Atsakomybė
Ar esu pasirengęs atsakyti už šio rezultato pasekmes?
Atsakymas į paskutinį klausimą visada turi būti „taip“; Nes tol, kol įrankį naudojate jūs, rezultatas yra jūsų.
Dažnos klaidos
Dažnos klaidos
- Didelio poveikio sprendimo įgyvendinimas be priežiūros. Eksperto patvirtinimas ir rašytinė priežiūra yra būtini pinigų, sveikatos, teisės ir darbo srityse.
- Tai reiškia „Mašina tai pasakė“. Atsakomybė saisto ne įrankį, o jį naudojantį asmenį.
- Atrankinis politikos taikymas. Penki principai yra visuma; Jei vieno trūksta, rizika išlieka.
- Visada atlikite patikrinimą taip pat griežtai. Masto kontrolė pagal riziką; greitis esant mažai rizikai, kruopštumas esant didelei rizikai.
Atsakomybė neša laisvę
Atsakingo naudojimo taisyklės gali atrodyti ribojančios, tačiau jos veikia visiškai priešingai: kai turėsite šiuos saugos įpročius, dirbtinį intelektą galėsite naudoti daug patogiau ir drąsiau. Nes net jei yra klaida, jūs žinote, kad turite filtrą, kad ją gautumėte. Taisyklės skirtos ne tam, kad sulėtintų, o tam, kad padėtų saugiai paspartinti.
Apibendrinant
- Penki atsakingo naudojimo principai: žmonės taria galutinį žodį, patikrinkite, tada pasitikėkite, saugokite konfidencialumą, siekkite sąžiningumo, būkite skaidrūs.
- Šie principai vienas kitą papildo; Jei vieno trūksta, rizika išlieka.
- Žmogaus priežiūra yra būtina, nes AI negali prisiimti atsakomybės ir matyti viso konteksto.
- Audito mastelį pagal riziką: lengvas – mažas poveikis, eksperto patvirtinimas ir rašytinis pagrindimas – didelis poveikis.
- Kadangi įrankį naudojate jūs, jūs taip pat esate atsakingas už rezultatą; „Mašina man pasakė“ nėra pasiteisinimas.
Taikymo užduotis
Sukurkite trumpą asmeninį atsakingo dirbtinio intelekto naudojimo kodą savo vaidmeniui naudodami anksčiau pateiktą šabloną (ne daugiau kaip 6 elementai). Įrašykite jį kur nors matomoje vietoje ir praktikuokite klausimus „praktikos kontrolinio sąrašo“ lentelėje po vieną kitą svarbų AI rezultatą.
Kontrolinis sąrašas
- [ ] Galiu įvardyti penkis atsakingo naudojimo principus.
- [ ] Galiu paaiškinti, kodėl žmogaus kontrolė yra būtina.
- [ ] Galiu reguliuoti valdymo lygį pagal užduoties riziką.
- [ ] Savo vaidmeniui sukūriau atsakingo naudojimo kontrolinį sąrašą.
- [ ] Aš supratau, kad „mašina man pasakė“ nėra pasiteisinimas.