Fitimet:
- Aftësia për të lidhur parimet e përgjegjshme të AI (drejtësia, transparenca, llogaridhënia, privatësia, mbikëqyrja njerëzore, siguria, qëndrueshmëria) me vendime konkrete
- Aftësia për të testuar palët e prekura dhe paragjykimet duke ndarë etikën nga pajtueshmëria ligjore dhe duke bërë dallimin midis 'ne mundemi' dhe 'duhet'
- Aftësia për të reduktuar paraprakisht skenarët e abuzimit duke përfshirë transparencën, monitorimin njerëzor dhe apelin në dizajn
Një startup i AI mund të jetë teknikisht i përsosur, financiarisht fitimprurës dhe ligjërisht i zbatueshëm; por prapë mund të jetë e gabuar. Etika është ndryshimi midis "ne mundemi" dhe "duhet". Për një menaxher të lartë, etika nuk është çështje zbukurimi apo marrëdhëniesh me publikun; Është themeli që ruan besueshmërinë, reputacionin dhe legjitimitetin social afatgjatë të institucionit. Në këtë njësi, ju do të mësoni parimet e inteligjencës artificiale të përgjegjshme (një qasje për zhvillimin dhe përdorimin e inteligjencës artificiale në një mënyrë të drejtë, transparente, të përgjegjshme dhe që respekton dinjitetin njerëzor) dhe si t'i pasqyroni ato në vendimet e përditshme.
Parimet themelore të AI përgjegjëse
Korniza të ndryshme takohen në parime të ngjashme. Përmbledhje praktike për një menaxher:
parim
Çfarë do të thotë?
pyetje admin
drejtësisë
mosdiskriminimi
A ndikon në mënyrë të padrejtë kjo një grup?
transparencës
të jetë i kuptueshëm
A mund të shpjegojmë arsyen e vendimit?
llogaridhënies
Identifikimi se kush është përgjegjës
Kush është përgjegjës nëse ndodh një gabim?
Privatësia
Respektimi i të dhënave personale
A kemi të drejtë të përdorim të dhëna?
mbikëqyrje njerëzore
Duke qëndruar në kontroll
A mundet dikush të kundërshtojë dhe ta ndalojë atë?
Siguria
mos bëni dëm
A mund të abuzohet me këtë?
Qëndrueshmëria
Ndikimi mjedisor/social
Kujt ia imponojmë koston?
Këto parime nuk janë abstrakte; Secila prej tyre mund të lidhet me një vendim konkret. Për shembull, "transparencë" do të thotë t'i bësh të ditur një klienti se po flasin me AI; "Mbikëqyrja njerëzore" do të thotë të shqyrtosh një refuzim të huasë dhe ta lërë të hapur për apelim.
Këshillë: Me çdo vendim me ndikim të lartë të AI, bëni një pyetje: "A mund t'i shpjegoj qartë dhe të qëndroj pas këtij vendimi për personin e prekur më negativisht?" Nëse përgjigja ofendon, ka një problem etik.
Etika është e ndryshme nga ligji
Një dallim kritik: pajtueshmëria ligjore (Njësia 9) është minimumi i thjeshtë; Etika është një linjë më e lartë. Diçka mund të jetë e ligjshme, por joetike. Për shembull, një aplikacion nuk mund të ndalohet të përdorë inteligjencën artificiale për të manipuluar sjelljen e përdoruesit, por është joetike. Institucionet përgjegjëse "a është e ndaluar?" jo "A është e vërtetë?" pyet ai.
Hap pas hapi: përfshirja e etikës në vendim
1. Identifikoni palët e prekura. Kush preket nga kjo nismë? (Klient, punonjës, shoqëri, grupe të pafavorizuara)
2. Skanoni me politika. Vëreni në dyshim iniciativën për secilin nga parimet e mësipërme.
3. Test për paragjykim dhe dëm. A ndikon modeli padrejtësisht grupe të caktuara? Cilat janë skenarët e abuzimit?
4. Shtoni transparencën dhe mbikëqyrjen. Raportoni përdorimin e inteligjencës artificiale, duke mos lënë asnjë mënyrë për kundërshtimin e njerëzve.
5. Dokumentet dhe rishikimi. Ruaj vlerësimin etik; Kontrolloni përsëri periodikisht.
tre mini kuti
Rasti 1 — Ligjor por i gabuar. Një aplikacion përdori inteligjencën artificiale për të gjeneruar njoftime të varura për t'i mbajtur përdoruesit më gjatë në aplikacion. Nuk kishte asnjë pengesë ligjore, por kur u raportua në shtyp, pati një humbje serioze të reputacionit; Synimi i tij ndaj përdoruesve të rinj në veçanti tërhoqi kritika. Kompania hoqi funksionin. Nëse filtri etik do të ishte që në fillim, ky rrezik do të shihej.
Rasti 2 - Vlera e testit të drejtësisë. Modeli i vlerësimit të kredisë së një banke në mënyrë sistematike u dha rezultate më të ulëta aplikimeve nga grupet e mbrojtura. Kjo u kap në një auditim drejtësie. Modeli u ridizajnua dhe u testua rregullisht për të siguruar barazi ndërgrupore në rezultatet e tij. Parimi etik (drejtësia) u kthye në një provë konkrete dhe parandaloi dëmin real.
Rasti 3 — Transparenca ndërtoi besim. Një kompani e-commerce vendosi shprehjen "Një asistent i inteligjencës artificiale ju ndihmon, ju mund të lidheni me një përfaqësues njerëzor në çdo kohë" në fillim të chatbot-it të saj për mbështetjen e klientit. Transparenca dhe dalja njerëzore nuk e uli kënaqësinë; Përkundrazi, rriti besimin dhe ankesat u ulën me 15%. Transparenca e bërë siç duhet ishte vlerë, jo kosto.
Katër shabllone të kopjueshëm
1) Ekzaminimi etik:
Roli juaj: konsulent përgjegjës i AI. Skanoni këtë iniciativë për 7 parime: drejtësi, transparencë, llogaridhënie, privatësi, mbikëqyrje njerëzore, siguri, qëndrueshmëri. Për çdo politikë, shkruani një rrezik dhe një rekomandim. Iniciativa: [tekst]
2) Analiza e palëve të prekura:
Listoni të gjitha palët e prekura nga kjo iniciativë e AI (klient, punonjës, shoqëri, grupe të pafavorizuara). Shkruani efektet e mundshme pozitive dhe negative për secilën palë; Shënoni grupin që ka më shumë gjasa të dëmtohet. Iniciativa: [tekst]
3) Skenari i abuzimit:
Gjeneroni 5 skenarë në të cilët funksioni i mëposhtëm i AI mund të abuzohet (përfshirë manipulimin, diskriminimin, shkeljen e privatësisë, mashtrimin). Sugjeroni një vendim të projektimit parandalues për çdo skenar. Atributi: [tekst]
4) Kontrolli i transparencës dhe mbikëqyrjes:
Shkruani një plan transparence dhe mbikëqyrjeje njerëzore për AI që përballet me klientët që: çfarë do t'i komunikohet përdoruesit dhe si; Si mund të transferohet te njerëzit? Si mund të kundërshtojë vendimin? Përdorimi: [tekst]
Prompt i dobët / Prompt i fortë
E dobët: "A është etike kjo AI?"
Rezultati: Një "po/jo" sipërfaqësore; Cili parim, kush preket, çfarë mase është i paqartë.
Strong: "Ne po shqyrtojmë përdorimin e AI në një mjet paraprak të shqyrtimit të rekrutimit (njeriu do të marrë vendimin përfundimtar). Kontrollo këtë për parimet e drejtësisë, transparencës, llogaridhënies dhe mbikëqyrjes njerëzore. Shkruaj konkretisht se cilat grupe kandidatësh mund të preken padrejtësisht, çfarë testesh paragjykimesh duhet të bëj dhe si kandidatët mund ta apelojnë vendimin."
Rezultati: Një vlerësim praktik i bazuar në parime që identifikon palën e prekur dhe sugjeron testimin dhe apelimin.
Gabimet e zakonshme
- Ngatërrimi i etikës me pajtueshmërinë ligjore. Jo çdo gjë që është e ligjshme është etike; Etika është një linjë më e lartë.
- Duke e lënë të zgjasë etikën. Marrja e "miratimit të etikës" pas projektimit është shumë vonë; etika duhet të përfshihet në dizajn që në fillim.
- Nuk testohet drejtësia. Supozimi se “modeli ynë është neutral” është i rrezikshëm; nuk mund të dihet pa matje.
- Gabimi i transparencës për koston. Transparenca e bërë siç duhet rrit besimin dhe vlerën.
- Mbajtja e anëve të prekura të ngushta. Të mendosh vetëm për klientin dhe të injorosh punonjësin, shoqërinë dhe grupet e pafavorizuara krijon një pikë qorre.
Kujdes: Lënia e vlerësimit etik tërësisht tek inteligjenca artificiale është kontradiktore dhe e rrezikshme. Inteligjenca artificiale mund të ndihmojë në ngritjen e pyetjeve etike, por gjykimi i vlerës, konteksti kulturor dhe përgjegjësia morale përfundimtare i takon njeriut. Qëndrimi etik i një organizate përcaktohet nga zgjedhjet e ndërgjegjshme të njerëzve, jo nga "AI tha kështu".
Në përmbledhje
Etika është ndryshimi midis "ne mundemi" dhe "duhet" dhe mbron besueshmërinë afatgjatë të organizatës. UA përgjegjëse; Ai bazohet në parimet e drejtësisë, transparencës, llogaridhënies, privatësisë, mbikëqyrjes njerëzore, sigurisë dhe qëndrueshmërisë. Këto parime nuk janë abstrakte; Ai përkthehet në vendime konkrete si identifikimi i palëve të prekura, testimi për paragjykime, sigurimi i transparencës dhe shtimi i mbikëqyrjes njerëzore. Etika është e ndryshme nga ligji dhe është një linjë më e lartë; Nuk mund të lihet deri në fund, duhet të futet në dizajn. Në njësinë vijuese, do të diskutojmë përputhshmërinë, e cila është ekuivalenti ligjor i etikës, veçanërisht Ligji i BE-së për UA dhe KVKK.
Detyra e aplikimit
Zgjidhni një startup me ndikim të lartë të AI. Me shabllonin 2, listoni të gjitha palët e prekura dhe shënoni grupin që ka më shumë gjasa të dëmtohet. Me shabllonin 1, skanoni iniciativën për shtatë parimet. Përcaktoni një masë konkrete (testi i drejtësisë, njoftimi i transparencës, rruga e apelimit, etj.) për dy rreziqet etike më kritike. Së fundi, "a mund t'ia shpjegoj këtë vendim personit të prekur më negativisht?" Përgjigjuni pyetjes sinqerisht.
listë kontrolli
- [ ] Unë kam identifikuar të gjitha palët e prekura.
- [ ] E kontrollova startupin me shtatë parime të AI përgjegjëse.
- [ ] Kam planifikuar një test për paragjykim/drejtësi.
- [ ] Unë hartova deklaratën e transparencës.
- [ ] Nuk lashë asnjë rrugë për mbikëqyrjen dhe apelimin njerëzor.
- [ ] Mendova për skenarë abuzimi.
- [ ] "A mund t'ia shpjegoj atij që është prekur më negativisht?" Unë e kalova testin.