Rakenduseetika juhtumianalüüs: põhimõtted, raamistik ja põhjendus

Kasu:

• Võimalus analüüsida eetilist juhtumit mitmest vaatenurgast, lähtudes konsekventsialistlikest, deontoloogilistest ja voorusteeetika raamistikest
• Oskus selgitada fakte ja huvigruppe ning nimetada põhimõttelisi konflikte
• Võimalus langetada eetilisi otsuseid ja otsuseid põhjendatud viisil koos eelarvamuste kontrolliga, jätmata seda tehisintellekti hooleks

Rakenduseetika keskmes on küsimus "mida teha?" reaalses olukorras. on anda küsimusele põhjendatud vastus. Haigla eetikakomitee arutab raviotsust, ettevõte hindab, kas andmete kasutamine on eetiline, teadlane kaalub katses osalejatele tekitatud kahju. Töövahenditeks on eetilised raamistikud (käsitlusviisid, mis pakuvad olukorra hindamiseks ühtset põhimõtete ja põhjenduste kogumit) – näiteks konsekventsialism (lähenemine, mis hindab tegevuse õigsust selle tagajärgede, sellest saadava kasu ja kahju järgi), deontoloogia (lähenemine, mis hindab tegevuse iseseisvat õigsust, selle õiguste, tagajärgede ja kohustuste järgimist selle õiguste, eetika ja kohustuste järgi), (lähenemisviis, mis raamistab küsimust pigem "mida teeks vooruslik inimene?" kui "millise tegevuse?"). AI võib olla kiire tööriist juhtumi analüüsimiseks erinevatest raamistikest, tähelepanuta jäetud mõõtmete vaatamiseks ja võimaluste korrutamiseks. Kuid lõplik eetiline otsus – milline põhimõte valitseb, milline otsus teha ja selle põhjendus – kuulub inimesele, eriti vastutavale komisjonile ja eksperdile.

Selles tükis näeme, kuidas analüüsida eetilist juhtumit tehisintellekti jõul, kuid inimese hinnangul.

Mitme kaadri analüüs: AI tegelik jõud

Kõige tavalisem viga eetiliste juhtumite puhul on jääda ühele vaatepunktile. Hea analüüs näeb sama olukorda mitmest raamistikust ja toob esile pinged. Siin on AI võimas: see suudab juhtumit analüüsida samaaegselt nii konsekventsialistlikest, deontoloogilistest kui ka vooruspõhistest vaatenurkadest ning loetleda kiiresti, millise järelduseni iga raamistik viib. See kaardistab arutelu.

Sammud:

1. Täpsustage fakte. Kes, mida, millal on kaasatud; eristada ebakindlaid ja oletatavaid fakte. Eetiline analüüs ei saa põhineda valedel faktidel.

2. Tuvastage sidusrühmad ja huvid. Keda otsus mõjutab, millised on igaühe õigused ja huvid?

3. Analüüsige erinevatest raamistikest. Kuidas iga raamistik sellesse olukorda suhtub ja milliseid tegevusi ta soovitab?

4. Näidake pingeid ja põhimõttelisi konflikte. Kui raamistikud jõuavad erinevatele järeldustele, siis kus täpselt on konflikt? (Näiteks üksikisiku autonoomia ja ühiskonna hüvede vahel.)

5. Tehke põhjendatud otsus. Põhjendage, milline põhimõte kaalub üles miks, nõustudes teise poole tugevaima vastulausega.

Näpunäide: ärge paluge AI-l "ütle mulle õige vastus"; Öelge: "Analüüsige seda juhtumit kolmest raamistikust ja näidake igaühe järeldust ja tugevaimat vastuväidet." AI ülesanne on luua kaart; Te toodate otsuse ja põhjenduse. Eetikas ei ole "masina antud vastus" õigustus.

Miks ei saa AI teha eetilisi otsuseid?

Teeme selle selgeks. Eetiline otsustus; See nõuab konteksti tundmist, väärtuste tähtsuse järjekorda seadmist, vastutuse võtmist ja tahet sellele otsusele alla kirjutada. Tehisintellektil pole ühtki neist: sellel puuduvad väärtused, vastutus, piiratud teadmised kontekstist ja see võib koolitusandmetes korrata kultuurilisi/ideoloogilisi eelarvamusi. Veelgi enam, tehisintellekt annab sageli vastuolulisel teemal "keskmise" või kõige tavalisema arvamuse; kusjuures eetikas võib õige vastus olla valdavalt vähemuses või üldse mitte olemas olla. AI avab valikud; Sa kaalud ja otsustad.

Ettevaatust. Kõrge panusega eetiliste otsuste puhul (meditsiinilised, juriidilised, institutsionaalsed) ei tohiks tehisintellekti väljund kunagi asendada pädeva juhatuse või eksperdi hinnangut. Kasutage tehisintellekti nõuande koostajana; Lõplik otsus ja vastutus lasub vastutaval isikul. Samuti, kui juhtumi tegelikud andmed sisaldavad isiklikku/konfidentsiaalset teavet, ärge sisestage seda avalikesse tööriistadesse.

kolm minikarpi

Juhtum 1 – mitme kaadri kaart. Eetikakomitee arutas piiratud ressursi (nt piiratud arvu ravivõimaluste) eraldamist. Nad lasid AI-l juhtumit analüüsida konsekventsialistlikest, deontoloogilistest ja vooruspõhistest vaatenurkadest; 20 minuti jooksul kaardistati kolm erinevat põhjendust ja nende konfliktipunktid. Seda kaarti kasutades viis juhatus läbi omapoolse arutelu ja tegi oma põhjendatud otsuse.

Juhtum 2 – tähelepanuta jäetud sidusrühm. Ettevõte hindas andmete kasutamise otsust. YZ märkis oma analüüsis peale otsuse otseste osapoolte kaudselt mõjutatud kolmanda rühma (inimesed, kelle andmeid kasutati, kuid ei kaasatud protsessi). Meeskond oli selle sidusrühma tähelepanuta jätnud. AI panus muutis otsuse täielikumaks, kuid meeskond seadis prioriteedid.

3. juhtum – kallutatud soovitus parandatud. Uurija lasi tehisintellektil analüüsida kultuuriliselt tundlikku juhtumit. AI esitles ühtset kultuurivaadet kui "universaalset tõde" ja eiras alternatiivseid väärtussüsteeme. Teadlane märkas seda ühekülgsust ja mitmekesistas analüüsi. Domineerivat vaadet tehisintellekti treeningandmetele tasakaalustab inimeste järelevalve.

Nõrk viip / Tugev viip

Nõrk viip:

Mida peaksin selles olukorras eetiliselt tegema?

See viip delegeerib eetilise hinnangu ja vastutuse tehisintellektile; Saad ühe "vastuse", ei näe põhjendust ja raamistikku, kallutatus jääb varjatuks.

Võimas viip:

Sinu roll: rakenduseetika analüütik (mitte otsustaja). Analüüsige järgmist juhtumit. ÄRA ANNA MULLE OTSUST.1) Loetlege ebaselged faktid, mis vajavad selgitamist.2) Eemaldage sidusrühmad ja igaühe huvid/õigused.3) Analüüsige juhtumit eraldi konsekventsialistlikest, deontoloogilisest ja vooruseetika vaatenurgast; Esitage igaühe järeldus ja tugevaim vastuväide. 4) Näidake raamistike vahelist põhilist põhimõtete konflikti. Esitan otsuse ja põhjenduse. Hoiatage isikuandmete/konfidentsiaalsete andmete olemasolul. Juhtum: [kirjuta juhtum]

See viip eemaldab mitme kaadri kaardi, jätab otsustamise teie teha ja muudab kallutatuse nähtavaks.

Neli kopeeritavat malli

1) Fakti ja huvirühmade selgitus:

Järgmisel juhul loetlege (a) teatud teadaolevad faktid, (b) ebakindlad/oletatavad faktid, (c) kõik sidusrühmad ning igaühe huvid ja õigused. Lisage kommentaare ja otsuseid. Juhtum: [juhtum]

2) Kolme kaadri analüüs:

Analüüsige seda juhtumit eraldi konsekventsialismi, deontoloogia ja vooruseetika vaatenurgast. Iga kaadri kohta: kuidas ta seda näeb, tegevus, mida ta soovitab, ja kõige tugevam vastuväide sellele ettepanekule. Raamistiku "õigeks" kuulutamine. Juhtum: [juhtum]

3) Poliitikakonfliktide diagnostika:

Nimetage allolevas analüüsis peamised põhimõtted, mille alusel raamistikud vastuollu lähevad (nt autonoomia vs üldine hüve, õiglus vs kaastunne). Näidake täpselt, kus konfliktikeskus on. Otsuste tegemine. Analüüs: [kleebi tekst]

4) Eelarvamuste ja kultuuritundlikkuse audit:

Kontrollige, kas see eetiline analüüs ei esita ühtset kultuurilist/ideoloogilist vaadet universaalse tõena. Kas on alternatiivseid väärtussüsteeme või vaatenurki, mida ignoreeritakse? Tõstke esile kohad, kus on vaja rohkem pluralismi. Analüüs: [kleebi tekst]

Raamide võrdlustabel

Raam

põhiküsimus

Keskendu

tüüpiline nõrkus

konsekventsialism

Mis on parim tulemus?

Kasu/kahju tasakaal

Võib purustada vähemuste õigusi

deontoloogia

Mida ütleb ülesanne/reegel?

õigus, kohustus, põhimõte

Range, võib tulemust ignoreerida

vooruse eetika

Mida teeb vooruslik inimene?

iseloom, kavatsus

Ebamäärane tegevusjuhend

Levinud vead

• AI otsustamine. "Mida ma peaksin tegema?" Küsimus delegeerib eetilise hinnangu; AI loob kaardi, otsustate teie.
• Ühes kaadris kinni olemine. Juhtumi nägemine ainult ühest vaatenurgast; mitme kaadri analüüs paljastab pinge.
• Fakte ei selgitata. Vale- või oletatavatel faktidel põhinev eetiline analüüs kukub kokku.
• Ei tunnista eelarvamusi. AI võib esitleda domineerivat kultuurivaadet "universaalsena"; Pluralismi pakuvad inimesed.
• Konfidentsiaalse/isikliku juhtumi sisestamine avalikku tööriista. Privaatsuse rikkumise oht pärisfailides; Muutke anonüümseks või kasutage turvalist süsteemi.

Kokkuvõttes

Tehisintellekti tegelik jõud rakenduseetika juhtumianalüüsis on olukorra kiire kaardistamine mitmest raamist, sidusrühmade eraldamine ja põhimõtteliste konfliktide nähtavaks tegemine. Kuid eetiline otsustus – milline printsiip valitseb, otsus ja õigustus – kuulub inimesele, eriti vastutavale komisjonile ja eksperdile; sest tehisintellektil pole väärtusi, vastutust, konteksti teadmisi ja see on erapoolik. Täpsustage fakte, analüüsige mitut raamistikku, nimetage konflikt, kontrollige erapoolikust ja tehke ise otsus koos põhjendusega. Kõrge panusega otsuste puhul asetatakse tehisintellekt eksperdihinnangu kõrvale, mitte ei asenda seda.

Rakenduse ülesanne

1. Valige reaalne või väljamõeldud eetiline juhtum (anonüümseks, kui see hõlmab isikuandmeid).
2. Hankige välja faktid ja sidusrühmad malli „Faktide ja sidusrühmade selgitused” abil.
3. Laske juhtumit analüüsida kolmest vaatenurgast malliga „kolme kaadri analüüs”.
4. Nimetage selle aluseks olev pinge malliga „põhikonflikti diagnoos”.
5. Kirjutage oma põhjendatud otsus – nõustuge vastaspoole tugevaima vastulausega.

kontrollnimekiri

• [ ] Selgitasin fakte ja ebakindlust.
• [ ] Tuvastasin kõik huvirühmad ja nende huvid.
• [ ] Lasin juhtumit analüüsida vähemalt kolmest eetilisest raamistikust.
• [ ] Olen põhimõttelise konflikti selgelt nimetanud.
• [ ] Kontrollisin erapoolikust ja ühekülgsust.
• [ ] Otsuse ja põhjendamise jätsin endale/juhatusele, mitte tehisintellektile.
• [ ] Kaitsesin konfidentsiaalseid/isikuandmeid.