zisky:
- Schopnosť analyzovať etický prípad z viacerých perspektív, z konzekvencialistického, deontologického a cnostného etického rámca
- Schopnosť objasniť fakty a zainteresované strany a pomenovať zásadné konflikty
- Byť schopný robiť etické úsudky a rozhodnutia opodstatneným spôsobom s kontrolou zaujatosti bez toho, aby to bolo ponechané na umelú inteligenciu
Srdcom aplikovanej etiky je otázka "čo robiť?" v reálnej situácii. je poskytnúť odôvodnenú odpoveď na otázku. Nemocničná etická komisia diskutuje o rozhodnutí o liečbe, spoločnosť hodnotí, či je použitie údajov etické, výskumník zvažuje škody spôsobené experimentom pre účastníkov. Nástroje používané v týchto prácach sú etické rámce (prístupy, ktoré ponúkajú koherentný súbor princípov a zdôvodňovania hodnotenia situácie) – napríklad konzekvencializmus (prístup, ktorý hodnotí správnosť konania podľa jeho dôsledkov, prínosov a škôd, ktoré vytvára), deontológia (prístup, ktorý hodnotí správnosť konania na základe jeho dodržiavania povinností a dôsledkov, vírusov, práv a pravidiel). zarámuje otázku skôr ako „čo by urobil cnostný človek?“). Umelá inteligencia môže byť rýchlym nástrojom na analýzu prípadu z rôznych rámcov, zobrazenie prehliadnutých dimenzií a znásobenie možností. Ale konečný etický úsudok – ktorý princíp prevláda, aké rozhodnutie urobiť a jeho zdôvodnenie – patrí človeku, najmä zodpovednému výboru a odborníkovi.
V tejto časti uvidíme, ako analyzovať etický prípad spôsobom založeným na umelej inteligencii, ale posúdením človekom.
Analýza viacerých snímok: Skutočná sila AI
Najčastejšou chybou v etickom prípade je držať sa jedného uhla pohľadu. Dobrá analýza vidí rovnakú situáciu z viacerých rámcov a odhaľuje napätie. Tu je umelá inteligencia mocná: dokáže súčasne analyzovať prípad z konzekvencialistického, deontologického a cnostného hľadiska a rýchlo vymenovať, k akému záveru každý rámec vedie. Toto mapuje diskusiu.
Kroky:
1. Objasnite si fakty. Kto, čo, kedy je zapojený; rozlišovať medzi neistými a predpokladanými skutočnosťami. Etická analýza nemôže byť založená na nepravdivých faktoch.
2. Identifikujte zainteresované strany a záujmy. Koho sa rozhodnutie týka, aké sú práva a záujmy každého z nich?
3. Analyzujte z rôznych rámcov. Ako sa na túto situáciu pozerá každý rámec a aké opatrenia odporúča?
4. Ukážte napätie a zásadné konflikty. Ak rámce dospejú k rôznym záverom, kde presne je konflikt? (Napríklad medzi autonómiou jednotlivca a prospechom spoločnosti.)
5. Dospieť k odôvodnenému rozhodnutiu. Zdôvodnite, ktorý princíp prevažuje prečo, prijatím najsilnejšej námietky druhej strany.
Tip: Nežiadajte AI, aby „povedzte správnu odpoveď“; Povedzte: "analyzujte tento prípad z troch rámcov a ukážte záver a najsilnejšiu námietku každého." Úlohou AI je vytvoriť mapu; Vy predložíte rozhodnutie a odôvodnenie. V etike nie je „odpoveď poskytnutá strojom“ ospravedlnením.
Prečo AI nemôže robiť etické rozhodnutia?
Povedzme si to jasne. Etický úsudok; Vyžaduje si to znalosť kontextu, stanovenie priorít medzi hodnotami, prevzatie zodpovednosti a vôľu podpísať toto rozhodnutie. AI nemá nič z toho: nemá žiadne hodnoty, žiadnu zodpovednosť, obmedzené znalosti kontextu a môže replikovať kultúrne/ideologické predsudky v tréningových údajoch. Okrem toho AI často poskytuje „priemerný“ alebo najbežnejší názor na kontroverznú tému; zatiaľ čo v etike môže byť správna odpoveď väčšinou v menšine alebo nemusí existovať vôbec. AI otvára možnosti; Zvážte a rozhodnete sa.
Upozornenie: Pri etických rozhodnutiach (lekárskych, právnych, inštitucionálnych) by výstup umelej inteligencie nikdy nemal nahradiť úsudok kompetentnej rady alebo odborníka. Použite AI ako „poradného tvorcu“; Konečné rozhodnutie a zodpovednosť je na zodpovednej osobe. Ak údaje o skutočnom prípade obsahujú osobné/dôverné informácie, nevkladajte ich do verejných nástrojov.
tri mini prípady
Prípad 1 – Viacsnímková mapa. Etická komisia diskutovala o pridelení obmedzeného zdroja (napr. obmedzený počet možností liečby). Nechali AI analyzovať prípad z konzekvencialistického, deontologického a cnostného hľadiska; Za 20 minút boli zmapované tri rôzne odôvodnenia a ich konfliktné body. S použitím tejto mapy ako východiskového bodu viedla rada vlastnú diskusiu a urobila vlastné odôvodnené rozhodnutie.
Prípad 2 – Prehliadnutá zainteresovaná strana. Spoločnosť vyhodnocovala rozhodnutie o používaní údajov. YZ vo svojej analýze označil tretiu skupinu (ľudí, ktorých údaje boli použité, ale neboli zapojené do procesu), ktorí boli nepriamo ovplyvnení, okrem priamych strán rozhodnutia. Tím túto zainteresovanú stranu prehliadol. Vstup AI urobil rozhodnutie úplnejšie, ale tím urobil stanovenie priorít.
Prípad 3 – Opravený neobjektívny návrh. Vyšetrovateľ nechal AI analyzovať kultúrne citlivý prípad. AI prezentovala jediný kultúrny pohľad ako „univerzálnu pravdu“ a ignorovala alternatívne hodnotové systémy. Výskumník si všimol túto jednostrannosť a diverzifikoval analýzu. Dominantný pohľad na tréningové dáta AI je vyvážený ľudským dohľadom.
Slabá výzva / Silná výzva
Slabá výzva:
Čo by som mal v tejto situácii eticky urobiť?
Táto výzva deleguje etický úsudok a zodpovednosť na AI; Dostanete jednu „odpoveď“, nevidíte zdôvodnenie a rámec, zaujatosť zostáva skrytá.
Výkonná výzva:
Vaša úloha: analytik aplikovanej etiky (nie osoba s rozhodovacou právomocou). Analyzujte nasledujúci prípad. NEDÁVAJTE MI ROZHODNUTIE.1) Vymenujte nejednoznačné fakty, ktoré je potrebné objasniť.2) Odstráňte zainteresované strany a záujmy/práva každého z nich.3) Analyzujte prípad oddelene od konzekvencialistického, deontologického a cnostného etického hľadiska; Uveďte záver a najsilnejšiu námietku každého z nich. 4) Ukážte základný konflikt princípov medzi rámcami. Vypracujem rozhodnutie a odôvodnenie. Upozorniť, ak existujú osobné/dôverné údaje. Prípad: [písať prípad]
Táto výzva odstráni mapu s viacerými snímkami, rozhodnutie ponechá na vás a zviditeľní zaujatosť.
Štyri kopírovateľné šablóny
1) Fakty a objasnenie zainteresovaných strán:
V nasledujúcom prípade uveďte (a) určité známe skutočnosti, (b) neisté/predpokladané skutočnosti, (c) všetky zainteresované strany a záujmy a práva každého z nich. Pridajte komentáre a rozhodnutia. Prípad: [prípad]
2) Trojsnímková analýza:
Analyzujte tento prípad oddelene z pohľadu konzekvencializmu, deontológie a etiky cnosti. Pre každý rámec: ako to vidí, činnosť, ktorú odporúča, a najsilnejšia námietka voči tomuto návrhu. Vyhlásenie rámca za „správny“. Prípad: [prípad]
3) Diagnostika konfliktu pravidiel:
V nižšie uvedenej analýze pomenujte kľúčové princípy, na ktorých sú rámce v konflikte (napr. autonómia vs. spoločné dobro, spravodlivosť vs. súcit). Ukážte, kde presne sa sústreďuje konflikt. Rozhodovanie. Analýza: [prilepiť text]
4) Audit predsudkov a kultúrnej citlivosti:
Skontrolujte, či táto etická analýza nepredstavuje jediný kultúrny/ideologický pohľad ako univerzálnu pravdu. Existujú alternatívne hodnotové systémy alebo perspektívy, ktoré sa ignorujú? Zdôraznite, kde je potrebné viac pluralizmu. Analýza: [prilepiť text]
Tabuľka porovnávania rámov
Rám
základná otázka
Zamerajte sa
typická slabosť
konzekvencializmus
Aký je najlepší výsledok?
Rovnováha prínos/škoda
Môže potlačiť práva menšín
deontológie
Čo hovorí zadanie/pravidlo?
právo, povinnosť, zásada
Prísne, môže ignorovať výsledok
etika cnosti
Čo robí cnostný človek?
charakter, zámer
Nejasný akčný sprievodca
Časté chyby
- AI rozhoduje. "Čo mám robiť?" Otázka deleguje etický úsudok; AI vytvorí mapu, rozhodnete sa vy.
- Byť zaseknutý v jednom ráme. Vidieť prípad len z jednej perspektívy; multi-frame analýza odhaľuje napätie.
- Neobjasňovanie faktov. Etická analýza založená na nepravdivých alebo predpokladaných faktoch sa zrúti.
- Neuznanie zaujatosti. AI môže prezentovať dominantný kultúrny pohľad ako „univerzálny“; Pluralizmus je poskytovaný ľuďmi.
- Zadanie dôverného/osobného prípadu do verejného nástroja. Riziko narušenia súkromia v skutočných súboroch; Anonymizovať alebo používať zabezpečený systém.
V súhrne
Skutočnou silou AI pri analýze prípadov aplikovanej etiky je rýchlo zmapovať situáciu z viacerých rámcov, extrahovať zainteresované strany a zviditeľniť konflikty princípov. Ale etický úsudok – ktorý princíp prevažuje, rozhodnutie a zdôvodnenie – patrí človeku, najmä zodpovednému výboru a odborníkovi; pretože AI nemá žiadne hodnoty, žiadnu zodpovednosť, žiadne znalosti kontextu a je zaujatá. Vyjasnite si fakty, analyzujte viaceré rámce, pomenujte konflikt, skontrolujte zaujatosť a urobte rozhodnutie sami s odôvodnením. Pri rozhodovaní o vysokých stávkach sa umelá inteligencia namiesto nahrádzania umiestňuje vedľa odborného posudku.
Aplikačná úloha
- Vyberte skutočný alebo fiktívny etický prípad (anonymizujte, ak sa týka osobných údajov).
- Extrahujte fakty a zainteresované strany pomocou šablóny „Fakt a objasnenie zainteresovaných strán“.
- Nechajte prípad analyzovať z troch perspektív pomocou šablóny „trojrámová analýza“.
- Pomenujte základné napätie pomocou šablóny „diagnostika zásadného konfliktu“.
- Napíšte svoje vlastné odôvodnené rozhodnutie – akceptujte najsilnejšiu námietku protistrany.
kontrolný zoznam
- [ ] Objasnil som fakty a nejasnosti.
- [ ] Identifikoval som všetky zainteresované strany a ich záujmy.
- [ ] Prípad som nechal analyzovať minimálne z troch etických rámcov.
- [ ] Jasne som pomenoval zásadný konflikt.
- [ ] Skontroloval som zaujatosť a jednostrannosť.
- [ ] Rozhodnutie a odôvodnenie som nechal na seba/predsedníctvo, nie na AI.
- [ ] Chránil som dôverné/osobné údaje.