zisky:
- Schopnost analyzovat etický případ z více hledisek, z konsekvencialistického, deontologického a ctnostného etického rámce
- Schopnost objasnit fakta a zainteresované strany a pojmenovat principiální konflikty
- Schopnost činit etické soudy a rozhodnutí oprávněným způsobem s kontrolou zkreslení, aniž by to bylo ponecháno na umělé inteligenci
Srdcem aplikované etiky je otázka "co dělat?" v reálné situaci. je poskytnout odůvodněnou odpověď na otázku. Nemocniční etická komise diskutuje o rozhodnutí o léčbě, společnost hodnotí, zda je použití dat etické, výzkumník zvažuje újmu experimentu pro účastníky. Nástroje používané v těchto pracích jsou etické rámce (přístupy, které nabízejí ucelený soubor principů a zdůvodnění pro hodnocení situace) – například konsekvencialismus (přístup, který hodnotí správnost jednání podle jeho důsledků, přínosů a škod, které vytváří), deontologie (přístup, který hodnotí správnost jednání na základě jeho dodržování povinností, přístupů, práv a pravidel), rámuje otázku jako „co by udělal ctnostný člověk?“. Umělá inteligence může být rychlým nástrojem k analýze případu z různých rámců, zobrazení přehlížených dimenzí a znásobení možností. Ale konečný etický úsudek – který princip převládá, jaké rozhodnutí učinit a jeho zdůvodnění – náleží člověku, zejména odpovědnému výboru a odborníkovi.
V této jednotce uvidíme, jak analyzovat etický případ způsobem využívajícím umělou inteligenci, ale posuzovaný člověkem.
Analýza více snímků: Skutečná síla umělé inteligence
Nejčastější chybou v etickém případě je lpění na jediném úhlu pohledu. Dobrá analýza vidí stejnou situaci z více rámců a odhaluje napětí. V tom je umělá inteligence mocná: dokáže analyzovat případ z konsekvencialistické, deontologické perspektivy a perspektivy založené na ctnosti současně a rychle vyjmenovat, k jakému závěru každý rámec vede. Toto mapuje debatu.
kroky:
1. Vyjasněte si fakta. Kdo, co, kdy je zapojen; rozlišovat mezi nejistými a předpokládanými skutečnostmi. Etická analýza nemůže být založena na nepravdivých faktech.
2. Identifikujte zainteresované strany a zájmy. Koho se rozhodnutí týká, jaká jsou práva a zájmy každého z nich?
3. Analyzujte z různých rámců. Jak se na tuto situaci dívá každý rámec a jaké opatření doporučuje?
4. Ukažte napětí a principiální konflikty. Pokud rámce dospějí k odlišným závěrům, kde přesně je konflikt? (Například mezi autonomií jednotlivce a prospěchem společnosti.)
5. Dospět k odůvodněnému rozhodnutí. Zdůvodněte, který princip převažuje proč, tím, že přijmete nejsilnější námitku druhé strany.
Tip: Nežádejte AI, aby „řekni správnou odpověď“; Řekněte: "analyzujte tento případ ze tří rámců a ukažte závěr a nejsilnější námitku každého." Úkolem AI je vytvořit mapu; Vy vydáváte rozhodnutí a odůvodnění. V etice není „odpověď daná strojem“ ospravedlněním.
Proč nemůže umělá inteligence činit etická rozhodnutí?
Řekněme to jasně. Etický soud; Vyžaduje to znalost kontextu, stanovení priorit mezi hodnotami, převzetí odpovědnosti a vůli podepsat toto rozhodnutí. Umělá inteligence nemá nic z toho: nemá žádné hodnoty, žádnou odpovědnost, omezené znalosti kontextu a může replikovat kulturní/ideologické předsudky v trénovacích datech. Navíc AI často poskytuje „průměrný“ nebo nejběžnější názor na kontroverzní téma; zatímco v etice může být správná odpověď většinou v menšině nebo nemusí existovat vůbec. AI otevírá možnosti; Zvážíte a rozhodnete.
Upozornění: U vysoce důležitých etických rozhodnutí (lékařských, právních, institucionálních) by výstup umělé inteligence nikdy neměl nahrazovat úsudek kompetentní rady nebo odborníka. Použijte AI jako „poradce“; Konečné rozhodnutí a odpovědnost leží na odpovědné osobě. Pokud údaje o skutečném případu obsahují osobní/důvěrné informace, nezadávejte je do veřejných nástrojů.
tři mini pouzdra
Případ 1 — Mapa s více snímky. Etická komise projednávala přidělení omezeného zdroje (např. omezený počet možností léčby). Nechali AI analyzovat případ z konsekvencialistického, deontologického a ctnostného hlediska; Během 20 minut byly zmapovány tři různá zdůvodnění a jejich konfliktní body. S použitím této mapy jako výchozího bodu vedla rada vlastní diskusi a učinila vlastní odůvodněné rozhodnutí.
Případ 2 – Přehlížená zúčastněná strana. Společnost vyhodnocovala rozhodnutí o využití dat. YZ ve své analýze označil třetí skupinu (lidé, jejichž data byla použita, ale nebyli zapojeni do procesu), kteří byli nepřímo ovlivněni, kromě přímých stran rozhodnutí. Tým tuto zúčastněnou stranu přehlédl. Vstup AI učinil rozhodnutí úplnější – ale tým provedl stanovení priorit.
Případ 3 – Zaujatý návrh opraven. Vyšetřovatel nechal AI analyzovat kulturně citlivý případ. Umělá inteligence prezentovala jediný kulturní pohled jako „univerzální pravdu“ a ignorovala alternativní systémy hodnot. Výzkumník si této jednostrannosti všiml a analýzu zpestřil. Dominantní pohled na tréninková data AI je vyvážen lidským dohledem.
Slabá výzva / Silná výzva
Slabá výzva:
Co bych měl v této situaci eticky udělat?
Tato výzva deleguje etický úsudek a odpovědnost na AI; Dostanete jednu „odpověď“, nevidíte zdůvodnění a rámec, zaujatost zůstává skryta.
Výkonná výzva:
Vaše role: analytik aplikované etiky (nikoli osoba s rozhodovací pravomocí). Analyzujte následující případ. NEDÁVEJTE MI ROZHODNUTÍ. 1) Vyjmenujte nejednoznačná fakta, která je třeba objasnit. 2) Odstraňte zainteresované strany a zájmy/práva každého z nich. 3) Analyzujte případ odděleně od konsekvencialistických, deontologických a ctnostných etických hledisek; Uveďte závěr a nejsilnější námitku každého z nich. 4) Ukažte základní konflikt principů mezi frameworky. Předložím rozhodnutí a odůvodnění. Upozornit, pokud existují osobní/důvěrné údaje. Případ: [zapsat případ]
Tato výzva odstraní vícesnímkovou mapu, ponechá rozhodnutí na vás a zviditelní zkreslení.
Čtyři kopírovatelné šablony
1) Fakta a objasnění zúčastněných stran:
V následujícím případě uveďte (a) určitá známá fakta, (b) nejistá/předpokládaná fakta, (c) všechny zúčastněné strany a zájmy a práva každého z nich. Přidejte komentáře a rozhodnutí. Případ: [případ]
2) Analýza tří snímků:
Analyzujte tento případ odděleně z hlediska konsekvencialismu, deontologie a etiky ctnosti. Pro každý snímek: jak to vidí, akci, kterou doporučuje, a nejsilnější námitku proti tomuto návrhu. Prohlášení rámce za „správný“. Případ: [případ]
3) Diagnostika konfliktu zásad:
V níže uvedené analýze pojmenujte klíčové principy, na kterých se rámce střetávají (např. autonomie vs. obecné dobro, spravedlnost vs. soucit). Ukažte, kde přesně se konflikt soustředí. Rozhodování. Analýza: [vložit text]
4) Audit předsudků a kulturní citlivosti:
Zkontrolujte, zda tato etická analýza nepředstavuje jediný kulturní/ideologický pohled jako univerzální pravdu. Existují alternativní hodnotové systémy nebo perspektivy, které jsou ignorovány? Zdůrazněte, kde je třeba více plurality. Analýza: [vložit text]
Srovnávací tabulka rámů
Rám
základní otázka
Zaměřte se
typická slabost
konsekvencialismus
Jaký je nejlepší výsledek?
Rovnováha prospěch/škoda
Může potlačit práva menšin
deontologie
Co říká zadání/pravidlo?
právo, povinnost, zásada
Přísný, může ignorovat výsledek
etika ctnosti
Co dělá ctnostný člověk?
charakter, záměr
Nejasný průvodce akcí
Časté chyby
- Přimět AI rozhodnout. "Co mám dělat?" Otázka deleguje etický úsudek; AI vytvoří mapu, rozhodnete se vy.
- Být zaseknutý v jediném rámu. Vidět případ pouze z jedné perspektivy; multi-frame analýza odhaluje napětí.
- Neobjasňování faktů. Etická analýza založená na nepravdivých nebo předpokládaných faktech se hroutí.
- Neuznávám zaujatost. AI může prezentovat dominantní kulturní pohled jako „univerzální“; Pluralismus je poskytován lidmi.
- Zadání důvěrného/osobního případu do veřejného nástroje. Riziko porušení soukromí ve skutečných souborech; Anonymizovat nebo používat zabezpečený systém.
V souhrnu
Skutečná síla AI v případové analýze aplikované etiky je rychle zmapovat situaci z více rámců, extrahovat zainteresované strany a zviditelnit konflikty principů. Ale etický úsudek – který princip převažuje, rozhodnutí a zdůvodnění – přísluší člověku, zejména odpovědnému výboru a odborníkovi; protože umělá inteligence nemá žádné hodnoty, žádnou odpovědnost, žádné znalosti kontextu a nese zaujatost. Vyjasněte si fakta, analyzujte více rámců, pojmenujte konflikt, zkontrolujte zkreslení a udělejte rozhodnutí sami se zdůvodněním. Při rozhodování o vysokých sázkách je umělá inteligence umístěna vedle odborného úsudku, nikoli jej nahrazovat.
Aplikační úkol
- Vyberte skutečný nebo fiktivní etický případ (anonymizujte, pokud se týká osobních údajů).
- Extrahujte fakta a zainteresované strany pomocí šablony „Fakt a objasnění zainteresovaných stran“.
- Nechte případ analyzovat ze tří pohledů pomocí šablony „třírámcová analýza“.
- Pojmenujte základní napětí pomocí šablony „diagnostika principu konfliktu“.
- Napište své vlastní odůvodněné rozhodnutí – přijměte nejsilnější námitku protistrany.
kontrolní seznam
- [ ] Objasnil jsem fakta a nejasnosti.
- [ ] Identifikoval jsem všechny zainteresované strany a jejich zájmy.
- [ ] Nechal jsem případ analyzovat z nejméně tří etických rámců.
- [ ] Jasně jsem pojmenoval principiální konflikt.
- [ ] Zkontroloval jsem zaujatost a jednostrannost.
- [ ] Nechal jsem rozhodnutí a odůvodnění na sobě/předsednictvu, ne na AI.
- [ ] Chránil jsem důvěrné/osobní údaje.