Nyereség:
- Képes egy etikai esetet többféle nézőpontból, következményi, deontológiai és erényetikai keretek között elemezni
- Képes a tények és az érintettek tisztázására és az elvi konfliktusok megnevezésére
- Képes etikus ítéleteket és döntéseket hozni indokolt módon, elfogultság ellenőrzésével, anélkül, hogy a mesterséges intelligenciára bízná
Az alkalmazott etika szíve a "mit tegyünk?" valós helyzetben. az, hogy indokolt választ adjunk a kérdésre. A kórházi etikai bizottság megvitatja a kezelési döntést, egy vállalat értékeli, hogy az adatok felhasználása etikus-e, a kutató pedig mérlegeli a kísérlet résztvevőinek okozott kárát. Az ezekben a munkákban használt eszközök az etikai keretek (szemléletek, amelyek koherens alapelveket és érvelést kínálnak egy helyzet értékeléséhez) – például a konzekvencializmus (az a megközelítés, amely egy cselekvés helyességét a következményei, az általa okozott előnyök és károk alapján értékeli), deontológia (megközelítés, amely egy cselekvés helyességét értékeli, annak jogai, következményei és kötelességei, jogai, szabályai és kötelességei alapján). (az a megközelítés, amely a kérdést úgy fogalmazza meg, hogy „mit tenne egy erényes ember?”, nem pedig „milyen cselekedet?”). A mesterséges intelligencia egy gyors eszköz lehet az esetek különböző keretekből történő elemzésére, a figyelmen kívül hagyott dimenziók megtekintésére és a lehetőségek többszörözésére. De a végső etikai ítélet – melyik elv érvényesül, melyik döntést hozzuk meg, és mi ennek az indoklása – az emberé, különösen a felelős bizottságé és szakértőé.
Ebben az egységben azt fogjuk látni, hogyan elemezhetünk egy etikai esetet mesterséges intelligencia által vezérelt, de ember által megítélt módon.
Több képkockás elemzés: Az AI valódi ereje
A leggyakoribb hiba egy etikai ügyben az, hogy ragaszkodunk egyetlen nézőponthoz. Egy jó elemzés több keretből látja ugyanazt a helyzetet, és feltárja a feszültségeket. Ez az, ahol a mesterséges intelligencia erős: egyszerre tud konzekvencialista, deontológiai és erényalapú szemszögből elemezni egy esetet, és gyorsan felsorolja, hogy az egyes keretrendszerek milyen következtetésekhez vezetnek. Ez feltérképezi a vitát.
Lépések:
1. Tisztázza a tényeket. Ki, mit, mikor vesz részt; különbséget tenni a bizonytalan és a feltételezett tények között. Az etikai elemzés nem alapulhat hamis tényeken.
2. Az érintettek és érdekek azonosítása. Kit érint a döntés, mik a jogai és érdekei mindegyiküknek?
3. Elemzés különböző keretekből. Hogyan látják az egyes keretrendszerek ezt a helyzetet, és milyen lépéseket javasolnak?
4. Mutasson feszültségeket és elvi konfliktusokat. Ha a keretek eltérő következtetésekre jutnak, hol van pontosan a konfliktus? (Például az egyén autonómiája és a társadalom haszna között.)
5. Indokolt döntést hozni. Indokolja meg, hogy a másik oldal legerősebb kifogásának elfogadásával melyik elv van felül a miértnél.
Tipp: Ne kérje az AI-t, hogy „mondja meg a helyes választ”; Mondja azt, hogy „elemezze ezt az esetet három keretből, és mutassa meg mindegyik következtetését és legerősebb kifogását”. Az AI feladata a térkép elkészítése; Te készíted a döntést és az indoklást. Az etikában "a gép által adott válasz" nem indoklás.
Miért nem tud a mesterséges intelligencia etikus döntéseket hozni?
Fogalmazzuk meg ezt világosan. Etikai ítélet; Ehhez kontextusismeretre, az értékek rangsorolására, a felelősségvállalásra és a döntés aláírására irányuló akaratra van szükség. Az AI ezek közül egyikkel sem rendelkezik: nincsenek értékei, nincs elszámoltathatósága, korlátozott a kontextus ismerete, és képes megismételni a kulturális/ideológiai torzításokat a képzési adatokban. Ráadásul a mesterséges intelligencia gyakran az „átlagos” vagy legáltalánosabb véleményt adja egy vitatott témáról; míg az etikában a helyes válasz többnyire kisebbségben van, vagy egyáltalán nem létezik. Az AI opciókat nyit meg; Mérlegelsz és döntesz.
Figyelem: A nagy téttel járó etikai döntéseknél (orvosi, jogi, intézményi) a mesterséges intelligencia kimenete soha nem helyettesítheti az illetékes testület vagy szakértő ítéletét. Használja az AI-t „tanácsadó fogalmazóként”; A végső döntés és a felelősség a felelős személyé. Továbbá, ha a tényleges ügyadatok személyes/bizalmas információkat tartalmaznak, ne vigye be azokat nyilvános eszközökbe.
három mini tok
1. eset – Többkockás térkép. Egy etikai bizottság egy korlátozott erőforrás (például korlátozott számú kezelési lehetőség) elosztásáról tárgyalt. A mesterséges intelligencia elemezte az esetet konzekvencialista, deontológiai és erényalapú szemszögből; 20 percben három különböző indoklást és azok ütközési pontjait térképeztük fel. Ebből a térképből kiindulópontként a testület lefolytatta saját megbeszélését és meghozta indokolással ellátott döntését.
2. eset – A figyelmen kívül hagyott érintett. Egy cég adathasználati döntést értékelt. Az YZ elemzésében a döntés közvetlen felein kívül egy harmadik csoportot jelölt meg (azokat, akiknek adatait felhasználták, de nem vonták be a folyamatba). A csapat figyelmen kívül hagyta ezt az érdekelt felet. A mesterséges intelligencia hozzájárulása teljesebbé tette a döntést – de a csapat elvégezte a rangsorolást.
3. eset – Az elfogult javaslat javítva. Egy nyomozó mesterséges intelligenciával elemzett egy kulturálisan érzékeny esetet. A mesterséges intelligencia egyetlen kulturális nézetet mutatott be „univerzális igazságként”, és figyelmen kívül hagyta az alternatív értékrendszereket. A kutató észrevette ezt az egyoldalúságot, és változatossá tette az elemzést. A mesterséges intelligencia képzési adatainak domináns nézetét emberi felügyelet ellensúlyozza.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Mit kell tennem etikusan ebben a helyzetben?
Ez a felszólítás az etikai megítélést és a felelősséget az MI-re ruházza; Egy "választ" kapsz, nem látod az indoklást és a keretet, az elfogultság rejtve marad.
Erőteljes felszólítás:
Az Ön szerepe: alkalmazott etikai elemző (nem döntéshozó). Elemezze a következő esetet! NE ADJA MEG A DÖNTÉST.1) Sorolja fel a tisztázandó kétértelmű tényeket.2) Távolítsa el az érintetteket és mindegyikük érdekeit/jogait.3) Elemezze az esetet külön-külön konzekvencialista, deontológiai és erényetikai szempontból; Adja meg mindegyiknek a következtetést és a legerősebb ellenvetést. 4) Mutassa be a keretek közötti alapvető elvi ütközést! A határozatot és az indoklást bemutatom. Figyelmeztetés, ha személyes/bizalmas adatok vannak. eset: [eset írása]
Ez a felszólítás eltávolítja a többkockás térképet, a döntést Önre bízza, és láthatóvá teszi a torzítást.
Négy másolható sablon
1) Tények és az érdekelt felek magyarázata:
A következő esetben soroljon fel (a) bizonyos ismert tényeket, (b) bizonytalan/feltételezett tényeket, (c) az összes érintettet és mindegyikük érdekeit és jogait. Megjegyzések és döntések hozzáadása. Case: [case]
2) Három képkockás elemzés:
Elemezze ezt az esetet külön a konzekvencializmus, a deontológia és az erényetika szemszögéből. Minden képkockánál: hogyan látja, milyen cselekvést ajánl, és a legerősebb kifogást ez ellen. Egy keret „helyesnek” nyilvánítása. Case: [case]
3) Irányelvkonfliktus-diagnosztika:
Nevezze meg azokat a kulcsfontosságú elveket, amelyek alapján a keretek ütköznek az alábbi elemzésben (pl. autonómia kontra közjó, igazságosság vs. együttérzés). Mutassa meg pontosan a konfliktus központját. Döntéshozatal. Elemzés: [szöveg beillesztése]
4) Előítélet- és kulturális érzékenység audit:
Ellenőrizze, hogy ez az etikai elemzés nem mutat-e be egyetlen kulturális/ideológiai nézetet egyetemes igazságként. Vannak-e olyan alternatív értékrendszerek vagy szempontok, amelyeket figyelmen kívül hagynak? Jelölje ki, ahol több pluralizmusra van szükség. Elemzés: [szöveg beillesztése]
Keret összehasonlító táblázat
Keret
alapkérdés
Fókusz
tipikus gyengeség
konzekvencializmus
Mi a legjobb eredmény?
Előny/kár egyensúly
Letörheti a kisebbségi jogokat
deontológia
Mit mond a feladat/szabály?
jog, kötelesség, elv
Szigorú, figyelmen kívül hagyhatja az eredményt
erényetika
Mit csinál egy erényes ember?
jellem, szándék
Homályos cselekvési útmutató
Gyakori hibák
- Az AI döntéshozatala. – Mit tegyek? A kérdés etikai megítélést delegál; Az AI létrehoz egy térképet, te döntöd el.
- Egyetlen keretben ragadni. Csak egy szemszögből nézve az esetet; több képkockás elemzés feszültséget tár fel.
- Nem tisztázza a tényeket. A hamis vagy feltételezett tényeken alapuló etikai elemzés összeomlik.
- Nem ismeri fel az elfogultságot. A mesterséges intelligencia a domináns kulturális nézetet „univerzálisnak” állíthatja be; A pluralizmust az emberek biztosítják.
- Bizalmas/személyes ügy bevitele nyilvános eszközbe. A személyes adatok megsértésének kockázata valós fájlokban; Anonimizálása vagy biztonságos rendszer használata.
Összefoglalva
Az AI valódi ereje az alkalmazott etikai esetelemzésben abban rejlik, hogy gyorsan leképez egy helyzetet több keretből, kivonja az érintetteket, és láthatóvá teszi az elvi konfliktusokat. De az etikai ítélet – melyik elv érvényesül, a döntés és az indoklás – az emberé, különösen a felelős bizottságé és szakértőé; mert az AI-nak nincsenek értékei, nincs felelőssége, nincs környezetismerete, és elfogultságot hordoz. Tisztázza a tényeket, elemezzen több keretet, nevezze meg a konfliktust, ellenőrizze az elfogultságot, és maga hozza meg a döntést indoklással. A nagy téttel járó döntéseknél az MI a szakértői megítélés mellé, nem pedig helyettesítésre kerül.
Pályázati feladat
- Válasszon valós vagy kitalált etikai esetet (anonimizálja, ha személyes adatokra vonatkozik).
- Tények és érdekelt felek kinyerése a „Tények és érdekelt felek tisztázása” sablon segítségével.
- Elemezze az esetet három szemszögből a „három képkockás elemzés” sablon segítségével.
- Nevezze meg a mögöttes feszültséget az „elvi konfliktus-diagnosztika” sablon segítségével.
- Írja meg saját, megindokolt döntését – fogadja el a szembenálló fél legerősebb kifogását.
ellenőrző lista
- [ ] Tisztáztam a tényeket és a bizonytalanságokat.
- [ ] Az összes érintettet és érdekeiket azonosítottam.
- [ ] Legalább három etikai keretből elemeztem az esetet.
- [ ] Világosan megneveztem az elvi konfliktust.
- [ ] Ellenőriztem az elfogultságot és az egyoldalúságot.
- [ ] A döntést és az indoklást magamra/a testületre bíztam, nem az AI-ra.
- [ ] Bizalmas/személyes adatokat védtem.