Табыстар:
- Этикалық жағдайды әртүрлі көзқарастардан, консевенциалистік, деонтологиялық және ізгілік этика шеңберінен талдау мүмкіндігі
- Фактілер мен мүдделі тараптарды нақтылау және принциптік қайшылықтарды атай білу
- Этикалық пайымдаулар мен шешімдерді жасанды интеллектке қалдырмай, біржақты бақылау арқылы негізделген түрде қабылдау мүмкіндігі
Қолданбалы этиканың жүрегі – «не істеу керек?» деген сұрақ. нақты жағдайда. деген сұраққа дәлелді жауап беру болып табылады. Аурухананың этика комитеті емдеу туралы шешімді талқылайды, компания деректерді пайдаланудың этикалық екенін бағалайды, зерттеуші эксперименттің қатысушыларға зиянын өлшейді. Бұл жұмыстарда қолданылған құралдар этикалық шеңберлер (жағдайды бағалаудың біртұтас принциптері мен негіздемесін ұсынатын тәсілдер) — мысалы, консеквенциализм (әрекеттің дұрыстығын оның салдарларына, әкелетін пайдасы мен зиянына қарай бағалайтын көзқарас), деонтология (әрекеттің дұрыстығын оның ережелерімен, құқықтары мен міндеттерінің сәйкестігімен бағалайтын көзқарас), және ізгілік этикасы («қандай әрекет?» емес, «ізгі адам не істер еді?» деген сұрақты қоятын көзқарас). AI әртүрлі құрылымдардағы істі талдауға, еленбеген өлшемдерді көруге және опцияларды көбейтуге арналған жылдам құрал бола алады. Бірақ түпкілікті этикалық пайымдау – қай принцип басым, қандай шешім қабылдау керек және оның негіздемесі – адамға, әсіресе жауапты комитет пен сарапшыға тиесілі.
Бұл бөлімде біз этикалық істі AI-ге негізделген, бірақ адам бағалайтын жолмен қалай талдауға болатынын көреміз.
Көп кадрлы талдау: AI-ның нақты күші
Этикалық жағдайда жиі кездесетін қателік – бір көзқарасты ұстану. Жақсы талдау бірдей жағдайды бірнеше шеңберден көреді және шиеленістерді көрсетеді. Дәл осы жерде AI күшті: ол істі бір уақытта салдарлық, деонтологиялық және ізгілікке негізделген перспективалардан талдай алады және әрбір құрылым қандай қорытындыға әкелетінін жылдам тізімдей алады. Бұл пікірталастың картасын жасайды.
Қадамдар:
1. Фактілерді нақтылаңыз. Кім, не, қашан қатысады; белгісіз және болжамды фактілерді ажырату. Этикалық талдау жалған фактілерге негізделуі мүмкін емес.
2. Мүдделі тараптар мен мүдделерді анықтау. Шешім кімге әсер етеді, әрқайсысының құқықтары мен мүдделері қандай?
3. Әртүрлі шеңберлерден талдау. Әрбір құрылым бұл жағдайды қалай қарастырады және ол қандай әрекетті ұсынады?
4. Принциптік шиеленіс пен қайшылықтарды көрсетіңіз. Егер шеңберлер әртүрлі қорытындыларға келсе, қай жерде қайшылық бар? (Мысалы, жеке тұлғаның дербестігі мен қоғамның игілігі арасындағы).
5. Дәлелді шешімге келіңіз. Қарсы тараптың ең күшті қарсылығын қабылдау арқылы қай принцип неге артық екенін негіздеңіз.
Кеңес: AI-дан «маған дұрыс жауапты айт» деп сұрамаңыз; «Осы істі үш шеңберден талдаңыз және әрқайсысының қорытындысы мен ең күшті қарсылығын көрсетіңіз» деп айтыңыз. AI жұмысы картаны жасау; Сіз шешім мен негіздеме жасайсыз. Этикада «машина берген жауап» ақтау болып табылмайды.
Неліктен AI этикалық шешімдер қабылдай алмайды?
Осыны анық көрсетейік. Этикалық пайымдау; Ол контекстті білуді, құндылықтар арасындағы басымдықты, жауапкершілікті және сол шешімге қол қоюға ерікті талап етеді. AI-де бұлардың ешқайсысы жоқ: оның құндылықтары жоқ, есеп беруі жоқ, контекст туралы шектеулі білімі жоқ және оқу деректеріндегі мәдени/идеологиялық бейімділіктерді қайталай алады. Сонымен қатар, AI жиі даулы тақырып бойынша «орташа» немесе ең көп таралған пікірді береді; ал этикада дұрыс жауап негізінен азшылықта болуы мүмкін немесе мүлде болмауы мүмкін. AI опцияларды ашады; Сіз өлшеп, шешесіз.
Абайлаңыз: жоғары тәуекелді этикалық шешімдерде (медициналық, заңдық, мекемелік) AI нәтижесі ешқашан құзыретті басқарма немесе сарапшының пікірін алмастырмауы керек. AI-ді «кеңес беруші» ретінде пайдаланыңыз; Соңғы шешім мен жауапкершілік жауапты тұлғаға жүктеледі. Сондай-ақ, егер нақты іс деректерінде жеке/құпия ақпарат болса, оны жалпыға қолжетімді құралдарға енгізбеңіз.
үш шағын іс
1-жағдай — Көп кадрлы карта. Этика жөніндегі комитет шектеулі ресурсты (мысалы, емдеу нұсқаларының шектеулі саны) бөлуді талқылады. Олар AI жағдайды салдарлық, деонтологиялық және ізгілікке негізделген перспективалардан талдады; 20 минут ішінде үш түрлі негіздеме және олардың қайшылық нүктелері картаға түсірілді. Осы картаны бастапқы нүкте ретінде пайдалана отырып, басқарма жеке талқылау жүргізіп, өзінің дәлелді шешімін қабылдады.
2-жағдай – назардан тыс қалған мүдделі тарап. Компания деректерді пайдалану шешімін бағалауда. YZ өз талдауында шешімнің тікелей тараптарынан басқа жанама әсер еткен үшінші топты (деректері пайдаланылған, бірақ процеске қатыспаған адамдар) белгіледі. Команда бұл мүдделі тарапты назардан тыс қалдырды. Жасанды интеллект енгізуі шешімді толықтай берді, бірақ команда басымдықты жасады.
3-жағдай — біржақты ұсыныс түзетілді. Тергеуші AI-ге мәдени тұрғыдан сезімтал істі талдады. AI бір мәдени көзқарасты «әмбебап шындық» ретінде ұсынды және баламалы құндылықтар жүйелерін елемеді. Зерттеуші бұл біржақтылықты байқап, талдауды әртараптандырды. AI жаттығу деректерінің басым көрінісі адамның бақылауымен теңестіріледі.
Әлсіз шақыру / Күшті шақыру
Әлсіз шақыру:
Бұл жағдайда этикалық тұрғыдан не істеуім керек?
Бұл жедел әрекет AI-ға этикалық пайымдау мен жауапкершілікті береді; Сіз бір «жауап» аласыз, сіз негіздеме мен негізді көрмейсіз, қиғаштық жасырын қалады.
Күшті шақыру:
Сіздің рөліңіз: қолданбалы этика талдаушысы (шешім қабылдаушы емес). Келесі жағдайды талдаңыз. ШЕШІМДІ МАҒАН БЕРМЕ.1) Түсіндіруді қажет ететін екіұшты фактілерді тізіп көрсетіңіз.2) Мүдделі тараптарды және әрқайсысының мүдделерін/құқықтарын алып тастаңыз.3) Істі салдарлық, деонтологиялық және ізгілік этика көзқарастарынан бөлек талдаңыз; Қорытынды және әрқайсысына ең күшті қарсылық көрсетіңіз. 4) Фреймворктер арасындағы принциптердің негізгі қақтығыстарын көрсетіңіз. Мен шешім мен негіздеме шығарамын. Жеке/құпия деректер болса ескертіңіз. Іс: [істі жазу]
Бұл шақыру көп кадрлы картаны алып тастап, шешім қабылдауды өзіңізге қалдырады және қиғаштықты көрінеді.
Көшірілетін төрт үлгі
1) Факті және мүдделі тараптарды түсіндіру:
Келесі жағдайда (а) белгілі бір фактілерді, (b) белгісіз/болжамды фактілерді, (c) барлық мүдделі тараптарды және әрқайсысының мүдделері мен құқықтарын тізімдеңіз. Түсініктемелер мен шешімдерді қосыңыз. Іс: [іс]
2) Үш кадрлық талдау:
Бұл жағдайды салдарлық, деонтология және ізгілік этикасының перспективаларынан бөлек талдаңыз. Әрбір кадр үшін: ол оны қалай көреді, ол ұсынатын әрекет және бұл ұсынысқа ең күшті қарсылық. Фреймворкті «дұрыс» деп жариялау. Іс: [іс]
3) Саясат қақтығыстарының диагностикасы:
Төмендегі талдауда шеңберлер қайшы келетін негізгі принциптерді атаңыз (мысалы, автономияға қарсы жалпы игілікке, әділдікке қарсы жанашырлыққа). Қақтығыс қай жерде болатынын көрсетіңіз. Шешім қабылдау. Талдау: [мәтінді қою]
4) Алдын ала қарау және мәдени сезімталдық аудиті:
Бұл этикалық талдау біртұтас мәдени/идеологиялық көзқарасты әмбебап шындық ретінде көрсетпейтінін тексеріңіз. Баламалы құндылықтар жүйесі немесе еленбейтін перспективалар бар ма? Қай жерде көп плюрализм болуы керек екенін атап өтіңіз. Талдау: [мәтінді қою]
Фреймді салыстыру диаграммасы
Жақтау
негізгі сұрақ
Фокус
типтік әлсіздік
консевенциализм
Ең жақсы нәтиже қандай?
Пайда/зиян балансы
Азшылық құқықтарын бұзуы мүмкін
деонтология
Тапсырма/ереже не дейді?
құқық, міндет, принцип
Қатаң, нәтижені елемеуі мүмкін
ізгілік этикасы
Әдепті адам не істейді?
мінез, ниет
Белгісіз әрекет нұсқаулығы
Жалпы қателер
- AI шешім қабылдау. «Не істеуім керек?» Сұрақ этикалық пайымдауды береді; AI карта жасайды, сіз шешесіз.
- Бір кадрға жабысып қалу. Істі бір ғана қырынан қарау; көп кадрлы талдау шиеленісті көрсетеді.
- Фактілерді нақтыламау. Жалған немесе болжамды фактілерге негізделген этикалық талдау бұзылады.
- Біржақтылықты мойындамау. AI басым мәдени көзқарасты «әмбебап» ретінде көрсете алады; Плюрализмді адамдар қамтамасыз етеді.
- Құпия/жеке істі жалпыға ортақ құралға енгізу. Нақты файлдардағы құпиялылықты бұзу қаупі; Қауіпсіз жүйені анонимизациялаңыз немесе пайдаланыңыз.
Қысқаша
Қолданбалы этика жағдайын талдаудағы AI-ның нақты күші - жағдайды бірнеше фреймдерден жылдам картаға түсіру, мүдделі тараптарды шығару және принциптік қайшылықтарды көрінетін ету. Бірақ этикалық пайымдау – қай принцип басым, шешім мен негіздеу – адам баласына, әсіресе жауапты комитет пен сарапшыға тиесілі; өйткені AI құндылықтарға, жауапкершілікке, контексттік білімге ие емес және біржақтылыққа ие. Фактілерді нақтылаңыз, бірнеше шеңберді талдаңыз, қақтығысты атаңыз, біржақтылықты тексеріңіз және шешімді негіздеу арқылы өзіңіз қабылдаңыз. Жоғары тәуекелді шешімдерде AI сараптамалық пікірді алмастырмай, қатар қойылады.
Қолданбалы тапсырма
- Шынайы немесе ойдан шығарылған этикалық жағдайды таңдаңыз (жеке деректерге қатысты болса, анонимді түрде көрсетіңіз).
- «Факт және мүдделі тараптардың түсіндірмесі» үлгісімен фактілер мен мүдделі тараптарды шығарып алыңыз.
- Істі «үш кадрлық талдау» үлгісімен үш тұрғыдан талдаңыз.
- «Принциптік қақтығыс диагностикасы» үлгісімен негізгі шиеленісті атаңыз.
- Қарсы тараптың ең күшті қарсылығын қабылдай отырып, өзіңіздің дәлелді шешіміңізді жазыңыз.
бақылау парағы
- [ ] Мен фактілер мен белгісіздіктерді түсіндірдім.
- [ ] Мен барлық мүдделі тараптарды және олардың мүдделерін анықтадым.
- [ ] Мен істі кем дегенде үш этикалық шеңберден талдадым.
- [ ] Мен принциптік қайшылықты анық атадым.
- [ ] Мен біржақтылық пен біржақтылықты тексердім.
- [ ] Мен шешім мен негіздеуді AI-ға емес, өзіме/басқармаға қалдырдым.
- [ ] Мен құпия/жеке деректерді қорғадым.