Табыстар:
- Жауапты AI принциптерін (әділдік, ашықтық, есеп берушілік, құпиялылық, адам қадағалауы, қауіпсіздік, тұрақтылық) нақты шешімдерге байланыстыру мүмкіндігі
- Этиканы заңды сәйкестіктен ажырату және «біз істей аламыз» және «біз керек» дегенді ажырату арқылы зардап шеккен тараптарды және біржақтылықты сынау мүмкіндігі
- Дизайнға ашықтықты, адам бақылауын және тартымдылықты енгізу арқылы теріс пайдалану сценарийлерін алдын ала азайту мүмкіндігі
AI стартапы техникалық жағынан мінсіз, қаржылық жағынан тиімді және заңды түрде өміршең болуы мүмкін; бірақ ол әлі де қате болуы мүмкін. Этика - бұл «біз істей аламыз» және «біз керек» арасындағы айырмашылық. Аға басшы үшін этика әшекейлеу немесе қоғаммен байланыс мәселесі емес; Бұл мекеменің ұзақ мерзімді сенімділігін, беделін және әлеуметтік заңдылығын сақтайтын негіз болып табылады. Бұл бөлімде сіз жауапты AI принциптерін (әділ, ашық, есеп беретін және адам қадір-қасиетін құрметтейтін жасанды интеллектті дамыту және пайдалану тәсілі) және оларды күнделікті шешімдерде қалай көрсету керектігін үйренесіз.
Жауапты АИ негізгі принциптері
Әртүрлі шеңберлер ұқсас принциптерге сәйкес келеді. Менеджер үшін практикалық қорытынды:
принципі
Сіз нені білдіреді?
админ сұрағы
әділдік
кемсітушілікке жол бермеу
Бұл топқа әділетсіз әсер ете ме?
ашықтық
түсінікті болу
Шешім себебін түсіндіре аламыз ба?
жауапкершілік
Кім жауапты екенін анықтау
Қате орын алса кім жауапты?
Құпиялық
Жеке деректерді құрметтеу
Деректерді пайдалануға құқығымыз бар ма?
адамды қадағалау
Бақылауда болу
Бір қарсылық білдіріп, оны тоқтата ала ма?
Қауіпсіздік
зиян келтірме
Бұл теріс пайдаланылуы мүмкін бе?
Тұрақтылық
Қоршаған ортаға/әлеуметтік әсер
Шығынды кімге жүктейміз?
Бұл принциптер абстрактілі емес; Олардың әрқайсысын нақты шешіммен байланыстыруға болады. Мысалы, «мөлдірлік» тұтынушыға AI-мен сөйлесіп жатқанын білуге мүмкіндік беруді білдіреді; «Адамдардың қадағалауы» адамның несие беруден бас тартуды тексеріп, оны апелляцияға ашық қалдыруын білдіреді.
Кеңес: Әсері жоғары AI шешімімен бір сұрақ қойыңыз: «Мен бұл шешімді теріс әсер ететін адамға нақты түсіндіре аламын ба?» Егер жауап ренжітсе, этикалық мәселе бар.
Этика заңнан бөлек
Маңызды ерекшелік: заңға сәйкестік (9-бірлік) – ең төменгі мән; Этика - бұл жоғары деңгей. Бір нәрсе заңды, бірақ әдепсіз болуы мүмкін. Мысалы, қолданбаға пайдаланушы әрекетін басқару үшін жасанды интеллектті пайдалануға тыйым салынбауы мүмкін, бірақ бұл этикалық емес. Жауапты мекемелер "тыйым салынған ба?" «Бұл рас па?» емес. деп сұрайды ол.
Қадам бойынша: шешімге этиканы енгізу
1. Зардап шеккен тараптарды анықтаңыз. Бұл бастама кімге әсер етеді? (Тұтынушы, қызметкер, қоғам, қолайсыз топтар)
2. Саясаттармен сканерлеу. Жоғарыда аталған қағидалардың әрқайсысы бойынша бастамаға сұрақ қойыңыз.
3. Біржақтылық пен зиян үшін сынақ. Модель белгілі бір топтарға әділетсіз әсер ете ме? Теріс пайдалану сценарийлері қандай?
4. Ашықтық пен қадағалауды қосыңыз. Жасанды интеллектті пайдалану туралы хабарлаңыз, адамның қарсылығына жол бермеңіз.
5. Құжаттар және шолу. Этикалық бағалауды сақтау; Мерзімді түрде қайта тексеріңіз.
үш шағын іс
1-жағдай – заңды, бірақ қате. Қолданба пайдаланушыларды қолданбада ұзағырақ ұстау үшін тәуелді хабарландыруларды жасау үшін жасанды интеллектті пайдаланды. Ешқандай заңдық кедергі болған жоқ, бірақ баспасөзде бұл туралы айтылғанда, беделі айтарлықтай жоғалды; Оның әсіресе жас қолданушыларға бағытталғаны сынға ұшырады. Компания бұл мүмкіндікті алып тастады. Егер этикалық сүзгі басынан бері болса, бұл тәуекел көрінер еді.
2-жағдай — Әділдік сынағының мәні. Банктің несиелік скоринг үлгісі қорғалған топтардың өтінімдеріне жүйелі түрде төмен балл берді. Бұл сот төрелігін тексеру барысында анықталды. Нәтижелерде топаралық теңдікті қамтамасыз ету үшін модель қайта өңделіп, жүйелі түрде сынақтан өткізілді. Этикалық принцип (әділеттілік) нақты сынаққа айналып, нақты зиянның алдын алды.
3-жағдай – Транспаренттік сенім. Электрондық коммерция компаниясы тұтынушыларды қолдау чат-ботының басына «Жасанды интеллект көмекшісі сізге көмектеседі, адам өкіліне кез келген уақытта қосыла аласыз» деген сөз тіркесін қойды. Ашықтық пен адамның шығуы қанағаттануды төмендетпеді; Керісінше, сенім артып, шағымдар 15%-ға азайды. Дұрыс жасалған ашықтық құн емес, құнды болды.
Көшірілетін төрт үлгі
1) Этикалық скрининг:
Сіздің рөліңіз: жауапты AI кеңесшісі. Бұл бастаманы 7 принцип бойынша сканерлеңіз: әділдік, ашықтық, есеп берушілік, құпиялылық, адам қадағалауы, қауіпсіздік, тұрақтылық. Әрбір саясат үшін бір тәуекелді және бір ұсынысты жазыңыз. Бастама: [мәтін]
2) Зардап шеккен тарапты талдау:
Осы AI бастамасынан зардап шеккен барлық тараптарды тізімдеңіз (тұтынушы, қызметкер, қоғам, қолайсыз топтар). Әр тарап үшін ықтимал оң және теріс әсерлерді жазыңыз; Ең көп зиян келтіруі мүмкін топты белгілеңіз. Бастама: [мәтін]
3) теріс пайдалану сценарийі:
Келесі AI мүмкіндігі теріс пайдаланылуы мүмкін 5 сценарий жасаңыз (соның ішінде манипуляция, кемсітушілік, құпиялылықты бұзу, алдау). Әрбір сценарий үшін алдын ала жобалық шешімді ұсыныңыз. Атрибут: [мәтін]
4) Транспаренттілік пен қадағалауды бақылау:
Тұтынушыға бағытталған AI үшін ашықтық пен адамдық бақылау жоспарын жазыңыз: пайдаланушыға не және қалай хабарланады; Оны адамға қалай беруге болады? Ол шешімге қалай қарсылық білдіре алады? Қолданылуы: [мәтін]
Әлсіз шақыру / Күшті шақыру
Әлсіз: «Бұл AI этикалық ма?»
Нәтиже: үстірт «иә/жоқ»; Қандай принцип, кім әсер етеді, қандай шара түсініксіз.
Күшті: "Біз AI-ны жұмысқа қабылдау алдындағы скрининг құралында қолдануды қарастырып жатырмыз (соңғы шешімді адам қабылдайды). Мұны әділдік, ашықтық, есеп берушілік және адам қадағалауы қағидаттары үшін тексеріп алыңыз. Кандидаттардың қай топтарына әділетсіз әсер етуі мүмкін екенін, маған қандай бетбұрыс сынақтарын жасау керектігін және кандидаттар шешімге қалай шағымдана алатынын нақты жазыңыз."
Нәтиже: зардап шеккен тарапты анықтайтын және тестілеу мен шағымдануды ұсынатын принципке негізделген практикалық бағалау.
Жалпы қателер
- Этиканы заңға сәйкестікпен шатастыру. Заңды нәрсенің бәрі этикалық емес; Этика - бұл жоғары деңгей.
- Этиканы ұзақ уақытқа қалдыру. Жобалаудан кейін «этикалық мақұлдау» алу тым кеш; этика дизайнға басынан бастап енгізілуі керек.
- Әділдікті сынау емес. «Біздің үлгіміз бейтарап» деген болжам қауіпті; өлшеусіз білу мүмкін емес.
- Мөлдірлікті құн деп қателесу. Дұрыс жасалған ашықтық сенім мен құндылықты арттырады.
- Зақымдалған жақтарды тар ұстау. Тапсырыс берушіні ғана ойлап, қызметкерді, қоғамды және аз қамтылған топтарды елемеу соқыр дақ тудырады.
Абайлаңыз: этикалық бағалауды толығымен жасанды интеллектке қалдыру қайшы және қауіпті. AI этикалық сұрақтарды көтеруге көмектесе алады, бірақ құндылық пайымдауы, мәдени контекст және соңғы моральдық жауапкершілік адамға байланысты. Ұйымның этикалық ұстанымы «АИ айтты» емес, адамдардың саналы таңдауымен анықталады.
Қысқаша
Этика «біз істей аламыз» және «біз керек» арасындағы айырмашылық болып табылады және ұйымның ұзақ мерзімді сенімділігін қорғайды. Жауапты АИ; Ол әділдік, ашықтық, есеп берушілік, жеке өмірге қол сұғылмаушылық, адам қадағалауы, қауіпсіздік және тұрақтылық принциптеріне негізделген. Бұл принциптер абстрактілі емес; Ол зардап шеккен тараптарды анықтау, біржақтылықты тексеру, ашықтықты қамтамасыз ету және адам бақылауын қосу сияқты нақты шешімдерге айналады. Этика заңнан өзгеше және одан жоғары саты; Оны соңына дейін қалдыруға болмайды, ол дизайнға енгізілуі керек. Келесі бөлімде біз этиканың заңды баламасы болып табылатын сәйкестікті, әсіресе ЕО AI заңын және KVKK-ны талқылаймыз.
Қолданбалы тапсырма
Жоғары әсерлі AI стартапын таңдаңыз. 2-үлгі арқылы барлық зардап шеккен тараптарды тізіп, зардап шегуі ықтимал топты белгілеңіз. 1-үлгі арқылы жеті принцип үшін бастаманы сканерлеңіз. Ең маңызды екі этикалық тәуекел үшін нақты шараны (әділдік сынағы, ашықтық туралы хабарлама, шағымдану бағыты және т.б.) анықтаңыз. Соңында: «Мен бұл шешімді теріс әсер ететін адамға түсіндіре аламын ба?» Сұраққа шынайы жауап беріңіз.
бақылау парағы
- [ ] Мен барлық зардап шеккен тараптарды анықтадым.
- [ ] Мен стартапты жауапты интеллекттің жеті қағидасымен скринингтен өткіздім.
- [ ] Мен біржақтылық/әділдік үшін сынақты жоспарладым.
- [ ] Мен мөлдірлік мәлімдемесін жасадым.
- [ ] Мен адамның қадағалауы мен шағымына жол қалдырмадым.
- [ ] Мен теріс пайдалану сценарийлері туралы ойладым.
- [ ] «Мен оны ең теріс әсер еткен адамға түсіндіре аламын ба?» Мен сынақтан өттім.