Пайдалар:
- Жооптуу AI принциптерин (адилеттүүлүк, ачыктык, отчеттуулук, купуялуулук, адамдардын көзөмөлү, коопсуздук, туруктуулук) конкреттүү чечимдерге байланыштыра билүү
- Этиканы мыйзамдуулуктан бөлүү жана "колубуздан келет" менен "биз керек" дегенди айырмалоо аркылуу жабыр тарткан тараптарды жана бир жактуулукту сыноо мүмкүнчүлүгү
- Дизайнга ачыктыкты, адам мониторингин жана кайрылууну киргизүү менен кыянаттык менен пайдалануу сценарийлерин алдын ала кыскартуу мүмкүнчүлүгү
AI стартапы техникалык жактан кемчиликсиз, каржылык жактан кирешелүү жана юридикалык жактан жарактуу болушу мүмкүн; бирок ал дагы эле туура эмес болушу мүмкүн. Этика - бул "биз жасай алабыз" жана "биз керек" ортосундагы айырма. Улук менеджер үчүн этика кооздоо же коомчулук менен байланышуу маселеси эмес; Бул мекеменин узак мөөнөттүү ишенимдүүлүгүн, аброюн жана социалдык мыйзамдуулугун сактаган негиз болуп саналат. Бул бөлүмдө сиз жоопкерчиликтүү AI принциптерин (жасалма интеллектти калыс, ачык-айкын, жоопкерчиликтүү жана адамдык ар-намысты урматтаган ыкма менен иштеп чыгууга жана колдонууга мамиле) жана аларды күнүмдүк чечимдерде кантип чагылдырууну үйрөнөсүз.
Жооптуу АИнин негизги принциптери
Ар түрдүү алкактар окшош принциптерде жолугушат. Менеджер үчүн практикалык корутунду:
принцип
Эмнени айтып жатасыз?
админ суроо
адилеттүүлүк
дискриминацияланбоо
Бул бир топко адилетсиз таасир этеби?
ачыктык
түшүнүктүү бол
Чечимдин себебин түшүндүрө алабызбы?
жоопкерчилик
Ким жооптуу экенин аныктоо
Ката чыкса ким жооп берет?
Купуялык
Жеке маалыматтарды урматтоо
Биз маалыматтарды колдонууга укугубуз барбы?
адам байкоо
Көзөмөлдө калуу
Бир каршы чыгып, токтото алабы?
Коопсуздук
зыян кылба
Бул кыянаттык болушу мүмкүнбү?
Туруктуулук
Экологиялык/социалдык таасир
Баасын кимге жүктөйбүз?
Бул принциптер абстракттуу эмес; Алардын ар бирин конкреттүү чечимге байланыштырууга болот. Мисалы, "ачыктык" кардар AI менен сүйлөшүп жатканын билүүгө мүмкүндүк берет; "Адамдардын көзөмөлү" адам тарабынан кредиттен баш тартууну карап чыгып, аны даттануу үчүн ачык калтырууну билдирет.
Кеңеш: AI боюнча ар бир жогорку таасирдүү чечим менен бир суроо бериңиз: "Мен бул чечимди эң терс таасир эткен адамга так түшүндүрүп, артында тура аламбы?" Эгер жооп таарынса, анда этикалык маселе бар.
Этика мыйзамдан башкача
Критикалык айырма: мыйзамга ылайык келүү (9-бирдик) – бул эң минималдуу; Этика - бул жогорку линия. Бир нерсе мыйзамдуу, бирок этикага туура келбейт. Мисалы, колдонмого колдонуучунун жүрүм-турумун башкаруу үчүн жасалма интеллектти колдонууга тыюу салынбашы мүмкүн, бирок бул этикага туура келбейт. Жооптуу мекемелер "тыюу салынганбы?" эмес, "чынбы?" — деп сурайт ал.
Кадам сайын: чечимге этиканы киргизүү
1. Жабыр тарткан тараптарды аныктоо. Бул демилге кимге тийип жатат? (Кардар, кызматкер, коом, жакыр топтор)
2. Саясаттарды сканерлөө. Жогорудагы принциптердин ар бири боюнча демилгени суроо.
3. Бир тараптуулук жана зыян үчүн сыноо. Модел айрым топторго адилетсиз таасир этеби? Кыянаттыктын сценарийлери кандай?
4. Айкындуулукту жана көзөмөлдү кошуу. Жасалма интеллекттин колдонулушу жөнүндө билдирүү, адамдын каршылыгына эч кандай жол жок.
5. Документтер жана кароо. Этикалык баалоону сактоо; Мезгил-мезгили менен текшерип туруңуз.
үч мини учурлар
1-жагдай - Мыйзамдуу, бирок туура эмес. Колдонмо колдонуучуларды колдонмодо узагыраак кармап туруу үчүн көз карандылыкты пайда кылуучу эскертмелерди түзүү үчүн жасалма интеллектти колдонгон. Юридикалык жактан эч кандай тоскоолдук болгон жок, бирок бул тууралуу басма сөзгө чыкканда аброю кескин түшүп кетти; Анын өзгөчө жаш колдонуучуларга багытталганы сынга кабылды. Компания бул функцияны алып салды. Эгерде этикалык фильтр башынан эле болсо, бул тобокелдик байкалмак.
2-жагдай - Адилеттүүлүк сыноонун мааниси. Банктын кредиттик скоринг модели системалуу түрдө корголгон топтордун арыздарына төмөнкү упайларды берген. Бул сот адилеттигинин текшерүүсүндө кармалган. Модель кайра иштелип чыккан жана анын жыйынтыгында топтор аралык теңчиликти камсыз кылуу үчүн үзгүлтүксүз текшерилип турган. Этикалык принцип (адилеттүүлүк) конкреттүү сыноого айланып, чыныгы зыяндын алдын алды.
3-жагдай – Ачык-айкындуулук ишенимди түздү. Электрондук коммерция компаниясы кардарларды колдоо чатботунун башына "Жасалма интеллект жардамчысы сизге жардам берет, сиз каалаган убакта адамдын өкүлү менен байланыша аласыз" деген сөз айкашын койгон. Ачыктык жана адамдын чыгуусу канааттанууну азайткан жок; Тескерисинче, ишенимди арттырып, даттануулар 15%га азайган. Туура жасалган ачык-айкындык наркы эмес, баалуу болду.
Көчүрүү үчүн төрт шаблон
1) Этикалык текшерүү:
Сиздин ролуңуз: жооптуу AI кеңешчиси. Бул демилгени 7 принцип боюнча текшериңиз: калыстык, ачыктык, отчеттуулук, купуялуулук, адам көзөмөлү, коопсуздук, туруктуулук. Ар бир саясат үчүн бир тобокелдикти жана бир сунушту жазыңыз. Демилге: [текст]
2) Жабыр тарткан тараптын анализи:
Бул AI демилгесинен жапа чеккен бардык тараптарды тизмектеңиз (кардар, кызматкер, коом, начар топтор). Ар бир тарап үчүн мүмкүн болгон оң жана терс таасирлерди жазыңыз; Жабыркашы мүмкүн болгон топту белгилеңиз. Демилге: [текст]
3) Кыянаттык сценарийи:
Төмөнкү AI өзгөчөлүгү кыянаттык менен пайдаланылышы мүмкүн болгон 5 сценарийди түзүңүз (анын ичинде манипуляция, дискриминация, купуялуулукту бузуу, алдамчылык). Ар бир сценарий үчүн алдын алуучу долбоорлоо чечимин сунуштаңыз. Атрибут: [текст]
4) айкындуулукту жана көзөмөлдү контролдоо:
Кардарларга багытталган AI үчүн ачыктык жана адам көзөмөлүнүн планын жазыңыз: колдонуучуга эмне жана кантип билдирилет; Кантип адамдарга өтүшү мүмкүн? Чечимге кантип каршы чыга алат? Колдонуу: [текст]
Алсыз тездик / Күчтүү тездик
Алсыз: "Бул AI этикалыкпы?"
Натыйжа: үстүртөн "ооба/жок"; Кайсы принцип, ким таасир этет, кандай чара белгисиз.
Күчтүү: "Биз AIны жумушка кабыл алуунун алдын ала текшерүү куралында колдонууну карап жатабыз (акыркы чечимди адам кабыл алат). Калыстык, ачыктык, отчеттуулук жана адам көзөмөлү принциптери үчүн аны текшериңиз. Талапкерлердин кайсы топторуна адилетсиз таасир этиши мүмкүн, мен кандай калыс сыноолорду жасашым керек жана талапкерлер чечимге кантип даттанса болорун так жазыңыз."
Натыйжа: Жабыркаган тарапты аныктоочу жана тестирлөө жана даттанууну сунуш кылган принципке негизделген практикалык баа берүү.
Жалпы каталар
- Этика менен мыйзамдуулукту чаташтыруу. Мыйзамдуу нерселердин баары этикалык эмес; Этика - бул жогорку линия.
- Этиканы түбөлүккө калтыруу. Дизайндан кийин "этикалык жактырууну" алуу өтө кеч; этика дизайнга башынан эле киргизилиши керек.
- Адилеттикти сынабай. "Биздин моделибиз нейтралдуу" деген божомол коркунучтуу; өлчөөсүз билүү мүмкүн эмес.
- Ачык-айкындыкты чыгым деп жаңылыштык. Туура жасалган ачык-айкындык ишенимди жана баалуулукту жогорулатат.
- Жабыр тарткан тараптарды тар кармап туруу. Кардар жөнүндө гана ойлонуп, кызматкерди, коомду жана аз камсыз болгон топторду көрмөксөнгө салуу сокур такты жаратат.
Абайлаңыз: этикалык баалоону толугу менен жасалма интеллектке тапшыруу карама-каршылыктуу жана коркунучтуу. AI этикалык суроолорду көтөрүүгө жардам берет, бирок баалуулуктарды баалоо, маданий контекст жана акыркы моралдык жоопкерчилик адамда. Уюмдун этикалык позициясы "AI мындай деди" менен эмес, адамдардын аң-сезимдүү тандоосу менен аныкталат.
Кыскача айтканда
Этика "биз жасай алабыз" жана "биз керек" ортосундагы айырма болуп саналат жана уюмдун узак мөөнөттүү ишенимдүүлүгүн коргойт. Жооптуу AI; Ал адилеттүүлүк, айкындуулук, отчеттуулук, жеке жашоо, адам көзөмөлү, коопсуздук жана туруктуулук принциптерине негизделген. Бул принциптер абстракттуу эмес; Ал жабыр тарткан тараптарды аныктоо, бир жактуулугун текшерүү, ачыктыкты камсыз кылуу жана адам көзөмөлүн кошуу сыяктуу конкреттүү чечимдерге айланат. Этика мыйзамдан айырмаланып, андан жогорку линия болуп саналат; Аны аягына чейин калтырууга болбойт, аны дизайнга киргизүү керек. Кийинки бөлүмдө биз этиканын юридикалык эквиваленти болгон шайкештикти талкуулайбыз, айрыкча ЕБ AI Мыйзамы жана KVKK.
Колдонмо тапшырмасы
Жогорку таасирдүү AI стартапын тандаңыз. Калып 2 менен бардык жабыр тарткан тараптарды тизмектеп, зыянга учурашы мүмкүн болгон топту белгилеңиз. Калып 1 менен, жети принцип боюнча демилгени сканерлеңиз. Эң маанилүү эки этикалык тобокелдик үчүн конкреттүү чараны (адилеттикти текшерүү, ачык-айкындык жөнүндө билдирүү, даттануу маршруту ж.б.) аныктаңыз. Акыр-аягы, "Мен бул чечимди эң терс таасирин тийгизген адамга түшүндүрүп бере аламбы?" Суроого чынчылдык менен жооп бер.
текшерүү тизмеси
- [ ] Мен бардык жабыр тарткан тараптарды аныктадым.
- [ ] Мен стартапты жоопкерчиликтүү AIнын жети принциби менен текшердим.
- [ ] Мен калыстык/калыстык үчүн сыноону пландаштыргам.
- [ ] Мен ачыктык билдирүүсүн иштеп чыктым.
- [ ] Мен адамдардын көзөмөлү жана кайрылуусу үчүн эч кандай жол калтырган жокмун.
- [ ] Мен кыянаттык сценарийлери жөнүндө ойлондум.
- [ ] "Эң терс таасирин тийгизген адамга түшүндүрүп бере аламбы?" Мен сынактан өттүм.