Daromadlar:
- Mas'uliyatli AI tamoyillarini (adolat, shaffoflik, javobgarlik, maxfiylik, inson nazorati, xavfsizlik, barqarorlik) aniq qarorlar bilan bog'lash qobiliyati
- Etikani qonuniy muvofiqlikdan ajratish va "biz qila olamiz" va "biz kerak" o'rtasidagi farqlash orqali ta'sirlangan tomonlarni va tarafkashlikni sinab ko'rish qobiliyati
- Shaffoflik, inson nazorati va dizaynga murojaat qilish orqali suiiste'mol stsenariylarini oldindan kamaytirish qobiliyati
AI startapi texnik jihatdan mukammal, moliyaviy jihatdan foydali va qonuniy asosga ega bo‘lishi mumkin; lekin u hali ham noto'g'ri bo'lishi mumkin. Etika bu "biz qila olamiz" va "kerakmiz" o'rtasidagi farqdir. Yuqori darajali menejer uchun axloq bezak yoki jamoatchilik bilan aloqalar masalasi emas; Bu muassasaning uzoq muddatli ishonchliligi, obro'si va ijtimoiy qonuniyligini ta'minlovchi asosdir. Ushbu bo'limda siz mas'uliyatli AI tamoyillarini (sun'iy intellektni adolatli, shaffof, hisobdor va inson qadr-qimmatini hurmat qiladigan tarzda ishlab chiqish va ishlatishga yondashuv) va ularni kundalik qarorlaringizda qanday aks ettirishni o'rganasiz.
Mas'uliyatli AIning asosiy tamoyillari
Turli xil ramkalar o'xshash printsiplarga mos keladi. Menejer uchun amaliy xulosa:
tamoyil
Nima demoqchisiz?
adminga savol
adolat
kamsitmaslik
Bu guruhga nohaq ta'sir qiladimi?
shaffoflik
tushunarli bo'lsin
Qaror sababini tushuntirib bera olamizmi?
javobgarlik
Kim javobgar ekanligini aniqlash
Agar xatolik yuzaga kelsa, kim javobgar?
Maxfiylik
Shaxsiy ma'lumotlarga hurmat
Biz ma'lumotlardan foydalanish huquqiga egamizmi?
inson kuzatuvi
Nazoratda qolish
Bir kishi e'tiroz bildirsa va uni to'xtata oladimi?
Xavfsizlik
zarar bermang
Buni suiiste'mol qilish mumkinmi?
Barqarorlik
Atrof-muhit/ijtimoiy ta'sir
Xarajatlarni kimga yuklaymiz?
Bu tamoyillar mavhum emas; Ularning har biri aniq qaror bilan bog'lanishi mumkin. Masalan, “shaffoflik” mijozga sun’iy intellekt bilan gaplashayotganini bildirish demakdir; “Inson nazorati” deganda kreditni rad etish masalasini inson ko'rib chiqishi va uni apellyatsiya uchun ochiq qoldirishi kerak.
Maslahat: Har bir yuqori taʼsirli sunʼiy intellekt qarori bilan bitta savol bering: “Men eng salbiy taʼsir koʻrsatadigan odamga bu qarorni aniq tushuntirib bera olamanmi?” Agar javob xafa bo'lsa, axloqiy muammo bor.
Etika qonundan farq qiladi
Muhim farq: qonuniy muvofiqlik (9-bo'lim) - bu minimal; Etika - bu yuqori chiziq. Biror narsa qonuniy, ammo axloqsiz bo'lishi mumkin. Misol uchun, ilovaga foydalanuvchi xatti-harakatlarini manipulyatsiya qilish uchun sun'iy intellektdan foydalanish taqiqlanmasligi mumkin, ammo bu axloqiy emas. Mas'ul muassasalar "bu taqiqlanganmi?" emas, "to'g'rimi?" — deb so‘radi u.
Bosqichma-bosqich: qarorga etikani kiritish
1. Ta'sir qilingan tomonlarni aniqlang. Ushbu tashabbus kimga ta'sir qiladi? (mijoz, ishchi, jamiyat, kam ta'minlangan guruhlar)
2. Qoidalar bilan skanerlash. Yuqoridagi tamoyillarning har biri nuqtai nazaridan tashabbusga savol bering.
3. Tarafsizlik va zararni tekshirish. Model ma'lum guruhlarga adolatsiz ta'sir qiladimi? Suiiste'mollik stsenariylari qanday?
4. Shaffoflik va nazoratni qo'shing. Inson e'tiroziga hech qanday yo'l qo'ymasdan, sun'iy intellektdan foydalanish haqida xabar bering.
5. Hujjatlar va ko'rib chiqish. Axloqiy baholashni saqlash; Vaqti-vaqti bilan tekshiring.
uchta mini holat
1-holat - qonuniy, lekin noto'g'ri. Ilova foydalanuvchilarni ilovada uzoqroq ushlab turish uchun o'ziga qaram bildirishnomalar yaratish uchun sun'iy intellektdan foydalangan. Hech qanday qonuniy to'siq yo'q edi, lekin bu haqda matbuotda xabar berilganda, obro'si jiddiy yo'qolgan; Uning ayniqsa yosh foydalanuvchilarga qaratilgani tanqidlarga sabab bo'ldi. Kompaniya ushbu xususiyatni olib tashladi. Agar axloqiy filtr boshidanoq bo'lsa, bu xavf ko'rinardi.
2-holat - adolat testining qiymati. Bankning kredit skoring modeli muntazam ravishda himoyalangan guruhlarning arizalariga pastroq ball berdi. Bu adliya tekshiruvida aniqlandi. Natijalarda guruhlararo tenglikni ta'minlash uchun model qayta ishlab chiqildi va muntazam ravishda sinovdan o'tkazildi. Axloqiy tamoyil (adolat) aniq sinovga aylandi va haqiqiy zararning oldini oldi.
3-holati – Shaffoflik ishonch hosil qildi. Elektron tijorat kompaniyasi mijozlarni qo‘llab-quvvatlash chatbotining boshida “Sun’iy intellekt bo‘yicha yordamchi sizga yordam beradi, siz istalgan vaqtda inson vakili bilan bog‘lanishingiz mumkin” iborasini qo‘ygan. Shaffoflik va insonning chiqishi qoniqishni kamaytirmadi; Aksincha, bu ishonchni oshirdi va shikoyatlar 15% ga kamaydi. To'g'ri bajarilgan shaffoflik xarajat emas, balki qiymat edi.
To'rt nusxa ko'chirish shablonlari
1) Axloqiy skrining:
Sizning rolingiz: mas'uliyatli AI maslahatchisi. Ushbu tashabbusni 7 ta tamoyil bo'yicha skanerlang: adolat, oshkoralik, javobgarlik, maxfiylik, inson nazorati, xavfsizlik, barqarorlik. Har bir siyosat uchun bitta xavf va bitta tavsiya yozing. Tashabbus: [matn]
2) Ta'sir etuvchi tomon tahlili:
Ushbu AI tashabbusidan ta'sirlangan barcha tomonlarni (mijoz, xodim, jamiyat, noqulay guruhlar) sanab o'ting. Har bir tomon uchun mumkin bo'lgan ijobiy va salbiy ta'sirlarni yozing; Zarar ko'rishi mumkin bo'lgan guruhni belgilang. Tashabbus: [matn]
3) Suiiste'mollik stsenariysi:
Quyidagi AI xususiyati suiiste'mol qilinishi mumkin bo'lgan 5 ta stsenariyni yarating (jumladan, manipulyatsiya, kamsitish, maxfiylikni buzish, aldash). Har bir stsenariy uchun profilaktik dizayn qarorini taklif qiling. Atribut: [matn]
4) Shaffoflik va kuzatuv nazorati:
Mijozlarga qaratilgan AI uchun shaffoflik va inson nazorati rejasini yozing: foydalanuvchiga nima va qanday qilib yetkaziladi; Qanday qilib odamga o'tishi mumkin? Qanday qilib u qarorga e'tiroz bildirishi mumkin? Foydalanish: [matn]
Zaif taklif / Kuchli taklif
Zaif: "Bu AI axloqiymi?"
Natija: yuzaki "ha/yo'q"; Qaysi tamoyil, kim ta'sir qiladi, qanday chora aniq emas.
Kuchli: "Biz yollashdan oldingi tekshirish vositasida AIdan foydalanishni ko'rib chiqmoqdamiz (yakuniy qarorni inson qabul qiladi). Buni adolat, oshkoralik, javobgarlik va inson nazorati tamoyillari uchun tekshirib ko'ring. Nomzodlarning qaysi guruhlari nohaq ta'sir qilishi mumkinligini, men qanday tarafkashlik sinovlarini o'tkazishim kerakligini va nomzodlar qaror ustidan qanday shikoyat qilishlari mumkinligini aniq yozing."
Natija: Ta'sir qiluvchi tomonni aniqlaydigan va sinovdan o'tkazish va shikoyat qilishni taklif qiladigan printsipial, amaliy baholash.
Umumiy xatolar
- Etikani qonuniy rioya qilish bilan chalkashtirish. Qonuniy bo'lgan hamma narsa axloqiy emas; Etika - bu yuqori chiziq.
- Etikani davom ettirish uchun qoldiring. Dizayndan keyin "axloqiy ma'qullash" ni olish juda kech; Etika boshidanoq dizaynga kiritilishi kerak.
- Adolat sinovi emas. "Bizning modelimiz neytral" degan taxmin xavflidir; o'lchovsiz bilish mumkin emas.
- Shaffoflikni xarajat deb adashish. To'g'ri bajarilgan shaffoflik ishonch va qiymatni oshiradi.
- Ta'sirlangan tomonlarni tor holda saqlash. Faqat mijoz haqida o'ylash va xodimni, jamiyatni va kam ta'minlangan guruhlarni mensimaslik ko'r nuqtani yaratadi.
Diqqat: axloqiy baholashni butunlay sun'iy intellektga qoldirish ziddiyatli va xavflidir. AI axloqiy savollarni ko'tarishga yordam berishi mumkin, ammo qadriyat, madaniy kontekst va yakuniy axloqiy javobgarlik insonga bog'liq. Tashkilotning axloqiy pozitsiyasi "AI aytganidek" emas, balki odamlarning ongli tanlovi bilan belgilanadi.
qisqa bayoni; yakunida
Etika "biz qila olamiz" va "kerak" o'rtasidagi farq bo'lib, tashkilotning uzoq muddatli ishonchliligini himoya qiladi. Mas'uliyatli AI; U adolat, oshkoralik, javobgarlik, shaxsiy daxlsizlik, inson nazorati, xavfsizlik va barqarorlik tamoyillariga asoslanadi. Bu tamoyillar mavhum emas; Bu ta'sirlangan tomonlarni aniqlash, tarafkashlikni tekshirish, shaffoflikni ta'minlash va inson nazoratini qo'shish kabi aniq qarorlarga aylanadi. Etika qonundan farq qiladi va undan yuqori chiziqdir; Uni oxirigacha qoldirib bo'lmaydi, u dizaynga kiritilishi kerak. Keyingi bo'limda biz axloqning huquqiy ekvivalenti bo'lgan muvofiqlikni, ayniqsa, Evropa Ittifoqi AI qonuni va KVKKni muhokama qilamiz.
Ilova vazifasi
Yuqori ta'sirli AI startapini tanlang. Shablon 2 bilan barcha zarar ko'rgan tomonlarni sanab o'ting va zarar ko'rish ehtimoli yuqori bo'lgan guruhni belgilang. 1-shablon yordamida tashabbusni ettita tamoyil uchun skanerlang. Ikkita eng muhim axloqiy xavf uchun aniq chorani (adolatlilik testi, shaffoflik bildirishnomasi, apellyatsiya marshruti va boshqalar) belgilang. Nihoyat, "bu qarorni eng salbiy ta'sirlangan odamga tushuntira olamanmi?" Savolga halol javob bering.
nazorat ro'yxati
- [ ] Men barcha zararlangan tomonlarni aniqladim.
- [ ] Men startapni masʼuliyatli sunʼiy intellektning yettita tamoyili bilan koʻrib chiqdim.
- [ ] Men tarafkashlik/adolatlilik uchun sinovni rejalashtirdim.
- [ ] Men shaffoflik bayonotini ishlab chiqdim.
- [ ] Men insoniy nazorat va murojaat uchun hech qanday yo'l qoldirmadim.
- [ ] Men suiiste'mol stsenariylari haqida o'yladim.
- [ ] "Men buni eng salbiy ta'sirlangan odamga tushuntira olamanmi?" Men sinovdan o'tdim.