Mga nadagdag:
- Kakayahang itali ang responsableng mga prinsipyo ng AI (pagkamakatarungan, transparency, pananagutan, privacy, pangangasiwa ng tao, seguridad, pagpapanatili) sa mga kongkretong desisyon
- Kakayahang subukan ang mga apektadong partido at pagkiling sa pamamagitan ng paghihiwalay ng etika mula sa legal na pagsunod at pagkilala sa pagitan ng 'kaya natin' at 'dapat natin'
- Kakayahang bawasan ang mga sitwasyon ng pang-aabuso nang maaga sa pamamagitan ng pag-embed ng transparency, pagsubaybay ng tao at pag-apila sa disenyo
Ang isang AI startup ay maaaring teknikal na perpekto, kumikita sa pananalapi, at legal na mabubuhay; ngunit ito ay maaaring mali pa rin. Ang etika ay ang pagkakaiba sa pagitan ng "kaya natin" at "dapat." Para sa isang senior manager, ang etika ay hindi isang bagay ng pagpapaganda o relasyon sa publiko; Ito ang pundasyon na nagpapanatili ng pangmatagalang pagiging maaasahan, reputasyon at pagiging lehitimo sa lipunan ng institusyon. Sa unit na ito, matututunan mo ang mga prinsipyo ng responsableng AI (isang diskarte sa pagbuo at paggamit ng artificial intelligence sa paraang patas, transparent, may pananagutan at magalang sa dignidad ng tao) at kung paano ipakita ang mga ito sa pang-araw-araw na desisyon.
Mga pangunahing prinsipyo ng responsableng AI
Ang iba't ibang mga balangkas ay nagtatagpo sa magkatulad na mga prinsipyo. Praktikal na buod para sa isang manager:
prinsipyo
Anong ibig mong sabihin?
tanong ng admin
hustisya
walang diskriminasyon
Ito ba ay hindi patas na nakakaapekto sa isang grupo?
transparency
maging maintindihan
Maaari ba nating ipaliwanag ang dahilan ng desisyon?
pananagutan
Pagkilala kung sino ang may pananagutan
Sino ang mananagot kung magkaroon ng pagkakamali?
Pagkapribado
Paggalang sa personal na data
May karapatan ba tayong gumamit ng data?
pagmamatyag ng tao
Nananatili sa kontrol
Maaari bang tumutol ang isang tao at pigilan ito?
Seguridad
huwag gumawa ng masama
Maaari ba itong abusuhin?
Sustainability
Epekto sa kapaligiran/panlipunan
Kanino natin ipapataw ang gastos?
Ang mga prinsipyong ito ay hindi abstract; Ang bawat isa sa kanila ay maaaring maiugnay sa isang konkretong desisyon. Halimbawa, ang ibig sabihin ng "transparency" ay ipaalam sa isang customer na nakikipag-usap sila sa AI; Ang ibig sabihin ng “human oversight” ay pagkakaroon ng pagsusuri ng tao sa pagtanggi sa loan at hayaan itong bukas para sa apela.
Tip: Sa bawat desisyon ng AI na may mataas na epekto, magtanong ng isang tanong: "Maaari ko bang malinaw na ipaliwanag at panindigan ang desisyong ito sa taong pinaka-negatibong apektado?" Kung ang tugon ay nakakasakit, mayroong isang etikal na problema.
Iba ang etika sa batas
Isang kritikal na pagkakaiba: ang legal na pagsunod (Yunit 9) ay ang pinakamababa; Ang etika ay isang mas mataas na linya. Ang isang bagay ay maaaring legal ngunit hindi etikal. Halimbawa, maaaring hindi pagbawalan ang isang app na gumamit ng artificial intelligence upang manipulahin ang gawi ng user, ngunit ito ay hindi etikal. Mga responsableng institusyon "bawal ba?" hindi "Totoo ba?" tanong niya.
Hakbang-hakbang: pag-embed ng etika sa desisyon
1. Kilalanin ang mga apektadong partido. Sino ang apektado ng inisyatiba na ito? (Customer, empleyado, lipunan, disadvantaged na grupo)
2. I-scan gamit ang mga patakaran. Tanungin ang inisyatiba sa mga tuntunin ng bawat isa sa mga prinsipyo sa itaas.
3. Subukan para sa bias at pinsala. Hindi patas ba ang epekto ng modelo sa ilang grupo? Ano ang mga senaryo ng pang-aabuso?
4. Magdagdag ng transparency at pangangasiwa. Iulat ang paggamit ng artificial intelligence, na walang paraan para sa pagtutol ng tao.
5. Mga dokumento at pagsusuri. I-save ang etikal na pagtatasa; Balikan ang pana-panahon.
tatlong mini case
Kaso 1 — Legal ngunit mali. Gumamit ang isang app ng artificial intelligence upang makabuo ng mga nakakahumaling na notification para panatilihing mas matagal ang mga user sa app. Walang legal na hadlang, ngunit nang iulat ito sa press, nagkaroon ng malubhang pagkawala ng reputasyon; Ang pag-target nito sa mga batang user sa partikular ay umani ng batikos. Inalis ng kumpanya ang feature. Kung ang etikal na filter ay mula sa simula, ang panganib na ito ay makikita.
Kaso 2 — Ang halaga ng pagsusulit sa pagiging patas. Ang modelo ng credit scoring ng isang bangko ay sistematikong nagbigay ng mas mababang mga marka sa mga aplikasyon mula sa mga protektadong grupo. Nahuli ito sa isang justice audit. Ang modelo ay muling idinisenyo at regular na sinubukan upang matiyak ang intergroup equity sa mga resulta nito. Ang etikal na prinsipyo (katarungan) ay naging isang kongkretong pagsubok at napigilan ang tunay na pinsala.
Case 3 — Transparency built trust. Isang e-commerce na kumpanya ang naglagay ng pariralang "Ang isang artificial intelligence assistant ay tumutulong sa iyo, maaari kang kumonekta sa isang kinatawan ng tao anumang oras" sa simula ng chatbot ng suporta sa customer nito. Ang transparency at paglabas ng tao ay hindi nakabawas sa kasiyahan; Sa kabaligtaran, pinataas nito ang kumpiyansa at ang mga reklamo ay nabawasan ng 15%. Ang transparency na ginawa nang tama ay halaga, hindi gastos.
Apat na maaaring kopyahin na mga template
1) Etikal na pagsusuri:
Ang iyong tungkulin: responsableng AI consultant. I-scan ang inisyatibong ito para sa 7 prinsipyo: pagiging patas, transparency, pananagutan, privacy, pangangasiwa ng tao, seguridad, pagpapanatili. Para sa bawat patakaran, sumulat ng isang panganib at isang rekomendasyon. Inisyatiba: [teksto]
2) Pagsusuri ng apektadong partido:
Ilista ang lahat ng partidong apektado ng inisyatiba ng AI na ito (customer, empleyado, lipunan, mga disadvantaged na grupo). Isulat ang mga posibleng positibo at negatibong epekto para sa bawat partido; Markahan ang pangkat na malamang na mapahamak. Inisyatiba: [teksto]
3) Sitwasyon ng pang-aabuso:
Bumuo ng 5 sitwasyon kung saan maaaring maabuso ang sumusunod na feature ng AI (kabilang ang pagmamanipula, diskriminasyon, paglabag sa privacy, panlilinlang). Magmungkahi ng isang preventive na desisyon sa disenyo para sa bawat senaryo. Katangian: [teksto]
4) Transparency at kontrol sa pagsubaybay:
Sumulat ng transparency at human oversight plan para sa customer-facing AI na: ano ang ipapaalam sa user at kung paano; Paano ito maililipat sa mga tao? Paano siya tututol sa desisyon? Paggamit: [teksto]
Mahinang prompt / Malakas na prompt
Mahina: "Etikal ba ito ng AI?"
Resulta: Isang mababaw na "oo/hindi"; Aling prinsipyo, sino ang apektado, anong panukala ang hindi malinaw.
Strong: "Isinasaalang-alang namin ang paggamit ng AI sa isang recruitment pre-screening tool (human will make the final decision). I-screen ito para sa mga prinsipyo ng pagiging patas, transparency, accountability, at human oversight. Isulat nang konkreto kung aling mga grupo ng mga kandidato ang maaaring hindi patas na maapektuhan, anong mga bias test ang kailangan kong gawin, at kung paano maaaring iapela ng mga kandidato ang desisyon."
Resulta: Isang batay sa prinsipyo, praktikal na pagtatasa na tumutukoy sa apektadong partido at nagmumungkahi ng pagsubok at apela.
Mga karaniwang pagkakamali
- Nakakalito ang etika sa legal na pagsunod. Hindi lahat ng legal ay etikal; Ang etika ay isang mas mataas na linya.
- Hinahayaan ang etika na tumagal. Ang pagkuha ng "pag-apruba sa etika" pagkatapos ng disenyo ay huli na; ang etika ay dapat na naka-embed sa disenyo mula sa simula.
- Hindi sinusubok ang hustisya. Ang pagpapalagay na "ang aming modelo ay neutral" ay mapanganib; hindi malalaman kung walang sukat.
- Napagkakamalang transparency para sa gastos. Ang transparency na ginawa nang tama ay nagpapataas ng tiwala at halaga.
- Pagpapanatiling makitid ang mga apektadong panig. Ang pag-iisip lamang tungkol sa customer at hindi pinapansin ang empleyado, lipunan at mga grupong disadvantaged ay lumilikha ng isang blind spot.
Babala: Ang pag-iwan ng ganap na etikal na pagsusuri sa artificial intelligence ay kontradiksyon at mapanganib. Makakatulong ang AI na maglabas ng mga tanong na etikal, ngunit ang paghatol sa halaga, konteksto ng kultura, at ang tunay na responsibilidad sa moral ay nakasalalay sa tao. Natutukoy ang etikal na paninindigan ng isang organisasyon sa pamamagitan ng malay-tao na mga pagpipilian ng mga tao, hindi ng "sinabi ng AI."
Sa buod
Ang etika ay ang pagkakaiba sa pagitan ng "kaya natin" at "dapat" at pinoprotektahan ang pangmatagalang kredibilidad ng organisasyon. Responsableng AI; Nakabatay ito sa mga prinsipyo ng katarungan, transparency, accountability, privacy, human oversight, security at sustainability. Ang mga prinsipyong ito ay hindi abstract; Isinasalin ito sa mga konkretong desisyon tulad ng pagtukoy sa mga apektadong partido, pagsubok para sa bias, pagbibigay ng transparency, at pagdaragdag ng pangangasiwa ng tao. Ang etika ay iba sa batas at isang mas mataas na linya; Hindi ito maaaring iwanan hanggang sa dulo, dapat itong naka-embed sa disenyo. Sa susunod na yunit, tatalakayin natin ang pagsunod, na siyang katumbas ng legal na etika, lalo na ang EU AI Law at KVKK.
Gawain ng aplikasyon
Pumili ng high-impact AI startup. Gamit ang template 2, ilista ang lahat ng apektadong partido at markahan ang pangkat na malamang na mapinsala. Gamit ang template 1, i-scan ang inisyatiba para sa pitong prinsipyo. Tukuyin ang isang kongkretong panukala (pagsusuri sa pagiging patas, abiso sa transparency, ruta ng apela, atbp.) para sa dalawang pinakamahalagang panganib sa etika. Sa wakas, "maaari ko bang ipaliwanag ang desisyong ito sa taong pinaka-negatibong apektado?" Sagutin ang tanong nang matapat.
checklist
- [ ] Natukoy ko ang lahat ng apektadong partido.
- [ ] Sinuri ko ang startup na may pitong prinsipyo ng responsableng AI.
- [ ] Nagplano ako ng pagsubok para sa bias/fairness.
- [ ] Idinisenyo ko ang transparency statement.
- [ ] Wala akong iniwan na paraan para sa pangangasiwa at apela ng tao.
- [ ] Naisip ko ang mga senaryo ng pang-aabuso.
- [ ] "Maaari ko bang ipaliwanag ito sa pinaka-negatibong apektado?" nakapasa ako sa pagsusulit.