Hagnaður:
- Hæfni til að skilgreina skýrt hugtökin umboð, ábyrgðarbil, reikniritskekkju, gagnsæi og sjálfræði og koma á spennu.
- Að setja ábyrgð ekki á „gervigreind“ heldur á mannlega keðjuna sem hannar, setur og notar hana
- Hæfni til að stunda marghliða umræðu með því að athuga bjartsýni hlutdrægni gervigreindar og gamaldags þekkingu á eigin tækni
Heimspeki og hagnýtt siðfræði eru svið sem nota ekki aðeins gervigreind heldur rannsakar gervigreind. Gervigreind sjálf er eitt líflegasta umræðuefnið í siðfræðiheimspeki í dag: Hver ber ábyrgð þegar gervigreind kerfi tekur ákvörðun? Ef reiknirit er hlutdrægt, hvernig er þetta óréttlæti kallað? Getur gervigreind talist „umboðsmaður“ (viðfangsefni sem getur siðferðilega athafnað)? Sem siðfræðingur ert þú sá sem bæði stjórnar þessum umræðum og kennir. Í þessari einingu munum við skýra grunnhugtök siðfræði um gervigreind (grein hagnýtrar siðfræði sem skoðar siðferðilegar spurningar - ábyrgð, hlutdrægni, gagnsæi, sjálfræði, réttlæti - sem vakna er við þróun og notkun gervigreindarkerfa) og sjá hvernig þú getur betur greint og kennt þessa umræðu með gervigreindarverkfærum.
Hér er áhugaverð lykkja: Þú getur notað gervigreind sem tæki jafnvel þegar þú ræðir siðfræði gervigreindar - en það er einmitt þar sem þú þarft að vera mest vakandi fyrir eigin hlutdrægni og takmörkunum.
Grunnhugtök og spenna
Umboðsmaður og siðferðisefni. Oft er þörf á ásetningi, skilningi, frelsi og meðvitund um afleiðingar til að vera beri siðferðilega ábyrgð. Hvort gervigreind hefur þetta er umdeilt; Flestar skoðanir halda því fram að gervigreind sé tæki og að ábyrgðin sé áfram hjá mönnum sem hanna, dreifa og nota það. Þetta er í samræmi við meginregluna sem einingin leggur áherslu á í gegn: endanleg ábyrgð liggur hjá manninum.
Ábyrgðarbil. Þegar gervigreindarkerfi veldur skaða geta aðstæður komið upp þar sem ábyrgð er dreift („skilin eftir í tóminu“): hönnuður, veitir gagna, stofnunin sem notar þau, fullkominn rekstraraðili? Þetta „ábyrgðarbil“ er eitt af meginvandamálum gervigreindarsiðfræði samtímans.
Algóritmísk hlutdrægni. Gervigreind getur lært og endurtekið sögulegt misrétti í þjálfunargögnum; Þessi algóritmíska hlutdrægni (þegar kerfi framkallar kerfisbundið niðurstöður sem koma ákveðnum hópum í óhag) er kjarninn í umræðum um sanngirni og mismunun.
Gagnsæi og skýring. Að skilja ekki hvers vegna ákvörðun gervigreindar er eins og hún er („svarti kassinn“ vandamálið) er siðferðilegt vandamál hvað varðar ábyrgð og réttinn til að áfrýja. Útskýranleiki (sem gerir rökin fyrir framleiðslu kerfis skiljanlega mannlega) hefur í auknum mæli orðið siðferðileg og lagaleg krafa.
Ábending: Þegar rætt er um siðfræði gervigreindar, aðskiljið hugtökin skýrt: Í stað þess að segja „gervigreindin tók ákvörðunina,“ segðu „gervigreindin framleiddi framleiðslu, maðurinn útfærði það. Þessi málþóf setur ábyrgð á réttan stað og bjargar umræðunni frá gruggugu.
Notkun gervigreindar sem tæki í þessari umræðu
AI sjálft er frábært lýsandi efni í siðfræðinámskeiðum gervigreindar. Þú getur látið nemendur finna hlutdrægni í gervigreindarframleiðslu, sýna fram á óréttmætingu ákvörðunar og bera saman mismunandi skoðanir. En tveir fyrirvarar: (1) gervigreind gæti haft viðskiptaleg eða bjartsýn tilhneigingu til tækninnar; Vertu viss um að leita að gagnrýnum skoðunum líka. (2) Þetta svið breytist hratt; Upplýsingar um gervigreind geta verið úreltar, farðu í núverandi heimild til að fá reglur og staðreyndir.
Varúð: Þegar spurt er gervigreind: "Er gervigreind siðferðileg?" Þegar þú spyrð spurningar eins og þessa er svarið sem þú færð meðaltal þjálfunargagnanna, ekki niðurstaða heimspekilegrar umræðu. Taktu þetta svar sem útgangspunkt; Skilgreindu hugtökin sjálfur, stofnaðu spennuna sjálfur og studdu þau sjálfur með núverandi raunverulegum dæmum.
þrjú smámál
Mál 1 — Umræða um ábyrgðarbil. Ein málstofa fjallaði um atburðarás þar sem gervigreindarkerfi skilaði hópi í óhag. Spyrðu gervigreindina "hver ber ábyrgð?" Þeir létu greina spurninguna út frá mismunandi ramma; Úttakið kortlagði hönnuð-gagnastofnun-rekstraraðila keðjuna. Hópurinn notaði þetta kort til að þróa sína eigin rökstuddu afstöðu: þeir beittu sér fyrir ábyrgð hvers hlekks þannig að ábyrgðin félli ekki í "tómið".
Mál 2 - Fordómar sýndir með lifandi fordæmi. Kennari lét gervigreindina skrifa sömu starfslýsingu með mismunandi nöfnum og sýndi nemendum staðalímyndirnar á útprentuninni. Nemendur litu á algorithmic bias ekki sem óhlutbundið hugtak, heldur áþreifanlega í úttakinu fyrir framan þá. Lærdómurinn festi hugtakið í sessi með raunverulegu dæmi. Fyrirlesarinn lagði einnig áherslu á að þetta væri ein niðurstaða og kerfisbundin sönnunarfærsla þyrfti til að alhæfa.
Mál 3 — Bjartsýnisþróunin hefur náð jafnvægi. Nemandi lét gervigreind skrifa um "áhrif gervigreindar á samfélagið"; Framleiðslan var að mestu jákvæð og vanmetin áhættuna. Nemandinn fór í gagnrýnar fræðilegar heimildir, bætti við andstæðum skoðunum og smíðaði yfirvegaða greiningu. Hlutdrægni gervigreindar gagnvart eigin ríki er í jafnvægi með mannlegri stjórn.
Veik kvaðning / Sterk kvaðning
Veik kvaðning:
Er gervigreind siðferðileg eða ekki? Svaraðu.
Þessi hvetja dregur úr flókinni heimspekilegri umræðu í tvöfalt svar; Gervigreind skilar meðaltali, hugtök eru enn óskilgreind og hlutdrægni verður ósýnileg.
Öflug tilvitnun:
Hlutverk þitt: Óhlutdrægur sérfræðingur á sviði gervigreindarsiðfræði. EKKI DÆMA MIG í [Scenario]. Þess í stað: 1) Skilgreindu viðeigandi hugtök (gerandi, ábyrgðarbil, reikniritmishlutdrægni, gagnsæi) — hnitmiðað og hlutlaust.2) Kortleggðu mögulega dreifingu ábyrgðar (hönnuður, gögn, stofnun, rekstraraðili).3) Settu fram að minnsta kosti tvær andstæðar siðferðilegar afstöður, hver í sinni sterkustu stöðu.4) Athugaðu að þetta svið er að breytast hratt og krefst uppfærðra úrræða. Handrit: [skrifaðu handritið]
Þessi hvetja skýrir hugtök, kemur á fót marghliða umræðu og lætur ákvörðunina eftir þér.
Fjögur afritanleg sniðmát
1) Hugtaksskýring:
Skilgreindu í stuttu máli og hlutlægt eftirfarandi hugtök í siðfræði gervigreindar: umboðsmaður/siðferðilegt viðfangsefni, ábyrgðarbil, reikniritskekkju, gagnsæi, útskýranlegt. Settu daglegt dæmi undir hverja skilgreiningu. Merktu umdeild svæði sem "skoðanir eru skiptar."
2) Kortlagning ábyrgðar:
Í eftirfarandi atburðarás, teiknaðu keðju ábyrgðar á tjóni sem gervigreindarkerfi veldur: hönnuður, gagnaveita, dreifingarstofnun, notendafyrirtæki, eftirlitsaðili. Skrifaðu niður mögulegan hlut og vörn hvers hrings. Gerðu endanlegan dóm. Handrit: [handrit]
3) Kynning á gagnstæðri stöðu:
Settu fram að minnsta kosti tvær andstæðar siðferðilegar afstöður til [siðfræðispurningarinnar um gervigreind], hver í sinni sterkustu og heiðarlegustu mynd. Lýstu engan „sigurvegara“. Nefndu gildið sem hver staða byggir á. Spurning: [spurning]
4) Stjórnun bjartsýni/hlutdrægni:
Athugaðu hvort eftirfarandi texti um gervigreind vanmeti áhættuna eða gefi til kynna bjartsýni gagnvart tækninni. Merktu við öll mikilvæg sjónarmið sem vantar og áhættu sem þarf að bæta við. Texti: [líma texta]
Hugmynd / spennuborð
hugtak
grunnspurning
siðferðileg togstreita
Gerandi/siðferðisefni
Ber gervigreind ábyrgð?
Verkfæri eða efni?
ábyrgðarbil
Hver ber ábyrgð þegar tjón verður?
Dreifð ábyrgð
algorithmic bias
Óhagræði fyrir hvern?
Réttlæti vs hagkvæmni
gagnsæi
Hvers vegna þessi ákvörðun?
Útskýringar o.fl. flókið
sjálfræði
Hversu mikil mannleg stjórn?
Sjálfvirkni vs endurskoðun
Algeng mistök
- „AI ákvað“ tungumál. Það þokar ábyrgð; Gervigreind framleiðir framleiðslu, menn innleiða það og ábyrgðin er hjá mönnum.
- Að draga úr umræðunni í tvöfalt svar. "Siðferðilegt eða ekki?" spurning eyðileggur huglæga dýpt; Stilltu upp spennu.
- Tek ekki eftir bjartsýnni tilhneigingu gervigreindar. Gervigreind getur verið óstöðug varðandi eigin tækni; Bættu við mikilvægum heimildum.
- Alhæfa eina niðurstöðu. Hlutdrægni í úrtaki er sláandi, en kerfisbundin fullyrðing krefst kerfisbundinnar sönnunargagna.
- Að treysta á úreltar upplýsingar. Þetta svið og fyrirkomulag þess breytist hratt; Staðfestu staðreyndir með núverandi heimild.
Í stuttu máli
Siðfræði gervigreindar er eitt af líflegustu sviðum heimspekinnar samtímans og sem siðfræðingur bæði stundar og kennir þú þessa umræðu. Skilgreina á skýran hátt lykilhugtök - umboð, ábyrgðarbil, reikniritskekkju, gagnsæi, sjálfræði - og koma á spennu. Þú getur notað gervigreind sem bæði tæki og dæmi í þessari umræðu, en varast tvær gildrur: gervigreind hefur tilhneigingu til að vera bjartsýn á tækni sína og þekking þess gæti verið úrelt. Tungumál eins og „AI ákveðið“ gerir ábyrgð óljós; Strangt hugtakamál setur ábyrgð á réttan stað. Þú tekur alltaf ákvörðunina.
Umsóknarverkefni
- Veldu siðfræði atburðarás gervigreindar (t.d. reiknirit ákvarðanakerfi).
- Láttu skilgreina lykilhugtök og fara yfir sjálfan þig með sniðmátinu „hugtaksskýringu“.
- Dragðu út ábyrgðarkeðjuna ef skemmdir verða með „ábyrgðarkortlagningu“ sniðmátinu.
- Berðu saman að minnsta kosti tvær siðferðilegar afstöður við sniðmátið „kynning á andstæðri stöðu“.
- Prófaðu hlutdrægni í gervigreindartexta með „bjartsýnisskoðun“ sniðmátinu og bættu við mikilvægri heimild.
gátlisti
- [ ] Ég skilgreindi hugtökin skýrt og hlutlægt.
- [ ] Ég lagði ábyrgðina á mannlega keðjuna, ekki á „AI“.
- [ ] Ég skipulagði umræðuna marghliða, ég minnkaði hana ekki í tvöfalt svar.
- [ ] Ég athugaði bjartsýni gervigreindar á sínu sviði.
- [ ] Ég hef staðfest staðreyndir og reglur með núverandi heimild.
- [ ] Ég lagði sjálfur fram lokadóminn og rökstuðninginn.