Dobički:
- Sposobnost uporabe umetne inteligence za zbiranje, povzemanje in tematiziranje anket, mnenj in podatkov deležnikov pri participativnem načrtovanju
- Bodite pozorni na zastopanost, pristranskost in odgovornost, da zaščitite glasove marginaliziranih skupin, ko analizirate kvalitativne povratne informacije z AI
- Razumejte, da povzetek AI ni nadomestilo za sodelovanje in da končna odločitev pripada preglednemu, odgovornemu javnemu postopku
Načrt je tehnično pravilen, a nelegitimen, če ne vsebuje glasov ljudi, ki bodo živeli na njem. Participativno načrtovanje pomeni, da odločitve ne sprejemajo le strokovnjaki, ampak tudi državljani, ki ta prostor uporabljajo, obrtniki, glavarji, civilna družba in drugi deležniki. V tem procesu se z anketami, srečanji, peticijami, spletnimi mnenji in opazovanji na terenu zbirajo velike količine kvalitativnih podatkov (podatki, ki vsebujejo besedilo in mnenja, ne številk). AI je močan pripomoček pri povzemanju teh tisočih mnenj, izločanju tem, izvajanju analize razpoloženja in poročanju. Toda največja nevarnost umetne inteligence pri participativnem načrtovanju je pristranskost zastopanja: lahko okrepi glasove večine in pogosto ponavljajoče se izjave ter naredi nevidne glasove manjšin, digitalno nedostopnih in marginaliziranih skupin. Povzetek AI ni nadomestilo za sodelovanje; Končna odločitev je pregleden, odgovoren javni postopek.
Zakaj in kako sodelovati
Sodelovanje ni slovesnost »pridobitve certifikatov«, ampak pristen vir znanja in legitimnosti. Dober proces vključevanja združuje različne kanale: srečanje iz oči v oči, anketo gospodinjstva, spletni obrazec, terenski sprehod, srečanje ciljne skupine. Vsak kanal zajame različne ljudi: na spletu mlade, srečanja iz oči v oči s starejšimi in prebivalci soseske. Zanašanje na en kanal izključuje vse, ki tega kanala ne uporabljajo.
Umetna inteligenca pride v poštev pri razumevanju zbranih podatkov: človek bi potreboval tedne, da bi prebral na stotine strani prostega besedila, ga združil in izluščil pomembne teme; AI to zmanjša na ure. Toda ta hitrost ne odpravlja odgovornosti reprezentance.
Pozor: povzetek AI ponavadi predstavlja najbolj ponavljajoče in najglasnejše mnenje kot "splošno mnenje". Samo zato, ker se zahteva ponavlja, še ne pomeni, da je bolj pravična; lahko preprosto pomeni, da je ta skupina večja ali bolj organizirana. V vsakem povzetku je vprašanje "kdo manjka, čigav glas je hripav?" vprašaj.
Druga razsežnost sodelovanja je jezikovna in kulturna raznolikost. V mestu obstajajo skupine, ki govorijo različne jezike, različne stopnje pismenosti in različne oblike izražanja. Umetna inteligenca tukaj zagotavlja pravo udobje, saj lahko obdela poglede iz več jezikov v enem samem zagonu; lahko na primer poveže komentarje, zbrane v različnih jezikih, s skupnimi temami. Toda tankosti se lahko izgubijo v prevodu in povzetku: lokalni idiom, očitek, kulturno referenco lahko umetna inteligenca splošči in napačno razlaga. Pri večjezičnem ali kulturno raznolikem sodelovanju je torej pomembno, da rezultate umetne inteligence pregledajo ljudje, ki te skupnosti poznajo. Razširitev dostopa prek tehnologije je dragocena; vendar dostop ne odvezuje odgovornosti za točen prenos pomena.
Zastopanje, pristranskost in etika
Pri participativnem načrtovanju so še posebej pomembna tri etična tveganja:
- Pristranskost sodelovanja: Kdo je sodeloval v raziskavi? Soseske s slabim dostopom do interneta, starejši, invalidi, priseljenci in zaposlene ženske so pogosto premalo zastopane. AI tega ne trdi sama; Ločeno je treba preučiti profil udeleženca.
- Povzetek pristranskosti: AI daje prednost večini in pogostemu izražanju; Redko, a kritično opozorilo (npr. opazovanje poplave) se lahko obravnava kot "hrup" in se odpravi.
- Pristranskost pri komentarju: Analiza razpoloženja in ekstrakcija tem je lahko obarvana s kulturnimi predpostavkami v podatkih o usposabljanju AI; lahko napačno razume lokalni kontekst.
Tri načela proti tem tveganjem: zaščitite dostop do neobdelanih podatkov (povzetek nikoli ne sme biti edina resnica), ločeno spremljajte manjšine in marginalizirane skupine ter pregledno beležite proces.
Korak za korakom: Analiza podatkov o sodelovanju z AI
- Anonimiziraj podatke. Počisti osebne podatke (ime, kontakt); KVKK/zasebnost.
- Ustvari profil udeleženca. Kdo se je udeležil, kdo manjka?
- Ustvarite temo za AI. Manjšinske teme pa zahtevajte ločeno.
- Primerjajte z neobdelanimi podatki. Ali povzetek odraža resničnost?
- Identificiraj in dopolni manjkajoče skupine. Dodajte dodatni kanal (iz oči v oči).
- Poročajte transparentno. Jasno je, kdo je sodeloval in kdo je manjkal.
- Odločitev prepustite javnemu postopku. Povzetek AI, ne odločitev.
Šibek poziv/močan poziv
Šibek poziv: "Povzemite te komentarje ankete."
AI najpogosteje izpostavi teme; Glas manjšine izgine, profil udeleženca izgine.
Močan poziv: "Spodaj je 1200 mnenj državljanov [anonimiziranih]. (1) Izluščite glavne teme po pogostosti. (2) TUDI zberite manjšinske teme, ki jih je malo, a so lahko pomembne (kot so varnost, poplave, dostopnost), na ločenem seznamu; odstranite jih kot nizko frekvenco. (3) Pri vsaki temi navedite, ali je jasno, katero mnenje prihaja iz katere vrste udeležencev. (4) Uganite skupine da je povzetek zgrešil svojo interpretacijo;
Drugi poziv izrecno zahteva zaščito manjšinskega glasu, profila in slepih peg.
Štiri predloge za kopiranje
Naloga: Iz [anonimnih] podatkov o udeležbi spodaj izluščite (1) ključne teme po pogostosti, (2) LOČEN seznam manj ponavljajočih se, a potencialno kritičnih tem. Odstranite nizkofrekvenčne komentarje. Dodajte svoj komentar; skupina kot je. Podatki: [...]
Naloga: Preglejte spodnje podatke o profilu udeleženca. Katere skupine (starost, soseska, spol, dostop) so lahko premalo zastopane? Kateri dodatni kanal sodelovanja je priporočljiv za zapolnitev manjkajočih glasov? Profil: [...]
Naloga: pripravite kontrolni seznam za primerjavo naslednjega povzetka teme umetne inteligence z neobdelanimi podatki: kako preverim, katera tema je res prevladujoča, katera je pretirana, kateri kritični pogled je morda izločen? Povzetek: [...]
Naloga: Napišite pregleden OSNUTEK informacij javnosti iz spodnjih rezultatov sodelovanja. Iskreno navedite, kdo je sodeloval, kdo je bil odsoten in kako se bodo njihova mnenja odražala v odločitvi. Ne predstavljajte sodelovanja kot "odobritev". Rezultati: [...]
Tabela: kanal sodelovanja in zastopanost
kanal
Kdo ga dobro ujame?
Kdor ugrabi
Vloga AI
spletni obrazec
Mlad, digitalno podprt
Starejši, slab dostop
Ekstrakcija teme
srečanje iz oči v oči
ustaljen, zaskrbljen, miren
zaposleni, daljin
povzetek ocene
anketiranje gospodinjstev
širok odsek
ne doma
Urejanje podatkov
Ciljna skupina
določenega deležnika
širša javnost
Povzetek intervjuja
Peticija/pritožba
Organizirano, problematično
Zadovoljna tiha večina
Razvrstitev
trije mini kovčki
1. primer – opozorilo o izginjajoči manjšini. Ena občina z AI povzame 3000 mnenj; Povzetek poudarja zahteve za "parkiranje" in "zelene površine". Ko načrtovalec zahteva ločene manjšinske teme, ugotovi, da je 11 ljudi poročalo o opazovanju poplav ob potoku. To kritično, a "rahlo ponavljajoče se" opozorilo je bilo odpravljeno v prvem povzetku. Zaščita glasov manjšin je lahko varnostna težava.
Primer 2 – Nevidna soseska. Skupina z analizo profila ugotavlja, da 70 odstotkov volilne udeležbe prihaja iz osrednjih treh sosesk, medtem ko na obrobju skoraj ni odziva. Tam je dostop do spletnega obrazca nizek. Ekipa izboljša zastopanost z dodajanjem srečanja iz oči v oči in ankete gospodinjstva. Raznolikost kanalov je predpogoj za pravičnost.
Primer 3 – Iskreno poročanje. Ena občina v svojem poročilu o udeležbi jasno piše, da je "v procesu sodelovalo 2400 ljudi; vendar so bili starejši od 65 let in dve primestni soseski premalo zastopani, zato so bili za te skupine organizirani dodatni sestanki." Parlament rezultat ocenjuje z realno težo. Poročanje o pomanjkljivosti namesto skrivanje legitimira sodelovanje.
Pogoste napake
- Zamenjati povzetek AI kot edino resnico. Dostop do neobdelanih podatkov mora biti zaščiten; To je povzetek komentarja.
- Zamenjajo pogostost s pravičnostjo. Zahteva, ki se zelo ponavlja, ni najbolj natančna zahteva.
- Odprava stika z manjšino. Redkih, a kritičnih opozoril (varnost, poplava) ne smete izgubiti.
- Brez pregleda profila udeleženca. Če ni postavljeno vprašanje, kdo manjka, se izločitev ne prikaže.
- Zanašanje na en sam kanal. Vsak kanal zgreši skupino; raznolikost je nujna.
- Predstavitev udeležbe kot "odobritev". Sodelovanje je prispevek k odločitvi, ne pa pridih legitimnosti.
- Nevarovanje osebnih podatkov. Mnenj se ne sme obdelovati brez anonimizacije.
Če povzamem
Participativno načrtovanje je vir znanja in demokracije, ki legitimira načrtovanje; AI je močan pripomoček pri povzemanju, ekstrahiranju tem in poročanju o velikih zbranih kvalitativnih podatkih. Toda umetna inteligenca nosi pristranskost reprezentacije: povzdiguje večino in pogosto izražanje ter zmanjšuje manjšino in digitalno nedostopne. Ohranite dostop do neobdelanih podatkov za pravilno uporabo, ločeno spremljajte manjšinske teme, pregledujte profile udeležencev in dopolnite manjkajoče skupine prek dodatnih kanalov ter pošteno poročajte o napredku. Povzetek AI ni nadomestilo za sodelovanje; Končna odločitev je v preglednem in odgovornem javnem postopku.
Aplikacijska naloga
Razmislite o naboru podatkov o sodelovanju (resničnem ali vzorčnem). (1) Izvlecite velike in manjšinske teme ločeno s prvo predlogo; zajeti vsaj eno kritično temo manjšine. (2) Z drugo predlogo preglejte profil udeleženca, identificirajte manjkajočo skupino in predlagajte dodaten kanal. (3) Izdelajte kontrolni seznam za primerjavo povzetka AI z neobdelanimi podatki s tretjo predlogo. (4) "Kdo manjka, čigav glas je hripav?" Odgovorite na vprašanje v kontekstu teh podatkov.
kontrolni seznam
- [ ] Anonimiziral sem podatke o udeležbi; Varovala sem osebne podatke.
- [ ] Pregledal sem profil udeleženca; Identificiral sem manjkajoče skupine.
- [ ] Želel sem tudi manjšinske in kritične teme; Preprečil sem njegovo izločitev.
- [ ] Primerjal sem povzetek AI z neobdelanimi podatki.
- [ ] Manjkajoče zvoke sem dopolnil z dodatnimi kanali sodelovanja.
- [ ] Udeležbo sem prijavil pošteno; Tega nisem predstavil kot "odobritev".
- [ ] Končno odločitev prepuščam transparentnemu javnemu postopku.