Voitot:
- Kolmen ihmisen ohjauksen mallin erottaminen (silmukassa, silmukassa, komennossa)
- Tekoälytuotannon harhaan ja syrjintään liittyvien riskien tunnistaminen ja vähentäminen
- Läpinäkyvyyden ja selitettävyyden periaatteiden kääntäminen konkreettisiksi sovelluksiksi
Tekoälyjärjestelmä voi teknisesti toimia täydellisesti, mutta silti olla väärässä: se voi systemaattisesti eliminoida ryhmän, jättää selittämättä päätöksensä syytä tai saada ihmiset hyväksymään sen kyselemättä. Tässä osiossa käännämme hallinnon "pehmeän" mutta ratkaisevin puolen – inhimillisen valvonnan, ennakkoluulojen hallinnan, läpinäkyvyyden ja eettisyyden – konkreettisiksi käytännöiksi. Tavoitteena eivät ole epämääräiset iskulauseet, kuten "älä luota tekoälyyn"; Ne ovat toimivia mekanismeja, jotka osoittavat, kuinka tulos voidaan tarkastaa, vähentää harhaa ja luoda läpinäkyvyyttä.
Kolme ihmisen hallinnan mallia
Ihmisen valvonta tarkoittaa, että ihminen hallitsee tekoälyn tekemiä päätöksiä. Perusmalleja on kolme ja on tarpeen valita oikea malli riskin mukaan.
malli
Merkitys
Mihin se sopii
Ihminen ketjussa
Ihminen hyväksyy jokaisen päätöksen
Suuren riskin, vaikuttavia päätöksiä
Ihminen silmukassa
AI toimii, ihmiset tarkkailevat ja puuttuvat tarvittaessa
Keskinkertainen riski, suuri määrä liiketoimia
Mies komennossa
Ihminen suunnittelee järjestelmän, asettaa sen rajat, voi sulkea sen
Yleinen hallintotaso
Päätöksissä, jotka vaikuttavat merkittävästi henkilöön (työ, luotto, terveydenhuolto), in-the-loop -mallia suositaan: tekoäly antaa neuvoja, mutta pätevä ihminen tekee lopullisen päätöksen. "AI sanoi niin" ei ole koskaan tekosyy; Vastuu on aina ihmisellä.
Huomio: Ei riitä, että ihmisen ohjaus on "paperilla". Jos ihminen hyväksyy automaattisesti tekoälyn ehdotuksen (kumileimaus), todellista valvontaa ei ole. Jotta auditoinnilla olisi merkitystä, täytyy pystyä näkemään perustelut, kyseenalaistamaan se ja sanomaan todella "ei".
Ennakkoluulojen ja syrjinnän riski
Bias tarkoittaa sitä, että tekoäly asettaa järjestelmällisesti haitaksi tai hyödyttää tiettyjä ryhmiä. Sen lähde on usein koulutusdata: jos historiallisissa tiedoissa on syrjintää, tekoäly oppii ja ylläpitää sitä – jopa skaalaa sen.
Käytännön toimenpiteitä harhan vähentämiseksi:
- Tarkista arkaluonteiset muuttujat: Tarkista kenttien, kuten sukupuolen, iän ja etnisen alkuperän, vaikutus päätökseen.
- Testitulokset ryhmittäin: Tuottaako järjestelmä erilaisia hylkäys-/hyväksymisprosentteja eri ryhmissä?
- Varo välitysmuuttujia: Kentät, kuten "naapuruus" tai "koulu", voivat implisiittisesti välittää etnistä/luokkaeroa.
- Ota käyttöön säännöllinen seuranta: Bias testataan jatkuvasti, ei vain kerran; Se voi tulla takaisin tietojen muuttuessa.
kolme minilaukkua
Tapaus 1 – Kumileima. Yhdessä pankissa lainavirkailijat hyväksyvät tekoälypisteet tarkistamatta sitä; He sanovat, että "järjestelmä on jo laskenut sen". Auditointi osoittaa, että 498:ssa 500 hakemuksesta ihminen teki täsmälleen saman päätöksen kuin tekoäly – joten varsinaista tarkistusta ei ole. Ratkaisu: vaadi ihmisiä näkemään perustelut, arvaa päätös tietyssä määrin ja vaadi "miksi samaa/eri mieltä" -huomautus.
Tapaus 2 – Implisiittinen harha. Rekrytoiva tekoäly saa naisehdokkaita huonommin, vaikka siinä ei käytetä sukupuolta ollenkaan. mistä? Koska aikaisemmat tiedot sisälsivät enimmäkseen tietyssä asemassa olevia miehiä, malli oppi epäsuoraa syrjintää välitysmuuttujien, kuten "keskeytyksetön uran" kautta. Ryhmäpohjainen testaus paljastaa tämän; Tiimi poimii korvikemuuttujat ja seuraa tulosta.
Tapaus 3 – Luota läpinäkyvyyteen. Tekoälykäyttöisessä vahinkoarvioinnissaan vakuutusyhtiö ilmoittaa jokaiselle asiakkaalle, että "päätös on tekoälypohjainen, he voivat valittaa ja pyytää ihmisen tarkastusta". Vastalauseiden määrä on odotettua alhaisempi, koska asiakkaat ymmärtävät prosessin ja luottavat siihen. Avoimuus lisää luottamusta ja vähentää samalla riskiä.
Avoimuus ja selitettävyys
Avoimuus tarkoittaa sitä, että asianomaisille ihmisille tehdään selväksi, että tekoäly toimii ja miten se toimii. Selitettävyys tarkoittaa kykyä selittää päätöksen syy ymmärrettävällä tavalla. Konkreettiset sovellukset:
- "Puhut tekoälylle" -ilmoitus, kun tekoäly on vuorovaikutuksessa henkilön kanssa.
- "Tämä päätös perustui seuraaviin tekijöihin" selitys automaattisissa päätöksissä.
- Esitä selkeästi valituksen polku ja pyydä ihmisen tarkastusta.
- Sisäisille ryhmille: dokumentaatio ja tallenne siitä, mitä malli tekee.
Vihje: Kysy tekoälypäätökseltä "mitkä olivat kolme tärkeintä tekijää, jotka vaikuttivat tähän päätökseen?" Testaa sitä kysymyksellä. Jos järjestelmä ei pysty tekemään tätä ymmärrettävää ja päätös vaikuttaa henkilöön merkittävästi, järjestelmä ei ole vielä valmis vastuulliseen käyttöön.
Automaatioharha: oma ansa
Vaikka läpinäkyvyys ja inhimillinen valvonta toteutuvat, ihmispuolella on salakavala riski: automaatioharha. Tämä on ihmisten taipumus luottaa koneen tuottoon enemmän kuin omaan harkintaan. Koska näytöllä oleva tekoälyehdotus vaikuttaa "objektilta ja laskelmoidulta", se houkuttelee hyväksymään sen kyseenalaistamatta – tämä on kumileiman psykologinen alkuperä.
On olemassa konkreettisia tapoja vähentää tätä. Kannusta ensin vastamielipidettä: kysy päätöksen hyväksyjältä "Miksi voisin olla eri mieltä tekoälyn kanssa?" Pyydä häntä miettimään kysymystä. Näytä sitten luottamuspisteet: osoita kuinka varma tekoäly on; Merkitse alhaisen luotettavuuden tulokset erikseen. Aseta sitten ristiriitahälytys: Jos tekoälysuositus rikkoo laitoksen sääntöä tai ihmisen käytettävissä olevia tietoja, järjestelmä korostaa tämän. Lopuksi soveltaa kahta inhimillistä periaatetta kriittisiin päätöksiin; Yksittäinen hyväksyjä on alttiimpi automaatioharhalle.
Varoitus: Sanominen "on ihmisten hyväksyntä" ei tarkoita, että olisi vapaa automaatioharhasta. Ihmisellä on oltava sekä valtuudet, aika että oikeat tiedot kyseenalaistaa tekoäly. Järjestelmä, joka pakottaa hyväksyjän tekemään 200 päätöstä 3 sekunnissa, ei itse asiassa tarjoa todellista ihmisen hallintaa.
Kopioitavat mallit
MALLI 1 – Ihmisen ohjausmallin valinta: "Mikä ihmisen ohjausmalli sopii seuraavaan tekoälykäyttöön [kuvaile käyttöä]: silmukassa, silmukassa vai komennossa? Suosittele perustellusti ottaen huomioon riskin ja vaikutuksen yksilöön. Määritä, mikä ohjausmalli minun tulee lisätä, jotta vältytään kumileimariskiltä."
MALLI 2 – Bias-testaussuunnitelma: "Laadi [kuvaa käyttöä] -harhatestaussuunnitelma seuraavalle päätöksentekoälylle: mitä ryhmiä minun pitäisi vertailla, mitä mittaria pitäisi mitata (hylkäys-/hyväksymisprosentti jne.), mitä korvaavia muuttujia minun tulee etsiä, kuinka usein minun tulee toistaa testi? Kirjoita se vaihe vaiheelta."
MALLI 3 – Päätöksen kuvausteksti: "Kirjoita yksinkertainen kuvausteksti personoidulle automaattiselle päätökselle: oliko päätös tekoälypohjainen, päätökseen vaikuttavat keskeiset tekijät, tapa valittaa ja pyytää ihmisen tarkastusta. Ei-syyttävä, kunnioittava sävy, enintään 120 sanaa."
MALLI 4 – Eettisen tarkastelun tarkistuslista: "Valmistele eettisen tarkastelun tarkistuslista ennen tekoälyn käytön julkaisemista: oikeudenmukaisuus/syrjintä, avoimuus, inhimillinen valvonta, yksityisyys, turvallisuus, vastuullisuus. Sisällytä kunkin otsikon alle 1-2 selkeää kysymystä, joihin vastataan."
Heikko kehote / Vahva kehote
HEIKKO: "Onko tämä rekrytointi tekoäly reilua?"-> Malli antaa yleisen vastauksen, kuten 'sen pitäisi olla reilua'; ei tarjoa testattavaa menetelmää ja harhamittausta. VAHVA: "Laadi harhatestaussuunnitelma tälle rekrytointituen tekoälylle: menetelmä vertailla hyväksymisasteita sukupuolen ja ikäryhmien välillä, huomioon otettavat välitysmuuttujat, hyväksyttävä erokynnys ja seurantatiheys. Lisää myös ohjausta varmistaaksesi, että ihminen tekee lopullisen päätöksen." -> Malli tuottaa mitattavan, toistettavan oikeudenmukaisuusmekanismin.
Yleisiä virheitä
- Ihmisen hallinnan jättäminen "paperille" ja tekoälysuosituksen automaattinen hyväksyminen (kumileima).
- Henkilöön merkittävästi vaikuttavat päätökset jätetään ilman valvontaa sen sijaan, että otettaisiin huomioon.
- Arvioi, että harha on ratkaistu vain siksi, että "poistin herkän muuttujan"; välityspalvelinmuuttujien ohittaminen.
- Harhaa testataan kerran eikä sitä seurata jatkuvasti.
- Ohitetaan läpinäkyvyys, koska "se on tekninen yksityiskohta, jota käyttäjä ei ymmärrä".
- Käyttämällä kriittisissä päätöksissä järjestelmää, joka ei pysty selittämään päätöksen syytä.
- Eettisen arvioinnin jättäminen julkaisun jälkeen sanoen "nähdään myöhemmin".
Yhteenvetona
- Ihmisen ohjaus on toteutettu kolmella mallilla; Ihmisiin vaikuttavissa päätöksissä ihmiset ovat etusijalla kierteessä.
- Valvonnan on oltava mielekästä; Kumileima (automaattinen hyväksyntä) ei ole varsinainen tarkastus.
- Bias tulee usein harjoitustiedoista; Arkaluonteisia ja korvaavia muuttujia tulee testata ja seurata jatkuvasti.
- Läpinäkyvyys ja selitettävyys edellyttävät selkeästi käyttäjälle, että tekoäly on pelissä ja syy päätökseen.
- Eettinen tarkastelu suoritetaan ennen julkaisemista; vastuu on aina ihmisellä, "AI sanoi niin" ei ole tekosyy.
Sovellustehtävä
Valitse tekoälypäätösprosessi, joka vaikuttaa organisaatiosi ihmisiin (esimerkiksi hakemusten arviointi). Määritä tälle prosessille asianmukainen ihmisen ohjausmalli perusteluineen ja suunnittele konkreettinen ohjausjärjestelmä kumin leimaamisen estämiseksi (esim. vaatimus nähdä perustelut, näytetarkistus). Kirjoita sitten harhatestaussuunnitelma: määritä, mitä ryhmiä vertaat, mihin mittariin, kuinka usein ja mihin välityspalvelimen muuttujiin kiinnität huomiota. Laadi lopuksi päätöksen selitysteksti, joka näytetään henkilölle tämän prosessin aikana ja joka sisältää valituksen/ihmisen tarkastelun polun.
tarkistuslista
- [ ] Valitsin prosessiin sopivan ihmisen ohjausmallin.
- [ ] Suunnittelin betoniohjaimen, joka estää kumileiman.
- [ ] Tein harhatestaussuunnitelman (ryhmät, mittari, taajuus).
- [ ] Arvioin korvikemuuttujien riskiä.
- [ ] Kirjoitin henkilölle päätöksen selitystekstin.
- [ ] Olen esittänyt selkeästi tien valitukseen ja ihmisen arvioimiseen.
- [ ] Tein eettisen katsauksen ennen julkaisemista.