Nyereség:
- Az emberi irányítás három modelljének megkülönböztetése (hurokban, hurokban, parancsban)
- Az AI-kimenetben jelentkező torzítás és diszkrimináció kockázatainak felismerése és csökkentése
- Az átláthatóság és magyarázhatóság elveinek konkrét alkalmazásokba való átültetése
Lehet, hogy egy mesterséges intelligencia rendszer műszakilag tökéletesen működik, de mégis hibás: szisztematikusan kiiktat egy csoportot, nem magyarázza meg döntésének okát, vagy arra készteti az embereket, hogy megkérdezés nélkül elfogadják azt. Ebben az egységben a kormányzás „puha”, de legmeghatározóbb oldalát – az emberi kontrollt, az elfogultságkezelést, az átláthatóságot és az etikát – konkrét gyakorlatokká fordítjuk. A cél nem az olyan homályos szlogenek, mint a "ne bízz az AI-ban"; Ezek olyan működő mechanizmusok, amelyek megmutatják, hogyan lehet auditálni a kimenetet, csökkenteni a torzítást és megteremteni az átláthatóságot.
Az emberi kontroll három modellje
Az emberi felügyelet azt jelenti, hogy az ember megtartja az irányítást az MI által hozott döntések felett. Három alapmodell létezik, és a kockázatnak megfelelően kell kiválasztani a megfelelő modellt.
modell
Jelentése
Ahova illik
Ember a hurokban
Egy személy minden döntést jóváhagy
Nagy kockázatú, hatásos döntések
Ember a hurokban
Az AI működik, az emberek figyelik és szükség esetén beavatkoznak
Közepes kockázatú, nagy volumenű tranzakciók
Ember a parancsnok
Az ember megtervezi a rendszert, megszabja a korlátait, le tudja zárni
Általános irányítási szint
Az embert jelentősen befolyásoló döntéseknél (foglalkoztatás, hitel, egészségügy) a human-in-the-loop modellt részesítik előnyben: az AI tanácsot ad, de a végső döntést hozzáértő ember hozza meg. „Az AI mondta” soha nem kifogás; A felelősség mindig az embert terheli.
Figyelem: Nem elég, ha az emberi irányítás „papíron” van. Ha az ember automatikusan jóváhagyja a mesterséges intelligencia javaslatát (gumi-bélyegzés), akkor nincs valódi irányítás. Ahhoz, hogy az auditálás értelmes legyen, képesnek kell lenni arra, hogy meglássuk az indokot, megkérdőjelezzük, és valóban „nem”-et kell mondani.
Előítéletek és diszkrimináció veszélye
Az elfogultság az, amikor a mesterséges intelligencia szisztematikusan hátrányt vagy előnyt jelent bizonyos csoportoknak. Ennek forrása gyakran a képzési adatok: ha a korábbi adatokban diszkrimináció van, az MI megtanulja és karbantartja azokat – sőt, skálázza is.
Gyakorlati lépések az elfogultság csökkentésére:
- Tekintse át az érzékeny változókat: Ellenőrizze a mezők, például a nem, az életkor vagy az etnikai hovatartozás hatását a döntésre.
- Vizsgálati eredmények csoportonként: A rendszer eltérő elutasítási/elfogadási arányt produkál a különböző csoportokban?
- Óvakodjon a proxyváltozóktól: Az olyan mezők, mint a „szomszédság” vagy az „iskola”, implicit módon etnikai/osztálybeli megkülönböztetést jelezhetnek.
- Rendszeres felügyelet létrehozása: A torzítást folyamatosan tesztelik, nem csak egyszer; Az adatok változásával visszatérhet.
három mini tok
1. eset – Gumibélyegző. Az egyik banknál a hitelfelügyelők jóváhagyják az AI pontszámát anélkül, hogy azt felülvizsgálnák; Azt mondják, "a rendszer már kiszámolta". Egy audit kimutatta, hogy 500 beadványból 498-ban az ember pontosan ugyanazt a döntést hozta, mint az MI – tehát nincs valódi felülvizsgálat. Megoldás: követelje meg az emberektől, hogy lássák az érvelést, bizonyos mértékig kitalálják a döntést, és kérjenek egy „miért értek egyet/nem értek egyet” megjegyzést.
2. eset – Implicit torzítás. A toborzó mesterséges intelligencia alacsonyabb pontszámot ad a női jelölteknek, bár egyáltalán nem használja a nemet. Ahonnan? Mivel a múltbeli adatok többnyire férfiakat tartalmaztak egy adott pozícióban, a modell a közvetett diszkriminációt olyan proxyváltozókon keresztül tanulta meg, mint például a „megszakítás nélküli karrier”. A csoportalapú tesztelés ezt mutatja; A csapat kivonja a helyettesítő változókat, és figyeli az eredményt.
3. eset – Bízzon az átláthatóságban. A mesterséges intelligencia által támasztott kárfelmérés során a biztosítótársaság tájékoztatja minden ügyfelet, hogy „a döntés mesterséges intelligencia alapú, fellebbezhetnek és emberi felülvizsgálatot kérhetnek”. A kifogásolási arány alacsonyabb a vártnál, mert az ügyfelek megértik és bíznak a folyamatban. Az átláthatóság növeli a bizalmat, miközben csökkenti a kockázatot.
Átláthatóság és magyarázhatóság
Az átláthatóság arról szól, hogy világossá tegyük az érintett emberek számára, hogy egy mesterséges intelligencia működik, és hogyan működik. A megmagyarázhatóság azt jelenti, hogy egy döntés okát érthetően meg tudjuk magyarázni. Konkrét alkalmazások:
- „Ön MI-vel beszél” értesítés arról, hogy a mesterséges intelligencia interakcióba lép az adott személlyel.
- "Ez a döntés a következő tényezőkön alapult" magyarázat az automatikus döntésekben.
- Világosan mutassa be a fellebbezéshez vezető utat és kérjen emberi felülvizsgálatot.
- Belső csapatok számára: a modell működésének dokumentálása és rögzítése.
Tipp: Kérdezzünk meg egy mesterséges intelligencia döntést: „Mi volt a három legfontosabb tényező, amely befolyásolta ezt a döntést?” Teszteld a kérdéssel. Ha ezt a rendszer nem tudja érthetővé tenni, és a döntés jelentősen érinti az embert, akkor az a rendszer még nem áll készen a felelős használatra.
Automatizálási torzítás: saját csapda
Még ha létrejön is az átláthatóság és az emberi felügyelet, emberi oldalról van egy alattomos kockázat: az automatizálási elfogultság. Ez az a tendencia, hogy az emberek jobban bíznak a gép teljesítményében, mint saját ítéletükben. Mivel a képernyőn megjelenő mesterségesintelligencia-javaslat „objektívnek és kiszámítottnak” tűnik, az ember kísértés nélkül elfogadja azt – ez a gumibélyegző pszichológiai eredete.
Ennek csökkentésére konkrét módszerek vannak. Először ösztönözze az ellenvéleményt: kérdezze meg a döntést jóváhagyó személyt: „Miért nem értek egyet az MI-vel?” Kérd meg, hogy gondolkodjon el a kérdésen. Ezután mutassa meg a megbízhatósági pontszámot: jelezze, mennyire magabiztos az AI; Jelölje meg külön az alacsony megbízhatóságú kimeneteket. Ezután állítson be konfliktusriasztást: Ha az AI-ajánlás sérti az intézmény szabályait vagy az ember számára elérhető adatokat, a rendszer ezt kiemeli. Végül alkalmazza a két emberi elvet a kritikus döntésekre; Egyetlen jóváhagyó érzékenyebb az automatizálási torzításra.
Vigyázat: Ha azt mondjuk, hogy „van emberi jóváhagyás”, ez nem jelenti azt, hogy mentesek vagyunk az automatizálási előítéletektől. Az embernek rendelkeznie kell tekintéllyel, idővel és megfelelő információval, hogy megkérdőjelezze az MI-t. Az a rendszer, amely 3 másodperc alatt 200 döntés meghozatalára kényszeríti a jóváhagyót, valójában nem kínál valódi emberi irányítást.
Másolható sablonok
1. SABLON – Emberi vezérlési modell kiválasztása: "Melyik emberi vezérlési modell megfelelő a következő mesterséges intelligencia-használathoz [a felhasználás leírása]: hurokban, hurokban vagy parancsban? Indoklással ajánlja, figyelembe véve a kockázatot és az egyénre gyakorolt hatást. Adja meg, milyen vezérlőelemet kell hozzáadnom a gumibélyegző kockázatának elkerülése érdekében."
2. SABLON – Elfogultsági tesztelési terv: "Készítsen [használat leírása] elfogultsági tesztelési tervet a következő döntéstámogató mesterséges intelligencia számára: mely csoportokat hasonlítsam össze, milyen mérőszámot mérjek (elutasítási/elfogadási arány stb.), milyen helyettesítő változókat keressek, milyen gyakran ismételjem meg a tesztet? Írja le lépésről lépésre."
3. SABLON – Határozatleíró szöveg: "Írjon egyszerű leírást egy személyre szabott automatizált döntéshez: a döntést mesterséges intelligencia vezérelte-e, a döntést befolyásoló kulcsfontosságú tényezők, a fellebbezés módja és az emberi felülvizsgálat kérése. Nem vádló, tiszteletteljes hangnem, legfeljebb 120 szó."
4. SABLON – Etikai felülvizsgálati ellenőrzőlista: "Készítsen egy etikai felülvizsgálati ellenőrző listát, mielőtt közzétesz egy mesterségesintelligencia-használatot: méltányosság/diszkrimináció, átláthatóság, emberi ellenőrzés, adatvédelem, biztonság, elszámoltathatóság. Minden címszó alatt tüntessen fel 1-2 megválaszolandó kérdést."
Gyenge felszólítás / Erős felszólítás
GYENGE: „Tisztességes ez a toborzási AI?”-> A modell általános választ ad, mint például „tisztességesnek kell lennie”; nem biztosít tesztelhető módszert és torzításmérést. STRONG: "Állítson fel egy torzítástesztelési tervet ehhez a toborzást támogató mesterséges intelligenciához: egy módszer a nemek és korcsoportok elfogadási arányának összehasonlítására, a figyelembe veendő proxyváltozók, az elfogadható különbségi küszöb és a megfigyelési gyakoriság. Adjon hozzá vezérlést is, hogy az ember hozza meg a végső döntést." -> A modell mérhető, megismételhető igazságossági mechanizmust hoz létre.
Gyakori hibák
- Az emberi irányítás „papíron” hagyása és az AI ajánlás automatikus jóváhagyása (gumibélyegző).
- Az érintett személyt jelentősen érintő döntések felügyelet nélkül hagyása a hurok helyett.
- Úgy tekintjük, hogy a torzítás csak azért megoldódott, mert "töröltem az érzékeny változót"; proxyváltozók kihagyása.
- Az elfogultságot egyszer teszteljük, és nem folyamatosan figyeljük.
- Az átláthatóság kihagyása, mert "ez technikai részlet, a felhasználó nem fogja megérteni".
- Olyan rendszer használata, amely nem tudja megmagyarázni a döntés okát a kritikus döntésekben.
- Az etikai értékelést a publikáció utánra hagyva, mondván "majd meglátjuk".
Összefoglalva
- Az emberi irányítást három modellben valósítják meg; Az embereket érintő döntésekben az embereket részesítik előnyben a ciklusban.
- Az ellenőrzésnek értelmesnek kell lennie; A gumibélyegző (automatikus jóváhagyás) nem a tényleges ellenőrzés.
- A torzítás gyakran a képzési adatokból származik; Az érzékeny és helyettesítő változókat tesztelni kell és folyamatosan ellenőrizni kell.
- Az átláthatóság és a magyarázhatóság megköveteli, hogy a felhasználó számára világosan bemutassák, hogy az AI játékban van, és a döntés okát.
- Az etikai felülvizsgálat a közzététel előtt történik; a felelősség mindig az emberi lényé, az "AI mondta" nem mentség.
Pályázati feladat
Válasszon olyan mesterséges intelligencia döntési folyamatot, amely hatással van az emberekre a szervezetében (például a pályázatok értékelése). Határozza meg a megfelelő emberi ellenőrzési modellt ehhez a folyamathoz indoklással, és tervezzen egy konkrét vezérlést a gumibélyegzés megelőzésére (pl. indoklás, minta áttekintése). Ezután írjon egy torzítás tesztelési tervet: adja meg, hogy mely csoportokat, milyen mérőszámmal, milyen gyakran és mely proxyváltozókra fog figyelni. Végül készítsen egy döntésmagyarázó szöveget, amely a folyamat során megjelenik a személy számára, és tartalmazza a fellebbezési/emberi felülvizsgálati útvonalat.
ellenőrző lista
- [ ] A folyamatnak megfelelő humán kontrollmodellt választottam.
- [ ] Konkrét vezérlőt terveztem, amely megakadályozza a gumibélyegzést.
- [ ] Készítettem egy torzítás tesztelési tervet (csoportok, metrika, gyakoriság).
- [ ] Felmértem a helyettesítő változók kockázatát.
- [ ] Döntésmagyarázó szöveget írtam az illetőnek.
- [ ] Világosan bemutattam a fellebbezéshez és az emberi felülvizsgálathoz vezető utat.
- [ ] Az etikai felülvizsgálatot a megjelenés előtt végeztem.