Nyereség:
- Megérti, hogy az adatok az AI torzítás elsődleges forrásai
- Felismeri azokat a kockázatokat, amelyeket az elfogultság okozhat a munkahelyen
- Olyan intézkedéseket hajt végre, amelyekkel csökkenthető az előítélet
Az AI semleges, objektív gépként jelenik meg; de az igazság sokkal összetettebb. A mesterséges intelligencia rendszerek megtanulják az emberi torzításokat az általuk betanított adatokban, és néha felnagyítják és reprodukálják azokat. Az előítélet egy rendszer azon tendenciája, hogy szisztematikusan előnyben részesít vagy kizár bizonyos embereket vagy csoportokat. Ebben az egységben megvizsgáljuk, honnan erednek az előítéletek, milyen konkrét kockázatokat jelentenek a munkahelyen, és mit lehet tenni ellene. Ez nem csak „etika” kérdése; Gyakorlati üzleti ügyről van szó, amely rossz irányítás esetén jogi, kereskedelmi és hírnévkockázatot rejt magában.
Honnan ered az előítélet?
A nyelvi modell információi az emberek által készített hatalmas szövegekből származnak. Ezek a szövegek tartalmazzák az emberi társadalom minden tudását, valamint annak minden sztereotípiáját, kiegyensúlyozatlanságát és történelmi egyenlőtlenségét. A modell nem tesz különbséget „jó” és „rossz” minták között; Mindent megtanul, ami az adatokban van.
Példa: Ha bizonyos szakmákat túlnyomórészt egy nemhez társítottak a korábbi szövegekben (pl. „nővér” a nővel, „mérnök” a férfival), a modell megtanulja ezt az asszociációt. Hajlamos lehet férfi névmást választani a mondat befejezésekor: "Egy mérnök bement az irodába, ő..." A modell nem rosszindulatú; csupán az adatok egyensúlyhiányát tükrözi.
Tehát az elfogultság leginkább az adatok tükre, nem pedig tudatos programozási hiba miatt van. A problémát úgy magyarázni, hogy "valaki rossz kódot írt" félrevezető; A probléma az, hogy a világ egyensúlytalansága az adatokba, onnan pedig a modellbe kerül.
Kézzelfogható kockázatok a munkahelyen
területen
Az elfogultság kockázata
lehetséges kárt
toborzás
Ismerje meg a korábbi adatok tendenciáját, és szüntessen meg bizonyos csoportokat
Jogi ügy, képességvesztés
Ügyfélkommunikáció
Sztereotip vagy kirekesztő nyelv
Hírnévvesztés, ügyfélrepülés
hitel/kockázat
A múltbeli egyenlőtlenségek állandósítása
Diszkrimináció, szankciók
Teljesítményértékelés
Az adatok torzítása a döntésben
Tisztességtelen promóció/bónusz
Tartalom/marketing
Egy adott csoport láthatatlanná tétele
Márka sérülés
Három mini tok
1. eset – A hirdetés szűkítette a nyelvet. Egy cég AI-val kezdett álláshirdetéseket nyomtatni. Egy idő után észrevették, hogy a reklámok egy bizonyos profilt megszólítanak olyan kifejezésekkel, mint „fiatal és dinamikus”, „agresszív célpont”, és ezzel csökkentik az alkalmazások sokszínűségét. A csapat hozzáadott egy lépést, amely minden egyes bejegyzésben ellenőrzi a „befogadó nyelvet”; A jelentkezők sokszínűsége néhány hónap alatt jelentősen megnőtt.
2. eset – Rejtett elfogultság az összefoglalóban. Az egyik vezető 30 alkalmazott visszajelzését kérte az AI-tól. Az összefoglaló úgy tűnt, hogy a negatív megjegyzéseket egy adott csapatra összpontosította; míg a nyers adatokban a helyzet kiegyensúlyozott volt. A modell több erős kijelentést eltúlzott. Amikor a menedzser visszament és ellenőrizte a nyers adatokat, elkerülte a félreértést.
3. eset – Az inkluzivitásra vonatkozó megbízás működött. Az egyik marketingcsapat szabványosította a kampányszövegben szereplő utasításokat: „Használjon inkluzív, nem specifikus nem/életkor/csoport nyelvet, és a végén sorolja fel a feltételezéseit”. Az előállított szövegekben észrevehetően csökkentek a formuláris kifejezések; a csapatnak nem kellett újra és újra manuálisan korrigálnia az egyes kimeneteket.
Miért nehéz felismerni az elfogultságot?
Az előítéletekben az a legravatalosabb, hogy gyakran láthatatlan. A kimenet simának, professzionálisnak és ésszerűnek tűnik; A benne rejlő tendencia csak akkor válik nyilvánvalóvá, ha alaposan megnézzük, vagy felmérjük a hatását a különböző csoportokra. Megtévesztő, ha egyetlen példán keresztül azt mondjuk, hogy "itt nincs torzítás"; Az elfogultság gyakran nem egyedi példákban, hanem a rendszer általános tendenciájában nyilvánul meg.
Figyelem: Veszélyes az a feltételezés, hogy "semleges vagyok, ezért az általam használt eszköz is semleges". Az eszköz semlegessége a képzési adatoktól és az ellenőrzés módjától függ, nem pedig az Ön szándékától.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás: Ismertesse az ideális jelöltet erre a pozícióra.
Eredmény: A modell sztereotípiákra támaszkodhat, és egy adott profilt "ideálisnak" mutat be.
Erős felszólítás: Csak olyan mérhető kompetenciákat soroljon fel ehhez a pozícióhoz, amelyek valóban relevánsak a munka szempontjából. Ne használjon olyan jellemzőket, amelyek nem kapcsolódnak a munkához, például nem, életkor, családi állapot, szülőváros. Végül írd le, hogy mit hagytál ki a „feltételezések, amelyeket elkerülök” címszó alá.
Eredmény: Az értékelés a munkakörhöz kapcsolódó kritériumokra korlátozódik, az irreleváns jellemzők kizárva.
Sablonok az elfogultság csökkentésére
Ellenőrizze az alábbi szöveget a befogadó nyelvért. Jelölje meg azokat a kijelentéseket, amelyek nemre, korra, etnikai hovatartozásra, fogyatékosságra vagy egy meghatározott csoportra utalnak, és mindegyikhez semleges alternatívát javasolnak. Szöveg: [illessze be ide]
Ezt az értékelést csak az alábbi objektív kritériumok alapján végezze el: [kritériumok]. Ne vegyen figyelembe a fenti kritériumokon kívül semmilyen más információt (név, nem, életkor).
Sorolja fel egy külön címsor alatt a végén, hogy milyen feltételezéseket tett az elkészített szövegben. Tehát látok rejtett elfogultságokat.
Értékelje ezt a tartalmat három különböző olvasói csoport szemével, és jelölje meg azokat az állításokat, amelyek bármelyiküket sérthetik/sérthetik. Tartalom: [illessze be ide]
Gyakori hibák
Gyakori hibák
- "Semleges" AI kimenetet feltételezve. Annak ellenére, hogy a kimenet semlegesnek tűnik, hordozhatja az adatok torzítását; Aktív felügyelet szükséges.
- Nézzünk egy példát, és azt mondjuk: "nincs elfogultság". Az előítéletek a rendszer általános tendenciájában rejtőznek.
- A nagy hatású döntéshozatalt a felügyelet nélküli AI-ra hagyjuk. Az emberi tekintély alapvető fontosságú az olyan döntésekben, mint a toborzás, az előléptetés és a hitelezés.
- Elfelejtette követelni az inkluzivitást. Ha nem kéri kifejezetten a promptban, a modell visszaáll az alapértelmezett mintákra.
- Azt jelenti: "A gép mondta." A döntést alkalmazó személy felelős a következményekért is.
Az igazságszolgáltatás mindenki felelőssége
Az előítéletek elleni küzdelem nem csak a technikai csapat feladata. Minden alkalmazott, aki mesterséges intelligencia kimenetet használ, köteles megkérdőjelezni, hogy a kimenet igazságos-e. „A gép megmondta” nem kifogás; A döntést hozó felelős a következményekért is.
Összefoglalva
- A mesterséges intelligencia torzításának elsődleges forrása nem a rosszindulat, hanem a képzési adatokban meglévő egyensúlyhiányok és sztereotípiák.
- Előítélet; Valós jogi és reputációs kockázatot jelent olyan területeken, mint a toborzás, az ügyfélkommunikáció, a pénzügy és az értékelés.
- Az elfogultság gyakran láthatatlan, és beágyazódik a rendszer általános felépítésébe; Ha egyetlen példát nézünk, az félrevezető.
- Csökkenteni: legyen tudatában, korlátozza a döntést a munkával kapcsolatos kritériumokra, kifejezetten kérje az inkluzivitást, helyezze emberi ellenőrzés alá a nagy hatású döntéseket.
- „A gép megmondta” nem kifogás; A méltányosság mindenki felelőssége, aki a kimenetet felhasználja.
Alkalmazási feladat
Mondja meg az MI-nek, hogy „írjon le egy ideális [bármilyen foglalkozású] dolgozót”, és jelölje meg, milyen (talán szükségtelen) feltételezéseket tettek a kimenetben. Ezután ismételje meg a fenti „munkakörhöz kapcsolódó kritériumok” sablont, és hasonlítsa össze a két kimenetet a méltányosság érdekében.
Ellenőrzőlista
- [ ] Megértettem, hogy a torzítás elsődleges forrása a képzési adatok.
- [ ] Meg tudom nevezni azokat a konkrét kockázatokat, amelyeket a munkahelyi elfogultság jelenthet.
- [ ] Tudom, hogy az elfogultság gyakran láthatatlan, és ha egyetlen példát nézünk, az félrevezető.
- [ ] A promptban egyértelműen kérhetem az inkluzivitást és a munkával kapcsolatos kritériumokat.
- [ ] A nagy hatású döntések emberi felügyeletét igénylem.