Nyereség:
- Sorolja fel a felelős AI használat alapelveit!
- Meg tudja magyarázni, miért nélkülözhetetlen az emberi kontroll
- Felelősségteljes használat ellenőrző listát tud készíteni saját munkájához
Ebben a modulban megtanultuk, mi az AI, hogyan működik, erősségeit, gyengeségeit, kockázatait és munkafolyamatait. Ebben az egységben mindezeket gyakorlati keretek között egyesítjük a felelős használat címszó alatt. Az AI egy hatékony eszköz; De ereje akkor válik kockázattá, ha nincs egyensúlyban a használó személy felelősségével. A „felelősségteljes használat” elvont etikai elvnek tűnhet; Ez azonban nagyon konkrét, napi szokásokból áll. Ebben az egységben ezeket a szokásokat egy egyszerű és fülbemászó keretbe foglaljuk.
A felelős használat öt alapelve
1. Az embereké az utolsó szó
Ez a legalapvetőbb elv. Az AI ajánlást készít; Az emberek viselik a döntést és a felelősséget. Különösen az olyan nagy hatású kérdésekben, mint a pénz, az egészségügy, a jog, a foglalkoztatás és a hírnév, a mesterséges intelligencia eredményeit soha nem szabad felügyelet nélkül alkalmazni. „A gép megmondta” soha nem jó kifogás.
2. Ellenőrizze, majd bízzon
Emlékezzen a hallucinációs egységre. Ne használjon mesterséges intelligencia által generált, ellenőrizhető tényeket (szám, dátum, név, forrás) anélkül, hogy azokat önállóan megerősítené. A folyékony és magabiztos nyelv nem a pontosság bizonyítéka.
3. Védje a magánéletet
Alkalmazza az elvet az adatvédelmi egységben: Ne írjon személyes adatokat, üzleti titkokat és bizalmas információkat a közmédiára; szükség esetén anonimizálja, és megfelel a vállalati szabályzatának.
4. Figyeld az igazságosságot
Ügyeljen az elfogultságra: ügyeljen arra, hogy a kimenet ne zárjon ki igazságtalanul vagy sztereotipizáljon bizonyos csoportokat; Vigyázzon sokféle szemre a nagy hatású döntésekre.
5. Legyen átlátható
Ne állítsa félre azt, hogy mesterséges intelligenciát használ. Az üzleti kontextus és a vállalati politika alapján egy kulcsfontosságú szállítmány elkészítése az AI segítségével, megfelelő módon bizalmat épít.
Megjegyzés: Ez az öt alapelv kiegészíti egymást. Nem elég csak egyet megvalósítani; Például, ha odafigyel az adatvédelemre, és kihagyja az ellenőrzést, továbbra is veszélyben van.
Miért nélkülözhetetlen az emberi kontroll?
A mesterséges intelligencia nem vállalhat felelősséget; Ha hibázik, nem ő fizeti meg az árát, hanem az őt használó személy és intézmény. Ezenkívül az AI nem látja a teljes kontextust (vállalati politika, kapcsolatok, ágazati érzékenység, pillanatnyi konkrét helyzet). Emberi irányítás; Egyrészt meghatározza a jogi felelősséget viselő hatóságot, másrészt a modell vakfoltjait (hallucináció, elfogultság, helytelenség) megfogó szűrő. Minél közelebb van az audit egy nagy hatású döntéshez, annál szigorúbbnak kell lennie.
Ellenőrzési szint Kockázat szerint
Feladat típusa
példa
Szükséges ellenőrzés
alacsony hatás
Belső emlékeztető vázlat, ötletelés
Könnyű áttekintés
közepes hatású
Kimenő e-mail, jelentés összefoglaló
Figyelmes olvasás + tények ellenőrzése
nagy hatás
Jogi/pénzügyi/egészségügyi/foglalkoztatási döntés
Szakértői igazolás + írásbeli megerősítés
Gyenge megközelítés / erős megközelítés
Gyenge megközelítés: A mesterséges intelligencia kimenete alapján, ellenőrzés nélkül hajtson végre egy nagy hatású döntést (pl. egy alkalmazott értékelése).
Eredmény: A hallucináció vagy előítélet közvetlenül befolyásolja az ember életét befolyásoló döntést.
Erős megközelítés: A mesterséges intelligencia csak támogatáshoz/vázlathoz használható; Indokolja saját döntését releváns bizonyítékokkal, konzultáljon az illetékes szakértővel, és adja meg a végső jóváhagyást írásban.
Eredmény: Hasznos a gyorsaság, de a felelősség és a tisztesség megmarad.
Három mini tok
1. eset – Az ellenőrzőlista észlelte a hibát. Amikor az MI-vel kezdett, az egyik csapat kinyomtatta az öt elvet egy kártyára, és az asztalokra tette. Egy alkalmazott ráakadt az „adatvédelmi” kérdésre egy elküldendő ajánlaton, és észrevette, hogy az egy ügyfél nevét tartalmazza, és anonimizálta azt. Egy egyszerű lista megakadályozta az esetleges jogsértést.
2. eset – „A gép azt mondta” nem működött. Egy másik alkalmazott a mesterséges intelligencia által közölt hibás szabályozási információkat anélkül alkalmazta, hogy azokat ellenőrizte volna, és amikor probléma merült fel, azzal védekezett, hogy "ezt mondta az MI". Ezt a kifogást nem fogadták el; mert ő volt az, aki használta és megvalósította az eszközt. A felelősség a felhasználót terheli.
3. eset – Rugalmas ellenőrzés a kockázatnak megfelelően. Amikor egy menedzser gyorsan használja a belső ötletbörze kimeneteit; Szükséges szakértői jóváhagyás + írásos indoklás a nagy hatású döntésekhez, mint például a felvétel és a teljesítmény. Így felgyorsította az alacsony kockázatú munkát és a kritikus döntések biztonságának növelését.
Másolható sablonok
Mielőtt felhasználná ezt a kimenetet, tegyél fel öt felelősségteljes felhasználási kérdést, és kérj meg, hogy mindegyiknél jelöljem meg az „ok / hiányos” jelölést: 1) Volt-e emberi audit? 2) Ellenőrizték a tényeket? 3) Megtartották-e a titoktartást? 4) Tisztességes és befogadó? 5) Kész vagyok-e felelősséget vállalni az eredményért?
Értékelje a feladat hatásszintjét (alacsony/közepes/magas), és ennek megfelelően javasoljon egy listát az ellenőrzési lépésekről. Feladat: [feladat írása]
Az alábbi kimenetben fontossági sorrendben sorolja fel azokat a kockázatos pontokat (igazság, titoktartás, tisztesség, elkötelezettség), amelyeket egy személynek feltétlenül ellenőriznie kell. Kimenet: [illessze be ide]
Készítsen egy rövid, személyes „felelős mesterséges intelligencia használatának kódját” a szerepemhez; Tegye az elemeket cselekvés-orientálttá és könnyen megjegyezhetővé. Az én szerepem: [írja meg szerepét]
Gyakorlati ellenőrző lista
irányítani
kérdés
Audit
Átnéztem ezt a kimenetet emberként?
pontosság
Megerősítettem a benne szereplő tényeket (szám, név, dátum)?
Adatvédelem
Érzékeny vagy személyes adatokat írtam az eszközbe?
igazságszolgáltatás
Az eredmény igazságos és befogadó?
átláthatóság
A mesterséges intelligencia használata megfelelően van feltüntetve, és nem félrevezető?
Felelősség
Készen állok-e felelősséget vállalni ennek az eredménynek a következményeiért?
Az utolsó kérdésre a válasz mindig "igen" legyen; Mert amíg Ön használja az eszközt, az eredmény a tiéd.
Gyakori hibák
Gyakori hibák
- Nagy hatású döntések végrehajtása felügyelet nélkül. Pénzügyben, egészségügyben, jogban és foglalkoztatásban elengedhetetlen a szakértői jóváhagyás és az írásbeli felügyelet.
- Azt jelenti: "A gép mondta." A felelősség nem az eszközt köti, hanem azt, aki használja.
- Szabályzatok szelektív alkalmazása. Az öt alapelv egy egész; Ha valamelyik hiányzik, a kockázat továbbra is fennáll.
- Az ellenőrzést mindig ugyanolyan szigorúsággal végezze el. Mérlegszabályozás kockázat szerint; sebesség alacsony kockázat mellett, aprólékosság magas kockázat mellett.
A felelősség szabadságot hoz
A felelősségteljes használat szabályai korlátozónak tűnhetnek, de ennek éppen az ellenkezőjét teszik: ha már megvannak ezek a biztonsági szokások, sokkal kényelmesebben és bátrabban használhatod az AI-t. Mert még ha van is hiba, tudod, hogy van egy szűrőd, amivel elkaphatod. A szabályok nem azért vannak, hogy lelassítsanak, hanem azért, hogy segítsenek biztonságosan gyorsítani.
Összefoglalva
- A felelős használat öt alapelve: az emberek mondják ki a végső szót, ellenőrizzék, majd bízzanak, óvják a bizalmasságot, törekedjenek a méltányosságra, legyenek átláthatók.
- Ezek az elvek kiegészítik egymást; Ha valamelyik hiányzik, a kockázat továbbra is fennáll.
- Az emberi felügyelet nélkülözhetetlen, mert a mesterséges intelligencia nem tud felelősséget vállalni és nem láthatja a teljes kontextust.
- Méretezze az auditot kockázat szerint: alacsony hatású enyhe, nagy hatás esetén szakértői jóváhagyás és írásos indoklás.
- Mivel Ön használja az eszközt, Ön felelős az eredményért is; "A gép megmondta" nem mentség.
Alkalmazási feladat
Hozz létre egy rövid, személyes „felelős mesterséges intelligencia használatának kódját” a szerepedhez a fenti sablon segítségével (maximum 6 elem). Rögzítse jól látható helyre, és egyenként gyakorolja a „gyakorlati ellenőrzőlista” táblázatban szereplő kérdéseket a következő fontos AI-kiadásnál.
Ellenőrzőlista
- [ ] A felelős használat öt alapelvét tudom megnevezni.
- [ ] Meg tudom magyarázni, miért nélkülözhetetlen az emberi kontroll.
- [ ] Az ellenőrzési szintet be tudom állítani a feladat kockázatának megfelelően.
- [ ] Felelősségteljes használat ellenőrzőlistát készítettem a szerepemhez.
- [ ] Beláttam, hogy "a gép azt mondta" nem mentség.