Vinster:
- Förmåga att koppla ansvarsfulla AI-principer (rättvisa, transparens, ansvarighet, integritet, mänsklig tillsyn, säkerhet, hållbarhet) till konkreta beslut
- Förmåga att testa berörda parter och partiskhet genom att skilja etik från laglig efterlevnad och skilja mellan "vi kan" och "vi borde"
- Möjlighet att minska missbruksscenarier i förväg genom att bädda in transparens, mänsklig övervakning och överklagande i designen
En AI-startup kan vara tekniskt perfekt, ekonomiskt lönsam och juridiskt lönsam; men det kan fortfarande vara fel. Etik är skillnaden mellan "vi kan" och "vi borde." För en högre chef är etik inte en fråga om utsmyckning eller PR; Det är grunden som upprätthåller institutionens långsiktiga tillförlitlighet, anseende och sociala legitimitet. I den här enheten kommer du att lära dig principerna för ansvarsfull AI (ett förhållningssätt för att utveckla och använda artificiell intelligens på ett sätt som är rättvist, öppet, ansvarsfullt och med respekt för mänsklig värdighet) och hur du återspeglar dem i dagliga beslut.
Grundläggande principer för ansvarsfull AI
Olika ramverk möts på liknande principer. Praktisk sammanfattning för en chef:
princip
Vad menar du?
admin fråga
rättvisa
icke-diskriminering
Påverkar detta en grupp orättvist?
transparens
vara begriplig
Kan vi förklara orsaken till beslutet?
ansvarighet
Identifiera vem som är ansvarig
Vem är ansvarig om ett fel uppstår?
Sekretess
Respekt för personuppgifter
Har vi rätt att använda data?
mänsklig övervakning
Att behålla kontrollen
Kan man invända och stoppa det?
Säkerhet
gör ingen skada
Kan detta missbrukas?
Hållbarhet
Miljö/social påverkan
Vem lägger vi kostnaden på?
Dessa principer är inte abstrakta; Var och en av dem kan kopplas till ett konkret beslut. Till exempel betyder "transparens" att låta en kund veta att de pratar med AI; "Mänsklig tillsyn" innebär att en mänsklig granskning av ett lån nekas och lämna det öppet för överklagande.
Tips: Ställ en fråga med varje AI-beslut med stor inverkan: "Kan jag tydligt förklara och stå bakom det här beslutet för den person som är mest negativt påverkad?" Om svaret kränker finns det ett etiskt problem.
Etik är annorlunda än juridik
En kritisk skillnad: laglig efterlevnad (enhet 9) är det absoluta minimum; Etik är en högre linje. Något kan vara lagligt men oetiskt. Till exempel kan en app inte vara förbjuden att använda artificiell intelligens för att manipulera användarbeteende, men det är oetiskt. Ansvariga institutioner "är det förbjudet?" inte "Är det sant?" frågar han.
Steg för steg: inbädda etik i beslutet
1. Identifiera berörda parter. Vem berörs av detta initiativ? (Kund, anställd, samhälle, missgynnade grupper)
2. Skanna med policyer. Ifrågasätt initiativet i termer av var och en av ovanstående principer.
3. Testa för partiskhet och skada. Påverkar modellen orättvist vissa grupper? Vilka är missbruksscenarierna?
4. Lägg till transparens och tillsyn. Rapportera användningen av artificiell intelligens, och lämna ingen möjlighet för mänskliga invändningar.
5. Dokument och granskning. Spara etisk bedömning; Kom tillbaka med jämna mellanrum.
tre minifodral
Fall 1 – Lagligt men fel. En app använde artificiell intelligens för att generera beroendeframkallande meddelanden för att hålla användarna kvar i appen längre. Det fanns inget juridiskt hinder, men när det rapporterades i pressen skedde en allvarlig förlust av anseende; Dess inriktning på särskilt unga användare väckte kritik. Företaget tog bort funktionen. Om det etiska filtret var från början skulle denna risk synas.
Fall 2 — Värdet av skälighetstestet. En banks kreditvärderingsmodell gav systematiskt lägre poäng till ansökningar från skyddade grupper. Detta fångades i en granskning av rättsväsendet. Modellen omarbetades och testades regelbundet för att säkerställa likvärdiga resultat mellan koncernerna. Den etiska principen (rättvisa) förvandlades till ett konkret test och förhindrade verklig skada.
Fall 3 – Transparens byggt upp förtroende. Ett e-handelsföretag satte frasen "En assistent med artificiell intelligens hjälper dig, du kan ansluta till en mänsklig representant när som helst" i början av sin chatbot för kundsupport. Transparens och mänskligt exit minskade inte tillfredsställelsen; Tvärtom ökade det förtroendet och klagomålen minskade med 15 %. Transparens som gjordes rätt var värde, inte kostnad.
Fyra kopierbara mallar
1) Etisk screening:
Din roll: ansvarig AI-konsult. Skanna detta initiativ efter sju principer: rättvisa, transparens, ansvarighet, integritet, mänsklig tillsyn, säkerhet, hållbarhet. Skriv en risk och en rekommendation för varje policy. Initiativ: [text]
2) Analys av berörda parter:
Lista alla parter som berörs av detta AI-initiativ (kund, anställd, samhälle, missgynnade grupper). Skriv ner möjliga positiva och negativa effekter för varje part; Markera gruppen som mest sannolikt kommer att skadas. Initiativ: [text]
3) Missbruksscenario:
Skapa 5 scenarier där följande AI-funktion kan missbrukas (inklusive manipulation, diskriminering, integritetskränkning, bedrägeri). Föreslå ett förebyggande designbeslut för varje scenario. Attribut: [text]
4) Transparens och övervakningskontroll:
Skriv en plan för öppenhet och mänsklig tillsyn för kundinriktad AI som: vad kommer att kommuniceras till användaren och hur; Hur kan det överföras till människor? Hur kan han invända mot beslutet? Användning: [text]
Svag prompt / Stark prompt
Svag: "Är detta AI etiskt?"
Resultat: Ett ytligt "ja/nej"; Vilken princip, vem som berörs, vilken åtgärd är oklart.
Stark: "Vi överväger att använda AI i ett verktyg för förhandsgranskning av rekryteringen (människan kommer att fatta det slutliga beslutet). Granska detta för principer om rättvisa, transparens, ansvarighet och mänsklig tillsyn. Skriv konkret vilka grupper av kandidater som kan påverkas orättvist, vilka partiskhetstester jag behöver göra och hur kandidater kan överklaga beslutet."
Resultat: En principbaserad, praktisk bedömning som identifierar den berörda parten och föreslår testning och överklagande.
Vanliga misstag
- Blandar ihop etik med laglig efterlevnad. Inte allt som är lagligt är etiskt; Etik är en högre linje.
- Lämnar etiken till sista tiden. Att få "etikgodkännande" efter design är för sent; etiken måste vara inbäddad i designen från början.
- Testar inte rättvisan. Antagandet att "vår modell är neutral" är farligt; kan inte kännas utan mätning.
- Misstag transparens för kostnad. Transparens som görs på rätt sätt ökar förtroendet och värdet.
- Hålla de drabbade sidorna smala. Att bara tänka på kunden och ignorera medarbetaren, samhället och missgynnade grupper skapar en blind fläck.
Varning: Att helt överlåta etisk utvärdering till artificiell intelligens är motsägelsefullt och farligt. AI kan hjälpa till att väcka etiska frågor, men värdebedömningen, det kulturella sammanhanget och det yttersta moraliska ansvaret vilar på människan. En organisations etiska ställningstagande bestäms av människors medvetna val, inte av "AI:n sa det."
Sammanfattningsvis
Etik är skillnaden mellan "vi kan" och "vi borde" och skyddar organisationens långsiktiga trovärdighet. Ansvarig AI; Den bygger på principerna om rättvisa, transparens, ansvarighet, integritet, mänsklig tillsyn, säkerhet och hållbarhet. Dessa principer är inte abstrakta; Det leder till konkreta beslut som att identifiera berörda parter, testa för partiskhet, tillhandahålla transparens och lägga till mänsklig tillsyn. Etik skiljer sig från juridik och är en högre linje; Det kan inte lämnas till slutet, det måste vara inbäddat i designen. I nästa enhet kommer vi att diskutera efterlevnad, som är den juridiska motsvarigheten till etik, särskilt EU:s AI-lag och KVKK.
Applikationsuppgift
Välj en kraftfull AI-start. Med mall 2, lista alla berörda parter och markera gruppen som mest sannolikt kommer att skadas. Med mall 1, skanna initiativet för de sju principerna. Definiera en konkret åtgärd (skälighetstest, insynsmeddelande, överklagandeväg, etc.) för de två mest kritiska etiska riskerna. Slutligen, "kan jag förklara detta beslut för den person som är mest negativt påverkad?" Svara ärligt på frågan.
checklista
- [ ] Jag har identifierat alla berörda parter.
- [ ] Jag granskade uppstarten med sju principer för ansvarsfull AI.
- [ ] Jag planerade ett test för partiskhet/rättvisa.
- [ ] Jag utformade transparensförklaringen.
- [ ] Jag lämnade ingen möjlighet för mänsklig tillsyn och vädjan.
- [ ] Jag tänkte på missbruksscenarier.
- [ ] "Kan jag förklara det för den som är mest negativt påverkad?" Jag klarade provet.