Gevinster:
- Evne til at knytte ansvarlige AI-principper (retfærdighed, gennemsigtighed, ansvarlighed, privatliv, menneskeligt tilsyn, sikkerhed, bæredygtighed) til konkrete beslutninger
- Evne til at teste berørte parter og bias ved at adskille etik fra lovoverholdelse og skelne mellem "vi kan" og "vi burde"
- Evne til at reducere misbrugsscenarier på forhånd ved at indlejre gennemsigtighed, menneskelig overvågning og appel i designet
En AI-startup kan være teknisk perfekt, økonomisk rentabel og juridisk levedygtig; men det kan stadig være forkert. Etik er forskellen mellem "vi kan" og "vi burde." For en seniorleder er etik ikke et spørgsmål om udsmykning eller public relations; Det er fundamentet, der fastholder institutionens langsigtede pålidelighed, omdømme og sociale legitimitet. I denne enhed lærer du principperne for ansvarlig AI (en tilgang til at udvikle og bruge kunstig intelligens på en måde, der er retfærdig, gennemsigtig, ansvarlig og respekterer den menneskelige værdighed), og hvordan du afspejler dem i daglige beslutninger.
Grundlæggende principper for ansvarlig AI
Forskellige rammer mødes efter lignende principper. Praktisk opsummering for en leder:
princip
Hvad mener du?
admin spørgsmål
retfærdighed
ikke-diskriminering
Påvirker dette en gruppe uretfærdigt?
gennemsigtighed
være forståelig
Kan vi forklare årsagen til beslutningen?
ansvarlighed
Identifikation af, hvem der er ansvarlig
Hvem er ansvarlig, hvis der opstår en fejl?
Privatliv
Respekt for personlige data
Har vi ret til at bruge data?
menneskelig overvågning
Bevarer kontrollen
Kan man gøre indsigelse og stoppe det?
Sikkerhed
gør ingen skade
Kan dette misbruges?
Bæredygtighed
Miljømæssig/social påvirkning
Hvem pålægger vi omkostningerne?
Disse principper er ikke abstrakte; Hver af dem kan knyttes til en konkret beslutning. For eksempel betyder "gennemsigtighed" at lade en kunde vide, at de taler med AI; "Menneskeligt tilsyn" betyder at få en menneskelig gennemgang af en låneafvisning og lade den være åben for appel.
Tip: Stil et spørgsmål ved hver AI-beslutning med stor indflydelse: "Kan jeg tydeligt forklare og stå bag denne beslutning til den person, der er mest negativt berørt?" Hvis svaret støder, er der et etisk problem.
Etik er anderledes end jura
En kritisk skelnen: lovlig overholdelse (enhed 9) er det absolutte minimum; Etik er en højere linje. Noget kan være lovligt, men uetisk. For eksempel må en app ikke have forbud mod at bruge kunstig intelligens til at manipulere brugeradfærd, men det er uetisk. Ansvarlige institutioner "er det forbudt?" ikke "Er det sandt?" spørger han.
Trin for trin: Indlejring af etik i beslutningen
1. Identificer berørte parter. Hvem er berørt af dette initiativ? (Kunde, medarbejder, samfund, dårligt stillede grupper)
2. Scan med politikker. Sæt spørgsmålstegn ved initiativet i forhold til hvert af ovenstående principper.
3. Test for bias og skade. Påvirker modellen uretfærdigt visse grupper? Hvad er misbrugsscenarierne?
4. Tilføj gennemsigtighed og overblik. Rapportér brugen af kunstig intelligens, så der ikke er nogen mulighed for menneskelig indvending.
5. Dokumenter og gennemgang. Gem etisk vurdering; Kom tilbage med jævne mellemrum.
tre minisager
Sag 1 — Lovligt, men forkert. En app brugte kunstig intelligens til at generere vanedannende notifikationer for at holde brugere i appen længere. Der var ingen juridisk hindring, men da det blev omtalt i pressen, var der et alvorligt tab af omdømme; Dets målretning mod især unge brugere vakte kritik. Virksomheden fjernede funktionen. Hvis det etiske filter var fra begyndelsen, ville denne risiko blive set.
Tilfælde 2 — Værdien af rimelighedstesten. En banks kreditscoringsmodel gav systematisk lavere score til ansøgninger fra beskyttede grupper. Dette blev fanget i en retsrevision. Modellen blev redesignet og testet regelmæssigt for at sikre lighed mellem koncerner i dens resultater. Det etiske princip (retfærdighed) blev til en konkret test og forhindrede reel skade.
Case 3 — Gennemsigtighed skabte tillid. En e-handelsvirksomhed satte sætningen "En kunstig intelligens-assistent hjælper dig, du kan oprette forbindelse til en menneskelig repræsentant til enhver tid" i begyndelsen af sin kundesupport-chatbot. Gennemsigtighed og menneskelig exit reducerede ikke tilfredsheden; Tværtimod øgede det tilliden, og klagerne faldt med 15 %. Gennemsigtighed gjort rigtigt var værdi, ikke omkostninger.
Fire kopierbare skabeloner
1) Etisk screening:
Din rolle: ansvarlig AI-konsulent. Scan dette initiativ for 7 principper: retfærdighed, gennemsigtighed, ansvarlighed, privatliv, menneskeligt tilsyn, sikkerhed, bæredygtighed. For hver police skal du skrive én risiko og én anbefaling. Initiativ: [tekst]
2) Analyse af berørte parter:
Liste over alle parter, der er berørt af dette AI-initiativ (kunde, medarbejder, samfund, dårligt stillede grupper). Skriv de mulige positive og negative virkninger ned for hver part; Marker den gruppe, der er mest tilbøjelig til at blive skadet. Initiativ: [tekst]
3) Misbrugsscenarie:
Generer 5 scenarier, hvor følgende AI-funktion kan blive misbrugt (herunder manipulation, diskrimination, krænkelse af privatlivets fred, bedrag). Foreslå en forebyggende designbeslutning for hvert scenarie. Attribut: [tekst]
4) Gennemsigtighed og overvågningskontrol:
Skriv en plan for gennemsigtighed og menneskelig tilsyn for kundevendt AI, der: hvad vil blive kommunikeret til brugeren og hvordan; Hvordan kan det overføres til mennesker? Hvordan kan han gøre indsigelse mod afgørelsen? Anvendelse: [tekst]
Svag prompt / Stærk prompt
Svag: "Er dette AI etisk?"
Resultat: Et overfladisk "ja/nej"; Hvilket princip, hvem der er berørt, hvilken foranstaltning er uklart.
Stærk: "Vi overvejer at bruge AI i et rekrutteringsværktøj til forhåndsscreening (mennesket vil træffe den endelige beslutning). Screen dette for principper om retfærdighed, gennemsigtighed, ansvarlighed og menneskeligt tilsyn. Skriv konkret, hvilke grupper af kandidater der kan blive uretfærdigt berørt, hvilke bias-tests jeg skal lave, og hvordan kandidater kan appellere beslutningen."
Resultat: En principbaseret, praktisk vurdering, der identificerer den berørte part og foreslår test og appel.
Almindelige fejl
- Forvirrer etik med lovoverholdelse. Ikke alt, der er lovligt, er etisk; Etik er en højere linje.
- Overlader etikken til at vare ved. At opnå "etisk godkendelse" efter design er for sent; etik skal være indlejret i designet fra begyndelsen.
- Ikke at prøve retfærdighed. Antagelsen om, at "vores model er neutral" er farlig; kan ikke kendes uden måling.
- At tage fejl af gennemsigtighed for omkostninger. Gennemsigtighed gjort rigtigt øger tillid og værdi.
- Holde de berørte sider smalle. At kun tænke på kunden og ignorere medarbejderen, samfundet og udsatte grupper skaber en blind vinkel.
Forsigtig: At overlade etisk evaluering fuldstændigt til kunstig intelligens er selvmodsigende og farligt. AI kan hjælpe med at rejse etiske spørgsmål, men værdidommen, den kulturelle kontekst og det ultimative moralske ansvar ligger hos mennesket. En organisations etiske holdning er bestemt af folks bevidste valg, ikke af "AI'en sagde det."
Sammenfattende
Etik er forskellen mellem "vi kan" og "vi burde" og beskytter organisationens langsigtede troværdighed. Ansvarlig AI; Det er baseret på principperne om retfærdighed, gennemsigtighed, ansvarlighed, privatliv, menneskeligt tilsyn, sikkerhed og bæredygtighed. Disse principper er ikke abstrakte; Det udmønter sig i konkrete beslutninger som at identificere berørte parter, teste for bias, give gennemsigtighed og tilføje menneskeligt tilsyn. Etik er forskellig fra lov og er en højere linje; Det kan ikke overlades til enden, det skal være indlejret i designet. I den næste enhed vil vi diskutere compliance, som er den juridiske ækvivalent til etik, især EU AI-loven og KVKK.
Ansøgningsopgave
Vælg en effektiv AI-startup. Med skabelon 2 skal du liste alle berørte parter og markere den gruppe, der er mest tilbøjelig til at blive skadet. Scan initiativet for de syv principper med skabelon 1. Definer en konkret foranstaltning (rimelighedstest, gennemsigtighedsmeddelelse, appelvej osv.) for de to mest kritiske etiske risici. Til sidst, "kan jeg forklare denne beslutning til den person, der er mest negativt berørt?" Besvar spørgsmålet ærligt.
tjekliste
- [ ] Jeg har identificeret alle berørte parter.
- [ ] Jeg screenede opstarten med syv principper for ansvarlig AI.
- [ ] Jeg planlagde en test for bias/fairness.
- [ ] Jeg har designet gennemsigtighedserklæringen.
- [ ] Jeg efterlod ingen mulighed for menneskelig tilsyn og appel.
- [ ] Jeg tænkte på misbrugsscenarier.
- [ ] "Kan jeg forklare det til den mest negativt berørte?" Jeg bestod prøven.