Pelnas:
- Gebėjimas aptikti paslėptą diskriminaciją suprantant, kad šališkumas kyla iš duomenų (istorinių, reprezentacinių, matavimo, agregavimo) ir vertinant modelį pagal pogrupius
- Gebėjimas užtikrinti paaiškinamumą, žmogiškąją priežiūrą ir atskaitomybę priimant didelio poveikio sprendimus bei dokumentų skaidrumą naudojant pavyzdinę kortelę
- Galimybė valdyti finansines ir aplinkosaugos išlaidas nepakenkiant kokybei naudojant mažiausią tinkamą modelį, greitą sutrumpinimą, talpyklą ir paketą
Modelis gali techniškai veikti nepriekaištingai, bet vis tiek būti klaidingas – jei jis nesąžiningas kai kuriems žmonėms, nepaaiškinamas arba sukelia netvarias išlaidas. Šiame skyriuje aptariame tris „nematomus“, bet lemiamus ML inžinerijos aspektus: šališkumą ir sąžiningumą, etiką ir skaidrumą, kainą ir tvarumą. Tai ne vėliau pridėti ornamentai, o neatsiejama inžinerinės kokybės dalis.
Iš kur atsiranda išankstinis nusistatymas?
Modelio šališkumas (sistemingas modelio tam tikrų grupių traktavimas skirtingai / nesąžiningai) dažniausiai kyla iš duomenų, o ne iš modelio. Šaltiniai:
- Istorinis šališkumas: duomenys atspindi praeities neteisybę. Jei tam tikrai grupei praeityje buvo suteikta mažiau kreditų, tais duomenimis parengtas modelis išmoks ir išliks šios diskriminacijos atžvilgiu.
- Atstovavimo šališkumas: kai kurios grupės yra nepakankamai atstovaujamos duomenyse; modelis jiems veikia prastai (pvz., mažas tikslumas mažoje demografinėje imtyje).
- Vertinimo šališkumas: pačios etiketės yra šališkos (pvz., jei „gero darbuotojo“ apibrėžimas pagrįstas ankstesniais paaukštinimo sprendimais).
- Agregavimo šališkumas: kadangi duomenys gaunami iš konkretaus kanalo, jie neatspindi visatos.
Modelis ne tik išmoksta šių šališkumo; padidinamas jį automatizuodamas. Vieno žmogaus šališkas sprendimas paveikia kitą asmenį; Šališko modelio verdiktas – milijonai.
Atsargiai: nepadarykite klaidos sakydami „modelis neutralus, nes tai tik matematika“. Modelis išmoksta ir automatizuoja žmogaus šališkumą duomenims. Neutralumas nėra numatytasis, o rezultatas, kurį reikia išmatuoti ir užtikrinti.
matuojant teisingumą
Norint valdyti teisingumą, pirmiausia būtina jį išmatuoti. Norėdami tai padaryti, įvertinkite modelį pagal pogrupius: ar tokios metrikos kaip tikslumas, prisiminimas, klaidingai teigiamas rodiklis yra vienodi skirtingose demografinėse grupėse? Keletas teisingumo sampratų:
- Grupės sąžiningumas: ar modelis teisingai/neteisingai traktuoja skirtingas grupes panašiais tarifais?
- Galimybių lygybė: ar modelis visose grupėse vienodai fiksuoja tikrai teigiamas (vienodas prisiminimas)?
Svarbus faktas: skirtingi teisingumo apibrėžimai gali būti netenkinami vienu metu (tai matematinė pasekmė). Kuriam teisingumo apibrėžimui šiame kontekste teikiama pirmenybė, yra etinis ir verslo sprendimas, o ne techninis, ir priimamas kartu su suinteresuotosiomis šalimis.
Silpnas požiūris / Stiprus požiūris
Prastas: "Bendras modelio tikslumas yra 88%, o tai yra teisinga."
Güçlü: "Bendras tikslumas buvo 88%, bet kai mes suskirstėme jį į pogrupius, atšaukimas buvo 91% vienoje grupėje ir 67% kitoje grupėje – modelis sistemingai trūko tos grupės. Mes dokumentavome priežastį (atstovavimo trūkumą), surinkome duomenis apie tą grupę ir iš naujo įvertinome ją siekdami vienodo atšaukimo tikslo. Nusprendėme, kuriam sąžiningumo apibrėžimui teikti pirmenybę.
Skirtumas: tvirtas požiūris nesislepia už bendrosios metrikos, jis atskiria pogrupius, o teisingumą traktuoja kaip atvirą sprendimą.
Etika ir skaidrumas
Pagrindiniai atsakingo AI principai yra šie:
- Paaiškinimas: ar galima paaiškinti, kodėl modelis priėmė tokį sprendimą? Priimant didelį poveikį turinčius sprendimus (kreditas, įdarbinimas, sveikatos priežiūra) žmogus turi teisę į paaiškinimą. Nepaaiškinamas modelis neturėtų būti naudojamas šiose srityse arba turėtų būti paremtas paaiškinamu metodu.
- Žmogaus priežiūra: didelio poveikio sprendimai neturėtų būti priimami automatiškai; Modelis siūlo, žmogus patvirtina.
- Atskaitomybė: turėtų būti aišku, kas atsakingas, kai modelis padaro klaidą. „Modelis nusprendė“ nėra pasiteisinimas.
- Skaidrumas: vartotojas turėtų žinoti, kad jis sąveikauja su AI ir kaip naudojami jo duomenys.
Daugelyje šalių ir sektorių šie principai taip pat įtvirtinti teisės aktuose (didelės rizikos dirbtinio intelekto sistemų skaidrumo, audito ir žmogaus priežiūros įsipareigojimai). Inžinierius yra atsakingas už savo srities taisyklių išmanymą.
Patarimas: Išsaugokite kiekvieno didelio poveikio modelio „modelio kortelę“: ką modelis veikia, kokiais duomenimis jis buvo apmokytas, kaip gerai/blogai jis veikia kokiose grupėse, kokios jo žinomos ribos. Šis dokumentas yra ir skaidrumo, ir atskaitomybės įrankis.
Kaina ir tvarumas
AI nėra pigus. Išlaidos valdomos dviem aspektais:
Finansinės išlaidos:
- Žetonų kaina (LLM): kiekviena užklausa ir atsakymas kainuoja žetonus; Didėjant apimtims, auga ir sąskaita. Nereikalingi ilgi raginimai, per didelis modelių pasirinkimas ir nekontroliuojamos agento kilpos (5 blokas) padidina išlaidas.
- Mokymas ir priegloba: koregavimas ir modelio pristatymas patiria aparatinės įrangos išlaidų.
- Optimizavimas: nenaudokite didelio modelio, jei pakanka mažo modelio; talpykloje saugoti dažniausiai užduodamus klausimus; sutrumpinti raginimą; Partiją, ką galima apdoroti.
Aplinkosaugos išlaidos: Didelis modelio mokymas ir išvados sunaudoja daug energijos. Dėl tvarumo nereikalingų skaičiavimų išvengimas (teisingo dydžio modelis, efektyvi architektūra) yra profesionali atsakomybė.
Patarimas: pirmoji išlaidų optimizavimo taisyklė: „Koks mažiausias tinkamas modelis šiam darbui? Visur dėti galingiausią modelį – tai lyg įkalti vinį plaktuku – brangu ir nereikalinga.
trys mini dėklai
1 atvejis – paslėpta diskriminacija. Įdarbinimo atrankos modelis apskritai atrodė gerai. Pogrupių analizė parodė, kad modelis sistemingai pabrėžia moterų kandidates, nes istoriniuose duomenyse dominuoja vyrai – jis išmoko istorinį šališkumą. Modelis buvo sustabdytas, duomenys subalansuoti ir sąžiningumo metrika stebima. Bendras teisumas pridengė paslėptą diskriminaciją.
2 atvejis – nepaaiškinamas atmetimas. Kredito modelis atmetė paraiškas, bet niekas negalėjo paaiškinti, kodėl. Kai klientas paprašė teisinio paaiškinimo, komanda negalėjo atsakyti. Modelis buvo pašalintas iš didelio poveikio sprendimų, kol nebuvo pridėtas paaiškinamas metodas ir buvo pateiktas kiekvieno atmetimo pagrindimas. Pamoka: paaiškinamumas yra būtinas priimant didelio poveikio sprendimus.
3 atvejis – Bilo šokas. Viena komanda naudojo didžiausią LLM ir labai ilgus raginimus kiekvienai užklausai. Mėnesio sąskaita netikėtai išaugo. Įrašo analizė: daugumą užklausų buvo galima išspręsti naudojant nedidelį modelį, pusė raginimų buvo pertekliniai, o dažni klausimai gali būti talpinami. Šie trys optimizavimai žymiai sumažino išlaidas, nepakenkiant kokybei. Pamoka: galingiausias modelis nebūtinas visur.
Kopijuojami šablonai
Padėkite man įvertinti šio modelio šališkumą / teisingumą. Kokius pogrupius (demografinius / segmentus) turėčiau padalinti ir įvertinti? Kokius rodiklius (tikslumą, prisiminimą, klaidingų teigiamų rezultatų rodiklį pagal grupę) turėčiau palyginti? Ar skirtingi sąžiningumo apibrėžimai gali prieštarauti, kam turėčiau teikti pirmenybę šiame kontekste ir kodėl? Modelio / sprendimo kontekstas: [paaiškinimas]
Sukurkite šio didelio poveikio modelio modelio kortelės juodraštį. Turėtų būti nurodyta: tikslas, mokymo duomenys ir data, našumas pogrupiuose, žinomos ribos, tinkamas / netinkamas naudojimas, paaiškinamumo būsena, žmogaus priežiūros taškas. Modelis: [description]
Padėkite man sumažinti šio LLM diegimo išlaidas, nepakenkiant kokybei.Galima: modelio dydis, vidutinis užklausos ilgis, užklausos apimtis, ar yra talpyklos? Įvertinkite:1) Ar užtenka mažesnio modelio (kurioms užduotims atlikti)?2) Ar galima sutrumpinti raginimą?3) Ar dažnas užklausas galima išsaugoti talpykloje?4) Ar yra darbų paketui? Užsirašykite numatomą kiekvieno pasiūlymo poveikį.
Sudarykite šios didelio poveikio sprendimų sistemos etikos / atsakomybės kontrolinį sąrašą.- Paaiškinimas: ar galima pateikti sprendimo pagrindimą?- Žmogaus priežiūra: ar didelio poveikio sprendimas turi būti patvirtintas?- Atskaitomybė: kas atsakingas klaidos atveju?- Skaidrumas: ar vartotojas žino, kad naudojamas dirbtinis intelektas?- Reglamentas: kokie teisiniai įsipareigojimai: [aprašymas]
Šaltinio šaltinio lentelė
Šaltinis
simptomas
atsargumo priemonė
istorinis šališkumas
Praeities diskriminacija tęsiasi
Duomenų auditas + sąžiningumo metrika
reprezentacijos šališkumas
Mažas tikslumas mažoje imčių grupėje
Pogrupių analizė + balansavimas
matavimo šališkumas
šališkos etiketės
Etikečių proceso peržiūra
Agregavimo šališkumas
Visata nevaizduojama
Išteklių diversifikavimas
Dažnos klaidos
- Remdamiesi bendra metrika. Paslėptos diskriminacijos negalima pamatyti be pogrupių analizės.
- Darant prielaidą, kad modelis yra neutralus. Modelis išmoksta ir sustiprina duomenų šališkumą.
- Didelio poveikio sprendimą palikimas nepaaiškinamam modeliui. Teisinė ir etinė rizika.
- Apeinant žmogaus priežiūrą. „Modelis nusprendė“ nėra pasiteisinimas.
- Visur dedame didžiausią modelį. Nereikalingos išlaidos ir energija.
- Nestebėti išlaidų. Sąskaita tyliai išsipučia.
Apibendrinant
Techniškai teisingas modelis vis tiek yra nesėkmė, jei jis nėra teisingas, paaiškinamas ir tvarus. Poslinkis dažniausiai atsiranda dėl duomenų, o modelis juos padidina masteliu; Išmatuokite teisingumą pagal pogrupius ir susitarkite su suinteresuotosiomis šalimis, kuriam sąžiningumo apibrėžimui teikti pirmenybę. Paaiškinamumas, žmogiškoji priežiūra ir atskaitomybė yra būtini priimant didelio poveikio sprendimus; Dokumento skaidrumas su modelio kortele. Valdykite išlaidas ir energiją: pasirinkite mažiausią tinkamą modelį, sutrumpinkite raginimą, naudokite talpyklą ir paketą. Šie matmenys yra neatsiejama inžinerinės kokybės dalis, o ne vėliau pridėtos smulkmenos.
Taikymo užduotis
Padalinkite modelį į bent du pogrupius ir palyginkite prisiminimo ir klaidingai teigiamų rezultatų rodiklį pagal grupę; Jei yra reikšmingas skirtumas, parašykite priežastį ir atsargumo priemonę. Sudarykite trumpą didelio poveikio modelio modelio kortelę (tikslas, duomenys, pogrupio veikimas, ribos, paaiškinamumas). Nustatykite bent du konkrečius optimizavimus (minimalus / greitas sutrumpinimas / talpykla / paketas), kad sumažintumėte LLM diegimo išlaidas ir užsirašykite jų numatomą poveikį.
kontrolinis sąrašas
- [ ] Modelį įvertinau pagal pogrupius, nesiremiau bendra metrika.
- [ ] Su suinteresuotosiomis šalimis nusprendžiau, kuriam teisingumo apibrėžimui teiksiu pirmenybę.
- [ ] Didelio poveikio sprendimas yra paaiškinamas ir jam pritaria žmogus.
- [ ] Skaidrumą ir ribas dokumentavau modelio kortele.
- [ ] Aš pasirinkau mažiausią tinkamą modelį; Aš optimizavau raginimą / talpyklą / paketą.
- [ ] Stebiu sąnaudas ir energijos poveikį.