Girdeji:
- Ikitaraplaýyn maglumatlaryň (taryhy, wekilçilik, ölçeg, jemlemek) gelip çykýandygyna düşünmek we modeli kiçi toparlar esasynda baha bermek arkaly gizlin diskriminasiýany ýüze çykarmak ukyby;
- Effectiveokary täsirli kararlarda düşnükliligi, adam gözegçiligini we jogapkärçiligi üpjün etmek we nusga kartoçkasy bilen resminamalaryň aýdyňlygyny üpjün etmek
- Maliýe we daşky gurşaw çykdajylaryny iň kiçi göwrümli model, gyssagly gysgaltmak, keş we partiýa bilen hiline zyýan bermezden dolandyrmak ukyby;
Bir model tehniki taýdan ajaýyp işläp biler, ýöne nädogry bolup biler - käbir adamlara adalatsyz bolsa, düşündirip bolmaýan ýa-da dowam edip bolmajak çykdajylary döredýän bolsa. Bu bölümde ML in engineeringenerçiliginiň üç sany "görünmeýän", ýöne aýgytly ölçeglerini öz içine alýarys: ikitaraplaýynlyk we adalatlylyk, edep we aç-açanlyk, çykdajylar we dowamlylyk. Bular soň goşulan bezegler däl, in engineeringenerçilik hiliniň aýrylmaz bölekleri.
Düşünişmezlik nireden gelýär?
Model ikitaraplaýynlyk (modeliň käbir toparlara başgaça / adalatsyz çemeleşmegi) adatça modelden däl-de, maglumatlardan gelýär. Çeşmeler:
- Taryhy taraplar: Maglumatlar öňki adalatsyzlygy görkezýär. Geçmişde belli bir topara az karz berlen bolsa, şol maglumatlar boýunça taýýarlanan model bu diskriminasiýany öwrener we dowam etdirer.
- Wekilçilik taraplary: Käbir toparlar maglumatlarda az görkezilýär; model olar üçin pes ýerine ýetirýär (meselem, kiçijik demografik nusgada pes takyklyk).
- Ölçeg ikitaraplaýynlygy: Etiketkalaryň özleri ikitaraplaýyn (meselem, “gowy işgäriň” kesgitlemesi öňki mahabat kararlaryna esaslanýan bolsa).
- Agregasiýa ikitaraplaýynlygy: Maglumatlar belli bir kanaldan gelýänligi sebäpli, älemiň wekili däl.
Model diňe bu taraplary öwrenenok; awtomatlaşdyrmak arkaly terezini ýokarlandyrýar. Bir adamyň tarapgöý karary başga bir adama täsir edýär; Ikitaraplaýyn modeliň hökümi millionlarça.
Üns beriň: "model bitarap, sebäbi diňe matematika" diýmek ýalňyşmaň. Model maglumatlarda adam tarapyny öwrenýär we awtomatlaşdyrýar. Bitaraplyk asyl däl, ölçelmeli we üpjün edilmeli netije.
adalaty ölçemek
Adalaty dolandyrmak üçin ilki bilen ony ölçemeli. Munuň üçin modeli kiçi topara baha beriň: takyklyk, ýatlamak, ýalan pozitiw dereje ýaly ölçegler dürli demografiki toparlara deňmi? Adalat barada birnäçe düşünje:
- Topar adalatlylygy: Model dürli toparlara meňzeş nyrhlarda dogry / nädogry seredýärmi?
- Mümkinçiligiň deňligi: Model hakykatdanam oňyn taraplary ähli toparlarda deň derejede alýarmy (deň ýatlamak)?
Möhüm hakykat: adalatyň dürli kesgitlemeleri bir wagtyň özünde kanagatlandyrylyp bilinmez (bu matematiki netije). Bu kontekstde haýsy adalat kesgitlemesi birinji orunda durýar, tehniki däl-de, ahlak we iş karary we gyzyklanýan taraplar bilen bilelikde kabul edilýär.
Gowşak çemeleşme / Güýçli çemeleşme
Garyp: "Modeliň umumy takyklygy 88%, adalatly."
Güçlü: "Umuman takyklyk 88% boldy, ýöne ony kiçi toparlara bölenimizde, yzyna çagyrmak bir toparda 91%, beýleki toparda 67% boldy - model bu topar yzygiderli ýitirim boldy. Sebäbini dokumentleşdirdik (wekilçiligiň ýoklugy), şol topar üçin maglumat ýygnadyk we deň hukukly maksat bilen täzeden baha berdik. Gyzyklanýan taraplar bilen adalatyň kesgitlemesini ileri tutarys.
Tapawut: güýçli çemeleşme umumy ölçegleriň aňyrsynda gizlenmeýär, kiçi toparlary bölýär we adalatlylyga açyk karar hökmünde garaýar.
Etika we aç-açanlyk
Jogapkärli AI-iň esasy ýörelgeleri:
- Düşündiriş: Modeliň näme üçin beýle karara gelendigini düşündirip bolarmy? Impactokary täsirli kararlarda (karz, işe almak, saglygy goraýyş) düşündiriş bermäge hukugy bar. Düşündirilmedik model bu ugurlarda ulanylmaly däldir ýa-da düşnükli usul bilen goldanylmaly däldir.
- Adam gözegçiligi: impactokary täsirli kararlar awtomatiki kabul edilmeli däldir; Adam tassyklaýar, model.
- Jogapkärçilik: Model ýalňyşlyk goýberilende kimiň jogapkärdigi belli bolmaly. “Karar berlen model” bahana däl.
- Aç-açanlyk: Ulanyjy AI bilen täsirleşýändigini we maglumatlarynyň nähili ulanylýandygyny bilmelidir.
Köp ýurtda we pudaklarda bu ýörelgeler kanunçylyga (aç-açanlyk, audit we ýokary töwekgelçilikli AI ulgamlary üçin adam gözegçilik borçnamalary) girizildi. Inerener, öz ugrunyň düzgünlerini bilmek üçin jogapkärdir.
Maslahat: Her ýokary täsirli model üçin "model kartoçkany" saklaň: model näme edýär, haýsy maglumatlary öwredýär, haýsy toparlarda näderejede gowy / erbet işleýär, belli çäkler. Bu resminama aç-açanlyk we jogapkärçilik guralydyr.
Bahasy we dowamlylygy
AI arzan däl. Bahasy iki ölçegde dolandyrylýar:
Maliýe çykdajylary:
- Token bahasy (LLM): Her haýyş we jogap bahasy bellikler; Sesiň ulalmagy bilen hasaby artýar. Gereksiz uzyn teklipler, aşa uly model saýlamak we gözegçiliksiz agent aýlawlary (5-nji bölüm) çykdajylary ýokarlandyrýar.
- Okuw we hosting: Inçe düzmek we modeliň görkezilmegi enjam çykdajylaryny öz içine alýar.
- Optimizasiýa: Kiçijik model ýeterlik bolsa uly modeli ulanmaň; keş ýygy-ýygydan berilýän soraglar; haýyşy gysgaltmak; Gaýtadan işlenip bilinjek zatlary jemläň.
Daşky gurşawyň bahasy: Uly model okuwy we gözleg ep-esli energiýa sarp edýär. Durnuklylyk, zerur däl hasaplamalardan (dogry ölçeg modeli, täsirli arhitektura) hünär jogapkärçiligini döredýär.
Maslahat: Çykdajylary optimizirlemegiň ilkinji düzgüni: "Bu iş üçin iň kiçi laýyk model haýsy?" Iň güýçli modeli hemme ýerde goýmak, balyoz bilen dyrnagy çekmek ýaly - gymmat we zerur däl.
üç sany kiçi halat
1-nji waka - Gizlin diskriminasiýa. Işe almagyň barlag modeli umuman gowy görünýärdi. Kiçi toparyň derňewi, modeliň aýal kandidatlary yzygiderli görkezýändigini, sebäbi taryhy maglumatlaryň erkekleriň agdyklyk edýändigini, taryhy tarapdan öwrenilendigini ýüze çykardy. Model togtadyldy, maglumatlar deňagramlaşdyryldy we adalatlylyk ölçegleri gözegçilikde saklandy. Umumy dogrulyk gizlin diskriminasiýany ýapýardy.
2-nji waka - düşündirilmedik ret etmek. Karz modeli arzalary ret edýärdi, ýöne sebäbini hiç kim düşündirip bilmedi. Müşderi kanuny düşündiriş soranda, topar jogap berip bilmedi. Model, täsirli usul goşulýança we her ret etmek üçin delil getirilýänçä, ýokary täsirli kararlarda ulanmakdan aýryldy. Sapak: täsirli karar bermekde düşündirmek möhümdir.
3-nji waka - Bill şok. Bir topar iň uly LLM we her haýyş üçin gaty uzyn teklipleri ulanýardy. Aýlyk töleg garaşylmadyk ýagdaýda ösdi. Post derňewi: haýyşlaryň köpüsi kiçijik model bilen çözülip bilner, teklipleriň ýarysy artykmaç we ýygy-ýygydan soraglar keş görnüşinde saklanyp bilner. Bu üç optimizasiýa, hiline zyýan bermezden çykdajylary ep-esli azaltdy. Sapak: iň güýçli model hemme ýerde zerur däl.
Göçürip boljak galyplar
Iki taraplaýyn / adalatlylyk üçin bu modeli bahalandyrmaga kömek ediň. Haýsy kiçi toparlary (demografiki / segment) bölmeli we ölçemeli? Haýsy ölçegleri (takyklyk, ýatlamak, topar boýunça ýalan polo positiveitel dereje) deňeşdirmeli? Bu kontekstde ileri tutmaly we näme üçin adalatlylygyň dürli kesgitlemeleri bolup biler? Model / karar mazmuny: [düşündiriş]
Bu ýokary täsirli model üçin model kartoçkasyny taýýarlaň. Şulary öz içine almalydyr: maksat, okuw maglumatlary we senesi, kiçi toparlardaky öndürijilik, belli çäkler, laýyk / ýerliksiz ulanmak, düşündiriş ýagdaýy, adam gözegçiligi nokady. Model: [düşündiriş]
Hiline zyýan bermezden, bu LLM amala aşyrmagyň bahasyny azaltmaga kömek ediň. Elýeterli: modeliň ululygy, ortaça tizligi, haýyşyň göwrümi, keş barmy? Bahalandyryň: 1) Has kiçi model ýeterlikmi (haýsy meseleler üçin)? 2) Çalt gysgaldyp bolarmy? 3) frequygy-ýygydan haýyşlar keş görnüşinde saklanyp bilnermi? 4) Her teklipiň çak edilýän täsirini ýazyň.
Bu ýokary täsirli karar ulgamy üçin etika / jogapkärçilik barlag sanawyny öndüriň.
Ikitaraplaýyn çeşme tablisasy
Çeşme
alamaty
seresaplyk
taryhy tarapgöýlik
Öňki diskriminasiýa dowam edýär
Maglumatlaryň barlagy + adalatlylyk ölçegi
wekilçilik taraplary
Ownuk nusga toparynda pes takyklyk
Kiçi toparyň derňewi + deňagramlylyk
ölçeg taraplary
ikitaraplaýyn ýazgylar
Bellik prosesine syn
Agregasiýa ikitaraplaýyn
Universelem şekillendirilmeýär
Resurslaryň diwersifikasiýasy
Adaty ýalňyşlyklar
- Umumy ölçege bil baglamak. Gizlin diskriminasiýa kiçi toparyň derňewi bolmazdan görüp bolmaz.
- "Model bitarap" diýip çaklamak. Model maglumatlardaky ikitaraplaýynlygy öwrenýär we güýçlendirýär.
- Impactokary täsirli karary düşündirilmedik modele goýmak. Hukuk we ahlak töwekgelçiligi.
- Adam gözegçiliginden aýlanyp geçmek. "Karar berlen model" bahana däl.
- Iň uly modeli hemme ýerde goýmak. Gereksiz çykdajy we energiýa.
- Gözegçiligiň bahasy däl. Kanun sessiz çişýär.
Gysgaça
Tehniki taýdan dogry model, adalatly, düşnükli we dowamly bolmasa, şowsuzlykdyr. Ikitaraplaýynlyk esasan maglumatlardan gelýär we model ony masştabda ulaldýar; Kiçi toparlar boýunça adalatlylygy ölçäň we adalatlylygy kesgitlemegiň ileri tutulýan taraplary bilen ylalaşyň. Täsirli kararlarda düşündiriş, adam gözegçiligi we jogapkärçilik möhümdir; Model kartoçkasy bilen resminamanyň aç-açanlygy. Çykdajylary we energiýany dolandyryň: iň kiçi ýeterlik modeli saýlaň, gyssagly gysgaldyň, keş we partiýany ulanyň. Bu ölçegler, soň goşulan friller däl-de, in engineeringenerçilik hiliniň aýrylmaz bölekleri.
Programma meselesi
Bir modeli azyndan iki kiçi topara bölüň we yzyna gaýtarmak we ýalan polo positiveitel derejäni toparlaýyn deňeşdiriň; Möhüm tapawut bar bolsa, sebäbini we seresaplygyny ýazyň. Impactokary täsirli model üçin gysga model kartasyny taýýarlaň (maksat, maglumatlar, kiçi toparyň işleýşi, araçäkleri, düşündirilişi). LLM-i durmuşa geçirmegiň çykdajylaryny azaltmak we çak edilýän täsirini ýazmak üçin azyndan iki sany anyk optimizasiýany kesgitläň (iň az / gyssagly kesmek / keş / partiýa).
gözegçilik sanawy
- [] Modeliň kiçi toparlara esaslanyp baha berdim, umumy ölçege bil baglamadym.
- [] Gyzyklanýan taraplar bilen haýsy adalat kesgitlemesini ileri tutjakdygyma karar berdim.
- [] Impactokary täsirli karar düşnükli we adam tarapyndan tassyklanmalydyr.
- [] Nusga kartoçkasy bilen aç-açanlygy we çäkleri dokumentleşdirdim.
- [] Iň kiçi ýeterlik modeli saýladym; Çalt / keş / partiýany optimizirledim.
- [] Bahasyna we energiýa täsirine gözegçilik edýärin.