MLOps Foundation, siðfræði, friðhelgi einkalífs og ábyrg greining

Hagnaður:

• Geta til að skilja MLOps fasa (losun, dreifing, vöktun, endurþjálfun, afturköllun) og líkanafrek og skipuleggja vöktaða dreifingu
• Hæfni til að beita meginreglum um sanngirni, gagnsæi og ábyrgð og greina tölfræðilega nákvæmni frá siðferðilegri ásættun
• Hæfni til að vernda persónuupplýsingar með KVKK/GDPR meginreglum og úthluta endanlega ábyrgð á mann í áhrifamiklum ákvörðunum

Að þjálfa módel og fá háa einkunn er ekki endirinn heldur miðjan. Raunvirðið kemur þegar líkanið er komið í framleiðslu og virkar áreiðanlega, fylgst er með tímanum án þess að rýrni og allt ferlið fer fram innan siðferðilegra og lagalegra marka. Þessi lokaeining sameinar þrjú viðfangsefni: MLOps (greinin að fara í loftið, fylgjast með og viðhalda módelum), siðferði (sanngirni, gagnsæi, ekki illmennska) og friðhelgi einkalífs (verndun persónuupplýsinga). AI framleiðir kóða, gátlista og teikningar á þessum sviðum; En menn ákveða hvort líkan fer í loftið, hverjir verða fyrir áhrifum og hvaða gögn er hægt að nota. Þessar ákvarðanir eru ekki tæknilegar, heldur ábyrgðarákvarðanir.

MLOps: líkanið lifir eins og vara

MLOps (Machine Learning Operations - æfingin við að keyra, fylgjast með og uppfæra vélanámslíkön í framleiðslu) er aðlögun DevOps í hugbúnaðarþróun að gagnavísindum. Grunnhugmyndin: líkan er ekki skrá sem er þjálfuð einu sinni og gleymd, heldur lifandi vara sem krefst stöðugs viðhalds. Helstu stig:

1. Útgáfa: Kóði (Git), gögn og líkan eru útgáfur saman; Skráð er hvaða gerð var framleidd með hvaða gögnum og kóða.

2. Dreifing: Líkanið er sett í notkun sem API eða lotuvinna. Það er venjulega gefið litlum áhorfendum fyrst (dreifing skugga/kanarífugla).

3. Vöktun: Stöðugt er fylgst með frammistöðu líkansins og inntaksgagna.

4. Endurmenntun: Þegar árangur minnkar er líkanið endurþjálfað með uppfærðum gögnum.

Mynsturbreyting: hljóðlaus röskun

Stærsta hættan í framleiðslu er líkansrek (líkanafrek / gagnarek). Heimurinn breytist; Skilyrðin sem þú þjálfaðir líkanið þitt á (hegðun viðskiptavina, verð, árstíð, löggjöf) breytast með tímanum og líkanið fer að verða úrelt. Til dæmis er eftirspurnarlíkan sem þjálfað var fyrir heimsfaraldurinn algjörlega rangt meðan á heimsfaraldri stendur. Svif á sér stað í tvennu formi: gagnarek (dreifing inntaksgagna breytist) og hugtakarek (sambandið milli inntaks- og markbreytinga). Leiðin til að fanga þetta er eftirlit: fylgstu stöðugt með inntaksdreifingunni, spádreifingunni og (ef mögulegt er) frammistöðu miðað við raunverulega niðurstöðu.

Varúð: Líkan sem sett er í framleiðslu mun rýrnast af sjálfu sér; Þetta er ekki spurning um „ef“ heldur „hvenær“. Að beita líkönum án þess að setja upp eftirlit er eins og að keyra bíl án þess að stjórna vélinni; Einn daginn situr það bara rólegt og þú tekur ekki eftir því.

MLOps þáttur

Tilgangur

Ef vanrækt er

Útgáfa

Að vita hvað er framleitt

Óafritanlegt, ekki rekjanlegt

Eftirlit

Að sjá miðann snemma

Módelið brotnar hljóðlaust niður

endurmenntun

vertu uppfærður

Spár eldast

Til baka

fara aftur í slæma fyrirmynd

Gallað líkan er áfram lifandi

Skjöl

gagnsæi, velta

Upplýsingar festast í einni manneskju

Siðfræði: fyrirmyndarákvarðanir hafa áhrif á fólk

Gagnalíkön eru í auknum mæli notuð við ákvarðanir sem hafa áhrif á líf fólks: lánsfé, ráðningar, tryggingar, réttlæti. Með þessu valdi fylgir ábyrgð. Helstu siðferðilega áhættur:

Hlutdrægni og mismunun: Líkanið getur lært og viðhaldið óréttlæti í sögulegum gögnum. Ef ákveðinn hópur hefur áður fengið minna lánstraust, gerir líkanið ráð fyrir að þetta sé „regla“ og gerir mismunun sjálfvirkan. Þess vegna er sanngirnisgreining - að athuga hvort líkanið virki svipað fyrir mismunandi hópa (kyn, aldur, svæði) - nauðsynleg.

Gagnsæi og skýring: Þú ættir að geta útskýrt hvers vegna fyrirsæta hafnaði manni. „Svarti kassinn sagði það“ er siðferðilega og oft lagalega óviðunandi. Þess vegna eru útskýringartæki (mikilvægi eiginleika, SHAP gildi) verðmæt.

Ábyrgð: Hver ber ábyrgð ef líkanið tekur ranga ákvörðun? Svarið er alltaf manneskja/stofnun, ekki fyrirmynd. Mannlegt eftirlit (man-in-the-loop - manneskja sem samþykkir endanlega ákvörðun) ætti að vera varðveitt í áhrifamiklum ákvörðunum.

Varúð: Líkan getur verið tölfræðilega „rétt“ en siðferðilega óviðunandi. Mjög nákvæmt líkan sem kemur einum hópi kerfisbundið í óhag er ekki gott líkan. Heiðarleiki kemur ekki í staðinn fyrir réttlæti.

Persónuvernd: persónuupplýsingar eru vandlega verndaðar

Hráefni gagnavísinda eru oft persónuupplýsingar og þessi gögn eru vernduð með lögum: KVKK í Türkiye, GDPR í Evrópu. Grundvallarreglurnar eru: takmörkun á tilgangi (gögn eru ekki notuð í öðrum tilgangi en þeim tilgangi sem þeim var safnað fyrir), gagnalágmörkun (ekki er safnað/geymt meira gögn en nauðsynlegt er), nafnleynd (auðkennisupplýsingar eru fjarlægðar) og öryggi (gögnum er haldið dulkóðuðum og aðgangur takmarkaður). Mikilvæg regla þegar unnið er með gervigreindarverkfæri: límdu aldrei raunveruleg persónuleg gögn inn í opinber gervigreindartæki. Oftast nægir skýringarmynd og nafnlaust/tilbúið sýni til greiningar.

Viðbótaráhersla í samhengi upplýsingaöryggis: Notaðu gagnavísindaverkfæri og -tækni eingöngu á gögnum og kerfum sem þú hefur heimild fyrir, í varnar og lögmætum greiningartilgangi. Óviðkomandi aðgangur að gögnum einhvers annars, endurauðkenning einstaklinga (útdráttur auðkennis úr nafnlausum gögnum) eða óviðkomandi prófílgreining er bæði ólöglegt og siðlaust.

þrjú smámál

Mál 1 - Ósporað hrun. Netverslunarfyrirtæki fór í loftið með meðmælalíkaninu sínu og setti ekki upp mælingar. Eftir 4 mánuði hefur vörulistinn breyst mikið; líkanið hélt áfram að mæla með úreltum vörum og viðskiptahlutfallið lækkaði hljóðlega um 30%. Enginn tók eftir því í marga mánuði. Lexía: Dreifing án eftirlits er að verða blind.

Mál 2 — Falin mismunun. Ráðningarskimunarlíkan lærði um kynjaójafnvægi í sögulegum gögnum og kerfisbundið vanmetið kvenkyns umsækjendur. Það var ekki tekið eftir því vegna þess að það var engin sanngirnisgreining; Það kom í ljós í úttekt og stóð stofnunin frammi fyrir alvarlegri orðspors-/lagaáhættu. Lexía: sanngirniseftirlit sem byggir á hópum er nauðsynlegt í líkönum sem hafa mikil áhrif.

Mál 3 — Brot á þagnarskyldu. Einn sérfræðingur hlóð skrá sem innihélt raunverulegan tölvupóst viðskiptavina og kaupferil í opinbert gervigreindarverkfæri og sagði: „taktu saman hluti. Persónuupplýsingar hafa yfirgefið stofnunina; KVKK ferli er hafið. Rétta leiðin var að fjarlægja auðkennisreitir og deila aðeins nafnlausum eignum. Lexía: raunveruleg persónuleg gögn fara ekki inn í opna tólið.

Fjögur afritanleg sniðmát

1) Gátlisti fyrir dreifingu:

Þitt hlutverk: MLOps ráðgjafi. Skráðu það sem ég þarf að athuga áður en líkan er sett í framleiðslu: útgáfuútgáfu, eftirlitsmælingar, afturköllunaráætlun, frammistöðumörk, viðvörun um gagnaflutning, ábyrgðarmann. Bættu við einni setningu „af hverju það skiptir máli“ skýringu fyrir hvert atriði. Ég mun ákveða.

2) Hönnun líkansvaktar:

Stingdu upp á rekavöktunaráætlun fyrir flokkunarlíkan í framleiðslu: (1) hvaða inntaksdreifingu ætti ég að fylgjast með, (2) hvaða viðvörun fyrir spádreifingu, (3) hvernig á að bera saman árangur þegar raunveruleg niðurstaða berst, (4) við hvaða þröskuld endurþjálfun ætti að koma af stað. Gefðu einnig upp kóðabeinagrind.

3) Sanngirniseftirlit:

Skrifaðu kóða sem ber saman frammistöðu líkansins míns fyrir mismunandi hópa (t.d. aldurshópur, svæði): innköllun/nákvæmni og jákvæð ákvörðunarhlutfall fyrir hvern hóp. Varað við ef marktækur munur er á milli hópa. Að gera orsakabundnar/pólitískar túlkanir; Sýndu mér bara muninn og ég mun íhuga ákvörðunina.

4) Forskoðun persónuverndar:

Áður en gögn eru gefin í gervigreindarverkfæri skaltu athuga: eru persónu-/auðkennisgögn (nafn, netfang, auðkenni, síma, heimilisfang, IP) í dálkalistanum hér að neðan? Ef svo er, skráðu þá hvaða ætti að fjarlægja eða nafngreina. Dálkar: [listi]. Tilgangur: að deila aðeins nafnlausu skema.

Veik kvaðning / Sterk kvaðning

Veik kvaðning:

Módelið mitt er tilbúið, farðu í beinni.

Dreifing er ekki eitt skref; Að fara í beina útsendingu án eftirlits, afturköllunar, sanngirni og eftirlits með friðhelgi einkalífs er þögult boð um hörmungar.

Öflug tilvitnun:

Hlutverk þitt: ábyrgur MLOps ráðgjafi. Módelið mitt hefur verið þjálfað, ég vil fullan undirbúning áður en ég fer í beina útsendingu. Búðu til: (1) gátlista fyrir dreifingu, (2) áætlun um eftirlit með reki, (3) kóða fyrir sanngirnisathugun í hópi, (4) athugun á persónuvernd (eru persónulegar upplýsingar til). Stingdu einnig upp á því hvernig á að vernda mannlegt samþykki við ákvarðanir sem hafa mikil áhrif. Endanlegar ákvarðanir eru mínar.

Hér er farið með dreifingu, eftirlit, sanngirni og friðhelgi einkalífs sem eitt ábyrgt ferli.

Algeng mistök

• Að dreifa líkani án þess að setja upp eftirlit. Líkanið sleppur hljóðlaust og brenglast; Það getur tekið mánuði að taka eftir því.
• Framhjá réttlætisávísuninni. Trúnaðarlíkan getur kerfisbundið sett hóp í óhag.
• Að taka óútskýrða svarta kassa ákvörðun. Ákvarðanir sem hafa mikil áhrif verða að vera skýranlegar; „Módelið sagði það“ er ekki nóg.
• Að gefa raunveruleg persónuleg gögn til að opna gervigreindarverkfæri. KVKK/GDPR brot; Skýringarmyndin og nafnlaus dæmi nægja.
• Framselja ákvörðunina til líkansins. Ábyrgðin er alltaf hjá manni; Eftirliti manna með miklum áhrifum er viðhaldið.

Ábending: Áður en þú ferð í beina útsendingu með hverri fyrirsætu skaltu spyrja einnar spurningar upphátt: "Ef þetta líkan brotnar hljóðlega á morgun eða refsar hópi á ósanngjarnan hátt, hvernig mun ég taka eftir því og snúa því til baka?" Ef þú hefur ekki skýrt svar við þessari spurningu er líkanið ekki tilbúið til framleiðslu ennþá.

Í stuttu máli

Starf fyrirsætu endar ekki með háu einkunn heldur með því að vinna áreiðanlega og ábyrgt í framleiðslu. MLOps er fræðigreinin að fara í beinni, fylgjast með reki, endurmenntun og afturkalla líkanið; Dreifing án mælingar er hljóðlaust hrun. Siðferði krefst sanngirni, gagnsæis og ábyrgðar líkansins; tölfræðileg nákvæmni kemur ekki í stað siðferðislegrar samþykktar. Persónuvernd þýðir að vernda persónuupplýsingar með KVKK/GDPR meginreglum og halda raunverulegum gögnum frá opnum verkfærum. Allar þessar ákvarðanir eru ekki tæknilegar heldur ábyrgðarákvarðanir og tilheyra alltaf manni.

Umsóknarverkefni

Hugsaðu um það eins og þú værir að fara að setja líkan sem þú hefur smíðað (eða tilgátu) í framleiðslu og fylltu út fjóra lista: (1) gátlista fyrir dreifingu, (2) rekamælingar sem þú munt fylgjast með, (3) áætlun um sanngirni í hópi, (4) eftirlit með persónuvernd. Skrifaðu síðan áþreifanlegt svar við spurningunni "Hvernig mun ég taka eftir því ef það brotnar hljóðlaust á morgun og fæ það aftur?"

gátlisti

• [ ] Er ég að nota líkanið með eftirliti (slipviðvörun) og afturköllunaráætlun?
• [ ] Hef ég athugað sanngirni/frammistöðumun fyrir mismunandi hópa?
• [ ] Hef ég fylgst með manneskjunni varðandi ákvarðanir sem hafa mikil áhrif?
• [ ] Hef ég verndað persónuupplýsingar með KVKK/GDPR meginreglum og haldið þeim frá opnum verkfærum?
• [ ] Hef ég lagt endanlega ábyrgð á mann, ekki fyrirmyndina?

Einingapróf

1. Gagnafræðingur spyr gervigreindina: "Hversu nákvæmur er tilviljunarkenndur skógur á þessum gögnum?" án þess að þjálfa líkanið neitt, og setur beint svarið „89%“ inn í kynninguna. Hver eru grundvallarmistökin í þessari nálgun?

• A) Bíða eftir mæligildum án þess að gefa gervigreind gögn og líkön; Hunsa að talan sem það framleiðir er fölsuð og að raunverulegt mæligildi er aðeins hægt að finna með þjálfun og prófun ✔
• B) Verður að nota logistic regression í stað tilviljunarkennds skógar
• C) Nákvæmni hlutfall verður alltaf að vera yfir 90%.
• D) Það er stranglega bannað að setja mæligildi í kynninguna

Skýring: Gervigreind getur ekki framleitt mæligildi án þess að fá aðgang að líkaninu og gögnunum; Talan sem hann gefur upp er ofskynjanir (tilbúnir). Mælingin er fengin með eigin útreikningi gagnafræðingsins aðeins eftir að líkanið hefur í raun verið þjálfað og prófað. Óstaðfest úttak er eins og óundirrituð skýrsla.

2. Dálkurinn „ástæða fyrir lokun reiknings“ er innifalinn þegar gögnum er safnað fyrir affallsspá; Þessi dálkur er aðeins fylltur eftir að viðskiptavinurinn fer. Líkanið gefur 97% af prófunarsettinu en virkar ekki í framleiðslu. Hvað er nafn og orsök þessa ástands?

• A) Ofurnám; Líkanið er of flókið
• B) Gagnaleki; ✔ Nota upplýsingar sem verða ekki tiltækar þegar spáð er, en eru afleiðing af markmiðinu, sem eiginleiki
• C) Ófullnægjandi nám; Líkanið er of einfalt
• D) Valhlutdrægni; lítil úrtaksstærð

Skýring: Þetta er klassískur gagnaleki: „lokunarástæðan“ er afleiðing af markmiðinu og er enn tóm þegar spáin er gerð. Líkanið gerir gæfumuninn með þessari framtíðarþekkingu, það lítur vel út á prófunarsettinu en hrynur í framleiðslu vegna þess að sú dálkur er tómur. Spurningin „á ég það þegar spáð er“ ætti að vera lögð fyrir hvern dálk.

3. Sérfræðingur fyllir út gildi sem vantar í tekjudálknum með meðaltalinu; en það fólk sem vantar tilheyrir í raun lágtekjuhlutanum sem hefur aldrei gefið upp tekjur (kerfisbundið vantar). Af hverju er þessi fylling röng?

• A) Meðaltalið er alltaf stærra en miðgildið, svo það er rangt
• B) Gildi sem vantar ætti aldrei að fylla út, þeim á alltaf að eyða
• C) Að fylla kerfisbundið bilið með meðaltalinu skekkir gögnin með því að tákna þann hóp á tilbúnar hátt; Fylling var gerð án þess að spyrja spurningarinnar "af hverju er það tómt?" ✔
• D) Að reikna meðaltalið skapar frammistöðuvandamál vegna þess að það er of hægt

Skýring: Orsök skortsins ræður lausninni. Þegar kerfisbundið vantar (bilið sem er einbeitt í ákveðnum hópi) er fyllt með meðaltali, verður sá hópur tilbúnar „meðaltekjur“ og gögnin brenglast. Áður en það er fyllt ætti að spyrja spurningarinnar „af hverju er það tómt“; kerfisbundið/verulegt meðaltal sem vantar ætti ekki að fylla út.

4. Hópur finnur 0,78 fylgni á milli 'auglýsingaeyðslu' og 'sölu' og tvöfaldar fjárhagsáætlunina; Hins vegar, það sem í raun kveikir bæði eru árstíðabundnar herferðir. Hvaða meginregla í tölfræði skýrir þessa villu?

• A) Fylgni er ekki orsakasamband; Falin þriðja breyta gæti haft áhrif á báðar breyturnar ✔
• B) Þar sem fylgnin 0,78 er of lág ætti að hunsa sambandið
• C) Fylgni sannar alltaf orsakasamhengi, liðið náði því rétt
• D) Fylgni auglýsinga og sölu er ekki hægt að reikna út stærðfræðilega.

Skýring: Fylgni er ekki orsakasamband. Breyturnar tvær gætu virkað saman vegna þess að falin þriðja breytan (hér árstíðabundnar herferðir) hefur áhrif á þær báðar. Sú ályktun að eitt veldur öðru er aðeins hægt að koma á með tilraunum og vettvangsþekkingu; Fjöldi fylgni einn og sér er ekki sönnun um orsakasamhengi.

5. Sviksgreiningarlíkan sýnir 99,2% nákvæmni og liðið fagnar; Hins vegar er falsa viðskiptahlutfallið í gögnunum aðeins 0,8% og innköllun líkansins er 6%. Hvað sýnir þessi tafla?

• A) Líkanið er fullkomið vegna þess að nákvæmnin er yfir 99%
• B) Nákvæmni er villandi með ójafnvægi gagna; Líkanið missir af næstum öllum falsunum (lítil muna), viðeigandi mælikvarða ætti að skoða ✔
• C) Það er ekkert vandamál þar sem innköllun líkansins er mikil
• D) Það var engin þörf á að smíða líkan vegna þess að falsa hlutfallið var lágt

Skýring: 'Nákvæmni' er villandi í ójafnvægi gagna. Þegar líkanið kallar næstum allar færslur „hreinar“, fær það mikla nákvæmni vegna þess að falsanir eru mjög fáar, en það tekst ekki að ná falsunum, sem er megintilgangur þess (innkalla 6%). Þess vegna, í ójafnvægi vandamála, er áherslan ekki á nákvæmni, heldur á ruglingsfylki og mælikvarða sem henta tilgangi starfsins, eins og innköllun/nákvæmni.

6. Í eftirspurnarspáverkefni er tímaháðum gögnum skipt af handahófi í þjálfun/prófun. Líkanið gefur 93% nákvæmni en hrynur í framleiðslu. Hver ætti að vera rétta skiptingaraðferðin?

• A) Að stækka prófunarsettið, t.d. skipting 50%/50%
• B) Nota flóknara líkan
• C) Fjarlægðu skiptinguna alveg og þjálfaðu með öll gögn
• D) Tímabundin skipting: þjálfun með gamla tímabilinu og prófun með nýja tímabilinu og kemur þannig í veg fyrir að líkanið sjái framtíðina ✔

Skýring: Ef tilviljunarkennd skipting er gerð í tímaraðagögnum sér líkanið framtíðina og spáir í fortíðina í þjálfun; það er leki og skilar árangri sem er í raun ekki til. Rétta nálgunin er tímaröð skipting: þjálfun með gamla tímabilinu og prófanir með nýja tímabilinu, líkja eftir raunverulegum aðstæðum í framleiðslu (spá frá fortíð til framtíðar).

7. Út frá hvaða gögnum ætti að reikna mælikvarða (StandardScaler) færibreytur í eiginleikaverkfræði og hvernig ætti að beita þeim?

• A) Það ætti að reikna út frá öllum gögnum (þjálfun + próf saman) þannig að það sé nákvæmara
• B) Það ætti að reikna sérstaklega fyrir hverja línu, út frá eigin gildi þeirrar línu
• C) Skal eingöngu reiknað út frá prófunargögnum
• D) Það ætti aðeins að reikna út frá þjálfunargögnunum, þá ætti að nota sömu breytur fyrir prófunargögnin; annars lekur það ✔

Skýring: Færibreytur allra umbreytinga (meðaltal, staðalfrávik, o.s.frv.) eins og mælikvarða, kóðun og fyllingu ætti aðeins að læra af þjálfunargögnunum, þá ætti að nota það sama fyrir prófunargögnin. Að taka prófgögn með í reikninginn veldur líka því að prófupplýsingar trufla þjálfun, það er að segja leka, og lætur líkanið líta betur út en það er. Notkun Pipeline tryggir þetta.

8. Líkan gefur 98% nákvæmni á þjálfunarsettinu og 72% nákvæmni á prófunarsettinu. Hvað gefur þetta einkenni til kynna og hvað ætti að gera?

• A) Ófullnægjandi nám; gera ætti líkanið flóknara
• B) Gagnaleki; Breyta þarf prófunarsettinu
• C) Yfirfitting; Einfalda ætti líkanið, beita reglusetningu og krossfullgildingu ✔
• D) Eðlilegt ástand; Menntunarstigið er alltaf hærra hvort sem er, varúðarráðstafanir eru óþarfar

Skýring: Mjög hátt skor í þjálfun og marktækt lágt í prófun er klassískt einkenni offittings: líkanið hefur lagt á minnið hávaða þjálfunargagna frekar en raunverulegt mynstur. Lausnir fela í sér að einfalda líkanið, fleiri gögn, reglusetningu og staðfesta ástandið með krossfestingu. Að treysta eingöngu á menntunarstigið leynir þessari gryfju.

9. Í stjórnendakynningu er y-ásinn á súluriti þar sem sala eykst úr 1.000 í 1.020 byrjað á 980 til að láta aukninguna virðast gríðarlega. Raunveruleg hækkun er 2%. Af hverju er þetta siðferðilegt mál?

• A) Stuttur y-ás ýkir sjónrænt lítinn mun og afvegaleiðir áhorfandann; Fyrir sanngirni ætti ásinn í samanburðarsúlum að byrja á 0 ✔
• B) Súlurit er aldrei hægt að nota fyrir sölugögn
• C) Það er ekkert vandamál; Það er alltaf gott að láta töfluna líta glæsilega út
• D) Y-ás ætti alltaf að byrja á stærsta gildi gagnanna

Skýring: Í súluritum í samanburðarskyni ætti y-ásinn almennt að byrja á 0. Að skera ásinn og byrja á 980 veldur því að lítill 2% munur virðist sjónrænt mikill og afvegaleiðir áhorfandann. Siðferðileg ábyrgð gagnasérfræðingsins er að teikna heiðarleg línurit sem ofmeta ekki eða vanmeta gögnin.

10. Sérfræðingur finnur heildarveltuna 3 sinnum eftir að hafa TENGST pantanir við vörutöfluna; Línum fjölgaði úr 240 þúsund í 690 þúsund. Hvað hefði átt að gera til að koma í veg fyrir þessa þöglu villu?

• A) Deilið heildarveltu með 3
• B) Notaðu alltaf aðskildar fyrirspurnir í stað JOIN
• C) Eyða vörutöflunni alveg
• D) Athugaðu fjölda lína eftir sameiningu/JOIN og staðfesta að þær séu sameinaðar með réttum lykli; Ná afritun snemma ✔

Skýring: Þegar það eru margar línur fyrir hverja vöru (mismunandi litur, til dæmis) í vörutöflunni mun JOIN með röngum lykli afrita hverja pöntun og blása upp heildartölurnar. Kóðinn keyrir án villna en niðurstaðan er röng. Leiðin til að forðast þetta er að athuga fjölda lína eftir hverja sameiningu/JOIN og sameinast með réttum lykli.

11. Ráðningarskimunarlíkan lærir um ójafnvægi kynjanna í sögulegum gögnum og skortir kerfisbundið kvenkyns umsækjendur, en heildar nákvæmni þess er mikil. Hvað þýðir þetta?

• A) Það er ekkert vandamál vegna þess að líkanið hefur mikla nákvæmni
• B) Tölfræðinákvæmni kemur ekki í staðinn fyrir siðferðilega viðunandi; líkanið hefur lært um fyrri mismunun, hópbundið sanngirnispróf er krafist ✔
• C) Frekari aukning á nákvæmni líkansins leysir vandamálið
• D) Sanngirni er utan sviðs gagnafræðinnar

Skýring: Jafnvel þótt líkan sé tölfræðilega rétt getur það verið siðferðilega óviðunandi. Líkanið lærir óréttlætið í fyrri gögnum og gerir mismunun sjálfvirkan. Mikil heiðarleiki kemur ekki í staðinn fyrir réttlæti; Í áhrifamiklum líkönum er sanngirnisstýring, sem mælir frammistöðu/ákvörðunarmun fyrir mismunandi hópa, nauðsynleg og endanleg ábyrgð hvílir á manninum.

12. Starfsmaður hleður upp skrá sem inniheldur raunverulegan tölvupóst viðskiptavina og kaupferil í opinbert gervigreindarverkfæri og segir „samantekt hluta“. Hvers vegna eru þetta alvarleg mistök og hver er rétta leiðin?

• A) Það er ekkert vandamál; AI verkfæri geyma aldrei gögn
• B) Villan er sú að skráin er of stór; hefði átt að lækka
• C) Að útvega raunverulegar persónuupplýsingar í opnu tæki er brot á KVKK/GDPR; auðkennisreitir hefðu átt að vera fjarlægðir og aðeins nafnlausu skema/eiginleikum deilt ✔
• D) CSV hefði átt að vera notað í stað Excel

Skýring: Þegar raunveruleg persónuleg gögn (svo sem tölvupóstur, nafn osfrv.) eru gefin í gervigreindarverkfæri sem er aðgengilegt almenningi, verður um brot á friðhelgi einkalífs að ræða innan gildissviðs KVKK / GDPR; gögn yfirgefa stofnunina. Oftast nægir skýringarmynd og nafnlaust/tilbúið sýni til greiningar. Rétta leiðin er að fjarlægja auðkennisreitir og deila aðeins nafnlausum eignum.

13. Meðmælalíkan er sett í framleiðslu en mælingar eru ekki staðfestar; Þegar vörulistinn breytist eftir 4 mánuði heldur líkanið áfram að mæla með gömlum vörum og viðskiptahlutfallið lækkar hljóðlaust um 30%. Hvað heitir þetta fyrirbæri?

• A) Ofurnám; Líkanið leggur þjálfunarsettið á minnið
• B) Líkan rek; Eftir því sem heimurinn breytist úrelst líkanið hljóðlaust, óséður vegna þess að eftirlit er ekki komið á fót ✔
• C) Valhlutdrægni; sýnishorn hlutdrægni
• D) Gagnalágmörkunarbrot

Skýring: Þetta er líkanafrek (líkan/gagnarek): þegar heimurinn breytist (verslun, hegðun, árstíð) breytast aðstæðurnar sem líkanið var þjálfað við og líkanið brotnar hljóðlaust niður. Líkan sem sett er í framleiðslu versnar af sjálfu sér; Þetta er spurning um „hvenær“. Dreifing án eftirlits (rekja inntak og frammistöðu) gerir það ómögulegt að greina niðurbrot.

14. Líkan sem fær 88% nákvæmni í einni þjálfunar/prófaskiptingu hefur 5-falda krossprófunarstig upp á 88%, 71%, 83%, 64%, 79%. Hvað gefur þetta til kynna og hvers vegna er krossgilding mikilvæg?

• A) Líkanið er stöðugt; 88% er raunveruleg frammistaða
• B) Krossfullgilding er óþörf; Eitt hólf er nóg
• C) Mikil sveiflustig í stigum gefur til kynna að líkanið sé óstöðugt; krossfullgilding byggir frammistöðu á meðaltali og dreifingu margra hólfa, ekki einn heppinn tunnu ✔
• D) Best er að gefa upp hæstu einkunn (88%)

Skýring: Eitt hólf getur verið heppið eða óheppið; 88% var bara niðurstaðan af þessari auðveldu skiptingu. Krossstaðfesting skiptir gögnunum mörgum sinnum, byggir frammistöðu á meðaltalinu (hér ~77%) og sýnir sveiflur í stigunum. Miklar sveiflur benda til þess að líkanið sé óstöðugt; Að treysta á eitt hólf er villandi.