Ieguvumi:
- Spēja izprast MLOps fāzes (izlaišana, izvietošana, uzraudzība, pārkvalificēšana, atcelšana) un modelēt novirzes un plānot uzraudzītu izvietošanu
- Spēja piemērot modeļu godīguma, caurspīdīguma un pārskatatbildības principus un atšķirt statistisko precizitāti no ētiskās pieņemamības
- Spēja aizsargāt personas datus ar KVKK/GDPR principiem un uzlikt galīgo atbildību cilvēkam, pieņemot spēcīgus lēmumus
Modeles apmācība un augsta rezultāta iegūšana nav beigas, bet gan vidus. Patiesā vērtība rodas, kad modelis tiek nodots ražošanā un darbojas uzticami, tiek uzraudzīts laika gaitā bez bojāšanās un viss process tiek veikts ētisko un juridisko robežu ietvaros. Šajā noslēguma vienībā ir apvienotas trīs tēmas: MLOps (tiešraides uzsākšanas disciplīna, modeļu uzraudzība un uzturēšana), ētika (taisnīgums, pārredzamība, ļaunprātīga izmantošana) un privātums (personas datu aizsardzība). AI izstrādā kodu, kontrolsarakstus un rasējumus šajās jomās; Bet cilvēki izlemj, vai modelis tiks aktivizēts, kurš tiks ietekmēts un kādus datus var izmantot. Šie lēmumi nav tehniski, bet gan atbildības lēmumi.
MLOps: modelis dzīvo kā produkts
MLOps (Machine Learning Operations — mašīnmācīšanās modeļu palaišanas, uzraudzības un atjaunināšanas prakse ražošanā) ir DevOps pielāgošana programmatūras izstrādē datu zinātnei. Pamatideja: modelis nav vienreiz apmācīts un aizmirsts fails, bet gan dzīvs produkts, kam nepieciešama pastāvīga apkope. Galvenie posmi:
1. Versionēšana: kods (Git), dati un modelis tiek versēti kopā; Tiek reģistrēts, kurš modelis tika ražots ar kādiem datiem un kodu.
2. Izvietošana: modelis tiek publicēts kā API vai pakešu darbs. Parasti to vispirms piešķir nelielai auditorijai (sēnīšu/kanārijputnu izplatība).
3. Uzraudzība: modeļa veiktspēja un ievades dati tiek pastāvīgi uzraudzīti.
4. Pārkvalifikācija: kad veiktspēja samazinās, modelis tiek atkārtoti apmācīts ar atjauninātiem datiem.
Modeļa maiņa: klusa kropļošana
Lielākās briesmas ražošanā ir modeļu novirze (modeļa novirze / datu novirze). Pasaule mainās; Apstākļi, kādos jūs apmācāt savu modeli (klientu uzvedība, cenas, sezona, tiesību akti), laika gaitā mainās, un modelis sāk novecot. Piemēram, pieprasījuma modelis, kas apmācīts pirms pandēmijas, ir pilnīgi nepareizs pandēmijas laikā. Novirze notiek divos veidos: datu novirze (ievades datu izmaiņu sadalījums) un jēdzienu novirze (attiecība starp ievades un mērķa izmaiņām). Veids, kā tos iegūt, ir uzraudzība: pastāvīgi izsekojiet ievades sadalījumu, prognozēšanas sadalījumu un (ja iespējams) veiktspēju salīdzinājumā ar faktisko rezultātu.
Uzmanību: modelis, kas nodots ražošanā, pasliktināsies pats no sevis; Tas nav jautājums "ja", bet gan "kad". Modeļu izvietošana bez uzraudzības iestatīšanas ir kā braukšana ar automašīnu, nekontrolējot tās dzinēju; Kādu dienu tas vienkārši klusi sēž un jūs to nepamanāt.
MLOps elements
Mērķis
Ja tiek atstāts novārtā
Versionēšana
Zinot, kas tiek ražots
Nereproducējams, neizsekojams
Uzraudzība
Agri redzot paslīdēšanu
Modele klusēdama saplīst
pārkvalificēšanās
būt lietas kursā
Prognozes noveco
Atcelšana
atgriezties pie slikta modeļa
Bojāts modelis paliek spēkā
Dokumentācija
caurspīdīgums, apgrozījums
Informācija iestrēgst vienā cilvēkā
Ētika: modeļu lēmumi ietekmē cilvēkus
Datu modeļi arvien vairāk tiek izmantoti lēmumos, kas ietekmē cilvēku dzīvi: kredīts, pieņemšana darbā, apdrošināšana, tiesiskums. Ar šo spēku nāk atbildība. Galvenie ētiskie riski:
Neobjektivitāte un diskriminācija: modelis var mācīties un saglabāt netaisnības vēsturiskajos datos. Ja kādai grupai iepriekš ir piešķirts mazāk kredītu, modelis pieņem, ka tas ir "noteikums" un automatizē diskrimināciju. Tāpēc būtiska ir godīguma analīze — pārbaudīt, vai modelis dažādās grupās (dzimums, vecums, reģions) darbojas līdzīgi.
Pārredzamība un izskaidrojamība: jums jāspēj izskaidrot, kāpēc modelis noraidīja personu. “Tā teica melnā kaste” ir ētiski un bieži vien juridiski nepieņemami. Tāpēc izskaidrojamības rīki (funkciju nozīme, SHAP vērtības) ir vērtīgi.
Atbildība: kurš ir atbildīgs, ja modelis pieņem nepareizu lēmumu? Atbilde vienmēr ir persona/institūcija, nevis modelis. Cilvēciskā uzraudzība (cilvēks-cilvēks — cilvēks, kas apstiprina galīgo lēmumu) ir jāsaglabā lēmumos ar lielu ietekmi.
Uzmanību: modelis var būt statistiski "pareizs", bet ētiski nepieņemams. Ļoti precīzs modelis, kas sistemātiski nelabvēlīgi ietekmē vienu grupu, nav labs modelis. Godīgums neaizstāj taisnīgumu.
Privātums: personas dati tiek rūpīgi aizsargāti
Datu zinātnes izejmateriāls bieži ir personas dati, un šos datus aizsargā likums: KVKK Turcijā, GDPR Eiropā. Pamatprincipi ir: mērķa ierobežojums (dati netiek izmantoti citiem mērķiem, kā vien tiem, kādiem tie tika vākti), datu minimizēšana (netiek savākti/saglabāti vairāk datu, nekā nepieciešams), anonimizācija (identificējošā informācija tiek noņemta) un drošība (dati tiek glabāti šifrēti un piekļuve ierobežota). Svarīgs noteikums, strādājot ar AI rīkiem: nekad neielīmējiet reālus personas datus publiskā AI rīkā. Lielāko daļu laika analīzei pietiek ar diagrammu un anonīmu/sintētisku paraugu.
Papildu uzsvars informācijas drošības kontekstā: izmantojiet datu zinātnes rīkus un paņēmienus tikai tiem datiem un sistēmām, attiecībā uz kurām jums ir pilnvaras, aizsardzības un likumīgas analīzes nolūkos. Neatļauta piekļuve kāda cita datiem, personu atkārtota identifikācija (identitātes iegūšana no anonīmiem datiem) vai neatļauta profilēšana ir gan nelikumīga, gan neētiska.
trīs mini futrāļi
1. gadījums — neizsekots sabrukums. E-komercijas uzņēmums sāka izmantot savu ieteikumu modeli un neiestatīja izsekošanu. Pēc 4 mēnešiem preču katalogs ir ļoti mainījies; modelis turpināja ieteikt novecojušus produktus, un reklāmguvumu līmenis mierīgi samazinājās par 30%. Mēnešiem neviens to nepamanīja. Nodarbība: izvietošana bez uzraudzības kļūst akla.
2. gadījums — slēptā diskriminācija. Nomas pārbaudes modelis uzzināja par dzimumu nelīdzsvarotību vēsturiskajos datos un sistemātiski nenovērtēja sieviešu kandidātes. Tas netika pamanīts, jo nebija godīguma analīzes; Tas tika atklāts revīzijā, un iestāde saskārās ar nopietnu reputācijas/juridisku risku. Nodarbība: uz grupu balstīta godīguma kontrole ir būtiska augstas ietekmes modeļos.
3. gadījums — konfidencialitātes pārkāpums. Viens analītiķis publiskā AI rīkā ielādēja failu ar reāliem klientu e-pasta ziņojumiem un pirkumu vēsturi un teica: “Apkopojiet segmentus”. Personas dati ir atstājuši iestādi; Ir sācies KVKK process. Pareizais veids bija noņemt identitātes laukus un koplietot tikai anonīmus īpašumus. Nodarbība: reāli personas dati neietilpst atvērtajā rīkā.
Četras kopējamas veidnes
1) Kontrolsaraksts pirms izvietošanas:
Jūsu loma: MLOps konsultants. Uzskaitiet lietas, kas man jāpārbauda pirms modeļa ieviešanas ražošanā: versiju veidošana, uzraudzības metrika, atcelšanas plāns, veiktspējas slieksnis, datu novirzes brīdinājums, atbildīgā persona. Katram vienumam pievienojiet viena teikuma skaidrojumu “kāpēc tas ir svarīgi”. Es izlemšu.
2) Modeļa maiņas izsekošanas dizains:
Iesakiet novirzes uzraudzības plānu klasifikācijas modelim ražošanā: (1) kādi ievades sadalījumi man jāuzrauga, (2) kāds trauksmes signāls prognozēšanas sadalījumam, (3) kā salīdzināt veiktspēju, kad tiek sasniegts reālais rezultāts, (4) pie kāda sliekšņa ir jāiedarbina pārkvalifikācija. Nodrošiniet arī koda skeletu.
3) Godīguma kontrole:
Uzrakstiet kodu, kas salīdzina mana modeļa veiktspēju dažādās grupās (piemēram, vecuma diapazonā, reģionā): atcerēšanās/precizitāte un pozitīvo lēmumu līmenis katrai grupai. Brīdiniet, ja starp grupām ir būtiskas atšķirības. Cēloņsakarību/politisko interpretāciju veidošana; Vienkārši parādiet man atšķirības, un es apsvēršu lēmumu.
4) Privātuma iepriekšēja pārbaude:
Pirms sniedzat datus AI rīkam, pārbaudiet: vai tālāk esošajā kolonnu sarakstā ir personas/identitātes dati (vārds, e-pasts, ID, tālrunis, adrese, IP)? Ja tā, uzskaitiet, kuras no tām ir jānoņem vai jāanonimizē. Kolonnas: [saraksts]. Mērķis: koplietot tikai anonīmu shēmu.
Vāja uzvedne / spēcīga uzvedne
Vāja uzvedne:
Mans modelis ir gatavs, sāciet tiešraidē.
Izvēršana nav viens solis; Tiešraides sākšana bez uzraudzības, atcelšanas, godīguma un privātuma kontroles ir kluss aicinājums uz katastrofu.
Spēcīga uzvedne:
Jūsu loma: atbildīgais MLOps konsultants. Mans modelis ir apmācīts, es vēlos pilnībā sagatavoties pirms tiešraides. Izveidojiet: (1) kontrolsarakstu pirms izvietošanas, (2) novirzes uzraudzības plānu, (3) grupu godīguma pārbaudes kodu, (4) privātuma pārbaudi (vai ir personas dati). Iesakiet arī, kā aizsargāt cilvēka piekrišanu, pieņemot spēcīgus lēmumus. Galīgie lēmumi ir mani.
Šeit izplatīšana, uzraudzība, godīgums un privātums tiek uzskatīti par vienu atbildīgu procesu.
Biežas kļūdas
- Modeļa izvietošana bez uzraudzības iestatīšanas. Modelis klusi slīd un deformējas; Var paiet mēneši, lai to pamanītu.
- Apejot taisnīguma pārbaudi. Augstas precizitātes modelis var sistemātiski nelabvēlīgi ietekmēt grupu.
- Pieņemt neizskaidrojamu melnās kastes lēmumu. Spēcīgiem lēmumiem jābūt izskaidrojamiem; Ar "modele tā teica" nepietiek.
- Reālu personas datu sniegšana, lai atvērtu AI rīku. KVKK/GDPR pārkāpums; Pietiek ar diagrammu un anonīmu piemēru.
- Lēmuma pieņemšanas deleģēšana modelim. Atbildība vienmēr gulstas uz cilvēku; Tiek uzturēta spēcīga cilvēku uzraudzība.
Padoms. Pirms sākat tiešraidi ar katru modeli, skaļi uzdodiet vienu jautājumu: “Ja šis modelis rīt klusi sabojājas vai negodīgi sodīs grupu, kā es to pamanīšu un atgriezīšu atpakaļ?” Ja jums nav skaidras atbildes uz šo jautājumu, modelis vēl nav gatavs ražošanai.
Rezumējot
Modeļa darbs nebeidzas ar augstu punktu skaitu, bet gan ar uzticamu un atbildīgu darbu ražošanā. MLOps ir disciplīna, kas nodrošina modeļa sākšanu tiešsaistē, novirzes uzraudzību, pārkvalificēšanos un modeļa atgriešanu; Izvietošana bez izsekošanas ir kluss sabrukums. Ētika prasa modeļa godīgumu, caurspīdīgumu un atbildību; statistiskā precizitāte neaizstāj ētisko pieņemamību. Privātums nozīmē personas datu aizsardzību, izmantojot KVKK/GDPR principus, un reālu datu atstāšanu no atvērtiem rīkiem. Visi šie lēmumi nav tehniski, bet gan atbildības lēmumi un vienmēr ir cilvēka ziņā.
Lietojumprogrammas uzdevums
Padomājiet par to tā, it kā jūs gatavojaties ieviest modeli, kuru esat izveidojis (vai hipotētisku), un aizpildiet četrus sarakstus: (1) pirmsizvēršanas kontrolsaraksts, (2) novirzes metrika, ko izsekosit, (3) uz grupu balstīts godīguma kontroles plāns, (4) privātuma kontrole. Pēc tam uzrakstiet konkrētu atbildi uz jautājumu "Kā es pamanīšu, ja tas rīt klusībā saplīst un atgūšu?"
kontrolsaraksts
- [ ] Vai es izvietoju modeli ar uzraudzības (brīdinājums par slīdēšanu) un atcelšanas plānu?
- [ ] Vai esmu pārbaudījis dažādu grupu taisnīguma/veiktspējas atšķirības?
- [ ] Vai es esmu saglabājis uzticamību, pieņemot lēmumus ar lielu ietekmi?
- [ ] Vai esmu aizsargājis personas datus ar KVKK/GDPR principiem un pasargājis tos no atvērtiem rīkiem?
- [ ] Vai galīgo atbildību esmu uzlicis cilvēkam, nevis modelim?
Moduļa eksāmens
1. Datu zinātnieks jautā mākslīgajam intelektam: "Cik precīzi ir izlases mežs uz šiem datiem?" vispār neapmācot modeli, un tieši prezentācijā ieliek atbildi "89%. Kāda ir galvenā kļūda šajā pieejā?
- A) Gaida metriku, nesniedzot datus un modeļus mākslīgajam intelektam; Ignorējot to, ka tā ģenerētais numurs ir viltots un ka īsto metriku var atrast tikai apmācībā un pārbaudēs ✔
- B) Jāizmanto loģistikas regresija, nevis izlases mežs
- C) Precizitātes koeficientam vienmēr jābūt virs 90%.
- D) Ir stingri aizliegts prezentācijā iekļaut metriku
Paskaidrojums: mākslīgais intelekts nevar izveidot metriku, nepiekļūstot modelim un datiem; Skaitlis, ko viņš dod, ir halucinācija (safabricēta). Metriku iegūst ar paša datu zinātnieka aprēķiniem tikai pēc tam, kad modelis ir faktiski apmācīts un pārbaudīts. Nepārbaudīta izvade ir kā neparakstīts ziņojums.
2. Sleja “Konta slēgšanas iemesls” ir iekļauta, vācot datus atteikšanās prognozei; Šī kolonna tiek aizpildīta tikai pēc klienta aiziešanas. Modelis testa komplektā dod 97%, bet ražošanā nedarbojas. Kāds ir šī stāvokļa nosaukums un cēlonis?
- A) OverLearning; Modelis ir pārāk sarežģīts
- B) Datu noplūde; ✔ Kā līdzekli izmantot informāciju, kas nebūs pieejama prognozēšanas brīdī, bet ir mērķa rezultāts
- C) Nepietiekama mācīšanās; Modelis ir pārāk vienkāršs
- D) atlases novirze; mazs parauga lielums
Paskaidrojums: šī ir klasiska datu noplūde: “slēgšanas iemesls” ir mērķa rezultāts un prognozēšanas brīdī joprojām ir tukšs. Modelis izmanto šīs nākotnes zināšanas, tas izskatās lieliski testa komplektā, bet ražošanā avarē, jo šī kolonna ir tukša. Katrai kolonnai ir jāuzdod jautājums “vai man tas ir paredzēšanas brīdī”.
3. Analītiķis ieņēmumu slejā aizpilda trūkstošās vērtības ar vidējo; bet pazudušie faktiski pieder pie maznodrošināto segmenta, kas ienākumus nekad nav deklarējis (sistemātiski trūkst). Kāpēc šis pildījums ir nepareizs?
- A) Vidējais vienmēr ir lielāks par mediānu, tāpēc tas ir nepareizs
- B) Trūkstošās vērtības nekad nedrīkst aizpildīt, tās vienmēr ir jāizdzēš
- C) sistemātiskās nepilnības aizpildīšana ar vidējo izkropļo datus, mākslīgi attēlojot šo grupu; Aizpildīšana tika veikta, neuzdodot jautājumu "kāpēc tas ir tukšs?" ✔
- D) Vidējā lieluma aprēķināšana rada veiktspējas problēmu, jo tas ir pārāk lēns
Paskaidrojums: Trūkuma cēlonis nosaka risinājumu. Kad sistemātiski trūkstošo (noteiktā grupā koncentrētu plaisu) aizpilda ar vidējo, šī grupa mākslīgi kļūst par “vidējo ienākumu” un dati tiek izkropļoti. Pirms aizpildīšanas jāuzdod jautājums "kāpēc tas ir tukšs"; sistemātiski/nozīmīgi trūkstošo vidējo nedrīkst aizpildīt.
4. Komanda atrod 0,78 korelāciju starp “reklāmas izdevumiem” un “pārdošanu” un dubulto budžetu; Tomēr tas, kas faktiski aktivizē abus, ir sezonālas kampaņas. Kāds statistikas princips izskaidro šo kļūdu?
- A) Korelācija nav cēloņsakarība; Slēpts trešais mainīgais var ietekmēt abus mainīgos ✔
- B) Tā kā korelācija 0,78 ir pārāk zema, sakarība ir jāignorē
- C) Korelācija vienmēr pierāda cēloņsakarību, komanda saprata pareizi
- D) Korelāciju starp reklāmu un pārdošanu nevar aprēķināt matemātiski.
Paskaidrojums: Korelācija nav cēloņsakarība. Abi mainīgie var darboties kopā, jo slēptais trešais mainīgais (šeit sezonas kampaņas) ietekmē tos abus. Secinājumu, ka viens izraisa otru, var izdarīt tikai ar eksperimentu un lauka zināšanām; Korelāciju skaits vien neliecina par cēloņsakarību.
5. Krāpšanas atklāšanas modelis uzrāda 99,2% precizitāti un komanda svin svētkus; Taču viltus darījumu īpatsvars datos ir tikai 0,8% un modeļa atsaukums ir 6%. Ko parāda šī tabula?
- A) Modelis ir ideāls, jo precizitāte pārsniedz 99%
- B) nelīdzsvarotu datu precizitāte ir maldinoša; Modelim izlaiž gandrīz visus viltojumus (mazs atsaukums), jāskatās atbilstošā metrika ✔
- C) Nav problēmu, jo modeļa atsaukšana ir augsta
- D) Nevajadzēja izveidot modeli, jo viltojumu līmenis bija zems
Paskaidrojums: “Precizitāte” ir maldinoša nelīdzsvarotos datos. Kad modelis gandrīz katru darījumu nosauc par “tīru”, tas iegūst augstu precizitāti, jo viltojumu ir ļoti maz, taču tam neizdodas notvert viltojumus, kas ir tā galvenais mērķis (atgādināt 6%). Tāpēc nelīdzsvarotās problēmās uzmanība tiek pievērsta nevis precizitātei, bet gan neskaidrības matricai un darba mērķim piemērotiem rādītājiem, piemēram, atsaukšanai/precizitātei.
6. Pieprasījuma prognozēšanas projektā no laika atkarīgie dati tiek nejauši sadalīti apmācībā/pārbaudē. Modelis nodrošina 93% precizitāti, taču ražošanā tas avarē. Kādai vajadzētu būt pareizai dalīšanas pieejai?
- A) Testa komplekta palielināšana, piem. sadalīšana 50%/50%
- B) Izmantojot sarežģītāku modeli
- C) Pilnībā noņemiet nodalījumu un apmāciet ar visiem datiem
- D) Hronoloģiskā sadalīšana: apmācība ar veco periodu un testēšana ar jauno periodu, tādējādi neļaujot modelim redzēt nākotni ✔
Paskaidrojums: Ja laika rindu datos tiek veikta nejauša dalīšana, modelis redz nākotni un prognozē pagātni apmācībā; tā ir noplūde un rada panākumus, kas patiesībā neeksistē. Pareizā pieeja ir hronoloģiskā sadalīšana: apmācība ar veco periodu un testēšana ar jauno periodu, imitējot reālo situāciju ražošanā (prognozējot no pagātnes uz nākotni).
7. No kādiem datiem ir jāaprēķina mērogošanas (StandardScaler) parametri funkciju inženierijā un kā tie jāpiemēro?
- A) Tas jāaprēķina no visiem datiem (apmācība + pārbaude kopā), lai tas būtu precīzāks
- B) Tas jāaprēķina katrai rindai atsevišķi no šīs rindas vērtības
- C) Jāaprēķina tikai no testa datiem
- D) Tas jāaprēķina tikai no apmācības datiem, tad tie paši parametri jāpiemēro testa datiem; pretējā gadījumā tas noplūdīs ✔
Paskaidrojums: Visu transformāciju parametri (vidējā, standarta novirze utt.), piemēram, mērogošana, kodēšana un papildināšana, ir jāapgūst tikai no apmācības datiem, pēc tam tie paši jāpiemēro testa datiem. Testa datu ņemšana vērā arī izraisa testa informācijas traucējumus apmācībā, tas ir, noplūde, un modelis izskatās labāk nekā tas ir. Cauruļvada izmantošana to nodrošina.
8. Modelis nodrošina 98% precizitāti treniņu komplektā un 72% precizitāti testa komplektā. Ko šis simptoms norāda un kas būtu jādara?
- A) Nepietiekama mācīšanās; modelis jāpadara sarežģītāks
- B) Datu noplūde; testa komplekts ir jāmaina
- C) Pārmērīga aprīkošana; modelis jāvienkāršo, jāpiemēro regularizācija un šķērsvalidācija ✔
- D) normāla situācija; Izglītības rezultāts vienmēr ir augstāks, tāpēc piesardzības pasākumi nav nepieciešami
Paskaidrojums: Ļoti augsts rezultāts treniņā un ievērojami zems rezultāts pārbaudē ir klasisks pārmērības simptoms: modelis ir iegaumējis treniņu datu troksni, nevis reālo modeli. Risinājumi ietver modeļa vienkāršošanu, vairāk datu, legalizāciju un stāvokļa pārbaudi ar savstarpēju validāciju. Paļaušanās tikai uz izglītības rezultātu slēpj šo slazdu.
9. Vadības prezentācijā joslu diagrammas y ass, kurā pārdošanas apjoms palielinās no 1000 līdz 1020, tiek sākts ar 980, lai pieaugums būtu milzīgs. Faktiskais pieaugums ir 2%. Kāpēc tas ir ētisks jautājums?
- A) saīsināta y ass vizuāli pārspīlē nelielu atšķirību un maldina skatītāju; Taisnības labad asīm salīdzināšanas joslās jāsākas no 0 ✔
- B) Joslu diagrammas nekad nevar izmantot pārdošanas datiem
- C) nav problēmu; Vienmēr ir labi, ja diagramma izskatās iespaidīga
- D) Y asij vienmēr jāsāk no lielākās datu vērtības
Paskaidrojums: joslu diagrammās salīdzināšanas nolūkos y ass parasti jāsākas ar 0. Nogriežot asi un sākot ar 980, neliela 2% atšķirība šķiet vizuāli milzīga un maldina skatītāju. Datu profesionāļa ētiskā atbildība ir izveidot godīgus grafikus, kas nepārvērtē vai nenovērtē datus.
10. Kopējo apgrozījumu analītiķis atrod 3 reizes pēc pasūtījumu SAVIENOŠANAS ar preču tabulu; Līniju skaits pieauga no 240 tūkstošiem līdz 690 tūkstošiem. Kas būtu jādara, lai novērstu šo kluso kļūdu?
- A) Sadaliet kopējo apgrozījumu ar 3
- B) Vienmēr izmantojiet atsevišķus vaicājumus, nevis JOIN
- C) Produktu tabulas pilnīga dzēšana
- D) pārbaudiet rindu skaitu pēc sapludināšanas/JOIN un pārbaudiet, vai tās ir savienotas, izmantojot pareizo atslēgu; Agri noķer replikāciju ✔
Paskaidrojums. Ja produktu tabulā katram produktam (piemēram, ar dažādu krāsu) ir vairākas rindas, JOIN, izmantojot nepareizo taustiņu, tiks dublēts katrs pasūtījums un palielinās kopsummas. Kods darbojas bez kļūdām, bet rezultāts ir nepareizs. Veids, kā no tā izvairīties, ir pārbaudīt rindu skaitu pēc katra sapludināšanas/JOIN un sapludināt ar pareizo atslēgu.
11. Darbā pieņemšanas skrīninga modelis uzzina par dzimumu nelīdzsvarotību vēsturiskajos datos un sistemātiski samazina sieviešu kandidātu punktu skaitu, taču tā kopējā precizitāte ir augsta. Ko tas nozīmē?
- A) Nav problēmu, jo modelim ir augsta precizitāte
- B) Statistiskā precizitāte neaizstāj ētisko pieņemamību; modelis ir uzzinājis par pagātnes diskrimināciju, ir nepieciešama godīguma pārbaude grupā ✔
- C) Tālāka modeļa precizitātes palielināšana atrisina problēmu
- D) Taisnīgums ir ārpus datu zinātnes jomas
Paskaidrojums: Pat ja modelis ir statistiski pareizs, tas var būt ētiski nepieņemami. Modelis uzzina pagātnes datu netaisnību un automatizē diskrimināciju. Augsta integritāte neaizstāj taisnīgumu; Augstas ietekmes modeļos godīguma kontrole, kas mēra dažādu grupu veiktspējas/lēmuma atšķirību, ir būtiska, un galvenā atbildība gulstas uz cilvēku.
12. Darbinieks publiskā AI rīkā augšupielādē failu, kurā ir reāli klientu e-pasta ziņojumi un pirkumu vēsture, un saka “summēt segmentus”. Kāpēc tā ir nopietna kļūda un kāds ir pareizais veids?
- A) Nav problēmu; AI rīki nekad neuzglabā datus
- B) Kļūda ir tāda, ka fails ir pārāk liels; vajadzēja samazināt
- C) reālu personas datu sniegšana atvērtam rīkam ir KVKK/VDAR pārkāpums; identitātes lauki ir jānoņem un jākopīgo tikai anonīma shēma/īpašums ✔
- D) Excel vietā vajadzēja izmantot CSV
Paskaidrojums: ja reāli personas dati (piemēram, e-pasts, vārds utt.) tiek nodoti publiski pieejamam mākslīgā intelekta rīkam, tiks pārkāpts privātuma pārkāpums KVKK/VDAR darbības jomā; dati atstāj organizāciju. Lielāko daļu laika analīzei pietiek ar diagrammu un anonīmu/sintētisku paraugu. Pareizais veids ir noņemt identitātes laukus un koplietot tikai anonīmus īpašumus.
13. Ieteikuma modelis tiek ieviests ražošanā, bet izsekošana nav izveidota; Kad preču katalogs mainās pēc 4 mēnešiem, modelis turpina ieteikt vecus produktus un konversijas līmenis klusi samazinās par 30%. Kāds ir šīs parādības nosaukums?
- A) OverLearning; Modelis iegaumē treniņu komplektu
- B) Modeļa dreifs; Mainoties pasaulei, modelis klusi, nemanot noveco, jo netiek izveidots monitorings ✔
- C) atlases novirze; izlases neobjektivitāte
- D) datu minimizēšanas pārkāpums
Paskaidrojums: šī ir modeļa novirze (modeļa/datu novirze): mainoties pasaulei (katalogs, uzvedība, sezona), mainās apstākļi, kādos modelis tika apmācīts, un modelis klusi sabojājas. Ražošanā nodots modelis nolietojas pats no sevis; Tas ir jautājums "kad". Izvietošana bez uzraudzības (ievades un veiktspējas izsekošanas) padara neiespējamu degradācijas konstatēšanu.
14. Modelim, kas iegūst 88% precizitāti vienā apmācības/pārbaudes sadalījumā, ir pieckārtīgi savstarpējās validācijas rādītāji: 88%, 71%, 83%, 64%, 79%. Ko tas norāda un kāpēc savstarpēja validācija ir svarīga?
- A) modelis ir stabils; 88% ir reāls sniegums
- B) Savstarpēja validācija nav nepieciešama; Pietiek ar vienu nodalījumu
- C) Liela rezultātu svārstīgums norāda, ka modelis ir nestabils; savstarpējā validācija balstās uz vairāku tvertņu vidējo rādītāju un sadalījumu, nevis uz vienu laimīgo atkritumu tvertni ✔
- D) Vislabāk ir ziņot par augstāko punktu skaitu (88%)
Paskaidrojums: Viens nodalījums var būt laimīgs vai neveiksmīgs; 88% bija tikai šīs vieglās sadalīšanas rezultāts. Savstarpējā validācija sadala datus vairākas reizes, balstoties uz veiktspēju uz vidējo (šeit ~ 77%) un parādot rezultātu nepastāvību. Liela nepastāvība šeit liecina, ka modelis ir nestabils; Paļaušanās uz vienu nodalījumu ir maldinoša.