Mörk: Öryggi, friðhelgi einkalífs, leyfi og siðfræði

Hagnaður:

• Geta til að þekkja og sannreyna að gervigreind geti framleitt svikin API, óöruggan kóða og höfundarréttarvarið efni
• Geta til að stjórna gervigreindarnotkun innan marka trúnaðar frumkóða, persónuupplýsinga og stefnu fyrirtækja
• Skilningur á því að endanleg ábyrgð á fylgni við leyfi, öryggi og siðferði er áfram hjá verkfræðingnum.

Einingapróf

1. Sem tölvuverkfræðingur, þegar unnið er með gervigreindarkóðaframleiðslutól, er endanleg ábyrgð á hverju af eftirfarandi ætti alltaf að vera hjá manninum?

• A) Lokasamþykki á réttmæti, öryggi og endurskoðun og prófun kóða sem settur er í framleiðslu ✔
• B) Að búa til fyrstu kóðabeinagrindina fyrir fall
• C) Gera lista yfir tillögur um breytuheiti
• D) Undirbúa drög að texta fyrir athugasemdir við kóða

Lýsing: AI; Það getur flýtt fyrir verkefnum eins og beinagrind kóða, prófdrög og skjöl. Hins vegar er það á ábyrgð verkfræðingsins að endurskoða, prófa og samþykkja kóðann sem myndaður er til að tryggja að hann sé réttur, öruggur og í samræmi við kröfur, og setja hann í framleiðslu; þetta er ekki hægt að framselja til gervigreindar án óháðrar sannprófunar.

2. AI hefur framleitt aðgerð fyrir þig og það virðist vera að vinna á hamingjusömu brautinni. Hvert er besta skrefið áður en það er sett í framleiðslu?

• A) Þar sem aðgerðin virðist virka, settu hana beint í framleiðslu
• B) Staðfestu hegðun með því að skrifa og keyra lítil einingapróf sem innihalda brúntilvik ✔
• C) Bara að skoða fjölda lína fallsins
• D) Gera nafn fallsins meira lýsandi

Skýring: Að sýnast vinna þýðir ekki að hafa rétt fyrir sér. Að skrifa og keyra litlar einingapróf sem ná yfir jaðartilvik eins og tómt inntak, núll, neikvætt, mjög mikið gildi og misræmi sannreyna raunverulega hegðun aðgerðarinnar án þess að færa hana yfir í lifandi umhverfið.

3. AI stakk upp á aðferð sem kallast 'array.sortStable()' sem er ekki til á þínu tungumáli og útskýrði hana á skýran hátt. Hver er fyrsta rétta aðgerðin til að grípa til?

• A) Notaðu aðferðina beint vegna þess að gervigreindin virðist örugg
• B) Skilgreindu aðferðina sjálfur og notaðu nafn hennar nákvæmlega
• C) Staðfesta tilvist aðferðarinnar úr opinberum skjölum tungumálsins/safnsins ✔
• D) Lokaðu þýðandaviðvöruninni og haltu áfram

Skýring: Tungumálalíkön geta líklega myndað nöfn á bókasafni, pakka eða aðferðum sem eru ekki til í raun og veru (ofskynjanir). Staðfesta skal hvert fyrirhugað API orðrétt gegn opinberum og gildandi skjölum tungumálsins eða bókasafnsins; Ef það er ekki innifalið í skjalinu ætti ekki að nota það.

4. Þú vilt líma trúnaðarkóða fyrirtækisins þíns og innbyggðan API lykil í opinbert gervigreindarverkfæri og biðja um hjálp. Hver er réttasta nálgunin?

• A) Límdu kóðann eins og hann er með API lyklinum fyrir hraða
• B) Það er nóg að eyða bara nafni fyrirtækisins og deila öllu hinu
• C) Að deila kóðanum og biðja síðan gervigreindina um að eyða honum
• D) Fjarlægja leyndarmál og falinn rökfræði og minnka vandamálið í dæmigerð dæmi eða nota stofnanaverkfæri ✔

Lýsing: Leynilegur frumkóði og skilríki (API lykill, lykilorð, tengistrengur); Það er áhættusamt hvað varðar fyrirtækisleyndarmál og öryggi. Nauðsynlegt er að fjarlægja leyndarmálin og falinn viðskiptarökfræði og minnka vandamálið í nafnlaust/fulltrúadæmi eða nota tól til að deila gögnum fyrir fyrirtæki/ekki.

5. AI sagði að flókið leitarfall sem hann skrifaði væri O(n); en það eru tvær hreiður lykkjur í kóðanum. Hver er rétt verkfræðileg hegðun?

• A) Greindu kóðann handvirkt og dragðu út flækjustigið sjálfur og mældu hann ef þörf krefur ✔
• B) Samþykktu O(n) og haltu áfram vegna þess að AI sagði
• C) Að gera ráð fyrir að fjöldi lota hafi ekkert með frammistöðu að gera
• D) Breyttu bara nafni fallsins

Skýring: Tímaflækjustig (Big-O) sýnir hvernig aðgerðum fjölgar eftir því sem inntakið vex. Tvær hreiður lykkjur þýða venjulega O(n^2). Fullyrðingu gervigreindar um flókið skal sannreyna með því að greina kóðann handvirkt og mæla með auknum inntakum ef þörf krefur; Að treysta á kröfuna gefur ranga forsendu um frammistöðu.

6. AI myndaður kóða sem setur notandainntak beint inn í SQL fyrirspurn með því að sameina texta. Hvert er helsta vandamálið og rétta lausnin hér?

• A) Ekkert mál; textasamruni er fljótlegasta aðferðin
• B) Það er hætta á SQL innspýtingu; Nota skal færibreytufyrirspurn (tilbúin setning) sem aðskilur inntakið ✔
• C) Það er nóg að breyta fyrirspurninni í hástafi
• D) Að skrifa fyrirspurnina styttri mun leysa vandamálið

Lýsing: Með því að bæta notandainntaki beint við fyrirspurnartextann skapast varnarleysi fyrir SQL innspýting; Árásarmaðurinn getur breytt fyrirspurninni með inntakinu. Rétta lausnin er að nota breytugreinda fyrirspurn (tilbúin setning) sem aðskilur inntakið frá fyrirspurnartextanum. Þetta er ein af algengustu öryggismistökum í gervigreindarkóða.

7. Þú hefur takmarkaðan tíma þegar þú skoðar kóða sem er framleiddur af gervigreind. Hvaða málefni er best að forgangsraða?

• A) Snið aðeins upplýsingar eins og inndrátt og bil
• B) Aðeins lengd breytanafna
• C) Rökrétt réttmæti, veikleikar og jaðartilvikshegðun ✔
• D) Aðeins heildarfjöldi lína í skránni

Lýsing: Mesta áhættan við endurskoðun kóða; Þetta eru mál sem valda alvarlegum skaða, svo sem rökvillur, öryggisveikleika og trúnaðarupplýsingaleka. Snið- og stílvandamál eru lagfærð með sjálfvirkum verkfærum; Aðalathygli manna ætti að vera til nákvæmni, öryggis og hegðunar mála.

8. Þú vilt láta gervigreind leysa villu. Hvaða inntak myndi best hjálpa gervigreindinni að finna undirrót?

• A) Bara að segja "kóði virkar ekki, laga hann"
• B) Gefðu bara nafnið á skránni
• C) Segðu bara væntanlega niðurstöðu, án villutextans
• D) Gefðu upp öll villuboð, staflaspor, viðeigandi kóða og lágmarksfjölgunardæmi ✔

Skýring: Fyrir árangursríka villuleit er nauðsynlegt að gefa gervigreindinni öll villuboðin, staflasporið, viðeigandi kóðabút og minnsta sýnishornið sem hægt er að endurskapa sem framleiðir villuna. Óljósa staðhæfingin „virkar ekki“ neyðir gervigreind til að giska á og koma með almennar tillögur.

9. Öll einingapróf framleidd af gervigreind standast í fyrstu keyrslu. Hvaða áhættu ætti ekki að hunsa í þessum aðstæðum?

• A) Próf geta staðfest núverandi stöðu kóðans en ekki raunverulega/vænta hegðun ✔
• B) Kóðinn er algerlega villulaus vegna þess að öll próf stóðust
• C) Gæði eru tryggð ef fjöldi prófana er mikill
• D) Að standast prófið sannar að umfjöllun er lokið

Skýring: Próf geta verið að staðfesta núverandi (kannski gallaða) hegðun kóðans, ekki fyrirhugaða hegðun hans; eða hún inniheldur kannski enga marktæka fullyrðingu og er alltaf samþykkt. Til að sjá að prófin séu að athuga raunverulegar væntingar er nauðsynlegt að brjóta kóðann meðvitað og staðfesta að prófið verði rautt.

10. AI hefur framleitt tilbúna kóðablokk fyrir vandamál. Þú grunar að kóðinn gæti hafa verið afritaður orðrétt úr opnu verkefni. Hver er rétta nálgunin?

• A) Nota leyfið án þess að hugsa vegna þess að kóðinn virkar
• B) Athugaðu uppruna/leyfi kóðans, endurskrifa ef nauðsyn krefur og fara eftir stefnu fyrirtækisins ✔
• C) Breyttu bara breytuheitunum og teldu vandamálið leyst
• D) Miðað er við að leyfisveitingar taki eingöngu til stórfyrirtækja

Lýsing: gervigreind getur endurskapað höfundarréttarvarða/leyfisskyldan kóða í þjálfunargögnunum orðrétt. Leyfisbrot í söluvöru skapar alvarlega lagalega áhættu. Nauðsynlegt er að athuga uppruna og leyfi kóðans, endurskrifa hann með eigin orðum ef þörf krefur og fara að leyfisstefnu stofnunarinnar.

11. AI lagði til að þú skipti strax yfir í örþjónustuarkitektúr fyrir verkefnið þitt. Hver er heppilegasta verkfræðiaðferðin þegar þessi tillögu er metin?

• A) Skiptu öllu kerfinu strax í örþjónustur vegna þess að gervigreind bendir til
• B) Að því gefnu að örþjónusta sé alltaf besti kosturinn
• C) Metið tillöguna í samræmi við raunverulega þörf, álag, liðsuppbyggingu og plús-mínus jafnvægi ✔
• D) Að taka ákvörðun byggða eingöngu á vinsældum arkitektúrsins

Skýring: Byggingarfræðilegar ákvarðanir eru háðar samhengi; Örþjónustur bæta við virði í þörfum eins og umfangi og aðskilnaði teymis, en þeim fylgir kostnaður eins og flókið rekstur, dreifða villuleit og kostnað. Meta tillöguna í samræmi við raunverulega þörf, álag, liðsuppbyggingu og kosti og galla jafnvægi; Ekki ætti að fylgja almennum ráðum í blindni.

12. AI framleiddi straumlínulagað README og API skjöl fyrir kóðann þinn; en sumir endapunktar og færibreytur passa ekki saman í kóðanum. Hver er rétt hegðun?

• A) Gefa skjalið út eins og það er vegna þess að textinn er reiprennandi
• B) Lagaðu bara titilinn og láttu restina vera eins og er
• C) Bæta skjalinu við vöruhúsið án þess að lesa það
• D) Berðu saman hvern endapunkt og færibreytu við raunverulegan kóða og lagaðu þá sem passa ekki ✔

Lýsing: Skjöl ættu að vera nákvæm spegilmynd af raunverulegum kóða; Rangt skjal ýtir við þróunaraðilum sem lesa það til að nota það rangt. Sérhver endapunktur, færibreytur og skilagildi ætti að vera sannreynt gegn raunverulegum kóða og leiðrétta ætti misræmi.

13. Hvaða inntaksaðferð er rétt fyrir hágæða framleiðslu þegar beðið er um kóða frá gervigreind?

• A) Gefa skýrt fram tungumál/útgáfu, inntak-úttakssamning, takmarkanir og villuaðstæður ✔
• B) Bara að segja "skrifaðu mér vinnukóða"
• C) Skrifaðu stystu beiðnina án þess að gefa neitt samhengi
• D) Bara að tilgreina hversu margar línur af kóða það verða

Lýsing: Öflug hvetja; Það felur í sér tungumálið og útgáfuna sem notuð er, inntaks-úttakssamninginn, frammistöðu- og stílþvinganir, villuskilyrði og leiðbeiningarnar „vertu aðeins innan umbeðs umfangs“. Samhengislaus „skrifaðu mér aðgerð“ beiðni er almenn og framleiðir oft óviðeigandi kóða.

14. AI bjó til stillingar fyrir CI/CD (samfelld samþætting/dreifing) leiðsluna þína og felldi lykilorð gagnagrunnsins inn í hana í einföldum texta. Hver er rétta leiðréttingin?

• A) Að skilja lykilorðið eftir sem venjulegan texta vegna þess að það virkar
• B) Flytja leyndarmál út með umhverfisbreytu eða leyndarstjórnunartóli, ekki setja texta í geymsluna ✔
• C) Færðu lykilorðið aðeins í athugasemdarlínuna
• D) Að breyta skráarnafni leysir vandamálið

Skýring: Að skrifa leyndarmál eins og lykilorð og lykla í venjulegum texta í stillingarskrána skapar hættu á leka útgáfustýringu og óviðkomandi aðgangi. Leyndarmál; Það ætti að vera haldið úti af umhverfisbreytum eða sérstökum leyndarmálastjóra og ætti aldrei að fara inn í geymsluna í venjulegum texta.