AI kóðunarverkfæri og samþætting verkflæðis

Hagnaður:

• Geta til að kortleggja frágang ritstjóra, spjallaðstoðarmann, CLI umboðsmann og CI sjálfvirkni flokka við verkefni
• Geta til að stilla sjálfræðisstig í samræmi við áhættu og beita „plan fyrst“ aga á CLI umboðsmenn
• Geta til að umbreyta notkun gervigreindar í liðskerfi sem byggir á fullgiltu tæki, sannprófunarhliði, gagnsæi og ábyrgð

Hingað til höfum við lært að nota gervigreind í einstökum verkefnum (kóðun, endurskoðun, prófun, kembiforrit). Í þessari lokaeiningu settum við saman verkin: að kynnast mismunandi gervigreindarkóðunverkfærum, passa rétt verkfæri við rétta vinnu og fella þau á öruggan hátt inn í daglegt þróunarflæði þitt - frá ritstjóra til útgáfustýringar, frá CI/CD leiðslu til teymisstjórnunar. Markmiðið er að breyta sóðalegu „spyrðu gervigreindina öðru hvoru“ vananum í stöðugt og endurskoðanlegt vinnukerfi.

Við náum yfir ökutækisgerðir með hlutlausum flokkum (sérstök vöruheiti breytast hratt; það er hvað flokkurinn gerir sem skiptir máli). Hver flokkur hefur „sweet spot“ og áhættusnið; Leikni er að vita hversu mikið sjálfræði á að gefa hvaða verkefni.

Flokkar gervigreindarkóðunverkfæra

1. Frágangur í ritstjóra. Viðbætur sem stinga upp á línum/blokkum þegar þú slærð inn IDE (þróunarumhverfið þar sem þú skrifar kóða). Sweet spot: hraði í straumi, kóði á ketilplötu. Áhætta: þröngt samhengi, samþykkja tillöguna án þess að hugsa.

2. Aðstoðarmaður spjalls/hliðarborðs. Spjallviðmót innbyggt í IDE með sýnileika í hluta af kóðagrunninum þínum. Sweet spot: lýsing, refactor, prófun, villugreining. Áhætta: takmörkuð við samhengið sem þú gefur upp, krefst staðfestingar.

3. CLI umboðsmenn (umboðstæki). Verkfæri sem keyra frá skipanalínunni geta lesið og breytt mörgum skrám, keyrt skipanir og framkvæmt fjölþrepa verkefni á eigin spýtur. Sweet spot: breytingar á mörgum skrám, endurtekin verkefni, „bæta við þessari eign“ gerð störf. Áhætta: mikið sjálfræði = mikil áhrif; Ef ekki er hakað við, framleiðir það víðtækar breytingar sem erfitt er að sannreyna.

4. Línu/sjálfvirkni samþætting. CI (Continuous Integration) vélmenni sem skilja eftir sjálfvirkar athugasemdir við PR, stinga upp á prófum eða búa til breytingaskrár. Sweet spot: fyrsta sían án þreytu, samkvæmni. Áhætta: hávaði, falskt sjálfstraust.

Ábending: Eftir því sem sjálfræði eykst ætti eftirlit einnig að aukast. Vegna þess að frágangur ritstjóra er lítill og tafarlaus er eftirlit með því létt; Breyting á fjölskrám CLI umboðsmanns ætti að skoða alveg eins, ef ekki vandlega, en mannlega PR.

Skref fyrir skref: Fella gervigreind inn í verkflæði

1. Kortaðu verkefnið við tólið. Lítil viðbót í streymi → frágangur; skilja/refactor/prófa → spjalla; margskrár, endurtekin vinna → CLI umboðsmaður; samfelld fyrsta sía → CI samþætting.
2. Veldu stig sjálfræðis. Hversu mikið frelsi hefur umboðsmaðurinn? Skrifvarinn tillaga eða skráarbreyting + framkvæmd skipana? Stilla fyrir áhættu.
3. Hlúðu að samhenginu. Settu varanlega verkefnareglur (stíl, arkitektúr, "ekki gera") inn í tólið; Notaðu verkefnisleiðbeiningarskrá í stað þess að útskýra hana aftur og aftur.
4. Viðhalda sannprófunarhliðum. Breytingar á gervigreind eru eins og mannlegar breytingar: þær fara í gegnum samantekt, prófun, endurskoðun og (ef mikilvægt) samþykki sérfræðinga. AI opnun PR framhjá ekki samþykki.
5. Mæla og stilla. Fylgstu með hvað raunverulega hraðar, þar sem leiðréttingarbyrðin eykst; Skerið út notkun sem virkar ekki.

Þrjú Mini Cass

Tilfelli 1 - CLI umboðsmaður annaðist endurnefna fjölskráa. Eitt lið myndi endurnefna hugtak sem dreift er yfir 60 skrár. Þeir gáfu CLI umboðsmanni verkefnið, báðu fyrst um áætlun, samþykktu áætlunina, gerðu síðan breytinguna og keyrðu alla prófunarsvítuna. Umboðsmaður 3 missti af kantmáli í skránni; Próf náðu því, lagaði það. Verkið, sem tók um það bil 3 klukkustundir handvirkt, var lokið á 50 mínútum með eftirliti.

Mál 2 - Óheft sjálfræði kom aftur á bak. Annar verktaki sagði umboðsmanni að "bæta þessa einingu" og gaf hana út; Umboðsmaðurinn breytti 18 skrám og bætti við tveimur ósjálfstæðum. Breytingin var svo víðtæk að ekki var hægt að endurskoða hana og þurfti að draga hana til baka. Lexía: Gefðu umboðsmönnum þröngt svigrúm, skýrar viðmiðunarviðmiðanir og aga sem þú gerir fyrst og síðar.

Tilfelli 3 - CI endurskoðunarvél varð fyrsta sían. Eitt teymi smíðaði vélmenni sem skilur eftir sjálfvirkar athugasemdir um gervigreind við PR. Þegar vélmenni náði núllathugun og stílvandamálum gátu mannlegir gagnrýnendur helgað tíma sínum í viðskiptarökfræði. Hins vegar gerði teymið það ljóst að botninn veitti ekki „samþykki“: að minnsta kosti eitt mannlegt samþykki var enn krafist. Til að draga úr hávaða stilltu þeir bátinn þannig að hann skildi aðeins eftir háan/miðlungsstyrkan hávaða.

Fjögur afritanleg sniðmát

„Planaðu fyrst“ aga fyrir CLI umboðsmann:

Verkefni: {{skýrt, þröngt verkefni}}Samþykktarviðmið: {{mælanleg niðurstaða}}Þvingun: virkar aðeins á {{eftirfarandi möppu/skrám}}; að bæta við nýju ósjálfstæði. Settu fyrst fram áætlun ÁN BREYTA: hvaða skrár, hvað mun breytast, hvaða próf á að keyra. Bíddu eftir að ég SAMÞYKKI áætlunina. Notaðu það síðan skref fyrir skref, keyrðu próf í hverju skrefi.

Verkefnaleiðbeiningarskrá (viðvarandi samhengi við verkfæri):

Viðvarandi reglur fyrir gervigreind verkfæri í þessu verkefni:- Tungumál/útgáfa: {{...}}. Stíll: {{...}}.- Byggingarfræðileg þvingun: {{t.d. stefna milli laga}}.- ALDREI: fella inn leyndarmál, nota framleiðslugögn, {{bönnuð bókasöfn}}.- Sérhver breyting verður að vera prófanleg; Breytir opinberu API undirskriftinni ÁN þess að spyrja. - Ef þú ert í vafa skaltu stoppa og spyrja.

Ákvörðun um kortlagningu verkfæra:

Ég skilgreini eftirfarandi verkefni: {{verkefni}}. Hvaða flokki verkfæra ætti ég að gera þetta með: (a) klára ritstjóra, (b) spjallaðstoðarmann, (c) CLI umboðsmann, (d) CI sjálfvirkni? Skrifaðu rökin þín, áhættuna og ráðlagða sjálfræðisstig (aðeins uppástunga / breyta skrá / keyra skipun).

CI endurskoða siðareglur botna:

Skildu aðeins eftir niðurstöður HÁR og miðlungs alvarleika sem athugasemdir í umfjöllun um PR. Hver niðurstaða: flokkur, alvarleiki, leiðréttingartillögur. Safnaðu glósum á stílvalstiginu í aðskilda, eina samantektarskýrslu. Þú SAMþykkir EKKI; mannlegt samþykki krafist.

Veik kvaðning / Sterk kvaðning

Veik: (til CLI umboðsmanns) "Gerðu greiðslueininguna betri."

Sterkt: (Til CLI umboðsmanns) "Aðeins keyrt undir src/payments/. Verkefni: Dragðu endurkvæma staðfestingarrökfræðina úr endurgreiðslu() aðgerðinni í einn hjálpara; hegðun og undirskriftir breytast ekki. Kynntu fyrst áætlunina og bíddu eftir samþykki mínu; keyrðu síðan og keyrðu prófin/greiðslurnar/pakkann. Bættu við nýjum ósjálfstæði."

Sterka útgáfan þrengir svigrúmið, setur viðurkenningarviðmið og takmarkanir og setur á „áætlun fyrst“ aga. Óljósar kröfur um „gera betur“ eru undirrót mikilla og óviðráðanlegra breytinga.

ökutækjaflokki

Það sem hann er bestur í

sjálfræði

skoðunarþyngd

Frágangur ritstjóra

Lítil viðbót í streymi

lágt

Ljós (snablikalestur)

spjallaðstoðarmaður

Skilja, prófa, endurtaka

miðlungs

Miðlungs (úttakssannprófun)

CLI umboðsmaður

Fjölskrár, endurkvæmar

hátt

Þungt (áætlun + heildarskoðun)

CI sjálfvirkni

Stöðug fyrsta sía

miðlungs

Miðlungs (regla + mannlegt samþykki)

Teymisstjórnun: Frá einstaklingsfærni til sameiginlegs kerfis

Að nota gervigreind vel á einstaklingsgrundvelli er byrjun; raunverulegur þroski er stöðugt kerfi á liðsstigi. Þetta kerfi er byggt á nokkrum stoðum: lista yfir samþykkt verkfæri (hvaða verkfæri er hægt að nota með hvaða gögnum — frá einingu 10), sannprófunarhlið (AI breyting fer í gegnum sömu byggingar-/prófunar-/endurskoðunarhlið — frá einingu 11), gagnsæi (sem tilgreinir að breyting sé knúin gervigreind veitir rekjanleika þar sem nauðsyn krefur) og skýra ábyrgð (sá sem skráir sig og ber ábyrgð). Þessi rammi takmarkar áhættu á sama tíma og hraða er viðhaldið og tryggir að nýir liðsmenn vinni með sama aga.

Varúð: Því hærra sem sjálfræði tóls er - sérstaklega CLI umboðsmenn sem geta breytt skrám, keyrt skipanir - því strangari takmarka það aðgang að framleiðsluumhverfinu, trúnaðargögnum og aðgerðum sem erfitt er að snúa til baka. Binddu eyðileggjandi skipanir (varanlega eyðingu, dreifingu) við mannlegt samþykki.

Algeng mistök

• Verkefni þýðir ósamrýmanleiki. Að reyna að vinna mörg skráarverk þar sem ritstjóra er lokið eða lítið viðhengi með þungum umboðsmanni.
• Að sleppa umboðsmanni. Verkefni umboðsmanns sem gefin eru með þröngt umfang og án „áætlun fyrst“ valda órannsökuðum breytingum.
• Losar um staðfestingarhlið fyrir gervigreind. "AI gerði það, við skulum halda áfram fljótt" er hættulegasta undantekningin; Hurðirnar eru eins fyrir alla.
• Að gefa samhengið handvirkt í hvert skipti. Að skrifa ekki verkreglur inn í varanlega kennsluskrá veldur ósamræmi og tvíverknaði.
• Að misskilja samþykki CI botsins fyrir samþykki manna. Bot er sía; Ábyrgt mannlegt samþykki er skylt.

Í stuttu máli

AI kóðunarverkfæri falla í fjóra meginflokka: frágang ritstjóra, spjallaðstoðarmaður, CLI umboðsmenn og CI sjálfvirkni. Leikni er að passa verkefnið við rétt verkfæri og rétta sjálfræðisstigið; Eftir því sem sjálfræði eykst eykst eftirlit líka. Gefðu verkfærum viðvarandi verkefnasamhengi, leggðu „plan fyrst“ aga á fjölskráa umboðsmenn og sendu gervigreindarbreytingar í gegnum sömu sannprófunarhlið og mannlegar breytingar. Einstaklingskunnátta; Umbreyttu því í liðskerfi byggt á samþykktum verkfæralista, sannprófunarhliðum, gagnsæi og skýrri ábyrgð. AI er enda-til-enda hraða margfaldari; Sá sem skrifar undir og gefur reikninginn er alltaf hæfur aðili.

Umsóknarverkefni

Nefndu þrjú raunveruleg verkefni sem þú munt gera í næstu viku. Notaðu sniðmátið „ákvörðun um samsvörun á milli verkefna og ökutækja“ fyrir hvert til að rökstyðja hvaða ökutækjaflokk og hvaða sjálfræðisstig þú velur. Keyrðu síðan þröngt verkefni fyrir CLI umboðsmann (eða spjallaðstoðarmann) með „plan fyrst“ aga: samþykkja áætlunina, framfylgja henni, keyra prófin og endurskoða breytinguna eins og mannlegur PR. Að lokum, gerðu drög að 5 punkta „AI notkunarreglu“ fyrir teymið þitt (samþykkt verkfæri, gagnaregla, sannprófunarhlið, sjálfræðismörk, ábyrgð).

gátlisti

• [ ] Ég get greint á milli flokka gervigreindarkóðun tóla og sæta bletti hvers og eins.
• [ ] Ég kortleggi verkefnið í réttan ökutækjaflokk og viðeigandi sjálfræðisstig.
• [ ] Ég gef verkfærunum varanlegt verkefni (leiðbeiningarskrá).
• [ ] Ég beiti þröngum sviðum og „skipuleggjum fyrst“ aga á CLI umboðsmenn.
• [ ] Ég sendi gervigreindarbreytingar í gegnum sömu sannprófunarhlið og mannlegar breytingar.
• [ ] Ég er talsmaður fyrir fullgilt verkfæri, gagnareglu, gagnsæi og ábyrgðaramma á teymisstigi.

Einingapróf

1. Hvað gerir hið undirliggjandi stóra tungumálalíkan kóðunaraðstoðar í raun þegar það framleiðir kóða?

• A) Spáir mynsturlega fyrir um líklegasta framhaldið út frá gefnu samhengi ✔
• B) Tryggir rétta niðurstöðu með því að setja saman og keyra kóðann
• C) Það skannar kóðann um allt internetið í beinni útsendingu og afritar þann nákvæmasta.
• D) Skilur rökfræði kóðans eins og mannverkfræðingur og skilur ætlunina

Skýring: LLM "skilur" ekki kóða eins og maður; Það myndar líklegast framhald í tilteknu samhengi, byggt á mynstrum sem það lærir af mjög stórum hópi texta og kóða. Þess vegna eru gæði úttaksins beint háð gæðum samhengisins og kennslunnar sem þú gefur, og hver framleiðsla verður að vera staðfest.

2. Hvað kallarðu það þegar gervigreind býr til á sannfærandi hátt aðgerð eða bókasafn sem ekki er til og hvert er eina raunverulega mótefnið?

• A) Þetta er kallað samantektarvilla; Mótefnið er sterkari búnaður
• B) Þetta er kallað ofskynjanir; Mótefnið er að staðfesta kóðann og hvert API sem notað er ✔
• C) Þetta er kallað afturför; Mótefnið er að endurræsa líkanið
• D) Þetta er kallað samhengisflæði; Mótefnið er að stytta fyrirmælin

Lýsing: Þetta er kallað ofskynjanir og veldur einni dýrustu villunni í hugbúnaði. Eina raunverulega mótefnið er staðfesting: að staðfesta að sérhver aðgerð, API og pakki sem notaður er sé raunverulega til og að kóðinn virki. Öruggur tónn líkansins er ekki sönnun um nákvæmni.

3. Hvaða nálgun bætir mest gæði og samkvæmni úttaks þegar þú býrð til kóða með gervigreind?

• A) Að sleppa líkaninu með því að segja 'skrifaðu þetta til mín' án þess að gefa neitt samhengi
• B) Að skrifa lengstu og fínustu leiðbeiningarnar sem mögulegt er
• C) Tilgreindu og gefðu dæmi um inntaks-/úttakssamning, kantmál, útgáfu og stíl ✔
• D) Sameina myndaða kóða beint án þess að lesa hann

Skýring: Að ákvarða inntaks-/úttaksgerðir fallsins (samningur), jaðartilvik, tungumál/útgáfu og stílþvingun og gefa dæmi fyrir líkanið gerir umskipti frá spá til nákvæmni. Samhengislausar „skrifaðu mér þetta“ beiðnir framleiða kóða sem er mismunandi hverju sinni og fer oft framhjá brúntilvikum.

4. Þegar erlendur kóðagrunnur er skoðaður með gervigreind getur heiti falls verið 'validateAndSave' en gervigreindarsamdrátturinn gæti verið röng. Hver er rétta nálgunin?

• A) Fullt traust á gervigreindarsamantektinni þar sem nafnið skýrir sig sjálft
• B) Að breyta aðgerðinni beint án þess að lesa hana
• C) Ákvörðun bara með því að skoða fallheitið
• D) Farðu með gervigreindarlýsinguna sem tilgátu og staðfestu mikilvægar kröfur línu fyrir línu í kóðanum ✔

Skýring: AI gæti horft á nafnið í kóðanum og sagt þér „hvernig það lítur út fyrir að vera að gera“, en í raun getur rökfræðin verið önnur (eða jafnvel öfug). Svo AI skýringin er tilgáta; Mikilvægar kröfur, sérstaklega þær sem fela í sér öryggi, heimild eða peningaflæði, ætti að sannreyna sjónrænt á viðkomandi línum.

5. Hver er stærsta hættan við að segja „AI leit á það, það er ljóst“ í AI-aðstoðinni kóða endurskoðun?

• A) AI getur framleitt rangar neikvæðar; Raunveruleg mistök skapa falskt sjálfstraust ✔
• B) AI endurskoðun er of hæg svo hún sóar tíma
• C) Liðið skilur ekki vegna þess að gervigreindin tjáir sig aðeins á ensku
• D) PR rennur ekki saman vegna þess að gervigreind oftúlkar oft

Skýring: gervigreind framleiðir bæði rangar jákvæðar (merkja vandamál þar sem það er ekki til) og rangar neikvæðar (vantar raunverulegu villuna). Falskar neikvæðar eru þöglar; Hættulegustu mistökin eru þau sem alls ekki eru nefnd í umsögninni. Svo gervigreind er fyrsta sía, ekki samþykki; Ákvörðun um sameiningu er í höndum ábyrgðarmanns.

6. Hver er skaðlegasta gildran sem verður þegar þú gefur gervigreindinni bara kóðann og prentar prófin?

• A) AI skrifar alltaf of mörg próf og blæs upp kóðagrunninn
• B) gervigreind prófar núverandi (kannski ranga) hegðun kóðans sem „rétt“ og lagar villuna ✔
• C) AI eyðir kóða sjálfkrafa þegar próf eru skrifuð
• D) AI skrifar próf ekki aðeins fyrir hamingjuslóðina heldur alltaf fyrir brúnmálið

Skýring: gervigreind hefur tilhneigingu til að skoða kóða og skrifa fullyrðingar sem prófa núverandi hegðun. Ef kóðinn er rangur frá upphafi lagar gervigreind þessa rangu hegðun sem „rétt“. Þess vegna ætti að skrifa væntingar prófsins í samræmi við nauðsynlega reglu (forskrift), ekki í samræmi við núverandi úttak kóðans.

7. Hvað ræður mestu um nákvæmni tilgáta við villuleit með gervigreind?

• A) Hversu kurteislega er tilvitnunin skrifuð.
• B) Hversu oft var spurt aftur
• C) Gæði sönnunargagna sem líkanið hefur veitt: full villuskilaboð, staflaspor, inntak og væntanleg hegðun ✔
• D) Í hvaða litaþema er kóðinn skrifaður?

Skýring: gervigreind sér ekki villuna eins og þú gerir; Hann veit bara sönnunargögnin sem þú gefur honum. Að teknu tilliti til villuboðanna í heild sinni, rekja stafla, kveikja inntaks og væntanlegrar hegðunar, telur líkanið upp raunverulega möguleika; Ef það eru engar sönnunargögn, gerir það ágiskanir (ofskynjanir) og leiðir þig á ranga braut.

8. Hvert er mikilvægasta skrefið áður en þú gefur gervigreindarskrár til greiningar?

• A) Límdu annálinn eins og hann er, sem nær yfir allan daginn
• B) Umbreyttu log í hástafi fyrst
• C) Að raða línum í stafrófsröð
• D) Að fela persónuleg gögn og leyndarmál og gefa aðeins upp viðeigandi glugga ✔

Lýsing: Hrá framleiðsluskrár innihalda IP, tölvupóst, lotuauðkenni, tákn og stundum opið leyndarmál. Að stinga þeim inn í gervigreindarverkfæri án þess að hylja þau er alvarlegt friðhelgisbrot. Auk þess ætti að sía skrána í þröngan tímaglugga; En fyrsta nauðsynin er að hreinsa viðkvæm gögn.

9. Hvað ætti að gera ef gervigreindin segir að tveir atburðir hafi gerst 'samtímis' í loggreiningu og lýsir því yfir að einn sé undirrót?

• A) Hunsa fylgni sem orsakasamhengi og sannreyna fullyrðinguna með mælingum og kóða ✔
• B) Samþykkja orsökina sem endanlega vegna þess að gervigreind kemur á tímasambandi
• C) Tafarlaust endurræsa fyrsta ákærða þáttinn
• D) Eyða annálunum alveg og safna þeim aftur

Skýring: Algengasta gryfjan í loggreiningu er að rugla saman fylgni og orsakasamhengi. Tímasambandið sem gervigreindin hefur komið á er vísbending, ekki sönnun. Sönn orsakasamhengi krefst tímasetningar, vélbúnaðar og, ef mögulegt er, endurtekningarhæfni; Krafan verður að vera staðfest með mælingum og kóða.

10. Hver er gullna reglan sem ekki er samningsatriði við endurstillingu með gervigreind og hvað tryggir það?

• A) Kóðinn ætti að vera styttri; Fjöldi lína tryggir þetta
• B) Engin breyting á hegðun; próf sem fanga núverandi hegðun tryggja þetta ✔
• C) Kóðinn inniheldur fleiri athugasemdir; AI tryggir þetta
• D) Endurskrifa alla skrána í einu; umboðsmaður ábyrgist þetta

Skýring: Refactoring er að bæta innri uppbyggingu kóðans án þess að breyta ytri hegðun hans; Gullna reglan er sú að hegðun er stöðug. Það sem tryggir þetta er prófun: prófnet sem fangar núverandi hegðun áður en því er breytt er sett upp og keyrt eftir hvert skref. Refactoring án testnets er fjárhættuspil.

11. Hvert er lagið í skjalaframleiðslu sem gervigreind getur ekki þekkt og er hættulegt að búa til?

• A) Hvernig á að keyra uppsetningarskrefin
• B) Færibreytulisti falls
• C) Rökstuðningur fyrir „af hverju“ hönnunarákvörðun var tekin á þann hátt ✔
• D) Á hvaða tungumáli er kóðinn skrifaður?

Lýsing: AI getur dregið út 'hvað/hvernig' lagið (hvað gerir aðgerðin, hvernig er hún uppsett) úr kóðanum; en það getur ekki vitað „af hverju“ lagið (hönnunarrök fyrir ákvörðun, ástæðan fyrir viðmiðunarmörkum). Tilbúin „ástæða“ er hættulegri en engin réttlæting; Kóðaeigandinn verður að bæta þessu lagi við.

12. Hvað ætti þróunaraðili að gera ef hann vill líma stillingarskrá sem inniheldur lifandi API lykil í ósamþykkt gervigreindarverkfæri á meðan hann leysir brýn villu?

• A) Fyrir hraða skaltu líma skrána eins og hún er og eyða síðan spjallinu
• B) Bættu við „trúnaðarorði“ í lok skrárinnar og sendu hana
• C) Skildu eftir takkann og breyttu aðeins skráarnafninu
• D) Fjarlægðu/maskaðu leyndarmál og gefðu aðeins nauðsynlegt óviðkvæmt samhengi ✔

Birting: Leyndarmál, persónuupplýsingar og trúnaðareignir ættu aldrei að fara í ósamþykktar leiðir; Brýnt frestar ekki þessari rauðu línu. Rétta aðferðin er að draga út/hylja leyndarmálin fyrst og gefa aðeins nauðsynlegt, óviðkvæmt samhengi. Ef leyndarmál lekur enn er það fyrsta sem þarf að gera að snúa lyklinum strax.

13. Kóði sem myndaður er gervigreind stenst próf og keyrir í framleiðslu. Sannar þetta að kóðinn sé öruggur?

• A) Nei; „vinna“ þýðir ekki öruggt, öryggi krefst sérstakrar auðkenningar ✔
• B) Já; Kóði sem stenst prófið er öruggur samkvæmt skilgreiningu
• C) Já; Að keyra það í framleiðslu útilokar alla veikleika
• D) Nei; en öryggi skiptir aðeins máli ef kóðinn er hægur

Skýring: „Að vinna“ er ekki það sama og „öruggt“. Jafnvel þótt kóðinn innihaldi varnarleysi eins og SQL innspýtingu, getur hann staðist próf og keyrt vel; Varnarleysið kemur aðeins í ljós þegar árásarmaður finnur hann. Þess vegna, auk nákvæmni, ætti að framkvæma öryggismiðaða endurskoðun og skannanir eins og SAST sem sérstakt lag.

14. Hver er öruggasta fræðigreinin þegar CLI umboðsmaður (sjálfstætt tól sem getur breytt skrám og keyrt skipanir) gefið fjölskráaverkefni?

• A) Að segja umboðsmanninum að „bæta þessa einingu“ og gefa fullt frelsi
• B) Að gefa þröngt svigrúm og viðurkenningarviðmið, biðja um áætlun fyrst, samþykkja hana, framkvæma hana skref fyrir skref og keyra prófin ✔
• C) Sameina allar breytingar umboðsmannsins beint án þess að fara yfir þær
• D) Að veita umboðsmanni ótakmarkaðan aðgang að framleiðsluumhverfinu og trúnaðargögnum

Skýring: Eftir því sem sjálfræði eykst ætti eftirlit einnig að aukast. Að gefa umboðsmanni þröngt svigrúm og skýrar viðmiðunarviðmiðanir, fyrst biðja um áætlun án breytinga, samþykkja áætlunina, síðan láta framkvæma hana skref fyrir skref og keyra próf í hverju skrefi; Það kemur í veg fyrir breytingar sem eru víðtækar, óendurskoðanlegar og þarf að draga til baka.

15. Hver ber ábyrgð vegna gervigreindarkóða í öryggis mikilvægum hugbúnaði (t.d. greiðslu eða auðkenningar)?

• A) Þar sem kóðinn kemur frá gervigreind er hann í ökutækjaveitunni
• B) Ef gervigreind er nægilega þróuð hefur enginn; engin þörf á að sannreyna
• C) Teymið/verkfræðingur sem skoðar, setur saman og dreifir kóðanum; AI kemur ekki í stað samþykkis ✔
• D) Aðeins sá sem skrifar fyrirmælin, ekki þeir sem skoða hana

Lýsing: gervigreind er hraða margfaldari og teikning rafall; getur ekki axlað ábyrgð. Ábyrgð á villum, veikleikum eða brotum sem stafa af kóðanum í framleiðslu er teymisins sem fer yfir, setur saman og dreifir þeim kóða. Á mikilvægum öryggissvæðum kemur gervigreind framleiðsla ekki í staðinn fyrir endurskoðun og samþykki hæfs verkfræðings undir neinum kringumstæðum.