AI kodeerimistööriistad ja töövoo integreerimine

Kasu:

• Võimalus vastendada toimetaja valmimist, vestlusabilist, CLI-agendi ja CI automatiseerimise kategooriad ülesannetega
• Võimalus kohandada autonoomia taset vastavalt riskile ja rakendada CLI agentide suhtes "planeeri kõigepealt" distsipliini
• Võimalus muuta AI kasutamine meeskonnasüsteemiks, mis põhineb valideeritud tööriistal, kontrollväraval, läbipaistvusel ja vastutusel

Seni oleme õppinud kasutama AI-d üksikutes ülesannetes (kodeerimine, ülevaatamine, testimine, silumine). Selles viimases üksuses panime tükid kokku: tutvume erinevate AI kodeerimistööriistadega, sobitasime õige tööriista õige tööga ja integreerime need turvaliselt teie igapäevasesse arendusvoogu – redaktorist versioonihalduseni, CI/CD torustikust meeskonna juhtimiseni. Eesmärk on muuta räpane harjumus “küsi tehisintellektilt aeg-ajalt” järjepidevaks ja auditeeritavaks töösüsteemiks.

Katame sõidukitüübid neutraalsete kategooriatega (konkreetsed tootenimed muutuvad kiiresti; loeb see, mida kategooria teeb). Igal kategoorial on "sweet spot" ja riskiprofiil; Meisterlikkus on teadmine, kui palju autonoomiat millisele ülesandele anda.

AI kodeerimistööriistade kategooriad

1. Toimetajasisene lõpetamine. Pluginad, mis soovitavad ridu/plokke, kui sisestate oma IDE-sse (arenduskeskkond, kuhu koodi kirjutate). Sweet spot: voosisene kiirus, standardkood. Risk: kitsas kontekst, soovituse vastuvõtmine mõtlemata.

2. Vestlus/külgpaneeli assistent. IDE-sse manustatud vestlusliides koos nähtavusega teie koodibaasi osasse. Sweet spot: kirjeldus, refaktor, testimine, veaanalüüs. Risk: piirdub teie antud kontekstiga, nõuab kontrollimist.

3. CLI agendid (agendi tööriistad). Tööriistad, mis töötavad käsurealt, saavad lugeda ja muuta mitut faili, käivitada käske ja täita mitmeastmelisi ülesandeid. Sweet spot: mitme faili muudatused, korduvad ülesanded, "lisa see omadus" tüüpi tööd. Risk: suur autonoomia = suur mõju; Kui see jäetakse märkimata, toob see kaasa ulatuslikud ja raskesti kontrollitavad muudatused.

4. Line/automaatika integreerimine. CI (Continuous Integration) robotid, mis jätavad PR-dele automaatse ülevaatuse, soovitavad teste või koostavad muudatuste logisid. Sweet spot: esimene kurn ilma väsimuseta, konsistents. Risk: müra, vale enesekindlus.

Vihje: autonoomia suurenedes peaks suurenema ka kontroll. Kuna toimetaja valmimine on väike ja hetkeline, on see kerge järelevalve all; CLI agendi mitmest failist koosnevat modifikatsiooni tuleks uurida samamoodi, kui mitte hoolikamalt, kui inimese PR-i.

Samm-sammult: tehisintellekti manustamine töövoogu

1. Kaardistada ülesanne tööriistaga. Väike voosisene lisamine → lõpetamine; mõista/refaktoreeri/testima → vestlema; mitme failiga, korduv töö → CLI agent; pidev esimene filter → CI integreerimine.
2. Valige autonoomia tase. Kui palju on agendil vabadust? Kirjutuskaitstud soovitus või faili muutmine + käsu täitmine? Kohandage riski järgi.
3. Kasvatage konteksti. Viige tööriistasse püsivalt sisse projektireeglid (stiil, arhitektuur, "ei tohi"); Kasutage projekti juhiste faili selle asemel, et seda ikka ja jälle seletada.
4. Säilitage kontrollväravad. Tehisintellekti muutus on nagu inimeste muutus: see läbib koostamise, testimise, ülevaatuse ja (kui see on oluline) ekspertide heakskiidu. AI avamise PR ei möödu heakskiitmisest.
5. Mõõtke ja reguleerige. Jälgige, mis tegelikult kiireneb, kus suureneb korrektsioonikoormus; Kärbi ära kasutusalad, mis ei tööta.

Kolm miniümbrist

Juhtum 1 – CLI agent tegeles mitme faili ümbernimetamisega. Üks meeskond nimetaks ümber 60 faili hõlmava kontseptsiooni. Nad andsid ülesande CLI agendile, küsisid esmalt plaani, kiitsid plaani heaks, tegid seejärel muudatuse ja käivitasid kogu testkomplekti. Agent 3 jättis failis ühe servajuhtumi vahele; Katsed püüdsid selle kinni, parandasid ära. Käsitsi ca 3 tundi kestnud töö tehti juhendamisel 50 minutiga.

Juhtum 2 – kontrollimata autonoomia andis tagasilöögi. Teine arendaja käskis agendil "seda moodulit täiustada" ja andis selle välja; Agent muutis 18 faili ja lisas kaks sõltuvust. Muudatus oli nii ulatuslik, et seda ei saanud üle vaadata ja see tuli tagasi võtta. Õppetund: andke agentidele kitsas ulatus, selged vastuvõtukriteeriumid ja kõigepealt plaani-hiljem tee distsipliini.

Juhtum 3 – CI ülevaatuse robotist sai esimene filter. Üks meeskond ehitas roboti, mis jätab PR-idele automaatsed tehisintellekti ülevaated. Kui robot tuvastas nullkontrolli väljajätmised ja stiiliprobleemid, said ülevaatajad pühendada oma aega äriloogikale. Kuid meeskond tegi selgeks, et bot ei andnud "kinnitust": siiski oli vaja vähemalt ühte inimese nõusolekut. Müra vähendamiseks häälestasid nad paadi nii, et alles jääks ainult kõrge/keskmise intensiivsusega müra.

Neli kopeeritavat malli

CLI agendi distsipliin "planeerige kõigepealt":

Ülesanne: {{selge, kitsas ülesanne}}Aktsepteerimiskriteeriumid: {{mõõdetav tulemus}}Piiramine: töötage ainult {{järgmistes kataloogides/failides}}; uue sõltuvuse lisamine.Esmalt esitage plaan ILMA MUUDATUSTA: millised failid, mis muutuvad, milliseid teste käivitada. Oodake, kuni ma plaani KINNITAN. Seejärel rakendage seda samm-sammult, tehes igas etapis teste.

Projekti juhiste fail (tööriistade püsiv kontekst):

Selle projekti AI-tööriistade püsivad reeglid:- Keel/versioon: {{...}}. Stiil: {{...}}.- Arhitektuurne piirang: {{nt. suund kihtide vahel}}.- MITTE KUNAGI: saladuste manustamine, tootmisandmete kasutamine, {{forbidden libraries}}.- Iga muudatus peab olema testitav; Avaliku API allkirja muutmine ILMA küsimata. - Kui kahtled, peatu ja küsi.

Task-tööriista kaardistamise otsus:

Defineerin järgmise ülesande: {{ülesanne}}. Millise tööriistaklassiga peaksin seda tegema: (a) redaktori lõpuleviimine, (b) vestlusabiline, (c) CLI agent, (d) CI automatiseerimine? Kirjutage oma põhjendus, risk ja soovitatav autonoomia tase (ainult soovitus / faili muutmine / käsk käivitamine).

CI ülevaatuse robotite käitumiskoodeks:

Jätke PR-ülevaates kommentaarideks ainult KÕRGE ja KESKMISE raskusastmega leiud. Iga leid: kategooria, raskusaste, soovitatud parandus. Koguge stiilieelistuse tasemel märkmed eraldi kokkuvõtlikuks kommentaariks. SINA EI NÕUSTU; nõutav inimese heakskiit.

Nõrk viip / Tugev viip

Nõrk: (CLI agendile) "Tee maksemoodul paremaks."

Tugev: (CLI agendile) "Käivita ainult all src/payments/. Ülesanne: Ekstraktige rekursiivne valideerimisloogika funktsioonist refund() ühte abistajasse; käitumine ja allkirjad ei muutu. Esmalt esitage plaan ja oodake minu kinnitust; seejärel käivitage ja käivitage testid/maksed/pakett. Lisage uus sõltuvus."

Tugev versioon kitsendab ulatust, seab vastuvõtmise kriteeriumid ja piirangud ning kehtestab distsipliini "planeerige kõigepealt". Ebamäärased nõudmised "teha paremini" on suurte ja kontrollimatute muutuste algpõhjus.

sõiduki klass

Milles ta kõige parem on

autonoomia

kontrolli kaal

Toimetaja lõpetamine

Väike voosisene lisamine

madal

Kerge (kohene lugemine)

vestlusassistent

Saage aru, katsetage, taastage

keskmine

Keskmine (väljundi kinnitus)

CLI agent

Mitme failiga, rekursiivne

kõrge

Raske (plaan + täielik ülevaade)

CI automatiseerimine

Pidev esimene filter

keskmine

Keskmine (reegel + inimese heakskiit)

Meeskonna juhtimine: individuaalsetest oskustest jagatud süsteemini

AI kasutamine individuaalselt on algus; tõeline küpsus on järjepidev süsteem meeskonna tasandil. See süsteem põhineb mitmel sambal: heakskiidetud tööriistade loend (millisi tööriistu milliste andmetega saab kasutada alates üksusest 10), kontrollväravad (AI muudatus läbib sama ehitus-/testimis-/ülevaatusvärava – alates 11. üksusest), läbipaistvus (teatis, et muudatus on tehisintellekti jõul, tagab vajadusel jälgitavuse) ja vastutuse selgus (allkirja andja ja vastutav isik). See raamistik piirab riske, säilitades samal ajal kiiruse ja tagab, et uued meeskonnaliikmed töötavad sama distsipliiniga.

Ettevaatust. Mida suurem on tööriista autonoomia (eriti CLI agentide puhul, mis saavad faile muuta ja käske käivitada), seda rangemalt piirab see juurdepääsu tootmiskeskkonnale, konfidentsiaalsetele andmetele ja raskesti tagastatavatele toimingutele. Siduge hävitavad käsud (püsiv kustutamine, juurutamine) inimeste heakskiiduga.

Levinud vead

• Ülesanne-tähendab kokkusobimatust. Proovin teha mitme failiga tööd koos redaktori lõpetamisega või väikese manusega raske agendiga.
• Agendi vabastamine. Kitsa ulatusega ja ilma "plaanita esmalt" antud agendiülesanded toovad kaasa uurimata muudatusi.
• AI kinnitusluukide lõdvendamine. "AI tegi ära, lähme kiiresti edasi" on kõige ohtlikum erand; Uksed on kõigile ühesugused.
• Konteksti andmine iga kord käsitsi. Projektireeglite püsivasse käsufaili kirjutamata jätmine tekitab ebakõlasid ja dubleerimist.
• CI-roti loa eksitamine inimese heakskiiduga. Bot on filter; Vastutustundliku inimese heakskiit on kohustuslik.

Kokkuvõttes

AI kodeerimistööriistad jagunevad nelja põhikategooriasse: redaktori lõpetamine, vestluse assistent, CLI agendid ja CI automatiseerimine. Meisterlikkus on ülesande sobitamine õige tööriista ja õige autonoomia tasemega; Autonoomia suurenedes suureneb ka kontroll. Andke tööriistadele püsiv projektikontekst, kehtestage mitme failiga agentidele „kõigepealt plaan” ja viige tehisintellekti muudatus läbi samade kinnitusväravade nagu inimlikud muutused. Individuaalne oskus; Muutke see meeskonnasüsteemiks, mis põhineb heakskiidetud tööriistade loendil, kontrollväravatel, läbipaistvusel ja vastutuse selgusel. AI on otsast lõpuni kiiruse kordaja; Isik, kes kirjutab alla ja annab konto, on alati pädev inimene.

Rakenduse ülesanne

Nimetage kolm reaalset ülesannet, mida järgmisel nädalal teete. Kasutage igaühe jaoks malli „ülesannete ja sõidukite sobitamise otsus”, et põhjendada, millise sõidukiklassi ja millise autonoomiataseme valite. Seejärel käivitage CLI agendi (või vestlusassistendi) jaoks kitsas ülesanne "kõigepealt plaan": kinnitage plaan, jõustage see, käivitage testid ja vaadake muudatus üle nagu inimlik PR. Lõpuks koostage oma meeskonna jaoks 5-punktiline tehisintellekti kasutamise reegel (kinnitatud tööriistad, andmete reegel, kinnitusvärav, autonoomiapiirang, vastutus).

kontrollnimekiri

• [ ] Ma suudan eristada tehisintellekti kodeerimistööriistade kategooriaid ja nende eeliseid.
• [ ] Segan ülesande õigele sõidukiklassile ja sobivale autonoomiatasemele.
• [ ] Annan tööriistadele püsiva projekti konteksti (juhisefaili).
• [ ] Rakendan CLI agentide suhtes kitsa ulatuse ja "planeerin kõigepealt" distsipliini.
• [ ] Lasen tehisintellekti muudatused läbi samade kontrollväravatega nagu inimlikud muudatused.
• [ ] Pooldan valideeritud tööriista, andmereeglit, läbipaistvuse ja vastutuse raamistikku meeskonna tasandil.

Mooduli eksam

1. Mida teeb kodeerimisassistendi aluseks olev suur keelemudel, kui see koodi toodab?

• A) ennustab antud konteksti põhjal mustriliselt kõige tõenäolisemat jätku ✔
• B) Garanteerib õige tulemuse, koostades ja käivitades koodi
• C) See skannib reaalajas koodi kogu Internetist ja kopeerib kõige täpsema.
• D) mõistab koodi loogikat nagu iniminsener ja mõistab kavatsust

Selgitus: LLM ei mõista koodi nagu inimene; See loob kõige tõenäolisema jätku antud kontekstile, tuginedes mustritele, mida ta õpib väga suurest teksti- ja koodikogumist. Seetõttu sõltub väljundi kvaliteet otseselt teie antud konteksti ja juhiste kvaliteedist ning iga väljund tuleb valideerida.

2. Kuidas te nimetate seda, kui tehisintellekt veenvalt mõtleb välja olematu funktsiooni või raamatukogu ja mis on ainus tõeline vastumürk?

• A) Seda nimetatakse kompileerimisveaks; Vastumürk on tugevam varustus
• B) Seda nimetatakse hallutsinatsiooniks; Vastumürk on kontrollida koodi ja iga kasutatud API-d ✔
• C) Seda nimetatakse regressiooniks; Vastumürk on mudeli taaskäivitamine
• D) Seda nimetatakse konteksti ületäitumiseks; Vastumürk on viipe lühendamine

Kirjeldus: seda nimetatakse hallutsinatsiooniks ja see põhjustab tarkvara ühe kõige kallima vea. Ainus tõeline vastumürk on kontrollimine: kinnitamine, et iga kasutatud funktsioon, API ja pakett on tegelikult olemas ja kood töötab. Modelli enesekindel toon ei tõenda täpsust.

3. Milline lähenemine parandab tehisintellektiga koodi genereerimisel väljundi kvaliteeti ja järjepidevust kõige enam?

• A) Mudeli vabastamine, öeldes "kirjuta see mulle" ilma konteksti andmata
• B) Kirjutage võimalikult pikk ja uhke viipe
• C) Täpsustage ja tooge näiteid sisend/väljundlepingu, servajuhtude, versiooni ja stiili kohta ✔
• D) Kombineerides genereeritud koodi otse ilma seda lugemata

Selgitus: funktsiooni sisend/väljundtüüpide (leping), servajuhtude, keele/versiooni ja stiilipiirangu määramine ning mudelile näite toomine võimaldab üleminekut ennustamiselt täpsusele. Kontekstita "kirjuta mulle see" päringud loovad koodi, mis on iga kord erinev ja läheb sageli kõrvale.

4. Tehisintellektiga võõra koodibaasi uurimisel võib funktsiooni nimi olla „validateAndSave”, kuid tehisintellekti kokkuvõte võib olla vale. Milline on õige lähenemine?

• A) Täielik usaldus tehisintellekti kokkuvõtte vastu, kuna nimi on iseenesestmõistetav
• B) Funktsiooni muutmine otse ilma seda lugemata
• C) Otsustamine lihtsalt funktsiooni nime vaadates
• D) Käsitle tehisintellekti kirjeldust hüpoteesina ja kontrolli kriitilisi väiteid koodi rida-realt ✔

Selgitus: tehisintellekt võib vaadata koodis olevat nime ja öelda, kuidas see välja näeb, kuid tegelikult võib loogika olla erinev (või isegi vastupidine). Nii et AI seletus on hüpotees; Kriitilised väited, eriti need, mis hõlmavad turvalisust, volitusi või rahavoogu, tuleks asjakohastel ridadel visuaalselt kontrollida.

5. Mis on suurim oht, kui öeldakse AI abil koodiülevaatuses „AI vaatas, see on selge”?

• A) AI võib anda valenegatiivseid tulemusi; Tõelised tegemata vead tekitavad vale enesekindlust ✔
• B) AI ülevaatus on liiga aeglane, nii et see raiskab aega
• C) Meeskond ei saa aru, sest AI kommenteerib ainult inglise keeles
• D) PR ei lähe kokku, sest AI tõlgendab alati üle

Selgitus: tehisintellekt annab nii valepositiivseid tulemusi (tähistab probleemi seal, kus seda pole) kui ka valenegatiivseid (tegelik viga puudub). Valenegatiivid vaikivad; Kõige ohtlikumad vead on need, mida ülevaates üldse ei mainita. Seega on AI esimene filter, mitte heakskiit; Ühinemisotsus kuulub vastutavale isikule.

6. Mis on kõige salakavalam lõks, mis tekib siis, kui annate tehisintellektile koodi ja prindite testid?

• A) AI kirjutab alati liiga palju teste ja ajab koodibaasi üles
• B) AI testib koodi praegust (võib-olla valet) käitumist "õigeks" ja parandab vea ✔
• C) AI kustutab testide kirjutamisel koodi automaatselt
• D) AI ei kirjuta teste mitte ainult õnneliku tee jaoks, vaid alati ka äärmusliku juhtumi jaoks

Selgitus: AI kipub vaatama koodi ja kirjutama väiteid, mis testivad praegust käitumist. Kui kood on algusest peale vale, parandab AI selle vale käitumise "õigeks". Seetõttu tuleks testi ootused kirjutada nõutava reegli (spetsifikatsiooni) järgi, mitte koodi hetkeväljundi järgi.

7. Mis määrab kõige enam hüpoteeside täpsuse AI-ga vea silumisel?

• A) Kui viisakalt viip on kirjutatud.
• B) Mitu korda seda küsimust uuesti esitati
• C) Mudelile esitatud tõendite kvaliteet: täielik veateade, virna jälg, sisend ja eeldatav käitumine ✔
• D) Mis värviteemaga on kood kirjutatud?

Selgitus: AI ei näe viga nii, nagu teie; Ta teab ainult tõendeid, mida sa talle annad. Arvestades täielikku veateadet, pinu jälge, käivitavat sisendit ja eeldatavat käitumist, loetleb mudel tegelikud võimalused; Kui tõendeid pole, teeb see oletuse (hallutsinatsioonid) ja viib teid valele teele.

8. Mis on kõige kriitilisem samm enne tootmislogide andmist tehisintellektile analüüsimiseks?

• A) Palgi kleepimine sellisel kujul, mis hõlmab kogu päeva
• B) Teisenda logi esmalt suurtähtedeks
• C) Palgiridade järjestamine tähestikulises järjekorras
• D) Isikuandmete ja saladuste varjamine ning ainult vastava akna andmine ✔

Kirjeldus: töötlemata tootmislogid sisaldavad IP-aadressi, e-posti aadressi, seansi ID-d, luba ja mõnikord ka avatud saladust. Nende kleepimine tehisintellekti tööriista ilma neid maskeerimata on tõsine privaatsuse rikkumine. Lisaks tuleks logi filtreerida kitsa ajaakna järgi; Kuid esimene vajadus on tundlike andmete puhastamine.

9. Mida tuleks teha, kui tehisintellekt ütleb, et kaks sündmust toimusid logianalüüsis üheaegselt ja deklareerib ühe algpõhjuseks?

• A) Korrelatsiooni kui põhjusliku seose arvestamata jätmine ja väite kontrollimine mõõdikute ja koodiga ✔
• B) Põhjuse aktsepteerimine lõplikuna, kuna tehisintellekt loob ajalise seose
• C) Esimese süüdistatava komponendi viivitamatu taaskäivitamine
• D) Logide täielik kustutamine ja uuesti kogumine

Selgitus: logianalüüsi kõige levinum lõks on korrelatsiooni ja põhjusliku seose segamine. AI loodud ajasuhe on vihje, mitte tõend. Tõeline põhjuslikkus nõuab ajastust, mehhanismi ja võimalusel korratavust; Nõue tuleb kinnitada mõõdikute ja koodiga.

10. Mis on vaieldamatu kuldreegel AI-ga ümbertöötamisel ja mis seda kindlustab?

• A) Kood peaks olema lühem; Ridade arv tagab selle
• B) käitumises ei muutu; hetkekäitumist fikseerivad testid tagavad selle ✔
• C) Kood sisaldab rohkem kommentaare; AI garanteerib selle
• D) kogu faili korraga ümberkirjutamine; agent garanteerib selle

Selgitus: Refaktoreerimine on koodi sisemise struktuuri parandamine ilma selle välist käitumist muutmata; Kuldne reegel on, et käitumine jääb muutumatuks. Selle tagab testimine: testvõrk, mis salvestab praeguse käitumise enne selle muutmist, seadistatakse ja käivitatakse pärast iga sammu. Refactoring ilma testvõrguta on hasartmäng.

11. Mis on dokumentatsiooni valmistamise kiht, mida tehisintellekt ei saa teada ja mille väljamõtlemine on ohtlik?

• A) Kuidas installietappe käivitada
• B) Funktsiooni parameetrite loend
• C) Põhjendus „miks” kujundusotsus just nii tehti ✔
• D) Mis keeles on kood kirjutatud?

Kirjeldus: AI saab koodist eraldada kihi „mis/kuidas” (mida funktsioon teeb, kuidas see seadistatakse); kuid ta ei saa teada "miks"-kihti (otsuse kavandamise põhjendus, piirväärtuse põhjus). Väljamõeldud "põhjus" on ohtlikum kui õigustuse puudumine; Koodi omanik peab selle kihi lisama.

12. Mida peaks arendaja tegema, kui ta soovib kiireloomulise vea lahendamisel kleepida reaalajas API-võtit sisaldava konfiguratsioonifaili heakskiitmata tehisintellekti tööriista?

• A) Kiiruse huvides kleepige fail nii nagu see on ja seejärel kustutage vestlus
• B) Lisage faili lõppu märge "konfidentsiaalne" ja saatke see
• C) Jätke võti ja muutke ainult faili nime
• D) Eemaldage/maskeerige saladused ja andke ainult vajalik mittetundlik kontekst ✔

Avalikustamine: saladusi, isikuandmeid ja konfidentsiaalseid varasid ei tohi kunagi sisestada heakskiitmata vahenditesse; Kiireloomulisus ei peata seda punast joont. Õige lähenemine on kõigepealt saladused välja tõmmata/maskeerida ja anda ainult vajalik, mittetundlik kontekst. Kui saladus ikkagi lekib, tuleb esimese asjana seda võtit kohe keerata.

13. AI-ga loodud kood läbib testimise ja töötab tootmises. Kas see tõestab, et kood on ohutu?

• A) Ei; 'töötav' ei tähenda turvalisust, turvalisus nõuab eraldi autentimiskihti ✔
• B) jah; Kood, mis testi läbib, on oma olemuselt ohutu
• C) jah; Selle tootmises käitamine kõrvaldab kõik haavatavused
• D) Ei; kuid turvalisus loeb ainult siis, kui kood on aeglane

Täpsustus: "töötav" ei ole sama mis "turvaline". Isegi kui kood sisaldab haavatavust, näiteks SQL-i süsti, võib see läbida testimise ja töötada sujuvalt; Haavatavus selgub alles siis, kui ründaja selle leiab. Seetõttu tuleks lisaks täpsusele eraldi kihina läbi viia ka turvalisusele orienteeritud ülevaatus ja skannimised, nagu SAST.

14. Milline on kõige turvalisem distsipliin mitme failiga ülesande andmisel CLI agendile (autonoomne tööriist, mis suudab faile muuta ja käske käivitada)?

• A) Öelge agendile "täiustage seda moodulit" ja andke täielik vabadus
• B) Kitsa ulatuse ja aktsepteerimiskriteeriumide andmine, esmalt plaani küsimine, selle kinnitamine, samm-sammult elluviimine ja testide läbiviimine ✔
• C) Ühendage kõik agendi muudatused otse ilma neid üle vaatamata
• D) agendile piiramatu juurdepääsu võimaldamine tootmiskeskkonnale ja konfidentsiaalsetele andmetele

Selgitus: autonoomia suurenedes peaks suurenema ka kontroll. Agendile kitsa ulatuse ja selgete aktsepteerimiskriteeriumide andmine, esmalt muudatusteta plaani küsimine, plaani kinnitamine, seejärel samm-sammult elluviimine ja igas etapis testide läbiviimine; See hoiab ära muudatused, mis on ulatuslikud, ülevaatamatud ja vajavad tagasivõtmist.

15. Kellel on vastutus, mis tuleneb tehisintellekti loodud koodist turvakriitilises tarkvaras (nt maksmine või autentimine)?

• A) Kuna kood pärineb AI-st, on see sõiduki pakkujas
• B) Kui tehisintellekt on piisavalt arenenud, pole seda mitte kellelgi; pole vaja kontrollida
• C) meeskond/insener, kes koodi uurib, koostab ja levitab; AI ei asenda nõusolekut ✔
• D) Ainult isik, kes viiba kirjutab, mitte need, kes selle üle vaatavad

Kirjeldus: AI on kiiruse kordaja ja jooniste generaator; ei saa võtta vastutust. Tootmiskoodist tulenevate vigade, haavatavuste või rikkumiste eest vastutab meeskond, kes selle koodi üle vaatab, koostab ja levitab. Ohutuskriitilistes valdkondades ei asenda tehisintellekti väljund mingil juhul kvalifitseeritud inseneri läbivaatamist ja heakskiitu.