Nástroje na kódovanie AI a integrácia pracovného toku

zisky:

• Schopnosť dopĺňať editor máp, chat asistenta, CLI agenta a kategórie automatizácie CI k úlohám
• Schopnosť prispôsobiť úroveň autonómie podľa rizika a aplikovať disciplínu „najskôr plán“ na agentov CLI
• Schopnosť transformovať používanie AI na tímový systém založený na overenom nástroji, overovacej bráne, transparentnosti a zodpovednosti

Zatiaľ sme sa naučili používať AI v jednotlivých úlohách (kódovanie, recenzovanie, testovanie, ladenie). V tejto záverečnej časti poskladáme jednotlivé časti: zoznámenie sa s rôznymi nástrojmi na kódovanie AI, prispôsobenie správneho nástroja správnej úlohe a ich bezpečné začlenenie do vášho každodenného toku vývoja – od editora po správu verzií, od kanála CI/CD až po riadenie tímu. Cieľom je premeniť chaotický zvyk „každú chvíľu sa pýtať AI“ na konzistentný a kontrolovateľný pracovný systém.

Typy vozidiel pokrývame neutrálnymi kategóriami (konkrétne názvy produktov sa rýchlo menia, záleží na kategórii). Každá kategória má „sladký bod“ a rizikový profil; Majstrovstvo je vedieť, koľko autonómie dať ktorej úlohe.

Kategórie nástrojov na kódovanie AI

1. Dokončenie v editore. Pluginy, ktoré navrhujú riadky/bloky pri písaní vo vašom IDE (vývojovom prostredí, kde píšete kód). Sladké miesto: rýchlosť v streame, štandardný kód. Riziko: úzky kontext, prijatie podnetu bez rozmýšľania.

2. Chat/asistent bočného panela. Rozhranie chatu vložené do IDE s viditeľnosťou do časti vašej kódovej základne. Sweet spot: popis, refaktor, testovanie, analýza chýb. Riziko: obmedzené na kontext, ktorý uvediete, vyžaduje overenie.

3. Agenti CLI (agent tools). Nástroje, ktoré sa spúšťajú z príkazového riadku, dokážu čítať a upravovať viacero súborov, spúšťať príkazy a samostatne vykonávať viackrokové úlohy. Sladké miesto: zmeny viacerých súborov, opakujúce sa úlohy, úlohy typu „pridať túto vlastnosť“. Riziko: vysoká autonómia = veľký vplyv; Ak nie je začiarknuté, vytvára rozsiahle a ťažko overiteľné zmeny.

4. Integrácia linky/automatizácie. Roboty CI (Continuous Integration), ktoré zanechávajú komentáre k automatickej kontrole PR, navrhujú testy alebo vytvárajú záznamy o zmenách. Sladká bodka: prvé sitko bez únavy, konzistencia. Riziko: hluk, falošná dôvera.

Rada: So zvyšujúcou sa autonómiou by sa mala zvyšovať aj kontrola. Pretože dokončenie editora je malé a okamžité, je ľahko kontrolované; Viacsúborová modifikácia agenta CLI by sa mala preskúmať rovnako, ak nie dôkladnejšie, ako ľudský PR.

Krok za krokom: Začlenenie AI do pracovného toku

1. Priraďte úlohu k nástroju. Malé pridanie do prúdu → dokončenie; porozumieť/refaktorovať/testovať → chat; viacsúborová, opakujúca sa práca → agent CLI; kontinuálny prvý filter → integrácia CI.
2. Vyberte si úroveň autonómie. Akú veľkú slobodu má agent? Návrh len na čítanie alebo úprava súboru + spustenie príkazu? Prispôsobte sa riziku.
3. Vychovávajte kontext. Natrvalo zaviesť do nástroja pravidlá projektu (štýl, architektúru, „nerobiť“); Namiesto toho, aby ste to znova a znova vysvetľovali, použite súbor s pokynmi projektu.
4. Udržiavajte overovacie brány. Zmena AI je ako ľudská zmena: prechádza kompiláciou, testovaním, kontrolou a (ak je to kritické) schválením odborníkom. AI otváranie PR neobchádza schválenie.
5. Zmerajte a upravte. Sledujte, čo sa skutočne zrýchľuje, kde sa zvyšuje korekčná záťaž; Zrušte použitia, ktoré nefungujú.

Tri mini puzdrá

Prípad 1 — Premenovanie viacerých súborov riešil agent CLI. Jeden tím by premenoval koncept rozložený do 60 súborov. Zadali úlohu agentovi CLI, najprv požiadali o plán, schválili plán, potom vykonali zmenu a spustili celý testovací balík. Agent 3 zmeškal okrajový prípad v súbore; Testy to zachytili, opravili. Práca, ktorá manuálne trvala približne 3 hodiny, bola dokončená za 50 minút s dohľadom.

Prípad 2 – Nekontrolovaná autonómia zlyhala. Ďalší vývojár povedal agentovi, aby „vylepšil tento modul“ a vydal ho; Agent upravil 18 súborov a pridal dve závislosti. Zmena bola taká široká, že ju nebolo možné preskúmať a musela byť stiahnutá. Ponaučenie: poskytnite agentom úzky rozsah, jasné akceptačné kritériá a disciplínu najprv naplánujte, neskôr urobte.

Prípad 3 – Robot na kontrolu CI sa stal prvým filtrom. Jeden tím vytvoril robota, ktorý zanecháva komentáre k kontrole AI na PR. Keď robot zachytil vynechanie nulovej kontroly a problémy so štýlom, ľudskí recenzenti mohli venovať svoj čas obchodnej logike. Tím však objasnil, že robot neposkytol „schválenie“: stále sa vyžaduje aspoň jeden ľudský súhlas. Aby znížili hluk, vyladili loď tak, aby ponechala iba hluk vysokej/strednej intenzity.

Štyri kopírovateľné šablóny

Disciplína „Najskôr plán“ pre agenta CLI:

Úloha: {{jasná, úzka úloha}} Kritériá prijatia: {{merateľný výsledok}}Obmedzenie: pracovať iba na {{nasledujúcom adresári/súboroch}}; pridanie novej závislosti. Najprv prezentujte plán BEZ ZMENY: ktoré súbory, čo sa zmení, ktoré testy spustiť. Počkajte, kým SCHVÁLIM plán. Potom ho aplikujte krok za krokom a v každom kroku spustite testy.

Súbor s pokynmi projektu (trvalý kontext k nástrojom):

Trvalé pravidlá pre nástroje AI v tomto projekte:- Jazyk/verzia: {{...}}. Štýl: {{...}}.- Architektonické obmedzenie: {{napr. smer medzi vrstvami}}.- NIKDY: vkladanie tajomstiev, používanie produkčných údajov, {{zakázané knižnice}}.- Každá zmena musí byť testovateľná; Zmena podpisu verejného rozhrania API BEZ OTÁZKY. - Keď máte pochybnosti, zastavte sa a opýtajte sa.

Rozhodnutie o mapovaní nástroja úloh:

Definujem nasledujúcu úlohu: {{task}}. S akou triedou nástrojov by som to mal urobiť: (a) dokončovanie editora, (b) chat asistent, (c) agent CLI, (d) automatizácia CI? Napíšte svoje zdôvodnenie, riziko a odporúčanú úroveň autonómie (len návrh / zmena súboru / príkaz na spustenie).

Kódex správania robotov na kontrolu CI:

Ako komentár v PR recenzii ponechajte len zistenia VYSOKEJ a STREDNEJ závažnosti. Každý nález: kategória, závažnosť, navrhnutá náprava. Zhromažďujte poznámky na úrovni preferencie štýlu do samostatného súhrnného komentára. NESÚHLASÍTE; vyžaduje sa súhlas človeka.

Slabá výzva / Silná výzva

Slabý: (agentovi CLI) "Vylepšite platobný modul."

Strong: (Agentovi CLI) "Spúšťajte iba pod src/platby/. Úloha: Extrahujte logiku rekurzívnej validácie z funkcie refund() do jedného pomocníka; správanie a podpisy sa nemenia. Najprv predstavte plán a počkajte na moje schválenie; potom spustite a spustite testy/platby/balíček. Pridajte novú závislosť."

Silná verzia zužuje rozsah, stanovuje akceptačné kritériá a obmedzenia a zavádza disciplínu „najskôr plánovať“. Neurčité požiadavky „robte lepšie“ sú hlavnou príčinou rozsiahlych a nekontrolovateľných zmien.

trieda vozidla

V čom je najlepší

autonómia

kontrolná hmotnosť

Dokončenie editora

Malý prírastok v streame

nízka

Svetlo (okamžité čítanie)

chatovací asistent

Pochopte, otestujte, refaktorujte

stredná

Stredné (overenie výstupu)

agent CLI

Viacsúborové, rekurzívne

vysoká

Ťažký (plán + celá recenzia)

CI automatizácia

Priebežný prvý filter

stredná

Stredné (pravidlo + súhlas človeka)

Tímové riadenie: Od individuálnych zručností k zdieľanému systému

Dobré používanie AI na individuálnom základe je začiatok; skutočná zrelosť je konzistentný systém na tímovej úrovni. Tento systém je založený na niekoľkých pilieroch: zoznam schválených nástrojov (ktoré nástroje možno použiť s akými údajmi – z jednotky 10), verifikačné brány (zmena AI prechádza rovnakými bránami zostavenia/testovania/kontroly – z jednotky 11), transparentnosť (uvedenie, že zmena je založená na AI, kde je to potrebné), a jasná zodpovednosť (osoba, ktorá sa odhlasuje a nesie zodpovednosť, je jasná). Tento rámec obmedzuje riziko pri zachovaní rýchlosti a zabezpečuje, aby noví členovia tímu pracovali s rovnakou disciplínou.

Upozornenie: Čím vyššia je autonómia nástroja – najmä agentov CLI, ktorí môžu upravovať súbory, spúšťať príkazy – tým prísnejšie ho obmedzujú v prístupe k produkčnému prostrediu, dôverným údajom a operáciám, ktoré je ťažké vrátiť späť. Spojte deštruktívne príkazy (trvalé vymazanie, nasadenie) so súhlasom človeka.

Časté chyby

• Úloha - znamená nekompatibilitu. Pokúšate sa urobiť prácu s viacerými súbormi s dokončením editora alebo malou prílohou s ťažkým agentom.
• Uvoľnenie agenta. Úlohy agenta zadané s úzkym rozsahom a bez „najskôr plán“ spôsobujú nepreskúmané zmeny.
• Uvoľnenie overovacích brán pre AI. „AI to dokázala, poďme rýchlo ďalej“ je najnebezpečnejšia výnimka; Dvere sú pre všetkých rovnaké.
• Zakaždým dávať kontext manuálne. Nezapísanie pravidiel projektu do trvalého súboru s pokynmi spôsobuje nekonzistentnosť a duplicitu.
• Zamieňanie súhlasu robota CI so súhlasom človeka. Robot je filter; Zodpovedné ľudské schválenie je povinné.

V súhrne

Nástroje na kódovanie AI spadajú do štyroch hlavných kategórií: dokončenie editora, asistent chatu, agenti CLI a automatizácia CI. Majstrovstvo je prispôsobenie úlohy správnemu nástroju a správnej úrovni autonómie; S rastúcou autonómiou sa zvyšuje aj kontrola. Poskytnite nástrojom trvalý projektový kontext, vnucujte viacsúborovým agentom disciplínu „najskôr plán“ a prejdite zmenu AI cez rovnaké overovacie brány ako ľudská zmena. Individuálna zručnosť; Premeňte ho na tímový systém založený na schválenom zozname nástrojov, overovacích bránach, transparentnosti a jasnej zodpovednosti. AI je komplexný multiplikátor rýchlosti; Osoba, ktorá podpisuje a dáva účet, je vždy kompetentná osoba.

Aplikačná úloha

Uveďte tri skutočné úlohy, ktoré budete robiť budúci týždeň. Pre každý použite šablónu „rozhodnutie o zhode medzi jednotlivými úlohami vozidla“, aby ste zdôvodnili, ktorú triedu vozidla a akú úroveň autonómie si vyberiete. Potom spustite úzku úlohu pre agenta CLI (alebo chat asistenta) s disciplínou „najskôr plán“: schváľte plán, presadzujte ho, spustite testy a skontrolujte zmenu ako ľudské PR. Nakoniec navrhnite 5-bodové „pravidlo používania AI“ pre svoj tím (schválené nástroje, dátové pravidlo, overovacia brána, limit autonómie, zodpovednosť).

kontrolný zoznam

• [ ] Dokážem rozlíšiť medzi kategóriami nástrojov na kódovanie AI a sladkosťami každej z nich.
• [ ] Mapujem úlohu na správnu triedu vozidla a vhodnú úroveň autonómie.
• [ ] Nástrojom dávam trvalý kontext projektu (súbor s pokynmi).
• [ ] Na agentov CLI aplikujem úzky rozsah a disciplínu „najskôr plánovať“.
• [ ] Zmeny AI prechádzam rovnakými overovacími bránami ako ľudské zmeny.
• [ ] Som za overený nástroj, dátové pravidlo, rámec transparentnosti a zodpovednosti na tímovej úrovni.

Modulová skúška

1. Čo vlastne robí základný veľký jazykový model asistenta kódovania, keď vytvára kód?

• A) Vzorovo predpovedá najpravdepodobnejšie pokračovanie na základe daného kontextu ✔
• B) Zaručuje správny výsledok skutočným zostavením a spustením kódu
• C) Naživo naskenuje kód po celom internete a skopíruje ten najpresnejší.
• D) Chápe logiku kódu ako ľudský inžinier a chápe zámer

Objasnenie: LLM „nerozumie“ kódu ako človek; Vytvára najpravdepodobnejšie pokračovanie v danom kontexte na základe vzorov, ktoré sa učí z veľmi veľkého množstva textu a kódu. Preto kvalita výstupu priamo závisí od kvality kontextu a pokynov, ktoré dávate, a každý výstup musí byť overený.

2. Ako sa nazýva, keď AI presvedčivo vymyslí neexistujúcu funkciu alebo knižnicu a čo je jediným skutočným protijedom?

• A) Toto sa nazýva chyba kompilácie; Protijed je silnejšia výbava
• B) Toto sa nazýva halucinácia; Protijed je overiť kód a každé použité API ✔
• C) Toto sa nazýva regresia; Protijed je reštartovať model
• D) Toto sa nazýva pretečenie kontextu; Protijed je skrátiť výzvu

Popis: Toto sa nazýva halucinácia a spôsobuje jednu z najdrahších chýb v softvéri. Jediným skutočným protijedom je overenie: potvrdenie, že každá použitá funkcia, API a balík skutočne existujú a že kód funguje. Sebavedomý tón modelky nie je dôkazom presnosti.

3. Ktorý prístup najviac zlepšuje kvalitu a konzistentnosť výstupu pri generovaní kódu pomocou AI?

• A) Uvoľnenie modelu vyslovením „napíš mi to“ bez uvedenia akéhokoľvek kontextu
• B) Napísanie čo najdlhšej a najkrásnejšej výzvy
• C) Špecifikujte a uveďte príklady vstupno/výstupnej zmluvy, okrajových prípadov, verzie a štýlu ✔
• D) Kombinovanie vygenerovaného kódu priamo bez jeho čítania

Vysvetlenie: Určenie typov vstupu/výstupu funkcie (kontrakt), okrajových prípadov, obmedzenia jazyka/verzie a štýlu a uvedenie príkladu modelu umožňuje prechod od predpovede k presnosti. Bezkontextové požiadavky „napíš mi toto“ vytvárajú kód, ktorý je zakaždým iný a často obchádza okrajové prípady.

4. Pri skúmaní cudzej kódovej základne pomocou AI môže byť názov funkcie 'validateAndSave', ale výber AI môže byť nesprávny. Aký je správny prístup?

• A) Plná dôvera v súhrn AI, pretože názov je samozrejmý
• B) Zmena funkcie priamo bez jej čítania
• C) Rozhodovanie len pri pohľade na názov funkcie
• D) S popisom AI zaobchádzajte ako s hypotézou a overujte kritické tvrdenia riadok po riadku v kóde ✔

Vysvetlenie: AI sa môže pozrieť na názov v kóde a povedať vám, „ako to vyzerá“, ale v skutočnosti môže byť logika iná (alebo dokonca opačná). Takže vysvetlenie AI je hypotéza; Kritické nároky, najmä tie, ktoré sa týkajú bezpečnosti, autority alebo peňažného toku, by sa mali vizuálne overiť na príslušných riadkoch.

5. Aké je najväčšie nebezpečenstvo, keď sa pri kontrole kódu pomocou AI povie „AI vyzerala, je to jasné“?

• A) AI môže produkovať falošne negatívne výsledky; Skutočne vynechané chyby vytvárajú falošnú dôveru ✔
• B) Kontrola AI je príliš pomalá, takže stráca čas
• C) Tím nerozumie, pretože AI komentuje iba v angličtine
• D) PR nekonverguje, pretože AI vždy nadmerne interpretuje

Vysvetlenie: AI vytvára falošné pozitíva (označenie problému tam, kde neexistuje) aj falošné negatíva (vynechanie skutočnej chyby). Falošné negatívy mlčia; Najnebezpečnejšie chyby sú tie, ktoré sa v recenzii vôbec neuvádzajú. Takže AI je prvý filter, nie schválenie; Rozhodnutie o zlúčení patrí zodpovednej osobe.

6. Aká je najzákernejšia pasca, ktorá sa stane, keď AI zadáte kód a vytlačíte test?

• A) AI vždy píše príliš veľa testov a nafukuje kódovú základňu
• B) AI testuje aktuálne (možno nesprávne) správanie kódu ako „správne“ a opravuje chybu ✔
• C) AI automaticky vymaže kód pri písaní testov
• D) AI píše testy nielen pre šťastnú cestu, ale vždy pre okrajový prípad

Vysvetlenie: AI má tendenciu pozerať sa na kód a písať tvrdenia, ktoré testujú aktuálne správanie. Ak je kód od začiatku nesprávny, AI opraví toto nesprávne správanie ako „správne“. Očakávania testu by preto mali byť napísané podľa požadovaného pravidla (špecifikácie), nie podľa aktuálneho výstupu kódu.

7. Čo najviac určuje presnosť hypotéz pri ladení chyby pomocou AI?

• A) Ako slušne je výzva napísaná.
• B) Koľkokrát bola otázka položená znova
• C) Kvalita dôkazov poskytnutých modelu: úplné chybové hlásenie, sledovanie zásobníka, vstup a očakávané správanie ✔
• D) Akou farebnou témou je kód napísaný?

Vysvetlenie: AI nevidí chybu tak, ako vy; Pozná len dôkazy, ktoré mu poskytnete. Vzhľadom na úplné chybové hlásenie, sledovanie zásobníka, spúšťací vstup a očakávané správanie, model vymenúva skutočné možnosti; Ak neexistujú žiadne dôkazy, robí to odhad (halucinácie) a vedie vás na nesprávnu stopu.

8. Aký je najdôležitejší krok pred poskytnutím výrobných protokolov AI na analýzu?

• A) Prilepte poleno tak, ako je, pokrývajúce celý deň
• B) Najprv preveďte denník na veľké písmená
• C) Usporiadanie riadkov denníka v abecednom poradí
• D) Maskovanie osobných údajov a tajomstiev a poskytovanie iba príslušného okna ✔

Popis: Nespracované produkčné denníky obsahujú IP, e-mail, ID relácie, token a niekedy aj otvorené tajomstvo. Vloženie do nástroja AI bez ich maskovania je vážnym porušením súkromia. Okrem toho by mal byť denník filtrovaný na úzke časové okno; Prvou nevyhnutnosťou je ale čistenie citlivých dát.

9. Čo by sa malo urobiť, ak AI ​​pri analýze protokolu povie, že dve udalosti sa stali „súčasne“ a jednu deklaruje ako hlavnú príčinu?

• A) Ignorovanie korelácie ako príčinnej súvislosti a overenie tvrdenia pomocou metrík a kódu ✔
• B) Prijatie príčiny ako definitívnej, pretože AI vytvára časový vzťah
• C) Okamžité reštartovanie prvej obvinenej zložky
• D) Úplné vymazanie protokolov a ich opätovné zhromaždenie

Vysvetlenie: Najčastejším úskalím logaritmickej analýzy je zamieňanie korelácie s príčinnou súvislosťou. Časový vzťah vytvorený AI je vodítkom, nie dôkazom. Skutočná kauzalita si vyžaduje načasovanie, mechanizmus a, ak je to možné, opakovateľnosť; Nárok musí byť overený pomocou metrík a kódu.

10. Aké je nezmeniteľné zlaté pravidlo pri refaktoringu pomocou AI a čo ho zabezpečuje?

• A) Kód by mal byť kratší; Počet riadkov to zaručuje
• B) Žiadna zmena v správaní; testy, ktoré zachytávajú aktuálne správanie, to zabezpečujú ✔
• C) Kód obsahuje viac komentárov; AI to zaručuje
• D) Prepísanie celého súboru naraz; agent to zaručuje

Vysvetlenie: Refaktoring je zlepšenie vnútornej štruktúry kódu bez zmeny jeho vonkajšieho správania; Zlaté pravidlo hovorí, že správanie zostáva konštantné. Zabezpečuje to testovanie: testovacia sieť, ktorá zachytáva aktuálne správanie pred jeho zmenou, sa nastaví a spustí po každom kroku. Refaktoring bez testnetu je hazard.

11. Aká je vrstva vo výrobe dokumentácie, ktorú AI nemôže poznať a je nebezpečné vytvoriť?

• A) Ako spustiť inštalačné kroky
• B) Zoznam parametrov funkcie
• C) Zdôvodnenie „prečo“ bolo rozhodnutie o dizajne prijaté týmto spôsobom ✔
• D) V akom jazyku je kód napísaný?

Popis: AI dokáže z kódu extrahovať vrstvu „čo/ako“ (čo funkcia robí, ako sa nastavuje); ale nemôže poznať vrstvu „prečo“ (dôvod návrhu rozhodnutia, dôvod limitnej hodnoty). Vymyslený „dôvod“ je nebezpečnejší ako žiadne ospravedlnenie; Vlastník kódu musí pridať túto vrstvu.

12. Čo by mal vývojár urobiť, ak chce pri odstraňovaní naliehavej chyby vložiť konfiguračný súbor obsahujúci živý API kľúč do neschváleného nástroja AI?

• A) Pre rýchlosť prilepte súbor tak, ako je, a potom odstráňte chat
• B) Na koniec súboru pridajte poznámku „dôverné“ a odošlite ju
• C) Nechajte kľúč a zmeňte iba názov súboru
• D) Odstráňte/zamaskujte tajomstvá a uveďte iba nevyhnutný necitlivý kontext ✔

Zverejnenie: Tajomstvá, osobné údaje a dôverný majetok by sa nikdy nemali vkladať do neschválených prostriedkov; Naliehavosť túto červenú čiaru nepozastavuje. Správny prístup je najskôr vylúštiť/zamaskovať tajomstvá a uviesť len nevyhnutný, necitlivý kontext. Ak tajomstvo stále uniká, prvá vec, ktorú musíte urobiť, je okamžite otočiť kľúčom.

13. Kód vygenerovaný AI prejde testovaním a beží vo výrobe. Dokazuje to, že kód je bezpečný?

• A) Nie; „fungujúce“ neznamená bezpečné, bezpečnosť vyžaduje samostatnú vrstvu autentifikácie ✔
• B) Áno; Kód, ktorý prejde testom, je podľa definície bezpečný
• C) Áno; Spustenie vo výrobe eliminuje všetky zraniteľnosti
• D) Nie; ale na bezpečnosti záleží len vtedy, ak je kód pomalý

Objasnenie: „Pracovať“ nie je to isté ako „bezpečné“. Aj keď kód obsahuje zraniteľnosť, ako je SQL injection, môže prejsť testovaním a fungovať hladko; Zraniteľnosť sa odhalí až vtedy, keď ju útočník nájde. Preto by sa okrem presnosti mala kontrola orientovaná na bezpečnosť a kontroly, ako napríklad SAST, vykonávať ako samostatná vrstva.

14. Aká je najbezpečnejšia disciplína pri zadávaní viacsúborovej úlohy agentovi CLI (autonómny nástroj, ktorý môže upravovať súbory a spúšťať príkazy)?

• A) Povedať agentovi „vylepšite tento modul“ a poskytnúť úplnú slobodu
• B) Stanovenie úzkeho rozsahu a kritérií prijatia, najprv vyžiadanie plánu, jeho schválenie, implementácia krok za krokom a spustenie testov ✔
• C) Priamo zlúčiť všetky zmeny agenta bez ich kontroly
• D) Poskytnutie neobmedzeného prístupu agentovi k produkčnému prostrediu a dôverným údajom

Vysvetlenie: So zvyšujúcou sa autonómiou by sa mala zvyšovať aj kontrola. Poskytnúť agentovi úzky rozsah a jasné akceptačné kritériá, najprv požiadať o plán bez zmien, schváliť plán, potom ho krok za krokom implementovať a v každom kroku spustiť testy; Zabraňuje zmenám, ktoré sú rozsiahle, nekontrolovateľné a je potrebné ich vrátiť späť.

15. Kto má zodpovednosť vyplývajúcu z kódu generovaného AI v softvéri kritickom z hľadiska bezpečnosti (napr. platba alebo overenie)?

• A) Keďže kód pochádza od AI, je u poskytovateľa vozidla
• B) Ak je AI dostatočne vyvinutá, nemá ju nikto; netreba overovať
• C) tím/inžinier, ktorý skúma, zostavuje a distribuuje kód; AI nenahrádza súhlas ✔
• D) Iba osoba, ktorá píše výzvu, nie tí, ktorí ju recenzujú

Popis: AI je multiplikátor rýchlosti a generátor plánov; nemôže prevziať zodpovednosť. Zodpovednosť za akékoľvek chyby, zraniteľnosti alebo porušenia vyplývajúce z kódu vo výrobe nesie tím, ktorý tento kód kontroluje, zostavuje a distribuuje. V oblastiach kritických z hľadiska bezpečnosti nenahrádza výstup AI za žiadnych okolností kontrolu a schválenie kvalifikovaným technikom.