Alat Pengekodan AI dan Penyepaduan Aliran Kerja — Kecerdasan Buatan untuk Perisian dan Pasukan Teknikal

Keuntungan:

Keupayaan untuk memetakan penyiapan editor, pembantu sembang, ejen CLI dan kategori automasi CI kepada tugasan
Keupayaan untuk menyesuaikan tahap autonomi mengikut risiko dan menerapkan disiplin 'rancang dahulu' kepada ejen CLI
Keupayaan untuk mengubah penggunaan AI kepada sistem pasukan berdasarkan alat yang disahkan, pintu pengesahan, ketelusan dan akauntabiliti

Setakat ini kami telah belajar menggunakan AI dalam tugasan individu (pengekodan, semakan, ujian, penyahpepijatan). Dalam unit terakhir ini, kami menyusun bahagian-bahagiannya: mengenali alatan pengekodan AI yang berbeza, memadankan alat yang betul dengan tugas yang betul dan membenamkannya dengan selamat ke dalam aliran pembangunan harian anda—daripada editor kepada kawalan versi, daripada saluran paip CI/CD kepada tadbir urus pasukan. Matlamatnya adalah untuk menukar tabiat "tanya AI sesekali" menjadi sistem kerja yang konsisten dan boleh diaudit.

Kami meliputi jenis kenderaan dengan kategori neutral (nama produk tertentu berubah dengan cepat; perkara yang dilakukan oleh kategori itu yang penting). Setiap kategori mempunyai "sweet spot" dan profil risiko; Penguasaan ialah mengetahui berapa banyak autonomi untuk diberikan kepada tugasan yang mana.

Kategori Alat Pengekodan AI

1. Penyelesaian dalam editor. Pemalam yang mencadangkan baris/blok semasa anda menaip IDE anda (persekitaran pembangunan tempat anda menulis kod). Sweet spot: kelajuan dalam strim, kod boilerplate. Risiko: konteks sempit, menerima cadangan tanpa berfikir.

2. Pembantu panel sembang/sisi. Antara muka sembang dibenamkan dalam IDE dengan keterlihatan ke dalam sebahagian daripada pangkalan kod anda. Sweet spot: perihalan, refactor, ujian, analisis pepijat. Risiko: terhad kepada konteks yang anda berikan, memerlukan pengesahan.

3. Ejen CLI (alat ejen). Alat yang dijalankan dari baris arahan, boleh membaca dan mengubah suai berbilang fail, menjalankan arahan dan melaksanakan tugas berbilang langkah sendiri. Sweet spot: perubahan berbilang fail, tugasan berulang, kerja jenis "tambah sifat ini". Risiko: autonomi tinggi = impak tinggi; Jika dibiarkan, ia menghasilkan perubahan yang luas dan sukar untuk disahkan.

4. Penyepaduan talian/automasi. Bot CI (Continuous Integration) yang meninggalkan ulasan semakan automatik pada PR, mencadangkan ujian atau menghasilkan log perubahan. Sweet spot: penapis pertama tanpa keletihan, konsisten. Risiko: bunyi bising, keyakinan palsu.

Petunjuk: Apabila autonomi meningkat, kawalan juga harus meningkat. Oleh kerana penyiapan editor adalah kecil dan serta-merta, ia diawasi dengan ringan; Pengubahsuaian berbilang fail ejen CLI harus diperiksa sama seperti, jika tidak lebih berhati-hati, daripada PR manusia.

Langkah demi Langkah: Membenamkan AI ke dalam Aliran Kerja

Petakan tugas kepada alat. Penambahan dalam strim kecil → siap; faham/refactor/uji → sembang; berbilang fail, kerja berulang → ejen CLI; penapis pertama berterusan → integrasi CI.
Pilih tahap autonomi. Berapa banyak kebebasan yang dimiliki oleh ejen? Cadangan baca sahaja atau pengubahsuaian fail + pelaksanaan arahan? Laraskan untuk risiko.
Memupuk konteks. Perkenalkan peraturan projek secara kekal (gaya, seni bina, "jangan") ke dalam alat; Gunakan fail arahan projek dan bukannya menerangkannya berulang kali.
Mengekalkan pintu pengesahan. Perubahan AI adalah seperti perubahan manusia: ia melalui kompilasi, ujian, semakan, dan (jika kritikal) kelulusan pakar. PR pembukaan AI tidak memintas kelulusan.
Ukur dan laraskan. Perhatikan apa yang benar-benar mempercepatkan, di mana beban pembetulan meningkat; Pangkaskan penggunaan yang tidak berkesan.

Tiga Kes Mini

Kes 1 — Ejen CLI mengendalikan penamaan semula berbilang fail. Satu pasukan akan menamakan semula konsep yang tersebar di 60 fail. Mereka memberikan tugas kepada ejen CLI, mula-mula meminta pelan, meluluskan rancangan itu, kemudian membuat perubahan dan menjalankan keseluruhan suite ujian. Ejen 3 terlepas kes tepi dalam fail; Ujian menangkapnya, memperbaikinya. Kerja yang mengambil masa kira-kira 3 jam secara manual telah disiapkan dalam masa 50 minit dengan pengawasan.

Kes 2 — Autonomi yang tidak ditandakan menjadi mundur. Pembangun lain memberitahu ejen untuk "memperbaiki modul ini" dan mengeluarkannya; Ejen itu mengubah suai 18 fail dan menambah dua kebergantungan. Perubahan itu sangat luas sehingga tidak dapat disemak dan terpaksa ditarik balik. Pelajaran: berikan ejen skop yang sempit, kriteria penerimaan yang jelas, dan disiplin yang dirancang dahulu-kemudian.

Kes 3 — Bot semakan CI menjadi penapis pertama. Satu pasukan membina bot yang meninggalkan ulasan semakan AI automatik pada PR. Sebaik sahaja bot itu mendapati peninggalan semakan nol dan isu gaya, penyemak manusia dapat menumpukan masa mereka untuk logik perniagaan. Walau bagaimanapun, pasukan itu menjelaskan dengan jelas bahawa bot itu tidak memberikan "kelulusan": sekurang-kurangnya satu kelulusan manusia masih diperlukan. Untuk mengurangkan bunyi, mereka menala bot untuk meninggalkan hanya bunyi intensiti tinggi/sederhana.

Empat Templat Boleh Disalin

Disiplin "Rancang dahulu" untuk ejen CLI:

Tugasan: {{tugasan yang jelas, sempit}}Kriteria penerimaan: {{hasil yang boleh diukur}}Kekangan: hanya berfungsi pada {{direktori/fail berikut}}; menambah kebergantungan baharu. Mula-mula bentangkan pelan TANPA PERUBAHAN: fail mana, perkara yang akan berubah, ujian mana yang hendak dijalankan. Tunggu saya LULUSKAN rancangan itu. Kemudian gunakannya langkah demi langkah, menjalankan ujian pada setiap langkah.

Fail arahan projek (konteks berterusan kepada alatan):

Peraturan berterusan untuk alatan AI dalam projek ini:- Bahasa/versi: {{...}}. Gaya: {{...}}.- Kekangan seni bina: {{cth. arah antara lapisan}}.- JANGAN PERNAH: membenamkan rahsia, menggunakan data pengeluaran, {{perpustakaan terlarang}}.- Setiap perubahan mesti boleh diuji; Menukar tandatangan API awam TANPA bertanya. - Apabila ragu-ragu, berhenti dan tanya.

Keputusan pemetaan alat tugas:

Saya mentakrifkan tugasan berikut: {{task}}. Apakah kelas alatan yang harus saya lakukan ini dengan: (a) penyiapan editor, (b) pembantu sembang, (c) ejen CLI, (d) automasi CI? Tulis rasional anda, risiko dan tahap autonomi yang disyorkan (cadangan / tukar fail / perintah jalankan semata-mata).

Kod kelakuan bot semakan CI:

Tinggalkan hanya penemuan keterukan TINGGI dan SEDERHANA sebagai ulasan dalam semakan PR. Setiap penemuan: kategori, keterukan, cadangan pembetulan. Kumpul nota pada tahap keutamaan gaya ke dalam ulasan ringkasan tunggal yang berasingan. Anda TIDAK BERSETUJU; kelulusan manusia diperlukan.

Gesaan lemah / Gesaan kuat

Lemah: (kepada ejen CLI) "Jadikan modul pembayaran lebih baik."

Kuat: (Kepada ejen CLI) "Hanya jalankan di bawah src/payments/. Tugas: Ekstrak logik pengesahan rekursif daripada fungsi refund() ke dalam satu pembantu; tingkah laku dan tandatangan tidak berubah. Mula-mula tunjukkan pelan dan tunggu kelulusan saya; kemudian laksanakan dan jalankan ujian/pembayaran/ pakej. Tambah kebergantungan baharu."

Versi kukuh mengecilkan skop, menetapkan kriteria penerimaan dan kekangan, dan mengenakan disiplin "rancang dahulu". Tuntutan "melakukan lebih baik" yang samar-samar adalah punca kepada perubahan yang besar dan tidak terkawal.

kelas kenderaan

Apa yang dia pandai

autonomi

berat pemeriksaan

Editor selesai

Penambahan dalam strim kecil

rendah

Cahaya (bacaan segera)

pembantu sembang

Fahami, uji, refactor

sederhana

Sederhana (pengesahan output)

ejen CLI

Berbilang fail, rekursif

tinggi

Berat (pelan + ulasan penuh)

Automasi CI

Penapis pertama berterusan

sederhana

Sederhana (peraturan + kelulusan manusia)

Tadbir Urus Pasukan: Daripada Kemahiran Individu kepada Sistem Dikongsi

Menggunakan AI dengan baik secara individu adalah permulaan; kematangan sebenar adalah sistem yang konsisten di peringkat pasukan. Sistem ini berdasarkan beberapa tiang: senarai alat yang diluluskan (alat yang boleh digunakan dengan data apa — daripada unit 10), gerbang pengesahan (perubahan AI melalui gerbang binaan/ujian/semakan yang sama — daripada unit 11), ketelusan (menyatakan bahawa perubahan dikuasakan AI menyediakan kebolehkesanan jika perlu), dan kejelasan tanggungjawab (orang yang menandatangani dan bertanggungjawab adalah jelas). Rangka kerja ini mengehadkan risiko sambil mengekalkan kelajuan dan memastikan ahli pasukan baharu bekerja dengan disiplin yang sama.

Awas: Semakin tinggi autonomi alat—terutamanya ejen CLI yang boleh mengubah suai fail, menjalankan perintah—semakin ketat mengehadkannya daripada mengakses persekitaran pengeluaran, data sulit dan operasi yang sukar dipulihkan. Ikat perintah yang merosakkan (pemadaman kekal, penempatan) dengan kelulusan manusia.

Kesilapan biasa

Tugas-bermaksud ketidakserasian. Cuba melakukan kerja berbilang fail dengan penyiapan editor atau lampiran kecil dengan ejen berat.
Melepaskan ejen. Tugas ejen yang diberikan dengan skop yang sempit dan tanpa "pelan dahulu" menghasilkan perubahan yang tidak diperiksa.
Longgarkan pintu pengesahan untuk AI. "AI melakukannya, mari kita teruskan dengan cepat" adalah pengecualian yang paling berbahaya; Pintu adalah sama untuk semua orang.
Memberi konteks secara manual setiap kali. Tidak menulis peraturan projek ke dalam fail arahan kekal menghasilkan ketidakkonsistenan dan pertindihan.
Menyalahkan kelulusan bot CI untuk kelulusan manusia. Bot ialah penapis; Kelulusan manusia yang bertanggungjawab adalah wajib.

Secara ringkasnya

Alat pengekodan AI terbahagi kepada empat kategori utama: penyiapan editor, pembantu sembang, ejen CLI dan automasi CI. Penguasaan adalah memadankan tugas dengan alat yang betul dan tahap autonomi yang betul; Apabila autonomi meningkat, kawalan juga meningkat. Berikan alat konteks projek yang berterusan, kenakan disiplin "rancang dahulu" pada ejen berbilang fail dan lulus perubahan AI melalui pintu pengesahan yang sama seperti perubahan manusia. Kemahiran individu; Mengubahnya menjadi sistem pasukan yang dibina di atas senarai alat yang diluluskan, pintu pengesahan, ketelusan dan kejelasan tanggungjawab. AI ialah pengganda kelajuan hujung ke hujung; Orang yang menandatangani dan memberikan akaun itu sentiasa orang yang cekap.

Tugasan permohonan

Senaraikan tiga tugasan sebenar yang akan anda lakukan minggu hadapan. Gunakan templat "keputusan padanan tugas dengan kenderaan" untuk setiap satu untuk mewajarkan kelas kenderaan dan tahap autonomi yang akan anda pilih. Kemudian jalankan tugas sempit untuk ejen CLI (atau pembantu sembang) dengan disiplin "rancang dahulu": meluluskan rancangan, menguatkuasakannya, menjalankan ujian dan menyemak perubahan seperti PR manusia. Akhir sekali, draf "peraturan penggunaan AI" 5 mata untuk pasukan anda (alat yang diluluskan, peraturan data, pintu pengesahan, had autonomi, akauntabiliti).

senarai semak

[ ] Saya boleh membezakan antara kategori alat pengekodan AI dan titik manis bagi setiap kategori.
[ ] Saya memetakan tugasan ke kelas kenderaan yang betul dan tahap autonomi yang sesuai.
[ ] Saya memberikan konteks projek kekal (fail arahan) kepada alatan.
[ ] Saya menggunakan skop sempit dan disiplin "rancang dahulu" kepada ejen CLI.
[ ] Saya lulus perubahan AI melalui gerbang pengesahan yang sama seperti perubahan manusia.
[ ] Saya menyokong alat yang disahkan, peraturan data, ketelusan dan rangka kerja akauntabiliti di peringkat pasukan.

Peperiksaan Modul

1. Apakah yang sebenarnya dilakukan oleh model bahasa besar asas pembantu pengekodan apabila ia menghasilkan kod?

A) Secara corak meramalkan kesinambungan yang paling mungkin berdasarkan konteks yang diberikan ✔
B) Menjamin hasil yang betul dengan benar-benar menyusun dan menjalankan kod
C) Ia mengimbas kod di seluruh internet secara langsung dan menyalin kod yang paling tepat.
D) Memahami logik kod seperti seorang jurutera manusia dan memahami niat

Penjelasan: LLM tidak 'memahami' kod seperti manusia; Ia menjana kemungkinan kesinambungan yang paling besar kepada konteks yang diberikan, berdasarkan corak yang dipelajari daripada kumpulan teks dan kod yang sangat besar. Oleh itu, kualiti output secara langsung bergantung pada kualiti konteks dan arahan yang anda berikan, dan setiap output mesti disahkan.

2. Apakah yang anda panggil apabila AI secara meyakinkan mencipta fungsi atau perpustakaan yang tidak wujud, dan apakah satu-satunya penawar sebenar?

A) Ini dipanggil ralat penyusunan; Penawar adalah peralatan yang lebih kuat
B) Ini dipanggil halusinasi; Penawarnya adalah untuk mengesahkan kod dan setiap API yang digunakan ✔
C) Ini dipanggil regresi; Penawarnya adalah untuk memulakan semula model
D) Ini dipanggil limpahan konteks; Penawarnya adalah untuk memendekkan gesaan

Penerangan: Ini dipanggil halusinasi dan menyebabkan salah satu pepijat paling mahal dalam perisian. Satu-satunya penawar sebenar ialah pengesahan: mengesahkan bahawa setiap fungsi, API dan pakej yang digunakan benar-benar wujud dan kod tersebut berfungsi. Nada yakin model bukan bukti ketepatan.

3. Pendekatan manakah yang paling meningkatkan kualiti dan ketekalan output apabila menjana kod dengan AI?

A) Melepaskan model dengan mengatakan 'tulis ini kepada saya' tanpa memberikan sebarang konteks
B) Menulis gesaan yang paling panjang dan mewah
C) Nyatakan dan berikan contoh kontrak input/output, kes tepi, versi dan gaya ✔
D) Menggabungkan kod yang dijana secara langsung tanpa membacanya

Penjelasan: Menentukan jenis input/output fungsi (kontrak), kes tepi, bahasa/versi dan kekangan gaya dan memberi contoh kepada model membolehkan peralihan daripada ramalan kepada ketepatan. Permintaan 'tulis saya ini' tanpa konteks menghasilkan kod yang berbeza setiap kali dan sering memintas kes tepi.

4. Apabila meneroka pangkalan kod asing dengan AI, nama fungsi mungkin 'validateAndSave' tetapi ringkasan AI mungkin tidak betul. Apakah pendekatan yang betul?

A) Keyakinan penuh terhadap ringkasan AI kerana namanya adalah jelas
B) Menukar fungsi secara langsung tanpa membacanya
C) Membuat keputusan hanya dengan melihat nama fungsi
D) Anggap penerangan AI sebagai hipotesis dan sahkan tuntutan kritikal baris demi baris dalam kod ✔

Penjelasan: AI mungkin melihat nama dalam kod dan memberitahu anda 'apa yang kelihatan seperti ia lakukan', tetapi sebenarnya logiknya mungkin berbeza (atau malah terbalik). Jadi penjelasan AI adalah hipotesis; Tuntutan kritikal, terutamanya yang melibatkan keselamatan, kuasa atau aliran wang, harus disahkan secara visual pada talian yang berkaitan.

5. Apakah bahaya terbesar apabila mengatakan 'AI melihatnya, ia jelas' dalam semakan kod bantuan AI?

A) AI boleh menghasilkan negatif palsu; Kesilapan sebenar yang terlepas mewujudkan keyakinan palsu ✔
B) Kajian AI terlalu lambat sehingga membuang masa
C) Pasukan tidak faham kerana AI hanya mengulas dalam bahasa Inggeris
D) PR tidak bertumpu kerana AI selalu terlebih tafsir

Penjelasan: AI menghasilkan kedua-dua positif palsu (membenderakan masalah di mana ia tidak wujud) dan negatif palsu (hilang pepijat sebenar). Negatif palsu senyap; Kesilapan yang paling berbahaya adalah yang tidak disebutkan dalam ulasan sama sekali. Jadi AI ialah penapis pertama, bukan kelulusan; Keputusan untuk bergabung adalah milik orang yang bertanggungjawab.

6. Apakah perangkap paling berbahaya yang berlaku apabila anda hanya memberikan AI kod dan ujian cetakan?

A) AI sentiasa menulis terlalu banyak ujian dan mengembang pangkalan kod
B) AI menguji tingkah laku semasa (mungkin salah) kod sebagai 'betul' dan membetulkan pepijat ✔
C) AI memadam kod secara automatik semasa menulis ujian
D) AI menulis ujian bukan sahaja untuk laluan gembira tetapi sentiasa untuk kes tepi

Penjelasan: AI cenderung melihat kod dan menulis pernyataan yang menguji tingkah laku semasa. Jika kod itu salah dari awal, AI membetulkan tingkah laku yang salah ini sebagai 'betul'. Oleh itu, jangkaan ujian harus ditulis mengikut peraturan (spesifikasi) yang diperlukan, bukan mengikut output semasa kod.

7. Apakah yang paling menentukan ketepatan hipotesis semasa menyahpepijat pepijat dengan AI?

A) Betapa sopannya gesaan itu ditulis.
B) Berapa kali soalan itu ditanya semula
C) Kualiti bukti yang diberikan kepada model: mesej ralat penuh, surih tindanan, input dan tingkah laku yang dijangka ✔
D) Apakah tema warna yang ditulis dalam kod?

Penjelasan: AI tidak melihat ralat seperti yang anda lakukan; Dia hanya tahu bukti yang anda berikan kepadanya. Memandangkan mesej ralat penuh, surih tindanan, input pencetus dan gelagat yang dijangkakan, model tersebut menyenaraikan kemungkinan sebenar; Jika tiada bukti, ia membuat tekaan (halusinasi) dan membawa anda ke landasan yang salah.

8. Apakah langkah paling kritikal sebelum memberikan log pengeluaran kepada AI untuk dianalisis?

A) Menampal log seperti sedia ada, meliputi sepanjang hari
B) Tukar log kepada huruf besar dahulu
C) Menyusun baris log mengikut susunan abjad
D) Menyembunyikan data peribadi dan rahsia dan hanya memberi tetingkap yang berkaitan ✔

Penerangan: Log pengeluaran mentah mengandungi IP, e-mel, ID sesi, token dan kadangkala rahsia terbuka. Melekatkannya ke dalam alat AI tanpa menutupnya adalah pelanggaran privasi yang serius. Selain itu, log hendaklah ditapis ke tetingkap masa yang sempit; Tetapi keperluan pertama ialah membersihkan data sensitif.

9. Apakah yang perlu dilakukan jika AI mengatakan dua peristiwa berlaku 'secara serentak' dalam analisis log dan mengisytiharkan satu sebagai punca utama?

A) Mengabaikan korelasi sebagai kausaliti dan mengesahkan tuntutan dengan metrik dan kod ✔
B) Menerima sebab sebagai muktamad kerana AI mewujudkan hubungan masa
C) Segera memulakan semula komponen tertuduh pertama
D) Memadam log sepenuhnya dan mengumpulnya semula

Penjelasan: Perangkap yang paling biasa dalam analisis log ialah korelasi yang mengelirukan dengan sebab. Hubungan masa yang ditubuhkan oleh AI adalah petunjuk, bukan bukti. Kausalitas sebenar memerlukan masa, mekanisme, dan, jika boleh, kebolehulangan; Tuntutan mesti disahkan dengan metrik dan kod.

10. Apakah peraturan emas yang tidak boleh dirunding apabila memfaktorkan semula dengan AI dan apakah yang menjaminnya?

A) Kod hendaklah lebih pendek; Bilangan baris menjamin ini
B) Tiada perubahan tingkah laku; ujian yang menangkap tingkah laku semasa memastikan ini ✔
C) Kod tersebut mengandungi lebih banyak komen; AI menjamin ini
D) Menulis semula keseluruhan fail sekaligus; ejen memberi jaminan ini

Penjelasan: Pemfaktoran semula ialah menambah baik struktur dalaman kod tanpa mengubah tingkah laku luarannya; Peraturan emas ialah tingkah laku kekal malar. Apa yang memastikan ini adalah ujian: testnet yang menangkap gelagat semasa sebelum mengubahnya disediakan dan dijalankan selepas setiap langkah. Pemfaktoran semula tanpa testnet adalah satu perjudian.

11. Apakah lapisan dalam penghasilan dokumentasi yang AI tidak boleh tahu dan berbahaya untuk dibuat?

A) Bagaimana untuk menjalankan langkah pemasangan
B) Senarai parameter fungsi
C) Justifikasi 'mengapa' keputusan reka bentuk dibuat sedemikian ✔
D) Dalam bahasa apakah kod tersebut ditulis?

Penerangan: AI boleh mengekstrak lapisan 'apa/bagaimana' (apa fungsinya, bagaimana persediaannya) daripada kod; tetapi ia tidak dapat mengetahui lapisan 'mengapa' (rasional reka bentuk untuk keputusan, sebab nilai had). 'Alasan' yang dibuat-buat adalah lebih berbahaya daripada tiada justifikasi; Pemilik kod mesti menambah lapisan ini.

12. Apakah yang perlu dilakukan oleh pembangun jika mereka ingin menampal fail konfigurasi yang mengandungi kunci API langsung ke dalam alat AI yang tidak diluluskan semasa menyelesaikan pepijat yang mendesak?

A) Untuk kelajuan, tampal fail seperti sedia ada dan kemudian padam sembang
B) Tambahkan nota 'sulit' di hujung fail dan hantarkannya
C) Tinggalkan kunci dan tukar nama fail sahaja
D) Alih keluar/tutup rahsia dan berikan hanya konteks tidak sensitif yang diperlukan ✔

Pendedahan: Rahsia, data peribadi dan aset sulit tidak boleh dimasukkan ke dalam cara yang tidak diluluskan; Segera tidak menggantung garis merah ini. Pendekatan yang betul adalah untuk mengekstrak/menolong rahsia terlebih dahulu dan memberikan konteks yang tidak sensitif sahaja. Jika rahsia masih bocor, perkara pertama yang perlu dilakukan ialah memusing kunci itu dengan segera.

13. Kod yang dijana AI lulus ujian dan berjalan dalam pengeluaran. Adakah ini membuktikan bahawa kod itu selamat?

A) Tidak; 'berfungsi' tidak bermakna selamat, keselamatan memerlukan lapisan pengesahan yang berasingan ✔
B) Ya; Kod yang lulus ujian adalah selamat mengikut definisi
C) Ya; Menjalankannya dalam pengeluaran menghapuskan semua kelemahan
D) Tidak; tetapi keselamatan hanya penting jika kod itu perlahan

Penjelasan: 'Bekerja' tidak sama dengan 'selamat'. Walaupun kod itu mengandungi kelemahan seperti suntikan SQL, ia boleh lulus ujian dan berjalan dengan lancar; Kerentanan hanya terbongkar apabila penyerang menemuinya. Oleh itu, sebagai tambahan kepada ketepatan, semakan dan imbasan berorientasikan keselamatan seperti SAST harus dilakukan sebagai lapisan yang berasingan.

14. Apakah disiplin yang paling selamat apabila memberikan tugas berbilang fail kepada ejen CLI (alat autonomi yang boleh mengubah suai fail dan menjalankan arahan)?

A) Memberitahu ejen 'tingkatkan modul ini' dan memberi kebebasan sepenuhnya
B) Memberi skop sempit dan kriteria penerimaan, meminta pelan terlebih dahulu, meluluskannya, melaksanakannya langkah demi langkah, dan menjalankan ujian ✔
C) Menggabungkan semua perubahan ejen secara langsung tanpa menyemaknya
D) Memberi ejen akses tanpa had kepada persekitaran pengeluaran dan data sulit

Penjelasan: Apabila autonomi meningkat, kawalan juga harus meningkat. Memberi ejen skop yang sempit dan kriteria penerimaan yang jelas, mula-mula meminta pelan tanpa perubahan, meluluskan pelan itu, kemudian melaksanakannya langkah demi langkah dan menjalankan ujian pada setiap langkah; Ia menghalang perubahan yang luas, tidak boleh disemak dan perlu ditarik balik.

15. Siapa yang mempunyai liabiliti yang timbul daripada kod yang dijana AI dalam perisian kritikal keselamatan (cth. pembayaran atau pengesahan)?

A) Memandangkan kod itu berasal daripada AI, ia berada dalam pembekal kenderaan
B) Jika AI dibangunkan dengan mencukupi, tiada siapa yang mempunyai; tidak perlu mengesahkan
C) Pasukan/jurutera yang memeriksa, memasang dan mengedarkan kod; AI tidak menggantikan persetujuan ✔
D) Hanya orang yang menulis gesaan, bukan mereka yang menyemaknya

Penerangan: AI ialah pengganda kelajuan dan penjana pelan tindakan; tidak boleh memikul tanggungjawab. Tanggungjawab untuk sebarang ralat, kelemahan atau pelanggaran yang timbul daripada kod dalam pengeluaran terletak pada pasukan yang menyemak, memasang dan mengedarkan kod tersebut. Dalam kawasan kritikal keselamatan, keluaran AI bukanlah pengganti untuk semakan dan kelulusan oleh jurutera yang berkelayakan dalam apa jua keadaan.