Alat Pengkodean AI dan Integrasi Alur Kerja — Kecerdasan Buatan untuk Perangkat Lunak dan Tim Teknis

Keuntungan:

Kemampuan untuk memetakan penyelesaian editor, asisten obrolan, agen CLI, dan kategori otomatisasi CI ke tugas
Kemampuan untuk menyesuaikan tingkat otonomi berdasarkan risiko dan menerapkan disiplin 'rencanakan terlebih dahulu' kepada agen CLI
Kemampuan untuk mengubah penggunaan AI menjadi sistem tim berdasarkan alat yang tervalidasi, gerbang verifikasi, transparansi dan akuntabilitas

Sejauh ini kita telah belajar menggunakan AI dalam tugas individu (coding, review, pengujian, debugging). Dalam unit terakhir ini, kami menggabungkan beberapa hal: mengenal berbagai alat pengkodean AI, mencocokkan alat yang tepat dengan pekerjaan yang tepat, dan menanamkannya dengan aman ke dalam alur pengembangan harian Anda—mulai dari editor hingga kontrol versi, dari pipeline CI/CD hingga tata kelola tim. Tujuannya adalah untuk mengubah kebiasaan “bertanya pada AI sesekali” yang berantakan menjadi sistem kerja yang konsisten dan dapat diaudit.

Kami mencakup jenis kendaraan dengan kategori netral (nama produk tertentu berubah dengan cepat; yang penting adalah apa yang dilakukan kategori tersebut). Setiap kategori memiliki “sweet spot” dan profil risiko; Penguasaan adalah mengetahui seberapa besar otonomi yang harus diberikan pada suatu tugas.

Kategori Alat Pengkodean AI

1. Penyelesaian dalam editor. Plugin yang menyarankan garis/blok saat Anda mengetik di IDE (lingkungan pengembangan tempat Anda menulis kode). Sweet spot: kecepatan in-stream, kode boilerplate. Risiko: konteks sempit, menerima saran tanpa berpikir.

2. Obrolan/asisten panel samping. Antarmuka obrolan tertanam dalam IDE dengan visibilitas ke dalam bagian basis kode Anda. Sweet spot: deskripsi, refactor, pengujian, analisis bug. Risiko: terbatas pada konteks yang Anda berikan, memerlukan verifikasi.

3. Agen CLI (alat agen). Alat yang dijalankan dari baris perintah, dapat membaca dan memodifikasi banyak file, menjalankan perintah, dan menjalankan tugas multi-langkah sendiri. Sweet spot: perubahan multi-file, tugas berulang, jenis pekerjaan "tambahkan properti ini". Risiko: otonomi tinggi = dampak tinggi; Jika dibiarkan, hal ini akan menghasilkan perubahan yang luas dan sulit diverifikasi.

4. Integrasi jalur/otomatisasi. Bot CI (Integrasi Berkelanjutan) yang meninggalkan komentar peninjauan otomatis pada PR, menyarankan pengujian, atau menghasilkan log perubahan. Sweet spot: saringan pertama tanpa rasa lelah, konsistensi. Risiko: kebisingan, kepercayaan diri yang salah.

Petunjuk: Ketika otonomi meningkat, kendali juga harus meningkat. Karena penyelesaian editor kecil dan instan, pengawasannya ringan; Modifikasi multi-file agen CLI harus diperiksa sama, jika tidak lebih hati-hati, dibandingkan PR manusia.

Langkah demi Langkah: Menanamkan AI ke dalam Alur Kerja

Petakan tugas ke alat tersebut. Penambahan kecil dalam aliran → penyelesaian; memahami/memfaktorkan ulang/menguji → obrolan; multi-file, pekerjaan berulang → agen CLI; filter pertama berkelanjutan → integrasi CI.
Pilih tingkat otonomi. Berapa banyak kebebasan yang dimiliki agen? Saran baca-saja atau modifikasi file + eksekusi perintah? Sesuaikan dengan risiko.
Peliharalah konteksnya. Secara permanen memperkenalkan aturan proyek (gaya, arsitektur, "larangan") ke dalam alat; Gunakan file instruksi proyek daripada menjelaskannya berulang kali.
Pertahankan gerbang verifikasi. Perubahan AI seperti perubahan manusia: melalui kompilasi, pengujian, peninjauan, dan (jika penting) persetujuan ahli. PR pembukaan AI tidak mengabaikan persetujuan.
Ukur dan sesuaikan. Perhatikan apa yang sebenarnya mengalami percepatan, di mana beban koreksi meningkat; Pangkas penggunaan yang tidak berhasil.

Tiga Kasus Mini

Kasus 1 — Agen CLI menangani penggantian nama multifile. Satu tim akan mengganti nama konsep yang tersebar di 60 file. Mereka memberikan tugas kepada agen CLI, pertama-tama meminta rencana, menyetujui rencana tersebut, kemudian membuat perubahan dan menjalankan seluruh rangkaian pengujian. Agen 3 melewatkan kasus Edge dalam file; Tes menangkapnya, memperbaikinya. Pekerjaan yang memakan waktu kurang lebih 3 jam secara manual ini selesai dalam waktu 50 menit dengan pengawasan.

Kasus 2 – Otonomi yang tidak terkendali menjadi bumerang. Pengembang lain meminta agen untuk "meningkatkan modul ini" dan merilisnya; Agen memodifikasi 18 file dan menambahkan dua dependensi. Perubahan tersebut begitu luas sehingga tidak dapat ditinjau ulang dan harus ditarik. Pelajaran: berikan ruang lingkup yang sempit kepada agen, kriteria penerimaan yang jelas, dan disiplin rencana pertama, kemudian lakukan.

Kasus 3 — Bot ulasan CI menjadi filter pertama. Satu tim membuat bot yang meninggalkan komentar ulasan AI otomatis pada PR. Setelah bot menangkap kelalaian pemeriksaan nol dan masalah gaya, peninjau manusia dapat mencurahkan waktunya untuk logika bisnis. Namun, tim memperjelas bahwa bot tidak memberikan “persetujuan”: setidaknya satu persetujuan manusia masih diperlukan. Untuk mengurangi kebisingan, mereka menyetel perahu agar hanya menyisakan kebisingan dengan intensitas tinggi/sedang.

Empat Templat yang Dapat Disalin

Disiplin "Rencanakan dulu" untuk agen CLI:

Tugas: {{tugas yang jelas dan sempit}}Kriteria penerimaan: {{hasil yang dapat diukur}}Kendala: hanya bekerja pada {{direktori/file berikut}}; menambahkan ketergantungan baru. Pertama, presentasikan rencana TANPA PERUBAHAN: file mana, apa yang akan berubah, pengujian mana yang akan dijalankan. Tunggu sampai saya MENYETUJUI rencana tersebut. Kemudian terapkan langkah demi langkah, jalankan pengujian di setiap langkah.

File instruksi proyek (konteks persisten terhadap alat):

Aturan tetap untuk alat AI dalam proyek ini:- Bahasa/versi: {{...}}. Gaya: {{...}}.- Batasan arsitektur: {{mis. arah antar lapisan}}.- JANGAN PERNAH: menyematkan rahasia, menggunakan data produksi, {{perpustakaan terlarang}}.- Setiap perubahan harus dapat diuji; Mengubah tanda tangan API publik TANPA diminta. - Jika ragu, berhentilah dan bertanya.

Keputusan pemetaan alat tugas:

Saya mendefinisikan tugas berikut: {{tugas}}. Alat kelas apa yang harus saya gunakan untuk melakukan ini: (a) penyelesaian editor, (b) asisten obrolan, (c) agen CLI, (d) otomatisasi CI? Tulis alasan Anda, risiko dan tingkat otonomi yang disarankan (hanya saran/ubah file/perintah jalankan).

CI meninjau kode etik bot:

Tinggalkan hanya temuan tingkat keparahan TINGGI dan SEDANG sebagai komentar dalam tinjauan PR. Setiap temuan: kategori, tingkat keparahan, koreksi yang disarankan. Kumpulkan catatan pada tingkat preferensi gaya menjadi komentar ringkasan tunggal yang terpisah. Anda TIDAK MENYETUJUI; persetujuan manusia diperlukan.

Perintah lemah / Perintah kuat

Lemah: (kepada agen CLI) "Jadikan modul pembayaran lebih baik."

Kuat: (Kepada agen CLI) "Hanya dijalankan di bawah src/pembayaran/. Tugas: Ekstrak logika validasi rekursif dari fungsi refund() ke dalam satu pembantu; perilaku dan tanda tangan tidak berubah. Pertama, presentasikan rencananya dan tunggu persetujuan saya; kemudian jalankan dan jalankan paket tes/pembayaran/. Tambahkan ketergantungan baru."

Versi yang kuat mempersempit ruang lingkup, menetapkan kriteria dan batasan penerimaan, dan menerapkan disiplin "rencanakan terlebih dahulu". Tuntutan “berbuat lebih baik” yang tidak jelas adalah akar penyebab perubahan besar dan tidak terkendali.

kelas kendaraan

Apa keahlian terbaiknya

otonomi

berat pemeriksaan

Selesainya penyuntingan

Penambahan kecil dalam aliran

rendah

Ringan (membaca instan)

asisten obrolan

Pahami, uji, refaktorisasi

sedang

Sedang (verifikasi keluaran)

Agen CLI

Multi-file, rekursif

tinggi

Berat (rencana + ulasan lengkap)

otomatisasi CI

Filter pertama yang berkelanjutan

sedang

Medium (aturan + persetujuan manusia)

Tata Kelola Tim: Dari Keterampilan Individu hingga Sistem Bersama

Menggunakan AI dengan baik secara individual adalah sebuah permulaan; kedewasaan sesungguhnya adalah sistem yang konsisten di level tim. Sistem ini didasarkan pada beberapa pilar: daftar alat yang disetujui (alat mana yang dapat digunakan dengan data apa — dari unit 10), gerbang verifikasi (perubahan AI melewati gerbang pembuatan/pengujian/peninjauan yang sama — dari unit 11), transparansi (menyatakan bahwa suatu perubahan didukung oleh AI, memberikan ketertelusuran jika diperlukan), dan kejelasan tanggung jawab (orang yang menandatangani dan bertanggung jawab sudah jelas). Kerangka kerja ini membatasi risiko sekaligus menjaga kecepatan dan memastikan anggota tim baru bekerja dengan disiplin yang sama.

Perhatian: Semakin tinggi otonomi suatu alat—terutama agen CLI yang dapat memodifikasi file, menjalankan perintah—semakin ketat membatasi alat tersebut dalam mengakses lingkungan produksi, data rahasia, dan operasi yang sulit dikembalikan. Ikat perintah destruktif (penghapusan permanen, penerapan) dengan persetujuan manusia.

Kesalahan umum

Ketidakcocokan tugas-berarti. Mencoba melakukan pekerjaan multi-file dengan penyelesaian editor atau lampiran kecil dengan agen berat.
Melepaskan agen. Tugas agen yang diberikan dengan cakupan sempit dan tanpa “rencana terlebih dahulu” menghasilkan perubahan yang tidak teruji.
Melonggarkan gerbang verifikasi untuk AI. "AI yang melakukannya, ayo kita lanjutkan dengan cepat" adalah pengecualian yang paling berbahaya; Pintunya sama untuk semua orang.
Memberikan konteks secara manual setiap saat. Tidak menuliskan aturan proyek ke dalam file instruksi permanen akan menghasilkan inkonsistensi dan duplikasi.
Salah mengira persetujuan bot CI sebagai persetujuan manusia. Bot adalah filter; Persetujuan manusia yang bertanggung jawab adalah wajib.

Singkatnya

Alat pengkodean AI terbagi dalam empat kategori utama: penyelesaian editor, asisten obrolan, agen CLI, dan otomatisasi CI. Penguasaan adalah mencocokkan tugas dengan alat yang tepat dan tingkat otonomi yang tepat; Ketika otonomi meningkat, kontrol juga meningkat. Berikan alat konteks proyek yang persisten, terapkan disiplin “rencanakan terlebih dahulu” pada agen multi-file, dan teruskan perubahan AI melalui gerbang verifikasi yang sama seperti perubahan manusia. Keterampilan individu; Ubah menjadi sistem tim yang dibangun berdasarkan daftar alat yang disetujui, gerbang verifikasi, transparansi, dan kejelasan tanggung jawab. AI adalah pengganda kecepatan ujung ke ujung; Orang yang menandatangani dan memberikan pertanggungjawaban selalu merupakan orang yang berkompeten.

Tugas aplikasi

Sebutkan tiga tugas nyata yang akan Anda lakukan minggu depan. Gunakan templat “keputusan pencocokan tugas-ke-kendaraan” untuk masing-masing kendaraan guna menentukan kelas kendaraan dan tingkat otonomi yang akan Anda pilih. Kemudian jalankan tugas sempit untuk agen CLI (atau asisten obrolan) dengan disiplin “rencanakan terlebih dahulu”: setujui rencana tersebut, terapkan, jalankan pengujian, dan tinjau perubahan seperti PR manusia. Terakhir, buatlah draf 5 poin “aturan penggunaan AI” untuk tim Anda (alat yang disetujui, aturan data, gerbang verifikasi, batas otonomi, akuntabilitas).

daftar periksa

[ ] Saya dapat membedakan antara kategori alat pengkodean AI dan keunggulan masing-masing kategori.
[ ] Saya memetakan tugas ke kelas kendaraan yang benar dan tingkat otonomi yang sesuai.
[] Saya memberikan konteks proyek permanen (file instruksi) ke alat.
[ ] Saya menerapkan cakupan sempit dan disiplin "rencanakan terlebih dahulu" kepada agen CLI.
[ ] Saya meneruskan perubahan AI melalui gerbang verifikasi yang sama dengan perubahan manusia.
[ ] Saya menganjurkan alat yang tervalidasi, aturan data, kerangka transparansi dan akuntabilitas di tingkat tim.

Ujian Modul

1. Apa yang sebenarnya dilakukan oleh model bahasa besar yang mendasari asisten pengkodean ketika menghasilkan kode?

A) Secara pola memprediksi kelanjutan yang paling mungkin berdasarkan konteks yang diberikan ✔
B) Menjamin hasil yang benar dengan mengkompilasi dan menjalankan kode
C) Ini memindai kode di seluruh internet secara langsung dan menyalin yang paling akurat.
D) Memahami logika kode seperti seorang insinyur manusia dan memahami maksudnya

Klarifikasi: LLM tidak 'memahami' kode seperti manusia; Ini menghasilkan kelanjutan yang paling mungkin dari konteks tertentu, berdasarkan pola yang dipelajari dari kumpulan teks dan kode yang sangat besar. Oleh karena itu, kualitas keluaran secara langsung bergantung pada kualitas konteks dan instruksi yang Anda berikan, dan setiap keluaran harus divalidasi.

2. Apa sebutannya ketika AI secara meyakinkan membuat fungsi atau perpustakaan yang tidak ada, dan apa satu-satunya penawar yang sebenarnya?

A) Ini disebut kesalahan kompilasi; Penawarnya adalah peralatan yang lebih kuat
B) Ini disebut halusinasi; Penawarnya adalah dengan memverifikasi kode dan setiap API yang digunakan ✔
C) Ini disebut regresi; Penangkalnya adalah memulai ulang model
D) Ini disebut konteks overflow; Penangkalnya adalah dengan mempersingkat prompt

Deskripsi: Ini disebut halusinasi dan menyebabkan salah satu bug termahal dalam perangkat lunak. Satu-satunya penawar sebenarnya adalah verifikasi: memastikan bahwa setiap fungsi, API, dan paket yang digunakan benar-benar ada dan kode berfungsi. Nada percaya diri model tersebut bukanlah bukti keakuratan.

3. Pendekatan mana yang paling meningkatkan kualitas dan konsistensi keluaran saat membuat kode dengan AI?

A) Melepaskan model dengan mengatakan 'tulis ini untuk saya' tanpa memberikan konteks apa pun
B) Menulis prompt terpanjang dan semewah mungkin
C) Tentukan dan berikan contoh kontrak input/output, kasus tepi, versi dan gaya ✔
D) Menggabungkan kode yang dihasilkan secara langsung tanpa membacanya

Penjelasan: Menentukan tipe input/output fungsi (kontrak), kasus tepi, batasan bahasa/versi dan gaya serta memberikan contoh pada model memungkinkan transisi dari prediksi ke presisi. Permintaan 'tulis saya ini' tanpa konteks menghasilkan kode yang berbeda setiap kali dan sering kali mengabaikan kasus edge.

4. Saat menjelajahi basis kode asing dengan AI, nama fungsi mungkin 'validateAndSave' tetapi intisari AI mungkin salah. Apa pendekatan yang tepat?

A) Keyakinan penuh pada ringkasan AI karena namanya sudah cukup jelas
B) Mengubah fungsi secara langsung tanpa membacanya
C) Memutuskan hanya dengan melihat nama fungsinya
D) Perlakukan deskripsi AI sebagai hipotesis dan verifikasi klaim kritis baris demi baris dalam kode ✔

Penjelasan: AI mungkin melihat nama dalam kode dan memberi tahu Anda 'apa yang dilakukannya', namun kenyataannya logikanya mungkin berbeda (atau bahkan terbalik). Jadi penjelasan AI adalah hipotesis; Klaim penting, terutama yang melibatkan keamanan, otoritas, atau aliran uang, harus diverifikasi secara visual pada jalur yang relevan.

5. Apa bahaya terbesar ketika mengatakan 'AI melihatnya, sudah jelas' dalam tinjauan kode yang dibantu AI?

A) AI dapat menghasilkan negatif palsu; Kesalahan nyata yang terlewatkan menciptakan kepercayaan diri yang salah ✔
B) Peninjauan AI terlalu lambat sehingga membuang-buang waktu
C) Tim tidak mengerti karena AI hanya berkomentar dalam bahasa Inggris
D) PR tidak menyatu karena AI selalu menafsirkan secara berlebihan

Penjelasan: AI menghasilkan positif palsu (menandai masalah padahal sebenarnya tidak ada) dan negatif palsu (bug yang sebenarnya tidak ada). Negatif palsu tidak bersuara; Kesalahan paling berbahaya adalah kesalahan yang tidak disebutkan sama sekali dalam ulasan. Jadi AI adalah filter pertama, bukan persetujuan; Keputusan penggabungan adalah milik penanggung jawab.

6. Jebakan paling berbahaya apa yang terjadi ketika Anda hanya memberikan kode kepada AI dan melakukan tes cetak?

A) AI selalu menulis terlalu banyak pengujian dan membuat basis kode membengkak
B) AI menguji perilaku kode saat ini (mungkin salah) sebagai 'benar' dan memperbaiki bug ✔
C) AI secara otomatis menghapus kode saat menulis tes
D) AI menulis pengujian tidak hanya untuk jalur bahagia tetapi selalu untuk kasus edge

Penjelasan: AI cenderung melihat kode dan menulis pernyataan yang menguji perilaku saat ini. Jika kodenya salah sejak awal, AI akan memperbaiki perilaku salah ini sebagai 'benar'. Oleh karena itu, ekspektasi pengujian harus ditulis sesuai dengan aturan (spesifikasi) yang disyaratkan, bukan berdasarkan keluaran kode saat ini.

7. Apa yang paling menentukan keakuratan hipotesis saat men-debug bug dengan AI?

A) Seberapa sopan petunjuknya ditulis.
B) Berapa kali pertanyaan itu ditanyakan lagi
C) Kualitas bukti yang diberikan kepada model: pesan kesalahan lengkap, pelacakan tumpukan, masukan, dan perilaku yang diharapkan ✔
D) Tema warna apa yang digunakan untuk menulis kode tersebut?

Penjelasan: AI tidak melihat kesalahan seperti yang Anda lihat; Dia hanya mengetahui bukti yang Anda berikan padanya. Dengan mempertimbangkan pesan kesalahan lengkap, pelacakan tumpukan, masukan pemicu, dan perilaku yang diharapkan, model akan menyebutkan kemungkinan sebenarnya; Jika tidak ada bukti, ia hanya menebak-nebak (halusinasi) dan membawa Anda ke jalur yang salah.

8. Apa langkah paling penting sebelum memberikan log produksi kepada AI untuk dianalisis?

A) Menempelkan log apa adanya, mencakup sepanjang hari
B) Ubah log menjadi huruf besar terlebih dahulu
C) Menyusun baris-baris log menurut abjad
D) Menyembunyikan data dan rahasia pribadi dan hanya memberikan jendela yang relevan ✔

Deskripsi: Log produksi mentah berisi IP, email, ID sesi, token, dan terkadang rahasia terbuka. Memasukkannya ke dalam alat AI tanpa menutupinya merupakan pelanggaran privasi yang serius. Selain itu, log harus disaring ke jendela waktu yang sempit; Namun kebutuhan pertama adalah membersihkan data sensitif.

9. Apa yang harus dilakukan jika AI mengatakan dua peristiwa terjadi 'bersamaan' dalam analisis log dan menyatakan salah satunya sebagai penyebab utama?

A) Mengabaikan korelasi sebagai kausalitas dan memverifikasi klaim dengan metrik dan kode ✔
B) Menerima penyebab sebagai hal yang pasti karena AI membentuk hubungan waktu
C) Segera restart komponen pertama yang dituduh
D) Menghapus log sepenuhnya dan mengumpulkannya kembali

Penjelasan: Kesalahan paling umum dalam analisis log adalah korelasi sebab akibat yang membingungkan. Hubungan waktu yang dibangun oleh AI adalah petunjuk, bukan bukti. Kausalitas sejati memerlukan waktu, mekanisme, dan, jika memungkinkan, kemampuan untuk diulang; Klaim harus divalidasi dengan metrik dan kode.

10. Apa aturan emas yang tidak dapat dinegosiasikan saat melakukan refactoring dengan AI dan apa yang menjaminnya?

A) Kodenya harus lebih pendek; Jumlah garis menjamin hal ini
B) Tidak ada perubahan perilaku; tes yang menangkap perilaku saat ini memastikan hal ini ✔
C) Kode berisi lebih banyak komentar; AI menjamin hal ini
D) Menulis ulang seluruh file sekaligus; agen menjamin hal ini

Penjelasan: Refactoring adalah memperbaiki struktur internal kode tanpa mengubah perilaku eksternalnya; Aturan emasnya adalah perilaku tetap konstan. Yang memastikan hal ini adalah pengujian: testnet yang menangkap perilaku saat ini sebelum mengubahnya, disiapkan dan dijalankan setelah setiap langkah. Memfaktorkan ulang tanpa testnet adalah sebuah pertaruhan.

11. Lapisan apa dalam produksi dokumentasi yang tidak dapat diketahui oleh AI dan berbahaya untuk dibuat?

A) Cara menjalankan langkah instalasi
B) Daftar parameter suatu fungsi
C) Pembenaran 'mengapa' keputusan desain dibuat seperti itu ✔
D) Dalam bahasa apa kode itu ditulis?

Deskripsi: AI dapat mengekstrak lapisan 'apa/bagaimana' (fungsi apa yang dilakukan, bagaimana pengaturannya) dari kode; tetapi ia tidak dapat mengetahui lapisan 'mengapa' (alasan desain untuk suatu keputusan, alasan nilai batas). 'Alasan' yang dibuat-buat lebih berbahaya daripada tidak ada pembenaran; Pemilik kode harus menambahkan lapisan ini.

12. Apa yang harus dilakukan pengembang jika mereka ingin menempelkan file konfigurasi yang berisi kunci API langsung ke alat AI yang tidak disetujui sambil menyelesaikan bug yang mendesak?

A) Untuk kecepatan, tempel file apa adanya lalu hapus obrolan
B) Tambahkan catatan 'rahasia' di akhir file dan kirimkan
C) Tinggalkan kuncinya dan ubah hanya nama filenya
D) Hapus/tutupi rahasia dan berikan hanya konteks non-sensitif yang diperlukan ✔

Pengungkapan: Rahasia, data pribadi, dan aset rahasia tidak boleh dimasukkan dengan cara yang tidak disetujui; Urgensi tidak menghentikan garis merah ini. Pendekatan yang benar adalah dengan mengekstrak/menutupi rahasia terlebih dahulu dan hanya memberikan konteks yang diperlukan dan tidak sensitif. Jika suatu rahasia masih bocor, hal pertama yang harus dilakukan adalah segera memutar kunci tersebut.

13. Kode yang dihasilkan AI lolos pengujian dan dijalankan dalam produksi. Apakah ini membuktikan bahwa kode tersebut aman?

A) Tidak; 'berfungsi' tidak berarti aman, keamanan memerlukan lapisan otentikasi terpisah ✔
B) Ya; Kode yang lolos pengujian menurut definisi aman
C) Ya; Menjalankannya dalam produksi menghilangkan semua kerentanan
D) Tidak; namun keamanan hanya penting jika kodenya lambat

Klarifikasi: 'Bekerja' tidak sama dengan 'aman'. Meskipun kode tersebut mengandung kerentanan seperti injeksi SQL, kode tersebut dapat lulus pengujian dan berjalan dengan lancar; Kerentanan hanya terungkap ketika penyerang menemukannya. Oleh karena itu, selain akurasi, tinjauan dan pemindaian berorientasi keamanan seperti SAST harus dilakukan sebagai lapisan terpisah.

14. Disiplin apa yang paling aman ketika memberikan tugas multi-file ke agen CLI (alat otonom yang dapat mengubah file dan menjalankan perintah)?

A) Memberitahu agen 'perbaiki modul ini' dan berikan kebebasan penuh
B) Memberikan cakupan dan kriteria penerimaan yang sempit, meminta rencana terlebih dahulu, menyetujuinya, menerapkannya selangkah demi selangkah, dan menjalankan pengujian ✔
C) Langsung menggabungkan semua perubahan agen tanpa meninjaunya
D) Memberikan agen akses tidak terbatas ke lingkungan produksi dan data rahasia

Penjelasan: Ketika otonomi meningkat, kontrol juga harus meningkat. Memberi agen cakupan yang sempit dan kriteria penerimaan yang jelas, pertama-tama meminta rencana tanpa perubahan, menyetujui rencana tersebut, kemudian menerapkannya selangkah demi selangkah dan menjalankan pengujian di setiap langkah; Hal ini mencegah perubahan yang bersifat luas, tidak dapat ditinjau, dan perlu dibatalkan.

15. Siapa yang mempunyai tanggung jawab yang timbul dari kode yang dihasilkan AI dalam perangkat lunak yang penting bagi keamanan (misalnya pembayaran atau autentikasi)?

A) Karena kode berasal dari AI, maka ada di penyedia kendaraan
B) Jika AI sudah cukup berkembang, belum ada yang memilikinya; tidak perlu memverifikasi
C) Tim/insinyur yang memeriksa, merakit dan mendistribusikan kode; AI tidak menggantikan persetujuan ✔
D) Hanya orang yang menulis promptnya, bukan mereka yang mereviewnya

Deskripsi: AI adalah pengganda kecepatan dan generator cetak biru; tidak dapat memikul tanggung jawab. Tanggung jawab atas segala kesalahan, kerentanan, atau pelanggaran yang timbul dari kode dalam produksi terletak pada tim yang meninjau, menyusun, dan mendistribusikan kode tersebut. Di area yang kritis terhadap keselamatan, keluaran AI bukanlah pengganti peninjauan dan persetujuan oleh insinyur yang berkualifikasi dalam kondisi apa pun.