Keuntungan:
- Kemampuan untuk mengevaluasi informasi menurut kelas sensitivitas (publik / internal / rahasia / sangat rahasia) dan menerapkan refleks 'kelas tanya, cocokkan alat'
- Memahami penyimpanan data, pelatihan model, pengumpulan dan risiko pelanggaran AI serta memisahkan dunia yang terbuka dan rahasia
- Kemampuan untuk mengadopsi prinsip data minimum, perlindungan data pribadi dan disiplin melindungi informasi yang tidak pasti seolah-olah itu adalah kelas yang lebih tinggi.
Diplomasi didasarkan pada kepercayaan, dan kepercayaan didasarkan pada kerahasiaan. Posisi perundingan, penilaian intelijen, isi percakapan dengan lawan bicara, atau keputusan yang belum diumumkan, jika berada di tangan yang salah, dapat membahayakan kepentingan negara, hasil perundingan, atau bahkan keamanan masyarakat. Kecerdasan buatan membawa kecepatan luar biasa dalam bidang ini, namun juga membawa risiko privasi baru dan serius. Di unit ini, Anda akan mempelajari cara melindungi informasi rahasia dan sensitif di era kecerdasan buatan, data mana yang dapat masuk ke kendaraan mana, dan disiplin penggunaan yang aman.
Unit ini adalah pelajaran keamanan paling penting dalam modul ini. Satu kesalahan di sini – menempelkan dokumen rahasia ke alat yang salah – tidak dapat diubah. Oleh karena itu, refleks yang perlu diingat akan ditetapkan di sini: Sebelum memberikan data apa pun ke alat AI, selalu tanyakan: di kelas apa data ini dan apakah alat ini disetujui untuk kelas ini?
Klasifikasi informasi: perbedaan dasar
Informasi diplomatik sering kali diklasifikasikan berdasarkan sensitivitasnya. Meski bervariasi dari satu institusi ke institusi lainnya, logika dasarnya adalah sebagai berikut:
- Tidak diklasifikasikan/publik: Informasi yang telah dipublikasikan dan dapat diakses publik. Contoh: siaran pers resmi, berita publik.
- Dibatasi/internal: Informasi internal yang tidak tersedia untuk umum namun memiliki sensitivitas rendah.
- Rahasia: Informasi yang pengungkapannya dapat sangat merugikan kepentingan negara. Contoh: posisi negosiasi, evaluasi internal.
- Sangat rahasia: Informasi yang pengungkapannya akan menyebabkan kerugian paling serius. Contoh: intelijen sensitif, informasi keamanan penting.
Aturan praktisnya sederhana: Tidak ada informasi rahasia yang tidak tersedia untuk umum yang akan dimasukkan ke dalam alat AI yang belum disetujui institusi Anda untuk kelas tersebut. Layanan AI publik, menurut definisi, tidak tersertifikasi untuk kelas informasi ini.
Tip: Jika Anda tidak yakin, perlakukan informasi tersebut seperti seorang senior. Mengatakan "ini mungkin sudah diketahui" adalah dugaan yang berbahaya. Sampai Anda 100 persen yakin bahwa informasi tersebut bersifat publik, lindungi seolah-olah informasi tersebut bersifat rahasia. Kehati-hatian yang tidak perlu bukanlah sebuah biaya, namun sebuah jaminan.
Risiko privasi AI
Alat AI menimbulkan risiko privasi yang berbeda dibandingkan perangkat lunak tradisional:
1. Pemrosesan dan penyimpanan data: Teks yang Anda tulis ke layanan AI publik dapat diproses dan disimpan di server layanan tersebut. Anda tidak dapat mengontrol siapa yang mengaksesnya, berapa lama disimpan, dan bagaimana penggunaannya.
2. Penggunaan dalam pelatihan model: Beberapa layanan mungkin menggunakan data yang Anda masukkan untuk menyempurnakan model. Hal ini menimbulkan risiko bahwa informasi rahasia Anda secara tidak langsung akan masuk ke "memori" model dan bocor ke orang lain.
3. Risiko agregasi: Potongan-potongan informasi yang tampaknya tidak berbahaya jika digabungkan dapat membentuk gambaran yang sensitif. Potongan-potongan kecil informasi yang dimasukkan pada waktu yang berbeda secara kolektif dapat memberikan suatu posisi rahasia.
4. Risiko akses dan pelanggaran: Seperti sistem eksternal lainnya, layanan AI dapat mengalami pelanggaran data. Data yang Anda berikan mungkin terekspos dalam pelanggaran tersebut.
Solusi terhadap risiko-risiko ini adalah dengan membangun dua dunia yang terpisah: alat umum untuk pekerjaan open source; Hanya sistem internal, aman, dan disetujui yang tidak mengekspor data untuk pekerjaan rahasia. Jangan pernah mencampur keduanya.
Perhatian: Mengatakan "Saya membuatnya anonim" sering kali tidak cukup. Sekalipun Anda menghapus nama-nama tersebut, konteksnya (tanggal, lokasi, peristiwa, jumlah pihak) mungkin cukup bagi seorang ahli untuk menyunting identitas dan posisinya. Informasi sensitif yang sebenarnya dilindungi bukan dengan penyembunyian, namun dengan pemilihan alat dan media yang tepat.
Disiplin penggunaan yang aman
Siapkan alur kontrol praktis:
- Tentukan kelasnya. Apakah data ini bersifat publik, internal, rahasia, atau sangat rahasia?
- Pasangkan kendaraan. Bisakah kelas ini diproses di alat ini? Jika tidak, berhentilah.
- Kebijakan data minimum. Bahkan pada pekerjaan yang bisa dilakukan, jangan memberikan informasi lebih dari yang dibutuhkan pekerjaan tersebut.
- Lindungi data pribadi. Data pribadi (nama, kontak, lokasi) diproses hanya jika diperlukan dan berdasarkan hukum; Jika tidak perlu, ditutup-tutupi atau tidak diberikan sama sekali.
- Simpan catatannya. Dokumentasikan alat apa yang Anda gunakan untuk pekerjaan apa, dengan data apa; Kalau ada masalah bisa ditelusuri.
Tip: Ciptakan budaya "mengutamakan privasi" di tim Anda: petugas atau pekerja magang baru harus mempelajari refleks "tidak ada dokumen rahasia yang masuk ke domain publik" sejak hari pertama. Sebagian besar pelanggaran bukan berasal dari niat jahat, melainkan karena ketidaktahuan seberapa terbuka suatu kendaraan.
tiga kasus mini
Kasus 1 — Refleks mencegah pelanggaran. Seorang ahli hendak merangkum sebuah catatan wawancara ketika dia berhenti dan menanyakan klasifikasinya: catatan tersebut adalah percakapan rahasia dengan lawan bicaranya. Beralih ke sistem aman internal dan bukan alat publik. Refleks sederhana "tanyakan kelas dulu" mencegah pelanggaran.
Kasus 2 — Risiko penagihan diakui. Sebuah tim akan memasukkan informasi kecil yang tampaknya “tidak berbahaya” ke dalam alat eksternal pada hari yang berbeda. Tinjauan keamanan menunjukkan bahwa ketika digabungkan, bagian-bagian ini memberikan agenda negosiasi yang akan datang. Aplikasi telah dihentikan; Pekerjaan dipindahkan ke lingkungan yang aman.
Kasus 3 — Anonimitas palsu. Seorang petugas menganggap dokumen tersebut "anonim" karena dia telah menghapus nama dan menyerahkannya kepada agen luar. Namun, keterangan tanggal, tempat, dan peristiwa dalam dokumen tersebut sudah memperjelas siapa yang dimaksud. Menghapus nama saja tidak cukup; Dokumen tersebut seharusnya diproses di lingkungan yang aman.
Empat templat yang dapat disalin
1) Pemeriksaan awal kelas dan kendaraan:
Saya akan menjelaskan pekerjaannya di bawah ini. Beri tahu saya (jangan lakukan itu): (1) kelas sensitivitas apa yang mungkin dimiliki data ini (publik / internal / rahasia / sangat rahasia), (2) apakah kelas ini harus diproses dalam alat AI publik, (3) jika tidak, jenis lingkungan apa yang diperlukan. Deskripsi pekerjaan/data: [di sini]
2) Pemindaian dan penyembunyian data pribadi:
Cantumkan data pribadi/sensitif (nama, jabatan, kontak, lokasi, kesehatan, nomor ID) yang harus disembunyikan sebelum diproses pada teks di bawah ini. PENGOLAHAN TEKS; Katakan saja pada saya area mana yang perlu dihilangkan. Saya akan melakukan masking dan mengirim ulang. Teks: [di sini]
3) Penilaian risiko penagihan:
Saya sedang mempertimbangkan untuk mengekspor informasi berikut secara terpisah ke alat eksternal: [potongan]. Meskipun hal-hal tersebut mungkin tampak tidak berbahaya jika digabungkan, apakah hal-hal tersebut dapat menciptakan gambaran yang sensitif (misalnya posisi, agenda, identitas)? Kaji risiko pengumpulannya dan beri tahu barang mana yang tidak boleh diberikan bersamaan.
4) Konfirmasi ketersediaan publik:
Saya tidak yakin apakah informasi berikut ini bersifat publik: [informasi]. Cantumkan verifikasi apa yang perlu saya lakukan sebelum dianggap publik (apakah ada rilis resmi, siapa yang menerbitkannya, tanggal). Jika saya tidak yakin, ingatkan saya tentang prinsip "perlakukan sebagai rahasia".
Perintah lemah / Perintah kuat
Perintah yang lemah:
Ringkaslah catatan wawancara ini. (konten tersembunyi ditempelkan langsung ke catatan)
Ini adalah kesalahan paling berbahaya: sebuah dokumen rahasia telah memasuki media publik tanpa dipertanyakan kelasnya. Risiko kebocoran telah terjadi dan tidak dapat dibatalkan.
Prompt yang kuat (periksa dulu):
Saya ingin memproses catatan rapat. Tapi pertama-tama: catatan ini mungkin ada di kelas rahasia. Beri tahu saya apakah dokumen jenis ini dapat diproses di alat publik dan bagaimana cara yang benar? SAYA TIDAK MEMBERIKAN ISI DOKUMEN KEPADA ANDA; Saya hanya menanyakan proses yang benar.
Perbedaannya jelas: konten rahasia tidak diberikan sama sekali, proses yang benar ditanyakan terlebih dahulu dan pekerjaan diarahkan pada lingkungan yang sesuai.
Tabel pemetaan kelas-ke-kendaraan
kelas informasi
contoh
AI publik
lingkungan yang tepat
publik
siaran pers
cocok
alat umum
Khusus internal/layanan
catatan batin
Biasanya tidak
Disetujui secara internal
rahasia
posisi negosiasi
tidak pernah
Sistem institusi yang aman
sangat rahasia
kecerdasan sensitif
tidak pernah
keamanan tertinggi
data pribadi
kredensial
Hanya diperlukan+legal
Bertopeng/aman
Kesalahan umum
- Memasukkan data tanpa menanyakan kelas. Sebelum setiap pekerjaan, refleks "di kelas mana ini?" adalah suatu keharusan.
- Dengan asumsi "itu mungkin sudah jelas". Informasi yang tidak pasti dilindungi sebagai rahasia.
- Salah mengira penghapusan nama sebagai anonimisasi. Konteks dapat memberikan identitas.
- Mengabaikan risiko pengumpulan. Bagian-bagian kecil bisa menjadi rumit saat dirakit.
- Mencampur dua dunia. Pekerjaan terbuka dan rahasia dijalankan di alat/lingkungan terpisah.
Singkatnya
Kerahasiaan adalah batasan paling kritis dalam penggunaan AI secara diplomatis. Ambil klasifikasi informasi (publik/internal/rahasia/sangat rahasia), refleks "kelas tanya, cocokkan kendaraan", prinsip data minimum, perlindungan data pribadi, dan risiko pengumpulan sebagai tulang punggung unit ini. Alat umum untuk pekerjaan sumber terbuka; Gunakan hanya sistem internal yang aman dan disetujui untuk pekerjaan rahasia. Jangan pernah bingung membedakan keduanya; Jika ragu, jagalah informasi seperti seorang senior.
Tugas aplikasi
Buat daftar 8 bagian data berbeda dari meja Anda sendiri (atau imajiner) (sebagian bersifat publik, sebagian sensitif). Tempatkan masing-masing di kelas dan putuskan "di alat mana hal itu dapat diproses". Evaluasi hal-hal yang ambigu dengan templat "Pemeriksaan awal kelas dan kendaraan". Pilih tiga bagian dan periksa apakah ketiga bagian tersebut membentuk gambaran sensitif bila digabungkan dengan “penilaian risiko pengumpulan”.
daftar periksa
- [ ] Saya terlebih dahulu menentukan kelas sensitivitas untuk setiap data.
- Saya tidak pernah memasukkan data yang kelas [ ]nya tidak sesuai untuk kendaraan umum.
- [ ] Saya menjaga informasi yang saya tidak yakin seperti atasan.
- [ ] Saya memproses data pribadi hanya jika diperlukan dan sah, dengan kedok.
- [ ] Saya mengambil risiko mengumpulkan dan memisahkan dua dunia.