Keuntungan:
- Keupayaan untuk menilai maklumat mengikut kelas sensitiviti (awam / dalaman / sulit / rahsia besar) dan menggunakan refleks 'kelas tanya, padankan alat'
- Memahami penyimpanan data, latihan model, pengumpulan dan risiko pelanggaran AI dan memastikan dunia terbuka dan terperingkat berasingan
- Keupayaan untuk menerima pakai prinsip data minimum, perlindungan data peribadi dan disiplin melindungi maklumat yang tidak pasti seolah-olah ia adalah kelas yang lebih tinggi.
Diplomasi adalah berdasarkan kepercayaan, dan kepercayaan adalah berdasarkan kerahsiaan. Kedudukan rundingan, penilaian perisikan, kandungan perbualan dengan rakan bicara, atau keputusan yang belum diumumkan, di tangan yang salah, boleh menjejaskan kepentingan negara, hasil rundingan, malah keselamatan orang ramai. Kecerdasan buatan membawa kelajuan yang luar biasa kepada bidang ini, tetapi ia juga membawa risiko privasi baharu dan serius. Dalam unit ini, anda akan belajar cara melindungi maklumat terperingkat dan sensitif pada zaman kecerdasan buatan, data yang boleh memasuki kenderaan mana, dan disiplin penggunaan selamat.
Unit ini ialah pelajaran keselamatan yang paling kritikal bagi modul. Satu kesilapan di sini — menampal dokumen sulit ke dalam alat yang salah — tidak boleh dipulihkan. Oleh itu, refleks yang perlu dihafal akan diwujudkan di sini: Sebelum memberikan sebarang data kepada alat AI, sentiasa tanya: dalam kelas apakah data ini dan adakah alat ini diluluskan untuk kelas ini?
Klasifikasi maklumat: perbezaan asas
Maklumat diplomatik sering dikelaskan mengikut sensitivitinya. Walaupun ia berbeza dari institusi ke institusi, logik asasnya ialah:
- Tidak dikelaskan/awam: Maklumat yang telah diterbitkan dan boleh diakses secara umum. Contoh: siaran akhbar rasmi, berita awam.
- Terhad/dalaman: Maklumat dalaman yang tidak tersedia secara umum tetapi mempunyai sensitiviti yang rendah.
- Sulit: Maklumat yang pendedahannya boleh membahayakan kepentingan negara dengan serius. Contoh: kedudukan rundingan, penilaian dalaman.
- Rahsia utama: Maklumat yang pendedahannya akan menyebabkan kemudaratan yang paling serius. Contoh: perisikan sensitif, maklumat keselamatan kritikal.
Peraturan praktikalnya mudah: Tiada maklumat terperingkat yang tidak tersedia secara umum akan dimasukkan ke dalam alat AI yang tidak diluluskan oleh institusi anda untuk kelas itu. Perkhidmatan AI awam, mengikut definisi, tidak diperakui untuk kelas maklumat ini.
Petua: Jika anda tidak pasti, layan maklumat seperti orang tua. Mengatakan "ini mungkin sudah diketahui" adalah tekaan berbahaya. Sehingga anda 100 peratus pasti bahawa maklumat itu terbuka, lindungi ia seolah-olah ia sulit. Berhati-hati yang tidak perlu bukanlah kos, ia adalah jaminan.
Risiko privasi AI
Alat AI menimbulkan risiko privasi yang berbeza daripada perisian tradisional:
1. Pemprosesan dan penyimpanan data: Teks yang anda tulis kepada perkhidmatan AI awam mungkin diproses dan disimpan pada pelayan perkhidmatan tersebut. Anda tidak boleh mengawal siapa yang mengaksesnya, berapa lama ia disimpan dan cara ia digunakan.
2. Gunakan dalam latihan model: Sesetengah perkhidmatan mungkin menggunakan data yang anda masukkan untuk menambah baik model. Ini menimbulkan risiko bahawa maklumat sulit anda secara tidak langsung akan memasuki "ingatan" model dan bocor kepada orang lain.
3. Risiko pengagregatan: Cebisan maklumat yang kelihatan tidak berbahaya secara individu boleh membentuk gambaran sensitif apabila digabungkan. Cebisan kecil maklumat yang dimasukkan pada masa yang berbeza secara kolektif boleh memberikan kedudukan rahsia.
4. Risiko akses dan pelanggaran: Seperti mana-mana sistem luaran, perkhidmatan AI boleh tertakluk kepada pelanggaran data. Data yang anda berikan mungkin terdedah dalam pelanggaran itu.
Penyelesaian kepada risiko ini adalah untuk mewujudkan dua dunia yang berasingan: alat umum untuk kerja sumber terbuka; Hanya sistem dalaman, selamat dan diluluskan yang tidak mengeksport data untuk kerja sulit. Jangan sesekali campurkan kedua-duanya.
Perhatian: Menyebut "Saya menjadikannya tanpa nama" selalunya tidak mencukupi. Walaupun anda memadamkan nama, konteks (tarikh, lokasi, acara, bilangan pihak) mungkin mencukupi untuk pakar menyunting identiti dan kedudukan. Maklumat sensitif sebenar dilindungi bukan dengan menutup tetapi dengan pemilihan alat dan media yang sesuai.
Disiplin penggunaan yang selamat
Sediakan aliran kawalan praktikal:
- Tentukan kelas. Adakah data ini awam, dalaman, sulit atau rahsia?
- Pasangkan kenderaan. Bolehkah kelas ini diproses dalam alat ini? Jika tidak, berhenti.
- Dasar data minimum. Walaupun pada pekerjaan yang boleh dilaksanakan, jangan berikan lebih banyak maklumat daripada yang diperlukan oleh pekerjaan itu.
- Lindungi data peribadi. Data peribadi (nama, kenalan, lokasi) diproses hanya jika perlu dan berdasarkan undang-undang; Jika tidak perlu, ia bertopeng atau tidak diberikan langsung.
- Simpan rekod. Dokumen alat yang anda gunakan untuk kerja mana, dengan data mana; Jika ada masalah, ia boleh dikesan.
Petua: Wujudkan budaya "privasi didahulukan" dalam pasukan anda: seorang kerani atau pelatih baharu harus mempelajari refleks "tiada dokumen sulit memasuki domain awam" dari hari pertama. Kebanyakan pelanggaran bukan berpunca daripada niat jahat tetapi tidak mengetahui sejauh mana kenderaan itu terbuka.
tiga kes mini
Kes 1 — Refleks menghalang pelanggaran. Seorang pakar hendak meringkaskan nota temu bual apabila dia berhenti dan bertanya klasifikasinya: nota itu adalah perbualan sulit dengan teman bicara. Beralih kepada sistem selamat dalaman dan bukannya alat awam. Refleks mudah "tanya kelas dahulu" menghalang pelanggaran.
Kes 2 — Risiko kutipan diiktiraf. Satu pasukan akan memasukkan cebisan kecil, yang kelihatan "tidak berbahaya" ke dalam alat luaran pada hari yang berbeza. Kajian keselamatan menunjukkan bahawa apabila digabungkan, bahagian ini memberikan agenda rundingan yang akan datang. Permohonan telah dihentikan; Kerja itu dipindahkan ke persekitaran yang selamat.
Kes 3 — Tanpa nama palsu. Seorang kerani menganggap dokumen "tanpa nama" kerana dia telah memadamkan nama dan menyerahkannya kepada ejen luar. Walau bagaimanapun, tarikh, tempat dan perihalan peristiwa dalam dokumen menjelaskan siapa yang dimaksudkan. Memadamkan nama itu tidak mencukupi; Dokumen itu sepatutnya telah diproses dalam persekitaran yang selamat.
Empat templat yang boleh disalin
1) Pra-semakan kelas dan kenderaan:
Saya akan menerangkan kerja di bawah. Beritahu saya (jangan buat kerja): (1) apakah kelas sensitiviti yang mungkin ada pada data ini (awam / dalaman / rahsia / rahsia besar), (2) sekiranya kelas ini diproses dalam alat AI awam, (3) jika tidak, jenis persekitaran yang diperlukan. Perihalan kerja/data: [di sini]
2) Pengimbasan dan penyamaran data peribadi:
Senaraikan data peribadi/sensitif (nama, tajuk, kenalan, lokasi, kesihatan, nombor ID) yang mesti ditutup sebelum diproses dalam teks di bawah. MEMPROSES TEKS; Beritahu saya kawasan mana yang perlu dialih keluar. Saya akan melakukan topeng dan menghantar semula. Teks: [di sini]
3) Penilaian risiko kutipan:
Saya sedang mempertimbangkan untuk mengeksport cebisan maklumat berikut secara berasingan ke alat luaran: [pieces]. Walaupun ini mungkin kelihatan tidak berbahaya secara individu, apabila GABUNGAN ia boleh mencipta gambar sensitif (cth. jawatan, agenda, identiti)? Menilai risiko pengumpulan dan beritahu item yang tidak boleh diberikan bersama.
4) Pengesahan ketersediaan awam:
Saya tidak pasti sama ada maklumat berikut adalah umum: [maklumat]. Senaraikan pengesahan yang perlu saya lakukan sebelum menganggapnya awam (adakah terdapat keluaran rasmi, siapa yang menerbitkannya, tarikh). Jika saya tidak pasti, ingatkan saya tentang prinsip "layan sebagai sulit".
Gesaan lemah / Gesaan kuat
Gesaan yang lemah:
Ringkaskan nota temu bual ini. (kandungan tersembunyi ditampal terus ke dalam nota)
Ini adalah kesilapan yang paling berbahaya: dokumen sulit telah memasuki medium awam tanpa kelasnya dipersoalkan. Risiko kebocoran telah berlaku dan tidak boleh diterbalikkan.
Gesaan berkuasa (semak dahulu):
Saya ingin memproses nota mesyuarat. Tetapi pertama: nota ini mungkin dalam kelas rahsia. Beritahu saya jika dokumen jenis ini boleh diproses dalam alat awam dan apakah cara yang betul? SAYA TIDAK MEMBERIKAN KANDUNGAN DOKUMEN KEPADA ANDA; Saya hanya meminta proses yang betul.
Perbezaannya jelas: kandungan sulit tidak diberikan sama sekali, proses yang betul ditanya terlebih dahulu dan kerja diarahkan ke persekitaran yang sesuai.
Jadual pemetaan kelas ke kenderaan
kelas maklumat
contoh
AI awam
persekitaran yang betul
awam
kenyataan akhbar
sesuai
alat am
Khusus dalaman/perkhidmatan
nota dalaman
Biasanya tidak
Diluluskan dalaman
rahsia
kedudukan rundingan
tidak pernah
Sistem institusi yang selamat
rahsia besar
kecerdasan sensitif
tidak pernah
keselamatan tertinggi
data peribadi
kelayakan
Perlu+undang-undang sahaja
Bertopeng/terlindung
Kesilapan biasa
- Memasukkan data tanpa meminta kelas. Sebelum setiap kerja, refleks "kelas mana ini?" adalah satu kemestian.
- Dengan mengandaikan "ia mungkin jelas". Maklumat yang tidak pasti dilindungi sebagai sulit.
- Tersilap pemadaman nama sebagai anonimisasi. Konteks boleh memberikan identiti.
- Mengabaikan risiko pengumpulan. Bahagian kecil boleh menjadi halus apabila dipasang.
- Mencampur dua dunia. Pekerjaan terbuka dan terperingkat dijalankan dalam alatan/persekitaran yang berasingan.
Secara ringkasnya
Kerahsiaan ialah had paling kritikal penggunaan AI diplomatik. Ambil klasifikasi maklumat (awam/dalaman/sulit/rahsia besar), refleks "kelas tanya, kenderaan padan", prinsip data minimum, perlindungan data peribadi dan risiko pengumpulan sebagai tulang belakang unit ini. Alat am untuk kerja sumber terbuka; Gunakan hanya sistem yang selamat dan diluluskan dalaman untuk kerja terperingkat. Jangan sekali-kali mengelirukan kedua-duanya; Apabila ragu-ragu, jaga maklumat seperti seorang senior.
Tugasan permohonan
Senaraikan 8 keping data berbeza dari meja anda sendiri (atau khayalan) (sesetengah awam, sesetengahnya sensitif). Letakkan setiap satu dalam kelas dan tentukan "di mana alat boleh diproses". Nilaikan yang tidak jelas dengan templat "Kelas dan pra-semak kenderaan". Pilih tiga keping dan periksa sama ada ia membentuk gambar sensitif apabila digabungkan dengan "penilaian risiko pengumpulan".
senarai semak
- [ ] Saya mula-mula menentukan kelas sensitiviti untuk setiap data.
- Saya tidak pernah memasukkan data yang kelas [ ]nya tidak sesuai untuk kenderaan awam.
- [ ] Saya menjaga maklumat yang saya tidak pasti seperti seorang atasan.
- [ ] Saya memproses data peribadi hanya apabila perlu dan sah, bertopeng.
- [ ] Saya mengambil risiko mengumpul dan pemisahan dua dunia.