Keuntungan:
- Memahami logika berbasis risiko dari UU AI UE (tidak dapat diterima, tinggi, terbatas, minimum) dan kewajiban sistem berisiko tinggi
- Kemampuan untuk mendeteksi pemrosesan data pribadi, batasan tujuan, pengungkapan dan risiko transfer internasional dalam hal KVKK dalam penggunaan kecerdasan buatan
- Kemampuan untuk melakukan pra-evaluasi terhadap keluaran kecerdasan buatan tanpa menganggapnya sebagai nasihat hukum yang pasti dan menyertakan data pribadi dan dukungan hukum dalam inisiatif berisiko tinggi.
Etika menggambarkan “apa yang benar”; Sebaliknya, kepatuhan menggambarkan apa yang “diwajibkan oleh hukum” dan pelanggaran terhadap hal tersebut akan mengakibatkan hukuman, tuntutan hukum, dan hilangnya reputasi. Bagi seorang eksekutif senior, kepatuhan adalah masalah tanggung jawab hukum pribadi; "Saya tidak tahu" bukanlah pembelaan. Dalam unit ini, kita akan membahas dua peraturan paling penting untuk kecerdasan buatan: Undang-Undang Kecerdasan Buatan UE (EU AI Act; undang-undang komprehensif Uni Eropa yang mengatur kecerdasan buatan sesuai dengan tingkat risikonya) dan KVKK (Undang-undang Perlindungan Data Pribadi; undang-undang perlindungan data pribadi di Türkiye serupa dengan GDPR di Eropa). Tujuannya bukan untuk menjadi pengacara; Mengetahui kapan harus berhenti dan mendapatkan dukungan hukum serta menghindari risiko buta.
Dasar Pemikiran Hukum AI UE: berbasis risiko
Undang-undang AI UE membagi sistem kecerdasan buatan menjadi empat kategori sesuai dengan tingkat risikonya dan memberlakukan kewajiban berbeda pada setiap kategori. Meskipun tidak diterapkan secara langsung di Türkiye; Ini mengikat institusi yang menjual produk/layanan ke UE, memiliki pelanggan UE atau memproses data pengguna UE, dan menjadi standar dunia.
Tingkat risiko
contoh
tanggung jawab
tidak dapat diterima
Penilaian sosial, sistem manipulatif
terlarang
risiko tinggi
Perekrutan, kredit, layanan kesehatan, infrastruktur penting
Ketat: manajemen risiko, kualitas data, pengawasan manusia, pencatatan, transparansi
risiko terbatas
Chatbot, konten produktif
Transparansi: memberi tahu pengguna bahwa itu adalah AI
risiko minimal
Filter spam, permainan
Praktik baik yang gratis dan sukarela
Istilah penting: sistem berisiko tinggi adalah penerapan kecerdasan buatan yang dapat secara langsung mempengaruhi hak-hak dasar masyarakat, keselamatan atau peluang hidup (pekerjaan, kredit, pendidikan, kesehatan). Hukum untuk sistem ini adalah; Hal ini mewajibkan penilaian risiko, data yang berkualitas dan tidak memihak, pengawasan manusia, dokumentasi teknis, pencatatan dan transparansi.
Tip: Saat mengevaluasi inisiatif AI, tanyakan pada diri Anda: “Apakah sistem ini terlibat dalam pengambilan keputusan yang memengaruhi pekerjaan, uang, kesehatan, atau kebebasan seseorang?” Jika jawabannya ya, kemungkinan besar berisiko tinggi dan memerlukan ketekunan khusus dengan dukungan hukum.
Kewajiban pokok KVKK
KVKK mengatur pemrosesan data pribadi (informasi apa pun yang membuat seseorang menjadi spesifik atau dapat diidentifikasi: nama, TR ID, email, lokasi, bahkan data perilaku). Poin-poin penting dalam hal kecerdasan buatan:
- Dasar hukum: Alasan yang sah (persetujuan eksplisit, kontrak, kepentingan sah, dll.) diperlukan untuk memproses data pribadi.
- Batasan tujuan: Data tidak dapat digunakan untuk tujuan selain tujuan pengumpulannya. Memasukkan data yang dikumpulkan untuk suatu tujuan ke dalam pelatihan kecerdasan buatan mungkin memerlukan dukungan tambahan.
- Minimalkan data: Hanya data sebanyak yang diperlukan saja yang diproses.
- Pengungkapan: Yang bersangkutan harus diberitahu tentang bagaimana datanya diproses.
- Transfer: Transfer data ke luar negeri (misalnya, ke penyedia kecerdasan buatan di luar negeri) tunduk pada aturan khusus.
- Keputusan otomatis: Hak untuk menolak keputusan yang sepenuhnya otomatis mempengaruhi seseorang harus dihormati.
Menempelkan data pelanggan ke alat AI sering kali berarti “transfer data ke luar negeri” dan “pemrosesan yang tidak disengaja”; Ini merupakan pelanggaran kepatuhan yang paling umum dan paling berbahaya.
Langkah demi langkah: pemeriksaan kecocokan
1. Menentukan tingkat risiko. Sistem manakah yang berisiko tidak dapat diterima/tinggi/terbatas/minimum?
2. Periksa apakah ada data pribadi. Data pribadi mana yang dibawa ke mana, atas dasar apa?
3. Sesuaikan kewajiban. Buat daftar persyaratan hukum berdasarkan tingkat risiko dan status data.
4. Dapatkan dukungan hukum. Melibatkan hukum dalam setiap inisiatif yang berisiko tinggi atau melibatkan data pribadi.
5. Dokumentasikan dan pantau. Catat keputusan kepatuhan, pengungkapan dan inspeksi.
tiga kasus mini
Kasus 1 — Transfer senyap ke luar negeri. Sebuah pengecer mengirimkan data ke alat AI yang berbasis di luar negeri untuk menganalisis keluhan pelanggan. Teks klarifikasi tidak membahas hal ini, tidak ada dasar pemindahan. Telah terjadi pelanggaran dari segi KVKK; Ada risiko denda administratif selama audit. Lembaga tersebut beralih ke solusi yang memproses data di dalam negeri dan memperbarui pencahayaan.
Kasus 2 — Ketatnya sistem berisiko tinggi. Sebuah perusahaan teknologi sumber daya manusia menjual perangkat lunak perekrutan ke AB. Hal ini dianggap "berisiko tinggi" dalam UU AI UE. Perusahaan memasuki pasar dengan lancar karena telah mempersiapkan manajemen risiko, bukti kualitas data, pengawasan manusia, dan dokumentasi terlebih dahulu. Akses pesaing yang tidak siap tertunda karena tidak dapat memenuhi kewajiban yang sama. Harmoni berubah menjadi keunggulan kompetitif.
Kasus 3 — Kekuatan pencahayaan. Sebuah perusahaan asuransi dengan jelas memberikan pencerahan kepada pelanggan ketika menentukan harga dengan kecerdasan buatan dan membuka jalan bagi keberatan terhadap keputusan yang sepenuhnya otomatis. Pelanggan keberatan, ditinjau oleh manusia, dan kesalahan data diperbaiki. Transparansi dan daya tarik tidak hanya memenuhi persyaratan hukum tetapi juga benar-benar melakukan kesalahan.
Empat templat yang dapat disalin
1) Pengendalian awal klasifikasi risiko:
Peran Anda: penasihat kepatuhan AI (penilaian awal, bukan nasihat hukum). Klasifikasikan sistem berikut menurut tingkat risiko UU AI UE: tidak dapat diterima, tinggi, terbatas, minimal. Tuliskan alasan Anda dan kewajiban utama apa yang akan timbul; Nyatakan bahwa dukungan hukum diperlukan untuk pengambilan keputusan akhir. Sistem: [teks]
2) Peta aliran data pribadi:
Dalam penggunaan kecerdasan buatan ini, petakan data pribadi mana yang diproses, untuk tujuan apa dikumpulkan, dan ke mana data tersebut ditransfer (terutama ke luar negeri). Tandai titik-titik risiko dalam kaitannya dengan KVKK dan tunjukkan masalah mana yang memerlukan dukungan hukum. Penggunaan: [teks]
3) Kontrol pencahayaan dan objek:
Periksa klarifikasi KVKK dan persyaratan keberatan keputusan otomatis untuk kecerdasan buatan yang dihadapi pelanggan: apa yang harus diberitahukan kepada pengguna, bagaimana cara memproses keberatan? Buat daftar kekurangannya. Penggunaan: [teks]
4) Daftar periksa kesiapan kepatuhan:
Buat daftar periksa kesiapan kepatuhan UU AI UE untuk inisiatif AI berisiko tinggi berikut: manajemen risiko, kualitas data, pengawasan manusia, dokumentasi, registrasi, transparansi. Tulis pertanyaan untuk setiap item yang dapat saya evaluasi sebagai "siap/tidak lengkap". Inisiatif: [teks]
Perintah lemah / Perintah kuat
Lemah: “Apakah AI ini legal?”
Hasilnya: Respons yang dangkal dan tidak dapat diandalkan; AI tidak dapat dan tidak seharusnya memberikan nasihat hukum yang pasti.
Güçlü: "Saya sedang mengevaluasi alat pra-penyaringan rekrutmen yang dijual kepada pelanggan di UE. Klasifikasikan terlebih dahulu sesuai dengan tingkat risiko Hukum AI UE dan buat daftar kewajiban apa (manajemen risiko, kualitas data, pengawasan manusia, dokumentasi) yang akan timbul jika dianggap berisiko tinggi. Selain itu, dalam kaitannya dengan KVKK, ajukan pertanyaan yang perlu saya tanyakan, data kandidat mana yang diproses dan bagaimana caranya. Nyatakan bahwa ini adalah evaluasi awal, hukum diperlukan untuk keputusan akhir."
Hasil: Penilaian awal yang terstruktur dan persiapan dukungan hukum; bukan klausa "legal/tidak" yang buta.
Kesalahan umum
- Mengharapkan nasihat hukum yang pasti dari AI. Kecerdasan buatan membuat penilaian awal; Keputusan hukum akhir ada di tangan pengacara.
- Mengabaikan transfer data ke luar negeri. Memasukkan data pelanggan ke alat AI eksternal sering kali merupakan pelanggaran kepatuhan.
- Meremehkan sistem berisiko tinggi. Sistem yang terlibat dalam keputusan bisnis, kredit dan kesehatan memerlukan perhatian khusus.
- Mengabaikan hak atas informasi dan keberatan. Transparansi dan daya tarik merupakan persyaratan hukum untuk pengambilan keputusan otomatis yang memengaruhi individu.
- Berpikir bahwa keharmonisan hanya terjadi satu kali saja. Perundang-undangan dan sistem berubah; Kepatuhan harus terus dipantau.
Perhatian: Informasi dalam unit ini ditujukan untuk kesadaran umum dan bukan merupakan nasihat hukum. Keluaran kecerdasan buatan juga bukan merupakan nasihat hukum. Dalam inisiatif apa pun yang memproses data pribadi atau berisiko tinggi, wajib berkonsultasi dengan ahli hukum yang berkualifikasi sebelum mengambil keputusan. Kerugian akibat pelanggaran kepatuhan meningkat secara eksponensial dalam bentuk denda, tuntutan hukum, dan hilangnya reputasi.
Singkatnya
Kepatuhan adalah persyaratan minimum yang diwajibkan oleh undang-undang, dan pelanggarannya membebankan tanggung jawab hukum pada manajer. UU AI UE mengatur AI berdasarkan tingkat risiko (tidak dapat diterima, tinggi, terbatas, minimal); Manajemen risiko, kualitas data, pengawasan manusia, dan transparansi sangat penting untuk sistem berisiko tinggi. KVKK, sebaliknya, mewajibkan data pribadi untuk mematuhi dasar hukum, batasan tujuan, minimalisasi, pengungkapan, dan aturan transfer internasional; Memasukkan data pelanggan ke dalam alat AI eksternal adalah pelanggaran paling umum. AI hanya dapat melakukan penilaian awal; Dukungan ahli harus diperoleh untuk mengambil keputusan hukum yang pasti. Pada unit selanjutnya, kita akan membahas tim dan struktur kompetensi yang akan menerapkan keseluruhan strategi ini.
Tugas aplikasi
Pilih kasus penggunaan AI. 1. Klasifikasikan terlebih dahulu tingkat risiko UU AI UE dengan templat. 2. Petakan aliran data pribadi dengan template dan tentukan apakah ada transfer internasional. Tuliskan dua pertanyaan kepatuhan paling penting yang muncul dan catat sumber/pakar hukum mana yang akan Anda tuju. Tidak membuat keputusan hukum yang pasti; hanya memperjelas pertanyaannya.
daftar periksa
- [ ] Saya telah mengklasifikasikan terlebih dahulu tingkat risiko sistem UU AI UE.
- [ ] Jika risikonya tinggi, saya telah mencantumkan kewajiban yang relevan.
- [ ] Saya memetakan data pribadi yang diproses dan dasarnya.
- [ ] Saya memeriksa apakah ada transfer data ke luar negeri.
- [ ] Saya telah meninjau persyaratan informasi dan hak untuk menolak.
- [ ] Saya menyiapkan pertanyaan kepatuhan penting untuk dukungan hukum.
- [ ] Saya tidak menganggap keluaran AI sebagai nasihat hukum yang pasti.