Keuntungan:
- Mengakui empat kelas risiko dan praktik terlarang dalam UU AI UE
- Evaluasi yang masuk akal mengenai kategori risiko mana yang termasuk dalam suatu penggunaan
- Pahami mengapa kewajiban AI yang berisiko tinggi dan bertujuan umum berdampak pada perusahaan-perusahaan Turki
Undang-Undang Kecerdasan Buatan UE (EU AI Act), yang mulai berlaku pada tahun 2024, merupakan peraturan AI komprehensif pertama di dunia dan dampaknya jauh melampaui batas-batas Uni Eropa. Undang-undang ini mungkin mengikat secara langsung bagi perusahaan yang berbasis di Türkiye tetapi melayani pasar UE, memiliki pelanggan UE, atau menjual produk ke UE. Dalam unit ini, Anda akan mempelajari logika dasar undang-undang — pendekatan berbasis risiko — dengan empat kelasnya, praktik yang dilarang, dan kewajiban berisiko tinggi; Kami akan mencoba mengevaluasi kotak mana yang termasuk dalam penggunaan.
Ide dasarnya: semakin tinggi risikonya, semakin ketat aturannya
Undang-undang AI UE tidak menyatukan semua AI. Ini membagi sistem kecerdasan buatan menjadi empat kategori sesuai dengan potensi bahayanya dan menerapkan kewajiban yang berbeda pada setiap kategori. Rekomendasi musik tidak memiliki risiko yang sama dengan sistem penyaringan perekrutan; Undang-undang tidak menerapkan aturan yang sama kepada mereka. Pendekatan berbasis risiko ini merupakan tulang punggung hukum.
Kelas risiko
Artinya
contoh
aturan
Dilarang (tidak dapat diterima)
Ancaman terbuka terhadap hak-hak dasar
Penilaian sosial, manipulasi bawah sadar
larangan total
risiko tinggi
Hal ini sangat berdampak pada kehidupan manusia
Perekrutan, kredit, perawatan kesehatan, pendidikan, infrastruktur penting
Tanggung jawab yang ketat
risiko terbatas
Membutuhkan transparansi
Bot obrolan, deepfake, konten AI
Informasi itu wajib
risiko minimal
Resiko yang tidak signifikan
Filter spam, AI game, mesin rekomendasi
gratis
Aplikasi yang dilarang: garis merah
Beberapa penggunaan AI dianggap sangat berbahaya sehingga tidak dapat dilepaskan, tidak peduli seberapa besar risikonya dikurangi. Ini termasuk dalam kategori terlarang (risiko yang tidak dapat diterima):
- Penilaian sosial yang didukung negara (menilai orang berdasarkan perilaku/karakteristiknya dan merugikan mereka).
- Sistem yang memanipulasi alam bawah sadar manusia dan menimbulkan kerugian.
- Sistem yang mengeksploitasi kerentanan seperti usia dan kecacatan.
- Identifikasi biometrik real-time tertentu dan aplikasi pengawasan massal (dengan pengecualian sempit).
- Aplikasi khusus seperti pengenalan emosi di tempat kerja dan pendidikan.
Perhatian: Fakta bahwa suatu penggunaan masuk dalam kategori “dilarang” bukanlah suatu kendala yang dapat diatasi dengan mengatakan “Saya mempunyai alasan yang kuat”. Praktik-praktik ini sepenuhnya dilarang; tidak dapat dilepaskan bahkan dengan langkah-langkah pengurangan risiko. Pemeriksaan pertama yang harus dilakukan adalah apakah proyek tersebut termasuk dalam daftar ini.
Kewajiban berisiko tinggi
Sistem berisiko tinggi tidak dilarang tetapi tunduk pada persyaratan yang ketat. Bidang-bidang yang umumnya berisiko tinggi: rekrutmen dan manajemen karyawan, kredit dan asuransi, pendidikan dan penilaian ujian, layanan kesehatan, infrastruktur penting, penegakan hukum dan imigrasi. Kewajiban umum dalam sistem ini:
- Membangun dan memelihara sistem manajemen risiko.
- Kualitas data dan manajemen bias (data pelatihan yang representatif dan akurat).
- Dokumentasi teknis dan pencatatan (kemampuan penelusuran).
- Transparansi dan pemberian informasi kepada pengguna.
- Kontrol manusia (kemampuan manusia untuk mengintervensi dan mengesampingkan).
- Akurasi, ketahanan dan jaminan keamanan siber.
Kewajiban AI tujuan umum (GPAI).
Undang-undang ini memberlakukan kewajiban transparansi dan dokumentasi khusus pada model AI tujuan umum (GPAI) — yaitu model dasar multiguna seperti model bahasa besar — serta pada penggunaan individu: penyediaan ringkasan data pelatihan, kebijakan kepatuhan hak cipta, penilaian tambahan untuk model dengan risiko sistemik. Jika suatu organisasi memasukkan model-model ini ke dalam produknya sendiri, sebagian dari kewajiban ini mungkin tercermin dalam rantai tersebut.
tiga kasus mini
Kasus 1 — Penyaringan rekrutmen (berisiko tinggi). Sebuah perusahaan perangkat lunak di Izmir mengembangkan platform rekrutmen yang melayani perusahaan-perusahaan UE; Sistem secara otomatis menilai dan mengeliminasi kandidat. Ini adalah bidang yang jelas-jelas dianggap berisiko tinggi oleh undang-undang. Perusahaan; harus memenuhi kewajiban kualitas data, pengujian bias, audit manusia, dan dokumentasi. Argumen “Kami berada di Turki, hal itu tidak mengikat kami” tidak valid; Karena sistem ini digunakan di pasar UE, undang-undang tersebut berlaku.
Kasus 2 — Chatbot pelanggan (risiko terbatas). Sebuah situs e-niaga menerapkan chatbot yang melayani pelanggannya di UE. Hal ini termasuk dalam kategori risiko terbatas; Kewajiban utamanya adalah transparansi: pengguna harus diberi tahu dengan jelas bahwa "Anda sedang berbicara dengan kecerdasan buatan". Menyembunyikan ini merupakan pelanggaran; Cukuplah untuk menentukan.
Kasus 3 — Mendekati garis terlarang. Sebuah jaringan ritel ingin menganalisis reaksi emosional pelanggan melalui kamera toko dan memberikan skor "potensi pengutil". Ini termasuk dalam area terlarang/risiko sangat tinggi baik dalam dimensi pengenalan emosi maupun penilaian. Tim hukum menghentikan proyek pada tahap desain; Jelas bahwa hal ini tidak dapat dilaksanakan bahkan dengan langkah-langkah pengurangan risiko.
Tip: Pertanyaan pertama saat memulai proyek AI baru adalah “seberapa bergunakah hal ini?” melainkan "kategori risiko apa yang termasuk dalam hal ini?" seharusnya. Melakukan klasifikasi terlebih dahulu menghindari pemborosan sumber daya pada proyek yang nantinya akan dibatalkan.
Templat yang dapat disalin
TEMPLATE 1 — Penilaian awal kelas risiko: "Evaluasi terlebih dahulu penggunaan AI berikut sesuai dengan Undang-undang AI UE: [jelaskan penggunaannya]. Sebutkan kelas risiko mana (dilarang / tinggi / terbatas / minimal), dengan disertai pembenaran. Tandai poin-poin yang Anda tidak yakin sebagai 'konfirmasi hukum diperlukan'; jangan membuat keputusan hukum yang pasti."
TEMPLATE 2 — Pemindaian aplikasi yang dilarang: "Pindai ide proyek berikut hanya berdasarkan daftar 'aplikasi terlarang UU AI UE': [jelaskan proyeknya]. Apakah ada risiko dalam hal penilaian sosial, manipulasi bawah sadar, eksploitasi kerentanan, pengawasan biometrik yang tidak sah, pengenalan emosi? Tulis ya/tidak dan pembenarannya di setiap judul."
TEMPLATE 3 — Daftar periksa tanggung jawab berisiko tinggi: "Untuk penggunaan AI berisiko tinggi ini, [jelaskan penggunaannya] buat tabel 'bagaimana situasi kita saat ini, apa yang hilang' dalam enam judul tanggung jawab (manajemen risiko, kualitas data, dokumentasi, transparansi, audit manusia, ketahanan). Sarankan tindakan nyata di setiap baris."
TEMPLATE 4 — Notifikasi transparansi (risiko terbatas): "Untuk chatbot yang melayani pengguna UE, tulis notifikasi singkat 'Anda sedang berbicara dengan AI' untuk ditampilkan kepada pengguna. Sederhana, meyakinkan, maksimal 2 kalimat. Sertakan opsi untuk beralih ke agen manusia."
Perintah lemah / Perintah kuat
LEMAH: “Apakah UU AI UE menjadi perhatian kita?”-> Model ini memberikan jawaban umum; Ini tidak mengklasifikasikan penggunaan spesifik Anda, tidak mengevaluasi koneksi Anda ke pasar UE. GÜÇLÜ: "Kami adalah perusahaan yang berbasis di Izmir, kami menjual perekrutan dan penyaringan AI ke sebuah perusahaan di Jerman. Kelas risiko apa yang digunakan dalam hal ini berdasarkan Undang-Undang AI UE, kewajiban apa yang menjadi tanggung jawab kami dan mengapa berada di Turki tidak mengecualikan kami? Tandai jika Anda tidak yakin." -> Model menghasilkan klasifikasi dan daftar tanggung jawab spesifik konteks.
Kesalahan umum
- Berpikir “Kami berada di Turki, hukum UE tidak mengikat kami”; Namun, menyentuh pasar UE saja sudah cukup.
- Membuat klasifikasi risiko setelah pengembangan proyek; Namun, hal ini harus dilakukan terlebih dahulu.
- Menganggap suatu amalan terlarang sebagai suatu hambatan yang dapat diatasi dengan “pembenaran yang baik”.
- Mengabaikan pelaporan transparansi dalam sistem risiko terbatas (membuat bot terlihat seperti manusia).
- Mengabaikan audit manusia dan manajemen bias dari kewajiban berisiko tinggi.
- Mengabaikan tanggung jawab AI untuk tujuan umum (GPAI) mungkin akan berdampak pada rantai pasokan.
- Tukarkan UU AI UE dengan KVKK; mereka berbeda tetapi saling melengkapi.
Singkatnya
- Undang-undang AI UE mengambil pendekatan berbasis risiko dan membagi AI menjadi empat kelas: terlarang, tinggi, terbatas, minimal.
- Praktik-praktik yang dilarang (penilaian sosial, manipulasi, dll.) tidak dapat dilepaskan meskipun risikonya telah dikurangi.
- Sistem berisiko tinggi; Hal ini tunduk pada kewajiban yang ketat seperti manajemen risiko, kualitas data, pengendalian manusia, dan dokumentasi.
- Dalam sistem risiko terbatas, kewajiban utamanya adalah transparansi (melaporkan adanya AI).
- Perusahaan Turki yang menyentuh pasar UE juga terkena dampak undang-undang tersebut; Klasifikasi harus dilakukan di awal proyek.
Tugas aplikasi
Pertimbangkan tiga penggunaan AI berbeda yang mungkin digunakan oleh organisasi Anda (atau perusahaan fiktif) sehubungan dengan pasar UE. Tempatkan masing-masing risiko dalam salah satu dari empat kelas risiko UU AI UE dan tuliskan justifikasi Anda. Cantumkan enam kewajiban berisiko tinggi untuk penggunaan yang menurut Anda berisiko tertinggi dalam diagram kendali: isikan kolom “status saat ini” dan “tidak lengkap/tindakan”. Tulis pernyataan transparansi yang akan ditampilkan kepada pengguna untuk penggunaan yang termasuk dalam kategori risiko terbatas. Terakhir, jika ada penggunaan Anda yang mendekati batas terlarang, catat itu dan alasannya.
daftar periksa
- [ ] Saya menempatkan setiap penggunaan AI ke dalam salah satu dari empat kelas risiko.
- [ ] Saya memindai proyek saya berdasarkan daftar aplikasi terlarang.
- [ ] Saya membuat bagan kendali kewajiban untuk penggunaan risiko tinggi.
- [ ] Saya menyertakan audit manusia dan manajemen bias dalam kewajibannya.
- [ ] Saya telah menyiapkan pernyataan transparansi untuk penggunaan risiko terbatas.
- [ ] Saya memahami mengapa hubungan saya dengan pasar UE memicu undang-undang tersebut.
- [ ] Saya melakukan klasifikasi risiko di awal proyek, bukan di akhir.