Qazanclar:
- AB AI Qanununun dörd risk sinifini və qadağan olunmuş praktikasını tanımaq
- İstifadənin hansı risk kateqoriyasına aid olduğunun ağlabatan qiymətləndirilməsi
- Yüksək riskli və ümumi məqsədli AI öhdəliklərinin türk şirkətlərinə niyə təsir etdiyini anlayın
2024-cü ildə qüvvəyə minən Aİ Süni İntellekt Aktı (AB AI Aktı) dünyanın ilk hərtərəfli AI tənzimləməsidir və onun təsiri Avropa İttifaqının hüdudlarından çox kənara çıxır. Bu qanun Türkiyədə yerləşən, lakin Aİ bazarına xidmət göstərən, AB müştəriləri olan və ya AB-yə məhsul satan şirkətlər üçün birbaşa məcburi ola bilər. Bu bölmədə siz qanunun əsas məntiqini – onun riskə əsaslanan yanaşmasını – dörd sinfi, qadağan olunmuş təcrübələri və yüksək riskli öhdəlikləri ilə öyrənəcəksiniz; İstifadənin hansı qutuya düşdüyünü qiymətləndirməyə çalışacağıq.
Əsas fikir: risk nə qədər yüksək olsa, qayda bir o qədər sərtdir
Aİ-nin süni intellekt haqqında qanunu bütün AI-ni birləşdirmir. O, süni intellekt sistemini potensial zərərinə görə dörd kateqoriyaya ayırır və hər kateqoriyaya müxtəlif öhdəliklər qoyur. Musiqi tövsiyəsi işə götürmə seçim sistemi ilə eyni risk daşımır; Qanun eyni qaydanı onlara şamil etmir. Bu riskə əsaslanan yanaşma qanunun əsasını təşkil edir.
Risk sinfi
Mənası
misal
qayda
Qadağan edilmiş (qəbuledilməz)
Əsas hüquqlara açıq təhlükə
Sosial qiymətləndirmə, bilinçaltı manipulyasiya
tam qadağa
yüksək risk
İnsan həyatına ciddi təsir edir
İşə qəbul, kredit, səhiyyə, təhsil, kritik infrastruktur
Ciddi məsuliyyət
məhdud risk
Şəffaflıq tələb edir
Çat botu, deepfake, AI məzmunu
Məlumat məcburidir
minimal risk
Əhəmiyyətsiz risk
Spam filtri, oyun AI, tövsiyə mühərriki
pulsuz
Qadağan olunmuş proqramlar: qırmızı xətt
Süni intellektdən bəzi istifadələr o qədər zərərli hesab olunur ki, risk nə qədər azalsa da, onları buraxmaq mümkün deyil. Bunlar qadağan olunmuş (məqbul olmayan risk) kateqoriyasına aiddir:
- Dövlət tərəfindən dəstəklənən sosial qiymətləndirmə (insanların davranışlarına/xüsusiyyətlərinə görə xalların toplanması və onlara mənfi təsir göstərməsi).
- İnsanların şüuraltını manipulyasiya edən və zərər verən sistemlər.
- Yaş və əlillik kimi zəifliklərdən istifadə edən sistemlər.
- Müəyyən real vaxt rejimində biometrik identifikasiya və kütləvi nəzarət proqramları (dar istisnalarla).
- İş yerində və təhsildə duyğuların tanınması kimi xüsusi tətbiqlər.
Diqqət: İstifadənin "qadağan olunmuş" kateqoriyasında olması "üzrlü səbəbim var" deməklə keçilə biləcək bir maneə deyil. Bu təcrübələr tamamilə qadağandır; riski azaldan tədbirlərlə belə azad edilə bilməz. İlk yoxlama layihənin bu siyahıya daxil olub-olmamasıdır.
Yüksək riskli öhdəliklər
Yüksək riskli sistemlər qadağan edilmir, lakin ciddi şərtlərə tabedir. Tipik yüksək riskli sahələr: işə qəbul və işçilərin idarə edilməsi, kredit və sığorta, təhsil və imtahanların qiymətləndirilməsi, səhiyyə, kritik infrastruktur, hüquq-mühafizə və immiqrasiya. Bu sistemlərdə tipik öhdəliklər:
- Risklərin idarə edilməsi sisteminin yaradılması və saxlanması.
- Məlumatların keyfiyyəti və qərəzli idarəetmə (təlim məlumatlarının nümayəndəsi və dəqiqliyi).
- Texniki sənədlər və uçotun aparılması (izlənməsi).
- Şəffaflıq və istifadəçiyə məlumatın verilməsi.
- İnsan nəzarəti (insanların müdaxilə etmək və aşmaq qabiliyyəti).
- Dəqiqlik, möhkəmlik və kibertəhlükəsizlik təminatları.
Ümumi təyinatlı AI (GPAI) öhdəlikləri
Qanun ümumi təyinatlı süni intellekt modellərinə (GPAI) - yəni böyük dil modelləri kimi çoxməqsədli baza modellərinə, eləcə də fərdi istifadələrə dair xüsusi şəffaflıq və sənədləşdirmə öhdəlikləri qoyur: təlim məlumatları üzrə xülasələrin təmin edilməsi, müəllif hüquqlarına uyğunluq siyasəti, sistem riski olan modellər üçün əlavə qiymətləndirmə. Əgər təşkilat bu modelləri öz məhsuluna daxil edərsə, bu öhdəliklərin bəziləri zəncirdə əks oluna bilər.
üç mini qutu
1-ci hal — İşə qəbulun yoxlanılması (yüksək risk). İzmirdə bir proqram şirkəti AB şirkətlərinə xidmət göstərən işə qəbul platforması hazırlayır; Sistem namizədləri avtomatik olaraq bal toplayır və aradan qaldırır. Bu, qanunun açıq şəkildə yüksək risk hesab etdiyi sahədir. Şirkət; məlumatların keyfiyyətinə, qərəzli sınaqlara, insan auditi və sənədləşdirmə öhdəliklərinə cavab verməlidir. “Biz Türkiyədəyik, bizi bağlamır” arqumenti etibarsızdır; Sistem Aİ bazarında istifadə edildiyi üçün qanun tətbiq edilir.
Case 2 — Müştəri chatbot (məhdud risk). Bir e-ticarət saytı AB müştərilərinə xidmət göstərən bir chatbot yerləşdirir. Bu məhdud risk kateqoriyasına aiddir; Əsas öhdəlik şəffaflıqdır: istifadəçiyə aydın şəkildə bildirilməlidir ki, “siz süni intellektlə danışırsınız”. Bunu gizlətmək pozuntudur; dəqiqləşdirmək kifayətdir.
Hal 3 — Qadağan olunmuş xəttə yaxınlaşmaq. Pərakəndə satış şəbəkəsi mağaza kameraları vasitəsilə müştərilərin emosional reaksiyalarını təhlil etmək və “potensial mağaza oğurluğu” balı vermək istəyir. Bu, həm emosiyaların tanınması, həm də qiymətləndirmə ölçüləri ilə qadağan edilmiş/çox yüksək risk sahəsinə düşür. Hüquqi qrup layihəni dizayn mərhələsində dayandırır; Aydındır ki, hətta riski azaldan tədbirlərlə də həyata keçirmək mümkün deyil.
İpucu: Yeni AI layihəsinə başlayarkən ilk sual “bu nə qədər faydalıdır?” əksinə "bu hansı risk sinfinə aiddir?" olmalıdır. Təsnifatı ilk növbədə etmək, sonradan ləğv ediləcək bir layihə üçün resursların israf edilməsinin qarşısını alır.
Kopyalana bilən şablonlar
ŞABLON 1 — Risk sinfinin ilkin qiymətləndirilməsi: "Aİ AI Qanununa uyğun olaraq aşağıdakı AI istifadəsini əvvəlcədən qiymətləndirin: [istifadəni təsvir edin]. Onun hansı risk sinfinə (qadağan olunmuş / yüksək / məhdud / minimal) aid ola biləcəyini əsaslandırma ilə qeyd edin. Əmin olmadığınız məqamları "hüquqi təsdiq tələb olunur" kimi qeyd edin; qəti hüquqi mühakimə yürütməyin."
ŞABLON 2 — Qadağan edilmiş proqramların skan edilməsi: "Aşağıdakı layihə ideyasını yalnız "Aİ AI Aktı qadağan edilmiş tətbiqlər" siyahısına qarşı skan edin: [layihəni təsvir edin]. Sosial qiymətləndirmə, şüuraltı manipulyasiya, zəiflikdən istifadə, icazəsiz biometrik nəzarət, emosiyaların tanınması baxımından risk varmı? Hər bir başlıq və əsaslandırma yazın."
ŞABLON 3 — Yüksək riskli məsuliyyət yoxlama siyahısı: "Bu yüksək riskli AI istifadəsi üçün [istifadəni təsvir edin] altı öhdəlik başlığı (risklərin idarə edilməsi, məlumatların keyfiyyəti, sənədlər, şəffaflıq, insan auditi, möhkəmlik) üzrə "cari vəziyyətimiz nədir, nə çatışmır" cədvəlini yaradır. Hər cərgədə konkret fəaliyyət təklif edin."
ŞABLON 4 — Şəffaflıq bildirişi (məhdud risk): "Aİ istifadəçilərinə xidmət göstərən chatbot üçün istifadəçiyə göstərilmək üçün qısa "siz AI ilə danışırsınız" bildirişini yazın. Sadə, arxayınlaşdırıcı, maksimum 2 cümlə. İnsan agentinə keçid seçimini daxil edin."
Zəif məlumat / Güclü göstəriş
ZƏFS: “Aİ-nin süni intellekt haqqında qanunu bizə aiddirmi?”-> Model ümumi cavab verir; O, konkret istifadənizi təsnif etmir, AB bazarı ilə əlaqənizi qiymətləndirmir. GÜÇLÜ: "Biz İzmirdə yerləşən bir şirkətik, Almaniyadakı bir şirkətə işə götürmə və yoxlama AI satırıq. Bu istifadə AB AI Qanununa hansı risk sinfinə aiddir, üzərimizə hansı öhdəliklər düşür və Türkiyədə olmaq niyə bizi azad etmir? Əmin olmadığınız yeri işarələyin." -> Model kontekst üzrə xüsusi təsnifat və öhdəliklər siyahısını hazırlayır.
Ümumi səhvlər
- “Türkiyədəyik, AB qanunları bizi bağlamır” düşüncəsi; Bununla belə, Aİ bazarına toxunmaq kifayətdir.
- Layihənin hazırlanmasından sonra risk təsnifatının aparılması; Bununla belə, ilk növbədə bunu etmək lazımdır.
- Qadağan edilmiş təcrübəni "yaxşı əsaslandırma" ilə aradan qaldırıla bilən maneə kimi səhv salmaq.
- Məhdud risk sistemlərində şəffaflıq hesabatından yan keçmək (botun insan kimi görünməsi).
- Yüksək riskli öhdəliklərdən insan auditinə və qərəzli idarəetməyə məhəl qoymamaq.
- Ümumi təyinatlı AI (GPAI) öhdəlikləri zəncirvari şəkildə əks oluna bilər.
- AB AI Qanununun KVKK ilə dəyişdirilməsi; onlar fərqlidir, lakin bir-birini tamamlayır.
Xülasə
- Aİ-nin süni intellekt haqqında qanunu riskə əsaslanan bir yanaşma tətbiq edir və AI-ni dörd sinifə ayırır: qadağan olunmuş, yüksək, məhdud, minimal.
- Qadağan olunmuş təcrübələr (sosial qiymətləndirmə, manipulyasiya və s.) risk azalsa belə, buraxıla bilməz.
- Yüksək risk sistemləri; Risklərin idarə edilməsi, məlumatların keyfiyyəti, insan nəzarəti və sənədləşdirmə kimi ciddi öhdəliklərə tabedir.
- Məhdud risk sistemlərində əsas öhdəlik şəffaflıqdır (AI-nin olması barədə məlumat vermək).
- AB bazarına toxunan türk şirkətləri də qanundan təsirlənir; Təsnifat layihənin ən əvvəlində aparılmalıdır.
Tətbiq tapşırığı
Təşkilatınızın (və ya uydurma şirkətin) Aİ bazarı ilə əlaqədar istifadə edə biləcəyi AI-nin üç fərqli istifadəsini nəzərdən keçirin. Hər birini AB AI Aktının dörd risk sinifindən birinə yerləşdirin və əsaslandırmanızı yazın. Nəzarət cədvəlində ən yüksək risk hesab etdiyiniz istifadə üçün altı yüksək riskli öhdəliyi yerləşdirin: “cari status” və “natamam/fəaliyyət” sütunlarını doldurun. Məhdud risk kateqoriyasına daxil olan istifadə üçün istifadəçiyə göstəriləcək şəffaflıq bəyanatı yazın. Nəhayət, əgər istifadələrinizdən hər hansı biri qadağan olunmuş xəttə yaxınlaşırsa, bunu və niyə qeyd edin.
yoxlama siyahısı
- [ ] Mən AI-nin hər istifadəsini dörd risk sinifindən birinə yerləşdirdim.
- [ ] Layihələrimi qadağan olunmuş proqramlar siyahısına qarşı skan etdim.
- [ ] Mən yüksək riskli istifadə üçün məsuliyyətə nəzarət cədvəli yaratdım.
- [ ] Mən öhdəliklərə insan auditini və qərəzli idarəetməni daxil etdim.
- [ ] Mən məhdud riskdən istifadə üçün şəffaflıq bəyanatı hazırlamışam.
- [ ] Aİ bazarı ilə əlaqəmin niyə qanunu işə saldığını başa düşürəm.
- [ ] Risk təsnifatını layihənin sonunda yox, əvvəlində etdim.