سود:
- منطق مبتنی بر ریسک قانون هوش مصنوعی اتحادیه اروپا (غیرقابل قبول، زیاد، محدود، حداقل) و تعهدات سیستم های پرخطر را درک کنید.
- امکان شناسایی ریسک پردازش داده های شخصی، محدودیت هدف، افشا و انتقال بین المللی از نظر KVKK در استفاده از هوش مصنوعی
- امکان پیش ارزیابی خروجی هوش مصنوعی بدون در نظر گرفتن آن به عنوان مشاوره حقوقی قطعی و گنجاندن داده های شخصی و پشتیبانی قانونی در طرح های پرخطر.
اخلاق «آنچه درست است» را توصیف می کند. از سوی دیگر، انطباق، آنچه را که «طبق قانون الزامی میکند» توصیف میکند و نقض آن منجر به مجازات، شکایت و از دست دادن شهرت میشود. برای یک مدیر ارشد، رعایت یک مسئولیت قانونی شخصی است. "من نمی دانستم" یک دفاع نیست. در این بخش، دو قانون اساسی برای هوش مصنوعی را مورد بحث قرار میدهیم: قانون هوش مصنوعی اتحادیه اروپا (قانون هوش مصنوعی اتحادیه اروپا؛ قانون جامع اتحادیه اروپا که هوش مصنوعی را بر اساس سطح خطر آن تنظیم میکند) و KVKK (قانون حفاظت از دادههای شخصی؛ قانون حفاظت از دادههای شخصی ترکیه مشابه GDPR در اروپا است). هدف وکیل شدن نیست. دانستن زمان توقف و دریافت حمایت قانونی و اجتناب از خطرات کور.
منطق قانون هوش مصنوعی اتحادیه اروپا: مبتنی بر ریسک
قانون هوش مصنوعی اتحادیه اروپا، سیستم های هوش مصنوعی را با توجه به سطح ریسک به چهار دسته تقسیم می کند و برای هر دسته تعهدات متفاوتی را تحمیل می کند. اگرچه مستقیماً در ترکیه اجرا نمی شود. این مؤسسههایی را که محصولات/خدمات را به اتحادیه اروپا میفروشند، مشتریان اتحادیه اروپا دارند یا دادههای کاربران اتحادیه اروپا را پردازش میکنند، متعهد میکند و در حال تبدیل شدن به یک استاندارد جهانی است.
سطح ریسک
مثال
مسئولیت
غیر قابل قبول
امتیاز دهی اجتماعی، سیستم های دستکاری
ممنوع
ریسک بالا
استخدام، اعتبار، مراقبت های بهداشتی، زیرساخت های حیاتی
دقیق: مدیریت ریسک، کیفیت داده ها، نظارت انسانی، ثبت، شفافیت
ریسک محدود
چت بات، محتوای سازنده
شفافیت: به کاربر اطلاع می دهد که هوش مصنوعی است
حداقل ریسک
فیلتر اسپم، بازی
تمرین خوب داوطلبانه و رایگان
اصطلاح مهم: سیستم پرخطر کاربرد هوش مصنوعی است که می تواند به طور مستقیم بر حقوق اساسی افراد، ایمنی یا فرصت های زندگی (شغل، اعتبار، تحصیل، سلامت) تأثیر بگذارد. قانون این سیستم ها این است؛ ارزیابی ریسک، کیفیت و داده های بی طرفانه، نظارت انسانی، اسناد فنی، نگهداری سوابق و شفافیت را الزامی می کند.
نکته: هنگام ارزیابی یک ابتکار هوش مصنوعی، از خود بپرسید: "آیا این سیستم در تصمیمی دخالت دارد که بر شغل، پول، سلامت یا آزادی فرد تاثیر می گذارد؟" اگر پاسخ مثبت است، احتمالاً ریسک بالایی دارد و نیاز به دقت ویژه با پشتیبانی قانونی دارد.
تعهدات اساسی KVKK
KVKK پردازش داده های شخصی را تنظیم می کند (هر اطلاعاتی که شخص را مشخص یا قابل شناسایی می کند: نام، شناسه TR، ایمیل، مکان، حتی داده های رفتاری). نکات مهم از نظر هوش مصنوعی:
- مبنای حقوقی: برای پردازش داده های شخصی دلیل موجهی (رضایت صریح، قرارداد، منفعت مشروع و غیره) لازم است.
- محدودیت هدف: داده ها را نمی توان برای مقاصدی غیر از هدفی که برای آن جمع آوری شده است استفاده کرد. معرفی داده های جمع آوری شده برای یک هدف در آموزش هوش مصنوعی ممکن است نیاز به پشتیبانی بیشتری داشته باشد.
- به حداقل رساندن داده ها: فقط به اندازه نیاز پردازش می شود.
- افشا: شخص مربوطه باید از نحوه پردازش داده هایش مطلع شود.
- انتقال: انتقال داده ها به خارج از کشور (مثلاً به یک ارائه دهنده هوش مصنوعی در خارج از کشور) تابع قوانین خاصی است.
- تصمیم گیری خودکار: حق اعتراض به تصمیمات کاملاً خودکار که بر شخص تأثیر می گذارد باید رعایت شود.
چسباندن داده های مشتری در ابزار هوش مصنوعی اغلب معادل «انتقال داده به خارج» و «پردازش ناخواسته» است. این رایج ترین و خطرناک ترین نقض انطباق است.
مرحله به مرحله: بررسی تناسب
1. سطح ریسک را تعیین کنید. سیستم در معرض خطر غیرقابل قبول / زیاد / محدود / حداقل چیست؟
2. بررسی کنید که آیا داده های شخصی وجود دارد. کدام داده های شخصی کجا می رود، بر چه اساسی؟
3. مطابقت با تعهدات. الزامات قانونی را بر اساس سطح ریسک و وضعیت داده فهرست کنید.
4. پشتیبانی قانونی دریافت کنید. قانون را در هر طرحی که ریسک بالایی دارد یا دادههای شخصی را شامل میشود، درگیر کنید.
5. مستندسازی و نظارت. تصمیمات انطباق، افشاگری ها و بازرسی ها را ثبت کنید.
سه کیف کوچک
مورد 1 - انتقال بی سر و صدا به خارج از کشور. یک خرده فروش داده ها را برای تجزیه و تحلیل شکایات مشتریان به یک ابزار هوش مصنوعی مستقر در خارج از کشور ارسال کرد. متن شفاف سازی این موضوع را پوشش نمی دهد، هیچ مبنایی برای انتقال وجود ندارد. تخلفی از نظر KVKK رخ داده است. در جریان حسابرسی خطر جریمه های اداری وجود داشت. این موسسه به راه حلی روی آورد که داده ها را در داخل کشور پردازش می کند و روشنایی را به روز می کند.
مورد 2 - سختگیری سیستم پرخطر. یک شرکت فناوری منابع انسانی در حال فروش نرم افزار استخدام به AB بود. این در قانون هوش مصنوعی اتحادیه اروپا "خطر بالا" در نظر گرفته شد. این شرکت به راحتی وارد بازار شد زیرا مدیریت ریسک، شواهد کیفیت داده ها، نظارت انسانی و مستندات را از قبل آماده کرده بود. دسترسی یک رقیب ناآماده به تاخیر افتاد زیرا او نمی توانست به همان تعهدات عمل کند. هارمونی به یک مزیت رقابتی تبدیل شد.
مورد 3 - قدرت روشنایی. یک شرکت بیمه به وضوح مشتریان را هنگام قیمت گذاری با هوش مصنوعی روشن کرد و راه را برای اعتراض به تصمیمات کاملاً خودکار باز کرد. یک مشتری اعتراض کرد، انسانی بررسی شد و یک خطای داده تصحیح شد. شفافیت و تجدیدنظر نه تنها الزامات قانونی را برآورده میکرد، بلکه یک خطای واقعی را نیز به همراه داشت.
چهار قالب قابل کپی
1) کنترل اولیه طبقه بندی ریسک:
نقش شما: مشاور انطباق با هوش مصنوعی (ارزیابی اولیه، نه مشاوره حقوقی). سیستم زیر را بر اساس سطوح خطر قانون هوش مصنوعی اتحادیه اروپا طبقه بندی کنید: غیرقابل قبول، زیاد، محدود، حداقل. منطق خود را بنویسید و چه تعهدات اصلی ایجاد خواهد شد. بیان کنید که حمایت قانونی برای تصمیم گیری نهایی لازم است. سیستم: [متن]
2) نقشه جریان داده های شخصی:
در این استفاده از هوش مصنوعی، نقشهبرداری کنید که کدام دادههای شخصی پردازش میشوند، برای چه هدفی جمعآوری میشوند و به کجا منتقل میشوند (به ویژه در خارج از کشور). نقاط مخاطره آمیز را از نظر KVKK علامت گذاری کنید و مشخص کنید که کدام موضوعات نیاز به حمایت قانونی دارند. استفاده: [متن]
3) کنترل نور و اعتراض:
الزامات شفاف سازی KVKK و اعتراض تصمیم گیری خودکار برای هوش مصنوعی مشتری را بررسی کنید: کاربر در مورد چه چیزی باید مطلع شود، اعتراض چگونه باید پردازش شود؟ کاستی ها را فهرست کنید. استفاده: [متن]
4) چک لیست آمادگی انطباق:
چک لیست آمادگی انطباق با قانون هوش مصنوعی اتحادیه اروپا را برای ابتکار هوش مصنوعی پرخطر زیر تهیه کنید: مدیریت ریسک، کیفیت داده، نظارت انسانی، مستندسازی، ثبت، شفافیت. برای هر مورد یک سوال بنویسید که بتوانم آن را به عنوان "آماده / ناقص" ارزیابی کنم. ابتکار: [متن]
اعلان ضعیف / اعلان قوی
ضعیف: "آیا این هوش مصنوعی قانونی است؟"
نتیجه: یک پاسخ سطحی و غیر قابل اعتماد. هوش مصنوعی نمی تواند و نباید مشاوره حقوقی قطعی ارائه دهد.
گوچلو: "من در حال ارزیابی یک ابزار پیشآزمایی استخدامی هستم که به مشتریان در اتحادیه اروپا فروخته میشود. آن را طبق سطوح خطر قانون هوش مصنوعی اتحادیه اروپا از قبل طبقهبندی کنید و فهرست کنید که اگر احتمال خطر بالایی داشته باشد، چه تعهداتی (مدیریت ریسک، کیفیت دادهها، نظارت انسانی، مستندات) ایجاد میشود. همچنین، از نظر KVKK، این دادهها را مطرح کنید که این دادهها کدام یک از نامزدها هستند و چگونه باید آن را مطرح کنم. ارزیابی اولیه، قانون برای تصمیم گیری نهایی لازم است.»
نتیجه: ارزیابی اولیه و آماده سازی برای حمایت قانونی. نه یک بند "قانونی/نه" کور.
اشتباهات رایج
- انتظار مشاوره حقوقی قطعی از هوش مصنوعی هوش مصنوعی یک ارزیابی اولیه انجام می دهد. تصمیم نهایی قانونی متعلق به وکیل است.
- نادیده گرفتن انتقال داده به خارج از کشور وارد کردن داده های مشتری در ابزار هوش مصنوعی خارجی اغلب یک نقض انطباق است.
- دست کم گرفتن سیستم پرخطر سیستم های درگیر در تصمیم گیری های تجاری، اعتباری و بهداشتی نیاز به مراقبت ویژه دارند.
- دور زدن حق اطلاعات و اعتراض. شفافیت و استیناف الزامات قانونی برای تصمیمات خودکاری است که افراد را تحت تأثیر قرار می دهد.
- فکر کردن به اینکه هارمونی چیزی یکباره است. تغییر قوانین و سیستم ها؛ انطباق باید دائماً نظارت شود.
احتیاط: اطلاعات این واحد جهت آگاهی عمومی بوده و مشاوره حقوقی نمی باشد. خروجی هوش مصنوعی نیز مشاوره حقوقی نیست. در هر ابتکاری که دادههای شخصی را پردازش میکند یا ریسک بالایی دارد، قبل از تصمیمگیری، مشورت با یک متخصص حقوقی واجد شرایط الزامی است. هزینه نقض انطباق به صورت تصاعدی در قالب جریمه، شکایت قضایی و از دست دادن شهرت افزایش می یابد.
به طور خلاصه
رعایت حداقل مورد نیاز قانون است و تخلف از آن مسئولیت قانونی را متوجه مدیر می کند. قانون هوش مصنوعی اتحادیه اروپا هوش مصنوعی را با توجه به سطح خطر (غیرقابل قبول، زیاد، محدود، حداقل) تنظیم می کند. مدیریت ریسک، کیفیت داده ها، نظارت انسانی و شفافیت برای سیستم های پرخطر ضروری هستند. از سوی دیگر، KVKK به داده های شخصی نیاز دارد تا با مبانی قانونی، محدودیت هدف، حداقل سازی، افشا و قوانین انتقال بین المللی مطابقت داشته باشد. وارد کردن داده های مشتری در ابزار هوش مصنوعی خارجی رایج ترین تخلف است. هوش مصنوعی فقط می تواند ارزیابی های اولیه انجام دهد. برای تصمیم گیری قانونی قطعی باید از پشتیبانی تخصصی برخوردار شود. در بخش بعدی، تیم و ساختار شایستگی که کل این استراتژی را اجرا خواهد کرد، مورد بحث قرار خواهیم داد.
وظیفه کاربردی
یک مورد استفاده از هوش مصنوعی را انتخاب کنید. 1. سطح خطر قانون هوش مصنوعی اتحادیه اروپا را با الگو از قبل طبقه بندی کنید. 2. جریان داده های شخصی را با الگو ترسیم کنید و تعیین کنید که آیا انتقال بین المللی وجود دارد یا خیر. دو مهم ترین سؤال مربوط به انطباق را که مطرح می شود بنویسید و توجه داشته باشید که آنها را به کدام منبع قانونی/کارشناس راهنمایی می کنید. عدم صدور حکم قانونی قطعی؛ فقط سوالات را روشن کنید
چک لیست
- [ ] من سطح خطر سیستم هوش مصنوعی اتحادیه اروپا را از قبل طبقه بندی کرده ام.
- [ ] اگر ریسک بالایی دارد، بدهی های مربوطه را فهرست کرده ام.
- [ ] من اطلاعات شخصی پردازش شده و اساس آن را ترسیم کردم.
- [ ] بررسی کردم که آیا انتقال داده به خارج از کشور وجود دارد یا خیر.
- [ ] من نیاز به اطلاعات و حق اعتراض را بررسی کرده ام.
- [ ] من سوالات انطباق حیاتی را برای پشتیبانی قانونی آماده کردم.
- [ ] من خروجی هوش مصنوعی را به عنوان مشاوره حقوقی قطعی در نظر نمی گرفتم.