فائدہ:
- EU AI قانون کی چار رسک کلاسز اور ممنوعہ طریقوں کو تسلیم کرنا
- اس بات کا معقول جائزہ لینا کہ استعمال کس خطرے کے زمرے میں آتا ہے۔
- سمجھیں کہ زیادہ خطرہ اور عام مقصد کی AI ذمہ داریاں ترک کمپنیوں کو کیوں متاثر کرتی ہیں۔
EU مصنوعی ذہانت کا ایکٹ (EU AI ایکٹ)، جو 2024 میں لاگو ہوتا ہے، دنیا کا پہلا جامع AI ضابطہ ہے اور اس کا اثر یورپی یونین کی سرحدوں سے بہت آگے تک پھیلا ہوا ہے۔ یہ قانون Türkiye میں واقع لیکن EU مارکیٹ کی خدمت کرنے والی، EU کے صارفین رکھنے والی یا EU کو مصنوعات بیچنے والی کمپنی کے لیے براہ راست پابند ہو سکتا ہے۔ اس یونٹ میں، آپ قانون کی بنیادی منطق سیکھیں گے — اس کے خطرے پر مبنی نقطہ نظر — اس کی چار کلاسوں، ممنوعہ طریقوں اور زیادہ خطرے والی ذمہ داریوں کے ساتھ؛ ہم اس بات کا اندازہ لگانے کی کوشش کریں گے کہ استعمال کس خانے میں آتا ہے۔
بنیادی خیال: خطرہ جتنا زیادہ ہوگا، اصول اتنا ہی سخت ہوگا۔
EU AI قانون تمام AI کو اکٹھا نہیں کرتا ہے۔ یہ مصنوعی ذہانت کے نظام کو اس کے ممکنہ نقصان کے مطابق چار زمروں میں تقسیم کرتا ہے اور ہر زمرے پر مختلف ذمہ داریاں عائد کرتا ہے۔ موسیقی کی سفارش میں وہی خطرہ نہیں ہوتا ہے جیسا کہ ایک ہائرنگ اسکریننگ سسٹم؛ قانون ان پر یکساں اصول لاگو نہیں کرتا۔ خطرے پر مبنی یہ طریقہ قانون کی ریڑھ کی ہڈی ہے۔
رسک کلاس
مطلب
مثال
حکمرانی
ممنوعہ (ناقابل قبول)
بنیادی حقوق کو کھلا خطرہ
سماجی اسکورنگ، لاشعوری ہیرا پھیری
مکمل پابندی
اعلی خطرہ
یہ انسانی زندگی کو شدید متاثر کرتا ہے۔
بھرتی، کریڈٹ، صحت کی دیکھ بھال، تعلیم، اہم بنیادی ڈھانچہ
سخت ذمہ داری
محدود خطرہ
شفافیت کی ضرورت ہے۔
چیٹ بوٹ، ڈیپ فیک، اے آئی مواد
معلومات لازمی ہے۔
کم سے کم خطرہ
غیر معمولی خطرہ
سپیم فلٹر، گیم AI، سفارشی انجن
مفت
ممنوعہ ایپس: سرخ لکیر
AI کے کچھ استعمالات کو اتنا نقصان دہ سمجھا جاتا ہے کہ ان کو جاری نہیں کیا جا سکتا چاہے کتنا ہی خطرہ کم ہو جائے۔ یہ ممنوعہ (ناقابل قبول خطرہ) کے زمرے میں ہیں:
- ریاست کی حمایت یافتہ سماجی اسکورنگ (لوگوں کو ان کے رویے/خصوصیات کے مطابق اسکور کرنا اور انہیں نقصان پہنچانا)۔
- ایسے نظام جو لوگوں کے لاشعور میں ہیرا پھیری کرتے ہیں اور نقصان پہنچاتے ہیں۔
- ایسے نظام جو عمر اور معذوری جیسی کمزوریوں کا استحصال کرتے ہیں۔
- کچھ ریئل ٹائم بائیو میٹرک شناخت اور بڑے پیمانے پر نگرانی کی درخواستیں (تنگ استثناء کے ساتھ)۔
- مخصوص ایپلی کیشنز جیسے کام کی جگہ اور تعلیم میں جذبات کی شناخت۔
توجہ: حقیقت یہ ہے کہ استعمال "ممنوعہ" زمرے میں ہے کوئی رکاوٹ نہیں ہے جسے "میرے پاس ایک معقول وجہ ہے" کہہ کر دور کیا جا سکتا ہے۔ یہ مشقیں مکمل طور پر ممنوع ہیں۔ خطرے کو کم کرنے کے اقدامات کے باوجود بھی جاری نہیں کیا جا سکتا۔ سب سے پہلے چیک کیا جائے گا کہ آیا پروجیکٹ اس فہرست میں شامل ہے۔
اعلی خطرے کی ذمہ داریاں
ہائی رسک سسٹمز ممنوع نہیں ہیں لیکن سخت شرائط کے ساتھ مشروط ہیں۔ عام زیادہ خطرہ والے علاقے: بھرتی اور ملازمین کا انتظام، کریڈٹ اور انشورنس، تعلیم اور امتحان کی تشخیص، صحت کی دیکھ بھال، اہم انفراسٹرکچر، قانون نافذ کرنے والے ادارے اور امیگریشن۔ ان نظاموں میں عام ذمہ داریاں:
- رسک مینجمنٹ سسٹم کا قیام اور اسے برقرار رکھنا۔
- ڈیٹا کے معیار اور تعصب کا انتظام (ٹریننگ ڈیٹا کا نمائندہ اور درست)۔
- تکنیکی دستاویزات اور ریکارڈ کیپنگ (ٹریس ایبلٹی)۔
- شفافیت اور صارف کو معلومات فراہم کرنا۔
- انسانی کنٹرول (مداخلت کرنے اور اوور رائڈ کرنے کی انسانی صلاحیت)۔
- درستگی، مضبوطی اور سائبرسیکیوریٹی کی یقین دہانیاں۔
عمومی مقصد AI (GPAI) کی ذمہ داریاں
قانون عام مقصد کے AI ماڈلز (GPAI) پر مخصوص شفافیت اور دستاویزات کی ذمہ داریاں عائد کرتا ہے - یعنی کثیر مقصدی بنیادی ماڈلز جیسے بڑے لینگویج ماڈلز - نیز انفرادی استعمال پر: تربیتی ڈیٹا پر خلاصوں کی فراہمی، کاپی رائٹ کی تعمیل کی پالیسی، نظامی خطرہ والے ماڈلز کے لیے اضافی تشخیص۔ اگر کوئی تنظیم ان ماڈلز کو اپنی مصنوعات میں شامل کرتی ہے، تو ان میں سے کچھ ذمہ داریاں سلسلہ میں ظاہر ہو سکتی ہیں۔
تین چھوٹے مقدمات
کیس 1 - بھرتی کی اسکریننگ (زیادہ خطرہ)۔ ازمیر میں ایک سافٹ ویئر کمپنی یورپی یونین کی کمپنیوں کی خدمت کے لیے بھرتی کا پلیٹ فارم تیار کرتی ہے۔ سسٹم خود بخود اسکور کرتا ہے اور امیدواروں کو ختم کرتا ہے۔ یہ ایک ایسا علاقہ ہے جسے قانون واضح طور پر زیادہ خطرہ سمجھتا ہے۔ کمپنی؛ ڈیٹا کے معیار، تعصب کی جانچ، انسانی آڈیٹنگ اور دستاویزات کی ذمہ داریوں کو پورا کرنا ضروری ہے۔ دلیل "ہم ترکی میں ہیں، یہ ہمیں پابند نہیں کرتا" باطل ہے۔ چونکہ یہ نظام EU مارکیٹ میں استعمال ہوتا ہے، اس لیے قانون لاگو ہوتا ہے۔
کیس 2 - کسٹمر چیٹ بوٹ (محدود خطرہ)۔ ایک ای کامرس سائٹ اپنے یورپی یونین کے صارفین کی خدمت کے لیے ایک چیٹ بوٹ تعینات کرتی ہے۔ یہ محدود خطرے کے زمرے میں ہے؛ بنیادی ذمہ داری شفافیت ہے: صارف کو واضح طور پر مطلع کیا جانا چاہیے کہ "آپ مصنوعی ذہانت سے بات کر رہے ہیں"۔ اسے چھپانا خلاف ورزی ہے۔ بیان کرنا کافی ہے۔
کیس 3 - ممنوعہ لائن کے قریب جانا۔ ایک ریٹیل چین اسٹور کیمروں کے ذریعے صارفین کے جذباتی ردعمل کا تجزیہ کرنا اور "ممکنہ شاپ لفٹر" سکور دینا چاہتی ہے۔ یہ جذبات کی پہچان اور اسکورنگ دونوں جہتوں کے ساتھ ممنوعہ/بہت زیادہ خطرے والے علاقے میں آتا ہے۔ قانونی ٹیم منصوبے کو ڈیزائن کے مرحلے پر روک دیتی ہے۔ یہ واضح ہے کہ خطرے کو کم کرنے والے اقدامات کے باوجود اس پر عمل درآمد نہیں کیا جا سکتا۔
اشارہ: ایک نیا AI پروجیکٹ شروع کرتے وقت پہلا سوال یہ ہے کہ "یہ کتنا مفید ہے؟" بلکہ "یہ کس خطرے کی کلاس میں آتا ہے؟" ہونا چاہئے. پہلی جگہ درجہ بندی کرنا کسی ایسے پروجیکٹ پر وسائل ضائع کرنے سے بچتا ہے جسے بعد میں منسوخ کر دیا جائے گا۔
کاپی کرنے کے قابل ٹیمپلیٹس
ٹیمپلیٹ 1 - خطرے کی کلاس کا ابتدائی جائزہ: "EU AI قانون کے مطابق درج ذیل AI کے استعمال کا پہلے سے جائزہ لیں: [استعمال کی وضاحت کریں]۔ بتائیں کہ یہ کس خطرے کی کلاس (ممنوعہ / زیادہ / محدود / کم سے کم) میں آسکتی ہے، جواز کے ساتھ۔ ان نکات کو نشان زد کریں جن کے بارے میں آپ کو یقین نہیں ہے کہ 'قانونی تصدیق درکار ہے'؛ قانونی فیصلہ نہ کریں۔"
ٹیمپلیٹ 2 - ممنوعہ ایپلیکیشن اسکیننگ: "مندرجہ ذیل پروجیکٹ آئیڈیا کو صرف 'EU AI ایکٹ ممنوعہ ایپلی کیشنز' کی فہرست کے خلاف اسکین کریں: [پروجیکٹ کی وضاحت کریں]۔ کیا سماجی اسکورنگ، لاشعوری ہیرا پھیری، کمزوری کے استحصال، غیر مجاز بائیو میٹرک نگرانی، جذبات کی شناخت اور ہر ایک کی شناخت کے لحاظ سے کوئی خطرہ ہے؟"
ٹیمپلیٹ 3 — ہائی رسک لیبلٹی چیک لسٹ: "اس ہائی رسک AI کے استعمال کے لیے، [استعمال کی وضاحت کریں] ایک 'ہماری موجودہ صورتحال کیا ہے، کیا غائب ہے' ٹیبل بناتا ہے چھ ذمہ داری کے عنوانات (خطرے کا انتظام، ڈیٹا کوالٹی، دستاویزات، شفافیت، انسانی آڈیٹنگ، مضبوطی)۔ ہر قطار میں ایک ٹھوس کارروائی تجویز کریں۔"
ٹیمپلیٹ 4 — شفافیت کی اطلاع (محدود خطرہ): "EU صارفین کی خدمت کرنے والے چیٹ بوٹ کے لیے، صارف کو دکھانے کے لیے ایک مختصر 'آپ AI سے بات کر رہے ہیں' نوٹیفکیشن لکھیں۔ سادہ، یقین دہانی، زیادہ سے زیادہ 2 جملے۔ انسانی ایجنٹ پر سوئچ کرنے کا اختیار شامل کریں۔"
کمزور فوری / مضبوط اشارہ
کمزور: "کیا EU AI قانون ہماری فکر کرتا ہے؟" -> ماڈل ایک عمومی جواب دیتا ہے۔ یہ آپ کے ٹھوس استعمال کی درجہ بندی نہیں کرتا ہے، یہ EU مارکیٹ سے آپ کے کنکشن کا اندازہ نہیں کرتا ہے۔ GÜÇLÜ: "ہم ازمیر میں واقع ایک کمپنی ہیں، ہم جرمنی میں ایک کمپنی کو بھرتی اور اسکریننگ AI فروخت کرتے ہیں۔ یہ کس خطرے کی کلاس کا استعمال EU AI قانون کے تحت آتا ہے، ہم پر کون سی ذمہ داریاں عائد ہوتی ہیں اور ترکی میں رہنا ہمیں کیوں مستثنیٰ نہیں رکھتا؟ جہاں آپ کو یقین نہیں ہے وہاں نشان زد کریں۔" -> ماڈل سیاق و سباق کے لحاظ سے مخصوص درجہ بندی اور ذمہ داری کی فہرست تیار کرتا ہے۔
عام غلطیاں
- یہ سوچنا کہ "ہم ترکی میں ہیں، یورپی یونین کا قانون ہمیں پابند نہیں کرتا"؛ تاہم، یورپی یونین کی مارکیٹ کو چھونا کافی ہے۔
- منصوبے کو تیار کرنے کے بعد خطرے کی درجہ بندی کرنا؛ تاہم، یہ پہلی جگہ میں کیا جانا چاہئے.
- ایک ممنوعہ عمل کو ایک رکاوٹ سمجھنا جس پر "اچھے جواز" سے قابو پایا جا سکتا ہے۔
- محدود خطرے کے نظام میں شفافیت کی رپورٹنگ کو نظرانداز کرنا (بوٹ کو انسان کی طرح دکھانا)۔
- انسانی آڈیٹنگ اور اعلی خطرے کی ذمہ داریوں سے تعصب کے انتظام کو نظر انداز کرنا۔
- اس عمومی مقصد AI (GPAI) کی ذمہ داریوں کو نظر انداز کرنے سے سلسلہ دوبارہ بحال ہو سکتا ہے۔
- EU AI قانون کو KVKK کے ساتھ تبدیل کریں۔ وہ مختلف ہیں لیکن تکمیلی ہیں۔
خلاصہ میں
- EU AI قانون خطرے پر مبنی نقطہ نظر اختیار کرتا ہے اور AI کو چار طبقات میں تقسیم کرتا ہے: ممنوعہ، زیادہ، محدود، کم سے کم۔
- ممنوعہ طرز عمل (سماجی سکورنگ، ہیرا پھیری وغیرہ) کو جاری نہیں کیا جا سکتا چاہے خطرہ کم ہو جائے۔
- ہائی رسک سسٹم؛ یہ رسک مینجمنٹ، ڈیٹا کوالٹی، انسانی کنٹرول اور دستاویزات جیسی سخت ذمہ داریوں سے مشروط ہے۔
- خطرے کے محدود نظاموں میں، بنیادی ذمہ داری شفافیت ہے (اطلاع دینا کہ AI موجود ہے)۔
- یورپی یونین کی مارکیٹ کو چھونے والی ترک کمپنیاں بھی اس قانون سے متاثر ہوتی ہیں۔ درجہ بندی منصوبے کے بالکل آغاز میں کی جانی چاہیے۔
درخواست کا کام
AI کے تین مختلف استعمال پر غور کریں جو آپ کی تنظیم (یا فرضی کمپنی) EU مارکیٹ کے سلسلے میں استعمال کر سکتی ہے۔ EU AI ایکٹ کی چار رسک کلاسوں میں سے ہر ایک کو رکھیں اور اپنا جواز لکھیں۔ کنٹرول چارٹ میں جس استعمال کے لیے آپ کو سب سے زیادہ خطرہ نظر آتا ہے اس کے لیے چھ ہائی رسک ذمہ داریاں رکھیں: "موجودہ حیثیت" اور "نامکمل/ایکشن" کالم پُر کریں۔ ایک شفافیت کا بیان لکھیں جو صارف کو ایسے استعمال کے لیے دکھایا جائے گا جو خطرے کے محدود زمرے میں آتا ہے۔ آخر میں، اگر آپ کا کوئی استعمال ممنوعہ لائن کے قریب پہنچ رہا ہے، تو اسے اور کیوں نوٹ کریں۔
چیک لسٹ
- میں نے AI کے ہر استعمال کو چار رسک کلاسوں میں سے ایک میں رکھا۔
- میں نے اپنے پروجیکٹس کو ممنوعہ درخواستوں کی فہرست کے خلاف اسکین کیا۔
- میں نے ہائی رسک کے استعمال کے لیے ایک ذمہ داری کنٹرول چارٹ بنایا ہے۔
- میں نے انسانی آڈیٹنگ اور تعصب کے انتظام کو ذمہ داریوں میں شامل کیا۔
- میں نے محدود خطرے کے استعمال کے لیے شفافیت کا بیان تیار کیا ہے۔
- [ ] میں سمجھتا ہوں کہ میرے EU مارکیٹ کنکشن نے قانون کو کیوں متحرک کیا۔
- میں نے خطرے کی درجہ بندی منصوبے کے آغاز میں کی تھی، آخر میں نہیں۔