قانون هوش مصنوعی اتحادیه اروپا و کلاس های خطر

سود:

• به رسمیت شناختن چهار طبقه خطر و شیوه های ممنوعه قانون هوش مصنوعی اتحادیه اروپا
• ارزیابی منطقی از اینکه استفاده در کدام دسته خطر قرار می گیرد
• درک کنید که چرا تعهدات هوش مصنوعی با ریسک بالا و هدف کلی بر شرکت های ترکیه تأثیر می گذارد

قانون هوش مصنوعی اتحادیه اروپا (قانون هوش مصنوعی اتحادیه اروپا) که در سال 2024 لازم الاجرا می شود، اولین مقررات جامع هوش مصنوعی در جهان است و تأثیر آن بسیار فراتر از مرزهای اتحادیه اروپا است. این قانون ممکن است مستقیماً برای شرکتی که در ترکیه مستقر است، اما در خدمت بازار اتحادیه اروپا، داشتن مشتریان اتحادیه اروپا یا فروش محصولات به اتحادیه اروپا، الزام آور باشد. در این بخش، منطق اصلی قانون - رویکرد مبتنی بر ریسک - را با چهار کلاس، روش‌های ممنوعه و بدهی‌های پرخطر می‌آموزید. ما سعی خواهیم کرد ارزیابی کنیم که یک استفاده در کدام جعبه قرار می گیرد.

ایده اصلی: هر چه ریسک بالاتر باشد، قانون سخت‌تر است

قانون هوش مصنوعی اتحادیه اروپا همه هوش مصنوعی را با هم جمع نمی کند. این سیستم یک سیستم هوش مصنوعی را با توجه به آسیب احتمالی آن به چهار دسته تقسیم می کند و برای هر دسته تعهدات متفاوتی را تحمیل می کند. توصیه موسیقی خطری مشابه با سیستم غربالگری استخدام ندارد. قانون همان قاعده را در مورد آنها اعمال نمی کند. این رویکرد مبتنی بر ریسک، ستون فقرات قانون است.

کلاس ریسک

معنی

مثال

حکومت کند

ممنوع (غیرقابل قبول)

تهدید آشکار برای حقوق اساسی

امتیازدهی اجتماعی، دستکاری ناخودآگاه

ممنوعیت کامل

ریسک بالا

زندگی انسان را به طور جدی تحت تأثیر قرار می دهد

استخدام، اعتبار، مراقبت های بهداشتی، آموزش، زیرساخت های حیاتی

مسئولیت سخت

ریسک محدود

نیاز به شفافیت دارد

ربات چت، دیپ فیک، محتوای هوش مصنوعی

اطلاع رسانی الزامی است

حداقل ریسک

ریسک ناچیز

فیلتر اسپم، هوش مصنوعی بازی، موتور توصیه

رایگان

برنامه های ممنوعه: خط قرمز

برخی از کاربردهای هوش مصنوعی به قدری مضر تلقی می شوند که صرف نظر از کاهش خطر، نمی توان آنها را آزاد کرد. اینها در گروه ممنوعه (خطر غیرقابل قبول) هستند:

• نمره گذاری اجتماعی با حمایت دولت (نمره گذاری افراد بر اساس رفتار/ویژگی هایشان و آسیب رساندن به آنها).
• سیستم هایی که ناخودآگاه افراد را دستکاری می کنند و باعث آسیب می شوند.
• سیستم هایی که از آسیب پذیری هایی مانند سن و ناتوانی استفاده می کنند.
• برخی کاربردهای شناسایی بیومتریک و نظارت انبوه در زمان واقعی (با استثنائات محدود).
• کاربردهای خاص مانند تشخیص احساسات در محیط کار و آموزش.

توجه: اینکه یک استعمال در دسته «ممنوع» است مانعی نیست که بتوان با گفتن «دلیل موجهی دارم» بر آن غلبه کرد. این اعمال کاملاً ممنوع است. حتی با اقدامات کاهش خطر نیز نمی توان آن را آزاد کرد. اولین بررسی که باید انجام شود این است که آیا پروژه در این لیست گنجانده شده است یا خیر.

بدهی های با ریسک بالا

سیستم های پرخطر ممنوع نیستند اما مشمول شرایط سختگیرانه هستند. مناطق پرخطر معمولی: استخدام و مدیریت کارمندان، اعتبار و بیمه، آموزش و ارزیابی آزمون، مراقبت های بهداشتی، زیرساخت های حیاتی، اجرای قانون و مهاجرت. تعهدات معمول در این سیستم ها:

1. ایجاد و حفظ سیستم مدیریت ریسک.
2. کیفیت داده ها و مدیریت سوگیری (نماینده و دقیق داده های آموزشی).
3. مستندات فنی و نگهداری سوابق (قابلیت ردیابی).
4. شفافیت و ارائه اطلاعات به کاربر.
5. کنترل انسانی (توانایی انسان برای مداخله و نادیده گرفتن).
6. تضمین دقت، استحکام و امنیت سایبری.

تعهدات هوش مصنوعی هدف عمومی (GPAI).

این قانون تعهدات شفافیت و مستندسازی خاصی را بر مدل‌های هوش مصنوعی همه منظوره (GPAI) - یعنی مدل‌های پایه چند منظوره مانند مدل‌های زبان بزرگ - و همچنین برای استفاده‌های فردی: ارائه خلاصه در مورد داده‌های آموزشی، خط‌مشی رعایت حق نسخه‌برداری، ارزیابی اضافی برای مدل‌های دارای ریسک سیستمی، تحمیل می‌کند. اگر سازمانی این مدل ها را در محصول خود تعبیه کند، ممکن است برخی از این تعهدات در زنجیره منعکس شود.

سه کیف کوچک

مورد 1 - غربالگری استخدام (خطر بالا). یک شرکت نرم افزاری در ازمیر یک پلت فرم استخدام را توسعه می دهد که به شرکت های اتحادیه اروپا خدمت می کند. سیستم به طور خودکار کاندیداها را نمره می دهد و حذف می کند. این حوزه ای است که قانون به وضوح آن را پرخطر می داند. شرکت؛ باید کیفیت داده ها، تست سوگیری، حسابرسی انسانی و تعهدات اسناد را برآورده کند. استدلال "ما در ترکیه هستیم، ما را مقید نمی کند" باطل است. از آنجایی که این سیستم در بازار اتحادیه اروپا استفاده می شود، قانون اعمال می شود.

مورد 2 - چت ربات مشتری (ریسک محدود). یک سایت تجارت الکترونیک یک ربات چت را به مشتریان اتحادیه اروپا ارائه می دهد. این در رده خطر محدود است. تعهد اصلی شفافیت است: کاربر باید به وضوح مطلع شود که "شما با یک هوش مصنوعی صحبت می کنید". کتمان این تخلف است. کافی است مشخص شود.

مورد 3 - نزدیک شدن به خط ممنوعه. یک زنجیره خرده‌فروشی می‌خواهد واکنش‌های احساسی مشتریان را از طریق دوربین‌های فروشگاه تجزیه و تحلیل کند و امتیاز "دزد بالقوه مغازه" را به آن بدهد. این در حوزه ممنوعه/خطر بسیار بالا با ابعاد تشخیص احساسات و امتیازدهی قرار می گیرد. تیم حقوقی پروژه را در مرحله طراحی متوقف می کند. واضح است که حتی با اقدامات کاهش ریسک هم نمی توان آن را اجرا کرد.

نکته: اولین سوال هنگام شروع یک پروژه هوش مصنوعی جدید این است که "این چقدر مفید است؟" بلکه "این در چه کلاس ریسکی قرار می گیرد؟" باید باشد. انجام طبقه بندی در وهله اول از هدر رفتن منابع در پروژه ای که بعداً لغو می شود جلوگیری می کند.

قالب های قابل کپی

الگوی 1 — ارزیابی اولیه طبقه خطر: "استفاده از هوش مصنوعی زیر را طبق قانون هوش مصنوعی اتحادیه اروپا از قبل ارزیابی کنید: [کاربرد را شرح دهید]. با توجیه مشخص کنید که در کدام طبقه خطر (ممنوع / زیاد / محدود / حداقل) قرار می گیرد. نکاتی را که مطمئن نیستید به عنوان "تأیید قانونی مورد نیاز" علامت گذاری کنید؛ قضاوت قانونی قطعی نکنید."

الگوی 2 — اسکن برنامه ممنوع: "ایده پروژه زیر را فقط در برابر لیست برنامه های کاربردی ممنوعه قانون هوش مصنوعی اتحادیه اروپا اسکن کنید: [پروژه را شرح دهید]. آیا خطری از نظر امتیازدهی اجتماعی، دستکاری ناخودآگاه، بهره برداری از آسیب پذیری، نظارت بیومتریک غیرمجاز، شناسایی احساسات/هدف و تشخیص فقط وجود دارد؟"

الگو 3 - چک لیست مسئولیت پرخطر: "برای این استفاده پرخطر از هوش مصنوعی، [کاربرد را توصیف کنید] جدول "وضعیت فعلی ما چیست، چه چیزی کم است" در شش عنوان مسئولیت (مدیریت ریسک، کیفیت داده ها، مستندات، شفافیت، حسابرسی انسانی، استحکام) ایجاد می کند. در هر ردیف یک اقدام مشخص پیشنهاد کنید."

الگوی 4 - اعلان شفافیت (خطر محدود): "برای یک ربات چت که به کاربران اتحادیه اروپا خدمات می دهد، یک اعلان کوتاه "شما در حال صحبت با هوش مصنوعی هستید" بنویسید تا به کاربر نمایش داده شود. ساده، اطمینان بخش، حداکثر 2 جمله. گزینه تغییر به یک عامل انسانی را نیز شامل شود."

اعلان ضعیف / اعلان قوی

ضعیف: "آیا قانون هوش مصنوعی اتحادیه اروپا به ما مربوط می شود؟" -> مدل یک پاسخ کلی می دهد. استفاده بتن شما را طبقه بندی نمی کند، ارتباط شما با بازار اتحادیه اروپا را ارزیابی نمی کند. GÜÇLÜ: "ما یک شرکت مستقر در ازمیر هستیم، ما هوش مصنوعی استخدام و غربالگری را به یک شرکت در آلمان می فروشیم. این استفاده از چه رده خطری تحت قانون هوش مصنوعی اتحادیه اروپا قرار می گیرد، چه تعهداتی بر دوش ما است و چرا بودن در ترکیه ما را معاف نمی کند؟ جایی که مطمئن نیستید را علامت بزنید." -> مدل یک طبقه بندی و لیست بدهی مختص زمینه را تولید می کند.

اشتباهات رایج

• فکر کردن "ما در ترکیه هستیم، قوانین اتحادیه اروپا ما را ملزم نمی کند"؛ با این حال، دست زدن به بازار اتحادیه اروپا کافی است.
• طبقه بندی ریسک پس از توسعه پروژه؛ با این حال، در وهله اول باید انجام شود.
• اشتباه گرفتن یک عمل ممنوع به عنوان مانعی که با «توجیه خوب» قابل رفع است.
• دور زدن گزارش شفافیت در سیستم‌های ریسک محدود (که ربات را شبیه انسان می‌کند).
• نادیده گرفتن حسابرسی انسانی و مدیریت سوگیری از بدهی های پرخطر.
• نادیده گرفتن این امر که تعهدات هوش مصنوعی (GPAI) با هدف عمومی ممکن است در زنجیره بازتاب پیدا کند.
• مبادله قانون هوش مصنوعی اتحادیه اروپا با KVKK؛ آنها متفاوت هستند اما مکمل یکدیگرند.

به طور خلاصه

• قانون هوش مصنوعی اتحادیه اروپا رویکردی مبتنی بر ریسک دارد و هوش مصنوعی را به چهار دسته تقسیم می‌کند: ممنوع، زیاد، محدود، حداقل.
• اعمال ممنوع (امتیاز اجتماعی، دستکاری، و غیره) حتی در صورت کاهش خطر نمی توانند آزاد شوند.
• سیستم های پرخطر؛ مشمول تعهدات سختگیرانه ای مانند مدیریت ریسک، کیفیت داده ها، کنترل انسانی و مستندسازی است.
• در سیستم های ریسک محدود، تعهد اصلی شفافیت است (گزارش وجود هوش مصنوعی).
• شرکت‌های ترکیه‌ای که بازار اتحادیه اروپا را لمس می‌کنند نیز تحت تأثیر این قانون قرار می‌گیرند. طبقه بندی باید در همان ابتدای پروژه انجام شود.

وظیفه کاربردی

سه کاربرد مختلف هوش مصنوعی را در نظر بگیرید که سازمان شما (یا یک شرکت ساختگی) ممکن است در رابطه با بازار اتحادیه اروپا از آنها استفاده کند. هر کدام را در یکی از چهار کلاس خطر قانون هوش مصنوعی اتحادیه اروپا قرار دهید و توجیه خود را بنویسید. شش تعهد پرخطر را برای استفاده ای که بالاترین ریسک را پیدا می کنید در نمودار کنترل قرار دهید: ستون های «وضعیت فعلی» و «ناقص/عمل» را پر کنید. یک بیانیه شفافیت بنویسید که برای استفاده ای که در رده خطر محدود قرار می گیرد به کاربر نمایش داده می شود. در نهایت، اگر هر یک از استفاده های شما به خط ممنوعه نزدیک می شود، به این و چرایی آن توجه کنید.

چک لیست

• [ ] من هر استفاده از هوش مصنوعی را در یکی از چهار کلاس خطر قرار دادم.
• [ ] من پروژه های خود را در برابر لیست برنامه های ممنوعه اسکن کردم.
• [ ] من یک نمودار کنترل بدهی برای استفاده با ریسک بالا ایجاد کردم.
• [ ] من حسابرسی انسانی و مدیریت سوگیری را در تعهدات گنجاندم.
• [ ] من یک بیانیه شفافیت برای استفاده با ریسک محدود آماده کرده ام.
• [ ] من درک می کنم که چرا ارتباط من با بازار اتحادیه اروپا باعث ایجاد قانون شد.
• [ ] طبقه بندی ریسک را در ابتدای پروژه انجام دادم نه در پایان.