KVKK، حریم خصوصی و مدیریت هوش مصنوعی عمومی مسئول

سود:

• هنگام پردازش داده های شخصی شهروندان در ابزارهای هوش مصنوعی، اصول KVKK و به حداقل رساندن داده ها را اعمال می کند.
• این یک چارچوب حاکمیتی برای یک سازمان ایجاد می کند که شامل خط مشی استفاده از هوش مصنوعی، مسیر حسابرسی و زنجیره مسئولیت است.
• این به طور کلی استدلال می کند که هوش مصنوعی عمومی مسئول مبتنی بر نظارت، شفافیت و مسئولیت پذیری انسانی است.

در طول این ماژول، دیدیم که هوش مصنوعی چگونه یک شتاب دهنده قدرتمند در عموم است: پاسخ به سوالات شهروندان، دادخواست ها و مکاتبات، تحقیقات قانونی، تجزیه و تحلیل سیاست، گزارش، تصمیم گیری مبتنی بر داده، دولت الکترونیک و شفافیت. اکنون به چارچوبی می رسیم که همه اینها را در کنار هم نگه می دارد: حفاظت از داده های شخصی و حکومت مسئولانه. عمومی، طبق ماهیت خود، حساس ترین داده های شهروند را پردازش می کند: هویت، آدرس، درآمد، سلامت، سابقه کیفری، وضعیت خانواده. پردازش این داده ها با ابزارهای هوش مصنوعی باید کاملاً با چارچوب KVKK (قانون حفاظت از داده های شخصی شماره 6698؛ قانون تنظیم کننده پردازش قانونی، محدود و ایمن داده های شخصی) مطابقت داشته باشد. در این بخش نهایی، ما ستون فقرات حریم خصوصی و حاکمیت استفاده از هوش مصنوعی عمومی را ایجاد خواهیم کرد - چه داده هایی را می توان به کدام ابزار داد، چه سیاست هایی اعمال می شود، چه کسی مسئول است، چگونه یک سازمان هوش مصنوعی را ایمن مدیریت می کند. این واحد سقفی است که بر روی ده واحد قبلی قرار گرفته است.

اصول اولیه KVKK لمس هوش مصنوعی عمومی

KVKK چندین اصل اساسی را تعیین می کند که هر یک مستقیماً استفاده از هوش مصنوعی را محدود می کند:

• مطابقت با قانون و پایبندی به هدف: داده های شخصی فقط برای یک هدف خاص و مشروع پردازش می شوند. داده‌های جمع‌آوری‌شده برای یک هدف (مثلاً درخواست کمک) را نمی‌توان برای هدف دیگری (مثلاً آموزش یک مدل) بدون اجازه استفاده کرد.
• به حداقل رساندن داده ها: هیچ داده ای بیش از حد لازم برای هدف پردازش نمی شود. اگر نامی برای تجزیه و تحلیل دسته بندی لازم نباشد، نامی داده نمی شود.
• امنیت: داده ها در برابر دسترسی غیرمجاز محافظت می شوند. چسباندن داده‌های شهروندان در ابزار هوش مصنوعی عمومی، خارج کردن آن داده‌ها از سازمان است – این نقض خط‌مشی امنیتی است.
• دوره ذخیره سازی: داده ها با پایان یافتن هدف حذف می شوند. به طور نامحدود نگهداری نمی شود.
• اطلاعات و حقوق: شهروندان این حق را دارند که بدانند داده های آنها چگونه پردازش می شود، اصلاح می شود، حذف می شود و به تصمیمات خودکار اعتراض می کنند.

توجه: بارگذاری داده‌های یک شهروند در ابزار هوش مصنوعی عمومی که مؤسسه آن را تأیید نکرده است، جایی که داده‌ها در آن ذخیره می‌شوند و اینکه چه کسی به آن دسترسی دارد نامشخص است، در بیشتر موارد نقض KVKK است و مؤسسه را در معرض تحریم قرار می‌دهد. قوانین هرگز "برای آسان کردن کار" خم نمی شوند.

کدام داده، به کدام وسیله نقلیه؟ مدل سه منطقه ای

به عنوان یک قانون کلی، داده ها را به سه منطقه تقسیم کنید:

1. قرمز (هرگز وارد وسیله نقلیه عمومی نمی شود): شماره شناسه، سلامت، جنایت، مذهب، قومیت، بیومتریک، آدرس کامل، هر چیزی که فرد را شناسایی کند. اینها فقط در یک محیط قراردادی/داخلی و مطابق با KVKK مورد تایید موسسه پردازش می شوند.
2. زرد (با دقت، با پوشاندن): داده هایی که می توانند به طور غیر مستقیم به فرد مرتبط شوند. ابتدا ناشناس/تجمع کنید، سپس پردازش کنید.
3. سبز (رایگان): اطلاعات غیر شخصی، عمومی، عمومی (متن قانونی، آمار عمومی، رویه عمومی). شما به راحتی می توانید این موارد را با هوش مصنوعی پردازش کنید.

نکته: قبل از دادن متن به هوش مصنوعی، تست 5 ثانیه ای را انجام دهید: "آیا چیزی در این محتوا وجود دارد که بتواند یک شخص را شناسایی کند؟" اگر پاسخ «بله/شاید» است، یک وسیله نقلیه تایید شده را بپوشانید یا رانندگی کنید. اگر شک دارید، رنگ قرمز را در نظر بگیرید.

حاکمیت شرکتی: از فردی به سیستم

هوش مصنوعی عمومی مسئول را نمی توان به اراده خوب کارمندان دولتی واگذار کرد. یک چارچوب نهادی مورد نیاز است:

• خط‌مشی: موسسه باید یک خط‌مشی استفاده از هوش مصنوعی داشته باشد: ابزارهایی که تایید می‌شوند، چه داده‌هایی را می‌توان وارد کرد، چه کسی مسئول است.
• لیست ابزار تایید شده: پرسنل باید از ابزارهایی استفاده کنند که موسسه ارزیابی و تایید کرده است نه به صورت تصادفی.
• آموزش: کارکنان باید رشته تأیید و مناطق داده را بدانند (مانند این ماژول).
• ضبط و ممیزی: یک دنباله حسابرسی از تصمیمات تولید شده با هوش مصنوعی باید نگه داشته شود.
• پاسخگویی: هر خروجی مبتنی بر هوش مصنوعی باید دارای مالک و تایید انسانی باشد. مسئولیت بر عهده موسسه و افسر است نه وسیله نقلیه.
• اصل انسان محوری: هیچ تصمیم نهایی برای ایجاد/محدود کردن حقوق بدون رضایت انسان اتخاذ نمی شود.

سه کیف کوچک

مورد 1 - از نشت داده قرمز جلوگیری شد. یکی از کارکنان قصد داشت خلاصه‌ای از فهرستی از مزایای سلامتی 1200 نفر را در یک ابزار عمومی آپلود کند. به لطف سیاست خودرو تایید شده آژانس و آموزش "داده های قرمز"، متوقف شد. داده ها در یک محیط تایید شده داخلی و با فیلدهای هویت پوشانده شده پردازش شدند. از نقض احتمالی KVKK و سلب اعتماد ده ها هزار نفر جلوگیری شد.

مورد 2 - سوء استفاده یک واحد می‌خواست از داده‌های جمع‌آوری‌شده برای اطلاع‌رسانی برای یک طرح ارتباطات قبل از انتخابات استفاده کند. افسر حفاظت از داده ها اصل پایبندی به هدف را یادآور شد: این استفاده از داده ها خارج از هدفی بود که برای آن جمع آوری شده بود و غیرقانونی بود. این درخواست رد شد.

مورد 3 - شکاف حاکمیتی بسته شد. در یک شهرداری، واحدهای مختلف بدون کنترل از ابزارهای هوش مصنوعی مختلف استفاده می کردند. هیچ کس نمی دانست کدام داده ها کجا رفته اند. آژانس یک خط مشی استفاده از هوش مصنوعی، لیست وسایل نقلیه تایید شده و مسیر حسابرسی را معرفی کرد. در عرض 3 ماه، استفاده از وسایل نقلیه ثبت نشده 90٪ کاهش یافت و موجودی داده ایجاد شد.

چهار قالب قابل کپی

1) طبقه بندی منطقه داده (قبل از صادرات به وسیله نقلیه):

نقش شما: مشاور حفاظت از داده ها محتوای زیر را قبل از دادن آن به یک عامل هوش مصنوعی طبقه‌بندی کنید: قرمز (فرد را مشخص می‌کند، هرگز وارد وسیله نقلیه عمومی نمی‌شود)، زرد (قابل اتصال غیر مستقیم، ماسک)، سبز (غیر شخصی، رایگان). قسمت‌های قرمز/زرد را یکی یکی علامت‌گذاری کنید و به آن‌ها بگویید چگونه ماسک کنند. مظنون را قرمز بشمارید. محتوا: [متن]

2) پوشاندن / ناشناس سازی:

قبل از پردازش متن زیر، همه داده‌های شخصی را ناشناس کنید: نام -> [PERSON-1]، شماره شناسه -> [IDENTITY]، آدرس ->[ADDRESS]، سلامت/مجازات -> [SENSITIVE]. همین شخص را تگ کنید متن ناشناس را جداگانه صادر کنید. هرگز داده های واقعی را روی خروجی ننویسید. TEXT: [متن]

3) چک لیست انطباق KVKK (برای استفاده از هوش مصنوعی):

نقش شما: متخصص انطباق KVKK. یک چک لیست انطباق برای استفاده زیر از هوش مصنوعی تهیه کنید: (1) هدف پردازش مشروع و خاص است، (2) آیا به هدف مرتبط است (آیا به هدف دیگری تغییر می کند)، (3) آیا بهینه شده است، (4) آیا ابزار ایمن/تأیید شده است، (5) دوره نگهداری مشخص است، (6) آیا حقوق شهروندی (اعتراض، حذف) محافظت می شود. موارد گم شده را با یک پرچم قرمز علامت گذاری کنید. نحوه استفاده: [دستور پخت]

4) چارچوب سیاست هوش مصنوعی شرکت:

نقش شما: کارشناس حاکمیت فناوری اطلاعات عمومی. چارچوب خط مشی استفاده از هوش مصنوعی را برای سازمان خود تولید کنید: محدوده، ابزارهای تایید شده، مناطق داده (قرمز/زرد/سبز)، استفاده‌های ممنوعه، نقاط تایید انسانی، مسیر حسابرسی، مسئولیت‌ها، آموزش و اعلان تخلف. هر عنوان را با 1-2 جمله پر کنید. موسسه: [واحد و مشاغل معمولی]

اعلان ضعیف / اعلان قوی

ضعیف: "این فهرست منابع را خلاصه کنید."

قوی: "نقش شما مشاور حفاظت از داده است. ابتدا، این لیست را بر اساس منطقه داده ها (قرمز/زرد/سبز) طبقه بندی کنید و همه فیلدهایی را که فرد را مشخص می کنند علامت گذاری کنید. فیلدهای قرمز/زرد را با [PERSON]/[IDENTITY]/[SENSITIVE] بپوشانید، همان شخص را با همان برچسب نگه دارید. فقط خلاصه دسته را با داده های شخصی ناشناس تولید کنید، در پایان داده های شخصی را ارسال نکنید. جایی که این فرآیند از نظر KVKK (هدف، ذخیره سازی، امنیت خودرو) نیاز به توجه دارد."

تفاوت: اعلان قدرتمند قبل از پردازش داده ها، اصول KVKK را طبقه بندی، پوشانده، به حداقل می رساند و یکپارچه می کند.

مناطق داده و قانون

منطقه

مثال

حکومت کند

قرمز

شماره TR ID، سلامت، جریمه، آدرس کامل

هرگز وارد یک وسیله نقلیه عمومی نشوید؛ محیط تایید شده

زرد

سن + محله + شغل، شناسه غیر مستقیم

ماسک/جمع کنید، سپس پردازش کنید

سبز

قانون، آمار عمومی، رویه عمومی

کار آزاد

اشتباهات رایج

• صادرات داده های قرمز به ابزار عمومی. جدی ترین تخلف؛ داده های شناسه / سلامت / مجازات از محیط تایید شده خارج نمی شود.
• سوء استفاده استفاده از داده های جمع آوری شده برای یک هدف برای اهداف دیگر (آموزش مدل، ارتباط) بدون مجوز خلاف قانون است.
• پردازش داده های بیش از حد فیلدهای غیر ضروری (نام، آدرس) را برای این منظور جابجا نکنید. به حداقل رساندن.
• رانندگی بدون تایید مشخص نیست که داده ها در خودروهایی که موسسه ارزیابی نکرده است کجا می رود.
• عدم تعیین مدت نگهداری پس از تکمیل هدف، داده ها باید حذف شوند. نباید به طور نامحدود نگهداری شود.
• سپردن مسئولیت بر عهده وسیله نقلیه خروجی متعلق به انسان و تایید آن است. "هوش مصنوعی آن را انجام داد" یک دفاع نیست.

به طور خلاصه

چارچوب هوش مصنوعی عمومی مسئول حفاظت از داده های شخصی و حاکمیت شرکتی است. اصول KVKK - هدفمندی، به حداقل رساندن، امنیت، محدودیت حفظ، حقوق شهروندی - هرگونه استفاده از هوش مصنوعی را محدود می کند. داده ها را به مناطق قرمز/زرد/سبز جدا کنید، هرگز رنگ قرمز را به ابزار عمومی ندهید، داده های شخصی را پنهان کنید، فقط از ابزارهای تایید شده استفاده کنید و یک مالک انسانی را به هر تصمیمی متصل کنید. خط مشی سطح سازمانی، لیست خودروهای تایید شده، سوابق آموزش و بازرسی؛ نظم و انضباط تأیید در سطح شخص. بنابراین، هوش مصنوعی با حمایت از حقوق شهروندان به مردم خدمت می کند.

وظیفه کاربردی

استفاده واقعی از هوش مصنوعی را که در واحد خود انجام داده اید (یا در حال بررسی آن هستید) انتخاب کنید. محتوایی را که پردازش می کنید با الگوی "طبقه بندی منطقه داده ها" به رنگ قرمز/زرد/سبز جدا کنید. الگوی "چک لیست رعایت KVKK" را اعمال کنید و حداقل یک نقطه گمشده/خطرناک را پیدا کنید. در نهایت، با «اسکلت خط مشی هوش مصنوعی شرکتی» یک خط مشی کوتاه مناسب برای واحد خود پیش نویس کنید.

چک لیست

• [ ] من محتوا را به منطقه قرمز/زرد/سبز تقسیم کردم. مظنون را قرمز شمردم.
• [ ] من داده های قرمز را به ابزار عمومی ارائه نکردم. من از رسانه تایید شده استفاده کردم.
• [ ] من داده های شخصی را پنهان کردم و فیلدهای غیر ضروری را حذف کردم (به حداقل رساندن).
• [ ] من هدف پردازش، مدت زمان ذخیره سازی و امنیت وسیله نقلیه را بررسی کرده ام.
• [ ] حقوق شهروندی اعتراض/حذف را رعایت کرده ام.
• [ ] من یک مالک انسانی و تاییدیه به هر خروجی پیوست کردم. من دنبال حسابرسی نگه داشتم.

امتحان ماژول

1. به عنوان یک مقام دولتی، بهترین سوالی که باید قبل از واگذاری شغل به هوش مصنوعی بپرسید چیست؟

• الف) اگر این خروجی اشتباه باشد، شهروند چه چیزی را از دست می دهد؟ ✔
• ب) هوش مصنوعی با چه سرعتی می تواند این کار را انجام دهد؟
• ج) آیا این ابزار هوش مصنوعی رایگان است؟
• د) آیا واحد دیگری نیز از این خروجی استفاده خواهد کرد؟

توضیح: تصمیم به انتقال بر اساس خسارتی است که در صورت نادرست بودن خروجی متحمل شهروندان خواهد شد. اگر فقط چند دقیقه بازنویسی باشد، آسیب به راحتی منتقل می شود. اگر رد ناعادلانه، جریمه اشتباه یا از دست دادن حقوق باشد، هوش مصنوعی فقط یک پیش نویس تولید می کند، تصمیم و تأیید متعلق به مقام رسمی است.

2. زمانی که هوش مصنوعی یک قانون غیرموجود یا یک تصمیم جعلی دادگاه را واقعی معرفی می کند، چه نامیده می شود؟

• الف) ذخیره سازی
• ب) تریاژ
• ج) ناشناس سازی
• د) توهم ✔

توضیح: توهم زمانی است که هوش مصنوعی اطلاعاتی را با اطمینان تولید می کند که در واقع وجود ندارد (مواد ساختگی، مقررات لغو شده، شماره اشتباه). در حوزه قانون گذاری، این یکی از خطرناک ترین خطرات است، زیرا می تواند منجر به تضییع حقوق و لغو اقدام اداری شود.

3. یک افسر در شرف رد درخواست بر اساس یک ماده مقرراتی است که توسط YZ اشاره شده است. صحیح ترین رفتار کدام است؟

• الف) هوش مصنوعی مستقیماً رد را می نویسد زیرا مطمئن به نظر می رسد
• ب) همین سوال را از خودروی هوش مصنوعی دیگری بپرسید و تاییدیه بگیرید
• ج) مقاله را از متن تلفیقی فعلی در Çözüm.gov.tr تأیید می کند ✔
• د) شفاهی تصمیم را از مافوق می پرسد

توضیحات: داده های آموزشی هوش مصنوعی در یک تاریخ معین منجمد شده است. مقاله ای که نشان می دهد ممکن است لغو یا تغییر یافته باشد. تأیید اینکه مقاله لازم الاجرا است و نسخه نهایی آن از متن تلفیقی فعلی در Çözüm.gov.tr ​​قبل از تصمیم گیری، از رد ناعادلانه و دعوای ابطال احتمالی جلوگیری می کند.

4. چرا برای یک چت بات شهروندی تضمین کیفیت است که بتواند بگوید "نمی دانم، من شما را به یک مقام رسمی منتقل می کنم"؟

• الف) با افزایش نرخ گردش مالی، آمار را بهبود می بخشد
• ب) با واگذاری اطلاعات به انسان در مواقعی که مطمئن نیستید از اطلاعات نادرست جلوگیری می کند ✔
• ج) با پرت کردن حواس شهروندان، زمان تماس را افزایش می دهد
• د) به چت ربات اجازه می دهد سوالات کمتری دریافت کند

توضیح: در ملاء عام، یک پاسخ اشتباه مطمئن بسیار پرهزینه تر از یک برداشت صادقانه است. منجر به تضییع حقوق و بی اعتمادی به نهاد می شود. توانایی ربات چت برای تحویل به انسان در صورت عدم اطمینان مکانیزم ایمنی است که از اطلاعات غلط توهم‌آمیز جلوگیری می‌کند.

5. مهم ترین خطری که باید هنگام «ساده کردن» مکاتبات رسمی با هوش مصنوعی در نظر گرفت چیست؟

• الف) متن خیلی کوتاه است
• ب) تغییر فونت
• ج) کنار گذاشتن شرط یا استثنا ✔
• د) غلط املایی نام مخاطب

توضیح: اقتباس سبکی نباید محتوا را تغییر دهد. هنگام ساده سازی، هوش مصنوعی گاهی اوقات استثنا، شرط یا مدت زمان را حذف می کند. بنابراین، متن ساده شده باید همیشه با تصمیم یا قانون اصلی مقایسه شود.

6. نام و نام خانوادگی و ت.ر. در یک مجموعه داده وقتی ترکیب "همسایگی + سال تولد + نوع معلولیت" می تواند یک فرد را نشان دهد، حتی اگر شماره شناسایی حذف شده باشد، آن را چه می نامید؟

• الف) تعریف مجدد ✔
• ب) به حداقل رساندن داده ها
• ج) میزان پوشش
• د) تحکیم

توضیح: شناسایی مجدد یافتن یک شخص از طریق ترکیبی از شناسه های غیرمستقیم از داده هایی است که گمان می رود ناشناس هستند. اگر یک دسته نادر در یک فرد یافت شود، حذف نام کافی نخواهد بود. اقدامات اضافی مورد نیاز است، مانند تبدیل سن به محدوده و ترکیب دسته‌های نادر.

7. زمانی که یک مدل بازرسی محله ای را که در گذشته به شدت مورد بازرسی قرار گرفته است را به عنوان "خطرناک" علامت گذاری می کند و بازرسی های بیشتری را به آنجا می فرستد، که مدل را وادار می کند تا آن محله را پرخطرتر ببیند، چه نامیده می شود؟

• الف) به حداقل رساندن داده ها
• ب) توهم
• ج) ناشناس سازی
• د) حلقه بازخورد ✔

توضیح: حلقه بازخورد زمانی است که خروجی مدل بر داده های آموزشی بعدی تأثیر می گذارد و سوگیری موجود را تقویت می کند. تفاوت نه در ریسک واقعی، بلکه در جایی که فرد به آن نگاه می کند افزایش می یابد. راه محافظت از خود این است که بر تأثیر، نه خروجی، و کنترل توزیع تصمیمات مبتنی بر گروه نظارت کنید.

8. پس از اینکه یک اپلیکیشن مزایا به طور کامل آنلاین شد، تعداد برنامه ها در ماه اول 30 درصد کاهش یافت. محتمل ترین توضیح برای این چیست؟

• الف) نیازهای واقعی شهروندان کاهش یافته است
• ب) شهروندان بدون اینترنت و سواد دیجیتال کنار گذاشته شدند ✔
• ج) بهره کاهش یافت زیرا مبلغ کمک کاهش یافت
• د) سیستم به طور خودکار همه برنامه ها را تایید کرد

توضیحات: شکاف دیجیتالی ناتوانی شهروندان بدون دسترسی به اینترنت یا سواد دیجیتال در دسترسی به خدمات است. این تعداد کاهش می یابد زیرا نیازمندترین گروه یعنی سالمندان و شهروندان بدون اینترنت نمی توانند درخواست دهند. راه حل این است که کانال های جایگزین مانند نقاط ارجاع کمکی را ترک کنید.

9. در حالی که میزان موفقیت واقعی در یک گزارش سالانه 63 درصد است، خلاصه اجرایی ارائه شده توسط YZ می گوید که "اکثریت قریب به اتفاق برنامه ها مثبت بودند." رفتار صحیح چیست؟

• الف) بیان به دلیل مثبت بودن به حال خود رها شده است.
• ب) نسبت حذف شده و فقط از عبارت کیفی استفاده می شود
• ج) عبارت با عدد واقعی 63 درصد جایگزین می شود ✔
• د) خلاصه به طور کامل از گزارش حذف می شود

توضیح: برداشت مثبت اغراق آمیز در گزارش عمومی، موسسه را در ممیزی های بعدی در شرایط دشواری قرار می دهد. هر ادعا در خلاصه اجرایی باید با داده های خام مقایسه شود و عدد واقعی (63 درصد) نوشته شود. خلاصه های هوش مصنوعی بدون ممیزی در گزارش گنجانده نمی شوند.

10. هنگام اتخاذ تصمیمات مبتنی بر داده در بخش عمومی، اگر «تعداد فایل‌های بسته شده ماهانه» افزایش یابد در حالی که «نرخ وضوح در اولین تماس» کاهش یابد، این ابتدا چه چیزی را به ما می‌آموزد؟

• الف) انتخاب نشانگر مناسب مهمتر از ضرب عدد ✔ است
• ب) تعداد پرسنل افزایش یابد
• ج) نمودارها باید رنگی باشند
• د) چت بات باید به سوالات بیشتری پاسخ دهد

توضیح: نشانگر اشتباه حتی با داده های صحیح منجر به تصمیم اشتباه می شود. ممکن است فایل ها به سرعت بسته شده و دوباره باز شوند. انتخاب نشانگر مناسب و خواندن شاخص ها با هم از لاف زدن تنها بر اساس یک عدد گمراه کننده جلوگیری می کند.

11. در نمودار، محور عمودی به جای صفر از 40 شروع می شود و افزایش 2 درصدی به نظر می رسد یک پرش چشمگیر نمونه ای از چه مشکلی است؟

• الف) توهم
• ب) به حداقل رساندن داده ها
• ج) شکاف دیجیتال
• د) تجسم گمراه کننده ✔

توضیح: تجسم گمراه کننده، ادراک را از طریق تکنیک هایی مانند شروع نکردن محور از صفر، مقیاس نامتناسب یا دوره زمانی انتخاب شده، تحریف می کند. بخشی از حکومت بصری صادقانه در داده های عمومی است. جدول واقعی باید با کشیدن محور به سمت صفر نشان داده شود.

12. چرا غیرقابل قبول است که بگوییم «AI آن را نوشته است» به عنوان توجیهی برای یک اقدام اداری؟

• الف) زیرا ابزارهای هوش مصنوعی بسیار گران هستند
• ب) اقدام اداری باید موجه بوده و مسئولیت آن بر عهده مامور می باشد ✔
• ج) چون هوش مصنوعی ترکی نمی داند
• د) زیرا شهروندان هوش مصنوعی را دوست ندارند

توضیح: اقدام اداری باید مستدل و قابل حسابرسی باشد. مسئولیت بر عهده هوش مصنوعی نیست، بلکه بر عهده مقام دولتی و نهادی است که از خروجی بدون تأیید آن استفاده می کند. "هوش مصنوعی چنین گفته است" یک توجیه نیست و اقدامات اداری را حفظ نمی کند.

13. چهار اصل که استفاده از هوش مصنوعی در بخش دولتی را از بخش خصوصی متمایز می کند و باید علاوه بر آن رعایت شود چیست؟

• الف) سرعت، ارزانی، سودآوری، رقابت
• ب) اتوماسیون، مقیاس، بازاریابی، نام تجاری
• ج) برابری، شفافیت، پاسخگویی، حفاظت از داده های شخصی ✔
• د) حریم خصوصی، رازداری، حریم خصوصی و رازداری

توضیح: در کارهایی که از قدرت عمومی استفاده می شود، هوش مصنوعی با اصول برابری (برخورد مشابه با وضعیت مشابه)، شفافیت (قابلیت توضیح توجیه تصمیم)، پاسخگویی (مسئول هر معامله و مسیر حسابرسی) و حفاظت از داده های شخصی (KVKK) چارچوب بندی می شود.

14. یک سیستم خودکار قبل از پرواز زمانی که از نوع سند کمیاب مطمئن نیست چه کاری باید انجام دهد؟

• الف) رد درخواست بی سر و صدا
• ب) ارسال درخواست به بررسی انسانی ✔
• ج) به طور خودکار برنامه را تأیید کنید
• د) برنامه را حذف کنید

توضیح: اتوماسیون خوب مدل را در زمانی که مطمئن نیست به جای رد کردن بی سر و صدا به سمت افسر هدایت می کند. در غیر این صورت، برنامه های کاربردی قانونی در نقطه کور قرار می گیرند و قربانی شدن رخ می دهد. نگه داشتن افراد در نقطه تصمیم گیری اساس مدیریت استثناست.