حریم خصوصی، KVKK، اخلاق و اصول حرفه ای

سود:

• امکان طبقه بندی و ناشناس سازی داده های دانش آموزان در چارچوب KVKK و مفاهیم ویژه داده های شخصی و اعمال انتخاب ایمن وسیله نقلیه
• توانایی تطبیق اصول اخلاق حرفه ای PDR (محرمانه بودن، سودمندی، عدم سوء استفاده، خودمختاری) با استفاده از هوش مصنوعی
• توانایی تشخیص سوگیری، عدم حساسیت فرهنگی و توهم در خروجی هوش مصنوعی و ایجاد یک خط مشی استفاده اخلاقی

اعتماد در قلب حرفه PDR است. اگر دانش‌آموزی می‌تواند صمیمی‌ترین احساسات، خانواده و ترس‌های خود را به متخصص بگوید، تنها به این دلیل است که معتقد است از اطلاعات محافظت می‌شود. ابزارهای هوش مصنوعی یک آزمون جدی جدید برای این اعتماد ایجاد می کنند: حساس ترین داده ها می توانند در یک جمله از کنترل خارج شوند. در این بخش، ما به طور سیستماتیک حریم خصوصی، اخلاق حرفه ای KVKK، PDR و نحوه اعمال آنها در استفاده از هوش مصنوعی را مورد بحث قرار می دهیم. این اصول را تکه تکه در واحدهای قبلی به کار برده ایم. در اینجا ما آن را به عنوان یک کل ترکیب می کنیم و آن را به یک سیاست دائمی تبدیل می کنیم.

KVKK و انواع داده: چه چیزی بیشتر محافظت می شود

KVKK (قانون حفاظت از داده های شخصی) قانونی است که پردازش قانونی داده های افراد را تنظیم می کند. دو مفهوم اهمیت ویژه ای دارند. اطلاعات شخصی هر گونه اطلاعاتی است که یک شخص را شناسایی یا شناسایی می کند: نام، نام خانوادگی، شماره مدرسه، کلاس، آدرس، عکس. داده‌های شخصی ویژه نوعی از داده‌های حساس است که نیاز به حفاظت بالاتری دارد: سلامت، وضعیت روانی، تشخیص، زندگی جنسی، مذهب، قومیت، وضعیت جنایی. اکثر رکوردهای PDR در این دسته دوم و حساس قرار می گیرند. زیرا وضعیت روانی، مسائل خانوادگی و سابقه حمایت مستقیماً داده های خصوصی هستند. این بدان معنی است که داده های PDR هرگز نباید به صورت خام در ابزارهای عمومی وارد شوند.

در عمل، این به سه قانون تبدیل می شود: (1) به حداقل رساندن داده ها - کار با کمترین مقدار داده مورد نیاز برای انجام یک کار. (2) ناشناس سازی - با حذف اطلاعات قابل شناسایی شخصی، داده ها را غیرقابل پیوند با فرد می کند. (3) ابزار امن و مرز هدف - در صورت امکان از ابزارهای سازمانی ایمن شده با داده استفاده کنید و داده ها را فقط برای هدفی که برای آن جمع آوری شده است پردازش کنید.

توجه: گفتن «به نحوی ناشناس کردم» کافی نیست. حتی اگر نامی از متن حذف شود، توصیف منحصر به فرد موقعیت (موقعیت بسیار خاص در یک دانش آموز مجرد در یک مدرسه کوچک) می تواند فرد را قابل شناسایی کند. در ناشناس سازی، نه تنها نام، بلکه جزئیاتی را که با هم نشان دهنده شخص است، تعمیم دهید.

روش ناشناس سازی: یک روش کنترل

قبل از صدور متن به ابزار، این روش را دنبال کنید: (الف) شناسه های مستقیم مانند نام، نام خانوادگی، شماره، شاخه کلاس، نام والدین، آدرس، تلفن، نام مدرسه را حذف کنید. (ب) توصیفگرهای غیرمستقیم را تعمیم دهید: "دانش آموز راهنمایی" به جای "تنها دانش آموز کم بینا در 12-B". (ج) تاریخ و جزئیات رویداد را در صورت لزوم محو کنید. (د) پس از خواندن: "آیا کسی که این متن را می خواند می تواند بفهمد که از چه کسی نام برده شده است؟" اگر پاسخ مبهم است، بیشتر تعمیم دهید. سابقه احراز هویت فقط در سیستم بسته و ایمن موسسه نوشته می شود. ابزار هوش مصنوعی خارج از این سیستم است.

اخلاق حرفه ای PDR و هوش مصنوعی

اخلاق حرفه ای PDR بر چهار اصل اساسی استوار است که هر یک مستقیماً در استفاده از هوش مصنوعی اعمال می شود:

• محرمانگی (حفظ اسرار): اطلاعات دانشجو محفوظ است. وارد نکردن داده های خام به هوش مصنوعی، ناشناس کردن آن و انتخاب یک ابزار ایمن از الزامات این اصل است.
• سودمندی: هر کاری که انجام می شود باید در خدمت رفاه دانش آموز باشد. هوش مصنوعی برای راحتی استفاده می شود، نه به گونه ای که منافع دانش آموز را به خطر بیندازد.
• Nonmaleficence: اولویت این است که آسیبی نرسانید. خروجی تایید نشده، آمارهای نادرست، برچسب‌گذاری و استفاده از هوش مصنوعی در بحران خطرات آسیب‌رسانی هستند. بنابراین تأیید و مرز بحران یک الزام اخلاقی است.
• خودمختاری: حق دانش آموز برای تصمیم گیری خود محفوظ است. هوش مصنوعی نباید دانش آموز را به یک برچسب تقلیل دهد یا از طرف او تصمیم بگیرد.

مسئولیت پذیری به این اضافه می شود: مسئولیت هر خروجی استفاده شده با متخصص است. "هوش مصنوعی آن را تولید کرد" یک دفاع نیست.

تعصب، حساسیت فرهنگی و شفافیت

هوش مصنوعی می تواند الگوهای اجتماعی را در داده های آموزشی منعکس کند. در PDR، این یک مسئله انصاف است: نتایجی که یک دانش آموز را بر اساس جنسیت، فرهنگ یا وضعیت اجتماعی-اقتصادی آنها کلیشه می سازد، برابری فرصت ها را تضعیف می کند. کارشناس محتوای تولید شده را از نظر حساسیت فرهنگی و سوگیری بررسی می کند. همچنین شفافیت: در صورت لزوم، باید در داخل مشخص شود که هوش مصنوعی در تهیه یک ماده یا پیش نویس استفاده شده است. نباید به عنوان یک "جادو" مخفی استفاده شود. رازداری در رابطه با دانش آموز ضروری است. آنچه دانش آموز توضیح می دهد به وسیله نقلیه منتقل نمی شود.

گام به گام: ایجاد یک خط مشی استفاده از هوش مصنوعی

1. طبقه بندی داده ها تمام اطلاعاتی را که دارید به عنوان "شخصی / خصوصی / عمومی" جدا کنید.
2. وسیله نقلیه را انتخاب کنید تنها ابزار امن و سازمانی برای داده های حساس؛ برای طرح کلی به صورت ناشناس کار کنید.
3. روند ناشناس سازی را دنبال کنید. روال چک را قبل از هر ورودی اجرا کنید.
4. اعتبارسنجی و بررسی سوگیری هر خروجی را از نظر واقعیت و انصاف بررسی کنید.
5. حد بحران را حفظ کنید. رابطه بحران و مشاوره را از خودرو دور نگه دارید.
6. مسئولیت پذیر باشید و شفاف باشید. تایید نهایی متعلق به کارشناس است. استفاده در سازمان آزاد است.

قالب های قابل کپی

1) کنترل ناشناس سازی:

نقش شما: دستیار حسابرسی حریم خصوصی. هر عبارتی را در متن زیر فهرست کنید که می تواند به طور مستقیم یا غیرمستقیم فرد را شناسایی کند (نام، شماره، کلاس، مدرسه، شرح موقعیت منحصر به فرد) و جایگزین کلی تری برای هر کدام پیشنهاد کنید. نظر دادن محتوا. متن: [پیست متن]

2) ممیزی تعصب و حساسیت فرهنگی:

مطالب PDR زیر را از نظر سوگیری و حساسیت فرهنگی بررسی کنید: آیا حاوی کلیشه‌هایی درباره جنسیت، فرهنگ، وضعیت اجتماعی-اقتصادی یا ساختار خانواده است؟ چه کسی می تواند حذف شود؟ اظهارات پرخطر را علامت گذاری کنید و جایگزین های فراگیر را پیشنهاد دهید. مواد: [ماده چسباندن]

3) پیش نویس خط مشی استفاده از هوش مصنوعی شرکتی:

نقش شما: دستیار نوشتن PDR. برای خدمات راهنمایی، یک خط مشی داخلی کوتاه در مورد استفاده از ابزارهای هوش مصنوعی پیش‌نویس کنید. سرفصل ها: در چه مشاغلی استفاده می شود، در چه مشاغلی استفاده نمی شود (بحران، تشخیص، مشاوره)، قانون ناشناس سازی داده ها، الزام تایید، مسئولیت بر عهده کارشناس است. کوتاه و کاربردی

اعلان ضعیف / اعلان قوی

ضعیف:

به طور خلاصه وضعیت احمد یلماز 8-C، او در خانه مورد خشونت قرار می گرفت.

حساس ترین داده ها (نام، کلاس، وضعیت ویژه) را به صورت خام وارد خودرو می کند - نقض جدی KVKK و اخلاق. علاوه بر این، این می تواند یک وضعیت اعلان باشد (واحد 9).

قوی:

نقش شما: دستیار کنترل حریم خصوصی. توجه: من متن زیر را قبل از ارسال به ابزار ناشناس کردم. با این حال، دوباره بررسی کنید: آیا جزئیاتی باقی مانده است که فرد را قابل شناسایی کند؟ متن: یک دانش آموز راهنمایی اشاره کرد که در خانه دچار تنش شده است.

سه کیف کوچک

مورد 1 - افشای غیر مستقیم. کارشناس قصد داشت متنی را در ابزاری که نام آن را حذف کرده بود وارد کند. اما متوجه شد که عبارت "تنها دانش آموز مدرسه که از ویلچر استفاده می کند" مستقیماً به آن شخص اشاره دارد. او این را به «یک دانشجو» تعمیم داد. نام گذاری به تنهایی کافی نبود. توصیف موقعیت منحصر به فرد نیز شناسایی کننده بود.

مورد 2 - تصحیح سوگیری. یک متخصص که یک مطلب شغلی را ممیزی کرده است متوجه شد که هوش مصنوعی همیشه از نام های مردانه در نمونه های مهندسی و از نام های زنانه در حرفه های مراقبت استفاده می کند. این نمونه ها را متعادل کرد و قالب را شکست. این تصحیح به ظاهر جزئی عادلانه بودن پیام ارسال شده به دانش آموزان را حفظ کرد.

مورد 3 - تعیین خط مشی. یک سرویس راهنمایی یک متن خط مشی داخلی مشترک ایجاد کرد تا سردرگمی ناشی از این واقعیت را که همه افراد از هوش مصنوعی متفاوت استفاده می‌کنند ایجاد کرد: در چه وظایفی از هوش مصنوعی استفاده می‌شود، نه در بحران و تشخیص، داده‌ها ناشناس هستند، خروجی تأیید می‌شود، مسئولیت با متخصص است. هوش مصنوعی پیش نویس داد. تیم محتوا را با ارزش های خود نهایی کرد. عدم قطعیت جای خود را به یک چارچوب روشن داد.

اشتباهات رایج

• وارد کردن داده های خام نوشتن به وسیله نقلیه با نام/وضعیت. راه حل: روش ناشناس سازی، ابزار امن.
• فقط حذف اسم فراموش کردن شناسه های غیر مستقیم راه حل: جزئیات منحصر به فرد را نیز تعمیم دهید.
• نادیده گرفتن تعصب اتخاذ خروجی کلیشه ای راه حل: تعصب و ممیزی فرهنگ.
• سپردن مسئولیت بر عهده وسیله نقلیه به معنای "هوش مصنوعی آن را تولید کرد". راه حل: مسئولیت با متخصص است.
• سوء استفاده پردازش داده های جمع آوری شده برای یک هدف برای هدف دیگر. راه حل: به محدودیت هدف احترام بگذارید.

جدول: نوع داده و قانون هوش مصنوعی

نوع داده

مثال

قانون هوش مصنوعی

عمومی

معرفی حرفه عمومی

به صورت رایگان در دسترس است

داده های شخصی

نام، شماره، کلاس

بدون ناشناس وارد نمی شود

داده های با کیفیت ویژه

وضعیت روانی، خانواده، تشخیص

هرگز نمی توان آن را به شکل خام وارد کرد.

داده های بحران

خطر، سوء استفاده، خودکشی

هرگز وارد خودرو نشوید (واحد 9)

به طور خلاصه

در PDR، محرمانگی پایه و اساس اعتماد در حرفه و آزمایش‌شده‌ترین اصل در عصر هوش مصنوعی است. KVKK داده ها را به داده های شخصی و خصوصی جدا می کند. بیشتر داده های PDR حساس هستند و به شکل خام وارد ابزار نمی شوند. به حداقل رساندن داده ها، ناشناس سازی (با شناسه های مستقیم و غیرمستقیم) و انتخاب ابزار ایمن قوانین اساسی هستند. چهار اصل اخلاق حرفه ای - رازداری، سودمندی، عدم سوء استفاده، استقلال - در استفاده از هوش مصنوعی الزام آور است. تعصب کنترل می شود، مسئولیت با متخصص باقی می ماند و استفاده در سازمان شفاف است.

وظیفه کاربردی

یک «خط مشی استفاده از هوش مصنوعی» برای خدمات راهنمایی خود پیش‌نویس کنید. با الگوی "پیش نویس خط مشی استفاده از هوش مصنوعی سازمانی" شروع کنید. سپس آن را با توجه به واقعیت موسسه خود تنظیم کنید. همچنین یک متن (تخیلی) را از طریق الگوی «بررسی ناشناس» عبور دهید و حداقل یک شناسه غیرمستقیم را ضبط و تعمیم دهید.

چک لیست

• [ ] من داده هایی را که دارم به عنوان شخصی / خصوصی / عمومی طبقه بندی کرده ام.
• [ ] من شناسه های مستقیم و غیرمستقیم را در ناشناس سازی تعمیم داده ام.
• [ ] من از ابزار امن/سازمانی برای داده های حساس استفاده کردم.
• [ ] من خروجی را برای تعصب و حساسیت فرهنگی بررسی کردم.
• [ ] من مسئولیت را پذیرفتم و استفاده را شفاف نگه داشتم.