سود:
- توانایی درک و پیاده سازی این واقعیت که داده های کودک، داده های خاص است و باید در محدوده KVKK و محرمانه بودن ناشناس باشد و نیاز به رضایت خانواده دارد.
- امکان ارزیابی ابزارهای هوش مصنوعی از نظر امنیت داده ها، ذخیره سازی و استفاده در آموزش مدل و انتخاب ایمن
- توانایی حفظ مرزهای اخلاقی مانند اقتدار تشخیصی، انگ، تبعیض و بهترین نفع کودک در جریان کار
پرونده رشد کودک حاوی صمیمی ترین اطلاعات آن کودک است: سابقه رشد، وضعیت خانوادگی، نتایج غربالگری، مشاهدات، و گاهی اطلاعات پزشکی. هنگامی که این اطلاعات به دست افراد نادرست بیفتد یا مورد سوء استفاده قرار گیرد، می تواند سال ها به کودک آسیب برساند: یک برچسب، یک انگ، یک تبعیض. بنابراین، حفاظت از داده های کودکان یکی از جدی ترین وظایف متخصص رشد کودک است. در عصر هوش مصنوعی، این مسئولیت چند برابر می شود، زیرا چسباندن داده ها در یک ابزار چند ثانیه طول می کشد و قابل بازگرداندن نیست. در این واحد به وضعیت حقوقی داده های کودک، ارزیابی ابزارهای هوش مصنوعی از نظر حریم خصوصی و مرزهای اخلاقی می پردازیم.
اول، مبنای قانونی: در ترکیه، KVKK (قانون حفاظت از داده های شخصی) پردازش داده های شخصی را تنظیم می کند. داده های سلامت و رشد کودک در دسته داده های شخصی ویژه قرار می گیرند. این دسته از بالاترین سطح حفاظت برخوردار است. در اروپا، معادل آن GDPR است. در مورد کودک، حساسیت حتی بیشتر است، زیرا کودک نمیتواند رضایت معتبری درباره دادههای خود بدهد. رضایت (رضایت صریح آگاهانه) از نماینده قانونی یعنی خانواده اخذ می شود. اصل "بهترین مصلحت کودک" در هر تصمیمی حاکم است.
ناشناس سازی: اساسی ترین و قدرتمندترین مرحله
ابتدایی ترین و کاربردی ترین گامی که در هنگام کار با هوش مصنوعی از حریم خصوصی محافظت می کند، ناشناس سازی است: حذف تمام اطلاعات فاش کننده هویت (نام، نام خانوادگی، شماره شناسه TR، تاریخ تولد، نام مدرسه/موسسه، آدرس، شماره پروتکل/پرونده، نام خانوادگی) از داده ها و تنها استفاده از اطلاعات غیرشناسایی لازم برای کار شما. نوشتن «دختر 3 سال و 2 ماهه» به جای «الیف کایا 3 سال و 2 ماه مهدکودک پاپاتیا» کار داده را انجام می دهد اما هویت را حفظ می کند.
یک کلمه احتیاط: هویت زمانی می تواند دوباره ظاهر شود که چندین جزئیات کوچک در کنار هم قرار گیرند (به این می گویند شناسایی مجدد). به عنوان مثال، جزئیاتی مانند "تنها دوقلو در روستای X، پدرش رئیس است" می تواند فرد را حتی اگر نامی نداشته باشد شناسایی کند. بنابراین، نه تنها باید نام را حذف کرد، بلکه جزئیاتی را که آن را منحصر به فرد می کند، تعمیم داد.
خام (نمی توان به اشتراک گذاشت)
ناشناس (قابل اشتراک گذاری)
الیف کایا، TC 123...، متولد 12.03.2022.
دختر 3 سال 2 ماهه
مهد کودک پاپاتیا، کلاس 3-A
موسسه پیش دبستانی
مادرش عایشه و پدرش مختار است.
پدر و مادر
شماره پرونده 2024/187
(حذف شده)
توجه: بارگذاری اطلاعات هویتی، گزارش کامل یا عکس کودک در ابزار هوش مصنوعی در دسترس عموم، نقض KVKK و حریم خصوصی است و قابل پس گرفتن نیست. داده ها به یک سرور خارجی می رود و برخی از ابزارها می توانند از آن برای آموزش مدل استفاده کنند. همیشه قبل از آپلود ناشناس کنید.
انتخاب ابزار و چرخه عمر داده
همه ابزارهای هوش مصنوعی سطح حریم خصوصی یکسانی ندارند. هنگام ارزیابی یک ابزار، بپرسید: آیا در آموزش مدل از کارایی استفاده می کند؟ داده ها را کجا و برای چه مدت ذخیره می کند؟ آیا قرارداد پردازش داده (برای استفاده شرکتی) ارائه می دهد؟ سرورهاشون کجاست؟ ابزارهای شرکتی، قراردادی و آموزشی که از داده های شما استفاده نمی کنند، ایمن تر از ابزارهای رایگان در دسترس عموم هستند. با این حال، حتی در امن ترین ابزار، اعتبارنامه های غیر ضروری را به اشتراک نگذارید - ناشناس سازی اولین دفاع در هر شرایطی است.
چرخه عمر داده ها را در نظر بگیرید: جمع آوری داده ها (تأیید اعتبار)، پردازش (در صورت نیاز)، ذخیره (ایمن، زمان بندی شده)، اشتراک گذاری (فقط مجاز، ناشناس) و حذف (در صورت انجام). هر چیزی که در ابزارهای هوش مصنوعی بچسبانید، خطر خارج شدن از این حلقه را دارد.
نکته: یک قانون سخت را در بالای پیام های مورد علاقه خود قرار دهید: "من هیچ اطلاعاتی که کودک یا خانواده را در این مکالمه شناسایی کند به اشتراک نمی گذارم." تبدیل کردن این یک رفلکس کنترلی از رایج ترین تخلف (چسباندن غیرحرفه ای شناسه) جلوگیری می کند.
مرزهای اخلاقی: تشخیص، انگ، تبعیض
حریم خصوصی یک موضوع فنی است، اما اخلاق گسترده تر است. سه مرز حیاتی است. مرجع تشخیصی: متخصص رشد کودک غربالگری و ارزیابی رشد را انجام می دهد. تشخیص قطعی وظیفه پزشک/تیم بالینی مربوطه است. هوش مصنوعی این حد را نمی شناسد. محافظت خواهید کرد انگ: نشان دادن یک کودک با برچسب اولیه و دائمی (در پرونده، در خانواده، در ذهن خود شما) نسبت به کودک ناعادلانه است و می تواند بر رشد او تأثیر منفی بگذارد. تبعیض و سوگیری: هوش مصنوعی ممکن است منعکس کننده سوگیری ها در داده های آموزشی باشد. ممکن است نتایج مغرضانه ای در رابطه با فرهنگ، جنسیت یا گروه اجتماعی-اقتصادی خاص ایجاد کند. کارشناس باید به این موارد توجه کند و اصلاح کند. مهمتر از همه اینها اصل مصلحت کودک است: آیا هر تصمیمی به نفع کودک است؟
چهار فرمان قابل کپی
1) درخواست ناشناس سازی:
براتون یه متن میدم هر گونه اطلاعاتی که ممکن است هویت کودک یا خانواده را فاش کند (نام، نام خانوادگی، شناسه TR، تاریخ تولد، مدرسه/موسسه، آدرس، شماره پرونده، جزئیات منحصر به فرد) را حذف کنید. با عبارت عمومی جایگزین شود ([دختر]، [موسسه پیش دبستانی]). نه تنها نام، بلکه جزئیات منحصر به فردی را که ممکن است شخص را شناسایی کند، تعمیم دهید. مواردی را که حذف کردید فهرست کنید. متن: [خام]
2) درخواست ارزیابی حریم خصوصی خودرو:
چک لیستی از سوالات حریم خصوصی که باید بپرسم به من بدهید تا تصمیم بگیرم که آیا می توانم از ابزار هوش مصنوعی با داده های کودک استفاده کنم (داده هایی است که در آموزش، حفظ، قرارداد، مکان سرور، حذف استفاده می شود). پاسخ ها را جعل نکنید؛ فقط سوالات را لیست کنید
3) اخطار کنترل اخلاقی/محدودیت اختیار:
متن زیر را از نظر اخلاقی مرور کنید: (1) آیا این یک تشخیص را ایجاد می کند/مطمئن است؟ (2) آیا برچسب انگ زنی وجود دارد؟ (3) آیا تعصبات فرهنگی/جنسیتی/اجتماعی-اقتصادی وجود دارد؟ هر مشکل را برجسته کنید و یک جایگزین اصلاح شده و محتاطانه پیشنهاد کنید. متن: [پیشنویس]
4) پیام متنی اطلاعات رضایت خانواده:
یک متن اخطار/رضایت کوتاه برای خانواده تهیه کنید که به سادگی نحوه استفاده و محافظت از دادههای کودک را توضیح دهد. این شامل: کدام داده ها، برای چه منظوری، چگونه محافظت می شود، با چه کسانی به اشتراک گذاشته می شود، حق انصراف. ارائه مشاوره حقوقی؛ توجه داشته باشید که پیش نویس است و باید به تایید موسسه برسد.
سه کیف کوچک
مورد 1 - نقض بارگذاری هویت. در یک روز شلوغ، یک متخصص گزارش رشد کودک را با نام کامل و شناسه در یک ابزار عمومی میچسباند و میگوید "خلاصه". داده های خروج از موسسه و رضایت خانواده اخذ نشد. راه صحیح این بود که داده ها را با اعلان اول ناشناس کنید و فقط از اطلاعات ناشناس در یک ابزار امن استفاده کنید. این تخلف هم یک موضوع قانونی و هم اخلاقی است و قابل برگشت نیست.
مورد 2 - شناسایی مجدد. یک کارشناس نام را حذف می کند اما جزئیات "تنها سه قلو در روستا، پدرش امام است" را می گذارد. این جزئیات حتی بدون نام، کودک را شناسایی می کند. این متخصص برای تعمیم جزئیات منحصربهفرد، ناشناسسازی را عمیقتر میکند: «کودکی چندقلو که در یک منطقه روستایی زندگی میکند». هویت در حال حاضر محافظت شده است.
مورد 3 - تصحیح سوگیری. هوش مصنوعی یک فرضیه مغرضانه ایجاد می کند که در محتوای یک خانواده کم درآمد وجود دارد، مانند "درگیری اغلب در این خانواده ها ناکافی است". کارشناس با اعلان سوم متوجه این موضوع می شود. بیانیه را بی دلیل، انگ و تبعیض آمیز می داند و آن را حذف می کند. این محتوا را به زبانی بازنویسی می کند که هر خانواده را برابر و قابل احترام می بیند.
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
من گزارش کامل الیف را اینجا می چسبانم، ارزیابی کرده و تشخیص را توصیه می کنم.
مشکل: اطلاعات هویتی به اشتراک گذاشته شده است (نقض KVKK)، تشخیص درخواست شده است (بیش از حد مجاز)، بدون رضایت، خودروی ایمن زیر سوال نمی رود.
اعلان قدرتمند:
خلاصه توسعه ناشناس زیر (اطلاعات شناسایی حذف شده) را برای پیش نویس ارزیابی ویرایش کنید. انجام تشخیص؛ استفاده از برچسب های انگ زنی؛ از فرضیه های جانبدارانه خودداری کنید. جایی که مطمئن نیستید [اجازه دهید متخصص ارزیابی کند] علامت بزنید. خلاصه: [ناشناس]
اشتباهات رایج
- بارگذاری اعتبار: رایج ترین و شدیدترین تخلف. همیشه ناشناس
- ناشناس سازی سطحی: فقط حذف نام کافی نیست. جزئیات منحصر به فرد را نیز تعمیم دهید.
- زیر سوال بردن حریم خصوصی ابزار: از ابزارهایی که از داده های شما برای آموزش استفاده می کنند اجتناب کنید.
- عبور از مرز تشخیصی: ارزیابی تشخیص نیست. اختیار با پزشک/تیم است.
- عدم تشخیص سوگیری: مفروضات انگ زدن/تبعیض آمیز هوش مصنوعی را رفع کنید.
به طور خلاصه
داده های کودک، داده های شخصی ویژه است. مستلزم بالاترین محافظت در محدوده KVKK است و رازداری و رضایت از خانواده اخذ می شود. قویترین دفاع هنگام کار با هوش مصنوعی، ناشناسسازی است - نه تنها نام، بلکه جزئیات منحصر به فردی را که ممکن است فرد را شناسایی کند، تعمیم دهید. ارزیابی ابزار برای حفظ حریم خصوصی؛ ایمن را انتخاب کنید که از داده های شما در آموزش استفاده نمی کند. مرزهای اخلاقی (اقتدار تشخیصی، انگ، تبعیض/سوگیری) را حفظ کنید و در هر تصمیمی بهترین منافع کودک را در نظر بگیرید.
وظیفه کاربردی
یک یادداشت پیشرفت بدون نام (معتبر، از سوابق خود) بگیرید. بدون انعکاس آن روی صفحه، آن را به صورت دستی با استفاده از منطق فرمان اول ناشناس کنید و هر اطلاعاتی را که استخراج کرده اید فهرست کنید. ابزار هوش مصنوعی را که از نظر حریم خصوصی استفاده میکنید با اعلان دوم ارزیابی کنید. پیشنویسی را برای اخلاق/سوگیری با دستور 3 بررسی کنید. حداقل به سه اصلاحی که انجام دادهاید توجه کنید (یک ناشناس، یک اخلاق، یک سوگیری).
چک لیست
- [ ] من داده ها را ناشناس کردم. من همچنین جزئیات منحصر به فرد را تعمیم دادم.
- [ ] من ابزاری را که استفاده کردم از نظر حریم خصوصی ارزیابی کردم. من ایمن را انتخاب کردم.
- [ ] در صورت لزوم رضایت خانواده را گرفتم.
- [ ] من حد مجاز تشخیص را حفظ کردم. من تمایز ارزیابی-تشخیص را اعمال کردم.
- [ ] من برچسب های انگ زنی و عبارات تبعیض آمیز/سوگیرانه را حذف کردم.
- [ ] من در هر تصمیمی بهترین منافع کودک را در نظر گرفتم.
- [ ] من اعتبارنامه را در هیچ وسیله نقلیه ای آپلود نکرده ام.