سود:
- درک این موضوع که دادههای دانشآموز، دادههای شخصی و اغلب خصوصی هستند، و قوانین ناشناس و ذخیرهسازی در محدوده KVKK و محرمانگی حرفهای است.
- توانایی تمرین شناسایی زدایی و انتخاب یک ابزار امن/سازمانی در هنگام وارد کردن داده ها به ابزارهای هوش مصنوعی در دسترس عموم
- درک این موضوع که رضایت به اشتراک گذاری داده ها، به حداقل رساندن داده ها و رعایت خط مشی مدرسه بر عهده معلم است.
یک معلم در طول کار خود به اطلاعات بسیار حساس دسترسی دارد: نمرات، سوابق رفتاری، وضعیت سلامتی، اطلاعات خانواده، گفتگوهای راهنمایی، داده های اجتماعی و اقتصادی. این اطلاعات متعلق به خصوصی ترین منطقه دانش آموز است و زمانی که به دست افراد اشتباه بیفتد، می تواند باعث آسیب مادام العمر شود. بیشتر ابزارهای هوش مصنوعی مبتنی بر ابر هستند - به این معنی که متنی که تایپ میکنید در سرورهای شرکت از راه دور پردازش میشود، نه در رایانه شما، و در برخی ابزارها میتوان از آن برای توسعه مدل استفاده کرد. بنابراین نوشتن اطلاعات یک دانش آموز در یک هوش مصنوعی عمومی به معنای خارج کردن آن از کنترل شماست. این واحد حیاتی ترین لایه امنیتی را در استفاده از هوش مصنوعی در آموزش ایجاد می کند. قانون واضح است: ابتدا دادههای دانشآموز را ناشناس کنید، در صورت امکان از ابزارهای امن/سازمانی استفاده کنید. مسئولیت بر عهده معلم است.
چه داده هایی محافظت می شوند؟ چارچوب KVKK
داده های شخصی هر اطلاعاتی است که شخص را مشخص یا قابل شناسایی می کند: نام-نام خانوادگی، شماره مدرسه، کارت شناسایی، عکس یا حتی توصیف های غیرمستقیم مانند "قدبلندترین دانش آموز 3-A" در یک زمینه. داده های شخصی ویژه (حساس) با شدت بیشتری محافظت می شوند: سلامت، قومیت، مذهب، محکومیت جنایی، داده های بیومتریک، عضویت در انجمن/اتحادیه. گزارش سلامت دانش آموز، تشخیص ناتوانی یادگیری یا آسیب های خانوادگی از این دسته است.
KVKK (قانون حفاظت از داده های شخصی) مستلزم این است که داده های شخصی به طور قانونی، برای یک هدف خاص، به شیوه ای سنجیده و ایمن پردازش شوند. پیامدهای عملی برای معلم: از داده ها فقط در صورت لزوم استفاده کنید (به حداقل رساندن داده ها)، از داده ها سوء استفاده نکنید، آنها را ایمن نگه دارید، بدون اجازه آن ها را با اشخاص ثالث (از جمله هوش مصنوعی عمومی) به اشتراک نگذارید. همچنین الزامی برای محرمانه بودن حرفه ای وجود دارد: معلم نمی تواند اطلاعاتی را که در مورد دانش آموز و خانواده اش می آموزد، افشا کند.
احتیاط: فرض اینکه "شرکت به هر حال این را نمی خواند" ایمن نیست. برخی از ابزارهای رایگان هوش مصنوعی می توانند ورودی ها را در آموزش ذخیره یا استفاده کنند. پس از خروج داده ها، نمی توان آنها را بازیابی کرد. امن ترین چیز این است که هرگز داده ها را خارج نکنید.
ناشناس سازی: تبدیل آن به یک رفلکس
ناشناس سازی به معنای حذف تمام عناصری است که یک فرد را شناسایی می کند از داده ها و تعمیم غیرقابل برگشت آن. در عمل:
- نام و نام خانوادگی → "دانشجو A"، "یک دانش آموز"
- شماره مدرسه، شناسه TR، کلاس-شعبه → حذف کامل
- نام والدین، تلفن، آدرس → حذف کنید
- جزییات نادر/توصیفی ← تعمیم (عباراتی مانند "یک دانش آموز که از ویلچر استفاده می کند" به فرد می دهد؛ بگویید "یک دانش آموز")
- نام مدرسه/موسسه → خارج شوید یا بگویید «مدرسه ما»
قبل از دادن متن به هوش مصنوعی، فرض کنید که یک غریبه آن را می خواند: آیا از این متن می توان فهمید که کدام کودک است؟ اگر واضح است بیشتر تعمیم دهید.
انتخاب وسیله نقلیه ایمن
همه ابزارهای هوش مصنوعی یکسان نیستند. ایمنترین ابزارها ابزارهای شرکتی هستند که مدرسه/موسسه شما ارائه میکند، دارای توافقنامه پردازش داده (DPA) است و از ورودیها در آموزش استفاده نمیکند. با ابزارهای رایگان و در دسترس عموم، این فرض باید بدترین سناریو باشد. هنگام انتخاب ابزار، بپرسید: آیا ورودی های من ذخیره می شوند؟ آیا در آموزش استفاده می شود؟ داده ها کجا پردازش می شوند؟ آیا خط مشی مدرسه این ابزار را تایید می کند؟ اگر مطمئن نیستید، از داده ها بدون ناشناس سازی استفاده نکنید.
گام به گام: گردش کار با امنیت خصوصی
- اسکن داده های شخصی نام، شماره، موسسه، موقعیت حساس.
- ناشناس کردن. با عبارات کلی جایگزین کنید. حذف جزئیات شناسایی
- اعمال حداقل سازی داده ها هیچ اطلاعاتی را که برای کار مورد نیاز نیست اضافه نکنید.
- وسیله نقلیه را انتخاب کنید در صورت امکان نهادی؛ اگر نه، بدترین حالت را در نظر بگیرید.
- از آن استفاده کنید. فقط با متن ناشناس کار کنید.
- خروجی را نیز بررسی کنید. هوش مصنوعی میتواند اطلاعاتی را که به آن میدهید بازتاب دهد. در خروجی نباید نشتی هویت وجود داشته باشد.
سه کیف کوچک
مورد 1 - ضبط لحظه آخری. یک مشاور راهنمایی برای مشورت در مورد مشکل خانوادگی دانش آموز به هوش مصنوعی نامه نوشت. متن شامل نام، نمره و «مادرش در بیمارستان است». او بدون ارسال آن متوجه شد، همه را به عنوان "دانش آموز 13 ساله، چالش سلامتی در خانواده اش" تعمیم داد. پیشنهادات رویکرد کلی که او دریافت کرد مؤثر بود. هیچ اطلاعات شخصی فاش نشد.
مورد 2 - شناسایی غیر مستقیم. معلمی به هوش مصنوعی نوشت که این "ماده ای برای تنها دانش آموز کم بینای کلاس است." نامی وجود نداشت، اما این عبارت قطعاً آن پسر را در مدرسه توصیف می کرد. وقتی متوجه شد، آن را به "برای دانش آموزی که نیاز به حمایت بینایی دارد" تغییر داد. ناشناس کردن فقط حذف نام نیست، بلکه پنهان کردن جزئیات شناسایی است.
مورد 3 - انتخاب وسیله نقلیه. یکی از مدارس معلمان را از استفاده از ابزارهای رایگان با دادههای دانشآموزان منع کرد و یک ابزار سازمانی با امنیت دادهها ارائه کرد. یک معلم از روی عادت تجزیه و تحلیل یادداشت را در ابزار رایگان می چسباند. به لطف یادآوری خط مشی، او به ابزار شرکتی روی آورد و همچنان داده ها را ناشناس کرد. دو لایه محافظ ترکیب شده است.
قالب های قابل کپی
1) اسکن قبل از ناشناس سازی:
فرض کنید یک غریبه متن زیر را خواهد خواند. آیا می توان مستقیم یا غیرمستقیم از این متن فهمید که دانش آموز کدام است؟ تمام عباراتی را که هویت را نشان می دهند (نام، شماره، موسسه، ویژگی نادر) فهرست کنید و برای هر کدام یک جایگزین کلی پیشنهاد دهید. متن: [چسباندن]
2) خود ارزیابی وسیله نقلیه ایمن:
چک لیستی از 6 سوال برای ارزیابی ابزار هوش مصنوعی بنویسید: ذخیره سازی ورودی، استفاده در آموزش، مکان داده، تایید سازمانی، حق حذف، انطباق با داده های حساس. به هر سوال "چه باید کرد اگر بله / چه باید کرد اگر نه" اضافه کنید.
3) کنترل کمینه سازی داده ها:
متنی را که برای کار زیر به هوش مصنوعی میدهم ساده کنید: هر گونه جزئیات شخصی/متن را که کار به آن نیاز ندارد حذف کنید، و فقط آنچه را که برای انجام کار ضروری است باقی بگذارید. وظیفه: [توضیح]. متن: [چسباندن]
4) پیش نویس خط مشی مدرسه (برای معلمان):
یک لیست کوتاه و واضح 8 نقطه ای از قوانین برای معلمان مدرسه تهیه کنید تا از ابزارهای هوش مصنوعی برای ایمن سازی اطلاعات دانش آموزان استفاده کنند: ناشناس سازی، ابزار تایید شده، داده های حساس، حفظ، رضایت، اعلان نقض. بگذارید مقالات ترکی قابل اجرا وجود داشته باشد. من این را به تایید مدیریت/کارشناس ارسال خواهم کرد.
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
احمد یلماز، 7-B شماره 214، در ریاضیات بسیار ضعیف است و پدرش بی تفاوت است. برای این دانش آموز چه کار کنم؟
نام، شماره، طبقه، حوزه قضایی خانواده - نقض فاحش رازداری؛ داده ها خارج از کنترل شما هستند.
اعلان قدرتمند:
3 راهبرد حمایتی را پیشنهاد کنید که می تواند در مدرسه برای دانش آموز کلاس هفتم که با عملیات پایه در ریاضیات مشکل دارد، با فرض اینکه حمایت محدود در خانه وجود دارد، اجرا کرد. (دانشجو ناشناس؛ من هیچ اطلاعات شخصی را به اشتراک نمی گذارم.)
نوع داده
مثال
آیا به هوش مصنوعی داده می شود؟
چگونه
شناسایی مستقیم
نام، شماره، TR
نه
کاملا حذف کنید
شناسایی غیر مستقیم
"دانش آموز معلول مجرد"
نه
تعمیم دادن
داده های حساس
سلامت، تشخیص، خانواده
بسیار مراقب
ابزار ناشناس + سازمانی
وضعیت آموزشی عمومی
"دانشجوی مبارز"
بله
به صورت ناشناس
اشتباهات رایج
- فقط اسمشو پاک کن اگر تعداد، کلاس یا تعریف غیرمستقیم باقی بماند، هویت هنوز مشخص است.
- نادیده گرفتن تعریف غیر مستقیم. عباراتی مانند "تو تنها کسی در کلاست هستی..." فرد را از خود دور می کند.
- ساده گرفتن داده های حساس اطلاعات بهداشتی/خانوادگی دادههای خاصی هستند و به حفاظت بالاتری نیاز دارند.
- با فرض ایمنی خودرو این خطرناک است که فرض کنیم ابزار رایگان داده ها را ذخیره نمی کند. بدترین را فرض کن
- کنترل نکردن خروجی هوش مصنوعی ممکن است اعتبارنامه هایی را که در پاسخ ارائه می کنید تکرار کند. خروجی را نیز تمیز کنید
نکته: "قانون دو دقیقه": قبل از چسباندن هر متن مرتبط با دانش آموز در هوش مصنوعی، دو دقیقه وقت بگذارید تا نام، شماره، موسسه و جزئیات شناسایی را پاک کنید. این عادت کوچک از بزرگترین تخلفات جلوگیری می کند.
به طور خلاصه
داده های دانش آموز شخصی و اغلب خصوصی هستند و تحت KVKK و محرمانه بودن حرفه ای محافظت می شوند. ابزارهای هوش مصنوعی عمومی مبتنی بر ابر هستند. ارائه داده ها به همان شکلی که هستند، آن را از کنترل خارج می کند. راه درست: برای ناشناس کردن اطلاعات شخصی و غیرمستقیم شناسایی، تنها آنچه لازم است را به اشتراک بگذارید (به حداقل رساندن داده ها)، در صورت امکان از ابزارهای شرکتی و تایید شده استفاده کنید و خروجی ها را بررسی کنید. مسئولیت بر عهده معلم است.
وظیفه کاربردی
متنی در مورد دانش آموزی که در هفته گذشته نوشته اید (یا قصد نوشتن دارید) را به هوش مصنوعی ببرید. همه شناسه های مستقیم و غیرمستقیم را با الگوی "غربالگری قبل از ناشناس سازی" شناسایی و تعمیم دهید. سپس ابزار هوش مصنوعی مورد استفاده خود را در مقابل لیست «خودارزیابی ابزار امن» ارزیابی کنید و تصمیم بگیرید که از چه نوع داده هایی می توانید با این ابزار استفاده کنید.
چک لیست
- [ ] آیا شناسه های مستقیم مانند نام، شماره، شناسه TR، موسسه را حذف کرده ام؟
- [ ] آیا من توصیف کننده های غیرمستقیم مانند "تنها در کلاس شما..." را تعمیم داده ام؟
- [ ] آیا داده های حساس (سلامتی/خانوادگی) را با حفاظت اضافی درمان کرده ام؟
- [ ] آیا من خط مشی داده و تأیید مدرسه وسیله نقلیه مورد استفاده خود را بررسی کرده ام؟
- [ ] آیا نشت هویت در خروجی را نیز بررسی کرده ام؟