רווחים:
- יכולת סיווג ואנונימיות של נתוני תלמידים במסגרת KVKK ומושגי נתונים אישיים מיוחדים ויישום בחירת רכב בטוחה
- יכולת להתאים את עקרונות האתיקה המקצועית של PDR (סודיות, טובת הנאה, אי-רשע, אוטונומיה) לשימוש בבינה מלאכותית
- יכולת לזהות הטיה, חוסר רגישות תרבותית והזיה בתפוקת בינה מלאכותית וליצור מדיניות שימוש אתי
אמון הוא לב ליבו של מקצוע ה-PDR. אם תלמיד יכול לספר את רגשותיו, המשפחה והפחדים האינטימיים ביותר למומחה, זה רק בגלל שהוא מאמין שהמידע יהיה מוגן. כלי בינה מלאכותית מציבים מבחן חדש ורציני לאמון הזה: הנתונים הרגישים ביותר יכולים לצאת משליטה במשפט. ביחידה זו, אנו דנים באופן שיטתי בפרטיות, KVKK, אתיקה מקצועית של PDR וכיצד הם חלים על השימוש בבינה מלאכותית. יישמנו את העקרונות הללו חלק אחר חלק ביחידות קודמות; כאן נשלב אותה כמכלול ונהפוך אותה לפוליסה קבועה.
KVKK וסוגי נתונים: מה מוגן יותר
KVKK (חוק הגנת מידע אישי) הוא החוק המסדיר את העיבוד החוקי של נתוני אנשים. שני מושגים חשובים במיוחד. נתונים אישיים הם כל מידע המזהה או מזהה אדם: שם, שם משפחה, מספר בית ספר, כיתה, כתובת, תמונה. נתונים אישיים מיוחדים הם סוג של נתונים רגישים הדורשים הגנה גבוהה יותר: בריאות, מצב נפשי, אבחון, חיי מין, דת, מוצא אתני, מעמד פלילי. רוב רשומות ה-PDR נכנסות לקטגוריה השנייה והרגישה הזו; כי מצב נפשי, בעיות משפחתיות והיסטוריית תמיכה הם נתונים פרטיים ישירות. המשמעות היא שלעולם אין להזין נתוני PDR בצורתם הגולמית לכלים ציבוריים.
בפועל, זה מתורגם לשלושה כללים: (1) מזעור נתונים - עבודה עם כמות הנתונים הנמוכה ביותר הדרושה לביצוע עבודה. (2) אנונימיזציה - הפוך את הנתונים לבלתי ניתנים לקישור לאדם על ידי הסרת מידע אישי מזהה. (3) אמצעים מאובטחים וגבול מטרה - השתמש בכלים ארגוניים מאובטחים במידת האפשר ועבד נתונים רק למטרה שלשמה הם נאספו.
שימו לב: לא מספיק להגיד "אני איכשהו עשיתי את זה אנונימי". גם אם שם מושמט מטקסט, תיאור ייחודי של המצב (מצב מאוד ספציפי אצל תלמיד בודד בבית ספר קטן) יכול להפוך את האדם לזיהוי. באנונימיזציה, הכליל לא רק את השם אלא גם את הפרטים שיחד מציינים את האדם.
תרגול אנונימיזציה: הליך בקרה
לפני ייצוא טקסט לכלי, בצע את ההליך הבא: (א) הסר מזהים ישירים כגון שם, שם משפחה, מספר, סניף כיתה, שם הורה, כתובת, טלפון, שם בית ספר. (ב) הכללה מתארים עקיפים: "תלמיד חטיבת ביניים" במקום "התלמיד היחיד לקוי הראייה ב-12-B." (ג) טשטוש תאריך ופרטי אירוע לפי הצורך. (ד) פוסט-קריאה: "האם מישהו שקורא את הטקסט הזה יכול לגלות מי מוזכר?" אם התשובה מעורפלת, הכליל יותר. הרשומה המאומתת נכתבת רק למערכת הסגורה והמאובטחת של המוסד; כלי ה-AI נמצא מחוץ למערכת הזו.
אתיקה מקצועית של PDR ובינה מלאכותית
האתיקה המקצועית של PDR מבוססת על ארבעה עקרונות יסוד, שכל אחד מהם חל ישירות על השימוש בבינה מלאכותית:
- סודיות (שמירה על סודות): מידע התלמיד מוגן. אי הזנת נתונים גולמיים ל-AI, אנונימיזציה ובחירה בכלי בטוח הם דרישה מעיקרון זה.
- תועלת: כל הנעשה צריך לשרת את רווחת התלמיד. נעשה שימוש ב-AI מטעמי נוחות, לא בצורה שתפגע בתועלת התלמיד.
- אי-רשע: העדיפות היא לא לגרום נזק. פלט לא מאומת, סטטיסטיקה לא מדויקת, תיוג ושימוש בבינה מלאכותית במשבר הם סיכונים לנזק; לכן אימות וגבול משבר הוא ציווי אתי.
- אוטונומיה: זכותו של התלמיד לקבל החלטה בעצמו מוגנת. AI לא צריך לצמצם את התלמיד לתווית או לקבל החלטות בשמו.
לכך מתווספת אחריות: האחריות לכל פלט בו נעשה שימוש מוטלת על המומחה; "AI ייצר את זה" אינו הגנה.
הטיה, רגישות תרבותית ושקיפות
AI יכול לשקף דפוסים חברתיים בנתוני אימון. ב-PDR, זו סוגיה של הוגנות: תוצאות הסטריאוטיפיות של תלמיד על פי מינו, תרבותו או מצבו הסוציו-אקונומי מערערות את שוויון ההזדמנויות. המומחה בודק את התוכן המופק עבור רגישות והטיה תרבותית. כמו כן שקיפות: במידת הצורך, יש להבהיר באופן פנימי כי נעשה שימוש בבינה מלאכותית בהכנת חומר או טיוטה; אסור להשתמש בו כ"קסם" סודי. חיסיון חיוני ביחסים עם התלמיד; מה שהתלמיד מסביר לא מעביר לרכב.
צעד אחר צעד: הקמת מדיניות שימוש בבינה מלאכותית
- סיווג נתונים. הפרד את כל המידע שברשותך כ"אישי / פרטי / ציבורי".
- בחר רכב. הכלי המאובטח והארגוני היחיד לנתונים רגישים; עבוד בעילום שם עבור המתווה הכללי.
- בצע את הליך האנונימיזציה. הפעל את שגרת הבדיקה לפני כל כניסה.
- אימות ובדיקת הטיה. בדוק כל פלט על עובדות והגינות.
- שמור על מגבלת משבר. הרחיקו את המשבר ויחסי הייעוץ מהרכב.
- קחו אחריות והיו שקופים. האישור הסופי שייך למומחה; השימוש פתוח בתוך הארגון.
תבניות הניתנות להעתקה
1) בקרת אנונימיזציה:
תפקידך: עוזר ביקורת פרטיות. רשום כל משפט בטקסט שלהלן שיכול לזהות באופן ישיר או עקיף את האדם (שם, מספר, כיתה, בית ספר, תיאור מצב ייחודי) והצע חלופה כללית יותר לכל אחד. תוכן להגיב. טקסט: [הדבק טקסט]
2) ביקורת הטיה ורגישות תרבותית:
בדוק את החומר ה-PDR הבא עבור הטיה ורגישות תרבותית: האם הוא מכיל סטריאוטיפים לגבי מגדר, תרבות, מצב סוציו-אקונומי או מבנה משפחתי? מי יכול להוציא? סמן הצהרות מסוכנות והצע חלופות כוללות. חומר: [הדבק חומר]
3) טיוטת מדיניות השימוש בבינה מלאכותית של החברה:
תפקידך: עוזר כתיבה PDR. לשירות ההכוונה נסחו מדיניות פנימית קצרה לשימוש בכלי בינה מלאכותית. כותרות: באילו משרות נעשה בו שימוש, באילו משרות לא נעשה בו שימוש (משבר, אבחון, התייעצות), כלל אנונימיזציה של נתונים, חובת אימות, האחריות מוטלת על המומחה. קצר וישים.
הנחיה חלשה / הנחיה חזקה
חלש:
לסיכום מצבו של אחמט ילמאז 8-C, הוא היה נתון לאלימות בבית.
היא מכניסה את הנתונים הרגישים ביותר (שם, מעמד, מעמד מיוחד) לרכב בצורתו הגולמית - הפרה חמורה של KVKK ואתיקה; יתרה מכך, זה יכול להיות מצב של הודעה (יחידה 9).
חזק:
תפקידך: עוזר בקרת פרטיות. הערה: עשיתי אנונימיות את הטקסט למטה לפני ששלחתי אותו לכלי. עם זאת, בדוק שוב: האם נותר פרט כלשהו שהופך את האדם לזיהוי? טקסט: "תלמיד חטיבת ביניים רמז שהוא חווה מתח בבית".
שלושה מיני תיקים
מקרה 1 - גילוי עקיף. מומחה עמד להכניס טקסט לתוך הכלי שממנו השמיט את השם; אבל הוא הבין שהביטוי "התלמיד היחיד בבית הספר שמשתמש בכיסא גלגלים" מתייחס ישירות לאותו אדם. הוא הכליל את זה ל"סטודנט". יצירת שמות לבדה לא הספיקה; גם תיאור המצב הייחודי היה מזהה.
מקרה 2 - תיקון הטיה. מומחה שבדק חומר קריירה מצא שה-AI תמיד השתמש בשמות גברים בדוגמאות הנדסיות ובשמות נשיים במקצועות הטיפול. זה איזן את הדגימות ושבר את התבנית. תיקון מינורי זה, לכאורה, שמר על הגינות המסר שנשלח לתלמידים.
מקרה 3 - קביעת מדיניות. שירות הדרכה יצר טקסט מדיניות פנימי משותף כדי למנוע את הבלבול הנובע מהעובדה שכל אחד משתמש ב-AI בצורה שונה: באילו משימות הוא משמש, לא במשבר ובאבחון, הנתונים אנונימיים, הפלט מאומת, האחריות היא של המומחה. AI נתן טיוטה; הצוות סיכם את התוכן עם הערכים שלו. אי הוודאות פינתה את מקומה למסגרת ברורה.
טעויות נפוצות
- הזנת נתונים גולמיים. כתיבה לרכב עם שם/סטטוס. פתרון: הליך אנונימיזציה, כלי מאובטח.
- רק מסיר את השם. שכחת מזהים עקיפים. פתרון: הכללה גם פרטים ייחודיים.
- התעלמות מהטיה. אימוץ פלט סטריאוטיפי. פתרון: ביקורת הטיה ותרבות.
- הטלת האחריות על הרכב. זה אומר "AI ייצר את זה". פתרון: האחריות מוטלת על המומחה.
- שימוש לרעה. עיבוד נתונים שנאספו למטרה אחת למטרה אחרת. פתרון: כבד את מגבלת המטרה.
טבלה: סוג נתונים וכלל AI
סוג נתונים
דוגמה
כלל AI
ציבורי
היכרות עם מקצוע כללי
זמין באופן חופשי
נתונים אישיים
שם, מספר, כיתה
לא ניתן להזין ללא אנונימיזציה
נתוני איכות מיוחדים
מצב נפשי, משפחה, אבחון
לעולם לא ניתן להזין אותו בצורתו הגולמית.
נתוני משבר
סיכון, התעללות, התאבדות
לעולם אל תיכנס לרכב (יחידה 9)
לסיכום
ב-PDR, סודיות היא הבסיס לאמון במקצוע והעיקרון הנבדק ביותר בעידן הבינה המלאכותית. KVKK מפרידה נתונים לנתונים אישיים ופרטיים; רוב נתוני ה-PDR הם רגישים ואינם מוזנים לכלי בצורתו הגולמית. מזעור נתונים, אנונימיזציה (עם מזהים ישירים ועקיפים) ובחירת כלי בטוח הם הכללים הבסיסיים. ארבעת העקרונות של אתיקה מקצועית - סודיות, טובת הנאה, אי-רשע, אוטונומיה - מחייבים את השימוש ב-AI; ההטיה נשלטת, האחריות נשארת אצל המומחה, והשימוש שקוף בתוך הארגון.
משימת יישום
נסח "מדיניות שימוש ב-AI" קצרה עבור שירות ההדרכה שלך. התחל עם התבנית "טיוטת מדיניות השימוש בבינה מלאכותית של ארגון"; לאחר מכן התאם אותו בהתאם למציאות של המוסד שלך. העבירו גם טקסט (בדיוני) דרך תבנית "בדיקת אנונימיזציה" ותלכוד והכליל לפחות מזהה עקיף אחד.
רשימת בדיקה
- [ ] סיווגתי את הנתונים שיש לי כאישיים / פרטיים / ציבוריים.
- [ ] הכללתי מזהים ישירים ועקיפים באנונימיזציה.
- [ ] השתמשתי בכלי מאובטח/ארגוני עבור נתונים רגישים.
- [ ] בדקתי את הפלט עבור הטיה ורגישות תרבותית.
- [ ] קיבלתי אחריות ושמרתי על שימוש שקוף.