KVKK, פרטיות וממשל ציבורי אחראי בבינה מלאכותית

רווחים:

• הוא מיישם עקרונות KVKK ומזעור נתונים בעת עיבוד נתונים אישיים של אזרחים בכלי AI.
• הוא קובע מסגרת ממשל לארגון הכוללת מדיניות שימוש בבינה מלאכותית, מסלול ביקורת ושרשרת אחריות.
• הוא טוען באופן הוליסטי שבינה מלאכותית ציבורית אחראית בנויה על פיקוח אנושי, שקיפות ואחריות.

לאורך מודול זה ראינו כיצד AI הוא מאיץ רב עוצמה בציבור: מענה לשאלות אזרחים, עצומות והתכתבויות, מחקר חקיקה, ניתוח מדיניות, דיווח, קבלת החלטות מונעת נתונים, ממשל אלקטרוני ושקיפות. עכשיו אנחנו מגיעים למסגרת שמחזיקה את הכל ביחד: הגנה על נתונים אישיים וממשל אחראי. הציבור, מטבעו, מעבד את הנתונים הרגישים ביותר של האזרח: זהות, כתובת, הכנסה, בריאות, עבר פלילי, מצב משפחתי. עיבוד נתונים אלה עם כלי AI חייב לעמוד במלואו במסגרת KVKK (חוק הגנת נתונים אישיים מס' 6698; החוק המסדיר את העיבוד החוקי, המוגבל והמאובטח של נתונים אישיים). ביחידה הסופית הזו, נבסס את עמוד השדרה של הפרטיות והממשל של שימוש בבינה מלאכותית ציבורית - אילו נתונים ניתן לתת לאיזה כלי, איזו מדיניות חלה, מי אחראי, איך ארגון מנהל בינה מלאכותית בבטחה. יחידה זו היא הגג המוצב מעל עשר היחידות הקודמות.

עקרונות בסיסיים של KVKK נגיעה בבינה מלאכותית ציבורית

KVKK מגדיר מספר עקרונות בסיסיים, שכל אחד מהם מגביל ישירות את השימוש בבינה מלאכותית:

• ציות לחוק ועמידה במטרה: הנתונים האישיים מעובדים רק למטרה ספציפית ולגיטימית. לא ניתן להשתמש בנתונים שנאספו למטרה אחת (לדוגמה, פנייה לעזרה) למטרה אחרת (לדוגמה, הכשרת דוגמנית) ללא רשות.
• מזעור נתונים: לא מעובדים יותר נתונים מהנדרש למטרה. אם לא נדרש שם לניתוח קטגוריות, לא ניתן שם.
• אבטחה: הנתונים מוגנים מפני גישה לא מורשית. הדבקת נתוני אזרחים לתוך כלי AI ציבורי מוציאה את הנתונים האלה אל מחוץ לארגון - זו הפרה של מדיניות האבטחה.
• תקופת אחסון: הנתונים נמחקים כאשר המטרה מסתיימת; זה לא נשמר ללא הגבלת זמן.
• מידע וזכויות: לאזרחים יש את הזכות לדעת כיצד הנתונים שלהם מעובדים, לתקן, למחוק ולהתנגד להחלטות אוטומטיות.

שימו לב: העלאת נתוני אזרח לכלי AI ציבורי שהמוסד לא אישר, היכן מאוחסנים הנתונים ולמי יש גישה אליהם לא ברור, מהווה ברוב המקרים הפרה של KVKK ופותחת את המוסד לסנקציות. הכללים לעולם אינם כפופים "כדי להקל על העבודה".

אילו נתונים, לאיזה רכב? דגם שלושה אזורים

ככלל אצבע, חלק את הנתונים לשלושה אזורים:

1. אדום (לעולם לא נכנס לרכב ציבורי): מספר תעודת זהות, בריאות, פושע, דת, מוצא אתני, ביומטריה, כתובת מלאה, כל דבר שמזהה את האדם. אלה מעובדים רק בסביבה חוזה/בית ותואמת KVKK המאושרת על ידי המוסד.
2. צהוב (בזהירות, על ידי מיסוך): נתונים שניתן לקשר בעקיפין לאדם. תחילה אנונימי/צבור, ואז עיבוד.
3. ירוק (חינם): מידע לא אישי, ציבורי, כללי (טקסט חקיקה, סטטיסטיקה ציבורית, נוהל כללי). אתה יכול לעבד אותם בקלות עם AI.

טיפ: לפני מתן טקסט ל-AI, בצע את הבדיקה של 5 שניות: "האם יש משהו בתוכן הזה שיכול לזהות אדם?" אם התשובה היא "כן/אולי", יש להסוות או לנהוג ברכב מאושר. אם יש ספק, שקול אדום.

ממשל תאגידי: מאדם למערכת

אי אפשר להשאיר AI ציבורי אחראי לרצונם הטוב של עובדי מדינה בודדים; נדרשת מסגרת מוסדית:

• מדיניות: למוסד חייבת להיות מדיניות שימוש ב-AI: אילו כלים מאושרים, אילו נתונים ניתן להזין, מי אחראי.
• רשימת כלים מאושרים: על הצוות להשתמש בכלים שהמוסד העריך ואישר, ולא באופן אקראי.
• הדרכה: הצוות חייב להכיר את משמעת האימות ואת אזורי הנתונים (כמו מודול זה).
• הקלטה וביקורת: יש לשמור נתיב ביקורת של החלטות שהופקו באמצעות AI.
• אחריות: לכל פלט המופעל בינה מלאכותית חייב להיות בעלים ואישור אנושי. האחריות היא על המוסד והקצין, לא על הרכב.
• עקרון ממוקד באדם: אין החלטה סופית יוצרת/הגבלת זכויות ללא הסכמת האדם.

שלושה מיני תיקים

מקרה 1 - דליפת נתונים אדומה נמנעה. איש צוות עמד להעלות לכלי ציבורי סיכום של רשימה של יתרונות בריאותיים עבור 1,200 אנשים. הודות למדיניות הרכב המאושרת של הסוכנות והכשרת "נתונים אדומים", זה נעצר; הנתונים עובדו בסביבה מאושרת פנימית ועם שדות זהות מוסווים. נמנעה הפרה אפשרית של KVKK ואובדן אמון בעשרות אלפי אנשים.

מקרה 2 - שימוש לרעה. יחידה אחת רצתה להשתמש בנתונים שנאספו לצורך הסברה עבור תוכנית תקשורת לפני הבחירות. קצין הגנת המידע נזכר בעקרון ההקפדה על המטרה: זה היה שימוש בנתונים מחוץ למטרה שלשמה נאסף והיה בלתי חוקי. הבקשה נדחתה.

מקרה 3 - פער הממשל נסגר. בעירייה אחת, יחידות שונות השתמשו בכלי AI שונים ללא שליטה; אף אחד לא ידע אילו נתונים הלכו לאן. הסוכנות הציגה מדיניות שימוש בבינה מלאכותית, רשימת רכבים מאושרים ושביל ביקורת; תוך 3 חודשים, השימוש ברכב הלא רשום ירד ב-90% ונוצר מלאי נתונים.

ארבע תבניות הניתנות להעתקה

1) סיווג אזור נתונים (לפני ייצוא לרכב):

תפקידך: יועץ להגנת מידע. סווגו את התוכן הבא לפני מסירתו לסוכן בינה מלאכותית: אדום (מזהה אדם, לעולם לא נכנס לרכב ציבורי), צהוב (ניתן לחיבור בעקיפין, מסכה), ירוק (לא אישי, חינם). סמן את האזורים האדומים/צהובים בזה אחר זה ותגיד להם איך להסוות. ספור את החשוד כאדום. תוכן: [טקסט]

2) מיסוך/אנונימיזציה:

אנונימיים את כל הנתונים האישיים לפני עיבוד הטקסט הבא: שם -> [אדם-1], מספר תעודת זהות -> [זהות], כתובת ->[כתובת], בריאות/עונש -> [רגיש]. תייגו את אותו אדם. ייצא טקסט אנונימי בנפרד. לעולם אל תכתוב נתונים בפועל לפלט. טקסט: [טקסט]

3) רשימת תיוג KVKK (לשימוש ב-AI):

תפקידך: מומחה לציות ל-KVKK. הפק רשימת בדיקה לשימוש ב-AI הבא: (1) היא מטרת העיבוד לגיטימית וספציפית, (2) האם היא קשורה למטרה (האם היא עוברת למטרה אחרת), (3) האם היא מותאמת, (4) האם הכלי מאובטח/מאושר, (5) האם תקופת השמירה בטוחה, (6) האם זכויות האזרח (התנגדות, מחיקה) מוגנות. סמן את הפריטים החסרים בדגל אדום. שימוש: [מתכון]

4) מסגרת מדיניות AI תאגידית:

תפקידך: מומחה לממשל IT ציבורי. הפק מסגרת מדיניות שימוש ב-AI עבור הארגון שלנו: היקף, כלים מאושרים, אזורי נתונים (אדום/צהוב/ירוק), שימושים אסורים, נקודות אישור אנושיות, עקבות ביקורת, אחריות, הדרכה והתראה על הפרה. מלא כל כותרת ב-1-2 משפטים. מוסד: [יחידה ומשרות טיפוסיות]

הנחיה חלשה / הנחיה חזקה

חלש: "סכם את רשימת ההתייחסויות הזו".

חזק: "התפקיד שלך הוא יועץ להגנה על נתונים. ראשית, סווגו את הרשימה הזו לפי אזור נתונים (אדום/צהוב/ירוק) וסמנו את כל השדות המזהים את האדם. מסווה את השדות האדומים/צהובים ב-[PERSON]/[IDENTITY]/[SENSITIVE], שמור על אותו אדם עם אותה תווית. צור רק סיכום קטגוריה עם אנונימיים ומצטברים בנתונים המצטברים, אל תכתוב מונחים אישיים בסוף התהליך הזה, אל תכתוב את תשומת הלב האמיתית של התהליך הזה. של KVKK (מטרה, אחסון, אבטחת רכב) להוסיף."

ההבדל: ההנחיה העוצמתית מסווגת, מסווה, ממזערת ומשלבת את עקרונות KVKK לפני עיבוד הנתונים.

אזורי נתונים וכלל

אזור

דוגמה

כלל

אדום

מספר תעודת זהות TR, בריאות, קנס, כתובת מלאה

לעולם אל תיכנס לרכב ציבורי; סביבה מאושרת

צהוב

גיל+שכונה+עיסוק, מזהה עקיף

מסכה/מצבור, ואז מעבד

ירוק

חקיקה, סטטיסטיקה ציבורית, נוהל כללי

עבודה עצמאית

טעויות נפוצות

• ייצוא נתונים אדומים לכלי ציבורי. ההפרה החמורה ביותר; נתוני תעודת זהות/בריאות/עונש אינם עוזבים את הסביבה המאושרת.
• שימוש לרעה. זה בניגוד לחוק להשתמש במידע שנאסף למטרה אחת למטרה אחרת (הכשרת מודל, תקשורת) ללא רשות.
• מעבד יותר מדי נתונים. אין להזיז שדות מיותרים (שם, כתובת) לצורך העניין; לְצַמְצֵם.
• נהיגה ללא אישור. לא ברור לאן מגיעים הנתונים בכלי רכב שהמוסד לא העריך.
• לא קובע את תקופת השמירה. יש למחוק נתונים כאשר המטרה הושלמה; לא צריך להישמר ללא הגבלת זמן.
• הטלת האחריות על הרכב. הפלט הוא בבעלות ובאישור של האדם; "AI עשה את זה" אינו הגנה.

לסיכום

המסגרת לבינה מלאכותית ציבורית אחראית היא הגנה על נתונים אישיים וממשל תאגידי. עקרונות KVKK - תכליתיות, מזעור, אבטחה, מגבלת שמירה, זכויות אזרחים - מגבילים כל שימוש בבינה מלאכותית. הפרד נתונים לאזורים אדומים / צהובים / ירוקים, לעולם אל תיתן אדום לכלי ציבורי, מיסוך נתונים אישיים, השתמש רק בכלים מאושרים וחבר בעלים אנושי לכל החלטה. מדיניות ברמה המוסדית, רשימת רכבים מאושרת, רישום הדרכה ובדיקה; משמעת האימות ברמת האדם. לפיכך, בינה מלאכותית משרתת את הציבור על ידי הגנה על זכויות האזרחים.

משימת יישום

בחר שימוש אמיתי ב-AI שעשית (או שוקל לעשות) ביחידה שלך. הפרד את התוכן שתעבד לאדום/צהוב/ירוק בעזרת התבנית "סיווג אזור נתונים". החל את התבנית "רשימת תיוג KVKK" ומצא לפחות נקודה אחת חסרה/מסוכנת. לבסוף, נסח מדיניות קצרה המתאימה ליחידה שלך עם "שלד מדיניות AI תאגיד".

רשימת בדיקה

• [ ] חילקתי את התוכן לאזור אדום/צהוב/ירוק; ספרתי את החשוד כאדום.
• [ ] לא מסרתי את הנתונים האדומים לכלי הציבורי; השתמשתי במדיה מאושרת.
• [ ] הסתרתי נתונים אישיים והסרתי שדות מיותרים (מזעור).
• [ ] בדקתי את מטרת העיבוד, תקופת האחסון ואבטחת הרכב.
• [ ] שמרתי על זכויות ההתנגדות/מחיקה של האזרחים.
• [ ] צירפתי בעל אנוש ואישור לכל פלט; שמרתי על עקבות ביקורת.

מבחן מודול

1. כפקיד ציבור, מהי השאלה העדיפות ביותר שאתה צריך לשאול לפני מסירת עבודה לבינה מלאכותית?

• א) מה מפסיד האזרח אם הפלט הזה שגוי? ✔
• ב) כמה מהר בינה מלאכותית יכולה לעשות את העבודה הזו?
• ג) האם כלי הבינה המלאכותית הזה בחינם?
• ד) האם יחידה אחרת תשתמש גם בפלט זה?

הסבר: ההחלטה על העברה מתקבלת על סמך הנזק שייגרם לאזרח אם הפלט לא נכון. הנזק מועבר בקלות אם מדובר רק בכמה דקות של כתיבה מחדש; אם מדובר בדחייה לא הוגנת, עונש שגוי או אובדן זכויות, בינה מלאכותית מפיקה רק טיוטה, ההחלטה והאימות שייכים לפקיד.

2. איך קוראים לזה כשבינה מלאכותית מציגה חוק לא קיים או החלטת בית משפט מפוברקת כאמיתיים?

• א) שמירה במטמון
• ב) טריאז'
• ג) אנונימיזציה
• ד) הזיה ✔

הסבר: הזיה היא כאשר AI מייצר בביטחון מידע שאינו קיים בפועל (חומר מיוצר, רגולציה בוטלה, מספר שגוי). בתחום החקיקה מדובר באחד הסיכונים המסוכנים ביותר, שכן הוא עלול להוביל לאובדן זכויות ולביטול הפעולה המנהלית.

3. נושא משרה עומד לדחות את הבקשה על סמך מאמר תקנה עליו הצביע י.ז. מהי ההתנהגות הנכונה ביותר?

• א) ה-AI כותב ישירות את הדחייה כי הוא נראה בטוח
• ב) שאל את אותה שאלה לרכב AI אחר וקבל אישור
• ג) מאשר את המאמר מהטקסט המאוחד הנוכחי ב-Çözüm.gov.tr ✔
• ד) שואל בעל פה את ההחלטה לממונה

תיאור: נתוני האימון של ה-AI מוקפאים בתאריך מסוים; ייתכן שהמאמר שהוא מציג בוטל או שונה. אישור שהמאמר בתוקף וגרסתו הסופית מהטקסט המאוחד הנוכחי ב-Çözüm.gov.tr לפני ההחלטה מונעת דחייה בלתי הוגנת ותביעת ביטול אפשרית.

4. למה זה הבטחת איכות שצ'אט בוט אזרח יכול להגיד 'אני לא יודע, אני מעביר אותך לפקיד'?

• א) משפר את הסטטיסטיקה על ידי הגדלת קצב התחלופה
• ב) מונע מידע מוטעה על ידי האצלת מידע לבני אדם כאשר אינם בטוחים ✔
• ג) מאריך את זמן השיחה על ידי הסחת דעת האזרחים
• ד) מאפשר לצ'אט בוט לקבל פחות שאלות

הסבר: בציבור, תשובה שגויה בטוחה היא הרבה יותר יקרה מאשר קריאה כנה; זה מוביל לאובדן זכויות וחוסר אמון במוסד. היכולת של הצ'אט בוט למסור לאדם כשהוא לא בטוח היא מנגנון בטיחות שמונע מידע מוטעה הזוי.

5. מהו הסיכון החשוב ביותר שיש לקחת בחשבון בעת ​​'פישוט' התכתבות רשמית עם AI?

• א) הטקסט קצר מדי
• ב) שינוי הגופן
• ג) ביטול תנאי או חריג ✔
• ד) כתיב שגוי של שם הנמען

הסבר: התאמה סגנונית לא אמורה לשנות את התוכן. בעת פישוט, AI לפעמים מפיל חריג, מצב או משך. לכן, תמיד יש להשוות את הטקסט המפושט להחלטה או לחקיקה המקורית.

6. שם ות.ר. במערך נתונים. איך קוראים לזה כשהשילוב של 'שכונה + שנת לידה + סוג מוגבלות' יכול לחשוף אדם גם אם מספר תעודת הזהות נמחק?

• א) הגדרה מחדש ✔
• ב) מזעור נתונים
• ג) שיעור כיסוי
• ד) איחוד

הסבר: זיהוי מחדש הוא מציאת אדם באמצעות שילוב של מזהים עקיפים מנתונים שנחשבים אנונימיים. אם נמצאה קטגוריה נדירה באדם בודד, מחיקת השם לא תספיק; נדרשים אמצעים נוספים, כגון המרת גיל לטווח ושילוב קטגוריות נדירות.

7. איך קוראים לזה כשמודל בדיקה מסמן שכונה שנבדקה בעבר כ'מסוכנת' ושולח לשם יותר בדיקות מה שדוחף את הדגם לראות באותה שכונה מסוכנת יותר?

• א) מזעור נתונים
• ב) הזיה
• ג) אנונימיזציה
• ד) לולאת משוב ✔

הסבר: לולאת המשוב היא כאשר הפלט של המודל משפיע על נתוני האימון הבאים, ומחזק את ההטיה הקיימת. ההבדל גדל לא בסיכון בפועל, אלא במקום שבו מסתכלים. הדרך להגן על עצמך היא לפקח על ההשפעה, לא על התפוקה, ולשלוט בהפצה מבוססת קבוצות של החלטות.

8. לאחר שבקשת הטבות עברה כולה לאינטרנט, מספר הבקשות ירד ב-30 אחוז בחודש הראשון. מה ההסבר הכי סביר לזה?

• א) הצרכים האמיתיים של האזרחים ירדו
• ב) אזרחים ללא אינטרנט ואוריינות דיגיטלית נותרו בחוץ ✔
• ג) הריבית ירדה בגלל שסכום הסיוע ירד
• ד) המערכת אישרה אוטומטית את כל הבקשות

תיאור: הפער הדיגיטלי הוא חוסר היכולת של אזרחים ללא גישה לאינטרנט או אוריינות דיגיטלית לגשת לשירותים. המספר יורד כי הקבוצה הנזקקת ביותר, קשישים ואזרחים ללא אינטרנט, לא יכולה להגיש בקשה. הפתרון הוא השארת ערוצים חלופיים, כמו נקודות הפניה מסייעות.

9. בעוד ששיעור ההצלחה בפועל בדוח שנתי הוא 63 אחוזים, תקציר המנהלים שהפיק YZ אומר "הרוב המכריע של הבקשות היו חיוביות". מהי ההתנהגות הנכונה?

• א) הביטוי נשאר כפי שהוא כי הוא חיובי.
• ב) היחס נמחק ומשתמשים רק בביטוי האיכותי
• ג) הביטוי מוחלף במספר האמיתי 63 אחוז ✔
• ד) הסיכום מוסר לחלוטין מהדוח

הסבר: תפיסה חיובית מוגזמת בדוח הציבורי מעמידה את המוסד במצב קשה בביקורות הבאות. יש להשוות כל טענה בתקציר המנהלים לנתונים הגולמיים ולכתוב את המספר בפועל (63 אחוזים); סיכומי בינה מלאכותית אינם נכללים בדוח ללא ביקורת.

10. כשמקבלים החלטות מבוססות נתונים במגזר הציבורי, אם 'מספר התיקים הסגורים מדי חודש' עולה בעוד 'קצב הרזולוציה במגע ראשון' יורד, מה זה מלמד אותנו קודם?

• א) בחירת המחוון הנכון חשובה יותר מהכפלת המספר ✔
• ב) יש להגדיל את מספר כוח האדם
• ג) יש לצבוע גרפים
• ד) הצ'אטבוט צריך לענות על שאלות נוספות

הסבר: המדד השגוי מוביל להחלטה שגויה גם עם נתונים נכונים. קבצים עשויים להיסגר במהירות ולהיפתח מחדש. בחירת המחוון הנכון וקריאת האינדיקטורים יחד מונעת התרברבות על סמך מספר מטעה בלבד.

11. בתרשים, הציר האנכי מתחיל ב-40 במקום אפס ועלייה של 2 אחוזים נראית כמו קפיצה דרמטית היא דוגמה לאיזו בעיה?

• א) הזיה
• ב) מזעור נתונים
• ג) חלוקה דיגיטלית
• ד) הדמיה מטעה ✔

הסבר: הדמיה מטעה היא עיוות תפיסה באמצעות טכניקות כגון ציר שאינו מתחיל מאפס, קנה מידה לא פרופורציונלי או פרק זמן נבחר. זה חלק ממשל חזותי ישר בנתונים ציבוריים; יש להציג את הטבלה האמיתית על ידי משיכת הציר לאפס.

12. מדוע זה לא מקובל לומר 'AI כתב את זה' כהצדקה לפעולה מנהלית?

• א) כי כלי AI יקרים מדי
• ב) פעולה מנהלית חייבת להיות מוצדקת והאחריות היא על הקצין ✔
• ג) כי AI לא יודע טורקית
• ד) כי אזרחים לא אוהבים AI

הסבר: פעולה מנהלית חייבת להיות מנומקת וניתנת לביקורת; האחריות אינה מוטלת על ה-AI, אלא על פקיד הציבור והמוסד שמשתמשים בפלט מבלי לאמת אותו. 'ה-AI אמר זאת' אינו הצדקה ואינו מקיים את הפעולה המנהלית.

13. מהם ארבעת העקרונות המבדילים את השימוש ב-AI במגזר הציבורי מהמגזר הפרטי ושיש להקפיד עליהם בנוסף?

• א) מהירות, זולות, רווחיות, תחרות
• ב) אוטומציה, קנה מידה, שיווק, מותג
• ג) שוויון, שקיפות, אחריות, הגנה על נתונים אישיים ✔
• ד) פרטיות, סודיות, פרטיות וסודיות

הסבר: בעבודות שבהן נעשה שימוש בכוח ציבורי, בינה מלאכותית ממוסגרת על ידי עקרונות השוויון (טיפול דומה במצב דומה), שקיפות (הסבר הצדקה של ההחלטה), אחריות (אחראית לכל עסקה ומסלול ביקורת) והגנה על נתונים אישיים (KVKK).

14. מה צריכה לעשות מערכת בדיקה מוקדמת אוטומטית כשהיא לא בטוחה בסוג מסמך נדיר?

• א) לדחות את הבקשה בשתיקה
• ב) העברת הבקשה לביקורת אנושית ✔
• ג) אישור אוטומטי של הבקשה
• ד) מחק את האפליקציה

הסבר: אוטומציה טובה מכוונת את המודל לקצין כשהוא לא בטוח ולא דוחה אותו בשקט. אחרת, יישומים לגיטימיים ייפלו לנקודה עיוורת ותתרחש קורבנות. השארת אנשים בנקודת ההחלטה היא הבסיס לניהול חריגים.