רווחים:
- יכולת להעריך מידע לפי דרגת רגישות (ציבורי / פנימי / סודי / סודי ביותר) וליישם את רפלקס 'שאל כיתה, התאם את הכלי'
- הבנת אחסון הנתונים, הדרכת מודלים, איסוף ופריצה של סיכוני AI ושמירה על הפרדה בין העולם הפתוח והמסווג
- יכולת לאמץ את עקרון הנתונים המינימלי, הגנה על נתונים אישיים והמשמעת של הגנה על מידע לא ודאי כאילו היה מעמד גבוה יותר.
דיפלומטיה מבוססת על אמון, ואמון מבוסס על סודיות. עמדת משא ומתן, הערכת מודיעין, תוכן שיחה עם בן שיח, או החלטה שטרם פורסמה, בידיים הלא נכונות, עלולים לסכן את האינטרסים של המדינה, את תוצאת המשא ומתן, או אפילו את ביטחון האנשים. בינה מלאכותית מביאה מהירות אדירה לתחום זה, אך היא טומנת בחובה גם סיכוני פרטיות חדשים וחמורים. ביחידה זו תלמדו כיצד להגן על מידע מסווג ורגיש בעידן הבינה המלאכותית, אילו נתונים יכולים להיכנס לאיזה רכב ומשמעת השימוש הבטוח.
יחידה זו היא שיעור האבטחה הקריטי ביותר של המודול. טעות אחת כאן - הדבקת מסמך סודי בכלי הלא נכון - היא בלתי הפיכה. לכן, ייקבע כאן רפלקס שצריך לשנן: לפני מתן נתונים לכלי AI, תמיד תשאל: באיזה מחלקה הנתונים האלה והאם הכלי הזה מאושר למחלקה הזו?
סיווג מידע: הבחנה בסיסית
מידע דיפלומטי מסווג לרוב לפי רגישותו. למרות שזה משתנה ממוסד למוסד, ההיגיון הבסיסי הוא זה:
- לא מסווג/ציבורי: מידע שכבר פורסם ונגיש לציבור. דוגמה: הודעות רשמיות לעיתונות, חדשות ציבוריות.
- מוגבל/פנימי: מידע פנימי שאינו זמין לציבור אך בעל רגישות נמוכה.
- חסוי: מידע שחשיפתו עלולה לפגוע קשות באינטרסים של המדינה. דוגמה: עמדת משא ומתן, הערכה פנימית.
- סודי ביותר: מידע שחשיפתו יגרום לנזק החמור ביותר. דוגמה: מודיעין רגיש, מידע אבטחה קריטי.
כלל האצבע הוא פשוט: שום מידע מסווג שאינו זמין לציבור לא יוכנס לכלי בינה מלאכותית שהמוסד שלך לא אישר עבור אותה כיתה. שירות בינה מלאכותית ציבורית אינו מוסמך, בהגדרה, לסוג מידע זה.
טיפ: אם אינך בטוח, התייחס למידע כמו קשיש. לומר "זה כנראה כבר ידוע" הוא ניחוש מסוכן. עד שאתה בטוח ב-100 אחוז שהמידע הוא ציבורי, הגן עליו כאילו הוא סודי. זהירות מיותרת היא לא עלות, היא הבטחה.
סיכוני פרטיות של AI
כלי AI מהווים סיכוני פרטיות שונים מאשר תוכנות מסורתיות:
1. עיבוד נתונים ואחסון: הטקסט שאתה כותב לשירות AI ציבורי עשוי להיות מעובד ומאוחסן בשרתים של אותו שירות. אתה לא יכול לשלוט מי ניגש אליו, כמה זמן הוא נשמר וכיצד נעשה בו שימוש.
2. שימוש בהדרכות מודל: שירותים מסוימים עשויים להשתמש בנתונים שתזין כדי לשפר את המודל. זה יוצר את הסיכון שהמידע הסודי שלך ייכנס בעקיפין ל"זיכרון" של הדוגמנית וידלוף לאחרים.
3. סיכון צבירה: פיסות מידע שנראות אינדיבידואליות לא מזיקות יכולות ליצור תמונה רגישה בשילובן. פיסות מידע קטנות המוזנות בזמנים שונים יכולים למסור ביחד תפקיד סודי.
4. סיכון גישה ופריצה: כמו כל מערכת חיצונית, שירותי בינה מלאכותית יכולים להיות נתונים לפרצת נתונים. הנתונים שאתה מספק עשויים להיחשף בהפרה זו.
הפתרון לסיכונים אלו הוא ביסוס שני עולמות נפרדים: כלים כלליים לעבודת קוד פתוח; רק מערכות פנימיות מאובטחות ומאושרות שאינן מייצאות נתונים לעבודות מסווגות. לעולם אל תערבב את השניים.
שימו לב: אמירת "עשיתי את זה אנונימי" לרוב לא מספיקה. גם אם תמחק את השמות, ההקשר (תאריך, מיקום, אירוע, מספר מסיבות) עשוי להספיק למומחה כדי לתקן את הזהויות והתפקיד. מידע רגיש אמיתי מוגן לא על ידי מיסוך אלא על ידי בחירה מתאימה של כלים ומדיה.
משמעת שימוש בטוחה
הגדר זרימת בקרה מעשית:
- קבע את הכיתה. האם הנתונים האלה ציבוריים, פנימיים, חסויים או סודיים ביותר?
- חבר את הרכב. האם ניתן לעבד את המחלקה הזו בכלי זה? אם לא, תפסיק.
- מדיניות מינימום נתונים. אפילו בעבודה ישימה, אל תמסור יותר מידע ממה שהעבודה דורשת.
- הגן על נתונים אישיים. נתונים אישיים (שם, איש קשר, מיקום) מעובדים רק במידת הצורך ועל בסיס חוקי; אם זה מיותר, הוא מוסווה או לא ניתן בכלל.
- שמור את התיעוד. תיעוד באיזה כלי השתמשת לאיזו עבודה, עם אילו נתונים; אם יש בעיה, ניתן לאתר אותה.
טיפ: צור תרבות של "פרטיות תחילה" בצוות שלך: פקיד או מתמחה חדשים צריכים ללמוד את הרפלקס "אין מסמכים סודיים להיכנס לרשות הציבור" מהיום הראשון. רוב ההפרות נובעות לא מזדון אלא מאי ידיעה עד כמה רכב פתוח.
שלושה מיני תיקים
מקרה 1 - רפלקס מנע הפרה. מומחה עמד לסכם הערת ראיון כאשר עצר ושאל את סיווגו: הפתק היה שיחה חסויה עם בן שיח. עבר למערכת מאובטחת פנימית במקום לכלי ציבורי. רפלקס פשוט של "שאל את הכיתה תחילה" מנע פריצה.
מקרה 2 - סיכון גבייה מוכר. צוות היה מזין פיסות מידע קטנות, "תמימות" לכאורה, לתוך כלי חיצוני בימים שונים. סקירה ביטחונית הראתה שכאשר הם משולבים, החלקים הללו מסרו את סדר היום של משא ומתן קרוב. היישום הופסק; העבודה הועברה לסביבה מאובטחת.
מקרה 3 - אנונימיות מזויפת. פקיד ראה מסמך "אלמוני" משום שהוא מחק שמות ומסר אותו לגורם החיצוני. עם זאת, התאריך, המקום ותיאור האירוע במסמך הבהירו למי הכוונה. מחיקת השם לא הספיקה; המסמך היה צריך להיות מעובד בסביבה מאובטחת בכל מקרה.
ארבע תבניות הניתנות להעתקה
1) בדיקה מוקדמת של מחלקה ורכב:
אתאר את העבודה להלן. אמור לי (אל תעשה את העבודה): (1) איזו דרגת רגישות עשויה להיות לנתונים האלה (ציבורי / פנימי / סודי / סודי ביותר), (2) האם יש לעבד את המחלקה הזו בכלי AI ציבורי, (3) אם לא, איזה סוג סביבה נדרש. תיאור תפקיד/נתונים: [כאן]
2) סריקה ומסוך של נתונים אישיים:
רשום את הנתונים האישיים/רגישים (שם, כותרת, איש קשר, מיקום, בריאות, מספר תעודת זהות) שיש להסוות לפני העיבוד בטקסט למטה. עיבוד הטקסט; רק תגיד לי אילו אזורים צריך להסיר. אני אעשה את המיסוך ואשלח שוב. טקסט: [כאן]
3) הערכת סיכונים באיסוף:
אני שוקל לייצא את פיסות המידע הבאות בנפרד לכלי חיצוני: [pieces]. למרות שאלו עשויים להיראות בלתי מזיקים בנפרד, כאשר הם משולבים הם יכולים ליצור תמונה רגישה (למשל עמדה, סדר יום, זהות)? העריכו את הסיכון באיסוף וספרו אילו פריטים אסור לתת ביחד.
4) אישור זמינות ציבורית:
אני לא בטוח אם המידע הבא הוא ציבורי: [מידע]. רשום איזה אימות אני צריך לעשות לפני שאני רואה את זה כפומבי (האם יש פרסום רשמי, מי פרסם אותו, תאריך). אם אני לא בטוח, הזכיר לי את עיקרון "התייחס כסודי".
הנחיה חלשה / הנחיה חזקה
הנחיה חלשה:
סכמו את הערת הראיון הזו. (תוכן מוסתר מודבק ישירות בפתק)
זו הטעות המסוכנת ביותר: מסמך חסוי נכנס למדיה ציבורית מבלי שהכיתה שלו נחקרה. הסיכון לדליפה התרחש ואינו ניתן לביטול.
הנחיה עוצמתית (בדוק תחילה):
אני רוצה לעבד הערת פגישה. אבל ראשית: הפתק הזה הוא כנראה בכיתה הסודית. תגיד לי אם ניתן לעבד מסמך מסוג זה בכלי ציבורי ומהי הדרך הנכונה? אני לא מוסר לך את תוכן המסמך; אני רק מבקש את התהליך הנכון.
ההבדל ברור: התוכן הסודי כלל לא ניתן, קודם כל שואלים את התהליך הנכון והעבודה מופנית לסביבה המתאימה.
טבלת מיפוי מחלקה לרכב
שיעור מידע
דוגמה
AI ציבורי
סביבה נכונה
ציבורי
הודעה לעיתונות
מתאים
כלי כללי
פנימי/שירות ספציפי
הערה פנימית
בדרך כלל לא
אושר בבית
סוד
עמדת משא ומתן
לעולם לא
מערכת מוסדית מאובטחת
סודי ביותר
אינטליגנציה רגישה
לעולם לא
האבטחה הגבוהה ביותר
נתונים אישיים
אישורים
הכרחי+חוקי בלבד
רעולי פנים/ מאובטחים
טעויות נפוצות
- הזנת נתונים מבלי לבקש את הכיתה. לפני כל עבודה, הרפלקס "באיזה כיתה זה?" הוא חובה.
- בהנחה ש"זה כנראה ברור". מידע לא ודאי מוגן כסודי.
- טעות במחיקת השם כאנונימיזציה. ההקשר יכול למסור זהויות.
- התעלמות מהסיכון של גבייה. חלקים קטנים יכולים להיות עדינים כאשר הם מורכבים.
- ערבוב שני עולמות. משרות פתוחות ומסווגות פועלות בכלים/סביבות נפרדות.
לסיכום
סודיות היא הגבול הקריטי ביותר לשימוש ב-AI דיפלומטי. קחו סיווג מידע (ציבורי/פנימי/סודי/סודי ביותר), רפלקס "שאל כיתה, התאם רכב", עקרון נתונים מינימלי, הגנה על נתונים אישיים וסיכון איסוף כעמוד השדרה של יחידה זו. כלים כלליים לעבודת קוד פתוח; השתמש רק במערכות מאובטחות ומאושרות בתוך הבית לעבודות מסווגות. לעולם אל תבלבלו בין השניים; כאשר יש ספק, שמרו על המידע כמו בכיר.
משימת יישום
רשום 8 חלקי נתונים שונים מהשולחן שלך (או דמיוני) (חלקם ציבוריים, חלקם רגישים). הכניסו כל אחד לכיתה והחליטו "באיזה כלי ניתן לעבד אותו". העריכו מעורפלים עם התבנית "בדיקה מוקדמת של כיתה ורכב". בחרו שלושה חלקים ובדקו האם הם יוצרים תמונה רגישה בשילוב עם "הערכת סיכוני האוסף".
רשימת בדיקה
- [ ] תחילה קבעתי את דרגת הרגישות עבור כל נתון.
- מעולם לא הזנתי נתונים שהמעמד שלהם [ ] אינו מתאים לרכב ציבורי.
- [ ] שמרתי על המידע שלא הייתי בטוח בו כמו ממונה.
- [ ] אני מעבד נתונים אישיים רק כשצריך וחוקי, רעולי פנים.
- [ ] לקחתי את הסיכון באיסוף ובהפרדה של שני עולמות.