سود:
- امکان ارزیابی اطلاعات بر اساس کلاس حساسیت (عمومی / داخلی / محرمانه / فوق محرمانه) و اعمال رفلکس "کلاس سوال، مطابقت با ابزار"
- درک ذخیره سازی داده ها، آموزش مدل، جمع آوری و خطرات نقض هوش مصنوعی و جدا نگه داشتن دنیای باز و طبقه بندی شده
- توانایی اتخاذ اصل حداقل داده، حفاظت از داده های شخصی و نظم و انضباط حفاظت از اطلاعات نامطمئن به عنوان یک کلاس بالاتر.
دیپلماسی مبتنی بر اعتماد است و اعتماد مبتنی بر رازداری است. موضع مذاکره، ارزیابی اطلاعاتی، محتوای مکالمه با طرف مقابل، یا تصمیمی که هنوز اعلام نشده است، در دستان نادرست، می تواند منافع یک کشور، نتیجه مذاکره یا حتی امنیت مردم را به خطر بیندازد. هوش مصنوعی سرعت فوقالعادهای را در این زمینه به ارمغان میآورد، اما خطرات جدید و جدی حفظ حریم خصوصی را نیز به همراه دارد. در این واحد یاد می گیرید که چگونه از اطلاعات طبقه بندی شده و حساس در عصر هوش مصنوعی محافظت کنید، چه داده هایی را می توان وارد چه خودرویی کرد و با نظم و انضباط استفاده ایمن آشنا خواهید شد.
این واحد مهم ترین درس امنیتی ماژول است. یک اشتباه در اینجا - چسباندن یک سند محرمانه در ابزار اشتباه - غیر قابل برگشت است. بنابراین، رفلکسی که باید به خاطر بسپارید در اینجا ایجاد میشود: قبل از دادن هر داده به ابزار هوش مصنوعی، همیشه بپرسید: این داده در چه کلاسی است و آیا این ابزار برای این کلاس تأیید شده است؟
طبقه بندی اطلاعات: تمایز اساسی
اطلاعات دیپلماتیک اغلب بر اساس حساسیت آن طبقه بندی می شود. اگرچه از موسسه ای به موسسه دیگر متفاوت است، منطق اصلی این است:
- طبقه بندی نشده/عمومی: اطلاعاتی که قبلا منتشر شده و برای عموم قابل دسترسی است. مثال: بیانیه های مطبوعاتی رسمی، اخبار عمومی.
- محدود/داخلی: اطلاعات داخلی که به صورت عمومی در دسترس نیستند اما حساسیت کمی دارند.
- محرمانه: اطلاعاتی که افشای آنها می تواند به منافع دولت آسیب جدی وارد کند. مثال: موضع مذاکره، ارزیابی داخلی.
- کاملا محرمانه: اطلاعاتی که افشای آنها بیشترین آسیب را به همراه داشته باشد. مثال: اطلاعات حساس، اطلاعات امنیتی حیاتی.
قانون سرانگشتی ساده است: هیچ اطلاعات طبقه بندی شده ای که در دسترس عموم نباشد در ابزار هوش مصنوعی که موسسه شما برای آن کلاس تایید نکرده است، وارد نمی شود. یک سرویس هوش مصنوعی عمومی، طبق تعریف، برای این دسته از اطلاعات تایید نشده است.
نکته: اگر مطمئن نیستید، با اطلاعات مانند یک ارشد رفتار کنید. گفتن "این احتمالاً قبلاً شناخته شده است" یک حدس خطرناک است. تا زمانی که 100 درصد از عمومی بودن اطلاعات مطمئن نشدید، از آنها به گونه ای محافظت کنید که گویی محرمانه هستند. احتیاط غیر ضروری هزینه نیست، تضمین است.
خطرات حریم خصوصی هوش مصنوعی
ابزارهای هوش مصنوعی نسبت به نرم افزارهای سنتی خطرات حریم خصوصی متفاوتی دارند:
1. پردازش و ذخیره سازی داده ها: متنی که برای یک سرویس هوش مصنوعی عمومی می نویسید ممکن است پردازش و در سرورهای آن سرویس ذخیره شود. شما نمی توانید کنترل کنید که چه کسی به آن دسترسی دارد، چه مدت نگهداری می شود و چگونه از آن استفاده می شود.
2. استفاده در آموزش مدل: برخی از سرویس ها ممکن است از داده هایی که وارد می کنید برای بهبود مدل استفاده کنند. این خطر را ایجاد می کند که اطلاعات محرمانه شما به طور غیرمستقیم وارد "حافظه" مدل شده و به دیگران نشت کند.
3. خطر تجمع: قطعاتی از اطلاعات که به صورت جداگانه بی ضرر به نظر می رسند، می توانند تصویر حساسی را هنگام ترکیب تشکیل دهند. اطلاعات کوچکی که در زمانهای مختلف وارد میشوند، میتوانند در مجموع یک موقعیت مخفی را نشان دهند.
4. خطر دسترسی و نقض: مانند هر سیستم خارجی، خدمات هوش مصنوعی می تواند در معرض نقض داده ها باشد. دادههایی که ارائه میکنید ممکن است در آن نقض فاش شوند.
راه حل این خطرات ایجاد دو دنیای جداگانه است: ابزارهای عمومی برای کار منبع باز. فقط سیستمهای داخلی، امن و تایید شده که دادهها را برای کارهای طبقهبندی شده صادر نمیکنند. هرگز این دو را با هم مخلوط نکنید.
توجه: گفتن "من آن را ناشناس کردم" اغلب کافی نیست. حتی اگر نام ها را حذف کنید، زمینه (تاریخ، مکان، رویداد، تعداد مهمانی ها) ممکن است برای یک متخصص کافی باشد تا هویت ها و موقعیت ها را اصلاح کند. اطلاعات حساس واقعی نه با پوشاندن بلکه با انتخاب مناسب ابزار و رسانه محافظت می شود.
انضباط استفاده ایمن
یک جریان کنترل عملی را تنظیم کنید:
- کلاس را مشخص کنید. آیا این داده ها عمومی، داخلی، محرمانه یا فوق محرمانه هستند؟
- وسیله نقلیه را جفت کنید آیا این کلاس در این ابزار قابل پردازش است؟ اگر نه، بس کنید.
- سیاست حداقل داده حتی در یک شغل کارآمد، اطلاعاتی بیش از نیاز شغلی ارائه نکنید.
- از داده های شخصی محافظت کنید. داده های شخصی (نام، تماس، مکان) فقط در صورت لزوم و بر اساس قانونی پردازش می شوند. اگر لازم نباشد، ماسک می شود یا اصلا داده نمی شود.
- رکورد را نگه دارید. ابزاری را که برای کدام کار استفاده کرده اید، با کدام داده مستند کنید. اگر مشکلی وجود داشته باشد قابل ردیابی است.
نکته: فرهنگ «اول حفظ حریم خصوصی» را در تیم خود ایجاد کنید: یک کارمند یا کارآموز جدید باید از همان روز اول این واکنش را یاد بگیرد که «هیچ اسناد محرمانه وارد حوزه عمومی نمی شود». بیشتر تخلفات ناشی از سوء نیت نیست، بلکه به دلیل ندانستن میزان باز بودن وسیله نقلیه است.
سه کیف کوچک
مورد 1 - رفلکس از نقض جلوگیری کرد. یک کارشناس می خواست یک یادداشت مصاحبه را خلاصه کند که ایستاد و طبقه بندی آن را پرسید: یادداشت یک مکالمه محرمانه با یک همکار بود. به جای یک ابزار عمومی، به یک سیستم امن داخلی تغییر مکان داد. یک رفلکس ساده "اول از کلاس بپرس" مانع از نقض شد.
مورد 2 - خطر جمع آوری شناسایی شد. یک تیم اطلاعات کوچک و به ظاهر "بی ضرر" را در روزهای مختلف در یک ابزار خارجی وارد می کند. یک بررسی امنیتی نشان داد که وقتی این قطعات با هم ترکیب شدند، دستور کار یک مذاکره آتی را نشان دادند. برنامه متوقف شده است. کار به یک محیط امن منتقل شد.
مورد 3 - ناشناس بودن جعلی. یک منشی یک سند را "ناشناس" تلقی کرد زیرا اسامی را حذف کرده بود و آن را به مامور خارجی تحویل داده بود. با این حال، تاریخ، مکان و شرح رویداد در سند مشخص می کند که منظور چه کسی است. حذف نام کافی نبود. به هر حال سند باید در یک محیط امن پردازش می شد.
چهار قالب قابل کپی
1) پیشبررسی کلاس و خودرو:
در ادامه کار را شرح خواهم داد. به من بگویید (کار را انجام نده): (1) این داده ها چه کلاس حساسیتی ممکن است داشته باشند (عمومی / داخلی / مخفی / فوق سری)، (2) اگر این کلاس در یک ابزار هوش مصنوعی عمومی پردازش شود، (3) اگر نه، چه نوع محیطی مورد نیاز است. شرح شغل/داده: [اینجا]
2) اسکن و پوشش داده های شخصی:
داده های شخصی/حساس (نام، عنوان، تماس، مکان، سلامت، شماره شناسه) را که باید قبل از پردازش در متن زیر پنهان شوند، فهرست کنید. پردازش متن؛ فقط به من بگویید کدام مناطق باید حذف شوند. ماسک را انجام می دهم و دوباره ارسال می کنم. متن: [اینجا]
3) ارزیابی ریسک جمع آوری:
من در نظر دارم اطلاعات زیر را جداگانه به یک ابزار خارجی صادر کنم: [تکه ها]. حتی اگر اینها به طور جداگانه بی ضرر به نظر برسند، وقتی با هم ترکیب می شوند می توانند تصویر حساسی ایجاد کنند (مثلاً یک موقعیت، دستور کار، هویت)؟ خطر جمع آوری را ارزیابی کنید و بگویید کدام اقلام نباید با هم داده شوند.
4) تأیید در دسترس بودن عمومی:
من مطمئن نیستم که اطلاعات زیر عمومی است یا خیر: [اطلاعات]. آنچه را که باید قبل از عمومی دانستن آن انجام دهم را فهرست کنید (آیا نسخه رسمی وجود دارد، چه کسی آن را منتشر کرده است، تاریخ). اگر مطمئن نیستم، اصل «به عنوان محرمانه رفتار کنید» را به من یادآوری کنید.
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
این یادداشت مصاحبه را خلاصه کنید. (محتوای پنهان مستقیماً در یادداشت قرار می گیرد)
این خطرناک ترین اشتباه است: یک سند محرمانه وارد یک رسانه عمومی شده است بدون اینکه طبقه آن مورد سوال قرار گیرد. خطر نشت رخ داده است و قابل برگشت نیست.
درخواست قدرتمند (ابتدا بررسی کنید):
میخواهم یادداشت جلسه را پردازش کنم. اما اول: این یادداشت احتمالاً در کلاس مخفی است. به من بگویید که آیا این نوع اسناد را می توان در ابزار عمومی پردازش کرد و راه صحیح چیست؟ من محتوای سند را به شما نمی دهم. من فقط روند صحیح را می خواهم.
تفاوت واضح است: محتوای محرمانه به هیچ وجه ارائه نمی شود، ابتدا روند صحیح پرسیده می شود و کار به محیط مناسب هدایت می شود.
جدول نقشه برداری کلاس به خودرو
کلاس اطلاعات
مثال
هوش مصنوعی عمومی
محیط مناسب
عمومی
بیانیه مطبوعاتی
مناسب
ابزار عمومی
داخلی/خدماتی خاص
یادداشت درونی
معمولا خیر
تایید شده در داخل
راز
موضع مذاکره
هرگز
سیستم مؤسسه ایمن
فوق سری
هوش حساس
هرگز
بالاترین امنیت
داده های شخصی
اعتبارنامه
فقط ضروری + قانونی
نقاب دار / ایمن شده
اشتباهات رایج
- وارد کردن داده ها بدون درخواست کلاس. قبل از هر کاری، رفلکس "این در کدام کلاس است؟" ضروری است.
- با فرض "احتمالاً واضح است". اطلاعات نامشخص به عنوان محرمانه محافظت می شود.
- اشتباه گرفتن حذف نام به عنوان ناشناس. زمینه می تواند هویت را از بین ببرد.
- نادیده گرفتن خطر جمع آوری قطعات کوچک هنگام مونتاژ می توانند ظریف باشند.
- اختلاط دو دنیا مشاغل باز و طبقه بندی شده در ابزارها/محیط های جداگانه اجرا می شوند.
به طور خلاصه
رازداری بحرانی ترین محدودیت استفاده دیپلماتیک از هوش مصنوعی است. طبقه بندی اطلاعات (عمومی/داخلی/محرمانه/فوق محرمانه)، رفلکس «کلاس بپرسید، وسیله نقلیه مطابقت دهید»، اصل حداقل داده، حفاظت از داده های شخصی و ریسک جمع آوری را به عنوان ستون فقرات این واحد در نظر بگیرید. ابزارهای عمومی برای کار منبع باز. برای کارهای طبقه بندی شده فقط از سیستم های ایمن و تایید شده داخلی استفاده کنید. هرگز این دو را با هم اشتباه نگیرید. وقتی شک دارید، مانند یک ارشد از اطلاعات محافظت کنید.
وظیفه کاربردی
8 داده مختلف را از روی میز (یا خیالی) خود (برخی عمومی، برخی حساس) فهرست کنید. هر کدام را در یک کلاس قرار دهید و تصمیم بگیرید که "در کدام ابزار می توان آن را پردازش کرد". موارد مبهم را با الگوی «بررسی پیشبررسی کلاس و خودرو» ارزیابی کنید. سه قطعه را انتخاب کنید و بررسی کنید که آیا در ترکیب با "ارزیابی ریسک مجموعه" تصویر حساسی را تشکیل می دهند یا خیر.
چک لیست
- [ ] ابتدا کلاس حساسیت را برای هر داده تعیین کردم.
- من هرگز داده هایی را وارد نکرده ام که کلاس [ ] آن برای یک وسیله نقلیه عمومی مناسب نیست.
- [ ] من مانند یک مافوق از اطلاعاتی که از آنها مطمئن نبودم محافظت می کردم.
- [ ] من داده های شخصی را فقط در صورت لزوم و قانونی پردازش می کنم.
- [ ] ریسک جمع آوری و جدایی دو دنیا را پذیرفتم.