حریم خصوصی، امنیت داده ها و عادت تأیید

سود:

• امکان طبقه بندی داده ها بر اساس حساسیت آن (عمومی/داخلی/محرمانه/ بحرانی) و ناشناس سازی داده های محرمانه و حیاتی بدون افشای آنها به ابزارهای عمومی
• تبدیل تایید به یک رفلکس و علامت گذاری حقایق، رفتن به منبع و مقیاس بندی مراحل باز کردن منبع داده شده توسط هوش مصنوعی با توجه به ریسک
• توانایی اعمال اخلاق شفافیت، انتساب و محرمانگی با درک این موضوع که حذف محافظت نیست و نمی توان مسئولیتی را به رسانه نسبت داد.

دو اصل در هر واحد از این ماژول تکرار می شود: حفظ محرمانه بودن و تأیید هر خروجی. این واحد این دو اصل را به یک رشته سیستماتیک تبدیل می‌کند – زیرا بزرگترین خطرات استفاده از هوش مصنوعی در بهره‌وری شخصی، سرعت یا کیفیت نیست، بلکه داده‌های لو رفته و دروغ‌های تایید نشده است. یک ایمیل نادرست را می توان اصلاح کرد. داده های مشتری که به سرور ارسال شده است قابل بازیابی نیستند. یک عدد ساختگی که با لحنی مطمئن ارائه می شود، اگر به آن توجه نشود، تصمیم را رد می کند. به همین دلیل است که حریم خصوصی و احراز هویت پایه‌های کارآمدی هستند که از ابتدا ساخته می‌شوند، نه اینکه «بعداً اضافه شوند».

شرایط داده های شخصی اطلاعاتی هستند که یک شخص را شناسایی می کنند - نام، شماره شناسه، ایمیل، سلامتی، مکان. KVKK/GDPR قوانینی هستند که حفاظت از داده های شخصی را تنظیم می کنند (KVKK در ترکیه، GDPR در اتحادیه اروپا). طبقه بندی داده ها عمل برچسب گذاری اطلاعات بر اساس حساسیت آن (عمومی، داخلی، محرمانه) است. ناشناس سازی حذف عناصر قابل شناسایی شخصی از داده ها است. تأیید صحت یک خروجی را با یک منبع مستقل تأیید می کند.

حریم خصوصی: چه چیزی را بچسبانیم، چه چیزی را نچسبانیم

هر چیزی که در ابزار هوش مصنوعی تایپ می کنید، در بیشتر موارد به یک سرور می رود و در برخی از سرویس ها ذخیره می شود یا می توان از آن برای آموزش مدل استفاده کرد. بنابراین سؤال اساسی این است: آیا مایلید این اطلاعات را به شخص ثالث ناشناس بدهید؟ اگر پاسخ منفی است، آن را به هوش مصنوعی هم ندهید.

از یک طبقه بندی ساده استفاده کنید:

کلاس

مثال

آیا در هوش مصنوعی قرار می گیرد؟

ژنرال

اطلاعات منتشر شده، متن پیش نویس

رایگان

داخلی

یادداشت فرآیند، خلاصه جلسه عمومی

با ناشناس کردن

راز

داده های مشتری، سوابق مالی، استراتژی

فقط خودروهای مورد تایید موسسه

انتقادی

رمز عبور، کلید API، قرارداد، سلامت

هرگز

حفاظت های عملی: ناشناس کردن داده های شخصی (نام "شخص A"، شرکت "شرکت X")؛ از ابزار تایید شده هوش مصنوعی موسسه خود استفاده کنید (نسخه های سازمانی اغلب تضمین می کنند که از داده ها در آموزش استفاده نمی کنند). و خط مشی استفاده از هوش مصنوعی خود را بخوانید - در غیر این صورت پیش فرض احتیاط است.

احتیاط: فرض "من چت را حذف کردم، اکنون امن است" اشتباه است. حذف آن را از رابط حذف می کند، اما رکورد روی سرور یا داده های مربوط به آموزش را بازیابی نمی کند. محافظت قبل از اتصال شروع می شود. نه بعد از

اعتبارسنجی: یک عادت سیستماتیک

تأیید را به جای اینکه «اگر به آن فکر کنم انجامش می‌دهم» به یک بازتاب تبدیل شود. در اینجا یک انضباط تأیید عملی آمده است:

1. حقایق را علامت گذاری کنید هر نام، تاریخ، شماره، نقل قول، قانون، ادعای موجود در چاپ - این موارد تأیید می شود.
2. برو به منبع هر واقعیت را با یک منبع مستقل و قابل اعتماد تأیید کنید. منبع داده شده توسط هوش مصنوعی را باز کنید و آن را بخوانید. آیا وجود دارد، آیا حاوی آن اطلاعات است؟
3. مقیاس بر اساس ریسک کنترل جزئی در یک یادداشت داخلی کم خطر؛ کنترل کامل یک ارائه با ریسک بالا یا ارتباط خارجی.
4. عدم قطعیت را بپذیرید. اگر هوش مصنوعی می‌گوید «مطمئن نیستم» یا اطلاعات تأیید نمی‌شود، جای خالی را با ساختگی پر نکنید. آن را به عنوان "تأیید نشده" بگذارید.

تمایز کلیدی: به طور کلی می توانید به کار زبان هوش مصنوعی (جمله روان، ساختار منظم، لحن مناسب) اعتماد کنید. هرگز کورکورانه به ادعاهای واقعیت هوش مصنوعی (این شماره، این تاریخ، این منبع) اعتماد نکنید. اعتبار سنجی این دو را از هم جدا می کند.

اخلاق: شفافیت و مسئولیت پذیری

استفاده از هوش مصنوعی برای بهره وری یک مسئله اخلاقی نیست - اما نحوه استفاده از آن ممکن است باشد. سه اصل: شفافیت - در برخی زمینه ها (کار دانشگاهی، روزنامه نگاری، سند رسمی) ممکن است لازم باشد نشان دهید که از هوش مصنوعی استفاده می کنید. انتساب - گرفتن ایده شخص دیگری از طریق هوش مصنوعی و ارائه آن به عنوان ایده خود سرقت ادبی است، حتی اگر رسانه تغییر کند. مسئولیت - هر چیزی که پست می کنید مسئولیت شماست. "هوش مصنوعی آن را نوشت" بهانه ای نیست.

گام به گام: کنترل گردش کار ایمن هوش مصنوعی

1. قبل از چسباندن مرتب کنید. این داده ها در کدام کلاس هستند؟ اگر مخفی / بحرانی است متوقف شوید.
2. ناشناس کردن. اگر لازم نیست وسایل شخصی را بردارید.
3. حقایق را تولید و علامت گذاری کنید. موارد موجود در خروجی را برای اعتبارسنجی شناسایی کنید.
4. تأیید کنید. تاییدیه مبتنی بر منبع ریسک.
5. مالک آن باشید. با صدای خود روتوش کنید، مسئولیت را بپذیرید.
6. نشان خود را بشناسید آنچه را که در کجا چسبانده اید و کدام ابزار داده ها را ذخیره می کند، پیگیری کنید.

چهار الگوی امنیتی/احراز هویت قابل کپی

متن زیر را قبل از دادن آن به هوش مصنوعی ناشناس کنید: - نام را به "Person A/B" و شرکت ها را به "Company" تغییر دهید.

تمام حقایقی را که باید در این خروجی هوش مصنوعی تأیید شوند فهرست کنید: - برای هر نام، تاریخ، شماره، آمار، نقل قول و ادعا یک نقطه جداگانه ایجاد کنید. - بپرسید "چگونه تأیید کنم؟" برای هر کدام پیشنهاد (کدام منبع).- موارد غیرقابل تأیید/مشکوک را علامت گذاری کنید. خروجی: """[چسباندن]"""

ادعای زیر را با توجه به منبعی که دادید تأیید کنید: ادعا: [شماره/حقیقت].- آیا واقعاً این ادعا در منبعی که ذکر کردید گنجانده شده است؟- در غیر این صورت بگویید «در این منبع نتوانستم آن را تأیید کنم»، آن را جبران کنید.- اگر مطمئن نیستید طوری صحبت نکنید که انگار مطمئن هستید.

بررسی کنید که چه خطرات حریم خصوصی در این کار وجود دارد: وظیفه: [کاری که من قصد دارم با هوش مصنوعی انجام دهم، با چه داده‌هایی].- در کدام کلاس داده قرار می‌گیرد (عمومی/داخلی/محرمانه/ بحرانی)؟- آیا باید به ابزار هوش مصنوعی عمومی برود یا نه؟- اگر نه، جایگزین امن چیست؟

اعلان ضعیف / اعلان قوی

ضعیف: «آن ایمیل شکایت مشتری را خلاصه کنید». (شامل نام مشتری، شناسه سفارش، شاید تلفن است - همه اینها مستقیماً به سرور می رود.)

قوی: ابتدا متن را ناشناس کنید ("مشتری A، سفارش [شناسه پنهان]، از این محصول شکایت می کند")، سپس بگویید "این متن ناشناس را خلاصه کنید". کارایی یکسان، نشت اطلاعات شخصی صفر. تفاوت در خروجی نیست، بلکه در حفظ ورودی است.

سه کیف کوچک

مورد 1 - نشت برگشت ناپذیر. یک کارمند کل لیست مشتریان (نام، تلفن، هزینه) را در یک ابزار هوش مصنوعی عمومی قرار داد تا آنها را «بخش‌بندی» کند. این موسسه این را به عنوان نقض KVKK ارزیابی کرد. داده ها اکنون روی سرور شخص ثالث بود و قابل بازیابی نبود. همین تحلیل را می توان بدون ریسک با داده های ناشناس یا ابزار سازمانی انجام داد.

مورد 2 - رفلکس تأیید را می دهد. یکی از روزنامه‌نگاران این قانون را در نظر گرفت که هر آمار و نقل قولی را که هوش مصنوعی در منبع اصلی آن قبل از انتشار ارائه می‌کند، بررسی کند. در یک هفته، او متوجه شد که از 5 "حقیقت" ارائه شده توسط هوش مصنوعی، 2 مورد جعلی است. این رفلکس از اخبار نادرست احتمالی و از دست دادن شهرت جلوگیری کرد.

مورد 3 - بهانه "هوش مصنوعی آن را نوشت" کار نکرد. یک مشاور یک گزارش تولید شده توسط هوش مصنوعی را بدون تأیید آن برای مشتری ارسال کرد. ادعای حقوقی نادرست در آن مشتری را گمراه کرد. دفاع «از هوش مصنوعی آمده است» نه مشتری و نه رگولاتور را نگه نمی دارد. مسئولیت بر عهده مشاور بود. درس: ابزار تغییر می کند، مسئولیت تغییر نمی کند.

اشتباهات رایج

• چسباندن داده های محرمانه / حیاتی: گران ترین و غیر قابل برگشت ترین اشتباه. ابتدا طبقه بندی کنید
• فکر کردن "من آن را حذف کردم، من در امان هستم": حذف ثبت سرور را خنثی نمی کند. محافظت قبل از چسباندن
• اشتباه گرفتن واقعیت با زبان: به زبان اعتماد کنید، واقعیت را تأیید کنید - این دو را از هم جدا کنید.
• باز نکردن منبع ارائه شده توسط هوش مصنوعی: ممکن است اثر جعلی ایجاد کند. منبع را ببینید
• تقصیر را بر گردن ابزار انداختن: «هوش مصنوعی آن را نوشت» بهانه ای نیست.
• عدم اطلاع از خط مشی: خط مشی استفاده از هوش مصنوعی سازمان را بخوانید. در غیر این صورت، محتاط باشید.

نکته: یک قانون ساده شخصی به خود بدهید: "من هیچ چیز محرمانه یا مهمی را در ابزار عمومی هوش مصنوعی قرار نمی دهم، من هر رقم و منبعی را قبل از ارسال آن بررسی می کنم." این قانون دو جمله ای بیشتر خطرات را در این ماژول به طور مستقیم کاهش می دهد.

به طور خلاصه

• بزرگترین خطرات هوش مصنوعی سرعت یا کیفیت نیست، بلکه داده های لو رفته و عدم دقت تایید نشده است.
• طبقه بندی داده ها (عمومی/داخلی/محرمانه/ بحرانی)؛ موارد محرمانه و حیاتی را به ابزارهای هوش مصنوعی عمومی ندهید، آن را ناشناس بگذارید.
• حذف محافظت نیست. محافظت قبل از چسباندن شروع می شود.
• تأیید را به یک بازتاب تبدیل کنید: حقایق را پرچم گذاری کنید، به منبع بروید، منبع هوش مصنوعی را باز کنید، بر اساس ریسک مقیاس کنید.
• به زبان هوش مصنوعی اعتماد کنید، به حقایق آن اعتماد کنید. مسئولیت بر عهده وسیله نقلیه نیست، همیشه با شماست.

وظیفه کاربردی

یک متن واقعی که این هفته به هوش مصنوعی می دهید را بردارید. با قالب چهارم، ابتدا کلاس حریم خصوصی را تعیین کنید. اگر داده‌های محرمانه وجود دارد، آن را با الگوی اول ناشناس کنید. پس از دریافت خروجی هوش مصنوعی، الگوی دوم حقایقی را که باید تأیید شوند فهرست کرده و حداقل یکی از آنها را در منبع اصلی تأیید کنید. برای خود یک قانون تأیید حریم خصوصی دو جمله ای بنویسید و در جایی پست کنید.

چک لیست

• [ ] من داده ها را قبل از چسباندن طبقه بندی کردم.
• [ ] من داده های محرمانه/بحرانی را به ابزار عمومی هوش مصنوعی ارائه نکردم. در صورت لزوم آن را ناشناس گذاشتم.
• [ ] من هر واقعیت (نام، تاریخ، شماره، منبع) را در خروجی تأیید کردم.
• [ ] من منبع داده شده توسط AI را باز کردم و بررسی کردم که آیا واقعاً حاوی آن است.
• [ ] مطمئن شدم که خط مشی هوش مصنوعی شرکت را می دانم.
• [ ] مسئولیت خروجی نهایی را بر عهده گرفتم.