استفاده ایمن: بدون نشت و محرمانه بودن

سود:

• امکان طبقه بندی داده های حاوی اسرار، داده های شخصی و دارایی های تجاری محرمانه و تشخیص خطوط قرمز
• پوشاندن، ناشناس سازی و ایمن سازی با داده های مصنوعی قبل از وارد کردن داده ها
• انتخاب ابزار تایید شده، به حداقل رساندن زمینه و توانایی اعمال رفلکس چرخش کلید در صورت نشتی

هر چیزی که در یک دستیار کد نویسی جای گذاری می کنید به طور بالقوه خارج از کنترل شما است. یک کلید API، یک پایگاه داده مشتری، کد منبع اختصاصی که هنوز اعلام نشده است، یا سوابق بیمار – این موارد می توانند به محض ورود به یک ابزار تایید نشده به یک نشت برگشت ناپذیر تبدیل شوند. بزرگترین خطر هوش مصنوعی برای تیم های نرم افزاری نه از خطای خط، بلکه از کپی پیست بی دقت ناشی می شود. این واحد در مورد ایمن کردن کپی پیست است.

در اینجا ما سه چیز را از هم متمایز می‌کنیم: کدام داده‌ها هرگز نباید وارد شوند، چه ابزارهایی می‌توانند با چه حفاظتی مورد استفاده قرار گیرند، و چگونه می‌توان داده‌ها را قبل از وارد کردن آنها ایمن کرد (پوشاندن، داده‌های مصنوعی، کار به صورت محلی). این یک "خوب خواهد بود" اختیاری نیست. در اکثر موسسات یک تعهد قراردادی و قانونی است.

چرا اینقدر انتقادی است؟

داده هایی که به ابزار هوش مصنوعی ارسال می کنید. پردازش شده در سرورهای ارائه دهنده، که گاهی اوقات برای مدتی ذخیره می شود، می تواند برای بهبود مدل در برخی تنظیمات محصول استفاده شود. گفتن "من چت را حذف کردم" اغلب کافی نیست. لحظه ای که داده ها از شبکه خارج می شوند، خطر ایجاد می شود. علاوه بر این، هزینه نشت زیاد است: یک کلید ابری لو رفته می‌تواند در عرض چند دقیقه مورد سوء استفاده قرار گیرد، داده‌های لو رفته مشتری می‌تواند منجر به اخطار و مجازات تحت مقرراتی مانند KVKK/GDPR شود، و کد منبع خصوصی فاش شده می‌تواند مزیت رقابتی را از بین ببرد.

بنابراین قانون کلی ساده است: چیزی را وارد یک وسیله نقلیه تایید نشده که نمی توانید از دست بدهید، وارد نکنید. اگر شک دارید، وارد نشوید.

احتیاط: ذهنیت "فقط یک بار، به سرعت" شایع ترین علت نشت است. چسباندن یک گزارش تولید یا یک فایل پیکربندی همانطور که هنگام حل یک باگ فوری وجود دارد، دقیقاً همان چیزی است که با چنین تصمیماتی که تحت فشار گرفته می شود اتفاق می افتد. فوریت قاعده رازداری را معلق نمی کند.

آنچه هرگز نباید وارد شود (خط قرمز)

• اسرار: کلیدهای API، گذرواژه‌ها، کلیدهای دسترسی ابری، گواهی‌های خصوصی، نشانه‌ها، رشته‌های اتصال.
• اطلاعات شخصی (PII): نام، نام خانوادگی، شماره شناسه TR، ایمیل، تلفن، آدرس، سوابق بهداشتی/مالی، اطلاعات مشتری.
• دارایی های تجاری محرمانه: کد منبع فاش نشده، الگوریتم های اختصاصی، اسرار معماری داخلی، جزئیات قرارداد.
• داده های تنظیم شده: دسته های ویژه محافظت شده مانند مراقبت های بهداشتی، کارت پرداخت (PCI)، امور مالی شخصی.

گام به گام: جریان استفاده ایمن

1. داده ها را طبقه بندی کنید آنچه شما دارید کدام دسته است - عمومی، داخلی، محرمانه، تنظیم شده؟
2. وسیله نقلیه را بر اساس کلاس انتخاب کنید. داده‌های محرمانه/قانونی فقط در ابزارهای تایید شده سازمانی پردازش می‌شوند که تضمین داده‌ها را ارائه می‌کنند (عدم استفاده در آموزش، محدودیت نگهداری، پردازش منطقه‌ای).
3. قبل از ورود ایمن شوید اسرار را حذف کنید، PII را پوشانده/ناشناس کنید، در صورت امکان از داده های مصنوعی (ساخته اما واقعی) به جای واقعی استفاده کنید.
4. زمینه را به حداقل برسانید. مشکل خود را به کوچکترین مثال قابل تکرار که شامل قسمت های حساس نمی شود تقلیل دهید.
5. خروجی را نیز بررسی کنید. بررسی کنید که در کد تولید شده توسط هوش مصنوعی هیچ راز رمزگذاری شده یا باقیمانده ای از داده های شما وجود نداشته باشد.

سه کیف کوچک

مورد 1 - کلید چسبانده شده لغو شد. یک توسعه دهنده در حین رفع یک باگ، کل فایل پیکربندی را در هوش مصنوعی جایگذاری کرد. فایل حاوی یک کلید API شخص ثالث زنده است. وقتی تیم متوجه شد، بلافاصله کلید را لغو (چرخش) کردند و یک کلید جدید تولید کردند. هیچ سوء استفاده ای وجود نداشت، اما این یک حادثه "ارزان" بود. درس: قبل از چسباندن لعاب را بردارید - و اگر کلید نشتی داشت فوراً آن را بچرخانید.

مورد 2 - داده های مصنوعی کسب و کار را نجات داد. یک تیم در حال تجربه یک خطای تجزیه با سوابق واقعی مشتری بود. آنها به جای وارد کردن داده های واقعی، 20 خط داده مصنوعی با همان ساختار اما کاملا جعلی تولید کردند، خطا را با آن بازتولید کردند و با هوش مصنوعی آن را حل کردند. نه PII به بیرون درز کرد و نه تشخیص کند شد. داده های مصنوعی هم ایمن و هم کافی بود.

مورد 3 - راز پنهان در چاپ. هنگام ایجاد یک پیکربندی نمونه، هوش مصنوعی یک کلید "نمونه" واقعی را در آن تعبیه کرد و بدون اینکه توسعه دهنده متوجه شود آن را وارد کد کرد. اسکن پایه کد (اسکنر مخفی) متوجه این موضوع شد و هشدار داد. راز تغییرناپذیر هرگز نباید آن را به کد وارد می کرد. روش صحیح استفاده از متغیر محیطی یا مدیر مخفی بود. درس: خروجی را نیز برای اسرار اسکن کنید.

چهار قالب قابل کپی

چک لیست پوشاندن قبل از ورود (خود):

قبل از دادن این متن به هوش مصنوعی، مطمئن شوید که موارد زیر را حذف کرده‌ام و آنچه را که پیدا کرده‌اید با [MASKED] جایگزین کرده‌ام: کلید API، رمز عبور، رمز، رشته اتصال، نام-نام خانوادگی، ایمیل، تلفن، شماره شناسه، داده‌های مشتری. متن:{{text}}

تولید داده های آزمایش مصنوعی:

داده‌های تست ردیف کاملاً ساخته شده (غیر مرتبط با شخص/موسسه واقعی) {{N}} مطابق با طرح زیر. آن را واقع بینانه جلوه دهید، اما از هیچ PII واقعی استفاده نکنید. طرحواره: {{فیلدها و انواع}}شامل موارد لبه (خالی، مرزی، قالب بد).

شکار مخفی ثابت (در کد):

به دنبال راز کدگذاری شده در این کد/پیکربندی بگردید: کلید، رمز عبور، رمز، URL سفارشی. اگر آن را پیدا کردید، مکان آن را مشخص کنید و روش صحیح (متغیر محیط / مدیر مخفی) را پیشنهاد دهید. کد:{{کد}}

ارزیابی انطباق خودرو (بر اساس کلاس داده):

من نوع داده‌های زیر را دارم: {{کلاس: عمومی / داخلی / محرمانه / تنظیم‌شده}}. ابزاری که قصد استفاده از آن را دارم این است: {{ابزار}}. قبل از پردازش این داده ها در این ابزار، چه اقدامات حفاظتی (ذخیره، عدم استفاده در آموزش، منطقه، دسترسی) را باید تأیید کنم؟ یک چک لیست بدهید. تصمیم با من است. شما معیارها را روشن کنید.

اعلان ضعیف / اعلان قوی

ضعیف: (جای گذاشتن 200 ردیف کاربر واقعی که از پایگاه داده تولید برداشته شده است) "چرا یک خطای تجزیه در این داده وجود دارد؟"

Strong: "در زیر 15 ردیف با ساختار مشابه داده های واقعی اما کاملاً مصنوعی (بدون PII) وجود دارد. parse_user() ValueError را در 3، 8 و 12 از این ردیف ها می اندازد. الگوی رایج چه می تواند باشد، چگونه آن را برطرف کنم؟

نسخه قوی حاوی هیچ داده شخصی واقعی نیست و در عین حال ساختار مورد نیاز برای بازتولید باگ را حفظ می کند. تشخیص ثابت می ماند، خطر دوباره تنظیم می شود.

کلاس داده

آیا می توان آن را در هوش مصنوعی پردازش کرد؟

پیش نیاز

عمومی

بله

-

استفاده داخلی (غیر دقیق)

به طور کلی

مطابق با خط مشی شرکت

محرمانه (کد منبع، راز تجاری)

فقط وسیله نقلیه مورد تایید

تضمین شرکت + به حداقل رساندن

PII / تنظیم شده است

به عنوان یک قانون نه

ماسک/ناشناس کنید یا از مواد مصنوعی استفاده کنید

پیروی از خط مشی و ردیابی

استفاده ایمن بیش از یک عادت شخصی است، بلکه یک سیستم شرکتی است: ابزارهایی که تایید می شوند، کدام دسته داده ها می توانند به کجا بروند و در صورت نقض چه باید کرد باید در یک خط مشی مکتوب تعریف شود. اگر یک راز فاش شد، مهم‌ترین قدم اول این است که وحشت نکنید، بلکه فوراً اعتبار افشا شده را بازگردانید (لغو و ایجاد کنید) و حادثه را گزارش کنید. اگر لیست ابزارهای تایید شده سازمان و قوانین طبقه بندی داده ها را نمی دانید، اولین وظیفه شما یادگیری آنهاست.

نکته: یک لیست «نادیده گرفتن» خاص پروژه (به عنوان مثال .env، پوشه‌های مخفی، فایل‌های هویت) را در ابزار ویرایشگر/CLI خود تعریف کنید تا این فایل‌ها به طور تصادفی در زمینه دستیار گنجانده نشوند. پیشگیری همیشه ارزانتر از پاکسازی است.

اشتباهات رایج

• چسباندن داده های حساس "فقط یک بار". فوریت خط قرمز را تعلیق نمی کند. شایع ترین نشت در اینجا رخ می دهد.
• فکر کردن "من مکالمه را حذف خواهم کرد". لحظه ای که داده ها از شبکه خارج می شوند، خطر ایجاد می شود. حذف آن را لغو نمی کند.
• انتخاب وسیله نقلیه بدون نگاه کردن به کلاس آن. پردازش اطلاعات محرمانه شرکت با یک حساب شخصی یک نقض جدی است.
• اسکن نشدن خروجی هوش مصنوعی می تواند یک راز تغییر ناپذیر را در کد جاسازی کند. همچنین تولید را با اسکنر مخفی بررسی کنید.
• وقتی راز فاش شد آن را نمی چرخاند. باطل نشدن کلید لو رفته، نشت را به یک اکسپلویت زنده تبدیل می کند.

به طور خلاصه

بزرگترین خطر هوش مصنوعی در نرم افزار نشت حریم خصوصی است و بیشتر آن از تصمیم کپی پیست که تحت فشار گرفته می شود ناشی می شود. قانون واضح است: اسرار، داده های شخصی، دارایی های تجاری محرمانه و داده های تنظیم شده در ابزارهای تایید نشده وارد نمی شوند. داده ها را قبل از ورودی طبقه بندی کنید، عامل بر اساس کلاس انتخاب کنید، اسرار را استخراج کنید، PII را پنهان کنید یا از داده های مصنوعی استفاده کنید، زمینه را به حداقل برسانید، و خروجی را نیز برای اسرار اسکن کنید. اگر نشتی وجود دارد، اولین چیز: اعتبارنامه را برگردانید و آن را گزارش کنید.

وظیفه کاربردی

یک قطعه کد/log/داده ای که اخیراً به هوش مصنوعی داده اید (یا در حال بررسی دادن آن هستید) بردارید. ابتدا، نامزدهای محرمانه و PII را با الگوی "چک لیست پوشاندن" شناسایی کنید. سپس، اگر حاوی داده‌های واقعی است، نسخه‌ای مشابه با الگوی «تولید داده‌های آزمایش مصنوعی» اما کاملاً ساخته شده تولید کنید و مشکل خود را با آن قابل تکرار کنید. در نهایت، فهرست ابزار تایید شده و خط مشی طبقه بندی داده ها را پیدا کنید و بخوانید. در غیر این صورت به این حذف توجه کنید.

چک لیست

• [ ] من داده ها را قبل از وارد کردن طبقه بندی می کنم (باز/داخلی/محرمانه/موضوع مقررات).
• [ ] من هرگز اسرار، PII و دارایی های تجاری محرمانه را در ابزارهای تایید نشده وارد نمی کنم.
• [ ] من در صورت امکان به جای داده های واقعی، از داده های پوشاننده یا مصنوعی استفاده می کنم.
• [ ] من زمینه را به کوچکترین مثالی که شامل بخش های حساس نمی شود تقلیل می دهم.
• [ ] من خروجی هوش مصنوعی را برای راز سخت مدفون اسکن می کنم.
• [ ] می دانم که اگر راز فاش شود، فوراً اطلاعات شناسایی را برمی گردم و حادثه را گزارش می دهم.