سود:
- می داند که مدل می تواند توهم ایجاد کند و هر خروجی باید تأیید شود
- خطرات و جایگزین های امن قرار دادن اطلاعات محرمانه و شخصی را در سریع ترین زمان ممکن می داند
- محدودیت های اخلاقی، حق چاپ و مسئولیت را در استفاده از هوش مصنوعی اعمال می کند
تسلط بر نحوه نوشتن دستورات کافی نیست. همچنین یادگیری استفاده مسئولانه از هوش مصنوعی ضروری است. این واحد لایه امنیتی است که باید در بالای مهارت فنی قرار گیرد. هوش مصنوعی پاسخ هایی سریع، قانع کننده و اغلب دقیق تولید می کند. اما گاهی اوقات اطلاعات کاملا نادرست را با همان اطمینان تولید می کند، می تواند داده های حساس را در معرض خطر قرار دهد و مرزهای اخلاقی را جابجا کند. در این بخش، بررسی خروجی، محدودیتهای مدل، محرمانگی و مسئولیت اخلاقی را پوشش خواهیم داد. بدون این دانش، سایر تکنیک ها ناقص می مانند.
توهم: برازش مدل
توهم زمانی است که مدل اطلاعات غیر واقعی را به زبانی مطمئن تولید می کند. منبع ناموجود، تاریخ نادرست، آمار ساختگی یا قانونی که هرگز نوشته نشده است نمونه هایی از این موارد هستند. چرا این اتفاق می افتد؟ زیرا این مدل نه برای "شناخت حقیقت" بلکه برای "تولید ادامه ممکن" طراحی شده است (منطق واحد اول را به خاطر بسپارید). فقط به این دلیل که یک جمله از نظر دستوری امکان پذیر است به این معنی نیست که از نظر واقعی درست است.
مفهوم عملی این امر واضح است: هر واقعیتی که توسط هوش مصنوعی تولید می شود یک ادعا است، نه یک واقعیت، تا زمانی که به طور مستقل تأیید شود. به ویژه، همیشه بررسی کنید:
- اعداد و آمار
- نام ها، تاریخ ها، نام مکان ها
- نقل قول ها و منابع منبع
- بندهای قانونی، استانداردهای فنی، اطلاعات پزشکی/مالی
عادت اعتبارسنجی
میتوانید تأیید صحت را با تکنیک سریع کاهش دهید، اما بازنشانی کنید. کار در دو لایه:
- لایه اعلان: به مدل محدودیتهایی مانند «فقط به منبعی که من میدهم تکیه کنید، اطلاعاتی که وجود ندارد اضافه نکنید، اگر مطمئن نیستید بنویسید «نمیدانم»، منبع هر ادعا را نشان دهید، بدهید. این تناسب را کاهش می دهد.
- لایه انسانی: هر واقعیت مهم را خودتان از منبع تأیید کنید. این مرحله غیر قابل مذاکره است. مخصوصاً برای محتوایی که منتشر میشود، مبنای تصمیمگیری خواهد بود یا بر دیگران تأثیر میگذارد، الزامی است.
محدودیت ها: آنچه مدل به خوبی انجام نمی دهد
منطقه
ریسک
رویکرد درست
رویدادهای جاری
ممکن است داده های آموزشی قدیمی باشد
تأیید از منبع تاریخ/جاری
اعداد دقیق
احتمال تطبیق زیاد است
با ماشین حساب/منبع بررسی کنید
حقوقی/پزشکی/مالی
خطر آسیب جدی
با یک متخصص واقعی مشورت کنید، تنها به آن تکیه نکنید
منبع/استناد
می تواند منابع ناموجود تولید کند
خودتان صحت منبع را بررسی کنید
موضوع نادر / طاقچه
سطحی یا نادرست
مقایسه با دانش تخصصی
مدل یک دستیار است، نه مرجع نهایی. مسئولیت همیشه بر عهده شخصی است که از آن استفاده می کند.
حریم خصوصی و داده های شخصی
متنی که در یک ابزار هوش مصنوعی عمومی تایپ میکنید، تابع خطمشیهای پردازش آن ابزار است و ممکن است خارج از کنترل سازمان شما باشد. بنابراین، ورود اطلاعات محرمانه و شخصی بدون تفکر یک خطر جدی است. پردازش داده های شخصی در ترکیه توسط KVKK (قانون حفاظت از داده های شخصی) تنظیم می شود. موسسات نیز اغلب سیاست های داده خود را دارند.
روش های ایمن کار:
- ناشناس/ماسک: به جای نام واقعی «مشتری» و به جای شماره واقعی «[شماره حساب]» بنویسید. در بیشتر مواقع گفتن «مشتری شرکتی 3 ساله» این کار را انجام می دهد.
- از ابزار تایید شده توسط موسسه استفاده کنید: برخی از موسسات ابزارهای قراردادی/سازمانی را ارائه می دهند که داده ها را درز نمی کند. داده های حساس را فقط روی آنها پردازش کنید.
- چیزهایی را که لازم نیست در اختیار ما قرار ندهید: جزئیات حساسی که در واقع برای انجام کار ضروری نیستند را درج نکنید.
- خط مشی را بدانید: قوانین استفاده از هوش مصنوعی سازمان خود را بیاموزید و از آنها پیروی کنید.
اخلاق و حق چاپ
استفاده مسئولانه به حریم خصوصی ختم نمی شود. سه اصل:
- شفافیت: در صورت نیاز به محتوای تولید شده توسط هوش مصنوعی (به عنوان مثال، جایی که انتظار می رود کار انسانی انجام شود). از استفاده فریبنده خودداری کنید.
- حق چاپ و اصالت: خروجی مدل ممکن است شبیه آثار دیگر باشد. بررسی اصالت و وضعیت حقوق قبل از استفاده تجاری؛ از برند/کار دیگران تقلید نکنید.
- عدم سوء استفاده: برای ایجاد محتوای گمراه کننده، تبعیض آمیز، دستکاری یا هدفمند استفاده نکنید. قدرت ابزار مسئولیت را افزایش می دهد.
چهار قالب قابل کپی
1) برازش محدود کننده محدودیت:
فقط به منبع زیر تکیه کنید. اطلاعاتی که در منبع نیست اضافه نکنید. در جایی که مطمئن نیستید بنویسید "در منبع نیست". در کنار هر ادعای مهم، خطی را که بر آن استوار است مشخص کنید. منبع: [متن]
2) لیست تأیید را استخراج کنید:
تمام حقایق (تعداد، تاریخ، نام، ادعا) را که باید تأیید شوند در متن زیر فهرست کنید. به طور خلاصه پیشنهاد دهید که چگونه می توانم برای هر یک تأیید کنم. متن: [خروجی]
3) ناشناس سازی:
همه دادههای شخصی/محرمانه را در متن زیر پنهان کنید: نامها [PERSON]، شرکت [COMPANY]، شمارهها [NUMBER]. نسخه ناشناس را با معنی دست نخورده ارائه دهید. متن: [متن]
4) بررسی اخلاقی:
قبل از انتشار این محتوا را از نظر اخلاقی ارزیابی کنید: آیا گمراه کننده، تبعیض آمیز یا ناعادلانه است؟ اگر چنین است، آن را علامت گذاری کنید و اصلاحات را پیشنهاد دهید. محتوا: [متن]
اعلان ضعیف / اعلان قوی
ضعیف (خطرناک):
مشکلات قرارداد احمد یلماز (TC: ...) را بیابید و آن را با میانگین صنعت مقایسه کنید.
قوی (ایمن):
بندهای مخاطره آمیز را در متن قرارداد زیر بیابید. - استفاده از داده های شخصی؛ اجازه دهید طرفین به عنوان [شرکت الف] و [شخص] نامیده شوند.- فقط به آنچه در متن نوشته شده است تکیه کنید. میانگین صنعت ساخته شده، بنویسید "داده ها در دسترس نیستند".- هر ریسک را با آیتم خود نشان دهید. متن (ناشناس): [متن]
نسخه قدرتمند هم از داده های شخصی محافظت می کند و هم داده های صنعت جعلی را مسدود می کند. خروجی برای بررسی توسط تیم حقوقی آماده است.
سه کیف کوچک
مورد 1 - منبع ساختگی. یک محقق 3 "منبع آکادمیک" ارائه شده توسط مدل را بدون تایید آنها در ارائه قرار داد. دو تا از منابع اصلاً در دسترس نبود. یکی از همکاران قبل از ارائه متوجه آن شد. پس از آن، تیم قانون "پیدا کردن و باز کردن هر منبع به صورت شخصی قبل از انتشار" را اتخاذ کرد.
مورد 2 - محرمانه بودن. یک کارمند قرارداد واقعی مشتری را دست نخورده در یک ابزار عمومی چسباند و خواستار خلاصه آن شد. وقتی تیم امنیت اطلاعات موسسه این موضوع را شناسایی کرد، روند بررسی شد. اسناد حساس اکنون فقط در ابزار شرکتی مورد تایید موسسه پردازش می شوند و ناشناس هستند.
مورد 3 - مسئولیت تصمیم گیری. یک صاحب کسب و کار کوچک بر اساس تفسیر مالیاتی ارائه شده توسط مدل، در شرف انجام اقدام بود. این نظر با قوانین فعلی مطابقت نداشت. این اشتباه زمانی مشخص شد که او با مشاور مالی خود مشورت کرد. درس روشن است: هوش مصنوعی آماده می شود، متخصص و انسان تصمیم می گیرند.
نکته: عادت کنید یک واقعیت را به عنوان "تأیید نشده" علامت گذاری کنید. یک علامت تیک در کنار هر عدد و منبع در خروجی قرار دهید تا زمانی که آن را تأیید کنید. این نظم ساده از انتشار بی سر و صدا اطلاعات نادرست جلوگیری می کند.
احتیاط: "هوش مصنوعی چنین گفت" بهانه ای نیست. شما مسئول هر محتوایی هستید که منتشر میکنید، ارسال میکنید یا تصمیمهای خود را بر اساس آن تصمیم میگیرید. سرعت خودرو شما را از تعهد بازرسی برکنار نمی کند.
اشتباهات رایج
- اشتباه گرفتن خروجی روان به عنوان صحیح. اشتباه گرفتن زبان متقاعد کننده برای شواهد حقیقت.
- استفاده از منبع بدون بررسی آن. انتشار منبع ناموجود
- وارد کردن اطلاعات محرمانه بدون فکر کردن چسباندن اسناد حساس بدون ناشناس کردن آنها.
- واگذاری تخصص به مدل تنها. عدم تأیید تصمیمات قانونی / پزشکی / مالی.
- سپردن مسئولیت بر عهده وسیله نقلیه فرار از کنترل با گفتن "AI گفت".
به طور خلاصه
- توهم زمانی است که مدل با اطمینان چیزی را تولید می کند که واقعی نیست. هر واقعیتی یک ادعاست تا زمانی که تایید شود.
- راستیآزمایی دو جانبه است: محدودیتهای سریع ساخت را کاهش میدهند، بررسی انسانی آن را میگیرد.
- این مدل محدود به مسائل جاری، دقیق، حقوقی/پزشکی/مالی است. مرجع نهایی نیست.
- اطلاعات یا پردازش محرمانه و شخصی را تنها در ابزار مورد تایید موسسه (KVKK و سیاست موسسه) ناشناس کنید.
- رعایت اصول اخلاقی، کپی رایت و عدم سوء استفاده؛ مسئولیت محتوا همیشه با خود شخص است.
وظیفه کاربردی
چاپی را که اخیراً تهیه کرده اید بردارید و تمام حقایق موجود در آن (شماره، تاریخ، نام، منبع، ادعا) را به عنوان یک لیست تأیید استخراج کنید. روش تأیید را برای هر کدام بنویسید و در واقع حداقل سه مورد از آنها را بررسی کنید. همچنین، بررسی کنید که آیا داده های محرمانه/شخصی در ورودی همان خروجی وجود دارد یا خیر و در صورت لزوم آن را ناشناس کنید.
چک لیست
- [ ] می توانم توضیح دهم که توهم چیست و چرا اتفاق می افتد.
- [ ] من خروجی واقعی را از منبع مستقل تأیید می کنم.
- [ ] من داده های محرمانه/شخصی را ناشناس می کنم یا آنها را در یک ابزار امن پردازش می کنم.
- [ ] من با یک متخصص واقعی در امور حقوقی/پزشکی/مالی مشورت می کنم.
- [ ] می پذیرم که مسئول محتوا هستم.