سود:
- قابلیت جاسازی مداوم هوش مصنوعی در هر مرحله از برنامه تا بسته شدن با شش گیت تأیید انسانی
- توانایی ایجاد چارچوب حاکمیت شرکتی با لیست ابزارهای تایید شده، خط مشی داده ها، نقش ها، ثبت نام، آموزش و بررسی مداوم
- توانایی تعبیه اصول مسئولیت انسانی، تأیید، حریم خصوصی/KVKK، پایبندی به شواهد، کنترل سوگیری و مشتری مداری در گردش کار
در سراسر این ماژول، نحوه استفاده از هوش مصنوعی و مکان توقف آن در وظایف مختلف مددکاری اجتماعی - مستندسازی، ارزیابی، پشتیبانی ریسک، ارجاع، طرح، گزارش، ارتباطات، طراحی برنامه را پوشش دادیم. در این بخش نهایی، ما قطعات را کنار هم میگذاریم: جایی که هوش مصنوعی از کاربرد تا بسته شدن یک پرونده، درب تأیید انسانی در هر مرحله متوقف میشود، و ما چارچوب حاکمیتی مورد نیاز برای این امر را ایجاد میکنیم تا در یک سازمان پایدار باشد. هدف تبدیل نکات پراکنده به یک رشته کاری ثابت و قابل تکرار است.
اصل یکپارچه سازی از ابتدا: هوش مصنوعی در هر مرحله از گردش کار یک شتاب دهنده است، نه تصمیم گیرنده در هر مرحله. در هر مرحله یک در انسانی وجود دارد و شما نمی توانید بدون عبور از یک در به درب بعدی بروید. این ساختار لایه ای مانع از نفوذ یک توهم، سوگیری یا خطای حریم خصوصی در تصمیمی می شود که بر زندگی مشتری تأثیر می گذارد.
جریان سرتاسر و شش دروازه انسانی
بیایید یک مورد را از طریق مراحل معمول آن در نظر بگیریم و در هر مرحله یک دروازه تأیید قرار دهیم:
1. برنامه / اولین تماس - درب: حریم خصوصی. هنگامی که اولین اطلاعات می آید، هوش مصنوعی برای آماده سازی مصاحبه (راهنما، چارچوب سوال) استفاده می شود. Door: هیچ اطلاعات مشتری واقعی وارد ابزار باز نمی شود. کلاس بخواهید، وسیله نقلیه را مطابقت دهید.
2. ارزیابی - دروازه: قضاوت بالینی. هوش مصنوعی یادداشت ها را در ابعاد زیست روانی اجتماعی سازماندهی می کند و کاستی ها و نقاط قوت را یادآوری می کند. درب: تشخیص و ارزیابی متعلق به متخصص است. هوش مصنوعی ارزیابی نمی کند.
3. خطر - درب: اقتدار و تیم. هوش مصنوعی عوامل خطر/ حفاظتی را یادآوری می کند و یک اسکلت طرح امنیتی ایجاد می کند. درب: تصمیم گیری در مورد ریسک فقط توسط متخصص، تیم، نظارت و روند قانونی انجام می شود. هوش مصنوعی امتیاز/تصمیم ایجاد نمی کند.
4. برنامه ریزی و راهنمایی - درب: اعتبارسنجی و مشتری. هوش مصنوعی اهداف را در SMART قرار می دهد، ایده های منابع و پیش نویس نامه ها را تولید می کند. درب: مشتری اهداف را تعیین می کند. سرویس/آدرس/شرایط از منبع رسمی تایید شده است.
5. گزارش و ارتباط - درب: شواهد و پاسخگویی. هوش مصنوعی گزارش را ساختار می دهد، متن را ساده و ترجمه می کند. درب: هر موردی به شواهد بستگی دارد، نظر متعلق به کارشناس است، از دست دادن اطلاعات مهم و سوگیری بررسی می شود، امضا در شخص است.
6. بستن و تحویل - دروازه: دقت. YZ فایل را به صورت زمانی خلاصه می کند. در: خلاصه تنها بر اساس سابقه است. نتایج و آموخته ها توسط کارشناس تایید می شود.
نکته: از یک سوال برای به خاطر سپردن درها استفاده کنید: "در این مرحله، هوش مصنوعی تصمیمی می گیرد یا طرحی تولید می کند؟" اگر پاسخ «تصمیم» است، بس کنید - این مرحله متعلق به انسان است. اگر پاسخ «پیشنویس» است، ادامه دهید، اما بدون تأیید خروجی به مرحله بعدی نروید.
حاکمیت شرکتی: انضباط فردی کافی نیست
عادات خوب یک متخصص ارزشمند اما شکننده است. استفاده ایمن و مداوم از هوش مصنوعی در یک سازمان نیازمند یک چارچوب حاکمیتی است. اجزای اصلی این چارچوب عبارتند از:
- لیست خودروهای مورد تایید نوشته شده و مشخص است که از کدام ابزار برای کدام کار استفاده می شود و کدام داده ها را می توان در کدام ابزار وارد کرد. "هر کس باید از هر ابزاری که می خواهد استفاده کند" یک آسیب پذیری امنیتی است.
- سیاست طبقه بندی داده ها مشخص می شود که کدام داده ها در ابزار باز پردازش می شوند و کدام ها فقط در سیستم امن پردازش می شوند.
- نقش و اختیار. واضح است که چه کسی می تواند چه کاری انجام دهد و کدام تصمیم به کدام مرجع بستگی دارد (به ویژه تصمیمات ریسک).
- ثبت و پیگیری حسابرسی. مکان و نحوه استفاده از هوش مصنوعی قابل نظارت است. هنگامی که مشکلی وجود دارد، می توان به عقب نگاه کرد.
- آموزش و آگاهی. هر کارمندی اصول این ماژول را می داند. تازه وارد آموزش دیده است.
- بررسی مداوم ابزارها، خطرات و تغییر قوانین؛ چارچوب به طور منظم به روز می شود. سیاست زمانی که نوشته شود و فراموش شود منسوخ می شود.
سه کیف کوچک
مورد 1 - درها یک حشره در ابتدای زنجیر گیر کردند. در یک مورد، هوش مصنوعی مشاهداتی را اضافه کرد که مشتری در مرحله ارزیابی به آن اشاره نکرد. در دروازه "قضاوت بالینی" کارشناس این را گرفت و آن را حذف کرد. اگر او دستگیر نمی شد، این مشاهدات ساختگی می توانست به نقشه، از آنجا به گزارش و از آنجا به تصمیم دادگاه درز کند. احراز هویت لایه ای خطا را در اولین نقطه متوقف کرد.
مورد 2 - حاکمیت مانع از نقض شد. یک سازمان بدون فهرست ابزار و خط مشی داده تایید شده کار می کرد. هر کس از وسیله نقلیه خود استفاده می کرد. یک ممیزی نشان داد که چندین کارمند دادههای واقعی مشتری را در ابزارهای باز وارد میکنند. این سازمان یک چارچوب حاکمیتی ایجاد کرده است: ابزارهای تایید شده، طبقه بندی داده ها، آموزش و ثبت. در دوره بعد تعداد تخلفات به صفر رسید. درس: حسن نیت فردی بدون ساختار نهادی کافی نیست.
مورد 3 - بررسی مستمر به روز نگه داشته می شود. خط مشی هوش مصنوعی یک سازمان که یک سال پیش نوشته شده بود، در مواجهه با نوع جدیدی از ابزارها و قوانین به روز شده قدیمی بود. بررسی سالانه این را نشان داد. خط مشی به روز شد، آموزش تمدید شد. قاب یک سند زنده ماند، نه یک زیور قفسه.
چهار قالب قابل کپی
1) چک لیست دروازه تأیید جریان پرونده:
نقش شما: سرپرست من یک چک لیست اعتبار سنجی برای مرحله مورد زیر دریافت میکنم: پیشنویس هوش مصنوعی در این مرحله چه میتواند داشته باشد، کدام تصمیم لزوماً انسانی است، چه بررسیهای حریم خصوصی و سوگیری باید انجام شود، چه چیزی را باید قبل از رفتن به مرحله بعدی تأیید کنم؟ مرحله: [برنامه / ارزیابی / ریسک / طرح / گزارش / بسته شدن]
2) مطابقت خودرو تایید شده:
برای هر یک از لیست وظایف زیر، نوع ابزار هوش مصنوعی قابل استفاده (ابزار باز / سیستم سازمانی ایمن فقط / بدون هوش مصنوعی در دسترس) و توجیه را مشخص کنید. هر کار حاوی داده های مشتری را به عنوان "فقط سیستم امن" علامت گذاری کنید. وظایف: [لیست وظایف]
3) پیش نویس خط مشی هوش مصنوعی شرکتی:
نقش شما: ویرایشگر خط مشی شرکت. پیش نویس یک خط مشی استفاده مسئولانه از هوش مصنوعی برای یک آژانس خدمات اجتماعی؛ موضوعات زیر را پوشش می دهد: هدف، ابزارهای تایید شده، طبقه بندی داده ها، نقش ها و مجوزها، حریم خصوصی/KVKK، محدودیت تصمیم گیری ریسک، ثبت و حسابرسی، آموزش، برنامه بازبینی. چارچوب کلی را تنظیم کنید. موسسه مشخصات خود را پر خواهد کرد.
4) خود تنظیمی (بررسی استفاده شخصی):
برای بررسی استفاده از هوش مصنوعی بهعنوان مددکار اجتماعی، فهرستی از 10 سؤال برای من ایجاد کنید: حریم خصوصی، تأیید، سوگیری، وفاداری شواهد، محدودیتهای تصمیمگیری، و مشتری محوری. اجازه دهید به هر سوالی با "بله/خیر" پاسخ داده شود.
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
من کل این پرونده را به شما می دهم. شما همه چیز را از برنامه گرفته تا گزارش انجام می دهید، من فقط در پایان آن را امضا می کنم.
این امر برون سپاری کل فرآیند - از جمله حریم خصوصی، قضاوت بالینی، قضاوت ریسک، پایبندی به شواهد - به نرم افزار است. امضای واحد در انتها ما را نسبت به همه اشتباهات، جعلها و سوگیریهای موجود در این میان کور میکند.
اعلان قدرتمند:
نقش شما: ویراستاری که در هر مرحله به من کمک می کند. پرونده را مرحله به مرحله (ارزیابی، برنامه ریزی، گزارش...) پیش می برم. در هر مرحله: فقط با دادههای ناشناس/ایمن کار کنید، یک پیشنویس تهیه کنید، اجازه دهید تصمیم بگیرم، مواردی را که در یادداشت نیست اضافه نکنم، و قبل از رفتن به مرحله بعدی به من یادآوری کنید که چه چیزی را باید تأیید کنم. بیایید با این مرحله شروع کنیم: [گام]
تفاوت: محافظت از درب در هر مرحله و قرار دادن هوش مصنوعی به عنوان یک دستیار گام به گام، ایمنی و مسئولیت پذیری انسان را در عین حفظ سرعت حفظ می کند.
خلاصه صحنه-دروازه-مسئولیت
مرحله
سهم هوش مصنوعی
دروازه انسان
کنترل بحرانی
برنامه
آماده سازی مصاحبه
حریم خصوصی
کلاس داده
ارزیابی
ویرایش اندازه
قضاوت بالینی
بدون تشخیص، بدون ساختگی
ریسک
یادآوری فاکتور
اقتدار + تیم
بدون امتیاز/تصمیم
برنامه ریزی/راهنمایی
پیش نویس + ایده
اعتبار سنجی + مشتری
تایید منبع، اولویت مشتری
گزارش/تماس
ساختار + ساده سازی
مدرک + مسئولیت
نظر در متخصص، کنترل سوگیری
بسته شدن
خلاصه زمانی
دقت
مبتنی بر رکورد
اشتباهات رایج
- واگذاری کل فرآیند به هوش مصنوعی و امضای یک امضا در پایان. خطاهای موجود در این بین قابل مشاهده نیستند. در هر مرحله باید درهایی وجود داشته باشد.
- عبور از دری بدون بررسی آن. ساخت یک مرحله به مرحله بعدی به ارث می رسد. هر خروجی تایید می شود.
- واگذاری حکومت به انضباط فردی بدون چارچوب نهادی، عادات خوب شکننده هستند.
- یک بار سیاست را بنویسید و فراموش کنید. تغییر ابزارها و قوانین؛ بررسی مداوم لازم است.
- عدم نگهداری سوابق بدون دنباله حسابرسی، نمی توان به یک مشکل نگاه کرد و نمی توان آن را پاسخگو دانست.
به طور خلاصه
در مددکاری اجتماعی، هوش مصنوعی در هر مرحله یک کاتالیزور است، در هیچ قدمی تصمیم گیرنده است، از درخواست تا بسته شدن پرونده. شش دروازه انسانی (محرمانه بودن، قضاوت بالینی، اختیارات/تیم، اعتبارسنجی/مشتری، شواهد/پاسخگویی، صداقت) را در جریان سرتاسر قرار دهید. بدون عبور از دری به در دیگر نروید. پایدار کردن این امر مستلزم حاکمیت شرکتی است: فهرست ابزارهای تأیید شده، خط مشی داده ها، نقش ها، ثبت نام، آموزش و بررسی مداوم. شش اصل محرک ماژول - مسئولیت انسانی، تأیید، حریم خصوصی / PDPA، تعهد به شواهد، کنترل سوگیری، و مشتری محوری - باید در هر جریان کاری بافته شود.
وظیفه کاربردی
ترسیم ذهنی یک پرونده داستانی از درخواست تا پایان. یک چک لیست برای هر مرحله با یک الگوی "دروازه تایید جریان پرونده" تهیه کنید. سپس وظایف را در این مورد به عنوان وسیله نقلیه باز / سیستم ایمن / بدون هوش مصنوعی با الگوی "تطبیق خودرو معتبر" طبقه بندی کنید. در نهایت، با ایجاد یک لیست از 10 سوال برای استفاده خود از هوش مصنوعی با الگوی "خود ممیزی"، خود را ارزیابی کنید.
چک لیست
- [ ] من شش دروازه انسانی را در جریان سرتاسر شناسایی کرده ام.
- [ ] در هر مرحله، "تصمیم یا پیش نویس؟" من سوال را اعمال کردم.
- [ ] من کارها را با نوع وسیله نقلیه صحیح (باز/ایمن/هیچکدام) مطابقت دادم.
- [ ] من اجزای حاکمیت شرکتی (ابزار، داده ها، نقش، ثبت نام، آموزش، بررسی) را می شناسم.
- [ ] من شش اصل حامل ماژول را در گردش کار خودم پیاده کردم.
امتحان ماژول
1. کدام یک از موارد زیر دقیق ترین موقعیت برای هوش مصنوعی در مددکاری اجتماعی است؟
- الف) هوش مصنوعی می تواند در مورد سطح ریسک مشتری و تصمیم مداخله بدون تایید انسان تصمیم بگیرد
- ب) هوش مصنوعی ابزاری برای جمع بندی، سازماندهی، ساده سازی و پیش نویس است. مسئولیت قضاوت بالینی، ریسک و تصمیم نهایی بر عهده متخصص است ✔
- ج) هوش مصنوعی فقط برای ترجمه متن مفید است و ربطی به سایر وظایف مددکاری اجتماعی ندارد
- د) از آنجایی که هوش مصنوعی همیشه بی طرف تر از انسان است، ارزیابی باید به آن واگذار شود.
توضیحات: هوش مصنوعی; این یک دستیار است که یادداشت ها را سازماندهی می کند، فایل را خلاصه می کند، متن را ساده می کند و پیش نویس ها را تولید می کند. مسئولیت قضاوت بالینی، ارزیابی ریسک، نظر حرفه ای و تصمیم نهایی بر عهده متخصص ذیصلاح است. یک خروجی تایید نشده می تواند منجر به قضاوت نادرست مشتری، فرار از ریسک یا نشت داده های حساس شود.
2. هنگام تبدیل یادداشت های خام مصاحبه به پرونده توسط هوش مصنوعی، صحیح ترین دستورالعمل چیست؟
- الف) درخواست هوش مصنوعی برای پر کردن قسمت های گمشده به شیوه ای معقول به طوری که حرفه ای به نظر برسد.
- ب) اجازه دادن به هوش مصنوعی برای اضافه کردن مشاهدات اضافی برای غنی سازی رکورد
- ج) از دانش آموز بخواهید که فقط از اطلاعات موجود در یادداشت استفاده کند، موارد گمشده را به عنوان «نیاز به توضیح» علامت گذاری کند و چیزی اضافه نکند ✔
- د) قرار دادن مستقیم آن در فایل بدون مقایسه با نت تا زمانی که خروجی روان باشد
توضیح: خطرناکترین تمایل هوش مصنوعی ساختن مشاهدات، اعداد یا نقلقولهایی است که در یادداشت نیستند تا رکورد «کامل» به نظر برسد. رویکرد صحیح این است که بگویید «فقط از آنچه در یادداشت است استفاده کنید، موارد گمشده را علامت بزنید، چیزی اضافه نکنید». شکاف ها پر نمی شوند، آنها برای روشن شدن علامت گذاری شده اند.
3. چرا تمایز بین "واقعیت" و "تفسیر" در پرونده مهم است؟
- الف) یک واقعیت یک مشاهده/گزاره ملموس است، در حالی که تفسیر یک استنتاج حرفه ای است که مستلزم مبنای است. این دو را باید از هم جدا کرد و نظر را تگ کرد ✔
- ب) تمایز غیر ضروری است; واقعیت و نظر را می توان به همان شکل در رکورد نوشت
- ج) فقط تفسیر مهم است; این امکان وجود دارد حتی اگر حقایق ثبت نشود
- د) از آنجایی که هوش مصنوعی این تمایز را کاملاً ایجاد می کند، نیازی به کنترل انسان نیست.
توضیح: «او در مصاحبه سه بار گریه کرد» یک واقعیت است. "او افسرده بود" نظری است که نمی توان آن را بدون مبنای بالینی نوشت. سوابق، واقعیت را پیشزمینه میکند و تنها با برچسبگذاری و توجیه روشن، تفسیر را شامل میشود. هوش مصنوعی می تواند این دو را به خوبی با هم ترکیب کند. این وظیفه انسان است که تمایز قائل شود و از انگ زدن به زبان بپرهیزد.
4. هوش مصنوعی چه نقشی در تصمیم گیری در مورد ایمن بودن کودک در خانه یا سطح خطر یک مورد باید ایفا کند؟
- الف) هوش مصنوعی می تواند پرونده را بخواند، سطح خطر را تعیین کند و تصمیم امنیتی بگیرد
- ب) برچسب "کم خطر" داده شده توسط هوش مصنوعی می تواند مشاهدات متخصص را بر خلاف آن نادیده بگیرد
- ج) هوش مصنوعی فقط عوامل را یادآوری می کند و یادداشت ها را مرتب می کند. سطح ریسک و تصمیم ایمنی متعلق به کارشناس، تیم، نظارت و روند قانونی است ✔
- د) هوش مصنوعی در تصمیم گیری ریسک قابل اعتمادتر از انسان است زیرا بی طرفانه است.
توضیحات: سطح ریسک و تصمیم امنیتی؛ این نیاز به اختیار حرفه ای، قضاوت بالینی، نظر تیم چند رشته ای، نظارت و مسئولیت قانونی دارد. در اینجا، هوش مصنوعی فقط میتواند عوامل خطر/محافظتکننده را به خاطر بیاورد و یادداشتها را ویرایش کند. نمی تواند امتیاز یا تصمیم گیری کند. همچنین ممکن است به دلیل سوگیری در داده های آموزشی، ریسک بالای سیستماتیک را به گروه های محروم نسبت دهد، بنابراین خروجی آن نمی تواند به عنوان یک تصمیم مورد استفاده قرار گیرد.
5. وقتی هوش مصنوعی با گفتن «این مرکز، آن تلفن» اطلاعات ارجاعی به مشتری می دهد چه باید کرد؟
- الف) تایید آدرس و شماره تلفن از منبع رسمی و فعلی موسسه قبل از دادن به مشتری ✔
- ب) انتقال مستقیم اطلاعات به مشتری همانطور که با اطمینان ارائه می شود
- ج) با فرض صحت کامل اطلاعات تا زمانی که هوش مصنوعی تاریخ فعلی را مشخص کند
- د) تصور اینکه نیازی به بررسی صحت اطلاعات نیست زیرا در جایی ذکر شده است.
توضیحات: هوش مصنوعی ممکن است خدمات، الزامات برنامه، آدرس ها و شماره تلفن ها را تشکیل دهد یا اطلاعات قدیمی ارائه دهد. موسسات ادغام می شوند، حرکت می کنند، تعطیل می شوند. ارسال مشتری به یک آدرس تایید نشده منجر به هدر رفتن سفر و از دست دادن اعتماد می شود. بنابراین اطلاعات تماس ارائه شده توسط هوش مصنوعی باید قبل از ارسال به مشتری از طریق کانال رسمی خود موسسه تایید شود.
6. چه کسانی باید در طرح پاسخگویی اهداف تعیین کنند و نقش هوش مصنوعی چیست؟
- الف) هوش مصنوعی باید هم اهداف را تعیین کند و هم کل طرح را بدون سوال از مشتری بنویسد.
- ب) مشتری (همراه با متخصص) اهداف را تعیین می کند. هوش مصنوعی آنها را در قالب SMART قرار می دهد و آنها را ساختار می دهد، اهداف جدیدی اضافه نمی کند
- ج) اهداف بی اهمیت هستند. هرچه این طرح شامل اهداف بیشتری باشد، بهتر است.
- د) هوش مصنوعی ممکن است اولویت های مشتری را نادیده بگیرد زیرا حرفه ای به نظر می رسد
توضیحات: ارزش اصلی مددکاری اجتماعی «خودتعیین کردن» است: مشتری اهداف و اولویتها را تعیین میکند و با دانش حرفهای متخصص شکل میدهد. هوش مصنوعی این اهداف را در قالب SMART قرار می دهد و مراحل و شاخص هایی را پیشنهاد می کند. اما او نمی تواند اهداف جدیدی را که مشتری نمی گوید اضافه کند. یک طرح تحمیلی خارجی را نمی توان برای مشتری اعمال کرد.
7. در گزارش تحقیق اجتماعی که باید به دادگاه ارائه شود، هوش مصنوعی در کدام موضوع خطرناکتر است؟
- الف) امکان اختراع تاریخها، مشاهدات یا نقلقولهایی که وجود ندارند تا گزارش را «کامل» نشان دهد ✔
- ب) رسمی کردن بیش از حد زبان متن
- ج) نوشتن گزارش کوتاهتر از آنچه خواسته شده است
- د) ترتیب الفبایی عناوین
توضیح: خطرناک ترین گرایش هوش مصنوعی اضافه کردن تاریخ، مشاهده یا نقل قول غیر موجود است تا گزارش را "کامل" به نظر برساند. حکم ساختگی در گزارش دادگاه هم می تواند تصمیم را به اشتباه بیندازد و هم اعتبار کارشناس را از بین ببرد. بنابراین هر مورد باید به یک مصاحبه/مشاهده/سند واقعی متصل شود و نظر تخصصی توسط کارشناس تشکیل شود.
8. چه کسی باید بخش نظر و نظر حرفه ای (پیشنهاد) گزارش تحقیق اجتماعی را بنویسد؟
- الف) هوش مصنوعی؛ زیرا توصیه بی طرفانه تری ایجاد می کند
- ب) در هنگام نوشتن گزارش قسمت نظرات هرگز پر نمی شود.
- ج) هوش مصنوعی نظر می نویسد، کارشناس فقط در انتها امضا می کند
- د) کارشناس؛ نظر و نظر حرفه ای اختیار و مسئولیت اوست، هوش مصنوعی فقط زبان را روشن می کند✔
بیانیه: نظر و نظر حرفه ای - "این به نفع این کودک است"، "این ترتیب مناسب است" - اختیار و مسئولیت قانونی کارشناس است. "چه چیزی را به هوش مصنوعی توصیه می کنم؟" سؤال نمی شود؛ «پیشنهادی» که او ارائه می کند ممکن است هم ساختگی و هم انتقال مسئولیت باشد. در بهترین حالت، هوش مصنوعی زبان نظر نوشته شده توسط متخصص را روشن می کند.
9. مهم ترین کنترل در هنگام ساده کردن نامه کمک رسمی سنگین برای مشتری با هوش مصنوعی چیست؟
- الف) متن را تا حد امکان کوتاه نگه دارید، به جزئیات نگاه نکنید
- ب) نتیجه روان و زیبا به نظر می رسد
- ج) بررسی اینکه هیچ حقوق، شرایط، مبالغ، تاریخ یا اطلاعیه ای از قلم نیفتاده است با مقایسه با اصل ✔
- د) ساده سازی با دادن اطلاعات کمتر به مشتری آرامش را برای او فراهم می کند.
توضیح: ساده سازی به معنای تحریف نیست. با «کوتاه کردن» یا «ساده کردن» هوش مصنوعی میتواند حق، شرط، مقدار، تاریخ یا اطلاعیه را ببلعد. مشتری ممکن است با اطلاعات «آسان» اما ناقص حق خود را از دست بدهد. بنابراین، متن ساده شده باید با متن اصلی مقایسه شود و تأیید شود که هیچ اطلاعات مهمی از بین نرفته است، و حتی هوش مصنوعی عناصر مهمی را که محافظت می کند فهرست کند.
10. برخورد با آمار تولید شده توسط هوش مصنوعی هنگام تهیه پیش نویس درخواست تامین مالی چگونه صحیح است؟
- الف) به طور مستقیم از آمارهای داده شده توسط هوش مصنوعی استفاده کنید تا آن را چشمگیر جلوه دهید
- ب) عدم ساخت آمار هوش مصنوعی، چاپ [DATA REQUIRED] در صورت لزوم و قرار دادن هر عدد از منبع واقعی ✔
- ج) با توجه به بی اهمیت بودن منبع تا زمانی که شماره در یک اپلیکیشن درج شده باشد.
- د) با فرض اینکه نیازی به تایید آمار نیست زیرا هوش مصنوعی با اطمینان می نویسد
توضیحات: هوش مصنوعی میتواند آمارهای خیرهکننده اما بدون منبع را ایجاد کند. یک رقم بدون منبع تقریباً همیشه غیرقابل اعتماد است. یک آمار ساختگی در اپلیکیشن هم درخواست را رد می کند و هم اعتبار موسسه را از بین می برد. رویکرد صحیح این است که هوش مصنوعی را اعداد تشکیل ندهید ('Write [DATA EQUIRED]') و هر عدد را از منبع واقعی و تأیید شده قرار دهید.
11. چرا پرسیدن از هوش مصنوعی "توضیح دهید که چرا این خانواده در تربیت فرزندان ناکافی هستند" مضر است؟
- الف) چون سوال خیلی طولانی است
- ب) از آنجایی که هوش مصنوعی نمی تواند هیچ اطلاعاتی در مورد مسائل خانوادگی ارائه دهد
- ج) از آنجایی که هوش مصنوعی از ابتدا نتیجه را فرض میکند، (به طور تملقانه) تأییدی غیرمستند و مغرضانه ایجاد میکند. سوال باید خنثی و متعادل باشد ✔
- د) زیرا هوش مصنوعی همیشه به نفع خانواده خواهد نوشت
توضیح: این سوال نتیجه ("ناکافی") را پیش فرض می گیرد. هوش مصنوعی متنی بدون شواهد و مغرضانه تولید می کند که این فرض را با تمایل خود به چاپلوسی تأیید می کند (تلقین شما را تأیید کنید). یک سوال جانبدارانه پاسخی مغرضانه ایجاد می کند. در واقع، این یک سوال خنثی است که نتیجه را فرض نمیکند، هم نقاط قوت و هم نگرانیها را متعادل میکند و فقط شواهد میخواهد.
12. چگونه می توان «تست زیر زاویه» را برای بررسی تعصب در خروجی هوش مصنوعی اعمال کرد؟
- الف) فکر کردن به وضعیت یکسان برای یک گروه دیگر و پرسیدن "آیا این به یک زبان نوشته می شود؟" ✔ تست استانداردهای دوگانه با پرسیدن
- ب) پذیرفتن پاسخ اول هوش مصنوعی به عنوان خنثی و عدم جست و جوی زاویه دیگری
- ج) فقط پرسیدن سوالاتی که از گروه مشتری حمایت می کند
- د) با فرض عدم نیاز به کنترل اضافی چون سوگیری در هوش مصنوعی اصلا وجود ندارد
توضیح: هوش مصنوعی میتواند رفتار یکسانی را با لحنی متفاوت برای گروههای مختلف بنویسد (مثلاً «خطر بیتوجهی» برای خانوادههای کم درآمد، «والد اجباری» برای افراد پردرآمد). آزمون وارونگی این است که "اگر مشتری از یک گروه اجتماعی-اقتصادی/قومی متفاوت بود، آیا این به همان زبان نوشته می شد؟" پرسیدن است؛ این باعث می شود استانداردهای دوگانه قابل مشاهده بر اساس کلیشه ها باشد، نه شواهد.
13. کدام رویکرد صحیح برای خلاصه کردن پرونده واقعی مشتری (شامل نام، آدرس، اطلاعات سلامتی) است؟
- الف) برای سرعت، آن را در نزدیکترین ابزار هوش مصنوعی عمومی قرار دهید و آن را خلاصه کنید
- ب) پردازش فایل بدون توجه به حریم خصوصی به دلیل کوتاه بودن آن
- ج) همه چیز از جمله اطلاعات سلامت را وارد کنید و فقط نتیجه را ذخیره کنید
- د) پردازش فقط در یک سیستم امن مورد تایید موسسه یا با متن شناسایی نشده، با حداقل داده ✔
افشا: داده های شخصی که مشتری را شناسایی می کند - به ویژه داده های حساس مانند سلامت - هرگز در ابزار عمومی که موسسه آن را تایید نکرده است، وارد نمی شود. متن ممکن است پردازش شود، در سرورهای خارجی ذخیره شود یا در آموزش مدل استفاده شود، و استخراج غیرقابل برگشت است. این نیز نقض KVKK است. این نوع کار فقط در سیستمهای داخلی، امن و تایید شده که دادهها را درز نمیکنند یا با متنهای نامشخص انجام میشود.
14. چرا حذف نام ها از یک سند همیشه برای تعهد آن به یک ابزار عمومی کافی نیست؟
- الف) حذف نام ها همیشه ناشناس سازی کامل است و هر سند را ایمن می کند
- ب) تا زمانی که سند کوتاه است، استنباط هویت از متن غیرممکن است
- ج) سندی که نام آن به طور کامل حذف شده است خارج از محدوده KVKK است.
- د) زمینه (همسایگی، سن، رویداد، ساختار خانواده) ممکن است هویت را مجدداً نشان دهد. حفاظت با انتخاب ابزار و محیط ارائه می شود ✔
توضیح: حتی اگر نامها حذف شوند، بافت (ترکیبی نادر از محله، سن، رویداد، تاریخ، ساختار خانواده و غیره) میتواند فرد را قابل شناسایی کند. او ممکن است تنها فردی در یک محله باشد که با توصیف مطابقت دارد. حفاظت واقعی با ماسک کردن انجام نمی شود، بلکه با انتخاب ابزار و محیط مناسب انجام می شود. زمینه نیز داده های شخصی است و اطلاعات نامشخص باید به عنوان یک طبقه بالاتر محافظت شوند.
15. از درخواست تا بسته شدن پرونده، موثرترین راه برای جلوگیری از نشت یک خطای هوش مصنوعی در تصمیم نهایی چیست؟
- الف) واگذاری کل فرآیند به یک ابزار هوش مصنوعی و امضا کردن فقط یک بار در پایان
- ب) قرار دادن یک گیت و شرایط پاس انسانی در هر مرحله (تایید لایه ای) ✔
- ج) حذف اعتبارسنجی میانی برای سرعت و بررسی فقط در مرحله خروجی
- د) اجازه دادن به هر متخصص برای استفاده آزادانه از ابزار خود بدون نگهداری سوابق
توضیحات: یک دروازه تأیید انسانی در هر مرحله قرار می گیرد (کاربرد / محرمانه بودن، ارزیابی / قضاوت بالینی، خطر / مجوز، طرح / تأیید، گزارش / شواهد، بسته شدن / دقت). شما نمی توانید از یک در بدون عبور از در دیگری عبور کنید. این ساختار لایه ای مانع از نفوذ توهم، سوگیری یا خطای محرمانگی در یک مرحله به تصمیمی می شود که بر مشتری تأثیر می گذارد.