سود:
- امکان تهیه چک لیست ریسک و عوامل حفاظتی و اسکلت طرح امنیتی با هوش مصنوعی و کار بدون پرش
- درک کنید که تصمیمات سطح ریسک/امتیاز و امنیت فقط توسط کارشناسان، تیم ها، نظارت و فرآیندهای قانونی گرفته می شود و هوش مصنوعی نمی تواند تصمیم گیری کند.
- با توجه به اینکه هوش مصنوعی میتواند سوگیری سیستماتیک را به گروههای محروم نسبت دهد و به کار بردن نظم عدم استفاده از خروجی آن به عنوان یک تصمیم و پردازش حساسترین دادهها فقط در یک سیستم امن.
جدی ترین مسئولیت مددکاری اجتماعی ارزیابی خطر است – قضاوت هایی که مستقیماً به ایمنی زندگی مربوط می شود، مانند اینکه آیا کودک مورد بی توجهی قرار گرفته یا مورد آزار قرار گرفته است، آیا احتمال دارد فرد به خود یا شخص دیگری آسیب برساند، آیا یک فرد مسن ایمن است یا اینکه قربانی خشونت چقدر در معرض خطر است. اولین و جسورانه ترین قانون این واحد این است: تصمیم گیری در مورد ریسک متعلق به هوش مصنوعی نیست، نمی تواند و نباید باشد. تصمیم گیری در مورد ایمنی یک فرد؛ این نیاز به اختیار حرفه ای، قضاوت بالینی، نظر تیم چند رشته ای، نظارت و مسئولیت قانونی دارد. هوش مصنوعی در اینجا فقط یک ابزار آمادهسازی و یادآوری است: به شما یادآوری میکند که کدام عوامل خطر و محافظتی را بررسی کنید، یادداشتهایتان را سازماندهی میکند، یک طرح ایمنی را ترسیم میکند. نه نمره می دهد، نه می گوید «ریسک کم/ زیاد است»، تصمیم نمی گیرد.
چرا اینقدر بر این موضوع تاکید می کنیم؟ زیرا در عرصه ریسک، هزینه اشتباه هوش مصنوعی غیرقابل برگشت است. رتبه بندی خطر توسط هوش مصنوعی به عنوان "کم" کودک را بدون محافظت می گذارد. به نظر رسیدن یک خطر غیر ضروری "بالا" می تواند منجر به جدایی ناعادلانه یک خانواده شود. علاوه بر این، هوش مصنوعی دارای سوگیریهایی در دادههای آموزشی است: الگوریتمهایی که به طور سیستماتیک خطر بیشتری را به گروهها، قومیتها یا محلههای اجتماعی-اقتصادی خاصی نسبت میدهند، در سراسر جهان مستند شدهاند. بنابراین حتی اگر خروجی هوش مصنوعی یک ورودی باشد، هرگز نمی تواند قضاوت مستقل شما را نادیده بگیرد.
نقش مشروع هوش مصنوعی: یادآوری و تنظیم
سه مکان وجود دارد که می توانید با خیال راحت از هوش مصنوعی در معرض خطر استفاده کنید:
1. یادآوری فاکتور. عوامل خطر (به عنوان مثال، سابقه خشونت در گذشته، مصرف مواد، انزوای اجتماعی، پذیرش قبلی) و عوامل محافظتی (به عنوان مثال، یک بزرگسال حمایت کننده، حضور منظم در مدرسه، یک شبکه اجتماعی قوی) که باید در ارزیابی خطر در نظر گرفته شوند طولانی هستند. هوش مصنوعی به شما کمک می کند تا با یادآوری چک لیستی که با چارچوبی که سازمان شما استفاده می کند، از دست ندهید.
2. ویرایش یادداشت. این مشاهدات و اظهارات مشتری شما را به یک متن سازمانیافته و واقعی ترجمه میکند - بنابراین میتوانید قضاوت خود را بر اساس دادههای واضح قرار دهید.
3. پیش نویس طرح امنیتی. یک طرح امنیتی (یک طرح مشخص که مشخص می کند قربانی در صورت خطر چه کاری انجام می دهد، با چه کسی تماس می گیرد، به کجا می رود) ساختار خاصی دارد. هوش مصنوعی می تواند یک اسکلت پیش نویس تولید کند تا با مشتری پر شود. اما شما و مشتری محتوای طرح را مطابق با واقعیت پر می کنید.
احتیاط: هرگز از هوش مصنوعی نپرسید "در این مورد سطح خطر چقدر است؟" یا "آیا کودک در خانه امن است؟" نپرس. از خروجی به عنوان تصمیم استفاده نکنید، حتی اگر بخواهید. این سوالات تنها توسط کارشناس، تیم و نظارت مجاز از طریق ابزار ریسک رسمی موسسه پاسخ داده می شود.
گام به گام: قرار دادن هوش مصنوعی به درستی در فرآیند ریسک
- اول ایمنی در صورت وجود خطر فوری و جدی (ایمنی جان)، لازم است رویه اضطراری موسسه عمل شود، نه برخورد با هوش مصنوعی. هوش مصنوعی نباید هیچ فوریتی را به تاخیر بیندازد.
- بی هویت کردن رتبه بندی ریسک حساس ترین داده ها هستند. اطلاعات شناسایی مشتری در ابزار باز وارد نمی شود، فقط از ابزار موسسه امن استفاده می شود.
- لیست فاکتورها را به من یادآوری کنید. درخواست چک لیست ریسک و عوامل حفاظتی متناسب با چارچوب سازمانی.
- خودت قضاوت کن شما عوامل را می سنجید، با تیم ارزیابی می کنید و با سرپرست مشورت می کنید. شما نمی خواهید هوش مصنوعی "ارزیابی" کند.
- طرح ایمنی را با مشتری کامل کنید. اسکلت پیش نویس ممکن است از هوش مصنوعی باشد. محتوا با شبکه، منابع و ترجیحات واقعی مشتری پر شده است.
سه کیف کوچک
مورد 1 - فاکتور محافظ از دست رفته. یک متخصص بر روی عوامل خطر در یک پرونده خشونت خانگی متمرکز شد. چک لیست فاکتورهایی که او از هوش مصنوعی خواسته بود از او در مورد شبکه پشتیبانی ایمن مشتری در محل کار در بخش «عوامل محافظتی» بپرسد - منطقه ای که متخصص آن را از دست داده بود. این شبکه به واقع بینانه ترین بخش طرح امنیتی تبدیل شد. تصمیم دوباره به عهده کارشناس بود. هوش مصنوعی فقط سوال را یادآوری کرد.
مورد 2 - نمره نادرست قابل اعتماد نبود. یکی از آژانسها ابزار آزمایشی هوش مصنوعی را دید که یک مورد را با عنوان «خطر کم» برچسبگذاری کرد. اما مشاهدات کارشناس و اظهارات موکل حکایت از یک خطر جدی داشت. این تیم برچسب هوش مصنوعی را رد کرد و بر اساس ارزیابی خود اقدام محافظتی را آغاز کرد. بعداً تأیید شد که خطر واقعی است. درس: امتیاز هوش مصنوعی یک تصمیم نیست. قضاوت انسان اولویت دارد
مورد 3 - تعصب گرفتار شد. در یک محاکمه، همان پرونده دو بار به هوش مصنوعی داده شد. تنها تفاوت محله ای بود که مشتری در آن زندگی می کرد. هوش مصنوعی به طور سیستماتیک «زبان خطر» بالاتری را برای محلهای که به عنوان نامطلوب شناخته میشود تولید کرد. این سوگیری را در داده های آموزشی هوش مصنوعی نشان داد و سیاست آژانس مبنی بر عدم استفاده از هوش مصنوعی در تصمیم گیری ریسک را تقویت کرد.
چهار قالب قابل کپی
1) یادآوری خطر/عامل محافظتی:
نقش شما: دستیار ناظر مددکاری اجتماعی. چک لیستی از عوامل خطر و عوامل محافظتی تهیه کنید که توصیه می شود در ارزیابی خطر در موارد [خشونت خانگی] بررسی شوند. این را به عنوان لیستی از یادآوری ها ارائه دهید. هیچ امتیاز، تصمیم یا «سطوح ریسک» تولید نکنید. ارزیابی و تصمیم گیری متعلق به کارشناس است.
2) اسکلت پیش نویس طرح امنیتی:
نقش شما: ویراستار یک طرح کلی خالی از یک طرح ایمنی را برای پر کردن با قربانیان خشونت خانگی تهیه کنید: علائم هشدار دهنده، مکان های امن، افراد و موسسات برای تماس، اسناد مهم، برنامه ریزی برای کودکان، ایمنی دیجیتال. پر کردن مطالب؛ زیر هر عنوان فضاهای خالی بگذارید تا با مشتری پر شود.
3) ویرایش یک یادداشت ریسک (بدون تصمیم گیری):
مشاهدات و یادداشت های بیانیه زیر را به یک متن واقعی و سازمان یافته ترجمه کنید. مشاهده برچسب و بیانیه مشتری را جداگانه مشخص کنید. STATING the risk level, MAKING a decision, ADDING a comment. فقط موارد موجود در یادداشت را ویرایش کنید و قسمتهای گمشده/معروف را علامت بزنید. توجه: [چسباندن یادداشت شناسایی نشده]
4) خودکنترلی جانبداری:
در یادداشت ریسک پیشنویس زیر، آیا بیانیهای وجود دارد که به دلیل وضعیت اجتماعی-اقتصادی، قومیت، محله یا ویژگی مشابه مشتری، تعصب اثباتنشده را بیان کند؟ هر جمله ای را که بر اساس کلیشه ها است به جای شواهد علامت گذاری کنید. متن را تغییر ندهید، فقط هشدار دهید. توجه: [چسب کردن یادداشت]
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
این مورد را بخوانید و تصمیم بگیرید که آیا ماندن کودک در خانه بی خطر است و میزان خطر آن چقدر است.
این مهم ترین تصمیم در مورد زندگی انسان را به یک نرم افزار برون سپاری می کند. این غیراخلاقی است، برخلاف مسئولیت حرفه ای، و سوگیری هوش مصنوعی را مستقیماً به سرنوشت کودک منتقل می کند.
اعلان قدرتمند:
نقش شما: دستیار یادآوری. قبل از خواندن یادداشت شناسایی نشده زیر، چک لیستی از عوامل خطرساز و محافظتی برای بررسی در ارزیابی موارد [غفلت از کودک] تهیه کنید. تولید تصمیم، امتیاز یا سطح ریسک. من ارزیابی را با تیمم انجام خواهم داد. شما فقط به من یادآوری کنید که از کدام مناطق نباید بگذرم.
تفاوت: گفتن "کدام سوالات را نباید فراموش کنم" به جای درخواست تصمیم، هوش مصنوعی را در مرز امن و اخلاقی نگه می دارد.
مرزهای نقش در زمینه ریسک
تلاش
آیا هوش مصنوعی می تواند آن را انجام دهد؟
چه کسی انجام می دهد؟
یادآوری چک لیست فاکتور
بله
هوش مصنوعی (یادآوری)
ویرایش یادداشت ها به صورت واقعی
بله
تاییدیه AI + متخصص
اسکلت خالی طرح امنیتی
بله
هوش مصنوعی مشتری محتوا + کارشناس
تعیین سطح ریسک/نمره
نه
کارشناس + تیم + نظارت
"ایمن است؟" تصمیم گیری
نه
کارشناس ذیصلاح، روند قانونی
شروع اقدامات حفاظتی
نه
موسسه، مرجع ذی صلاح
اشتباهات رایج
- درخواست امتیاز/تصمیم از هوش مصنوعی. خطرناک ترین اشتباه؛ تصمیم گیری مستلزم اختیارات حرفه ای و مسئولیت قانونی است.
- اعتماد به برچسب هوش مصنوعی نتیجه گیری "کم خطر" هرگز مشاهدات شما را بر خلاف آن بی اعتبار نمی کند.
- نادیده گرفتن تعصب هوش مصنوعی ممکن است خطر بالای سیستماتیک را به گروههای محروم نسبت دهد. خودکنترلی ضروری است
- تأخیر فوریت اگر ایمنی جان وجود دارد، ابتدا روش اضطراری. برخورد با هوش مصنوعی نمی تواند منتظر بماند.
- دادن حساس ترین داده ها به ابزار باز. یادداشت های ریسک فقط در ابزار موسسه امن پردازش می شوند.
به طور خلاصه
ارزیابی ریسک بزرگترین مسئولیت مددکاری اجتماعی است و تصمیم مستقیماً بر عهده شخص است - متخصص، تیم، نظارت، مقام قانونی. در اینجا، هوش مصنوعی فقط ابزاری برای یادآوری (فهرست عوامل خطر/ حفاظتی)، سازماندهی (یادداشت واقعی) و پیش نویس (اسکلت طرح ایمنی) است. نه گل می زند، نه تصمیم می گیرد. به یاد داشته باشید که هوش مصنوعی دارای سوگیری است، هرگز از خروجی آن به عنوان تصمیم استفاده نکنید و حساس ترین داده ها را فقط در سیستم امن پردازش کنید.
وظیفه کاربردی
نوع مورد داستانی را انتخاب کنید. چک لیستی با الگوی "یادآوری عامل خطر/محافظت" دریافت کنید و بررسی کنید که هوش مصنوعی هیچ "سطوح خطر" تولید نمی کند. سپس یک اسکلت طرح خالی با الگوی "اسکلت طرح طرح امنیتی" بگیرید. آگاهانه از هوش مصنوعی می پرسد "سطح خطر چیست؟" و در یک جمله بنویسید که چرا نباید از خروجی به عنوان تصمیم استفاده کنید.
چک لیست
- [ ] من فقط از هوش مصنوعی یک یادآوری فاکتور خواستم، نه یک تصمیم/امتیاز.
- [ ] من حساس ترین داده ها را فقط در ابزار سازمانی امن پردازش کردم.
- [ ] من برنامه ریزی کردم که محتویات طرح امنیتی را همراه با مشتری پر کنم.
- [ ] من خروجی هوش مصنوعی را برای سوگیری بررسی کردم.
- [ ] من تأیید کردم که تصمیم نهایی در مورد ریسک بر عهده تیم، نظارت و روند قانونی است.