مقدمه ای بر هوش مصنوعی در مددکاری اجتماعی: نقش ها، مرزها، احراز هویت، حریم خصوصی و اخلاق

سود:

• توانایی تشخیص اینکه هوش مصنوعی کجا در جریان کار اجتماعی در زمان صرفه جویی می کند (خلاصه، ویرایش، ساده سازی، پیش نویس) و جایی که قضاوت بالینی، ریسک و تصمیمات بازنمایی بسته به سطح خطر به انسان واگذار می شود.
• توانایی اعمال رشته ای که هر خروجی را از طریق مراحل پیوند دادن آن به شواهد واقعی، تأیید اطلاعات خارجی با منابع رسمی فعلی و فیلتر کردن آن از طریق سوگیری تأیید می کند.
• برای درک اینکه چرا حریم خصوصی مشتری، تمایز بین دنیای داده های ناشناس و مشتری، و مسئولیت KVKK باید از همان ابتدا در مددکاری اجتماعی مورد توجه قرار گیرد.

شما در صبح یک مرکز خدمات اجتماعی هستید. سه درخواست جدید دیروز وارد شد: یک زن قربانی خشونت و دو فرزندش، یک فرد مسن نیازمند مراقبت و یک نوجوان در معرض خطر ترک تحصیل. چهار گزارش تحقیقات اجتماعی روی میز شما نشسته است، یک نظر درخواستی دادگاه، سوابق پرونده ای که باید پر شود، و آماده سازی برای ملاقات با خانواده امروز بعد از ظهر. مددکاری اجتماعی (حرفه و رشته‌ای که برای بهبود عملکرد اجتماعی افراد، خانواده‌ها و جوامع، برای اطمینان از دسترسی آنها به حقوق و رفاه و حمایت از گروه‌های آسیب‌پذیر انجام می‌شود) رشته‌ای است که ذاتاً مستندسازی، فشار زمانی، تأثیرگذاری بر زندگی انسان‌ها و مسئولیت‌پذیری بالایی دارد. هوش مصنوعی (AI - نرم‌افزاری که می‌تواند الگوها را از داده‌های تاریخی استخراج کند و متن، خلاصه‌ها، ترجمه‌ها و پیش‌نویس‌ها را تولید یا طبقه‌بندی کند) به شما در بارگذاری و فشار زمانی این سند یک تنفس می‌دهد. اما ابتدای این ماژول واضح است: هوش مصنوعی یک دستیار، خلاصه‌کننده و مولد طرح کلی است. شما کارشناس صالحی هستید که ارزیابی، ریسک و تصمیم نهایی را در مورد مشتری می گیرید.

در این بخش اول ما بر روی نظم تمرکز خواهیم کرد، نه ابزار. شما یاد خواهید گرفت که هوش مصنوعی کجا در جریان کار اجتماعی یک صرفه جویی در زمان واقعی است، کجا خطرناک است، چگونه هر خروجی را تأیید کنید، چگونه از حریم خصوصی مشتری و داده های شخصی محافظت کنید، و چگونه در برابر سوگیری هوشیار بمانید. بدون ایجاد این پایه، واحدهای بعدی در هوا باقی می مانند - زیرا در مددکاری اجتماعی، یک خروجی تأیید نشده فقط یک جمله نادرست نیست. این اشتباهی است که می تواند منجر به قضاوت نادرست از کودک، نادیده گرفته شدن خطر، انگ ناعادلانه شدن خانواده یا افشای اطلاعات حساس شود.

هوش مصنوعی کجا در جریان کار اجتماعی مفید است؟

بیایید مشاغل مددکاری اجتماعی را به دو دسته بزرگ تقسیم کنیم. خوشه اول: وظایف مبتنی بر سند، تکراری، قابل استخراج با الگو و زبان. ترجمه یادداشت‌های پراکنده پس از مصاحبه به یک پرونده سازمان‌یافته، خلاصه زمانی یک پرونده طولانی، اولین اسکلت گزارش تحقیق اجتماعی، ساده‌سازی فهرست کمک/خدمات متناسب با زبان مشتری، پیش‌نویس یک معرفی‌نامه، ترجمه متن اطلاعاتی ساده برای مشتری چند زبانه، چارچوب اول تحلیل نیازهای یک برنامه. در این مشاغل هوش مصنوعی ساعت ها را به دقیقه کاهش می دهد و خسته نمی شود.

خوشه دوم: وظایفی که نیاز به قضاوت، ارزیابی بالینی، قضاوت ریسک و مسئولیت دارند. اینکه آیا کودک در خانه ایمن است، سطح خطر آسیب رساندن به خود در یک فرد، اینکه آیا یک خانواده به اقدامات حفاظتی نیاز دارد، نظری که با آن گزارشی به دادگاه ارائه می شود، آیا خدمات واقعاً برای مشتری مناسب است یا خیر. این تصمیمات مستلزم شایستگی حرفه ای، قضاوت بالینی، دانش زمینه، مسئولیت اخلاقی و اغلب نظر تیم چند رشته ای است. در اینجا، هوش مصنوعی گزینه ها را چند برابر می کند، پیش نویس ها را تولید می کند، آنچه را که نادیده گرفته شده است به شما یادآوری می کند – اما ارزیابی و امضای نهایی با شماست.

بیایید این تمایز را در یک جمله روشن کنیم: هوش مصنوعی در سؤالات «در این فایل چه چیزی است و پیش نویس اول چگونه است» قوی است. در مورد سؤالاتی مانند "وضعیت واقعی این شخص چگونه است و آیا می توانم از طرف حرفه خود از این موضوع دفاع کنم" تصمیم با شماست؟

نکته: قبل از برون سپاری کار به یک هوش مصنوعی، بپرسید: "اگر این خروجی اشتباه باشد چه کسی آسیب می بیند؟" اگر پاسخ «چند دقیقه بازسازی مجدد» است، به راحتی تفویض اختیار کنید. اگر پاسخ "ارزیابی اشتباه مشتری، فرار از خطر یا اطلاعات لو رفته" است، اجازه دهید هوش مصنوعی پیش نویس را تهیه کند و شما تصمیم و تأیید را بگیرید.

حریم خصوصی: اصل خدشه ناپذیر

قلب مددکاری اجتماعی اعتماد است و اعتماد مبتنی بر رازداری است. مشتری خصوصی‌ترین و شکننده‌ترین اطلاعات خود را به شما می‌گوید - خشونت، فقر، وضعیت سلامتی، اسرار خانواده - با تکیه بر محرمانه بودن حرفه‌ای. وقتی این اطلاعات به دست افراد نادرست بیفتد، جان، امنیت و حیثیت یک فرد را تهدید می کند. قانون اساسی در اینجا: هیچ داده شخصی که مشتری را شناسایی می کند (نام، آدرس، شناسه TR، سلامت، اطلاعات خانواده و غیره) در ابزار هوش مصنوعی عمومی که موسسه شما تایید نکرده است، وارد نمی شود. متنی که در یک سرویس هوش مصنوعی عمومی تایپ می کنید در سرورهای آن سرویس پردازش می شود. شما نمی توانید کنترل کنید که چه کسی آن را می بیند، کجا ذخیره می شود و آیا در آموزش مدل استفاده می شود یا خیر. در ترکیه، این نیز طبق KVKK (قانون حفاظت از داده های شخصی - قانونی که پردازش داده های شخصی را تنظیم می کند) یک مسئولیت قانونی است.

بنابراین، استفاده از هوش مصنوعی در مددکاری اجتماعی در دو دنیای مجزا عمل می‌کند: ابزارهای عمومی را می‌توان برای دنیای غیرقابل شناسایی/عمومی استفاده کرد (نمونه‌های ناشناس یا تخیلی که مشتری را شناسایی نمی‌کنند، سؤالات دانش عمومی). برای دنیای داده های مشتری، فقط از سیستم های داخلی، ایمن و تایید شده استفاده می شود که داده ها را درز نمی کند. اشتباه گرفتن این دو، خطرناک ترین اشتباه این ماژول است.

احتیاط: "هوش مصنوعی چنین گفته است" توجیهی نیست و در پرونده هیچ گونه قدرتی ندارد. اگر قضاوت نادرست، اطلاعات ساختگی یا داده های لو رفته وجود داشته باشد، مسئولیت به هوش مصنوعی تعلق ندارد، بلکه به عهده متخصصی است که از آن خروجی بدون تأیید آن استفاده می کند یا آن داده ها را در ابزار وارد می کند.

نظم و انضباط تأیید: سه مرحله

هوش مصنوعی روان و با اطمینان تولید می کند. این به این معنی نیست که درست است. هوش مصنوعی گاهی اوقات توهم ایجاد می کند - یعنی یک قانون که وجود ندارد، خدماتی که وجود ندارد، یک آمار ساختگی یا بیانیه ای که مشتری هرگز نگفته است را به عنوان واقعی نشان می دهد. در گزارش تحقیقات اجتماعی یا یادداشت ریسک، این فاجعه آمیز است. برای هر خروجی یک رفلکس سه مرحله ای اعمال کنید:

1. پیوند به منبع/شواهد. هر جمله ای که هوش مصنوعی در مورد مشتری می کند باید بر اساس یادداشت یا مکالمه واقعی باشد که شما ارائه کرده اید. در کدام گفتگو، از زبان چه کسی، با چه رصدی این اطلاعات داده شده است؟ بپرسید هوش مصنوعی نباید چیزی را که مشتری نگفته است اضافه کند.
2. با منبع مستقل تایید کنید اطلاعات خارجی مانند قانون، حقوق، خدمات، آدرس ارسال و غیره را از منبع رسمی فعلی تأیید کنید. یک مورد نیاز برنامه یا شماره تلفن ارائه شده توسط هوش مصنوعی ممکن است قدیمی یا جعلی باشد.
3. آن را از فیلتر تفسیر و تعصب عبور دهید. آیا خروجی نسبت به یک گروه تعصب دارد؟ آیا زبانی وجود دارد که مشتری را انگ و سرزنش کند؟ آیا نقاط قوت را نادیده می گیرد؟ قضاوت حرفه ای شما فیلتر نهایی است.

سه کیف کوچک

مورد 1 - اسناد در زمان صرفه جویی می کند. یک مددکار اجتماعی 14 مصاحبه را در یک هفته انجام داد و برای هر یک یادداشت‌های آزاد گذاشت. ویرایش به کمک هوش مصنوعی کل زمان ترجمه این یادداشت‌ها به پرونده‌های ساختاریافته را از تقریباً 4 ساعت به 1 ساعت کاهش داد. اما هر ضبط شده توسط کارشناس خوانده شد و با مقایسه آن با مصاحبه واقعی تایید شد. دو جمله ای که هوش مصنوعی «تفسیر» کرده بود حذف شد.

مورد 2 - تأیید یک توهم را نشان داد. یک کارشناس از هوش مصنوعی یک سوال حقوقی پرسید. YZ گفت: "برای این کمک حداقل نیاز به اقامت 24 ماهه وجود دارد." وقتی کارشناس به قانون رسمی نگاه کرد، چنین الزامی وجود نداشت. هوش مصنوعی دو کمک مشابه را با هم ترکیب کرده بود و شرطی را ایجاد کرده بود که وجود نداشت. مرحله انتساب مانع از دور شدن ناعادلانه مشتری شد.

مورد 3 - بازگشت از نقض حریم خصوصی. برای سریع، یک حرفه ای جدید می خواست تمام اطلاعات یک مورد محافظت از کودک (از جمله نام کودک، آدرس، مدرسه) را در یک ابزار هوش مصنوعی عمومی بچسباند و گزارشی را چاپ کند. کارشناس ارشد متوجه شد: این اطلاعات شخصی حساس در محدوده KVKK بوده و خارج شده است. این حادثه به عنوان یک نقض اطلاعات در نظر گرفته شد. کار با حذف اعتبار و تنها با روش ایمن داخلی دوباره انجام شد.

چهار قالب قابل کپی

1) ارزیابی شایستگی شغلی:

نقش شما: مددکار ارشد اجتماعی و سرپرست. من شغل را در زیر شرح خواهم داد. به من بگویید (1) آیا این یک کار خلاصه/ویرایش/خط مشروط است که می توان آن را به یک هوش مصنوعی محول کرد، یا کاری است که نیاز به قضاوت بالینی و قضاوت ریسک دارد، (2) هزینه خروجی نادرست برای مشتری، (3) تأییدی که باید قبل و بعد از تفویض اختیار انجام دهم. شغل: [کار را در اینجا وارد کنید]

2) الزام به استناد به دلیل:

یادداشت های یک جلسه را به شما می دهم. هنگام ویرایش ضبط، فقط از اطلاعات یادداشت استفاده کنید. چیزی را که مشتری نگفته است اضافه نکنید، تشخیص ندهید، نظر ندهید. مشاهده و بیان مشتری را جداگانه برچسب گذاری کنید. مناطق گم شده یا نامشخص را به عنوان "نیاز به توضیح" علامت گذاری کنید.

3) پیش‌بررسی حریم خصوصی:

متن زیر را قبل از پردازش ارزیابی کنید: آیا این متن می تواند حاوی اطلاعات شخصی برای شناسایی مشتری (نام، آدرس، شناسه TR، سلامت، اطلاعات خانواده) باشد؟ اگر بله، کدام بخش ها؟ به این ترتیب، اگر نباید در یک ابزار عمومی پردازش شود، به من هشدار دهید و فیلدهایی را که باید شناسایی کنم فهرست کنید. متن: [متن را اینجا بنویسید]

4) بررسی تعصب/زبان:

سوابق موردی زیر را در نظر بگیرید: آیا زبانی وجود دارد که مشتری را نسبت به گروهی انگ، سرزنش یا تعصب کند؟ آیا نقاط قوت و منابع را نادیده می گیرد؟ زبانی را پیشنهاد دهید که محترمانه تر، متمرکز بر واقعیت باشد و نقاط قوت را تشخیص دهد. رکورد را تغییر ندهید، فقط مشکلات زبان را علامت گذاری کنید.

اعلان ضعیف / اعلان قوی

اعلان ضعیف:

گزارشی از این خانواده بنویسید و تصمیم بگیرید که آیا کودک در خانه امن است یا خیر.

این درخواست بی محتوا و خطرناک است: مشخص نیست که چه اطلاعاتی، چه مشاهداتی، و از هوش مصنوعی خواسته می شود تا در مورد ایمنی کودک تصمیم بگیرد. هوش مصنوعی پیش‌بینی می‌کند، می‌تواند سوگیری کند، می‌تواند جبران کند - و این شامل یک زندگی انسانی می‌شود.

اعلان قدرتمند:

نقش شما: دستیار ویراستار مددکار اجتماعی. منبع: یادداشت‌های مصاحبه و مشاهده با حذف اطلاعات شناسایی که در زیر می‌گذارم. وظیفه: ایجاد پیش نویس اسکلت گزارش تحقیق اجتماعی فقط بر اساس اطلاعاتی که در واقع در این یادداشت ها موجود است. مشاهده برچسب، بیانیه مشتری و اطلاعات از دست رفته را جداگانه علامت بزنید. اتخاذ یک تصمیم خطر یا ایمنی؛ ارزیابی را انجام خواهم داد. ناحیه‌ای را که از آن مطمئن نیستید به‌عنوان «نیاز به شفاف‌سازی» علامت‌گذاری کنید.

تفاوت واضح است: شناسایی زدایی، محدودیت «گذر واقعی»، برچسب‌گذاری و محدودیت «تصمیم» خروجی را ایمن و مفید می‌سازد.

نمودار مقایسه نقش/وظیفه

کسب و کار

نقش هوش مصنوعی

نقش مرد

تایید

ویرایش پرونده

یادداشت را پیکربندی کنید

تایید، دقت

مقایسه با یادداشت

خلاصه فایل

طرح کلی زمانی

اهمیت، نظر

لینک به منبع

اطلاعات حقوق/خدمات

پیش نویس اول

تایید فعلی

قانون رسمی

ارزیابی ریسک

یادآوری سوال/قاب

قضاوت بالینی، تصمیم

تیم + نظارت

گزارش دهید

طرح اسکلت

محتوا، نظر، امضا

تطبیق شواهد و اظهارات

طراحی برنامه

تولید ایده/چارچوب

صلاحیت، تصمیم

فیلد + تایید داده

اشتباهات رایج

• اشتباه گرفتن خروجی هوش مصنوعی برای ارزیابی خروجی همیشه یک پیش نویس است که باید تأیید شود. بدون پیوند به شواهد وارد پرونده نمی شود.
• چسباندن داده های مشتری در ابزار باز. اگر لو رفته باشد، قابل بازگرداندن نیست و نقض KVKK است. خطرناک ترین اشتباه است.
• درخواست از هوش مصنوعی برای تصمیم گیری ریسک/ایمنی. این تصمیمات مستلزم اقتدار و مسئولیت حرفه ای است. هوش مصنوعی نمی تواند تصمیم بگیرد.
• درخواستی که نیاز به مدرک ندارد. اگر نگویید «فقط از آنچه در یادداشت است استفاده کنید»، هوش مصنوعی ممکن است چیزی را که مشتری نگفته است اضافه کند.
• عدم توجه به زبان انگ زنی زبان هوش مصنوعی ممکن است دارای تعصب باشد. زبانی که محترمانه باشد و نقاط قوت را در نظر بگیرد تحت کنترل شماست.

به طور خلاصه

هوش مصنوعی یک دستیار قدرتمند در کار اجتماعی است: یادداشت های آشفته را سازماندهی می کند، فایل را خلاصه می کند، پیش نویس ها را تولید می کند، ساده می کند، ترجمه می کند. اما قضاوت بالینی، ارزیابی ریسک، نمایندگی و تصمیم نهایی متعلق به انسان است. جداسازی دو مجموعه ای (کار فشرده در مقابل تصمیمات قضاوت/خطر)، تأیید سه مرحله ای (پیوند به شواهد، تأیید مستقل، فیلتر تعصب)، آگاهی از حریم خصوصی (دنیای داده های ناشناس در مقابل مشتری) و هوشیاری نسبت به سوگیری را به عنوان ستون فقرات این ماژول همراه داشته باشید.

وظیفه کاربردی

6 کار را از روی میز خود (یا خیالی) فهرست کنید. هر کدام را به‌عنوان «خلاصه/ویرایش/پیش‌نویس» یا «قضاوت بالینی/تصمیم خطر» طبقه‌بندی کنید. برای یکی از موارد قابل انتقال (با یک مثال ساختگی که مشتری را شناسایی نمی کند)، از الگوی «ارزیابی مناسب شغلی» در بالا استفاده کنید و از هوش مصنوعی پاسخ بگیرید. سپس تأیید سه مرحله‌ای را اعمال کنید و پیش‌بررسی حریم خصوصی را نیز امتحان کنید.

چک لیست

• [ ] من کار را به دو دسته تقسیم کردم (مشاهده مبتنی بر سند / قضاوت ریسک).
• [ ] من از تأیید سه مرحله ای (شواهد، تأیید مستقل، سوگیری) استفاده کردم.
• [ ] مطمئن شدم که اطلاعات شخصی شناسایی مشتری را به ابزار باز ارائه نکرده ام.
• [ ] من هر جمله ای را که هوش مصنوعی در مورد مشتری بیان کرد به یادداشت واقعی مرتبط کردم.
• [ ] من در خروجی زبان انگ انگیز/سوگیری را بررسی کردم.