سود:
- توانایی تشخیص اینکه کجا هوش مصنوعی در کار سلامت روان در زمان واقعی صرفه جویی می کند و مسئولیت بالینی و مرجع تشخیص/تصمیم گیری باید با متخصص انسانی باقی بماند، بر اساس سطح خطر.
- توانایی اعمال یک رشته اعتبار سنجی چند لایه که هر خروجی هوش مصنوعی را در برابر شواهد، منابع و قضاوت بالینی آزمایش می کند.
- هوش مصنوعی یک درمانگر، یک تشخیص دهنده یا یک سرپرست نیست. توانایی درونی کردن یک چارچوب روشن که افراد و مداخله اضطراری در مواقع بحران/خطر ضروری هستند.
روانشناسی سعی می کند درد، داستان و دنیای درونی یک فرد را درک کند. این حرفه ای است که بر اساس اعتماد، رابطه و مسئولیت ساخته شده است. برخی از بخشهای این کار (نوشتن متن، اسکن منابع، ویرایش جداول، تهیه مواد) میتوانند به سرعت خودکار شوند. برخی از قطعات را هرگز نمی توان به دستگاه منتقل کرد زیرا زندگی یک فرد را تحت تأثیر قرار می دهد. هوش مصنوعی (به اختصار AI؛ نرم افزاری که الگوها را از مقادیر زیادی متن می آموزد و متن، چکیده یا کد جدید تولید می کند) کمک قدرتمندی در این حرفه است: محدود کردن ساعت های مرور ادبیات، تهیه گزارش، ساده کردن بروشور آموزشی روانی. اما هوش مصنوعی یک درمانگر نیست. ارباب رجوع را نمی شناسد، مسئولیتی بر عهده نمی گیرد، در مواقع بحران در کنار او نمی ایستد و او را از نظر اخلاقی و قانونی پاسخگو نمی داند.
هدف ما در سراسر این ماژول این است که شما را به یک متخصص سلامت روان که بر هوش مصنوعی نظارت می کند تبدیل کنیم، نه یک پزشک وابسته به هوش مصنوعی. در این بخش اول، شما یاد خواهید گرفت که کجا از هوش مصنوعی در تجارت روانشناسی استفاده کنید، قطعاً باید کجا را متوقف کنید، و چگونه هر خروجی را تأیید کنید.
آنچه هوش مصنوعی می تواند و نمی تواند در روانشناسی انجام دهد
قدرت واقعی هوش مصنوعی تولید زبان، الگوها و خطوط کلی است. اسکلت یادداشت جلسه، نقشه خلاصه ادبیات، نسخهای از یک متن روانآموزشی، طرح کلی آیتمهای پرسشنامه پژوهشی، زبان مودبانه ایمیل قرار ملاقات. همه اینها در چند ثانیه ظاهر می شود. در این وظایف، هوش مصنوعی در وقت شما صرفه جویی می کند و بار ذهنی را کاهش می دهد.
آنچه هوش مصنوعی نمی تواند انجام دهد تصمیم گیری است که نیاز به قضاوت بالینی دارد. تشخیص، ارزیابی خطر، انتخاب یک برنامه درمانی، خواندن اینکه آیا مراجعه کننده در حال «بهبود یا بدتر شدن» است. هیچ کدام از اینها را نمی توان با منطق "معمولاً اینگونه است" انجام داد. هوش مصنوعی توهم میزند زیرا از متون موجود در اینترنت یاد میگیرد: بنابراین منبعی که واقعی به نظر میرسد اما وجود ندارد میتواند یک آمار نادرست یا یک مقیاس ساختگی ایجاد کند. در روانشناسی، این نوع خطا فقط یک اشتباه تایپی نیست. این به معنای یک مشتری نادرست، یک مداخله مضر یا یک نقض اخلاقی است.
احتیاط: خروجی هوش مصنوعی یک پیش نویس است، نه یک نظر بالینی. مسائل مهم ایمنی مانند تشخیص، ارزیابی خطر و تصمیمات درمانی با قضاوت و مسئولیت یک متخصص ذیصلاح (روانشناس، روانپزشک) انجام می شود. هوش مصنوعی جایگزین این استدلال نمی شود.
سه منطقه با توجه به سطح خطر
عملی ترین راه برای استفاده ایمن از هوش مصنوعی این است که هر کار را بر اساس سطح ریسک به سه منطقه تقسیم کنید. این تمایز به این خلاصه می شود که "آیا هوش مصنوعی باید این کار را انجام دهد؟" به سوالات سریع و دقیق پاسخ می دهد.
منطقه
نمونه کارها
نقش هوش مصنوعی
سطح تأیید
سبز (کم خطر)
سادهسازی متن روانآموزشی ناشناس، ایمیل قرار ملاقات، جستجوی عنوان ادبیات، طرح کلی ارائه
تولید رایگان
بررسی سریع
زرد (خطر متوسط)
پیش نویس یادداشت جلسه، توضیح زبانی برای تفسیر مقیاس، طرح تحلیل تحقیق، پیشنهاد کد موضوعی
پیش نویس + پیشنهاد
بررسی کارشناسی + تایید منبع/داده
قرمز (امنیتی حیاتی)
تشخیص، ارزیابی خطر خودکشی/بحران، تصمیم درمان/دارو، نظر پزشکی قانونی
فقط یادآوری/چک لیست
قضاوت و مسئولیت کارشناس صالح الزامی است
در منطقه سبز سریع باشید. از هوش مصنوعی در منطقه زرد استفاده کنید، اما همه اطلاعات، شماره و منبع را تأیید کنید. در منطقه قرمز، هوش مصنوعی هرگز حرف آخر را نمیزند. حداکثر یادآوری است که یک آیتم کنترلی را به ذهن متخصص می آورد.
سه کیف کوچک
مورد 1 - صرفه جویی در زمان. یک روانشناس مدرسه بروشور اطلاعاتی با عنوان "اضطراب امتحان در نوجوانان" را برای یک گروه 40 نفره از والدین آماده می کند. اگر با دست نوشته شود، حدود 3 ساعت طول می کشد. با نوشتن پیشنویس ناشناس، بررسی محتوای مبتنی بر شواهد توسط هوش مصنوعی و تأیید منابع، او بروشور را در 45 دقیقه تمام میکند. تقریباً 75 درصد در زمان صرفه جویی می شود و مسئولیت محتوای نهایی بر عهده اوست.
مورد 2 - جایی که باید متوقف شود. یک متخصص یادداشت های 3 جلسه ای مشتری را به هوش مصنوعی می دهد و می پرسد: "آیا این فرد اختلال شخصیت مرزی دارد؟" او می پرسد. هوش مصنوعی با اطمینان می گوید: "علائم ثابت هستند." با این حال، هوش مصنوعی مشتری را ندیده است، سابقه آن را نمی داند و نمی تواند تشخیص های افتراقی را بسنجید. اگر متخصص از این خروجی به عنوان تشخیص استفاده کند، مرتکب اشتباه جدی خواهد شد. حداکثر، خروجی می تواند یادآوری در قالب «ارزیابی بیشتر این حوزه ها در مصاحبه» باشد.
مورد 3 - هزینه توهم. یک محقق برای معرفی پایان نامه خود 10 منبع از هوش مصنوعی درخواست می کند. هوش مصنوعی 10 نقل قول تولید می کند. همه آنها به طور رسمی کامل به نظر می رسند. وقتی محقق بررسی می کند، می بیند که 4 مورد از آنها در واقع وجود ندارند و 2 نفر از آنها سال / نویسنده اشتباهی را به مقاله واقعی اختصاص می دهند. یعنی 60 درصد استنادها نادرست است. اگر بررسی نمی کرد منابع جعلی را در پایان نامه خود قرار می داد.
رشته تأیید چند لایه
تأیید چیزی نیست که بتوان آن را به تعویق انداخت و فکر کرد "بعداً به آن نگاه خواهم کرد"، این بخشی از گردش کار است. یک تایید جامد از پنج لایه تشکیل شده است:
- بازگشت به شواهد. اگر هوش مصنوعی یافته، امتیاز یا توصیه ای ارائه کرده است، آن را با منبع اصلی (مقاله بررسی شده، راهنمای رسمی، کتابچه راهنمای مقیاس) تأیید کنید.
- تست با قضاوت بالینی آیا خروجی واقعاً برای این مشتری، این زمینه و این فرهنگ معنادار است؟ آن را با چشم متخصص خود وزن کنید.
- مقایسه با داده های متعدد به یک جمله، یک نمره یا یک علامت تکیه نکنید. بگذارید داستان، مشاهده و اندازه گیری با هم صحبت کنند.
- فیلتر اخلاق و حریم خصوصی آیا این خروجی به مشتری آسیب می رساند، به آن انگ می زند، محرمانگی را نقض می کند؟
- نشان خود را بگذارید. ضبط کنید که کدام خروجی و چگونه تایید شده است. بذار بعدا بررسی بشه
اشاره: "AI گفت" یک توجیه نیست. دلیل تصمیم گیری بالینی یا تحقیقاتی همیشه شواهد، اندازه گیری، استانداردهای حرفه ای یا قضاوت متخصص صالح است. هوش مصنوعی به شما کمک می کند تا این توجیهات را تهیه کنید، اما جایگزین آنها نمی شود.
درخواست ها و الگوهای قابل کپی
الگوهای زیر هوش مصنوعی را در نقش ایمن نگه می دارند. کروشه های مربع را با زمینه خود (ناشناس) پر کنید.
نقش: شما یک دستیار پیش نویس هستید که به یک رشته روانشناسی کمک می کند. شما تشخیص نمی دهید، ارزیابی خطر نمی کنید، یا تصمیم درمانی نمی گیرید. وظیفه شما فقط پیش نویس متن و به اشتراک گذاشتن افکارتان است. در صورت شک، "تأیید کارشناسی" را بنویسید. وظیفه: [وظیفه]. محدودیت ها: داده های ناشناس. بدون زبان انگ زنی؛ اگر ادعای منبع وجود دارد، "تأیید لازم است" را علامت بزنید.
پیش نویس زیر را از سه جنبه بررسی کنید و برای هر مورد بازخورد بدهید: 1) جملات حاوی ادعاهای بالینی نادرست یا بیش از حد، 2) ادعاهای بدون منبع حتی اگر نیاز به منبع داشته باشند، 3) زبان انگ یا قضاوت کننده. اگر از صحت خود مطمئن نیستید، «تأیید نشده» را بنویسید. متن: [متن]
تکلیف زیر را در ناحیه خطر (سبز/زرد/قرمز) قرار دهید و دلیل آن را در یک جمله بنویسید. سپس مراحل تأیید مربوط به این منطقه را فهرست کنید. وظیفه: [شرح شغل]
کدام عبارات این متن حاوی یک واقعیت/ادعای آماری است؟ هر کدام را در یک خط جداگانه به عنوان "ادعا برای تایید" فهرست کنید. من از منبع اصلی بررسی خواهم کرد. متن: [متن]
اعلان ضعیف / اعلان قوی
اعلان ضعیف: "تشخیص این مشتری بر اساس علائم او چیست؟"
این دستور هوش مصنوعی را به انجام کاری که نمی تواند انجام دهد (تشخیص) فرا می خواند، از داده های مشتری محافظت نمی کند و خروجی مطمئن اما نادرست را دعوت می کند.
اعلان قدرتمند: "در زیر یک خلاصه مصاحبه ناشناس آمده است. تشخیص خود را انجام ندهید. به جای آن، به عنوان یک چک لیست مناطقی را که باید در مصاحبه بالینی بیشتر ارزیابی کنم و سوالاتی که باید به یاد داشته باشم بپرسم را پیشنهاد دهید. جایی که مطمئن نیستید را علامت بزنید."
این اعلان هوش مصنوعی را در نقش صحیح (یادآوری) قرار می دهد، از داده ها محافظت می کند و مسئولیت را به متخصص واگذار می کند.
اشتباهات رایج
- اشتباه گرفتن طرح کلی با نظر بالینی زبان روان و مطمئن هوش مصنوعی دلیلی بر صحت نیست. قانع کننده ترین جمله ممکن است اشتباه ترین جمله باشد.
- واگذاری منطقه قرمز به هوش مصنوعی. این که هوش مصنوعی تصمیمات تشخیص، خطر و درمان را بپرسد، تلاش برای انتقال مسئولیت به یک نرم افزار است. این یک اشتباه اخلاقی و قانونی است.
- رد شدن از تأیید. گفتن "به هر حال بررسی می کنم" یا نه، راه شماره یک توهم در گزارش است.
- چسباندن داده های مشتری بدون محافظت از آن. دادن نام و جزئیات واقعی به هوش مصنوعی نقض حریم خصوصی است (به بخش 2 مراجعه کنید).
- قرار دادن هوش مصنوعی به عنوان سرپرست هوش مصنوعی تمرین موردی را انجام می دهد، اما کنترل واقعی، مسئولیت پذیری و نظارت اخلاقی وظیفه ناظر انسانی است.
به طور خلاصه
در روانشناسی، هوش مصنوعی کمکی قدرتمند است که زبان و خطوط کلی را تولید می کند، اما یک درمانگر، تشخیص دهنده یا سرپرست نیست. هر کار را به یک منطقه خطر سبز/زرد/قرمز تقسیم کنید. در منطقه قرمز (تشخیص، بحران، درمان) قضاوت و مسئولیت بالینی همیشه با متخصص انسانی باقی می ماند. هر نتیجه را از طریق لایههای شواهد، قضاوت بالینی، دادههای متعدد، فیلترهای اخلاقی و قابلیت ردیابی غربال کنید. "AI گفت" هرگز یک توجیه نیست.
وظیفه کاربردی
6 کار معمولی را از تمرین خود (یا یک تمرین خیالی) بنویسید: به عنوان مثال. ایمیل قرار ملاقات، پیشنویس یادداشت جلسه، سؤال تشخیصی، ارزیابی بحران، بررسی ادبیات، جزوه آموزشی روانی. هر کدام را در ناحیه سبز/زرد/قرمز قرار دهید و یک قانون اعتبارسنجی یک جمله ای برای هر کدام بنویسید. نتیجه نهایی "نقشه خطر هوش مصنوعی" شماست.
چک لیست
- [ ] من کار را در منطقه سبز/زرد/قرمز قرار دادم.
- [ ] من هیچ تصمیمی در منطقه قرمز را به هوش مصنوعی واگذار نکردم.
- [ ] من داده های مشتری را ناشناس کردم.
- [ ] من به وضوح محدودیت "تشخیصی/ارزیابی خطر" را برای هوش مصنوعی نوشتم.
- [ ] من خروجی را از طریق پنج لایه اعتبار سنجی عبور دادم.
- [ ] پذیرفتم که مسئول محتوای نهایی هستم و اثری از خود به جا گذاشتم.