یکپارچه سازی سرتاسر: خط مشی استفاده از هوش مصنوعی اخلاقی

سود:

امکان ایجاد یک خط مشی استفاده از هوش مصنوعی و جریان تصمیم گیری مکتوب و قابل اجرا برای یک عمل یا موسسه روانشناسی
توانایی ترکیب مرزها، تأیید، حریم خصوصی و رشته های تعصب آموخته شده در کل ماژول در یک سیستم کنترل واحد
توانایی توضیح شفاف استفاده از هوش مصنوعی به مشتری و حفظ اخلاق حرفه ای و مسئولیت پذیری

در طول این ماژول، یاد گرفتید که چگونه از هوش مصنوعی (AI) در بخش‌های مختلف کار روانشناسی استفاده کنید: بررسی ادبیات، پشتیبانی از تفسیر مقیاس، علامت‌گذاری جلسه، آموزش روانی، تجزیه و تحلیل تحقیق، بررسی سوگیری، لبه سخت بحران، ابزارهای دیجیتال و توسعه حرفه‌ای. در هر واحد سه اصل تکرارشونده وجود داشت: مرز، تأیید، محرمانه بودن. در این بخش نهایی، ما این اصول را در یک سیستم واحد تقطیر خواهیم کرد: یک خط مشی استفاده از هوش مصنوعی مکتوب و قابل اجرا. یک خط مشی قصد مبهمی مانند "من سعی می کنم از هوش مصنوعی به خوبی استفاده کنم" نیست. این مجموعه ای از قوانین مشخص است که همه از آن پیروی می کنند، می توانند حسابرسی شوند و شما می توانید در قبال مشتری پاسخگو باشید. چه به تنهایی و چه در یک موسسه کار کنید، این سیاست چارچوبی است که هم از شما و هم مشتری شما محافظت می کند.

چرا یک خط مشی مکتوب ضروری است

قوانین نانوشته به طور متناقض اعمال می شوند. یک روز داده ها را ناشناس می کند، یک روز شلوغ می توانید آن را فراموش کنید. در حالی که یک متخصص ممکن است از هوش مصنوعی به درستی استفاده کند، یک همکار ممکن است آن را اشتباه استفاده کند. خط مشی مکتوب سه چیز را تضمین می کند: ثبات (همه از قوانین یکسانی پیروی می کنند)، مسئولیت پذیری (اگر مشکلی پیش بیاید، مشخص است که چه کاری و چگونه انجام شده است) و شفافیت (شما می توانید به وضوح به مشتری توضیح دهید که چگونه از هوش مصنوعی استفاده می کنید). از نظر اخلاق حرفه ای و KVKK، "ما از هوش مصنوعی استفاده کردیم اما نحوه کنترل آن را یادداشت نکردیم" موضعی غیرقابل دفاع است.

احتیاط: یک سیاست هوش مصنوعی برای حفظ مرزها وجود دارد، نه برای کاهش آنها. عباراتی مانند «راحتی در حریم خصوصی برای سرعت»، «در مواقع اضطراری هدایت به ربات» یک منبع خطر را توصیف می‌کند نه یک خط‌مشی. سیاست خوب، راه درست را نهادینه می کند، نه راه آسان.

شش مولفه اساسی یک سیاست

جزء

آنچه را تعریف می کند

بر اساس ماژول

مناطق استفاده

در کدام وظایف از هوش مصنوعی استفاده می شود (منطقه سبز/زرد)

واحد 1

مناطق ممنوعه

جایی که هوش مصنوعی هرگز استفاده نخواهد شد (تشخیص، تصمیم گیری در بحران)

واحد 1، 4، 9

قانون داده

ناشناس سازی و انتخاب ابزار

واحد 2

قانون اعتبارسنجی

نحوه تایید هر خروجی

واحد 3، 5، 7

تعصب و زبان

عدالت و کنترل ننگ

واحد 8

شفافیت

نحوه اطلاع رسانی به مشتری

واحد 2، 12

گام به گام: خط مشی خود را تنظیم کنید

یک فهرست کار ایجاد کنید. فهرست تمام وظایفی که AI می تواند در عمل برای آنها استفاده شود. هر کدام را در منطقه سبز/زرد/قرمز قرار دهید.
لیست ممنوعیت را روشن کنید. منطقه قرمز (تشخیص، تصمیم خطر، مداخله در بحران، تصمیم درمان/دارو) را به وضوح بنویسید.
قانون داده را بنویسید. کدام داده‌ها ناشناس هستند، کدام ابزار تأیید شده‌اند، کدام تنظیمات اجباری هستند.
مراحل تایید را تعریف کنید مراحل تأیید اجباری را برای هر نوع خروجی (منبع، یادداشت ها، تجزیه و تحلیل) بنویسید.
متن شفاف را آماده کنید. استفاده از هوش مصنوعی را در متن روشنگری مشتری خود بگنجانید.
یک برنامه بررسی تنظیم کنید. خط مشی را به صورت دوره ای به روز کنید (مثلا هر 6 ماه)؛ تغییر تکنولوژی و قوانین

نکته: بهترین راه برای آزمایش خط مشی خود این است که وظایف یک روز واقعی را از طریق خط مشی یک به یک اجرا کنید. برای هر کار، "آیا این قانون را رعایت کردم؟" اگر بتوانید به این سوال به وضوح پاسخ دهید، این خط مشی کار می کند. اگر می گویید «بسته به شرایط»، آن بند باید واضح تر نوشته شود.

شفافیت برای مشتری

مشتری این حق را دارد که بداند هوش مصنوعی چه نقشی در فرآیند او ایفا می کند. اما این را باید صادقانه و بدون ترساندن مشتری توضیح داد: "من در برخی کارهای اداری و پیش نویس (مانند ویرایش یادداشت ها، تهیه مطالب) از ابزارهای هوش مصنوعی استفاده می کنم؛ داده های شما را ناشناس می کنم و همیشه تشخیص، ارزیابی و تصمیمات درمانی را می گیرم. این بیانیه هم یک تعهد اخلاقی و هم صداقت اعتمادساز است. در صورت اعتراض مشتری، به انتخاب او احترام گذاشته می شود.

سه کیف کوچک

مورد 1 - حفاظت از سیاست. یک کارآموز جدید در یک کلینیک در حال چسباندن یادداشت مشتری در ابزار هوش مصنوعی بدون ناشناس کردن آن است. از آنجایی که در خط‌مشی مکتوب کلینیک آمده است: «داده‌های خام مشتری در هیچ ابزار هوش مصنوعی وارد نمی‌شوند، ابتدا ناشناس می‌شوند» و این خط‌مشی در ابتدای کار امضا می‌شود، کارورز متوقف می‌شود و قدم درست را برمی‌دارد. بدون این سیاست، نقض حریم خصوصی وجود خواهد داشت. قاعده مکتوب شبکه ایمنی است که زمانی وارد عمل می شود که نیت خوب فراموش شود.

مورد 2 - شفافیت باعث ایجاد اعتماد می شود. در اولین جلسه، یک متخصص صادقانه استفاده از هوش مصنوعی را برای مشتری خود توضیح می دهد: از چه چیزی استفاده می کند، چگونه از داده ها محافظت می شود، تصمیمات با اوست. مشتری ابتدا عصبی است، اما با شنیدن توضیحات، آرام می شود و اعتماد به نفس او افزایش می یابد. شفافیت به عنوان یک صداقت عمل می کند که اعتماد را ایجاد می کند، نه ضعفی که باید پنهان شود.

مورد 3 - فعال سازی لیست ممنوعه. در پایان یک روز خسته‌کننده، یک متخصص می‌خواهد هوش مصنوعی درباره ریسک مشتری بپرسد. این مقاله در خط مشی مؤسسه، «تصمیمات بحران و خطر را نمی توان از هوش مصنوعی خواست؛ کارشناس مستقیماً آن را ارزیابی می کند و در صورت لزوم با خط نظارت/اورژانس مشورت می شود». کارشناس می ایستد و کار درست را انجام می دهد. لیست ممنوعیت این خط مشی لنگری است که تصمیم درست را حتی در خسته ترین لحظه به شما یادآوری می کند.

درخواست ها و الگوهای قابل کپی

یک خط مشی استفاده از هوش مصنوعی برای یک عمل روانشناسی تهیه کنید. بیایید شش بخش زیر را داشته باشیم: 1) مناطق مجاز استفاده، 2) مناطق ممنوعه (تشخیص، تصمیم بحران، تصمیم درمان)، 3) قانون داده/ناشناس، 4) مراحل تأیید، 5) تعصب و کنترل زبان، 6) شفافیت برای مشتری. قوانین را واضح و قابل اجرا بنویسید؛ افزودن ماده ای که مرزها را از بین می برد.

لیست وظایف زیر را به یک منطقه خطر سبز/زرد/قرمز تقسیم کنید و یک قانون سیاست یک جمله ای برای هر کدام بنویسید (چه کسی این کار را انجام می دهد، چگونه تایید می شود). سوالات: [لیست وظایف]

یک پاراگراف بنویسید تا به متن اطلاعات مشتری اضافه شود و استفاده از هوش مصنوعی را صادقانه و بدون ارعاب توضیح دهید: در چه مشاغلی از هوش مصنوعی استفاده می‌شود، داده‌ها ناشناس هستند، تصمیمات تشخیص/درمان متعلق به متخصص است، و حق اعتراض مشتری.

این پیش نویس خط مشی استفاده از هوش مصنوعی را بررسی کنید: آیا به اندازه کافی از مرزها محافظت می کند، آیا مناطق ممنوعه مشخص است، آیا حریم خصوصی و مراحل احراز هویت کامل شده است، آیا شفافیت مشتری وجود دارد؟ اقلام ضعیف یا خطرناک را علامت گذاری کنید. خط مشی: [پیش نویس]

اعلان ضعیف / اعلان قوی

اعلان ضعیف: «یک خط‌مشی برای ما بنویسید که استفاده از هوش مصنوعی را آسان‌تر کند».

تأکید بر «فعال کردن» هوش مصنوعی را به پیشنهاد بندهایی سوق می دهد که مرزها را کاهش می دهد. در حالی که هدف سیاست راحتی نیست بلکه حفاظت و پاسخگویی است.

اعلان قوی: "پیش نویس خط مشی استفاده از هوش مصنوعی که مرزها را حفظ می کند، مناطق ممنوعه (تشخیص، بحران، تصمیم درمانی) را به وضوح مشخص می کند، به مراحل محرمانه و تایید نیاز دارد و شامل شفافیت برای مشتری می شود. هدف کاهش استفاده نیست، بلکه ایمن کردن و پاسخگویی آن است."

این اعلان سیاست را به هدف صحیح (حفاظت) هدایت می کند. خروجی به یک قاب قابل کنترل تبدیل می شود.

اشتباهات رایج

اصلاً سیاست نمی نویسد. رعایت قوانین و به کارگیری ناهماهنگ آنها؛ این رایج ترین اشتباه است.
قرار دادن یک بند که مرزها را از بین می برد. معرفی قوانینی مانند «راحتی از حریم خصوصی برای سرعت» در خط‌مشی.
مبهم گذاشتن لیست ممنوعه. به وضوح ننویسید که تصمیمات تشخیص/بحران/درمان ممنوع است.
چشم پوشی از شفافیت عدم اطلاع رسانی به مشتری در مورد استفاده از هوش مصنوعی.
عدم به روز رسانی خط مشی با تغییر تکنولوژی و قوانین، قوانین قدیمی را ادامه دهید.

به طور خلاصه

سه اصل این ماژول (محدودیت، احراز هویت، حریم خصوصی) در یک خط مشی استفاده از هوش مصنوعی قابل اجرا و نوشته شده ترکیب می شوند. یک خط مشی خوب شامل شش جزء است: مناطق استفاده مجاز، مناطق ممنوعه (تشخیص، بحران، تصمیم درمانی)، قانون داده/ناشناس، مراحل تأیید، تعصب و کنترل زبان، شفافیت برای مشتری. سیاست برای حفظ مرزها وجود دارد، نه برای تسکین آنها. سازگاری، پاسخگویی و شفافیت را فراهم می کند. استفاده از هوش مصنوعی را صادقانه به مشتری توضیح دهید و خط مشی را به طور منظم به روز کنید. هوش مصنوعی شتاب می گیرد؛ مسئولیت، تصمیم و اخلاق همیشه با شماست.

وظیفه کاربردی

یک خط مشی استفاده از هوش مصنوعی یک صفحه ای برای کار یا موسسه خود بنویسید. تمام شش مؤلفه (فیلدهای مجاز، فیلدهای ممنوعه، قانون داده، تأیید، سوگیری/زبان، شفافیت) را کامل کنید. سپس 5 کار از روز کاری واقعی خود را یکی یکی از طریق این خط مشی اجرا کنید و بپرسید "آیا از این قانون پیروی کردم؟" برای هر یک بررسی کنید که آیا می توانید به این سوال به وضوح پاسخ دهید. مواردی را که نمی توانید به وضوح پاسخ دهید را واضح تر بنویسید.

چک لیست

[ ] مناطق استفاده مجاز و ممنوع را به صورت مکتوب تعریف کرده ام.
[ ] من به وضوح نوشتم که تشخیص، بحران و تصمیمات درمانی ممنوع است.
[ ] من داده ها/ناشناس سازی و قانون خودرو تایید شده را تنظیم کردم.
[ ] من مراحل تأیید را برای هر نوع خروجی نوشتم.
[ ] من تعصب و بررسی زبان را به خط مشی اضافه کردم.
[ ] من متن شفافیت را برای مشتری آماده کردم و یک برنامه بازبینی تنظیم کردم.

امتحان ماژول

1. یک روانشناس علائمی را که مشتریش توضیح می دهد برای هوش مصنوعی می نویسد و می پرسد این مشتری چه تشخیصی دارد؟ او می پرسد. صحیح ترین رویکرد کدام است؟

الف) استفاده از هوش مصنوعی فقط برای پیشنهاد مفاهیم ممکن. تشخیص از طریق مصاحبه بالینی، شرح حال و قضاوت شخصی ✔
ب) نوشتن تشخیص داده شده توسط هوش مصنوعی به طور مستقیم در گزارش
ج) اگر هوش مصنوعی چندین بار تشخیص مشابه بدهد قطعی تلقی می شود.
د) کوتاه کردن مصاحبه و تکیه بر هوش مصنوعی برای تسریع در تشخیص

توضیحات: تشخیص یک تصمیم بالینی حیاتی است و به داده های متعدد، مصاحبه بالینی، شرح حال و قضاوت نیاز دارد. هوش مصنوعی می تواند در پیشنهاد مفاهیم احتمالی مفید باشد، اما تشخیص از طریق قضاوت بالینی متخصص صالح (روانشناس/روانپزشک) انجام می شود. خروجی هوش مصنوعی جایگزین این تصمیم نمی شود.

2. می خواهید ضبط جلسه مشتری را در یک ابزار هوش مصنوعی مبتنی بر ابر خلاصه کنید. اولین کاری که باید از نظر KVKK و رازداری حرفه ای انجام داد چیست؟

الف) چسباندن رکورد همانطور که هست با نام و مشخصات واقعی
ب) ناشناس کردن محتوا، نظارت بر سیاست حفظ حریم خصوصی/داده ابزار و رعایت چارچوب رضایت ✔
ج) فقط نام خانوادگی مشتری را کوتاه کنید و بقیه را به حال خود بگذارید.
د) اگرچه حفظ حریم خصوصی مهم است، به اشتراک گذاری همه داده ها برای سرعت

توضیح: داده های مشتری داده های شخصی خاص است. قبل از اینکه به ابزار ابری داده شود، اطلاعات شناسایی مانند نام، مکان، تاریخ و محل کار باید ناشناس باشد. در صورت امکان، باید از محتوای بی هویت استفاده شود و باید اطمینان حاصل شود که ابزار از داده ها برای آموزش استفاده نمی کند. علاوه بر این، رضایت آگاهانه مشتری باید رعایت شود.

3. هوش مصنوعی در چکیده مقاله می گوید که "اندازه اثر در این مطالعه مورخ 2019 d = 0.82 بود"، اما شما نمی توانید آن مقاله را پیدا کنید. چه کاری باید انجام دهید؟

الف) استفاده از انتساب آنگونه که هست، زیرا هوش مصنوعی قابل اعتماد است
ب) نوشتن شماره بدون جست و جوی منبع چون معقول به نظر می رسد
ج) تا زمانی که منبع و اندازه افکت را از متن اصلی تأیید نکنیم، ادعا را نادیده بگیرید
د) از هوش مصنوعی دیگری بپرسید و اگر با همان عدد آمد آن را بپذیرید

توضیح: هوش مصنوعی می تواند ارجاعات، نویسندگان یا اعدادی را بسازد که واقعی به نظر می رسند اما وجود ندارند (توهم). منبعی که یافت نمی شود یا اندازه اثری که نمی توان آن را تأیید کرد استفاده نمی شود. ادعا تا زمانی که از منبع اصلی تایید نشود، نامعتبر تلقی می شود.

4. مشتری گزارش می دهد که در طول یک جلسه افکار خودکشی داشته است. نقش هوش مصنوعی در این شرایط چه باید باشد؟

الف) هوش مصنوعی باید ریسک را ارزیابی کرده و برنامه امنیتی را به مشتری منتقل کند
ب) مشتری باید به ربات چت هوش مصنوعی هدایت شود
ج) هوش مصنوعی باید طوری تنظیم شود که به طور خودکار با اورژانس تماس بگیرد
د) تصمیم و مداخله متعلق به کارشناس است. هوش مصنوعی نمی تواند ریسک را ارزیابی کند، بحران مسئولیت انسان است ✔

توضیحات: خودکشی و خطر بحران یک وضعیت ایمنی حیاتی است که نیاز به ارزیابی بالینی، مشارکت و پاسخگویی در زمان واقعی دارد. هوش مصنوعی نمی تواند تصمیم بگیرد، ریسک را ارزیابی کند و مداخله کند. کارشناس به طور مستقیم وارد عمل می شود. در صورت لزوم خطوط تلفن و زنجیره پشتیبانی انسانی فعال می شود. در بهترین حالت، هوش مصنوعی می تواند به عنوان یک یادآوری برای متخصص خارج از جلسه باشد.

5. کدام خطر در یک بروشور آموزشی روانی که با هوش مصنوعی تولید می شود، حیاتی تر است؟

الف) اطلاعات نادرست/انگ زنی که مراجع را به سمت خود تشخیصی و درمان سوق می دهد
ب) طراحی بصری ضعیف بروشور
ج) بروشور خیلی طولانی است
د) فونت کوچک است

توضیح: وقتی مطالب آموزشی روانی در دست مراجعه کننده باشد، می تواند به یک ابزار خود تشخیصی و درمانی تبدیل شود و اطلاعات نادرست یا انگ زنی باعث آسیب شود. بنابراین، مطالب باید به طور تخصصی برای شواهد، امنیت و کادربندی صحیح تأیید شوند. هشدار "این اطلاعات جایگزین قضاوت حرفه ای نیست" باید اضافه شود.

6. در داده های تحقیق کیفی خود (رونوشت های مصاحبه) از هوش مصنوعی پشتیبانی کدگذاری موضوعی دریافت می کنید. سالم ترین رویکرد کدام است؟

الف) گزارش کدهای تولید شده توسط هوش مصنوعی به عنوان تحلیل نهایی
ب) بررسی، تصحیح و اطمینان از قابلیت اطمینان با در نظر گرفتن کدها به عنوان پیش نویس اولیه و خواندن داده ها ✔
ج) واگذاری کامل تحلیل به هوش مصنوعی و نخواندن داده ها
د) خواندن خود را انجام نمی دهید زیرا مضامین هوش مصنوعی می دهد

توضیحات: هوش مصنوعی در تولید پیشنهادات اولیه کد و طرح‌های موضوعی سرعت می‌دهد، اما تحلیل کیفی نیازمند قضاوت تفسیری از سوی محقق است. کدهای هوش مصنوعی یک شروع هستند. محقق تمام داده‌ها را می‌خواند، کدها را تأیید و تصحیح می‌کند و قابلیت اطمینان بین کدگذار را مشاهده می‌کند. علاوه بر این، رونوشت باید ناشناس باشد.

7. چرا سوگیری از نظر روانشناسی یک خطر مهم در مدل های هوش مصنوعی است؟

الف) سوگیری صرفاً یک موضوع فنی است و از نظر بالینی مرتبط نیست
ب) سوگیری در مدل های مدرن کاملا برطرف شده است
ج) خروجی های مدل ممکن است بر اساس فرهنگ/جنسیت/تشخیص منحرف شود و ممکن است ارزیابی را گمراه کند و آسیب برساند.
د) سوگیری فقط در مدل هایی رخ می دهد که تصاویر تولید می کنند

توضیحات: از آنجا که مدل ها اغلب بر روی داده های فرهنگ ها و زبان های خاص آموزش می بینند، ممکن است دارای سوگیری های تشخیصی، فرهنگی و جنسیتی باشند. ممکن است یک علامت را در یک گروه به عنوان "طبیعی" و در گروه دیگر "آسیب شناختی" خوانده شود، یا زبانی انگ زنی ایجاد کند. این می تواند ارزیابی را مخدوش و آسیب برساند. خروجی ها باید برای گروه ها و فرهنگ های مختلف حسابرسی شوند.

8. شما در نظر دارید یک ربات چت درمانی را به مشتری خود توصیه کنید. ابتدا باید چه کاری انجام دهید؟

الف) مستقیماً توصیه کنید زیرا محبوب است
ب) گفتن اینکه ربات می تواند جایگزین درمان شود و جلسات را کاهش دهد
ج) پیشنهاد اعتماد مشتری به ربات در شرایط بحرانی.
د) شواهد حسابرسی، امنیت، حریم خصوصی و تناسب بالینی و قرار دادن ربات به عنوان یک مکمل محدود ✔

توضیح: قبل از توصیه ابزار دیجیتالی سلامت روان، باید پایگاه شواهد، امنیت (مدیریت بحران)، سیاست حفظ حریم خصوصی/داده‌ها و تناسب آن با وضعیت بالینی مشتری بررسی شود. ربات نباید به عنوان جایگزینی برای درمان انسانی، بلکه به عنوان یک مکمل محدود قرار گیرد و باید به طور واضح به مشتری توضیح داده شود که در شرایط بحرانی ناکافی است.

9. هوش مصنوعی پیش نویس یادداشت های جلسه را تهیه کرد. مهمترین قدمی که باید قبل از استفاده از این طرح کلی بردارید چیست؟

الف) پیش نویس را با مقایسه آن با آنچه واقعاً در جلسه رخ داده است، تأیید کنید، محتوای ساختگی یا گمشده را تصحیح کنید و مسئولیت را بر عهده بگیرید ✔
ب) ذخیره پیش نویس در فایل همانطور که هست
ج) با فرض صحت پیش نویس چون روان نوشته شده است
د) از مشتری بخواهید پیش نویس را تأیید کند و بدون تغییر از آن استفاده کند.

توضیح: پیش نویس هوش مصنوعی ممکن است اطلاعات مهمی را که حذف شده است اضافه کند، اظهاراتی را که واقعاً گفته نشده است (توهم)، یا کادربندی نادرست بالینی ارائه دهد. کارشناس پیش نویس را با آنچه واقعاً در جلسه اتفاق افتاده مقایسه می کند، آن را تأیید می کند، آن را تصحیح می کند و مسئول محتوای نهایی است. تبصره یک سند قانونی و بالینی است.

10. کدام یک از موارد زیر یک کار "منطقه سبز" (کم خطر) در استفاده از هوش مصنوعی در روانشناسی است؟

الف) تصمیم گیری در مورد اینکه مشتری در معرض خطر خودکشی است یا خیر
ب) تهیه پیش نویس برای ساده سازی زبان یک متن آموزشی روانی ناشناس ✔
ج) تشخیص قطعی از روی نمره مقیاس
د) ایجاد توصیه های دارویی

توضیح: کارهایی مانند ساده کردن زبان یک متن آموزشی روانی ناشناس یا تهیه یک ایمیل یادآوری قرار ملاقات کم خطر هستند زیرا شامل تشخیص/تصمیم نیست و برای استفاده با بازبینی سریع بی خطر هستند. تشخیص، ارزیابی ریسک و تصمیم درمانی در منطقه قرمز (امنیت بحرانی) قرار دارد.

11. مهمترین محدودیت در استفاده از هوش مصنوعی در تفسیر تست روانسنجی چیست؟

الف) از آنجایی که هوش مصنوعی امتیاز را تفسیر می کند، نیازی به اظهار نظر کارشناسی نیست.
ب) کافی است نام آزمون را به هوش مصنوعی بگویید
ج) تفسیر نه از یک امتیاز، بلکه از قضاوت بالینی و داده های متعدد ناشی می شود. رعایت زمینه کپی رایت و هنجار ✔
د) امتیاز برش در هر فرهنگ یکسان است

توضیح: نمره مقیاس/آزمون بخشی از داده است. تشخيص و تفسير باليني از يك امتياز حاصل نمي شود. علاوه بر این، بسیاری از آزمون‌ها دارای حق چاپ هستند و به بافت هنجاری حساس هستند. هوش مصنوعی می‌تواند توصیف خرده مقیاس و پشتیبانی زبانی را ارائه دهد، اما تفسیر توسط یک متخصص در چارچوب قضاوت بالینی، داده‌های چندگانه و اعتبار فرهنگی انجام می‌شود.

12. چرا هوش مصنوعی نمی تواند جایگزین نظارت واقعی شود؟

الف) هوش مصنوعی جایگزین نظارت می شود زیرا سریعتر پاسخ می دهد
ب) به هر حال نظارت غیر ضروری است
ج) هوش مصنوعی به دلیل داشتن مجوز ناظر محسوب می شود.
د) هوش مصنوعی مسئولیتی بر عهده نمی گیرد، زمینه واقعی را نمی شناسد و نمی تواند کنترل اخلاقی را فراهم کند. نظارت نیاز به متخصص انسانی دارد✔

توضیحات: نظارت این نظارت یک متخصص با صلاحیت است که مسئولیت پذیر، ارتباطی است و زمینه واقعی مشتری و پیشرفت درمانگر را می شناسد. هوش مصنوعی می تواند به تمرین پرونده و تهیه فرمول کمک کند، اما مسئولیت بالینی را بر عهده نمی گیرد، زمینه واقعی را نمی شناسد و نمی تواند نظارت اخلاقی/قانونی را فراهم کند. نظارت نیاز به متخصصان انسانی دارد.

13. شما در حال تهیه خط مشی استفاده از هوش مصنوعی برای یک موسسه روانشناسی هستید. کدام یک از موارد زیر باید گنجانده شود؟

الف) قانون ناشناس سازی، مناطق ممنوعه استفاده، تأیید اجباری و شفافیت برای مشتری ✔
ب) اجازه به اشتراک گذاری داده های مشتری بدون ناشناس کردن آن برای سرعت
ج) انتقال تصمیمات تشخیصی به هوش مصنوعی
د) هدایت موقعیت های بحرانی به ربات چت

توضیحات: سیاست خوب. این تعریف می‌کند که چه داده‌هایی می‌تواند به ابزار داده شود (قاعده ناشناس‌سازی)، حوزه‌های استفاده ممنوعه مانند تشخیص/بحران، مراحل تأیید اجباری و شفافیت برای مشتری. بندهایی مانند "حریم خصوصی برای سرعت" خطرات اخلاقی و قانونی هستند. سیاست برای حفظ مرزها وجود دارد، نه برای از بین بردن آنها.

14. کدام یک از موارد زیر توجیه معتبری برای تایید خروجی هوش مصنوعی است؟

الف) درست است زیرا هوش مصنوعی بیش از یک بار یک پاسخ را می دهد
ب) ادعا با شواهد اولیه، اندازه گیری معتبر و قضاوت کارشناسی صالح تایید می شود
ج) پاسخ صحیح است زیرا روان و قانع کننده نوشته شده است.
د) هوش مصنوعی یک مدل قدرتمند است، بنابراین خروجی آن دقیق است

توضیحات: توجیه ادعای بالینی یا تحقیقاتی. شواهد اولیه، اندازه گیری معتبر، استاندارد اخلاقی/حرفه ای قابل اجرا، و قضاوت حرفه ای شایسته. «هوش مصنوعی گفت»، «مسلط نوشته شده» یا «چندین بار یکسان داده است» توجیه معتبری نیستند. این‌ها نشانه‌های حقیقت نیستند، بلکه در بهترین حالت یکپارچگی هستند.