بحران، خطر و خودکشی: مرز قطعی هوش مصنوعی — هوش مصنوعی در روانشناسی

سود:

درک اینکه چرا هوش مصنوعی نمی تواند در خطر بحران، خودکشی و آسیب به خود یا دیگران تصمیم بگیرد و چرا مداخله انسان اجباری است.
امکان قرار دادن هوش مصنوعی در ارزیابی ریسک تنها در سطح یادآوری/چک لیست، زیر قضاوت متخصص
امکان تعریف نقش محدود و کنترل شده هوش مصنوعی در پروتکل اضطراری، خطوط مسیریابی و طرح امنیتی

این واحد مهمترین مرز کل ماژول را ترسیم می کند. لحظاتی در کسب و کار سلامت روان وجود دارد که در مورد سرعت، سهولت یا کارایی نیست. فقط زندگی یک مرد و مسئولیت یک متخصص صحبت می کند. موقعیت هایی مانند خطر خودکشی، آسیب رساندن به خود یا دیگران، روان پریشی حاد، تهدید به خشونت، گزارش کودک/سوءاستفاده از بحران هستند. در این لحظات، هوش مصنوعی (AI) نمی تواند تصمیم بگیرد، ریسک را بسنجد، مداخله کند و مسئولیت پذیر باشد. این موضوع این نیست که "هوش مصنوعی هنوز به اندازه کافی خوب نیست". بحران ذاتاً مستلزم ارتباط انسانی در زمان واقعی، قضاوت بالینی و پاسخگویی است. در این بخش، یاد خواهید گرفت که چرا هوش مصنوعی در یک بحران متوقف می‌شود، چرا انسان‌ها ضروری هستند، و هوش مصنوعی در چه نقش محدودی می‌تواند بیشترین نقش را داشته باشد.

چرا هوش مصنوعی در شرایط بحرانی نمی تواند تصمیم بگیرد؟

ارزیابی بحران به چهار چیز نیاز دارد و هیچ کدام در هوش مصنوعی کافی نیست:

رابطه زمان واقعی علائم واقعی خطر اغلب در کلمات گفته شده نیست. در لحن صدا، مکث، نگاه، زبان بدن، «ناگفته» پنهان است. هوش مصنوعی یک متن را می بیند. مردم را نمی بیند
استدلال بالینی کل نگر ریسک؛ این یک وزن دهی زنده از ده ها عامل مانند تاریخچه، عوامل محافظتی، تکانشگری، دسترسی (دسترسی به روش)، سیستم پشتیبانی است. هوش مصنوعی ممکن است یک «امتیاز ریسک» مکانیکی بدهد، اما این امتیاز انسان را نجات نخواهد داد.
مسئولیت پذیری و مسئولیت پذیری. باید شخصی وجود داشته باشد که پشت یک تصمیم بحران امضا کند، در صورت لزوم پاسخگو باشد و جان مشتری را به دست بگیرد. هوش مصنوعی نمی تواند مسئولیت پذیر باشد.
ظرفیت پاسخگویی آنچه در یک بحران نیاز است (تهیه یک برنامه ایمنی، مشارکت خانواده، هدایت به اورژانس، مراجعه به بیمارستان) اقدامات ملموس و ساخته دست بشر است.

احتیاط: هنگامی که مشتری علائم خطر را نشان می دهد، از هوش مصنوعی بپرسید "آیا خطری وجود دارد؟" درخواست "به تعویق انداختن تصمیم و فرار از مسئولیت است. در یک بحران، متخصص به طور مستقیم وارد عمل می شود. هوش مصنوعی در حال حاضر نقش تصمیم گیری ندارد. خطوط تلفن و زنجیره های پشتیبانی انسانی در صورت لزوم فعال می شوند.

خطر هوش مصنوعی در چت ربات های بحرانی

در سال های اخیر، چت ربات های هوش مصنوعی که می گویند "بگذار از شما حمایت کنم" به طور گسترده ای گسترش یافته است. خطر آنها در یک بحران جدی است: یک ربات ممکن است پیام خودکشی را اشتباه متوجه شود، از موضوع طفره رود، پاسخی کلیشه ای بدهد، یا (به عنوان موارد مستند) به روشی مضر پاسخ دهد. شخص احساس می کند که شخص مقابل در خطر واقعی است و اقدام می کند. یک ربات نمی تواند این کار را با اطمینان انجام دهد. بنابراین هرگز مشتری در بحران را به چت بات ارجاع ندهید.

نقش محدود قابل قبول هوش مصنوعی

هوش مصنوعی نمی تواند در یک بحران تصمیم بگیرد. اما خارج از جلسه، متخصص ممکن است نقش بسیار محدودی در حمایت از کار خود داشته باشد:

یادآوری/چک لیست. تهیه به عنوان یک چک لیست زمینه هایی را که کارشناس نباید فراموش کند در ارزیابی ریسک در مورد آنها سؤال کند (کارشناس از آن استفاده می کند نه مشتری).
پیش نویس پروتکل تهیه پیش نویس پروتکل بحران موسسه، لیست خطوط ارجاع، الگوی طرح امنیتی (سپس کارشناس/موسسه آن را تایید می کند).
تمرین/تمرین. تمرین سناریوی خیالی (بدون مشتری واقعی) برای بهبود مهارت های مصاحبه در بحران متخصص.

وجه مشترک این نقش ها: هوش مصنوعی هرگز در یک بحران زنده، با یک مشتری واقعی، در موقعیت تصمیم گیری قرار نمی گیرد.

موقعیت

نقش هوش مصنوعی

کی تصمیم میگیره

بحران زنده (مشتری در معرض خطر)

بدون نقش تصمیم گیری

متخصص، مستقیم و فوری

خارج از جلسه: تهیه چک لیست

یادآوری پیش نویس

کارشناس تایید/استفاده می کند

پروتکل بحران/نوشتن الگو

پیش نویس متن

کارشناس/موسسه تایید می کند

راهنمایی مددجو در بحران

ممنوع (هرگز ربات چت نکنید)

زنجیره حمایت انسانی

سه کیف کوچک

مورد 1 - حفاظت از مرز. مشتری در یک جلسه می گوید: "دیگر طاقت ندارم، می خواهم آن را تمام کنم." کارشناس فکر می کند، "این را برای هوش مصنوعی می نویسم و از او می خواهم در مورد جدی بودن آن بپرسد" اما متوقف می شود. در عوض، او مستقیماً، آرام و مستقیماً به ارزیابی ریسک می‌پردازد: فراوانی فکر، برنامه، روش، دستیابی، صحبت در مورد عوامل حفاظتی. یک طرح امنیتی تهیه می کند؛ پشتیبانی های لازم را فعال می کند. تصمیم و مسئولیت از ابتدا تا انتها متعلق به انسان است. اصلاً درست نیست که هوش مصنوعی وارد این لحظه شود.

مورد 2 - نارسایی قایق. یک سازمان در حال بررسی استقرار یک ربات چت هوش مصنوعی برای پشتیبانی پس از ساعت کاری است. در آزمایش آزمایشی، ربات با یک پاسخ عمومی «مراقب باش» به پیامی که حاکی از خودکشی است پاسخ می‌دهد. نه ریسک را تشخیص می دهد و نه هدایت می کند. آژانس تصمیم می گیرد که ربات در بحران ایمن نیست. در عوض، سیستم روشنی را ایجاد می کند که مردم را به یک خط بحران واقعی و متخصص در حال تماس برای موقعیت های خارج از ساعت راهنمایی می کند.

مورد 3 - استفاده محدود صحیح. یک متخصص برای تقویت عملکرد ارزیابی ریسک خود، از هوش مصنوعی می‌خواهد «چک لیستی از زمینه‌هایی را که باید به یاد داشته باشم در یک مصاحبه جامع ارزیابی خطر خودکشی درباره آنها بپرسم». هوش مصنوعی یک لیست یادآوری خوب تولید می کند. کارشناس آن را به عنوان توری ایمنی در کیف خود نگه می دارد. در اینجا، هوش مصنوعی به هیچ وجه مشتری را لمس نمی کند. این فقط از آماده سازی متخصص پشتیبانی می کند. این حد قابل قبول است.

درخواست ها و الگوهای قابل کپی

توجه: هیچ یک از این الگوها نباید در یک بحران زنده با یک مشتری واقعی استفاده شوند. همه خارج از جلسه، برای آماده سازی خود متخصص.

یک چک لیست کلی تهیه کنید تا یک حرفه ای فراموش نکند که در ارزیابی ریسک (تکرار/شدت فکر، برنامه، دسترسی به روش، عوامل حفاظتی، تاریخچه، سیستم پشتیبانی) سوال کند. این فهرست صرفاً یادآوری خود کارشناس است. تصمیم ریسک داده نمی شود، به مشتری داده نمی شود.

یک الگوی پروتکل مرجع بحران برای سازمان ما تهیه کنید: مراحل ساعات روشن/خاموش، با چه کسی تماس بگیرید، ارجاع به خطوط اضطراری، مستندات. کارشناسان و مدیریت ما این موضوع را بررسی کرده و با توجه به واقعیت و قوانین محلی آن را تایید خواهند کرد.

یک پیش نویس خالی از یک الگوی طرح ایمنی تهیه کنید: علائم هشدار دهنده، استراتژی های مقابله، حمایت از افراد، ارتباطات حرفه ای، ایمن سازی محیط. متخصص محتوا را رو در رو با مشتری پر می کند. شما فقط الگوی خالی را بدهید.

یک سناریوی تمرینی خیالی (بدون مشتری واقعی) برای بهبود مهارت‌های مصاحبه بحران من تنظیم کنید. اجازه دهید در نقش تخصصی خود پاسخ دهم، سپس در مورد رویکردم بازخورد سازنده ای به من بدهید. این یک تمرین آموزشی است نه یک مورد واقعی.

اعلان ضعیف / اعلان قوی

اعلان ضعیف: "این مشتری گفت: [عبارات]. آیا خطر خودکشی زیاد است، چه کار کنم؟"

این سریع تصمیم بحران را به هوش مصنوعی محول می کند. هوش مصنوعی نمی‌تواند ریسک را اندازه‌گیری کند، نمی‌تواند مسئولیتی را بر عهده بگیرد و این لحظه نیاز به دخالت انسان در زمان واقعی دارد. این استفاده خطرناک است.

اعلان قوی: "من خارج از جلسه هستم، مشتری واقعی وجود ندارد. برای تقویت مهارت های ارزیابی خطر، فهرستی را به عنوان یادآوری مناطقی که نباید در مصاحبه با خطر خودکشی پوشش دهم تهیه کنید. تصمیم گیری و مداخله در موقعیت واقعی مسئولیت من خواهد بود."

این درخواست فقط از هوش مصنوعی به عنوان ابزار آماده سازی خارج از جلسه استفاده می کند. بحران تصمیم گیری را به عهده خود فرد می گذارد.

اشتباهات رایج

درخواست تصمیم گیری در مورد بحران از هوش مصنوعی "آیا خطری وجود دارد؟" مشاوره هوش مصنوعی؛ از دست دادن تصمیم و مسئولیت است.
هدایت مشتری در بحران به ربات. فراموش می کنیم که چت بات نمی تواند به طور قابل اعتماد ریسک را مدیریت کند.
اشتباه گرفتن امتیاز ریسک با واقعی جایگزینی یک خروجی مکانیکی "سطح خطر" از هوش مصنوعی برای ارزیابی بالینی.
انتقال ابزار مرحله‌بندی به استفاده زنده. استفاده از چک لیست خارج از جلسه در یک بحران زنده با مشورت هوش مصنوعی.
عدم ایجاد زنجیره حمایت انسانی تکیه بر هوش مصنوعی به جای یک سیستم واقعی خبره/خط بحران برای ساعات بعد از کار در سازمان.

به طور خلاصه

خطر بحران، خودکشی و آسیب واضح ترین حد ماژول است: در این لحظات هوش مصنوعی نمی تواند تصمیم بگیرد، خطر را اندازه گیری کند، مداخله کند و مسئولیت را بپذیرد. زیرا یک بحران مستلزم مشارکت در زمان واقعی، قضاوت بالینی کل نگر، مسئولیت پذیری و مداخله انسانی است. تنها نقش قابل قبول برای هوش مصنوعی به عنوان چک لیست، پیش نویس پروتکل/الگو، و تمرین آموزشی، خارج از جلسه، پشتیبانی از آمادگی خود حرفه ای است. هرگز مشتری در بحران را به چت بات هدایت نکنید. زنجیره پشتیبانی انسانی و خطوط تلفن فعال هستند.

وظیفه کاربردی

یک جریان مسیریابی بحران برای شرکت یا سازمان خود ترسیم کنید: وقتی مشتری ریسک را نشان می‌دهد، چه کسی به چه کسی فراخوانی می‌شود، مرحله به مرحله چه اتفاقی می‌افتد؟ بررسی کنید که هوش مصنوعی در هیچ مرحله ای از این جریان تصمیم گیرنده نیست. همچنین یک چک لیست ارزیابی ریسک خارج از جلسه را از هوش مصنوعی بیرون بیاورید و در یک جمله بنویسید که چرا فقط یادآوری شماست و نمی توان آن را به مشتری داد.

چک لیست

[ ] من هیچ نقش تصمیم گیری در بحران زنده به هوش مصنوعی ندادم.
[ ] من مستقیماً ارزیابی و پاسخ به بحران را خودم انجام دادم.
[ ] من مشتری در بحران را به چت بات هدایت نکردم.
[ ] من از هوش مصنوعی فقط برای آماده سازی خارج از جلسه (چک لیست/پروتکل/تمرین) استفاده کردم.
[ ] من زنجیره پشتیبانی انسانی شرکت و خطوط تلفن را تعریف کردم.
[ ] من درونی کرده ام که تصمیم و مسئولیت بحران با خود شخص است.