سود:
- امکان طراحی مسئولانه ربات مشاوره به گونه ای که فقط به اطلاعات تایید شده شرکت متصل شود و حقایق را با ذکر منبع ارائه دهد.
- امکان هدایت سوالات پزشکی، حقوقی و حساس به کارشناسان و منابع موثق، اجتناب از مشاوره و انتقال آنها به انسان در صورت لزوم.
- حفاظت از حریم خصوصی داده های چت و شفاف بودن برای کاربر در مورد استفاده از هوش مصنوعی
مکانی که کتابخانه با مردم ملاقات می کند، میز اطلاعات است. دانش آموزی به دنبال منابعی برای تکالیف خود می گردد، شهروندی می پرسد چگونه به یک سند رسمی دسترسی پیدا کند، یک محقق می خواهد یاد بگیرد که چگونه از پایگاه داده استفاده کند. این سرویس مرجع نامیده می شود: وظیفه درک نیازهای اطلاعاتی کاربر و ارائه آن به منبع مناسب و روش صحیح است. در این بخش، نحوه استفاده مسئولانه از چت ربات های مبتنی بر هوش مصنوعی (نرم افزاری که با مکاتبه با کاربر کمک می کند) و مشاوره مبتنی بر هوش مصنوعی را یاد خواهید گرفت.
یک تعریف: مصاحبه مرجع گفتگویی است که در آن کتابدار برای روشن شدن نیاز واقعی کاربر سوالاتی می پرسد. زیرا در بیشتر مواقع کاربر نمی تواند آنچه را که به دنبال آن است به طور کامل بیان کند. کسی که می گوید "چیزی در مورد تاریخ" ممکن است در واقع به دنبال جنبه خاصی از یک رویداد خاص باشد. این کار انسانی، همدلانه و قضاوتآمیز در قلب کتابداری قرار دارد و هوش مصنوعی نمیتواند آن را به طور کامل تصاحب کند.
گام به گام: مشاوره مبتنی بر هوش مصنوعی
1. نیاز را روشن کنید. چه یک انسان باشد یا یک ربات، مشاوره خوب ابتدا نیاز را درک می کند. هوش مصنوعی می تواند سؤالات روشنگری را برای پرسیدن از کاربر پیشنهاد کند. اما وظیفه انسان خواندن متن و احساسات کاربر است.
2. به منبع مراجعه کنید، پاسخ را جعل نکنید. وظیفه ربات کتابخانه هدایت کاربر به سمت منابع واقعی است. این در مورد ایجاد پاسخ از دانش عمومی نیست. ربات باید بگوید "به این پایگاه داده، این مجموعه برای این موضوع نگاه کنید"؛ باید ادعای واقعی را با ذکر منبع ارائه دهد.
3. حد را تعیین کنید. ربات نباید مشاوره پزشکی، حقوقی یا مالی ارائه دهد. در عوض، باید شما را به منابع معتبر و در صورت لزوم به یک متخصص ارجاع دهد. اگر هوش مصنوعی "پاسخ" پزشکی یا قانونی اشتباهی به کاربر بدهد، آسیب جدی به دنبال خواهد داشت.
4. به انسان تفویض کنید. وقتی ربات نمی تواند آن را بفهمد یا موضوع حساس است، باید کاربر را به یک کتابدار واقعی هدایت کند. یک سیستم خوب محدودیت های ربات را می شناسد.
5. شفاف باشید. کاربر باید بداند که با یک ربات صحبت می کند. کتابخانه نباید کاربر را با یک ربات مخفی که جعل هویت یک انسان است، گمراه کند.
نکته: یک ربات مشاوره را به عنوان یک سیستم استناد به منابع بر اساس اطلاعات مجموعه خود و پرسشهای متداول (سوالات متداول) تنظیم کنید. داشتن ربات به عنوان دستیار که "منبع مناسب را برای شما پیدا می کند" به جای "دانستن همه چیز" اعتماد و دقت را حفظ می کند.
محدودیت ها و خطرات چت بات
چت ربات کتابخانه ای جذاب به نظر می رسد: 24/7 کار می کند، به چندین کاربر در یک زمان کمک می کند، به سوالات ساده به سرعت پاسخ می دهد. اما خطرات واقعی هستند. ربات ممکن است توهم داشته باشد و به کاربر بگوید منبعی وجود ندارد، زمان راهاندازی نادرست یا رویهای معیوب است. ربات ممکن است با سؤال حساس کاربر (نگرانی سلامتی، بحران شخصی) اشتباه رسیدگی کند. و اگر ربات آنچه کاربر تایپ می کند را ثبت کند، خطر حفظ حریم خصوصی وجود دارد.
بنابراین، ربات نه به عنوان جایگزینی برای مشاور انسانی، بلکه به عنوان لایه ای است که بار او را کاهش می دهد. سوالات ساده و تکراری توسط ربات دریافت می شود. انسان ها به سوالات پیچیده، حساس و قضاوت نیاز دارند.
احتیاط: سوالاتی که کاربر در ربات چت می نویسد ممکن است حساس باشد (موقعیت های بهداشتی، حقوقی، شخصی). سابقه این مکاتبات باید برای حفظ حریم خصوصی مانند سوابق وام محافظت شود. ارائه دادههای چت به ابزارهای هوش مصنوعی عمومی برای آموزش، اعتماد کاربران را نقض میکند.
سه کیف کوچک
مورد 1 - قایق بار را سبک کرد. یک کتابخانه دانشگاهی رباتی را بر اساس اطلاعات مجموعه و پرسشهای متداول ساخت که به سؤالات رایجی مانند «ساعت کار، مدت زمان امانت، دسترسی به پایگاه داده» پاسخ میدهد. ربات تقریباً 40 درصد از سؤالاتی را که به میز اطلاعات ارسال می شد، رسیدگی می کرد. کتابداران توانستند زمان بیشتری را به سوالات پیچیده تحقیق اختصاص دهند. ربات همیشه در پاسخ های خود به صفحه رسمی لینک می داد.
مورد 2 - زمان اشتباه اصلاح شد. یک ربات از حافظه جهانی خود گفت "کتابخانه یکشنبه ها تعطیل است". در حالی که بازارهای کتابخانه باز بودند. یک کاربر به این دلیل تلف می شود. تیم ربات را طوری پیکربندی مجدد کرد که فقط به اطلاعات فعلی و تأیید شده سازمان متصل شود. پاسخ از حافظه جهانی غیرفعال شد.
مورد 3 - انتقال به انسان رخ داده است. کاربری از ربات در مورد یک نگرانی شخصی درباره سلامتی پرسید. این ربات به جای ارائه توصیه های پزشکی، کاربران را به منابع اطلاعاتی سلامت قابل اعتماد هدایت کرد و گزینه ای را برای تحویل به انسان ارائه داد و گفت: "در صورت تمایل می توانید با یک کتابدار صحبت کنید." موضوع حساس به درستی رسیدگی شده است.
دسترس پذیری و فراگیری
خدمات کاربر خوب به همه خدمت می کند. این یک گسترش مستقیم از مقدار دسترسی برابر کتابخانه است. ابزارهای هوش مصنوعی در اینجا هم فرصت و هم ریسک را به همراه دارند. سمت فرصت: هوش مصنوعی میتواند متن پیچیده را به زبان ساده ترجمه کند، پاسخهایی را به زبانهای مختلف ایجاد کند، یک سند طولانی را برای کاربر کمبینا قابل خواندن کند، یا تعامل با دستیار صوتی را تسهیل کند. این کار کاربرانی را وارد میکند که قبلاً از این سرویس حذف شدهاند. جنبه ریسک: ابزارهای هوش مصنوعی اغلب در زبانهای خاص و با پروفایلهای کاربری خاص بهتر کار میکنند. در یک زبان کم منبع یا در سطح سواد متفاوت، کیفیت پاسخ ممکن است کاهش یابد و نابرابری را تقویت کند. کتابدار باید مشاهده کند که ربات یا ابزار هوش مصنوعی در کدام گروههای کاربری خوب کار میکند و در کدام گروه ضعیف عمل میکند و در جایی که ضعیف است، پشتیبانی انسانی را درگیر کند. خروجی یک ساده سازی یا ترجمه، مانند هر پاسخ واقعی دیگر، باید مورد بازبینی قرار گیرد تا اطمینان حاصل شود که معنا را تحریف نمی کند. ساده سازی نادرست می تواند گمراه کننده باشد، به ویژه در متون حساس مانند بهداشت، قانون یا رویه دولتی.
احتیاط: هنگام ساده سازی یا ترجمه یک متن، هوش مصنوعی ممکن است به طور ناخواسته معنی را تغییر دهد یا یک هشدار مهم را حذف کند. خروجی تولید شده برای اهداف دسترسی نیز باید از نظر صحت ممیزی شود. ضمن گفتن "به همه برسد" باید مراقب بود که اطلاعات نادرست منتشر نشود.
چهار قالب قابل کپی
1) سوالات مصاحبه مشاوره:
3-4 سؤال مودبانه و باز پیشنهاد دهید تا سؤال مبهم زیر کاربر (حوزه، سطح، هدف، نوع) روشن شود. قصد کاربر را فرض نکنید. سوال: [اینجا]
2) پاسخ ربات هدایت به منبع:
نقش شما: ربات اطلاعات کتابخانه. در زیر سؤال کاربر و فهرست منابع/راهنماهای ما آمده است. فقط بر اساس این لیست، یک پاسخ کوتاه و مودبانه بنویسید که کاربر را به منبع مناسب هدایت کند. هنگام ادعای واقعی، منبع را ذکر کنید. اگر در لیست نیست، بگویید "بگذار تو را به یک کتابدار راهنمایی کنم". سوال: [اینجا] / فهرست: [اینجا]
3) پاسخ محدودیت و گردش مالی:
آیا سؤال کاربر زیر حاوی توصیه های پزشکی/حقوقی/مالی یا موضوعات شخصی حساس تری است؟ در این صورت، پاسخی را پیشنویس کنید که کاربر را مودبانه به منبع مورد اعتماد و یک متخصص/کتابدار هدایت کند، بدون اینکه توصیهای بکند. سوال: [اینجا]
4) بررسی واقعیت پاسخ سؤالات متداول:
آیا همه اطلاعات واقعی (زمان، مدت، روش، منبع) در پاسخ ربات زیر بر اساس متن اطلاعات متداول/رسمی که ارائه کردم است؟ هر ادعا را به عنوان "در حال حاضر / موجود در منبع" علامت گذاری کنید. پاسخ: [اینجا] / سوالات متداول: [اینجا]
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
به سوال این کاربر پاسخ دهید.
ربات پاسخ ها را از حافظه عمومی خود تولید می کند. ممکن است زمان نادرست، منبع نادرست یا روش معیوب ارائه دهد. مرزها و دوره ها را رعایت نمی کند.
اعلان قدرتمند:
نقش شما: ربات اطلاعات کتابخانه. تنها به اطلاعات سازمانی و فهرست منابع فعلی که در زیر ارائه کردهام تکیه کنید. اطلاعاتی جز این ارائه ندهید. در صورت درخواست مشاوره پزشکی/حقوقی، به متخصص مراجعه کنید. پاسخ را کوتاه و مؤدبانه بنویسید، منبع واقعیت را ذکر کنید و اگر اطلاعاتی در دست نیست بگویید «اجازه دهید شما را به کتابدار راهنمایی کنم». سوال کاربر: [اینجا] / اطلاعات سازمان: [اینجا]
اعلان قدرتمند؛ این ربات را به اطلاعات تأیید شده سازمانی متصل می کند، محدودیت هایی را تعیین می کند و مسیر انتقال را تعریف می کند.
جدول نوع سوال مشورتی
نوع سوال
آیا بوت مناسب است؟
رویکرد
زمان بازگشایی، مدت زمان، روش
بله
پاسخ از اطلاعات موسسه فعلی
مسیریابی منبع ساده
بله
پیوند به مجموعه/تماس
تحقیق پیچیده
تا حدی
نیاز را روشن کنید، آن را به مردم منتقل کنید
پزشکی/حقوقی/حساس
نه
مستقیم به یک منبع خبره و معتبر مراجعه کنید
اشتباهات رایج
- رها کردن ربات برای پاسخ از حافظه جهانی. خطر اطلاعات نادرست و منابع ساختگی.
- پاسخ واقعی بدون ذکر منبع. کاربر نمی تواند تأیید کند.
- ارائه مشاوره پزشکی/حقوقی. باعث آسیب جدی می شود؛ باید راهنمایی شود.
- عدم ایجاد مسیر انتقال به انسان. سوالات پیچیده و حساس حل نشده باقی می مانند.
- بدون محافظت از داده های گپ. نقض حریم خصوصی خواهد بود.
به طور خلاصه
در خدمات کاربر، هوش مصنوعی و رباتهای گفتگو سوالات ساده و تکراری را به عهده میگیرند و به کتابدار اجازه میدهند تا روی کارهای پیچیده، حساس و قضاوتکننده تمرکز کند. اما ربات باید بهعنوان لایهای ساخته شود که بار را کاهش دهد، نه به جای انسان: باید فقط بر اطلاعات تأیید شده شرکت تکیه کند، حقایق را به عنوان منبع ارائه دهد، از توصیههای پزشکی/حقوقی اجتناب کند و به متخصص مراجعه کند، سؤالات حساس را به انسان محول کند، و از حریم خصوصی دادههای چت محافظت کند. شفافیت ضروری است: کاربر باید بداند که با یک ربات صحبت می کند.
وظیفه کاربردی
یک "فهرست اطلاعات فعلی + منابع" کوتاه برای موسسه خود تهیه کنید (ساعات، قوانین وام، چند راهنما). با الگوی «پاسخ ربات به منبع» پاسخهای سه سؤال مختلف کاربر را ایجاد کنید و با «بررسی واقعیت پاسخ سؤالات متداول» بررسی کنید که آیا هر واقعیت بر اساس منبع است یا خیر. در نهایت، متن درخواستی صحیح را برای یک سوال حساس با الگوی "محدودیت و پاسخ گردش مالی" ایجاد کنید.
چک لیست
- [ ] من ربات را فقط به اطلاعات تأیید شده شرکت وصل کردم.
- [ ] من منابع را در پاسخ های واقعی ذکر کردم.
- [ ] من مسیریابی و انتقال را برای سوالات پزشکی/حقوقی/حساس تنظیم کرده ام.
- [ ] من به طور شفاف اعلام کردم که کاربر با یک ربات صحبت می کند.
- [ ] من از حریم خصوصی داده های چت محافظت کرده ام.