سود:
- توانایی تشخیص اینکه هوش مصنوعی کجا در گردش کار کتابداری در زمان صرفه جویی می کند (فراداده، خلاصه، جستجو، پیشنهاد) و جایی که دقت، قابلیت اطمینان منبع و تصمیمات حریم خصوصی بسته به سطح خطر به انسان واگذار می شود.
- امکان اعمال رشته ای که هر خروجی را با پیوند دادن آن به منبع، تأیید آن در یک منبع مستقل و عبور از فیلتر بایاس تأیید می کند.
- درک اینکه چرا توهم، منابع ساختگی و حریم خصوصی کاربر خطراتی هستند که باید از همان ابتدا در این حرفه مورد توجه قرار گیرند.
وقتی یک متخصص فهرست نویسی صبح پشت میزش می نشیند، ممکن است ده ها کتاب تازه وارد، صدها سند از یک مجموعه اهدایی و یک جعبه آرشیو در انتظار دیجیتالی شدن داشته باشد. یک کتابدار مرجع (متخصصی که به کاربران در یافتن اطلاعات کمک می کند) در طول روز به سؤالاتی مانند "منبع معتبر در مورد این موضوع کجاست؟" پاسخ می دهد. یک مدیر اطلاعات مسئول نگهداری از هزاران سند سازمانی قابل کشف و قابل اعتماد است. در این بخش، توضیح خواهیم داد که دقیقاً هوش مصنوعی (به طور خلاصه هوش مصنوعی؛ مدلهای زبان بزرگ و ابزارهای مشابه) در کجا در این کارها صرفهجویی میکند و کجا قضاوت، انتخاب و مسئولیت بر عهده انسان است.
بیایید با یک تعریف شروع کنیم: هوش مصنوعی، که منظور ما ابزارهای نرم افزاری تولید کننده زبان و تشخیص الگو است که بر روی مقادیر زیادی متن آموزش دیده اند. این ابزارها خلاصه میکنند، ترجمه میکنند، طبقهبندی را پیشنهاد میکنند، متن پیشنویس تولید میکنند و الگوهای پرچم را در تکههای بزرگ داده نشان میدهند. اما نمی داند که آیا منبعی واقعا وجود دارد، آیا اطلاعاتی درست است یا اینکه حریم خصوصی کاربر محافظت می شود. به همین دلیل است که در کتابداری و مدیریت اطلاعات، هوش مصنوعی یک دستیار است، نه تصمیم گیرنده.
هوش مصنوعی کجا کار می کند و کجا کار نمی کند؟
بیایید گردش کار کتابداری را به سه لایه تقسیم کنیم. لایه اول کارهای مکانیکی و تکراری است: استخراج پیش نویس ابرداده از خط کناری یک کتاب، خلاصه کردن یک گزارش طولانی، ترجمه متن از یک زبان به زبان دیگر، تمیز کردن جدول داده ها. هوش مصنوعی در اینجا قدرتمند است و در زمان زیادی صرفه جویی می کند.
لایه دوم کار شبه قضایی است: چه عنوان موضوعی به یک سند داده شود، آیا منبعی را در یک مجموعه قرار دهیم، چه منبعی را به کاربر توصیه کنیم. هوش مصنوعی در اینجا پیشنهاداتی را ارائه می دهد، اما متخصصی که خط مشی موسسه و نیازهای واقعی کاربر را می داند حرف آخر را می زند.
لایه سوم قضاوت و مسئولیت پذیری خالص است: تأیید دقیق بودن اطلاعات، تصمیم گیری در مورد حق چاپ، افشای اطلاعات شخصی حساس، تأیید قابل اعتماد بودن منبع. در این لایه، خروجی هوش مصنوعی فقط یک نقطه شروع است. مسئولیت کاملاً بر عهده انسان است.
نکته: قبل از دادن وظیفه به هوش مصنوعی، از خود بپرسید: "اگر این خروجی اشتباه باشد چه اتفاقی می افتد؟" اگر پاسخ این است که «زمانم را تلف خواهم کرد»، از هوش مصنوعی استفاده کنید. اگر پاسخ این است که "منبع نادرست منتشر شده است، کاربر گمراه شده است، یا اطلاعات شخصی به بیرون درز کرده است"، حتماً خروجی را تأیید کنید.
توهم: بزرگترین خطر کتابدار
توهم زمانی است که هوش مصنوعی اطلاعات، منبع یا نقل قولی را که وجود ندارد و به زبانی بسیار قانع کننده تولید می کند، گویی واقعی است. این امر به ویژه برای کتابداری و مدیریت اطلاعات خطرناک است. زیرا ماهیت حرفه ما اصالت و اعتبار منبع است.
وقتی به هوش مصنوعی می گویید «پنج مقاله دانشگاهی در مورد این موضوع پیشنهاد کند»، می تواند عناوین، نویسندگان و نام مجلاتی را ایجاد کند که واقعی به نظر می رسند اما اصلا وجود ندارند. این منابع ساختگی آنقدر متقاعد کننده هستند که یک مراجعه کننده یا حتی یک کتابدار می تواند آنها را بدون تأیید آنها به کتابشناسی اضافه کند. در علوم انسانی و اجتماعی، خطر از این هم بیشتر است: وقتی «آن سند از 1897» برای یک مورخ یا «آن تصمیم دادگاه» برای یک حقوقدان جعل میشود، نتیجه یک اطلاعات غلط جدی است.
توجه: هیچ منبع منبع، نقل قول یا مرجع تولید شده توسط هوش مصنوعی نباید بدون تأیید در یک کاتالوگ واقعی، پایگاه داده یا خود منبع به جایی منتقل شود. فقط به این دلیل که "قانع کننده به نظر می رسد" به این معنی نیست که درست است.
نظم و انضباط تأیید: سه مرحله
رشته اصلی که کتابدار باید هنگام کار با هوش مصنوعی اعمال کند این است:
1. به منبع متصل شوید. هر واقعیت، رقم، تاریخ و اثر باید بر اساس یک منبع اصلی باشد. از هوش مصنوعی بپرسید «به من بگویید این اطلاعات را از چه منبعی دریافت کردهاید» و آن منبع را مستقل بررسی کنید.
2. به طور مستقل تأیید کنید. اطلاعات مهم را حداقل در یک منبع معتبر خارج از هوش مصنوعی (کاتالوگ معتبر، پایگاه داده رسمی، سند اولیه) تأیید کنید.
3. آن را از فیلتر بایاس رد کنید. هوش مصنوعی سوگیری های داده هایی را که روی آن آموزش داده شده است، حمل می کند. یک موضوع پیشنهادی، فهرستی از پیشنهادات، یا یک خلاصه ممکن است برخی از دیدگاه ها را برجسته کند و برخی دیگر را مبهم کند. بپرسید چه کسی کنار گذاشته شده است، چه دیدگاهی گم شده است.
حریم خصوصی و حریم خصوصی کاربر
یکی از اساسیترین اصول اخلاقی حرفه کتابداری، حریم خصوصی کاربر است: آنچه که شخص میخواند، آنچه را که جستجو میکند و موضوعی که به آن علاقه دارد محرمانه است. وارد کردن دادهها در ابزارهای هوش مصنوعی، بهویژه ابزارهای عمومی که از طریق اینترنت کار میکنند، که شامل هویت کاربران، تاریخچه جستجو یا منابع قرضشده است، ممکن است این اصل را نقض کند. زیرا این داده ها ممکن است به سیستم های شخص ثالث بروند.
به همین ترتیب، در یک سازمان، اسناد طبقه بندی نشده اما حساس (اطلاعات پرسنل، قراردادها، مکاتبات داخلی) نباید در ابزار هوش مصنوعی عمومی آپلود شوند. ابزارهایی که بر روی سیستم امن و بسته خود موسسه اجرا می شوند برای این نوع داده ها ترجیح داده می شوند.
نکته: قبل از وارد کردن هر داده به هوش مصنوعی، بپرسید "آیا این اطلاعات عمومی است؟" بپرسید اگر پاسخ منفی است یا مطمئن نیستید، آن داده ها را در قالبی غیرشخصی و ناشناس قرار دهید یا فقط از ابزارهای ایمن مورد تایید موسسه استفاده کنید.
سه کیف کوچک
مورد 1 - پیش نویس ابرداده برای 400 سند. یک کتابخانه دانشگاه مجبور شد آرشیو 400 سند اهدایی یک استاد را فهرست کند. کارشناس یک پیش نویس عنوان، تاریخ و پیشنهاد موضوع را از صفحه اول هر سند با هوش مصنوعی استخراج کرد: میانگین زمان برای هر سند از 12 دقیقه به 4 دقیقه کاهش یافت. اما هر چاپ پیش نویس با سند اصلی مقایسه شد و توسط کارشناس تایید شد. 17 تاریخ نادرست ساخته شده توسط هوش مصنوعی در این مرحله گرفتار شد.
مورد 2 - منبع جعلی کشف شد. یک کتابدار مشاور هنگام جستجوی منابعی در مورد "مهاجرت اقلیمی" برای یک دانشجوی کارشناسی، 6 پیشنهاد مقاله از YZ دریافت کرد. کتابدار همه آنها را در پایگاه داده موسسه جستجو کرد: از هر 6 مقاله، 2 مقاله اصلا وجود نداشت. مرحله راستیآزمایی از ارائه منبع ساختگی به دانشآموز جلوگیری کرد.
مورد 3 - از نقض محرمانه جلوگیری شد. یک کتابخانه استفاده از ابزار هوش مصنوعی عمومی را برای تجزیه و تحلیل «کدام کاربر به کدام موضوع علاقه مند است» از سوابق پرداخت در نظر گرفت. مدیر اطلاعات متوجه شد که خروج این داده ها با شناسه کاربری نقض حریم خصوصی است. داده ها ابتدا ناشناس شده و صرفاً به عنوان آمار جمع آوری شده و شناسایی نشده پردازش شدند.
چهار قالب قابل کپی
1) شروع به تعریف نقش ها و مرزها کنید:
نقش شما: دستیار با تجربه فهرست نویسی و متخصص مدیریت اطلاعات. وظیفه شما: تهیه پیش نویس از اطلاعات منبعی که به شما دادم. قوانین: (1) فقط از اطلاعات متنی که به شما دادم استفاده کنید، اطلاعات خود را اضافه نکنید. (2) جایی که مطمئن نیستید "[باید تایید شود]" را علامت بزنید. (3) هیچ تاریخ، نام یا اثری را ایجاد نکنید. اگه فهمیدی شروع کن منبع: [اینجا]
2) سؤال بررسی اعتبار:
هر ادعای واقعی (تاریخ، نام، شماره، منبع منبع) را در متن زیر فهرست کنید. برای هر کدام: این اطلاعات را از کجا در متن به دست آورده اید؟ اگر به وضوح در متن نیست، بنویسید "در متن نیست". متن: [اینجا]
3) Bias and missing perspective checking:
خلاصه/توصیه زیر کدام دیدگاه ها را برجسته می کند و کدام را نادیده می گیرد؟ چه گروهها، مناطق یا نماهایی ممکن است وجود نداشته باشند؟ فقط به متن تکیه کنید، حدس و گمان نکنید. متن: [اینجا]
4) پیشبررسی حریم خصوصی:
آیا متن زیر حاوی اطلاعات شخصی (نام، شماره شناسه، تماس، سابقه خواندن/جستجو) یا اطلاعات حساس شرکت است؟ اگر چنین است، آن را فهرست کنید و پیشنهاد دهید که چگونه می توان آن را ناشناس کرد. متن: [اینجا]
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
منابعی در این زمینه برای من پیدا کنید.
این درخواست هوش مصنوعی را به تولید منابع جعلی دعوت می کند. هیچ نقش، مرز، قوانین اعتبارسنجی و منابع وجود ندارد. هوش مصنوعی میتواند برچسبهای باورپذیر اما ناموجود تولید کند.
اعلان قدرتمند:
نقش شما: دستیار کتابدار مرجع. موارد مرتبط با موضوع "مهاجرت آب و هوا" را از مدخل های کاتالوگی که در زیر برای شما آورده ام انتخاب کنید و توضیح دهید که چرا مرتبط هستند. هیچ منبعی را که در لیست نیست اضافه نکنید، منابع را جعل نکنید. وقتی مطمئن نیستید، بگویید «هیچ منبع مناسبی فهرست نشده است». ورودی های کاتالوگ: [اینجا]
تفاوت واضح است: اعلان قوی هوش مصنوعی را مجبور می کند از منبع واقعی داده شده کار کند، نه از حافظه خود، و از ساختگی جلوگیری می کند.
جدول لایه و مسئولیت
لایه کسب و کار
نمونه کار
نقش هوش مصنوعی
تصمیم مرد
مکانیکی
پیش نویس ابرداده، خلاصه، ترجمه
به سرعت پیش نویس ها را تولید می کند
تایید، تایید
شبه قضایی
عنوان موضوع، پیشنهاد منبع
پیشنهاداتی ارائه می دهد
انتخاب بر اساس خط مشی
قضاوت خالص
احراز هویت، تصمیم کپی رایت
فقط اطلاعات اولیه
مسئولیت کامل بر عهده شخص است
اشتباهات رایج
- جایگزینی خروجی هوش مصنوعی به جای منبع. هوش مصنوعی یک دستیار است، نه یک منبع. هر خروجی تایید می شود.
- قبول منبع ساختگی به عنوان قانع کننده. فقط به این دلیل که خوب به نظر می رسد به این معنی نیست که درست است.
- وارد کردن داده های شخصی/حساس در ابزار عمومی. حریم خصوصی کاربر و محرمانه بودن شرکت از همان ابتدا رعایت می شود.
- نادیده گرفتن تعصب هوش مصنوعی دارای چشم اندازهای داده هایی است که بر اساس آن آموزش داده شده است. بپرسید چه چیزی کم است.
- قضاوت را به هوش مصنوعی بسپارید. تصمیمات مربوط به صحت، حق چاپ و حریم خصوصی متعلق به انسان است.
به طور خلاصه
هوش مصنوعی؛ این یک دستیار قدرتمند برای خلاصه، پیش نویس، ترجمه و الگوبرداری در کتابداری و مدیریت اطلاعات است. این باعث صرفه جویی در زمان زیادی در کارهای مکانیکی می شود. در امور شبه قضایی مشاوره می دهد. اما تأیید صحت، قابلیت اطمینان منبع، حریم خصوصی کاربر و تصمیمات اخلاقی متعلق به انسان است. توهم بزرگترین خطر برای این حرفه است: هیچ منبع اعتباری یا نقل قول بدون تأیید استفاده نمی شود. هوش مصنوعی را با قوانین نقش، مرز و اعتبار مشخص اجرا کنید. هر خروجی بحرانی را با یک منبع مستقل تأیید کنید.
وظیفه کاربردی
یک موضوع واقعی از رشته خود انتخاب کنید. از هوش مصنوعی 5 توصیه منبع در مورد آن موضوع بخواهید، سپس هر کدام را در یک کاتالوگ یا پایگاه داده واقعی جستجو کنید و توجه داشته باشید که تعداد آنها واقعا وجود دارد. سپس، با الگوی «نقشها و مرزهای تعیین راهاندازی»، به هوش مصنوعی بگویید فقط از روی متنی که شما ارائه میدهید کار کند و خروجی دو رویکرد را با هم مقایسه کنید. بنویسید که کدام رویکرد از برازش جلوگیری می کند.
چک لیست
- [ ] من تعیین کردم که وظیفه در کدام لایه (مکانیکی، نیمه قضایی، قضاوت محض) است.
- [ ] "اگر این خروجی نادرست باشد چه اتفاقی می افتد؟" من سوال را پرسیدم.
- [ ] من هر اعتبار و استناد را با یک منبع مستقل تأیید کرده ام.
- [ ] من بررسی کرده ام که هیچ اطلاعات شخصی/حساس در داده های وارد شده به هوش مصنوعی وجود نداشته باشد.
- [ ] من تصمیم نهایی و مسئولیت را به صلاحدید خودم نگه داشتم.