سود:
- امکان کاهش خطرات قانونی با ارزیابی وضعیت کپی رایت ورودی و شرایط داده ابزار و زیر سوال بردن حقوق خروجی
- امکان محافظت از داده های شخصی از طریق ناشناس سازی و به حداقل رساندن و تضمین حریم خصوصی با شفاف بودن برای کاربر
- توانایی ایجاد یک چارچوب حاکمیتی برای مؤسسه که شامل ابزارهای تأیید شده، داده های ممنوعه و قوانین تأیید، و آزمایش استفاده از آن با ارزش های کتابداری است.
کتابدار و مدیر اطلاعات کسی است که نه تنها اطلاعات را سازماندهی و ارائه می کند، بلکه از آن محافظت می کند: حفاظت از حقوق پدیدآورنده، حریم خصوصی کاربر و مسئولیت مؤسسه. هوش مصنوعی هر سه حوزه را با سوالات جدید و پیچیده به چالش می کشد. آیا بارگذاری یک سند در هوش مصنوعی نقض حق چاپ است؟ آیا دادن اطلاعات کاربر به ابزار هوش مصنوعی حریم خصوصی را نقض می کند؟ سازمان چگونه باید استفاده از هوش مصنوعی را مدیریت کند؟ در این واحد پایانی، چارچوبی را ایجاد خواهیم کرد که موضوعات اخلاقی و قانونی را که در سراسر ماژول به آنها اشاره کردهایم، گرد هم میآورد.
بیایید مفاهیم را تعریف کنیم. کپی رایت حق قانونی است که به پدیدآورنده یک اثر بر استفاده از اثر او اعطا می شود. تکثیر یا استفاده غیرمجاز ممکن است تخلف تلقی شود. داده های شخصی هر گونه اطلاعاتی است که به طور مستقیم یا غیرمستقیم یک شخص را شناسایی می کند و تحت حمایت قانونی قرار می گیرد. حاکمیت چارچوبی از قوانین، خط مشی ها و پاسخگویی است که بر استفاده سازمان از هوش مصنوعی حاکم است. این سه مفهوم مبنای قانونی و اخلاقی برای استفاده مسئولانه از هوش مصنوعی را تشکیل می دهند.
گام به گام: استفاده مسئولانه و قانونی از هوش مصنوعی
1. وضعیت کپی رایت ورودی را ارزیابی کنید. قبل از بارگیری یک متن، کتاب یا مقاله در ابزار هوش مصنوعی، وضعیت حق چاپ آن اثر و شرایط استفاده از ابزار را در نظر بگیرید. دادن یک اثر دارای حق چاپ به ابزاری که از داده هایی که شما آپلود می کنید برای اهداف خود استفاده می کند، ممکن است نقض حقوق باشد.
2. حقوق خروجی را زیر سوال ببرید. وضعیت حق چاپ متن تولید شده توسط هوش مصنوعی ممکن است نامشخص باشد و هوش مصنوعی ممکن است ناآگاهانه محتوای دارای حق چاپ را در داده های آموزشی بازتولید کند. قبل از انتشار یک خروجی هوش مصنوعی، اصالت و موارد نقض احتمالی آن را ارزیابی کنید.
3. از داده های شخصی محافظت کنید. هویت، تاریخچه خواندن/جستجو و اطلاعات شخصی کاربران نباید بدون رضایت صریح و محافظت قوی وارد ابزار هوش مصنوعی شود. ناشناس سازی و به حداقل رساندن داده ها (فقط به همان اندازه که داده لازم است) ضروری است.
4. اطمینان از شفافیت و رضایت. کاربران باید بدانند که چگونه داده ها و تعاملات آنها پردازش می شود. در جایی که هوش مصنوعی درگیر است، این باید به وضوح بیان شود. استفاده از هوش مصنوعی مخفی اعتماد را تضعیف می کند.
5. یک چارچوب حکومتی ایجاد کنید. سازمان باید در یک خط مشی مکتوب تعیین کند که چه ابزارهایی تأیید می شوند، چه داده هایی را می توان وارد کرد، چه کسی مسئول است و چگونه خروجی ها تأیید می شوند.
نکته: یک برگه ساده «قوانین استفاده از هوش مصنوعی» برای سازمان خود ایجاد کنید: ابزارهایی که تأیید می شوند، چه داده هایی هرگز وارد نمی شوند (شخصی/اختصاصی/محرمانه)، چگونه هر خروجی تأیید می شود و چه کسی مسئول است. یک راهنمای یک صفحه ای واضح تر از یک خط مشی طولانی قابل اجرا است.
اصول و ارزشهای اخلاقی کتابداری
ارزشهای ریشهدار حرفه کتابداری به عنوان قطبنما در عصر هوش مصنوعی عمل میکند: دسترسی برابر به اطلاعات، آزادی فکر، حریم خصوصی کاربر، صداقت فکری، و بیطرفی. هوش مصنوعی می تواند از این ارزش ها حمایت کند یا تهدید کند. ممکن است دسترسی را گسترش دهد اما تعصب را تقویت کند. ممکن است خدمات را سرعت بخشد، اما ممکن است حریم خصوصی را به خطر بیاندازد. ممکن است کشف را تسهیل کند اما ممکن است اطلاعات نادرست را منتشر کند.
کتابدار مسئول هر استفاده از هوش مصنوعی را در برابر این مقادیر آزمایش می کند: "آیا این استفاده دسترسی را برابر می کند یا گروهی را حذف می کند؟ آیا از حریم خصوصی محافظت می کند؟ آیا اطلاعات دقیق و صادقانه ای ارائه می دهد؟" هوش مصنوعی یک ابزار است. ارزش هایی که شما از آن استفاده خواهید کرد جوهره این حرفه است. فناوری تغییر می کند، اما این ارزش ها قطب نمای ثابت کتابداری هستند.
احتیاط: "همه از آن استفاده می کنند" یا "سریع است" استفاده از هوش مصنوعی را توجیه نمی کند. حتی اگر استفاده قانونی باشد، ممکن است غیراخلاقی باشد. رویه ای را اتخاذ نکنید که از نظر کپی رایت، حریم خصوصی و عدالت مضر است، فقط به این دلیل که آسان است. مسئولیت نهایی بر عهده ابزار نیست، بلکه به عهده متخصصی است که از آن استفاده می کند.
سه کیف کوچک
مورد 1 - دانلود دارای حق چاپ متوقف شده است. یک تیم برنامه ریزی کرده بود که یک کتاب مرجع کامل دارای حق چاپ را در یک ابزار هوش مصنوعی عمومی برای تولید خلاصه بارگذاری کند. مدیر اطلاعات این موضوع را هم از نظر حق چاپ و هم از نظر شرایط استفاده از داده های ابزار خطرناک دانست. در عوض، تنها به صورت خلاصه، گزیده های مجاز و در سیستم بسته موسسه مورد مطالعه قرار گرفت.
مورد 2 - داده های شخصی ناشناس. کتابخانه ای می خواست بازخورد کاربران را با هوش مصنوعی تجزیه و تحلیل کند. اما بازخورد شامل نام کاربری و اطلاعات تماس بود. تیم قبل از تجزیه و تحلیل داده ها را ناشناس کرد. فقط تمایلات جمعی ناشناس پردازش شد. حریم خصوصی حفظ شد، بینش دوباره به دست آمد.
مورد 3 - شکاف حاکمیتی بسته شد. در یک سازمان، کارمندان بدون نظارت از ابزارهای مختلف هوش مصنوعی استفاده می کردند و گاهی اوقات اسناد محرمانه را وارد می کردند. مدیر اطلاعات یک خط مشی یک صفحه ای را منتشر کرد که ابزارهای تأیید شده، انواع داده های ممنوعه، و قوانین تأیید را تعریف می کند. عدم اطمینان و ریسک به میزان قابل توجهی کاهش یافته است.
شایستگی پرسنل و فرهنگ سازمانی
یک سیاست حکومتی تنها به اندازه افرادی که آن را اجرا می کنند قوی است. اگر کارمندان خطرات هوش مصنوعی را درک نکنند، حتی بهترین قانون نوشته شده روی کاغذ باقی می ماند. بنابراین، مبنای پایدار برای استفاده مسئولانه از هوش مصنوعی، شایستگی کارکنان است: درک هر کارمند از توهم چیست، چه دادههایی هرگز نباید وارد شوند، و چرا یک خروجی باید تأیید شود. کتابخانه ها و موسسات اطلاع رسانی در این زمینه نقش دوگانه ای دارند. هم باید کارکنان خود را آموزش دهد و هم این سواد را به کاربران منتقل کند. فرهنگ سازمانی خوب، فرهنگ سازمانی است که به جای پنهان کردن، یک باگ هوش مصنوعی را گزارش میکند و گفتن «در مورد این خروجی مطمئن نیستم، بیایید تأیید کنیم، طبیعی است». در محیطی که اشتباهات به دلیل ترس از مجازات پنهان می شوند، منبع جعلی یا نقض حریم خصوصی بدون توجه منتشر می شود. علاوه بر این، از آنجایی که فناوری و ابزارها به سرعت تغییر می کنند، سیاست ها و آموزش ها باید به طور منظم به روز شوند و نه یک بار. حاکمیت؛ این یک سیستم زنده است که در آن قوانین، ابزار، آموزش و فرهنگ با هم کار می کنند. در مرکز این سیستم فرد ذیصلاح قرار دارد که مسئولیت را بر عهده می گیرد و تصمیم نهایی را می گیرد نه وسیله نقلیه.
نکته: قبل از استفاده از یک ابزار هوش مصنوعی جدید، یک آزمایش کوچک انجام دهید: آن را با یک تیم محدود، در کارهای واقعی اما کم خطر، ثبت خطاها و خطرات امتحان کنید. این کار هم شایستگی ایجاد میکند و هم آسیبپذیریهای خطمشی را قبل از استفاده از ابزار در سراسر سازمان آشکار میکند.
چهار قالب قابل کپی
1) ارزیابی مقدماتی حق چاپ:
به من کمک کنید تا قبل از بارگیری محتوای زیر در ابزار هوش مصنوعی، محتوای زیر را از نظر حق نسخهبرداری ارزیابی کنم: آیا محتوا میتواند دارای حق نسخهبرداری باشد، کدام روش استفاده خطرناک است، کدام جایگزین (گزیده، مجوز، دامنه عمومی) امنتر است؟ نوع محتوا: [اینجا]
2) اسکن داده های شخصی:
آیا متن زیر حاوی اطلاعات شخصی (نام، تماس، هویت، سابقه خواندن/جستجو، اطلاعات حاکی از سلامت/باور) است؟ هر یک را علامت گذاری کنید، طبقه بندی کنید و نحوه ناشناس کردن آن را پیشنهاد دهید. متن: [اینجا]
3) پیش نویس خط مشی استفاده از هوش مصنوعی:
پیشنویس دستورالعملهای استفاده از هوش مصنوعی یک صفحهای برای سازمان ما: (1) خطمشیهای ابزار تایید شده، (2) انواع دادههایی که هرگز وارد نشدهاند، (3) قانون اعتبارسنجی خروجی، (4) پاسخگویی و شفافیت، (5) خطمشیهای حق چاپ و حریم خصوصی. آن را کوتاه و قابل اجرا نگه دارید. زمینه: [اینجا]
4) پرسش کنترل اخلاقی:
استفاده برنامه ریزی شده هوش مصنوعی زیر را در برابر ارزش های کتابداری آزمایش کنید: برابری دسترسی، حریم خصوصی، دقت/یکپارچگی، خطر سوگیری، و نگرانی های پرچم در صورت وجود. استفاده: [اینجا]
اعلان ضعیف / اعلان قوی
اعلان ضعیف:
آیا برای خلاصه کردن این کتاب باید آن را روی هوش مصنوعی بگذارم؟
این سوال حق چاپ، شرایط داده ابزار و گزینه های جایگزین را در نظر نمی گیرد. پاسخ "بله" ممکن است منجر به نقض حقوق شود.
اعلان قدرتمند:
نقش شما: دستیار مشاور حق نشر و حریم خصوصی. من در نظر دارم محتوای زیر را به یک ابزار هوش مصنوعی بدهم. مشکلات احتمالی را از نظر وضعیت حق چاپ، استفاده از داده های خودرو و خطر داده های شخصی لیست کنید. جایگزین های امن تری را پیشنهاد دهید (نقل قول کوتاه، مجوز، دامنه عمومی، سیستم بسته). ادعای اطمینان حقوقی، نشان دادن خطرات. محتوا و زمینه: [اینجا]
اعلان قدرتمند؛ این تصمیم را از نظر کپی رایت، شرایط داده ها و جنبه های حفظ حریم خصوصی در نظر می گیرد و جایگزین های امن را روی میز قرار می دهد.
جدول ابعاد حاکمیت
اندازه
سوال اساسی
احتیاط
کپی رایت
آیا نقض ورودی/خروجی وجود دارد؟
مجوز، مالکیت عمومی، گزیده ای کوتاه
حریم خصوصی
آیا داده های شخصی محافظت می شود؟
ناشناس سازی، به حداقل رساندن
شفافیت
آیا کاربر می داند؟
اطلاعات واضح، رضایت
مسئولیت
چه کسی پاسخگو است؟
خط مشی مکتوب، تایید انسانی
ارزش ها
آیا دسترسی و یکپارچگی محافظت می شود؟
بررسی اخلاقی، بررسی تعصب
اشتباهات رایج
- آپلود محتوای دارای حق چاپ بدون فکر. خطر نقض حق چاپ و شرایط داده وجود دارد.
- وارد کردن اطلاعات شخصی در ابزار عمومی تجاوز به حریم خصوصی و خطر قانونی.
- پنهان کردن استفاده از هوش مصنوعی بدون شفافیت، اعتماد آسیب می بیند.
- اشتباه گرفتن "قانونی" با "اخلاقی". استفاده قانونی ممکن است غیراخلاقی باشد.
- عدم ایجاد چارچوب حکومتی استفاده کنترل نشده خطرات غیرقابل پیش بینی ایجاد می کند.
به طور خلاصه
کپی رایت، رازداری و اخلاق اساس مسئولیت کتابداری در عصر هوش مصنوعی است. وضعیت کپی رایت ورودی و شرایط داده ابزار را ارزیابی کنید. حقوق خروجی را زیر سوال ببرید. حفاظت از داده های شخصی با ناشناس سازی و کوچک سازی؛ شفاف بودن برای کاربر و کسب رضایت؛ یک چارچوب حاکمیتی روشن در سازمان ایجاد کنید. ارزشهای ریشهدار کتابداری (دسترسی برابر، حریم خصوصی، صداقت، بیطرفی) قطبنمایی است که هر استفاده از هوش مصنوعی را آزمایش میکند. تغییرات تکنولوژی؛ مسئولیت و ارزش ها تغییر نمی کند و مسئولیت نهایی همیشه بر عهده انسان است.
وظیفه کاربردی
یک سند قوانین استفاده یک صفحه ای برای سازمان خود (یا یک سازمان ساختگی) با الگوی «پیش نویس خط مشی استفاده از هوش مصنوعی» تهیه کنید: ابزارهای تأیید شده، داده هایی که هرگز وارد نمی شوند، قانون اعتبارسنجی، مسئولیت. سپس، یک استفاده واقعی از هوش مصنوعی را که برای دسترسی، حفظ حریم خصوصی، دقت و سوگیری برنامه ریزی کرده اید، با الگوی "Ethical control query" آزمایش کنید و بنویسید که چگونه به نگرانی های پیش آمده رسیدگی می کنید.
چک لیست
- [ ] وضعیت حق چاپ ورودی و شرایط داده ابزار را ارزیابی کردم.
- [ ] من اطلاعات شخصی را ناشناس کردم و فقط از آنچه لازم بود استفاده کردم.
- [ ] من در مورد استفاده از هوش مصنوعی و رضایت محترمانه برای کاربر شفاف بوده ام.
- [ ] من یک خط مشی مکتوب استفاده از هوش مصنوعی برای سازمان ایجاد کرده ام.
- [ ] من استفاده را با ارزش های کتابدار آزمایش کردم و مسئولیت را بر عهده انسان گذاشتم.
امتحان ماژول
1. کدام یک از موارد زیر دقیق ترین موقعیت برای هوش مصنوعی در کتابداری و مدیریت اطلاعات است؟
- الف) هوش مصنوعی یک دستیار خلاصه، فراداده، جستجو و توصیه است. مسئولیت دقت، قابلیت اطمینان منبع و تصمیمات اخلاقی بر عهده انسان است ✔
- ب) هوش مصنوعی می تواند به طور قابل اعتمادی صحت و صحت یک منبع را تأیید کند
- ج) هوش مصنوعی فقط در فهرست نویسی کتاب کار می کند، ربطی به سایر کارهای کتابداری ندارد
- د) از آنجایی که هوش مصنوعی بی طرف تر از انسان است، تصمیم گیری در مورد موضوع و طبقه بندی باید به آن واگذار شود.
توضیحات: هوش مصنوعی; این یک دستیار است که ابرداده ها را پیش نویس می کند، خلاصه می کند، ترجمه می کند، الگو را علامت گذاری می کند و به منبع نشان می دهد. کارشناس ذی صلاح مسئول وظایف با پیامدهای بالا مانند تأیید صحت، تصمیمات موضوع و طبقه بندی، اعتبار منبع، و تصمیمات حق چاپ و حریم خصوصی است. یک خروجی تأیید نشده ممکن است منجر به انتشار یک منبع ساختگی یا نقض حریم خصوصی شود.
2. چرا "توهم" به ویژه برای کتابدار خطرناک است؟
- الف) خروجی هوش مصنوعی بسیار کند تولید می شود و زمان را تلف می کند
- ب) هوش مصنوعی می تواند به طور قانع کننده ای منابع و نقل قول های ناموجود تولید کند و ماهیت این حرفه اصالت منبع است ✔
- ج) توهم فقط در پردازش تصویر اتفاق می افتد، ربطی به متن ندارد
- د) توهم فقط در ابزارهای بسیار قدیمی هوش مصنوعی دیده می شود نه در ابزارهای فعلی.
توضیح: توهم زمانی است که هوش مصنوعی منبع، نقل قول یا اطلاعات ناموجودی را به روشی بسیار متقاعدکننده تولید می کند. از آنجایی که ماهیت حرفه، صحت و اعتبار منبع است، اگر یک چاپ یا نقل قول ساختگی بدون تأیید به کتابشناسی یا کاربر منتقل شود، اطلاعات نادرست جدی رخ خواهد داد.
3. کدام یک از موارد زیر بیشترین خطر ساخت را در هنگام تولید ابرداده با هوش مصنوعی دارد و چگونه باید به آن پرداخت؟
- الف) ناحیه زبان در معرض خطرترین منطقه است و نیازی به تأیید ندارد
- ب) قسمت عنوان دارای بالاترین خطر است و باید با پیش بینی پر شود
- ج) ISBN و سال انتشار بالاترین خطر ساخت را دارند و باید کلمه به کلمه با منبع اصلی تأیید شوند.
- د) هیچ زمینه ای ریسک ندارد زیرا هوش مصنوعی همیشه ابرداده را به درستی تولید می کند
توضیح: فیلدهای عددی دقیق مانند ISBN و سال انتشار به راحتی توسط هوش مصنوعی جعل می شوند. هوش مصنوعی میتواند به جای شابکی که نمیداند، عددی با ظاهر معقول تولید کند. این فیلدها باید کلمه به کلمه با منبع اصلی (بارکد، چاپ/کلوفن) تأیید شوند.
4. هدف اصلی از استفاده از "واژگان کنترل شده" هنگام اختصاص یک اصطلاح موضوعی چیست؟
- الف) اطمینان از سازگاری اصطلاحات و در دسترس بودن در بین سوابق. جلوگیری از ساخت اصطلاحات رایگان توسط هوش مصنوعی ✔
- ب) هر عبارت جدید درخواست شده توسط هوش مصنوعی را به صورت خودکار به کاتالوگ اضافه کنید
- ج) عبارات موضوعی را به طور کامل حذف کنید و فقط بر اساس عنوان جستجو کنید
- د) کند کردن فهرست نویسی و نوشتن هر رکورد با اصطلاحات مختلف
توضیحات: واژگان کنترل شده فهرستی از اصطلاحات تایید شده و استاندارد است. اگر یک موضوع با اصطلاحات مختلف در رکوردهای مختلف نوشته شود، کاربر یکی را پیدا می کند و دیگری را از دست می دهد. با دادن این فهرست به هوش مصنوعی و گفتن به آن "فقط از لیست انتخاب کنید"، سازگاری و قابلیت یافتن حفظ می شود. اصطلاح جدیدی که توسط هوش مصنوعی فهرست نشده است نباید به کاتالوگ اضافه شود.
5. روش صحیح گرفتن شماره طبقه بندی سند از هوش مصنوعی چیست؟
- الف) عدد دقیق داده شده توسط هوش مصنوعی باید مستقیماً بدون نگاه کردن به جدول رسمی پذیرفته شود
- ب) از شماره های طبقه بندی به هیچ وجه استفاده نشود، منابع باید به صورت تصادفی در قفسه بندی قرار گیرند
- ج) پروپوزال مستر کلاس مقدماتی تلقی شود، مراحل دقیق با جدول طبقه بندی رسمی تایید شود✔
- د) از آنجایی که هوش مصنوعی نمی تواند طبقه بندی کند، این کار باید به طور کامل نادیده گرفته شود
توضیح: هوش مصنوعی اغلب میتواند کلاس اصلی مناسب را پیدا کند، اما ممکن است سطوح فرعی (مانند سابقه پزشکی به جای دارو) را از دست بدهد یا اعداد نادرستی تولید کند که منطقی به نظر میرسند. بنابراین، پروپوزال مستر کلاس باید شروعی تلقی شود و مراحل دقیق آن با جدول طبقه بندی رسمی تایید شود.
6. هنگام مقایسه جستجوی معنایی و جستجوی کلیدواژه کدام عبارت درست است؟
- الف) جستجوی معنایی باید در همه موارد جایگزین جستجوی کلیدواژه شود
- ب) جستجوی معنایی منابع مرتبط معنایی را پیدا می کند. جستجوی کلمه کلیدی برای عنوان دقیق یا ISBN قابل اعتمادتر است ✔
- ج) جستجوی کلیدواژه منابعی با عبارات مختلف را پیدا می کند که از نظر معنایی بهتر از جستجوی معنایی مرتبط هستند
- د) جستجوی معنایی فقط روی داده های عددی کار می کند، نه روی متن
توضیحات: جستجوی معنایی منابعی با کلمات متفاوت اما مرتبط مانند «مشکل خواب» و «اختلال خواب» را پیدا میکند، زیرا با معنای کلمات مطابقت دارد (از طریق بردارهای جاسازی شده). در مقابل، زمانی که به دنبال یک ISBN دقیق، عنوان کامل یا شماره قانون هستید، جستجوی کلمه کلیدی/دامنه قابل اعتمادتر است. بهترین روش استفاده از هر دو با هم است.
7. وظیفه کتابدار در برابر خطر "حباب فیلتر" در توصیه های منابع شخصی سازی شده چیست؟
- الف) حباب را فقط با توصیه کردن مشابه ترین منابع به کاربر تقویت کنید
- ب) به طور کامل از ارائه پیشنهاد صرف نظر کنید
- ج) به اشتراک گذاری تاریخچه خواندن کاربر به صورت عمومی
- د) افزودن آگاهانه منابع با دیدگاه ها و افق های مختلف و بیان شفاف این موضوع ✔
توضیح: حباب فیلتر زمانی است که سیستم توصیه به طور مداوم کاربر را در محتوای مشابه قفل می کند و او را از دیدگاه های جدید و متفاوت دور نگه می دارد. ارزش کتابخانه دسترسی برابر و متنوع است. بنابراین، کتابدار آگاهانه با افزودن منابعی با ظاهری متفاوت و چشمگشا و بیان شفاف این حباب، حباب را میشکند.
8. هنگام پردازش یک سند بایگانی با هوش مصنوعی، کدام عمل از نظر "اصالت و یکپارچگی" صحیح است؟
- الف) سند را با هوش مصنوعی «زیباسازی» کنید، آن را با تکمیل قسمتهای گمشده تکمیل کنید و نسخه اصلی را جایگزین کنید
- ب) حذف اصل خام و حفظ نسخه بهبود یافته با هوش مصنوعی
- ج) OCR فقط باید خطاهای تشخیص را تصحیح کند، محتوا نباید اصلاح شود، اصل خام باید حفظ شود و مشتقات باید به وضوح برچسب گذاری شوند.
- د) خروجی OCR را بدون هیچ گونه اصلاحی به عنوان «متن پاک» بپذیرید و آن را برای جستجو باز کنید.
توضیحات: ماهیت کار آرشیوی این است که اطمینان حاصل شود که سند از منبع ادعا شده است و محتوای آن تغییر نکرده است. تصحیح OCR فقط باید خطاهای تشخیص را حذف کند، نه اینکه محتوا را تغییر دهد. "بازیابی" هوش مصنوعی جایگزینی برای شواهد واقعی نیست زیرا می تواند بخش های گم شده را جبران کند. اسکن خام (اصلی) باید همیشه حفظ شود، مشتقات باید به وضوح برچسب گذاری شوند.
9. کدام یک از موارد زیر برای ساخت مسئول ربات اطلاعات کتابخانه ای ضروری است؟
- الف) ربات از دانش عمومی خود به سرعت پاسخ هر سوال را تولید می کند و منابعی را ذکر نمی کند
- ب) ربات فقط بر اطلاعات تایید شده شرکت تکیه می کند، به حقایق استناد می کند و سوالات حساس را به متخصص/انسان هدایت می کند ✔
- ج) ربات مستقیماً در مورد سؤالات پزشکی و حقوقی مشاوره دقیق می دهد
- د) پنهان شدن از دید کاربر چه با یک ربات صحبت کند یا یک انسان
توضیح: ربات مشاوره فقط باید به اطلاعات تایید شده فعلی و فهرست منابع موسسه تکیه کند نه به حافظه عمومی آن، حقایق را با ذکر منبع بیان کند، در مورد مسائل پزشکی/حقوقی/حساس توصیه نکند، آن را به متخصص هدایت کند و در مواقع لزوم به انسان منتقل کند. بنابراین، ربات جایگزین انسان نمی شود، بلکه به لایه ای تبدیل می شود که بار را کاهش می دهد.
10. در کتاب سنجی، روش صحیح برای یافتن تعداد استناد نویسنده یا h-index چیست؟
- الف) درخواست مستقیم از هوش مصنوعی، زیرا اعدادی که می دهد همیشه صحیح هستند
- ب) دریافت اعداد از پایگاه استنادی واقعی؛ استفاده از هوش مصنوعی فقط برای سازماندهی و تفسیر این داده ها ✔
- ج) اعداد را تخمین زده و در تصمیم گیری های پخش از آنها استفاده کنید
- د) در نظر گرفتن تعداد استنادها به عنوان معیار مستقیم کیفیت اثر یک نویسنده.
توضیح: هوش مصنوعی میتواند مقادیری مانند تعداد استناد و h-index را بدون دسترسی به دادههای واقعی بسازد (مثلاً وقتی واقعاً 19 است میتواند مقدار 42 را بدهد). بنابراین، اعداد و استنادها باید از یک پایگاه استنادی واقعی گرفته شوند. هوش مصنوعی فقط باید برای خوشهبندی، مرتبسازی و تفسیر این دادههای واقعی استفاده شود.
11. در مورد حد معیارهای کتابسنجی (تعداد استنادها، h-index، ضریب تاثیر) کدام درست است؟
- الف) معیارها به طور مستقیم کیفیت را اندازه گیری می کنند و در بین دامنه ها قابل مقایسه هستند
- ب) معیارها را می توان به تنهایی در تصمیم گیری های استخدام و ارتقا به کار برد.
- ج) معیارها استفاده را نشان می دهند، نه کیفیت. نمی توان در بین حوزه ها مقایسه کرد و باید با ارزیابی کیفی متعادل شود
- د) خروجی های علوم انسانی به طور کامل و کامل در پایگاه های استنادی ارائه شده است
افشا: این معیارها میزان استفاده و دیده شدن را نشان می دهند، آنها معیارهای مستقیم کیفیت نیستند. چون فرهنگ استنادی رشته ها متفاوت است (مانند پزشکی و فلسفه)، نمی توان آنها را مستقیماً با هم مقایسه کرد. خروجی های کتاب سنگین در علوم انسانی در پایگاه های داده کمتر ارائه شده است. بنابراین، معیارها نباید به تنهایی برای ارزیابی افراد مورد استفاده قرار گیرند، بلکه باید با ارزشیابی کیفی متعادل شوند.
12. مزیت کلیدی رویکرد RAG (تولید با دسترسی) نسبت به هوش مصنوعی عمومی چیست؟
- الف) کاهش چشمگیر توهم با لینک دادن پاسخ به اسناد واقعی موسسه و ذکر منبع✔
- ب) همیشه بدون در نظر گرفتن کیفیت پایه سند پاسخ کامل دهید
- ج) ایجاد توهم به طور کامل و دائمی
- د) باز کردن تمام اسناد برای همه بدون نیاز به کنترل دسترسی
توضیح: RAG هنگام پاسخ به یک سوال ابتدا قطعات مربوطه را از اسناد خود موسسه پیدا کرده و تنها بر اساس این قطعات با ذکر منبع پاسخ را تولید می کند. به این ترتیب پاسخ به اسناد واقعی و قابل ردیابی مرتبط می شود و توهم تا حد زیادی کاهش می یابد. با این حال، RAG به طور کامل توهم را از بین نمی برد، زیرا اگر قطعه اشتباهی مطرح شود، ممکن است پاسخ همچنان اشتباه باشد.
13. در علوم انسانی و اجتماعی، مطمئن ترین روش برای تایید نقل قول از هوش مصنوعی به کاربر چیست؟
- الف) مطمئن شوید که نقل قول قابل باور و روان به نظر می رسد
- ب) فقط از هوش مصنوعی بخواهید که همان نقل قول را بازتولید کند
- ج) نقل قول را با یافتن آن در اثر واقعی نویسنده تأیید کنید
- د) قبول این که انتساب نقل به اسم معروف کافی است
توضیحات: هوش مصنوعی می تواند نقل قول های کاملا ساختگی منتسب به یک نویسنده واقعی ایجاد کند. این واقعیت که نقل قول کلمه به کلمه دقیق و قانع کننده به نظر می رسد دلیلی بر صحت آن نیست. قابل اعتمادترین روش تأیید نقل قول با یافتن آن در اثر واقعی نویسنده است. منطق "این نویسنده ممکن است چنین چیزی گفته باشد" کافی نیست.
14. کدام اصل در استفاده از هوش مصنوعی از نظر کپی رایت، حریم خصوصی و اخلاقی صحیح است؟
- الف) داده های دارای حق چاپ و شخصی را می توان بدون فکر در ابزار عمومی وارد کرد زیرا سریع است
- ب) اگر استفاده قانونی باشد، قطعاً اخلاقی است و نیازی به ارزیابی بیشتر نیست.
- ج) وقتی هوش مصنوعی یک خروجی تولید می کند، مسئولیت کاملاً بر عهده ابزار است نه انسان.
- د) حق چاپ و حریم خصوصی باید از همان ابتدا رعایت شود. ناشناس سازی، شفافیت و رضایت ضروری است و مسئولیت نهایی بر عهده انسان است ✔
توضیح: ورودی تکانشی محتوای دارای حق چاپ و داده های شخصی (شناسه کاربری، تاریخچه خواندن/جستجو) به ابزارهای عمومی هوش مصنوعی ممکن است منجر به نقض حقوق و حریم خصوصی شود. ناشناس سازی، به حداقل رساندن داده ها، شفافیت و رضایت ضروری هستند. علاوه بر این، حتی اگر استفاده قانونی باشد، ممکن است غیراخلاقی باشد. «همه از آن استفاده میکنند» یا «به سرعت اتفاق میافتد» یک عمل را توجیه نمیکند و مسئولیت نهایی بر عهده متخصص است، نه ابزار.