المكاسب:
- القدرة على التمييز بين المجالات التي يوفر فيها الذكاء الاصطناعي الوقت في سير عمل المكتبات (البيانات الوصفية، والملخص، والبحث، والاقتراحات) والأماكن التي تُترك فيها الدقة وموثوقية المصدر وقرارات الخصوصية للبشر، اعتمادًا على مستوى المخاطر.
- القدرة على تطبيق نظام يتحقق من كل مخرجات من خلال ربطها بالمصدر وتأكيدها في مصدر مستقل وتمريرها عبر مرشح التحيز.
- إن فهم لماذا تعتبر الهلوسة والمصادر الملفقة وخصوصية المستخدم من المخاطر التي يجب أخذها بعين الاعتبار في هذه المهنة منذ البداية.
عندما يجلس أحد متخصصي الفهرسة على مكتبه في الصباح، قد يكون لديه العشرات من الكتب التي وصلت حديثًا، ومئات الوثائق من مجموعة التبرعات، وصندوق أرشيف في انتظار تحويلها إلى صيغة رقمية. يجيب أمين المكتبة المرجعي (الخبير الذي يساعد المستخدمين في العثور على المعلومات) على أسئلة طوال اليوم مثل "أين المصدر الموثوق في هذا الموضوع؟" مدير المعلومات مسؤول عن الحفاظ على آلاف المستندات الخاصة بالمؤسسة قابلة للاكتشاف وموثوقة. في هذه الوحدة، سنوضح أين بالضبط الذكاء الاصطناعي (الذكاء الاصطناعي باختصار؛ نماذج اللغات الكبيرة والأدوات المماثلة) الذي يوفر الوقت في هذه المهام، وأين يبقى الحكم والاختيار والمسؤولية مع الإنسان.
لنبدأ بتعريف: الذكاء الاصطناعي، ونعني به أدوات برمجية لتوليد اللغة والتعرف على الأنماط، مدربة على كميات كبيرة من النصوص. تقوم هذه الأدوات بتلخيص وترجمة واقتراح التصنيف وإنشاء مسودة نص ووضع علامات على الأنماط في أجزاء كبيرة من البيانات. لكنها لا تعرف ما إذا كان المصدر موجودًا بالفعل، أو ما إذا كانت المعلومات صحيحة، أو ما إذا كانت خصوصية المستخدم محمية. ولهذا السبب، في مجال المكتبات وإدارة المعلومات، يعتبر الذكاء الاصطناعي مساعدًا وليس صانع قرار.
أين يعمل الذكاء الاصطناعي وأين لا يعمل؟
دعونا نقسم سير عمل المكتبات إلى ثلاث طبقات. الطبقة الأولى عبارة عن مهام ميكانيكية ومتكررة: استخراج مسودة البيانات الوصفية من سطر الكتاب، وتلخيص تقرير طويل، وترجمة النص من لغة إلى أخرى، وتنظيف جدول البيانات. الذكاء الاصطناعي قوي هنا ويوفر الكثير من الوقت.
الطبقة الثانية هي العمل شبه القضائي: ما هو عنوان الموضوع الذي يجب تقديمه للمستند، وما إذا كان سيتم تضمين مورد في مجموعة، وما هو المورد الذي يجب التوصية به للمستخدم. يقدم الذكاء الاصطناعي اقتراحات هنا، لكن الكلمة الأخيرة هي للخبير الذي يعرف سياسة المؤسسة والاحتياجات الحقيقية للمستخدم.
الطبقة الثالثة هي الحكم والمساءلة الخالصة: التأكد من دقة المعلومات، واتخاذ قرار بشأن حقوق النشر، وما إذا كان سيتم الكشف عن البيانات الشخصية الحساسة، والتأكيد على موثوقية المصدر. في هذه الطبقة، يكون مخرجات الذكاء الاصطناعي مجرد نقطة بداية؛ والمسؤولية تقع بالكامل على عاتق البشر.
نصيحة: قبل إعطاء مهمة للذكاء الاصطناعي، اسأل نفسك: "ماذا يحدث إذا كانت هذه النتيجة خاطئة؟" إذا كانت الإجابة "سأضيع بعض الوقت"، فلا تتردد في استخدام الذكاء الاصطناعي. إذا كانت الإجابة "انتشر مصدر كاذب، أو تم تضليل المستخدم، أو تسربت بيانات شخصية"، فتأكد من التحقق من الإخراج.
الهلوسة: أكبر خطر على أمين المكتبة
الهلوسة هي عندما يقوم الذكاء الاصطناعي بإنتاج معلومات أو مصدر أو اقتباس غير موجود كما لو كان حقيقيا، وبلغة مقنعة للغاية. وهذا أمر خطير بشكل خاص على إدارة المكتبات والمعلومات؛ لأن جوهر مهنتنا هو صحة المصدر وموثوقيته.
عندما تطلب من الذكاء الاصطناعي أن "يقترح خمس أوراق بحثية أكاديمية حول هذا الموضوع"، يمكنه إنشاء عناوين ومؤلفين وأسماء دوريات تبدو حقيقية ولكنها غير موجودة على الإطلاق. هذه المصادر الملفقة مقنعة جدًا بحيث يمكن للمستفيد أو حتى أمين المكتبة إضافتها إلى قائمة المراجع دون التحقق منها. وفي العلوم الإنسانية والاجتماعية يصبح الخطر أعظم: فعندما يتم تلفيق "تلك الوثيقة من عام 1897" لصالح مؤرخ أو "قرار المحكمة" لصالح أحد القانونيين، فإن النتيجة تكون معلومات مضللة خطيرة.
تنبيه: لا ينبغي نقل أي اقتباس أو اقتباس أو مرجع للمصدر من إنتاج الذكاء الاصطناعي إلى أي مكان دون التحقق منه في كتالوج حقيقي أو قاعدة بيانات أو المصدر نفسه. فقط لأنها "تبدو مقنعة" لا يعني أنها صحيحة.
انضباط التحقق: ثلاث خطوات
النظام الأساسي الذي يجب على أمين المكتبة تطبيقه عند العمل مع الذكاء الاصطناعي هو:
1. الاتصال بالمصدر. كل حقيقة ورقم وتاريخ وبصمة يجب أن تكون مستندة إلى مصدر أصلي. اسأل الذكاء الاصطناعي "أخبرني من أي مصدر حصلت على هذه المعلومات" وتحقق من هذا المصدر بشكل مستقل.
2. تأكيد بشكل مستقل. التحقق من المعلومات المهمة في مصدر واحد موثوق به على الأقل خارج الذكاء الاصطناعي (الكتالوج الأصلي، قاعدة البيانات الرسمية، الوثيقة الأساسية).
3. مررها عبر مرشح التحيز. يحمل الذكاء الاصطناعي تحيزات البيانات التي يتم تدريبه عليها. قد يؤدي الموضوع المقترح أو قائمة الاقتراحات أو الملخص إلى إبراز وجهات نظر معينة وحجب وجهات نظر أخرى. اسأل من الذي تم استبعاده، وما هو المنظور المفقود.
الخصوصية وخصوصية المستخدم
من أهم المبادئ الأخلاقية الأساسية لمهنة المكتبات هي خصوصية المستخدم: ما يقرأه الشخص، وما يبحث عنه، وما هو الموضوع الذي يهتم به هو أمر سري. إن إدخال البيانات في أدوات الذكاء الاصطناعي، وخاصة الأدوات العامة التي تعمل عبر الإنترنت، والتي تتضمن هويات المستخدمين، أو سجل البحث، أو الموارد المقترضة، قد ينتهك هذا المبدأ؛ لأن هذه البيانات قد تذهب إلى أنظمة الطرف الثالث.
وبالمثل، في أي مؤسسة، لا ينبغي تحميل المستندات غير السرية ولكن الحساسة (معلومات الموظفين، والعقود، والمراسلات الداخلية) إلى أداة عامة للذكاء الاصطناعي. تُفضل الأدوات التي تعمل على النظام الآمن والمغلق الخاص بالمؤسسة لهذا النوع من البيانات.
نصيحة: قبل إدخال أي بيانات في الذكاء الاصطناعي، اسأل "هل هذه المعلومات عامة؟" بسأل. إذا كانت الإجابة لا، أو لم تكن متأكدًا، فضع هذه البيانات في تنسيق مجهول وغير مخصص أو استخدم فقط الأدوات الآمنة المعتمدة من قبل المؤسسة.
ثلاث حالات صغيرة
الحالة 1 - مسودة البيانات الوصفية لـ 400 مستند. كان على مكتبة الجامعة أن تقوم بفهرسة أرشيف يضم 400 وثيقة تبرع بها أحد الأساتذة. استخرج الخبير مسودة عنوان وتاريخ واقتراح موضوع من الصفحة الأولى لكل مستند باستخدام الذكاء الاصطناعي: انخفض متوسط الوقت لكل مستند من 12 دقيقة إلى 4 دقائق. ولكن تمت مقارنة كل مسودة بصمة بالوثيقة الأصلية ووافق عليها الخبير؛ تم اكتشاف 17 تاريخًا غير صحيح تم إعداده بواسطة الذكاء الاصطناعي في هذه الخطوة.
الحالة 2 - تم القبض على مصدر مزيف. تلقى أمين مكتبة استشاري 6 اقتراحات للمقالات من YZ أثناء البحث عن موارد حول "الهجرة المناخية" لطالب جامعي. قام أمين المكتبة بالبحث عنها جميعًا في قاعدة بيانات المؤسسة: 2 من أصل 6 مقالات غير موجودة على الإطلاق. خطوة التحقق منعت الطالب من إعطاء مصدر ملفق.
الحالة 3 - منع خرق السرية. مكتبة تفكر في استخدام أداة ذكاء اصطناعي عامة لتحليل "أي مستخدم مهتم بأي موضوع" من سجلات الخروج. أدرك مدير المعلومات أنه سيكون انتهاكًا للخصوصية أن تخرج هذه البيانات مع معرف المستخدم؛ تم إخفاء هوية البيانات في البداية ومعالجتها فقط كإحصاءات مجمعة وغير محددة الهوية.
أربعة قوالب قابلة للنسخ
1) البدء في تحديد الأدوار والحدود:
دورك: مساعد متخصص في الفهرسة وإدارة المعلومات من ذوي الخبرة. مهمتك: إنتاج مسودة من المعلومات الموجودة في المصدر الذي قدمته لك. القواعد: (1) استخدم المعلومات الواردة في النص الذي قدمته لك فقط، ولا تقم بإضافة معلوماتك الخاصة. (2) ضع علامة "[يجب التحقق]" في المكان الذي لست متأكدًا منه. (3) لا تختلق أي تواريخ أو أسماء أو بصمات. إذا فهمت، ابدأ. المصدر: [هنا]
2) سؤال التحقق من الصحة:
قم بإدراج كل مطالبة واقعية (التاريخ والاسم والرقم والاستشهاد بالمصدر) في النص أدناه. لكل: من أين حصلت على هذه المعلومات في النص؟ إذا لم يكن الأمر واضحًا في النص، فاكتب "ليس في النص". النص: [هنا]
3) التحيز والتحقق من المنظور المفقود:
ما هي وجهات النظر التي يسلط الملخص/التوصية الضوء عليها وما هي التي تتجاهلها؟ ما هي المجموعات أو المناطق أو وجهات النظر التي قد تكون مفقودة؟ فقط اعتمد على النص، لا تتكهن. النص: [هنا]
4) التحقق المسبق من الخصوصية:
هل يحتوي النص أدناه على بيانات شخصية (الاسم، رقم الهوية، جهة الاتصال، سجل القراءة/البحث) أو معلومات حساسة خاصة بالشركة؟ إذا كان الأمر كذلك، قم بإدراجها واقتراح كيفية جعلها مجهولة المصدر. النص: [هنا]
موجه ضعيف / موجه قوي
حث ضعيف:
ابحث لي عن بعض الموارد حول هذا الموضوع.
تدعو هذه المطالبة الذكاء الاصطناعي إلى إنشاء موارد مزيفة. لا توجد أدوار وحدود وقواعد وموارد للتحقق من الصحة. يمكن للذكاء الاصطناعي إنتاج علامات قابلة للتصديق ولكنها غير موجودة.
مطالبة قوية:
دورك: مساعد أمين مكتبة مرجعي. اختر ما يتعلق بموضوع "الهجرة المناخية" من إدخالات الكتالوج التي قدمتها لك أدناه واشرح سبب أهميتها. لا تقم بإضافة أي مصادر غير موجودة في القائمة، ولا تقم باختلاق المصادر. عندما لا تكون متأكدًا، قل "لا توجد مصادر مناسبة مدرجة". إدخالات الكتالوج: [هنا]
الفرق واضح: المطالبة القوية تجبر الذكاء الاصطناعي على العمل من المصدر الحقيقي المحدد، وليس من ذاكرته الخاصة، ويمنع التصنيع.
جدول الطبقات والمسؤوليات
طبقة الأعمال
مهمة عينة
دور الذكاء الاصطناعي
قرار الرجل
ميكانيكية
مشروع البيانات الوصفية، ملخص، الترجمة
تنتج المسودات بسرعة
التحقق والموافقة
شبه قضائية
عنوان الموضوع، اقتراح المصدر
يقدم اقتراحات
الاختيار حسب السياسة
حكم خالص
المصادقة، قرار حقوق النشر
معلومات أولية فقط
المسؤولية الكاملة تقع على عاتق الشخص
الأخطاء الشائعة
- استبدال إخراج AI للمصدر. الذكاء الاصطناعي هو مساعد، وليس موردا؛ يتم التحقق من صحة كل الإخراج.
- قبول المصدر الملفق باعتباره مقنعا. فقط لأنها تبدو جيدة لا يعني أنها صحيحة.
- إدخال البيانات الشخصية/الحساسة في الأداة العامة. يتم احترام خصوصية المستخدم وسرية الشركة منذ البداية.
- تجاهل التحيز. يحمل الذكاء الاصطناعي وجهات نظر البيانات التي يتم تدريبه عليها؛ اسأل ما هو مفقود.
- ترك الحكم لمنظمة العفو الدولية. قرارات الدقة وحقوق النشر والخصوصية تعود إلى البشر.
باختصار
الذكاء الاصطناعي؛ وهو مساعد قوي لتلخيص وصياغة وترجمة ووضع علامات على الأنماط في مجال المكتبات وإدارة المعلومات. يوفر الكثير من الوقت في الأعمال الميكانيكية؛ يقدم المشورة بشأن المسائل شبه القضائية؛ لكن التحقق من الدقة وموثوقية المصدر وخصوصية المستخدم والقرارات الأخلاقية هي أمور تخص البشر. الهلوسة هي أكبر خطر على هذه المهنة: لا يتم استخدام أي اعتمادات أو اقتباسات للمصدر دون التحقق. تشغيل الذكاء الاصطناعي بقواعد واضحة بشأن الدور والحدود والتحقق من الصحة؛ قم بتأكيد كل مخرجات مهمة بمصدر مستقل.
مهمة التطبيق
اختر موضوعًا حقيقيًا من مجالك. اطلب من الذكاء الاصطناعي 5 توصيات للموارد حول هذا الموضوع، ثم ابحث عن كل منها في كتالوج أو قاعدة بيانات فعلية ولاحظ عدد الموارد الموجودة بالفعل. بعد ذلك، باستخدام قالب "تحديد الأدوار والحدود عند بدء التشغيل"، اطلب من الذكاء الاصطناعي أن يعمل فقط من خلال النص الذي تقدمه وقارن مخرجات الطريقتين. اكتب النهج الذي يمنع المناسب.
قائمة مرجعية
- [ ] لقد حددت الطبقة التي تقع عليها المهمة (آلية، شبه قضائية، حكم خالص).
- [ ] "ماذا يحدث إذا كان هذا الإخراج غير صحيح؟" لقد طرحت السؤال.
- [ ] لقد قمت بالتحقق من كل رصيد واستشهاد مقابل مصدر مستقل.
- [ ] لقد تأكدت من عدم وجود معلومات شخصية/حساسة في البيانات المدخلة إلى الذكاء الاصطناعي.
- [ ] لقد احتفظت بالقرار النهائي والمسؤولية حسب تقديري الخاص.