وحدة 8 / 12

تحليل المحتوى واكتشاف الأنماط

المكاسب:

  • القدرة على استخراج الأنماط من مجموعات كبيرة من النصوص باستخدام تقنيات مثل NER واستخراج العلاقات والجدول الزمني وتحليل الشبكة
  • القدرة على رؤية النمط كفرضية وليس كدليل، وربط الكيانات بالمصدر وتطبيعها بموافقة الإنسان
  • القدرة على فهم كيف يمكن أن تكون الأرقام مضللة بسبب فقدان البيانات والتحيز في أخذ العينات، وتجنب العلاقات والتسلسلات الزمنية المفتعلة.

البحث التاريخي لا يقتصر فقط على قراءة الوثائق الفردية؛ غالبًا ما تبحث عن أنماط في مجموعات كبيرة من المستندات. في أي سياقات يظهر اسم معين على مر السنين؟ من هم الأشخاص المرتبطون بالتسوية؟ كيف يتغير الموضوع مع مرور الوقت؟ من يتواصل مع من؟ تتطلب مثل هذه الأسئلة النظر ليس في مستند واحد، بل في مئات المستندات بشكل جماعي. يُطلق على هذا غالبًا اسم العلوم الإنسانية الرقمية، أي تطبيق الأساليب الحسابية في مجالات مثل التاريخ والأدب.

الذكاء الاصطناعي قوي في استخراج المعلومات المنظمة من مجموعات كبيرة من النصوص. في هذه الوحدة، سوف تتعلم NER (التعرف على الكيان المسمى)، واستخراج الأنماط والعلاقات، ومنطق نمذجة الموضوع، وإنشاء الجدول الزمني؛ ولكننا سنناقش أيضًا أخطر مأزق في هذه التقنيات، وهو أن الذكاء الاصطناعي يقدم نفسه على أنه "وجد" نمطًا غير موجود.

التقنيات الأساسية

  • NER (التعرف على الكيانات المسماة): الاستخراج التلقائي للكيانات مثل الشخص والمكان والمؤسسة والتاريخ من النص. وينتج قائمة مثل "جميع أسماء الأماكن المذكورة في هذه المستندات الـ 500" في دقائق.
  • استنتاج العلاقة: تحديد الروابط بين الكيانات ("الشخص X في المكان Y"، "A يتوافق مع B").
  • نمذجة الموضوع: العثور إحصائيًا على مجموعات من المواضيع المتكررة في مجموعة كبيرة من النصوص. ويبين المواضيع التي تتركز في أي فترة.
  • استنتاج الجدول الزمني: ترتيب الأحداث المؤرخة في المستندات بترتيب زمني.
  • تحليل الشبكة: تصور العلاقات بين الأشخاص/المؤسسات كشبكة (من هو المركز، ومن هو نقطة الاتصال).

الهدف المشترك لكل هذه الأمور هو الكشف عن الهياكل التي لا تظهر في وثيقة واحدة ولكنها تظهر في جميع أنحاء المجموعة. تصنع هذه التقنيات أنماطًا مرئية لن تكون مرئية أبدًا من خلال القراءة وحدها. ولكن كل واحد منهم هو "علامة" وليس "دليلاً"؛ ومن الضروري التحقق مما هو موجود في الوثيقة الأصلية.

من المفاهيم المستخدمة بشكل متكرر في هذا المجال هو التمييز بين القراءة الفاحصة (قراءة النص بعمق، سطرًا تلو الآخر) والقراءة البعيدة (النظر إلى مئات/آلاف النصوص بشكل جماعي، إحصائيًا). يتيح الذكاء الاصطناعي القراءة عن بعد: حيث ترى أنماطًا في مجموعة كبيرة بما يكفي لتدوم حياة إنسان واحدة. ولكن عندما تشير القراءة البعيدة إلى نمط ما، فمن الضروري العودة إلى القراءة الفاحصة، أي إلى الوثيقة الأصلية، لفهمه. الطريقتين غير قابلة للتبديل؛ أحدهما يظهر النمط والآخر يعطي معناه. أقوى الأبحاث تستخدم الاثنين معًا.

نصيحة: استخدم تحليل الأنماط كمولد للفرضيات: "لقد اكتشف الذكاء الاصطناعي نمطًا هنا، هل هو حقيقي؟" ثم تحقق من هذا النمط في المستندات واحدًا تلو الآخر. النمط هو نقطة البداية لبحثك، وليس النتيجة.

سير العمل: خطوة بخطوة

1. وضح السؤال. "من هم الأشخاص الذين يظهرون معًا بشكل متكرر في هذه المجموعة؟" سؤال نمط واضح مثل.

2. قم بإعداد البيانات وتسميتها. قم بتنظيم النص باستخدام مراجع المصدر بحيث يمكن ربط أي أصول تم العثور عليها بالمستند مرة أخرى.

3. يظهر الكيان/النمط. قم بإنشاء مخطط NER أو علاقة أو مخطط زمني باستخدام الذكاء الاصطناعي.

4. التطبيع. الجمع بين تهجئات مختلفة لنفس الشخص/المكان ("اسطنبول / إسطنبول / القسطنطينية" نفس المكان؟). هذه الخطوة حاسمة؛ إذا تم حذفه، فسوف ينهار النمط.

5. التحقق في الوثيقة. تحقق من المستندات الفعلية بحثًا عن أي أنماط مهمة تم وضع علامة عليها. تأكد من أن الذكاء الاصطناعي لا يضيف رابطًا مكياجًا.

6. تعليق. ما يعنيه النمط هو حكم المؤرخ. الذكاء الاصطناعي يمثل النمط فقط.

مصيدة الأرقام والإحصائيات

غالبًا ما ينتج عن تحليل الأنماط أرقام: "يتكرر الاسم X 47 مرة"، "هذا الموضوع موجود في 30% من المستندات". تبدو هذه الأرقام موضوعية ولكنها قد تكون مضللة:

  • البيانات المفقودة: إذا كانت المجموعة غير مكتملة بالفعل (فقدت المستندات، ولم يتم تسجيل المجموعة مطلقًا)، فإن الرقم يعكس المستندات الباقية، وليس الواقع.
  • خطأ في التسوية: إذا تمت كتابة نفس الشخص بشكل مختلف وتم حسابه بشكل منفصل، فسيكون الرقم غير صحيح.
  • فقدان السياق: عبارة "يحدث 47 مرة" لا تقول شيئًا؛ من المهم كيفية تمريره (إيجابي/سلبي، موضوع/كائن).

إخراج النمط

معنى واضح

خطر حقيقي

"X يحدث 47 مرة"

شخص مهم

مجموعة غير مكتملة، والاختلاف الإملائي

"الموضوع 30%"

الموضوع المهيمن

تحيز أخذ العينات

"A-B معًا في كثير من الأحيان"

علاقة حميمة

صدفة، سياق مفقود

"الجدول الزمني"

التسلسل الزمني الدقيق

وثائق غير مؤرخة، أمر ملفق

ثلاث حالات صغيرة

الحالة 1 - كشف تحليل الشبكة عن وجود وسيط مخفي. قام أحد الباحثين بفحص مجموعة مراسلات مكونة من 800 رسالة. مع الذكاء الاصطناعي، تم تحديد من كتب ولمن تم إنشاء شبكة. وأظهرت الشبكة أن الشخص الذي يبدو غير مهم للوهلة الأولى كان في الواقع نقطة الاتصال الرئيسية بين المجموعتين. وركز الباحث على رسائل هذا الشخص وتوصل إلى نتيجة جديدة. لكن تحقق أولاً من جميع الروابط الموجودة في المستندات.

الحالة 2 - خطأ في التسوية أدى إلى إتلاف الرقم. طلب منهم أحد الطلاب حساب عدد المرات التي ظهر فيها المكان في المستندات. وبما أن الذكاء الاصطناعي أحصى ثلاث تهجئات مختلفة لنفس المكان بشكل منفصل، فقد تبين أن الرقم يمثل ثلث الرقم الحقيقي. عندما تم دمج التهجئة، كان المكان في الواقع في الموضع الثالث الأكثر تكرارًا. الدرس المستفاد: بدون التطبيع لا يمكن الوثوق بالرقم.

الحالة 3 - الجدول الزمني المعد. قام أحد الباحثين بإنشاء جدول زمني من وثائق غير مؤرخة. قام الذكاء الاصطناعي بترتيب الأحداث غير المعروفة بترتيب "منطقي" وقدم تسلسلاً زمنيًا دقيقًا. ومع ذلك، لم يكن هذا التسلسل موجودًا في الوثائق، فقد اختلقته منظمة العفو الدولية. الدرس: يتم إنشاء المخطط الزمني فقط من الأحداث التي لها تاريخ في المستند؛ الباقي يبقى "غير مؤرخ".

أربعة قوالب قابلة للنسخ

1) NER (استدلال الكيان):

الأشخاص والأماكن والمؤسسات والتواريخ المذكورة في الوثائق أدناه تظهر كقوائم منفصلة. وضح في أي وثيقة (مرجع) تم ذكر كل كيان. خذ فقط ما هو مذكور بوضوح في النص؛ إضافة عن طريق التخمين. ضع علامة [؟] إذا لم تكن متأكدًا من النطق. الوثائق: [هنا]

2) تطبيع الكيان:

في قائمة الكيانات أدناه، قم بتجميع التهجئة المختلفة التي يمكن أن تكون لنفس الشخص/المكان (على سبيل المثال، "Istanbul / Kostantiniyye"). اقترح الشكل المشترك المحتمل لكل مجموعة ولكن لا تفرض التركيبة الدقيقة؛ أضف ملاحظة "ربما يكون الأمر نفسه، دع الأشخاص يتحققون". اترك الأمر بمفرده إذا لم تكن متأكدًا. القائمة: [هنا]

3) مخطط العلاقة/الشبكة:

قم باستخراج روابط "من يرتبط بمن" من مجموعة المراسلات/المستندات التالية. لكل رابط، أشر إلى الوثيقة (المرجع) التي يستند إليها. تكوين علاقة غير موجودة بشكل واضح في المستند. وضع علامة على الروابط الغامضة [غير واضحة]. التوثيق: [هنا]

4) الجدول الزمني المؤرخ:

أدرج بالترتيب الزمني فقط الأحداث المذكورة بوضوح في الوثائق التالية؛ ربط كل حدث بمصدره. قم بإدراج الأحداث ذات التواريخ غير المؤكدة بشكل منفصل تحت عنوان "غير مؤرخة"، ولا ترتبها. لا تقم بتعويض التاريخ المقدر. التوثيق: [هنا]

موجه ضعيف / موجه قوي

ضعيف:

قم بتحليل هذه المستندات واستخرج الأنماط والعلاقات والجداول الزمنية المهمة.

"استخراج الأنماط المهمة" يدفع الذكاء الاصطناعي إلى اختراع اتصالات غير موجودة وتسلسلات زمنية دقيقة، وتقديم الأرقام دون تطبيع.

قوي:

استخراج كيانات الشخص/المكان/المؤسسة من المستندات التالية عن طريق ربط كل منها بمرجع الوثيقة. قم بوضع علامة على التهجئة المختلفة التي قد تكون مماثلة لعبارة "قد يتم دمجها"، ولكن لا يتم دمجها. العلاقات التي لم يتم ذكرها بوضوح في الوثيقة والأحداث ذات التواريخ غير المؤكدة ليست مزيفة؛ احتفظ بتلك التي ليس لها تواريخ منفصلة. التوثيق: [هنا]

الفرق: الإسناد إلى المصدر، وترك التطبيع للبشر، وحظر الروابط/التاريخ الوهمي، والفصل بين الأحداث غير المؤرخة، يجعل هذا النمط قابلاً للدفاع عنه.

الأخطاء الشائعة

  • الخلط بين النمط والأدلة. النمط هو الفرضية. يتم التحقق منها في الوثيقة.
  • تخطي التطبيع. التهجئة المختلفة لنفس الكيان تشوه الرقم والشبكة.
  • الثقة العمياء بالأرقام. الجمع غير المكتمل والتحيز في أخذ العينات يجعل الرقم مضللاً.
  • الجدول الزمني المصنوع. لا يتم تضمين الأحداث غير المؤرخة في التسلسل الزمني.
  • تجاهل السياق. ليس المهم "كم مرة تم تمريره"، ولكن "كيف تم تمريره" هو المهم.

في ملخص

يعد تحليل المحتوى واكتشاف الأنماط مجالًا قويًا حيث يقوم الذكاء الاصطناعي بإنشاء هياكل مرئية لن تكون مرئية من خلال القراءة وحدها: استخراج الكيانات، وشبكات العلاقات، ومجموعات المواضيع، والجداول الزمنية. ولكن كل نمط هو فرضية، وليس دليلا. اربط الأصول بالمصدر، وقم بالتطبيع بعناية ومن خلال التحقق البشري، واستفسر عن الأرقام بحثًا عن البيانات المفقودة والتحيز، وتجنب العلاقات والتسلسلات الزمنية المفتعلة. الذكاء الاصطناعي يمثل النمط؛ ما يعنيه وما إذا كان صحيحا هو حكم المؤرخ.

مهمة التطبيق

اجمع ما لا يقل عن 15 قطعة من الوثائق (مع المراجع). قم باستخراج كيانات الشخص والمكان باستخدام قالب "NER". ثم قم بتجميع التهجئة المختلفة باستخدام "تطبيع الكيان" وتحقق من المجموعات بنفسك. وأخيرًا، قم بتشغيل قالب "المخطط الزمني المؤرخ" وشاهد عدد الأحداث التي تظل "غير مؤرخة". قارن عدد الروابط أو التسلسلات الزمنية الملفقة التي سينتجها الذكاء الاصطناعي مع مطالبة ضعيفة.

قائمة مرجعية

  • [ ] لقد حددت بوضوح سؤال النمط الخاص بي.
  • [ ] لدي كل كيان مرتبط بمرجع الوثيقة.
  • [ ] لقد قمت بتطبيع كتابة الكيان ودمجتها مع موافقة الإنسان.
  • [ ] شككت في الأرقام بسبب البيانات المفقودة والتحيز.
  • [ ] لم أضع الأحداث غير المؤرخة في تسلسل زمني، بل احتفظت بها بشكل منفصل.