مقدمة للذكاء الاصطناعي في الأعمال المصرفية: الأدوار والحدود والتحقق والأخلاق

المكاسب:

• القدرة على التمييز بين الأماكن التي يوفر فيها الذكاء الاصطناعي الوقت الحقيقي في سير العمل المصرفي (التقييم المسبق، ودعم القرار، والتشغيل، وإعداد التقارير) والأماكن التي تُترك فيها القرارات المنظمة والحيوية للثقة (تخصيص الائتمان، وتوفير الاحتيال/الامتثال) للبشر، وفقًا لمستوى مخاطر المهمة.
• القدرة على تطبيق نظام يتحقق من كل مخرجات الذكاء الاصطناعي من خلال خطوات ربطها بالمصدر وإعادة حسابها وتمريرها عبر تصفية السياسات/التشريعات.
• إخفاء هوية العملاء والبيانات المالية ضمن نطاق KVKK وسر العميل وقواعد سرية البنك واكتساب عادة اختيار المركبات الآمنة

يوم المصرفي مليء بالأرقام والقرارات والثقة. يتم تقييم طلب القرض، وفحص المعاملة لمعرفة ما إذا كانت عملية احتيال، وتحديد المنتج الذي يعتبر مناسبًا للعميل، ويتم إجراء فحص الامتثال وتوقيع التقرير في نهاية اليوم. القاسم المشترك بين هذه الوظائف هو أنها تتطلب جميعًا عملاً سريعًا، وعندما يتم القيام بها بشكل غير صحيح، فإنها تضر بشكل مباشر بأموال الشخص أو سمعته أو الوضع القانوني للبنك. هذا هو بالضبط المكان الذي يقع فيه الذكاء الاصطناعي في هذا التوتر. عند استخدامه بشكل صحيح، فإنه يقلل ساعات العمل إلى دقائق؛ وعندما يستخدم بشكل غير صحيح، فإنه يسرع الخطأ وينتج التمييز ويؤدي إلى قرارات لا يمكن السيطرة عليها.

خلال هذه الوحدة، سنقوم بوضع الذكاء الاصطناعي كمساعد، وفرز أولي، ومولد مسودة. يساعد الذكاء الاصطناعي في قراءة الملف لك، وكتابة المسودات، والبحث عن التناقضات، والتلخيص. لكن القرار لك. سواء تم منح الائتمان، أو اعتبار المعاملة مشبوهة، أو ما يجب قوله للعميل - كل هذه هي أحكام إنسان متمكن. في هذه الوحدة، سنقوم بشكل أساسي بتأسيس هذا التمييز، حيث يوفر الذكاء الاصطناعي الوقت وحيث يُترك القرار للبشر وانضباط التحقق وقواعد الخصوصية.

لماذا تعتبر الأعمال المصرفية مجالًا "حاسمًا للثقة" و"منظمًا".

إذا عملت أداة تصميم التورية بشكل غير صحيح، فلن يتأذى أحد. ولكن النموذج المعيب في البنك من الممكن أن يحرم أسرة من الائتمان الذي تستحقه، أو يقع ضحية عميل شرعي من خلال وصفه بالمحتال، أو التغاضي عن غسيل الأموال وتعريض البنك لعقوبات باهظة. ولذلك فإن العمل المصرفي يتميز بخاصيتين هما:

• الثقة الحرجة: القرارات تؤثر على أموال الناس ومستقبلهم. وحتى لو كان الخطأ قابلاً للإصلاح، فإن الضرر حقيقي.
• ينظم: الخدمات المصرفية. وهي محاطة بلوائح مثل BDDK (وكالة التنظيم والرقابة المصرفية، وهي الهيئة العامة التي تشرف على البنوك)، وMASAK (مجلس التحقيق في الجرائم المالية، وهي مؤسسة مكافحة غسيل الأموال) وKVKK (قانون حماية البيانات الشخصية). لا يمكنك تفسير القرار بقول "قال الذكاء الاصطناعي ذلك"؛ يجب أن تكون قادرًا على تبرير القرار.

ترسي هاتان الميزتان القاعدة الأساسية لاستخدام الذكاء الاصطناعي: إن مخرجات الذكاء الاصطناعي ليست بديلاً عن موافقة خبير مختص. القرار متروك للشخص . سنكرر هذه الجملة عدة مرات خلال الوحدة، لأن الأخطاء الأكثر تكلفة في الأعمال المصرفية تحدث عندما يتم نسيان هذه القاعدة.

انتبه: إن القول بأن "النموذج يعمل بدقة شديدة" لا يعني "أننا نستطيع ترك القرار للنموذج". فحتى النموذج الذي يكون صحيحًا بنسبة 99 بالمائة يعرض خطأه بنسبة 1 بالمائة بنفس الثقة. في مجال الخدمات المصرفية، تمثل نسبة 1% قرضًا لشخص ما أو عقوبة البنك.

أين يصبح الذكاء الاصطناعي مفيدًا في الخدمات المصرفية؟

إن التفكير في الأعمال المصرفية في ثلاث طبقات يجعل من الواضح أين يجب وضع الذكاء الاصطناعي:

1. التقييم المسبق والإعداد (منخفض المخاطر، مكاسب عالية): قراءة المستندات، التحكم المفقود في المستندات، ملخص الملف، مسح تناسق البيانات. وهنا، حتى لو أخطأ الذكاء الاصطناعي، فمن الممكن إدارة الخطر لأن هناك مراجعة بشرية وراءه؛ المكسب كبير.
2. دعم القرار (مخاطر متوسطة): مسودة مبرر الائتمان، ملخص ملف المخاطر، التعليق المالي، مسودة المعاملات المشبوهة. هنا الذكاء الاصطناعي ينتج اقتراحات، لكن القرار يعود للإنسان. التحقق ضروري.
3. القرار والحكم النهائي (عالية المخاطر، بشرية): تخصيص الائتمان، حكم الاحتيال، الإبلاغ عن المعاملات المشبوهة، القرار المنعكس على العميل. هذه هي الطبقة التي لا يستطيع فيها الذكاء الاصطناعي اتخاذ القرارات؛ يقدم معظم المسودات.

ويضع الجدول التالي المهام المصرفية النموذجية حسب مستوى المخاطر:

كويست

طبقة

دور الذكاء الاصطناعي

من يقرر؟

ملف الائتمان يفتقد فحص المستندات

التقييم الأولي

المسح، ملخص

تقييمات الخبراء

سبب رفض/الموافقة على الائتمان

دعم القرار

مشروع التبرير

خبير مختص

تنبيه بوجود شذوذ في المعاملة

دعم القرار

إشارة التأهيل المسبق

محلل الاحتيال

الإبلاغ عن المعاملات المشبوهة (STR)

الحكم النهائي

مشروع

ضابط الامتثال

قرار تخصيص الائتمان

الحكم النهائي

مسودة/ملخص

الهيئة/اللجنة

مسودة مراسلات العملاء

التقييم الأولي

مسودة النص

يوافق الموظف

نظام التحقق من الصحة: مرشح من ثلاث خطوات

خذ مخرجات الذكاء الاصطناعي من خلال هذه الخطوات الثلاث في كل مرة. سيكون هذا هو المنعكس الأساسي الذي سنكرره خلال الوحدة:

1. قم بتوصيله بالمصدر. ما المستند، وما هي معاملة الحساب، وما هي القاعدة التي يعتمد عليها كل رقم ومطالبة ومبرر في المخرجات؟ الناتج الذي لا يمكن ذكر مصدره هو "ادعاء" حتى يتم التحقق منه، وليس "معلومات".
2. إعادة الحساب/التحقق. إذا تم إعطاء احتمالات أو إجمالي أو ملخص للنتيجة، قم بتأكيد ذلك بنفسك. قد يحرف الذكاء الاصطناعي الأرقام أو يختلقها (وهذا ما يسمى "الهلوسة": عندما ينتج النموذج معلومات كاذبة تبدو وكأنها حقيقية).
3. تمريرها من خلال مرشح السياسة والتشريعات. هل تتوافق المخرجات مع السياسات الداخلية والقواعد القانونية للبنك الذي تتعامل معه (حظر التمييز، سرية العملاء، KVKK)؟ سيتم رفض المخرجات التي لا تناسبك، بغض النظر عن مدى "ذكيتها".

نصيحة: اطرح على نفسك هذا السؤال مع كل نتيجة: "هل يمكنني الدفاع عن هذا أمام المدقق دون أن أقول فقط "لقد أنتجه الذكاء الاصطناعي"؟" إذا كانت الإجابة لا، فإن الناتج ليس جاهزًا للاستخدام بعد.

الخصوصية: سر العميل وKVKK

في مجال الخدمات المصرفية، تتم حماية البيانات بشكل مضاعف. معلومات حساب العميل هي بيانات شخصية (ضمن نطاق KVKK) وسر العميل (ضمن نطاق القانون المصرفي؛ والتزام البنك بحماية المعلومات التي يعرفها عن عميله). ولذلك، فإن تحميل بيانات العملاء إلى أي أداة للذكاء الاصطناعي يمكن أن يشكل انتهاكًا خطيرًا.

القواعد الأساسية:

• إخفاء الهوية. قم بإزالة المعلومات التعريفية مثل الاسم ورقم معرف TR ورقم الحساب/رقم IBAN والهاتف. على سبيل المثال، بدلاً من "Ahmet Yılmaz, TC 123..., account 456..." اكتب "45 عامًا، عميل الشريحة X".
• الحد الأدنى من البيانات. شارك الحد الأدنى من البيانات الضرورية حقًا للمهمة. ليس التفريغ بأكمله، ولكن الأسطر ذات الصلة.
• استخدم مركبة معتمدة. استخدم الأدوات المتعاقد عليها والآمنة التي وافق عليها البنك الذي تتعامل معه. لا تدخل بيانات العميل في أداة عامة إذا لم يكن من الواضح أين تذهب البيانات.
• ترك سجلا. يجب أن تكون قادرًا على إظهار البيانات التي استخدمتها، عند الضرورة، ولأي غرض، والأداة التي استخدمتها (مسار التدقيق).

أربعة قوالب قابلة للنسخ

1) الإطار الذي يحدد الأدوار والحدود:

دورك: مساعد مصرفي. صناعة القرار؛ قم بإعداد المسودات أو الملخصات أو فحوصات الاتساق فقط. لا تستخدم معلومات التعريف (الاسم، معرف TR، IBAN). ضع علامة على كل نقطة لست متأكدًا منها على أنها "[مطلوب تأكيد]". سأتخذ القرار النهائي والمسؤولية. المهمة: [الوصف الوظيفي]

2) طلب التحقق من ثلاث خطوات:

التدقيق الذاتي والإبلاغ عن المخرجات التالية من ثلاثة جوانب: (1) ما هو المصدر/البيانات التي يستند إليها كل من مطالباتك؟ (2) ما هي الأرقام التي يجب إعادة حسابها؟ (3) هل هناك جانب محفوف بالمخاطر فيما يتعلق بالسياسة الداخلية أو التشريع (التمييز، سر العميل، KVKK)؟ قم بإدراج الشكوك بوضوح.

3) التحكم في إخفاء الهوية:

قبل إعطاء هذا النص للأداة، حدد جميع المعلومات التي تجعل من الممكن التعرف على الشخص (الاسم، معرف TR، رقم IBAN، الهاتف، العنوان، مجموعة الميزات النادرة) واقترح كيفية إخفاءها. حدد أيضًا الحد الأدنى من البيانات المطلوبة للمهمة. النص: [البيانات]

4) مساعد تصنيف الطبقة:

حدد الطبقة التي تقع ضمنها المهمة التالية: التقييم الأولي (المتسارع بالثقة) / دعم القرار (التحقق منه) / الحكم النهائي (الإنساني). اكتب مبرراتك واذكر حدود الذكاء الاصطناعي في هذه المهمة. المهمة: [المهمة]

ثلاث حالات صغيرة

الحالة 1 - الاستخدام الصحيح. سيقوم أحد متخصصي الائتمان بفحص مجموعة مكونة من 40 ملفًا بحثًا عن المستندات المفقودة. يعطي كل ملف للذكاء الاصطناعي مع ملخص مجهول المصدر؛ ويحدد الذكاء الاصطناعي "في الملخص رقم 3 تاريخ شهادة الدخل أقدم من 6 أشهر، وفي الرقم 7 لا توجد صفحة توقيع". ويؤكد الخبير هذه العلامات واحدة تلو الأخرى في الملف. يتم تقليل المسح اليدوي، الذي يستغرق ساعتين، إلى 25 دقيقة ويتم التحقق من كل تنبيه بشريًا.

الحالة 2 - فشل الثقة الخالية من المصادقة. يقوم خبير آخر بإرسال سبب رفض القرض الناتج عن الذكاء الاصطناعي إلى العميل دون قراءته. في التبرير، أخطأ الذكاء الاصطناعي في قراءة دخل العميل وقال "الدخل غير كافٍ"؛ ومع ذلك، الوثيقة صحيحة. يعترض العميل، ويعاد فتح الملف، ويخسر البنك الوقت والسمعة. الدرس المستفاد: أي بيانات يستند إليها التبرير يجب التحقق منها من المصدر.

الحالة 3 - خرق السرية. من أجل السرعة، يقوم أحد الموظفين بلصق الاسم الكامل للعميل وكشف الحساب في أداة متاحة للجمهور غير معتمدة ويسأل، "هل هذا العميل في خطر؟" بهذا الإجراء الفردي، تم انتهاك سرية العميل وKVKK؛ وحتى أين تذهب البيانات فهو غير واضح. الدرس المستفاد: يتم إخفاء هوية البيانات أولاً، ثم تتم معالجتها فقط في الأداة المعتمدة.

موجه ضعيف / موجه قوي

حث ضعيف:

مرفق كشف حساب أحمد يلماز. قرر ما إذا كان ينبغي علينا منح الائتمان لهذا العميل.

يتضمن هذا الطلب معلومات تعريف شخصية (انتهاك الخصوصية)، ويطلب من الذكاء الاصطناعي اتخاذ قرار بشكل مباشر (عدم ترك القرار للإنسان)، ولا يضع أي إطار للتحقق.

مطالبة قوية:

دورك: مساعد أخصائي الائتمان في فحص الملف والإعداد والاتساق واتخاذ القرار؛ ما عليك سوى وضع علامة على النقاط المفقودة/غير المتسقة وتوضيح ما تستند إليه. لا تستخدم معلومات التعريف. العميل (مجهول): 45 سنة، القطعة ضع علامة "[التأكيد مطلوب]" على أي نقاط تبدو مفقودة أو متناقضة في المعلومات المقدمة. سأتخذ قرار الائتمان.

الإرادة القوية لا تحتوي على هوية، وتحد من الدور، وتترك سلطة اتخاذ القرار للشخص، وتؤشر على كل مطالبة بشكل واضح للتأكيد.

الأخطاء الشائعة

• ترك القرار للذكاء الاصطناعي. جعل النموذج يقول أحكامًا مثل "منح / عدم منح الائتمان"، "الاحتيال / لا". هذه قرارات بشرية. يقدم النموذج معظم المسودات.
• الثقة دون التحقق. الخلط بين النص بطلاقة وواثق باعتباره "صحيحًا". الطلاقة ليست الدقة.
• مشاركة بيانات الاعتماد. دخول السيارة دون إخفاء اسمك ومعرف TR ورقم الحساب.
• تجاوز مسار التدقيق. عدم توثيق مبررات القرار والبيانات المستخدمة؛ عدم القدرة على الإجابة على سؤال "لماذا اتخذ هذا القرار؟"
• القيادة دون موافقة. إدخال بيانات العميل في الأدوات العامة حيث لا يكون من الواضح أين تذهب البيانات.

تحذير: في الأعمال المصرفية، غالبًا ما لا تكون تكلفة الخطأ مرئية على الفور؛ ويأتي الاعتراض أو التفتيش أو العقوبة بعد أشهر. ولذلك، لا يمكن تأجيل انضباط التحقق والتسجيل لمجرد أنه "ليست هناك حاجة ما لم تنشأ مشاكل"؛ يجب أن تكون عادة منذ البداية.

باختصار

تعتبر الخدمات المصرفية مجالًا منظمًا وذو ثقة كبيرة؛ لذلك يتم استخدام الذكاء الاصطناعي هنا كمساعد وفرز مسبق ومولد مسودة، وليس كصانع قرار. فكر في العمل في ثلاث طبقات: التقييم الأولي (المتسارع بالثقة)، ودعم القرار (التحقق منه)، والحكم النهائي (الإنساني). ربط كل مخرجات بالمصدر، وإعادة الحساب، والتصفية من خلال السياسة/التشريعات. قم بإخفاء هوية البيانات، وشاركها بالحد الأدنى، واستخدم الأدوات المعتمدة واترك أثرًا للتدقيق. في جملة واحدة: يقوم الذكاء الاصطناعي بإنتاج المسودات؛ الأشخاص الأكفاء يتخذون القرار والمسؤولية.

مهمة التطبيق

حدد ثلاث مهام نموذجية من عملك الخاص (أو كمثال): واحدة للتقييم الأولي (مثل فحص المستندات)، وواحدة لدعم القرار (مثل مسودة التبرير)، وواحدة للحكم النهائي (مثل قرار الائتمان). لكل منها، (1) اكتب دور الذكاء الاصطناعي في جملة واحدة، (2) وضح خطوة التحقق التي ستطبقها، (3) لاحظ البيانات التي يجب أن تكون مجهولة المصدر. ثم قم بإنشاء مطالبة لمهمة "تحضير الملف" باستخدام قالب المطالبة القوي أعلاه وقم بتصفية الإخراج في ثلاث خطوات.

قائمة مرجعية

• [ ] قمت بتحديد طبقة المهمة (التقييم الأولي / دعم القرار / الحكم النهائي).
• [ ] لقد أعطيت الذكاء الاصطناعي مهمة مسودة/تحكم، وليس قرارًا.
• [ ] لقد قمت بتوصيل الإخراج بالمصدر وأعدت فحص الأرقام الحرجة.
• [ ] لقد قمت بتصفية المخرجات من حيث السياسة والتشريعات الداخلية (التمييز، سر العميل، KVKK).
• [ ] لقد قمت بإخفاء هوية البيانات، وشاركتها بالحد الأدنى واستخدمت الأدوات المعتمدة.
• [ ] لقد سجلت القرار ومبرراته؛ لقد تحملت المسؤولية النهائية.