الإنسان في التجريب: الأخلاق والخصوصية والمسؤولية وسير العمل الشامل

المكاسب:

• دمج المبدأ البشري في سير العمل الشامل في التجربة والقدرة على فصل الذكاء الاصطناعي/الأدوار البشرية في كل مرحلة
• القدرة على العمل مع أمثلة الوكيل العامة دون إعطاء بنية وبيانات سرية للذكاء الاصطناعي العام
• القدرة على وضع بوابات الموافقة البشرية في النقاط الحرجة وتحمل المسؤولية النهائية بشفافية وإمكانية التتبع

في هذه الوحدة النهائية، نقوم بدمج الوحدة بأكملها في إطار عمل واحد: الإنسان في الحلقة. ويقول هذا المبدأ إنه بغض النظر عن مدى قدرة الذكاء الاصطناعي، يجب على الإنسان أن يفهم ويتحكم ويوافق على كل نقطة حرجة في القرار الكيميائي. في هذه الوحدة، سنقوم أولاً بتوضيح الجوانب الأخلاقية والسرية، ثم إنشاء سير عمل شامل ينقل الجزيء من الفكرة إلى التقرير، ونرى كيف يقسم الذكاء الاصطناعي والبشر العمل في كل مرحلة. الهدف هو تحويل كل ما تعلمته إلى نظام يناسب العمل اليومي.

الخصوصية: ما الذي لا يجب تقديمه للذكاء الاصطناعي؟

غالبًا ما تتعامل الكيمياء مع المعلومات السرية: الجزيئات غير المسجلة، وطرق التركيب السرية للشركة، والبيانات غير المنشورة، وعينات المرضى. قد يتم تخزين النص الذي تدخله في خدمة الذكاء الاصطناعي العامة أو معالجته وفقًا لسياسة الخدمة. لذلك:

• تحقق من سياستك المؤسسية قبل إطلاق الهياكل الأصلية غير المنشورة (جزيئات ما قبل براءة الاختراع) للذكاء الاصطناعي العام.
• لا تقم أبدًا بإدخال البيانات الشخصية/بيانات المريض (العينات السريرية) بشكل يمكن التعرف عليه.
• قم بمراجعة اتفاقيات السرية قبل مشاركة مسارات تجميع الأسرار التجارية.
• اختر أدوات الذكاء الاصطناعي للنشر الداخلي/المخصص عند الضرورة.

تحذير: إن سؤال الذكاء الاصطناعي العام عن الجزيء قد يعني الكشف عن بنية هذا الجزيء. بالنسبة للهيكل الفريد الذي لم يتم تسجيله ببراءة اختراع، فقد يؤدي ذلك إلى تعريض أولويتك (حق براءة الاختراع) للخطر. اطلب الهياكل المخفية بأمثلة عامة/بديلة.

الأخلاق: أربعة مبادئ

1. الشفافية: لا تخفي المكان الذي تستخدم فيه الذكاء الاصطناعي؛ الامتثال للنشر والسياسات المؤسسية.
2. المسؤولية: الإنسان هو المسؤول عن القرار النهائي؛ "مقترح من قبل منظمة العفو الدولية" لا يعفي من انتهاك الأمن أو النزاهة.
3. عدم الإضرار: لا تستخدم الذكاء الاصطناعي في التطبيقات الخطيرة/غير القانونية أو التطبيقات ذات الاستخدام المزدوج (الأسلحة المحتملة).
4. العدالة والصدق: لا تشوه البيانات، ولا تزين النتائج، ولا تختلق الإسناد.

سير العمل الشامل: الجزيء → التقرير

الآن دعونا ندمج الوحدة بأكملها في تدفق واحد. في كل مرحلة، انتبه إلى التمييز بين ما يفعله الذكاء الاصطناعي وما يفعله الإنسان.

المرحلة

دور الذكاء الاصطناعي

الدور (الحاسم) للبشر

1. الفكرة/الأدب

ملخص المفهوم، مصطلح البحث

العثور على المصدر الحقيقي، وتأكيد الإسناد

2. وصف الهيكل

توليد الابتسامات

المصادقة مع RDKit، InChIKey

3. الخطة التوليفية

التركيب الرجعي، البدائل

تأكيد الأدب واختيار المسار

4. الأمن

ملخص SDS، عدم التطابق الأولي

قراءة SDS، والموافقة، وقرار معدات الوقاية الشخصية

5. التطبيق

(لا شيء)

كافة الأعمال المخبرية

6. التحليل

دعم تعليق الطيف

مهمة الهيكل النهائي

7. معالجة البيانات

رمز الكتابة

قم بتشغيل الكود وتحقق من النتيجة

8. التوثيق

التنسيق والتحكم

الملاحظة، الانحراف، التوقيع

9. إعداد التقارير

مسودة النص

التحقق من الرقم/الاقتباس، والمساءلة

يوضح هذا الجدول كيفية ترتيب الوحدات الـ 11 للوحدة في مهمة واحدة. يتسارع الذكاء الاصطناعي؛ الناس التحقق وامتلاك.

خطوة بخطوة: إعداد سير العمل

1. توضيح الأدوار: بالنسبة لكل مهمة، "هل يقرر الذكاء الاصطناعي أم الإنسان؟" تحديد من البداية.
2. قم بإعداد مرشح للخصوصية: دون إعطاء أي شيء للذكاء الاصطناعي، يمكنك أن تسأل "هل هذا خاص/خاص؟" بسأل.
3. وضع بوابات التحقق: خطوة التحقق في نهاية كل مرحلة (الجدول في الوحدة 10).
4. الحفاظ على إمكانية التتبع: ما هو المخرج الذي جاء من الذكاء الاصطناعي، وكيف تم التحقق منه، ومن وافق عليه.
5. تعيين نقاط الموافقة: موافقة الإنسان إلزامية في النقاط الحرجة مثل الأمن والنتيجة النهائية.
6. التعليقات: سجل كل خطأ تم اكتشافه وقم بتحسين سير العمل.

أربعة قوالب قابلة للنسخ

1) الفلتر المسبق للخصوصية:

قبل طرح سؤال، ضع في اعتبارك ما يلي: المحتوى: [ما أطرحه]المهمة: هل يحتوي هذا المحتوى على عناصر أصلية غير منشورة أو بيانات شخصية أو أسرار تجارية؟ إذا كان الأمر كذلك، فاقترح كيف يمكنني إعادة كتابة السؤال بمثال عام/بديل يخفي البنية.

2) بوابة التحقق من نهاية المرحلة:

لقد أكملت المرحلة التالية: [PHASE، على سبيل المثال. خطة التوليف. المهمة: قم بإدراج جميع العناصر التي تحتاج إلى التحقق منها بعد هذه المرحلة (الرقم، الاستشهاد، البنية، المطالبة الأمنية). لكل منها، اكتب طريقة التحقق ومن يجب عليه تأكيدها. حدد أي عناصر مفتوحة تحتاج إلى إغلاقها قبل الانتقال إلى الخطوة التالية.

3) خطة توزيع أدوار الذكاء الاصطناعي والإنسان:

مشروعي: [وصف قصير].المهمة: قسم هذا المشروع إلى مراحل. في كل مرحلة، ميز بين: - ما يمكن أن يفعله الذكاء الاصطناعي (مسودة، كود، ملخص) - ما يجب على الإنسان أن يقرره (الأمن، النتيجة، الموافقة). حدد النقاط الحرجة حيث تقع المسؤولية النهائية على عاتق الإنسان.

4) التحقق من سلامة التقرير:

فيما يلي مسودة تقريري: [مسودة] المهمة: تحقق من ما يلي وقم بوضع علامة عليه: 1) هل هناك أي أرقام/استشهادات لم يتم التحقق منها؟ 2) هل تم النص على استخدام الذكاء الاصطناعي بشفافية؟ 3) هل تظهر البيانات "مُجملة" (إخفاء خارجي)؟ 4) هل هناك أي عيوب أمنية/أخلاقية؟ [تحقق] أين أنت غير متأكد.

موجه ضعيف / موجه قوي

ضعيف:

ما هي أفضل طريقة لتجميع الجزيء السري الجديد لشركتنا؟ [الهيكل الأصلي الفعلي]

وهذا يعرض الهيكل الأصلي السابق لبراءة الاختراع إلى خدمة عامة؛ إنه يعرض الأولوية والسرية للخطر.

قوي:

أود أن أتعلم استراتيجية التركيب الرجعي العامة لبنية مماثلة لفئة الكيتونات العطرية. اشرح من خلال مثال عام (مشتق الأسيتوفينون) دون إعطاء البنية الأصلية الملموسة. سأقوم بتطبيق الإستراتيجية على الجزيء الخاص بي داخل الشركة.

الفرق: دون الكشف عن البنية الكامنة، تم تحقيق نفس التعلم كما هو الحال مع المثال البديل العام.

حالات صغيرة

الحالة 1 - الكشف عن الهيكل الأصلي. سأل فريق من الذكاء الاصطناعي العام عن جزيء فريد قبل التقدم بطلب للحصول على براءة اختراع. وذكرت الوحدة القانونية أن هذا قد يؤدي إلى التشكيك في الأولوية؛ تأخرت العملية. الدرس المستفاد: اطلب هياكل فريدة باستخدام وكيل عام، واحترم سياسة الخصوصية.

الحالة 2 - موافقة الإنسان منعت وقوع الحادث. في سير العمل الآلي، أنتج الذكاء الاصطناعي مسودة إجراء وكان من المقرر تنفيذها مباشرة؛ لكن الكيميائي ذو الخبرة اكتشف زوجًا من الكواشف غير المتوافقة عند بوابة "التخليص الآمن" للتدفق. الدرس المستفاد: في النقاط الحرجة، بوابات الموافقة البشرية تنقذ الأرواح.

الحالة 3 - الانضباط الشامل. قام طالب الماجستير بتنفيذ الوحدة بأكملها في مشروع واحد: ملخص الأدبيات + التحقق الفعلي من الاقتباس باستخدام الذكاء الاصطناعي، والتحقق من البنية باستخدام RDKit، وتحليل البيانات باستخدام التعليمات البرمجية، والأمن باستخدام SDS، والتوثيق الصادق، وإعداد التقارير الشفافة. وكانت النتيجة أسرع وأكثر قوة. في الدفاع عن الأطروحة "كيف قمت بالتحقق من الذكاء الاصطناعي؟" أجاب على السؤال بوضوح. الدرس: الذكاء الاصطناعي + نظام التحقق يعملان معًا بشكل أفضل.

الأخطاء الشائعة

• إعطاء البنية الكامنة للذكاء الاصطناعي العام. إنه يعرض للخطر أولوية براءات الاختراع والأسرار التجارية.
• إدخال البيانات الشخصية/المريض المحددة للهوية. انتهاك الخصوصية والمخاطر القانونية.
• تجاوز بوابات الموافقة. الأمن والمضي قدمًا في النهاية دون موافقة الإنسان.
• نقل المسؤولية إلى الذكاء الاصطناعي. "اقترح الذكاء الاصطناعي" لا يبرر أي أخطاء.
• تجنب الشفافية إن إخفاء استخدام الذكاء الاصطناعي يقوض النزاهة.
• تجاهل مخاطر الاستخدام المزدوج. من غير الأخلاقي استخدام الذكاء الاصطناعي في التطبيقات الضارة.

نصيحة: صمم سير عملك مع "كل قرار حاسم يتوقف عنه الإنسان ويوافق عليه". اجعل الذكاء الاصطناعي رابطًا يعمل على تسريع السلسلة، وتكون العقدة التي تحمل السلسلة بشرية دائمًا.

باختصار

• المبدأ الإنساني في التجارب: في كل قرار كيميائي حاسم، يفهم الإنسان ويشرف عليه ويوافق عليه.
• الخصوصية: لا تقدم عناصر فريدة وبيانات شخصية وأسرار تجارية إلى الذكاء الاصطناعي العام؛ استخدم الوكيل العام.
• الأخلاق: الشفافية، والمسؤولية، وعدم الإيذاء، والصدق هي المبادئ الأربعة الأساسية.
• في سير العمل الشامل، يتسارع الذكاء الاصطناعي في كل مرحلة؛ الناس التحقق وامتلاك.
• وضع بوابات الموافقة البشرية في النقاط الحرجة (الأمن، النتيجة النهائية) والحفاظ على إمكانية التتبع.

مهمة التطبيق

اختر مشروعًا خاصًا بك (حقيقيًا أو افتراضيًا) وقم بتصميم سير عمل الذكاء الاصطناعي والإنساني من البداية إلى النهاية. قم بتكييف الجدول المكون من 9 مراحل أعلاه مع مشروعك الخاص: ماذا سيفعل الذكاء الاصطناعي في كل مرحلة، ما الذي سيوافق عليه الإنسان؟ تطبيق مرشح الخصوصية المسبق: ما هي المعلومات التي لا تقدمها للذكاء الاصطناعي، وكيف يمكنك تعميمها؟ حدد بوابتين للموافقة البشرية على الأقل وطريقة واحدة للتتبع. اكتب "خطة سير العمل والتحقق" المكونة من صفحة واحدة.

قائمة مرجعية

• [ ] في التجربة، فهمت المبدأ الإنساني ولماذا كان ضروريا.
• [ ] أقوم بتعميم البنية/البيانات المخفية دون إعطائها إلى الذكاء الاصطناعي العام.
• [ ] ألتزم بمبادئ الشفافية والمسؤولية وعدم الإيذاء والصدق.
• [ ] لقد قمت بفصل الأدوار البشرية/الذكاء الاصطناعي في سير العمل الشامل.
• [ ] أضع بوابات الموافقة البشرية في النقاط الحرجة.
• [ ] أتتبع المخرجات التي تأتي من الذكاء الاصطناعي وكيفية التحقق منها.

امتحان الوحدة

1. أي مما يلي هو الموضع الأكثر دقة للذكاء الاصطناعي في الكيمياء؟

• أ) الذكاء الاصطناعي هو كود ومسودة ومساعد تحرير؛ ✔ المسؤولية عن البنية والعدد والموارد والأمن والقرارات الأخلاقية تقع على عاتق الإنسان ✔
• ب) الذكاء الاصطناعي هو محرك كيميائي والأوزان الجزيئية التي يعطيها دقيقة دائمًا.
• ج) الذكاء الاصطناعي يعمل فقط في مراجعة الأدبيات، ولا علاقة له بالتحليل والأمن
• د) بما أن الذكاء الاصطناعي أكثر حيادية من البشر، فيجب ترك القرارات الأمنية له

الوصف: الذكاء الاصطناعي. إنه مساعد يكتب التعليمات البرمجية، وينتج المسودات، ويبني هيكلًا رجعيًا، ويساعد وينظم تفسير الطيف. ومع ذلك، فإن الحساب الحتمي للوزن الجزيئي وقياس العناصر الكيميائية، والتحقق من البنية باستخدام RDKit، وتأكيد الاستشهادات في قاعدة البيانات، واتخاذ قرار السلامة باستخدام SDS/GHS والمسؤولية النهائية تقع على عاتق الكيميائي المختص. نموذج اللغة الكبير ليس آلة حاسبة أو محركًا كيميائيًا؛ إنه منشئ نص ينتج "الكلمة التالية الأكثر احتمالية" وقد تؤدي نتائجها التي لم يتم التحقق منها إلى بنية أو رقم أو خطر غير صحيح.

2. ما هي الطريقة الأكثر موثوقية لوصف الجزيء للذكاء الاصطناعي؟

• أ) كتابة الاسم التركي المشترك فقط
• ب) إعطاء تمثيل هيكلي مثل SMILES وتأكيد الهوية باستخدام InChIKey ✔
• ج) فقط معرفة الوزن الجزيئي
• د) يكفي كتابة العلامة التجارية

توضيح: الأسماء (خاصة الأسماء التجارية والمرادفات) غامضة ويمكن أن تؤدي إلى الجزيء الخطأ. إن إعطاء الجزيء تدوينًا هيكليًا مثل SMILES يوفر الدقة؛ تم تأكيد هويته في قاعدة البيانات باستخدام InChIKey. بالإضافة إلى ذلك، يجب تحليل الابتسامات التي يقدمها الذكاء الاصطناعي باستخدام RDKit والتحقق منها عن طريق التحديد الأساسي.

3. كيف يجب عليك استخدام الوزن الجزيئي الذي يقدمه الذكاء الاصطناعي؟

• أ) استخدامه بشكل مباشر، لأن الذكاء الاصطناعي يمكن الاعتماد عليه في الأرقام
• ب) قم بالحساب والتحقق بشكل مستقل من الصيغة يدويًا أو باستخدام RDKit ✔
• ج) يكفي فقط أن نسأل ذكاءً اصطناعيًا آخر ونقارنه
• د) الوزن الجزيئي غير مهم، ولا حاجة للتحقق

شرح: الوزن الجزيئي هو الكمية المحسوبة بشكل حتمي من الصيغة الجزيئية. لذا فإن طلب النموذج اللغوي هو أضعف الطرق؛ ويجب التحقق منها بشكل مستقل باستخدام أداة مثل RDKit أو عن طريق حسابها يدويًا من خلال صيغة. يمكن لنموذج اللغة أن يناسب هذه الأرقام بقيمة "محتملة المظهر".

4. ما الذي يجب فعله قبل استخدام الاقتباس الأدبي (المقالة/DOI) الذي يتم إرجاعه بواسطة الذكاء الاصطناعي؟

• أ) لا شيء؛ إذا كان الذكاء الاصطناعي يعطي مرجعًا، فهو حقيقي
• ب) مجرد النظر إلى العنوان لجعله يبدو مقنعاً يكفي.
• ج) تأكيد كل استشهاد ومعرف DOI عن طريق فك تشفيرهما في قاعدة بيانات (doi.org, Crossref) ✔
• د) يثبت رقم DOI الطويل أنه حقيقي.

الوصف: يمكن لنموذج اللغة إنشاء مقالات ومؤلفين ومعرفات DOI تبدو واقعية ولكنها غير موجودة (استشهاد مزيف). فقط لأنه يعطي DOI لا يعني أنه صالح. يجب التحقق من كل اقتباس من خلال حله في قاعدة بيانات مثل doi.org، أو Crossref، أو موقع الناشر؛ التدفق الأكثر أمانًا هو أن يتمكن الإنسان من العثور على المقالة الحقيقية وتلخيص النص بواسطة الذكاء الاصطناعي.

5. في أي المجالات يكون الذكاء الاصطناعي أضعف ويتطلب تأكيدًا في تخطيط رد الفعل؟

• أ) في التعرف على الفئة العامة التي ينتمي إليها رد الفعل
• ب) أرقام الحالة الدقيقة وقيم الإنتاجية وأسماء الكاشف/المحفز ✔
• ج) شرح آلية بلغة واضحة
• د) العصف الذهني للطرق البديلة

الشرح: يتنبأ الذكاء الاصطناعي بشكل عام بنوع التفاعل والمنتج الرئيسي للتفاعلات الموثقة جيدًا. ومع ذلك، فإن أرقام الحالة الدقيقة (درجة الحرارة، والوقت، وما يعادلها)، وقيم العائد، وردود الفعل النادرة، وأسماء الكاشف/المحفز هي الأضعف والأكثر عرضة للتلفيق؛ وينبغي تأكيد ذلك بالأدبيات والكتالوجات.

6. ما هي الطريقة الأكثر موثوقية لاستخدام الذكاء الاصطناعي في تفسير الطيف؟

• أ) فقط أعط بضع قمم واسأل "ما هذا الطيف؟" أن نسأل
• ب) إعطاء الهيكل المتوقع والبيانات الأولية الكاملة وإجراء فحص الاتساق (اختبار الفرضيات) ✔
• ج) كتابة قيم الإزاحة فقط دون إجراء التكامل والقسمة
• د) إجراء مهمة هيكلية نهائية باستخدام تقنية واحدة (IR فقط)

الوصف: اسأل الذكاء الاصطناعي "ما هو المركب الذي يمثل هذا الطيف؟" السؤال من الصفر يزيد من معدل الخطأ. الطريقة الأكثر موثوقية هي جمع البنية المتوقعة (SMILES) والبيانات الأولية (التكامل، والتقسيم، والحل، وقائمة الذروة) معًا والسؤال "هل تتوافق هذه البيانات مع هذه البنية؟" هو أن نسأل؛ أي استخدام الذكاء الاصطناعي كاختبار للفرضيات. المهمة النهائية هي للكيميائي الذي يفحص الطيف التجريبي.

7. ما هي الطريقة الأكثر موثوقية للحصول على نتيجة الحساب الكيميائي (مثل النسبة المئوية للإنتاجية)؟

• أ) طلب النتيجة مباشرة من الذكاء الاصطناعي شفهياً
• ب) طباعة وتشغيل كود البايثون الخاص بالحساب واختباره بمثال معروف✔
• ج) اطرح نفس السؤال عدة مرات واحصل على الرقم الذي يأتي في أغلب الأحيان
• د) التقدير السريع دون تحديد الوحدة

شرح: يقوم النموذج اللغوي بإجراء العمليات الحسابية من خلال "التنبؤ بالنتيجة المحتملة" ويمكن أن يكون خاطئًا حتى مع عمليات الضرب البسيطة جدًا. الطريقة الأكثر موثوقية هي مطالبة الذكاء الاصطناعي بكتابة الكود الخاص به (مثل Python)، وليس الحساب نفسه، وتشغيل هذا الرمز؛ الكود حتمي وقابل للتدقيق. يجب أيضًا اختبار الكود باستخدام عينة صغيرة تكون إجابتها معروفة.

8. ماذا يعني مفهوم "مجال التطبيق" في التنبؤ بالملكية الجزيئية؟

• أ) قوة المعالجة للكمبيوتر الذي يعمل عليه النموذج
• ب) المنطقة الجزيئية المشابهة لبيانات التدريب حيث يعطي النموذج تنبؤات موثوقة✔
• ج) منطقة الضمان حيث يكون الرقم الذي يقدمه النموذج دقيقًا دائمًا
• د) نطاق درجة الحرارة التي يمكن من خلالها تصنيع الجزيء في المختبر

شرح: يعمل نموذج QSAR/التنبؤ بشكل جيد على الجزيئات المشابهة للجزيئات التي تم تدريبه عليها. بالنظر إلى الجزيء الذي يختلف كثيرًا عن بيانات التدريب، لا يزال النموذج ينتج رقمًا، لكن هذا غير موثوق؛ وهذا ما يسمى "أن تكون خارج نطاق التطبيق". النموذج يعطي دائما إجابة؛ الأمر متروك للإنسان لتقييم ما إذا كانت الإجابة موثوقة أم لا.

9. ما هو النهج الصحيح للتعامل مع الملاحظات في توثيق التجربة؟

• أ) كتابة الملاحظات للذكاء الاصطناعي لتوفير الوقت
• ب) يقوم الشخص الذي يقوم بالتجربة بتدوين الملاحظات؛ AI فقط التنسيقات والفحوصات ✔
• ج) يكفي عدم تسجيل الملاحظات، فقط كتابة الناتج النهائي
• د) إخفاء الانحرافات عن الخطة ليظهر التقرير بشكل جميل

الشرح: الذكاء الاصطناعي لا يعرف ما هو؛ إن إجراء الملاحظات (تغير اللون، إطلاق الغاز، وما إلى ذلك) بشكل مناسب ينتج عنه سجلات تبدو معقولة ولكنها لم تحدث، وهذا احتيال علمي. يقوم الذكاء الاصطناعي بتنسيق التسجيل واستدعاء الحقول المفقودة والتحقق من إمكانية التكرار؛ ولكن يجب على المجرب البشري أن يقدم الملاحظات والحقائق. ويجب أيضًا تسجيل الانحرافات عن الخطة.

10. ما هو دور الذكاء الاصطناعي في سلامة المختبرات ومصدر الحقيقة؟

• أ) إذا قال الذكاء الاصطناعي "آمن"، فلا داعي لمصدر آخر
• ب) مصدر الحقيقة هو SDS وGHS؛ الذكاء الاصطناعي مفيد ولكن ليس له الكلمة الأخيرة ✔
• ج) يمكن تفويض القرارات الأمنية بالكامل للذكاء الاصطناعي
• د) SDS غير ضرورية؛ توفر منتديات الإنترنت معلومات كافية.

الوصف: السلامة هي الأولوية القصوى في الكيمياء، ولا يمكن للذكاء الاصطناعي أن يكون له الكلمة الأخيرة هنا. مصدر معلومات السلامة الفعلية هو SDS (ورقة بيانات السلامة) وتصنيف GHS المقدم من قبل الشركة المصنعة. يمكن للذكاء الاصطناعي تلخيص نص SDS وإنشاء مسودات النماذج وإجراء فحص أولي لعدم الامتثال؛ ومع ذلك، يجب التحقق من جميع المطالبات باستخدام SDS ويجب الموافقة على الإجراء من قبل شخص / ضابط أمن ذو خبرة.

11. أي من مجموعات الكواشف التالية تعتبر تطابقًا خطيرًا (غير متوافق) معروف؟

• أ) خلط الماء وملح الطعام
• ب) خلط محلول حمضي بمحلول يحتوي على هيبوكلوريت (خطر غاز الكلور)✔
• ج) خلط الإيثانول والماء
• د) إذابة السكر والماء

الشرح: في حين أن بعض المواد الكيميائية آمنة نسبيًا بمفردها، إلا أنها خطيرة معًا. يؤدي خلط الحمض والهيبوكلوريت إلى إطلاق غاز الكلور؛ المؤكسد + المادة العضوية يشكل خطر الحريق/الانفجار، الماء + حرارة المعدن التفاعلي/الهيدروجين. وعلى الرغم من أن الذكاء الاصطناعي يعرف معظم هذه التركيبات، إلا أنه لا يضمنها جميعًا ويمكنه في بعض الأحيان تقديم اقتراح خطير بلغة بريئة؛ يجب فحص كل إجراء للتأكد من عدم امتثاله لـ SDS.

12. ما هو التعبير الأكثر دقة لكلمة "الهلوسة" (الذكاء الاصطناعي ينتج معلومات ملفقة)؟

• أ) إنه خطأ برمجي نادر ويتم التخلص منه تمامًا مع التحديث.
• ب) إنه سلوك متأصل في النموذج اللغوي؛ الحل هو التحقق بشكل مستقل من كل مخرجات ✔
• ج) تظهر فقط في المطالبات المكتوبة بشكل غير صحيح، ولا تظهر أبدًا في المطالبات الصحيحة.
• د) إذا كان الذكاء الاصطناعي يتحدث بلغة آمنة، فهذا ليس هلوسة

توضيح: الهلوسة ليست خللاً ولكنها نتيجة لطبيعة النموذج اللغوي الذي ينتج "الكلمة التالية الأكثر احتمالاً"؛ يهدف النموذج إلى الممكن، وليس إلى الحقيقة. والجزء الأكثر خطورة هو أنه يقدم معلومات كاذبة بنفس اللغة الواثقة مثل الحقيقة. لا يكمن الحل في محاولة إصلاح النموذج، بل في إنشاء غلاف تحقق مناسب للنوع حول كل مخرج؛ الطلاقة ليست دليلا على الدقة أبدا.

13. ماذا يعني "التثليث" للتحقق من القيمة الحرجة (مثل الوزن الجزيئي)؟

• أ) طرح نفس السؤال على نفس الذكاء الاصطناعي ثلاث مرات
• ب) المقارنة والوصول إلى نفس النتيجة بأكثر من طريقة مستقلة✔
• ج) حساب وزن ثلاثة جزيئات مختلفة في نفس الوقت
• د) تقريب النتيجة إلى ثلاث منازل عشرية

شرح: التثليث هو الوصول إلى نفس النتيجة من خلال مسارات مستقلة متعددة؛ على سبيل المثال، مقارنة الوزن الجزيئي حسب الذكاء الاصطناعي وحساب RDKit والحساب اليدوي. إذا تداخل مساران مستقلان، تكون الثقة عالية؛ إذا انحرف شخص ما، يتم إيقافه والتحقيق فيه. بدلاً من الاعتماد على مصدر واحد، ينبغي البحث عن طريقتين مستقلتين على الأقل.

14. ما هي الطريقة الصحيحة لسؤال خدمة الذكاء الاصطناعي العامة عن جزيء فريد لم يتم تسجيله ببراءة اختراع؟

• أ) إعطاء الهيكل الأصلي مباشرة، لأن السرعة مهمة
• ب) تعلم الإستراتيجية من خلال مثال عام/بديل دون الكشف عن البنية الأصلية ✔
• ج) لا يمثل توفير البنية مشكلة، فالذكاء الاصطناعي لا يخفي المعلومات أبدًا
• د) عدم إعطاء اسم الجزيء ولكن فقط مشاركة ابتساماته بالكامل هي حماية كافية.

الوصف: قد يتم تخزين المحتوى المُدخل في خدمة الذكاء الاصطناعي العامة أو معالجته وفقًا لسياسة الخدمة؛ إن إعطاء الهيكل الأصلي يخاطر بالسرية وأولوية براءة الاختراع. النهج الصحيح هو تعلم الاستراتيجية من مثال عام/بديل (فئة مماثلة من الهياكل) وتطبيقها على الجزيء الخاص بها داخل الشركة، دون الكشف عن البنية الأصلية. ويجب أيضًا عدم إدخال البيانات الشخصية/بيانات المريض بشكل يمكن التعرف عليه.