انسان در آزمایش: اخلاق، حریم خصوصی، مسئولیت و گردش کار پایان به انتها

سود:

• ادغام اصل انسانی در جریان کار انتها به انتها در آزمایش و توانایی جداسازی نقش‌های هوش مصنوعی/انسان در هر مرحله
• امکان کار با نمونه های پروکسی عمومی بدون دادن ساختار و داده های محرمانه به هوش مصنوعی عمومی
• امکان قرار دادن گیت های تایید انسانی در نقاط حساس و به عهده گرفتن مسئولیت نهایی با شفافیت و ردیابی

در این واحد نهایی ما کل ماژول را در یک چارچوب واحد ترکیب می کنیم: انسان در حلقه. این اصل می گوید که مهم نیست که هوش مصنوعی چقدر توانایی دارد، یک انسان باید هر نقطه حساس از یک تصمیم شیمیایی را درک، کنترل و تایید کند. در این بخش، ابتدا جنبه‌های اخلاقی و محرمانگی را روشن می‌کنیم، سپس یک جریان کاری سرتاسر ایجاد می‌کنیم که یک مولکول را از ایده به گزارش می‌برد، و خواهیم دید که هوش مصنوعی و انسان‌ها چگونه کار را در هر مرحله تقسیم می‌کنند. هدف این است که همه چیزهایی را که آموخته اید به سیستمی تبدیل کنید که در کار روزانه قرار گیرد.

حریم خصوصی: چه چیزی را نباید به هوش مصنوعی داد؟

شیمی اغلب با اطلاعات محرمانه کار می کند: مولکول های ثبت نشده، مسیرهای سنتز مخفی شرکت، داده های منتشر نشده، نمونه های بیمار. ممکن است متنی که وارد یک سرویس هوش مصنوعی عمومی می‌کنید، مطابق خط‌مشی این سرویس ذخیره یا پردازش شود. بنابراین:

• قبل از انتشار ساختارهای اصلی منتشر نشده (مولکول های پیش از ثبت اختراع) برای هوش مصنوعی عمومی، خط مشی سازمانی خود را بررسی کنید.
• هرگز داده های شخصی/بیمار (نمونه های بالینی) را به شکلی قابل شناسایی وارد نکنید.
• قبل از به اشتراک گذاشتن مسیرهای سنتز اسرار تجاری، قراردادهای محرمانه را مرور کنید.
• در صورت لزوم، ابزارهای هوش مصنوعی استقرار داخلی/سفارشی را انتخاب کنید.

احتیاط: پرسیدن از یک هوش مصنوعی عمومی در مورد یک مولکول ممکن است به معنای آشکار ساختن ساختار آن مولکول باشد. برای ساختار منحصر به فردی که ثبت اختراع نشده است، این ممکن است اولویت شما را به خطر بیندازد (حق ثبت اختراع). ساختارهای پنهان را با مثال های عمومی/جانشین بخواهید.

اخلاق: چهار اصل

1. شفافیت: جایی که از هوش مصنوعی استفاده می کنید پنهان نکنید. از سیاست های انتشارات و سازمانی پیروی کنید.
2. مسئولیت: انسان مسئول تصمیم گیری نهایی است. "AI پیشنهاد شده" نقض امنیت یا یکپارچگی را توجیه نمی کند.
3. عدم سوء استفاده: از هوش مصنوعی برای سنتز خطرناک/غیرقانونی، کاربردهای دوگانه (بالقوه سلاح) استفاده نکنید.
4. انصاف و صداقت: داده ها را تحریف نکنید، نتایج را زیبا نکنید، اسناد را ایجاد نکنید.

گردش کار پایان به انتها: مولکول → گزارش

حالا بیایید کل ماژول را در یک جریان واحد ترکیب کنیم. در هر مرحله به تمایز بین آنچه که هوش مصنوعی انجام می دهد و آنچه انسان انجام می دهد توجه کنید.

مرحله

نقش هوش مصنوعی

نقش (بحرانی) انسان

1. ایده/ادبیات

خلاصه مفهوم، عبارت جستجو

یافتن منبع واقعی، تایید انتساب

2. شرح ساختار

ایجاد لبخند

احراز هویت با RDKit، InChIKey

3. طرح سنتز

رتروسنتز، جایگزین ها

تایید ادبیات، انتخاب مسیر

4. امنیت

خلاصه SDS، عدم تطابق اولیه

خواندن SDS، تایید، تصمیم PPE

5. کاربرد

(هیچ کدام)

کلیه کارهای آزمایشگاهی

6. تجزیه و تحلیل

پشتیبانی از نظرات طیف

تکلیف ساختار نهایی

7. پردازش داده ها

نوشتن کد

کد را اجرا کنید، نتیجه را تأیید کنید

8. اسناد و مدارک

قالب بندی، کنترل

مشاهده، انحراف، امضا

9. گزارش

متن پیش نویس

تأیید شماره/استناد، پاسخگویی

این جدول نشان می دهد که چگونه 11 واحد ماژول در یک کار مرتب شده اند. هوش مصنوعی شتاب می گیرد؛ مردم تأیید می کنند و مالک می شوند.

مرحله به مرحله: تنظیم گردش کار

1. نقش ها را روشن کنید: برای هر کار، "آیا هوش مصنوعی تصمیم می گیرد یا انسان؟" از ابتدا تعیین کنید
2. یک فیلتر حریم خصوصی تنظیم کنید: بدون دادن چیزی به هوش مصنوعی می توانید بپرسید "این خصوصی/خصوصی است؟" بپرسید
3. دروازه های تأیید قرار دهید: یک مرحله تأیید در پایان هر مرحله (جدول در واحد 10).
4. قابلیت ردیابی را حفظ کنید: چه خروجی از هوش مصنوعی آمده است، چگونه تأیید شده است، چه کسی آن را تأیید کرده است.
5. تنظیم نقاط تایید: تایید انسانی در نقاط حساس مانند امنیت و نتیجه نهایی الزامی است.
6. بازخورد: هر خطای کشف شده را ثبت کنید و گردش کار را بهبود بخشید.

چهار قالب قابل کپی

1) پیش فیلتر حریم خصوصی:

قبل از پرسیدن سوال، این را در نظر بگیرید: محتوا: [آنچه می‌پرسم] وظیفه: آیا این محتوا حاوی مصنوعات اصلی منتشر نشده، داده‌های شخصی یا اسرار تجاری است؟ اگر چنین است، پیشنهاد دهید که چگونه می توانم سؤال را با یک مثال عمومی/جانشین که ساختار را پنهان می کند، بازنویسی کنم.

2) دروازه تأیید پایان فاز:

من مرحله زیر را تکمیل کرده ام: [PHASE، به عنوان مثال. طرح ترکیبی]. وظیفه: تمام عناصری را که باید از این مرحله تأیید شوند (تعداد، استناد، ساختار، ادعای امنیتی) فهرست کنید. برای هر کدام، روش تأیید و اینکه چه کسی باید آن را تأیید کند، بنویسید. قبل از رفتن به مرحله بعدی، موارد باز را که باید بسته شوند علامت بزنید.

3) طرح توزیع نقش انسان و هوش مصنوعی:

پروژه من: [توضیح کوتاه]. وظیفه: این پروژه را به فازها تقسیم کنید. برای هر مرحله، بین موارد زیر تمایز قائل شوید: - آنچه که هوش مصنوعی می تواند انجام دهد (پیش نویس، کد، خلاصه) - آنچه که انسان باید تصمیم بگیرد (امنیت، پیامد، تایید). نقاط حساسی که مسئولیت نهایی بر عهده انسان است را علامت بزنید.

4) گزارش بررسی یکپارچگی:

در زیر پیش‌نویس گزارش من آمده است:[DRAFT]وظیفه: موارد زیر را بررسی کرده و علامت‌گذاری کنید: 1) آیا اعداد/استنادهای تایید نشده وجود دارد؟ 2) آیا استفاده از هوش مصنوعی به طور شفاف بیان شده است؟ [بررسی] جایی که مطمئن نیستید.

اعلان ضعیف / اعلان قوی

ضعیف:

بهترین راه برای سنتز مولکول مخفی جدید شرکت ما چیست؟ [ساختار اصلی واقعی]

این ساختار اولیه پیش از ثبت اختراع را در معرض یک سرویس عمومی قرار می دهد. اولویت و محرمانگی را به خطر می اندازد.

قوی:

من مایلم استراتژی رتروسنتز کلی برای ساختار مشابه کلاسی از کتون های معطر را یاد بگیرم. از طریق یک مثال عمومی (مشتق استوفنون) بدون ارائه ساختار اصلی بتن توضیح دهید. من این استراتژی را در داخل مولکول خودم اعمال خواهم کرد.

تفاوت: بدون آشکار ساختن ساختار نهفته، همان یادگیری با مثال جایگزین عمومی به دست آمد.

موارد کوچک

مورد 1 - ساختار اصلی فاش شد. یک تیم قبل از درخواست برای ثبت اختراع، از یک هوش مصنوعی عمومی در مورد یک مولکول منحصر به فرد پرسیدند. واحد حقوقی اظهار داشت که این می تواند اولویت را زیر سوال ببرد. این روند به تعویق افتاد. درس: ساختارهای منحصر به فرد با پروکسی عمومی را بخواهید، به سیاست حفظ حریم خصوصی احترام بگذارید.

مورد 2 - رضایت انسان از تصادف جلوگیری کرد. در یک گردش کار خودکار، هوش مصنوعی پیش نویس رویه ای را تولید کرد و قرار بود مستقیماً اجرا شود. اما یک شیمیدان باتجربه یک جفت معرف ناسازگار را در دروازه عبور از "ترخیص ایمنی" گرفت. درس: در نقاط بحرانی، دروازه های تایید انسان جان ها را نجات می دهد.

مورد 3 - نظم و انضباط تمام عیار. یک دانشجوی کارشناسی ارشد کل ماژول را در یک پروژه اجرا کرد: خلاصه ادبیات + تأیید استناد واقعی با هوش مصنوعی، تأیید ساختار با RDKit، تجزیه و تحلیل داده ها با کد، امنیت با SDS، اسناد صادقانه، گزارش شفاف. نتیجه هم سریع تر و هم قوی تر بود. در دفاع از پایان نامه "چگونه هوش مصنوعی را تأیید کردید؟" او به این سوال به وضوح پاسخ داد. درس: انضباط AI + تأیید با هم بهترین کار را دارند.

اشتباهات رایج

• دادن ساختار پنهان به هوش مصنوعی عمومی. اولویت ثبت اختراع و اسرار تجاری را به خطر می اندازد.
• وارد کردن اطلاعات شخصی/بیمار قابل شناسایی نقض حریم خصوصی و خطر قانونی.
• دور زدن گیت های تایید امنیت و در نهایت حرکت رو به جلو بدون تایید انسان.
• انتقال مسئولیت به هوش مصنوعی "AI پیشنهاد شده" هیچ اشتباهی را توجیه نمی کند.
• پرهیز از شفافیت پنهان کردن استفاده از هوش مصنوعی یکپارچگی را تضعیف می کند.
• نادیده گرفتن خطر استفاده دوگانه. استفاده از هوش مصنوعی برای برنامه های مضر غیراخلاقی است.

نکته: گردش کار خود را با "هر تصمیم مهمی که یک انسان متوقف می کند و تایید می کند" طراحی کنید. هوش مصنوعی را به پیوندی تبدیل کنید که زنجیره را تسریع می کند و گره نگهدارنده زنجیره همیشه انسان است.

به طور خلاصه

• اصل انسانی در آزمایش: در هر تصمیم شیمیایی حیاتی، انسان می فهمد، نظارت می کند و تایید می کند.
• حریم خصوصی: مصنوعات منحصر به فرد، داده های شخصی و اسرار تجاری را در اختیار هوش مصنوعی عمومی قرار ندهید. از پروکسی عمومی استفاده کنید
• اخلاق: شفافیت، مسئولیت پذیری، عدم بدخواهی، صداقت چهار اصل اساسی است.
• در یک گردش کار انتها به انتها، هوش مصنوعی در هر مرحله شتاب می گیرد. مردم تأیید می کنند و مالک می شوند.
• دروازه های تایید انسانی را در نقاط حساس (امنیت، نتیجه نهایی) قرار دهید و قابلیت ردیابی را حفظ کنید.

وظیفه کاربردی

پروژه ای از خودتان (واقعی یا فرضی) انتخاب کنید و یک گردش کار با هوش مصنوعی از ابتدا تا انتها طراحی کنید. جدول 9 مرحله ای بالا را با پروژه خود تطبیق دهید: هوش مصنوعی در هر مرحله چه کاری انجام می دهد، انسان چه چیزی را تایید می کند؟ اعمال پیش فیلتر حریم خصوصی: چه اطلاعاتی را به هوش مصنوعی نمی دهید، چگونه آن را عمومی می کنید؟ حداقل دو دروازه تایید انسانی و یک روش ردیابی را تعریف کنید. یک «طرح گردش کار و تأیید» یک صفحه ای بنویسید.

چک لیست

• [ ] در آزمایش، من اصل انسانی و چرایی ضرورت آن را درک کردم.
• [ ] من ساختار/داده های پنهان را بدون دادن آن به هوش مصنوعی عمومی عمومی می کنم.
• [ ] من از اصول شفافیت، مسئولیت پذیری، عدم بدخواهی و صداقت پیروی می کنم.
• [ ] من نقش‌های هوش مصنوعی/انسان را در گردش کار سرتاسر جدا کردم.
• [ ] من دروازه های تایید انسانی را در نقاط حساس قرار دادم.
• [ ] من آنچه خروجی از هوش مصنوعی می آید و چگونه تأیید می شود را پیگیری می کنم.

امتحان ماژول

1. کدام یک از موارد زیر دقیق ترین موقعیت برای هوش مصنوعی در شیمی است؟

• الف) هوش مصنوعی دستیار کد، پیش نویس و ویرایش است. مسئولیت ساختار، تعداد، منابع، امنیت و تصمیمات اخلاقی بر عهده انسان است ✔
• ب) هوش مصنوعی یک موتور شیمی است و وزن مولکولی که می دهد همیشه دقیق است.
• ج) هوش مصنوعی فقط در بررسی ادبیات کار می کند، ربطی به تحلیل و امنیت ندارد
• د) از آنجایی که هوش مصنوعی بی طرف تر از انسان است، تصمیم گیری های امنیتی باید به آن واگذار شود

توضیحات: هوش مصنوعی; این دستیار است که کد می نویسد، پیش نویس ها را تولید می کند، یک اسکلت رتروسنتز می سازد، به تفسیر طیف کمک می کند و سازماندهی می کند. با این حال، محاسبه قطعی وزن مولکولی و استوکیومتری، تایید ساختار با RDKit، تایید استنادات در پایگاه داده، تصمیم گیری ایمنی با SDS/GHS و مسئولیت نهایی متعلق به شیمیدان ذیصلاح است. مدل زبان بزرگ یک ماشین حساب یا یک موتور شیمی نیست. این یک مولد متن است که "محتمل ترین کلمه بعدی" را تولید می کند و خروجی تایید نشده آن ممکن است منجر به ساختار، عدد یا خطر نادرست شود.

2. مطمئن ترین راه برای توصیف یک مولکول به هوش مصنوعی چیست؟

• الف) فقط نوشتن نام رایج ترکی
• ب) ارائه ساختاری مانند SMILES و تایید هویت با InChIKey ✔
• ج) فقط گفتن وزن مولکولی
• د) نوشتن علامت تجاری کافی است

توضیح: نام ها (به ویژه نام های تجاری و مترادف) مبهم هستند و می توانند به مولکول اشتباه منجر شوند. دادن یک نماد ساختاری به مولکول مانند SMILES دقت را فراهم می کند. هویت او در پایگاه داده با InChIKey تایید شده است. علاوه بر این، SMILES ارائه شده توسط هوش مصنوعی باید با RDKit تجزیه شده و با متعارف سازی تأیید شود.

3. چگونه باید از وزن مولکولی داده شده توسط هوش مصنوعی استفاده کرد؟

• الف) استفاده مستقیم از آن، زیرا هوش مصنوعی در اعداد قابل اعتماد است
• ب) محاسبه و تأیید مستقل از فرمول به صورت دستی یا با RDKit ✔
• ج) کافی است از هوش مصنوعی دیگری بپرسید و مقایسه کنید
• د) وزن مولکولی بی اهمیت است، نیازی به تأیید نیست

توضیح: وزن مولکولی کمیتی است که به طور قطعی از فرمول مولکولی محاسبه می شود. پس پرسیدن مدل زبان ضعیف ترین راه است. باید به طور مستقل با ابزاری مانند RDKit یا با محاسبه دستی آن از یک فرمول تأیید شود. مدل زبان می‌تواند چنین اعدادی را با مقدار «به‌نظر رسیدن احتمالی» برازش دهد.

4. قبل از استفاده از استناد ادبیات (مقاله/DOI) که توسط هوش مصنوعی برگردانده شده است، چه باید کرد؟

• الف) هیچ چیز؛ اگر هوش مصنوعی مرجعی بدهد، واقعی است
• ب) فقط نگاه کردن به عنوان تا قانع کننده به نظر برسد کافی است.
• ج) تأیید هر استناد و DOI با رمزگشایی آنها در پایگاه داده (doi.org، Crossref) ✔
• د) عدد DOI طولانی ثابت می کند که واقعی است.

توضیحات: مدل زبان می‌تواند مقالات، نویسندگان و DOIهایی ایجاد کند که واقعی به نظر می‌رسند اما وجود ندارند (نقل جعلی). فقط به این دلیل که یک DOI می دهد به این معنی نیست که معتبر است. هر نقل قول باید با وضوح در یک پایگاه داده مانند doi.org، Crossref یا سایت ناشر تأیید شود. امن ترین جریان این است که انسان مقاله واقعی را پیدا کند و متن را با هوش مصنوعی خلاصه کند.

5. هوش مصنوعی در کدام حوزه ضعیف تر است و در برنامه ریزی واکنش نیاز به تایید دارد؟

• الف) در تشخیص اینکه واکنش متعلق به کدام طبقه عمومی است
• ب) اعداد شرایط دقیق، مقادیر بازده و نام معرف/کاتالیزور ✔
• ج) توضیح مکانیزم به زبان ساده
• د) طوفان فکری برای مسیرهای جایگزین

توضیح: هوش مصنوعی به طور کلی نوع واکنش و محصول اصلی واکنش های مستند را به خوبی پیش بینی می کند. با این حال، اعداد شرایط دقیق (دما، زمان، معادل)، مقادیر بازده، واکنش‌های نادر، و نام‌های معرف/کاتالیزور ضعیف‌ترین و مستعد ساختن هستند. اینها باید با ادبیات و کاتالوگ تایید شوند.

6. مطمئن ترین راه برای استفاده از هوش مصنوعی در تفسیر طیف چیست؟

• الف) فقط چند قله بدهید و بپرسید "این چه طیفی است؟" پرسیدن
• ب) ارائه ساختار مورد انتظار و داده های خام کامل و داشتن بررسی سازگاری (آزمایش فرضیه) ✔
• ج) نوشتن فقط مقادیر shift بدون انجام ادغام و تقسیم
• د) داشتن تخصیص ساختار قطعی با یک تکنیک واحد (فقط IR)

توضیحات: از هوش مصنوعی بپرسید که این طیف کدام ترکیب است؟ درخواست از ابتدا میزان خطا را افزایش می دهد. قابل اطمینان ترین راه این است که ساختار مورد انتظار (SMILES) و داده های خام (ادغام، تقسیم، حل کننده، لیست پیک) را با هم داده و بپرسید "آیا این داده ها با این ساختار سازگار است؟" پرسیدن است؛ یعنی استفاده از هوش مصنوعی به عنوان آزمایشگر فرضیه. تکلیف نهایی برای شیمیدانی است که طیف آزمایشی را بررسی می کند.

7. مطمئن ترین راه برای به دست آوردن نتیجه یک محاسبه شیمیایی (به عنوان مثال درصد بازده) چیست؟

• الف) درخواست نتیجه مستقیم از هوش مصنوعی به صورت شفاهی
• ب) کد پایتون اکانت را چاپ و اجرا کنید و آن را با یک مثال شناخته شده تست کنید ✔
• ج) یک سوال را چندین بار بپرسید و شماره ای را که بیشتر مطرح می شود را بدست آورید
• د) برآورد سریع بدون تعیین واحد

توضیح: مدل زبان با «پیش‌بینی نتیجه احتمالی» محاسبات را انجام می‌دهد و حتی با ضرب‌های بسیار ساده ممکن است اشتباه باشد. مطمئن ترین راه این است که هوش مصنوعی کد خود را بنویسد (مثلاً پایتون)، نه خود حساب، و آن کد را اجرا کنید. کد قطعی و قابل ممیزی است. کد را نیز باید با نمونه کوچکی که پاسخ آن مشخص است تست کرد.

8. مفهوم «دامنه کاربردپذیری» در پیش‌بینی ویژگی‌های مولکولی به چه معناست؟

• الف) قدرت پردازش کامپیوتری که مدل روی آن اجرا می شود
• ب) ناحیه مولکولی شبیه به داده های آموزشی، جایی که مدل پیش بینی های قابل اعتمادی را ارائه می دهد
• ج) منطقه اطمینان که در آن عدد داده شده توسط مدل همیشه دقیق است
• د) محدوده دمایی که در آن مولکول را می توان در آزمایشگاه سنتز کرد

توضیح: یک مدل QSAR/پیش‌بینی روی مولکول‌هایی که شبیه مولکول‌هایی هستند که روی آن‌ها آموزش داده شده است، به خوبی کار می‌کند. با توجه به مولکولی که بسیار متفاوت از داده های آموزشی است، مدل همچنان عددی را تولید می کند، اما این غیر قابل اعتماد است. به این می گویند «خارج از محدوده کاربرد بودن». مدل همیشه جواب می دهد. این بر عهده انسان است که ارزیابی کند که آیا پاسخ قابل اعتماد است یا خیر.

9. روش صحیح برخورد با مشاهدات در مستندسازی آزمایش چیست؟

• الف) نوشتن مشاهدات برای هوش مصنوعی برای صرفه جویی در زمان
• ب) شخصی که آزمایش را انجام می دهد مشاهدات را یادداشت می کند. فقط هوش مصنوعی فرمت و بررسی می کند ✔
• ج) عدم ثبت مشاهدات کافی است فقط بازده نهایی را بنویسید
• د) پنهان کردن انحرافات از برنامه برای زیبا جلوه دادن گزارش

توضیح: هوش مصنوعی نمی داند چیست. ایجاد مشاهدات (تغییر رنگ، انتشار گاز و غیره) در آن، رکوردهایی را ایجاد می کند که قابل قبول به نظر می رسند اما اتفاق نیفتاده است و این یک تقلب علمی است. هوش مصنوعی ضبط را فرمت می کند، فیلدهای گمشده را به یاد می آورد و تکرارپذیری را بررسی می کند. اما آزمایشگر انسانی باید مشاهدات و حقایق را ارائه دهد. انحرافات از طرح نیز باید ثبت شود.

10. نقش هوش مصنوعی در ایمنی آزمایشگاه و منبع حقیقت چیست؟

• الف) اگر هوش مصنوعی می گوید "ایمن"، نیازی به منبع دیگری نیست
• ب) منبع حقیقت SDS و GHS است; هوش مصنوعی مفید است اما نمی تواند حرف آخر را بزند ✔
• ج) تصمیمات امنیتی را می توان به طور کامل به هوش مصنوعی محول کرد
• د) SDS غیر ضروری است. انجمن های اینترنتی اطلاعات کافی را ارائه می دهند.

توضیحات: ایمنی بالاترین اولویت در شیمی است و هوش مصنوعی هرگز نمی تواند حرف آخر را در اینجا بزند. منبع اطلاعات ایمنی واقعی SDS (برگ داده های ایمنی) و طبقه بندی GHS است که توسط سازنده ارائه شده است. هوش مصنوعی می تواند متن SDS را خلاصه کند، پیش نویس فرم را تولید کند و غربالگری اولیه عدم انطباق را انجام دهد. با این حال، همه ادعاها باید با SDS تأیید شوند و روش باید توسط یک فرد / افسر امنیتی با تجربه تأیید شود.

11. کدام یک از ترکیبات معرف های زیر یک تطابق خطرناک (ناسازگار) شناخته شده است؟

• الف) مخلوط کردن آب و نمک خوراکی
• ب) مخلوط کردن محلول اسیدی با محلول حاوی هیپوکلریت (خطر گاز کلر) ✔
• ج) اختلاط اتانول و آب
• د) حل کردن شکر و آب

توضیح: در حالی که برخی از مواد شیمیایی به تنهایی نسبتاً بی خطر هستند، اما با هم خطرناک هستند. مخلوط کردن اسید و هیپوکلریت باعث آزاد شدن گاز کلر می شود. اکسید کننده + آلی خطر آتش سوزی / انفجار، آب + گرمای فلزی واکنش پذیر / هیدروژن را به همراه دارد. اگرچه هوش مصنوعی بیشتر این ترکیبات را می‌داند، اما همه آنها را تضمین نمی‌کند و گاهی اوقات می‌تواند پیشنهادی خطرناک به زبان بی‌گناه ارائه دهد. هر روش باید از نظر عدم انطباق با SDS غربالگری شود.

12. دقیق ترین عبارت برای "توهم" (هوش مصنوعی تولید اطلاعات ساختگی) چیست؟

• الف) یک خطای نرم افزاری نادر است و با آپدیت کاملا برطرف می شود.
• ب) رفتاری است که در مدل زبانی ذاتی است. راه حل این است که به طور مستقل هر خروجی را تأیید کنید ✔
• ج) فقط در اعلان های اشتباه نوشته شده ظاهر می شود، هرگز در اعلان های صحیح.
• د) اگر هوش مصنوعی به زبان امن صحبت کند، توهم نیست

توضیح: توهم یک نقص نیست، بلکه نتیجه ماهیت مدل زبانی است که «محتمل ترین کلمه بعدی» را تولید می کند. هدف مدل ممکن است، نه واقعی. موذیانه ترین قسمت این است که اطلاعات نادرست را به همان زبان مطمئن و با حقیقت ارائه می کند. راه حل این نیست که سعی کنید مدل را اصلاح کنید، بلکه ایجاد یک پوسته اعتبارسنجی مناسب در اطراف هر خروجی است. تسلط هرگز دلیلی بر صحت نیست.

13. «مثلث بندی» برای تأیید یک مقدار بحرانی (مثلاً وزن مولکولی) به چه معناست؟

• الف) پرسیدن یک سوال از یک هوش مصنوعی سه بار
• ب) مقایسه و رسیدن به یک نتیجه به بیش از یک روش مستقل ✔
• ج) محاسبه وزن سه مولکول مختلف به طور همزمان
• د) نتیجه را به سه رقم اعشار گرد کنید

توضيح: مثلث بندي از طريق چند مسير مستقل به يك نتيجه رسيد. به عنوان مثال، مقایسه وزن مولکولی با توجه به هوش مصنوعی، محاسبه RDKit و محاسبه دستی. اگر دو مسیر مستقل همپوشانی داشته باشند، اعتماد بالاست. اگر کسي منحرف شود جلوگيري مي شود و بررسي مي شود. به جای تکیه بر یک منبع واحد، باید حداقل دو روش مستقل را جستجو کرد.

14. راه صحیح سؤال از یک سرویس هوش مصنوعی عمومی در مورد یک مولکول منحصر به فرد که ثبت اختراع نشده است چیست؟

• الف) دادن مستقیم ساختار اصلی، زیرا سرعت مهم است
• ب) یادگیری یک استراتژی از طریق یک مثال عمومی/جانشین بدون آشکار ساختن ساختار اصلی ✔
• ج) ساختار دادن مشکلی نیست، هوش مصنوعی هرگز اطلاعات را پنهان نمی کند
• د) عدم ذکر نام مولکول بلکه تنها به اشتراک گذاشتن کل SMILES آن محافظت کافی است.

توضیحات: محتوای وارد شده به یک سرویس هوش مصنوعی عمومی ممکن است طبق خط مشی سرویس ذخیره یا پردازش شود. دادن یک ساختار اصلی، محرمانه بودن و اولویت ثبت اختراع را به خطر می اندازد. رویکرد صحیح این است که استراتژی را از یک مثال ژنریک/جانشین (یک کلاس مشابه از ساختارها) یاد بگیریم و آن را روی مولکول خود در داخل، بدون آشکار ساختن ساختار اصلی به کار ببریم. اطلاعات شخصی/بیمار نیز نباید در فرمی قابل شناسایی وارد شود.