Təcrübədə İnsan: Etika, Məxfilik, Məsuliyyət və Başdan Uca İş Akışı

Qazanclar:

• Təcrübədə insan prinsipini sona qədər iş axınına inteqrasiya etmək və hər mərhələdə süni intellekt/insan rollarını ayıra bilmək
• Ümumi süni intellektə məxfi struktur və məlumat vermədən ümumi proxy nümunələri ilə işləmək bacarığı
• Kritik nöqtələrdə insan təsdiq qapılarını yerləşdirmək və şəffaflıq və izlənilə bilən son məsuliyyəti öz üzərinə götürmək bacarığı

Bu son bölmədə biz bütün modulu vahid çərçivədə birləşdiririk: insan-in-the-loop. Bu prinsip deyir ki, süni intellekt nə qədər bacarıqlı olursa olsun, insan kimyəvi qərarın hər bir kritik nöqtəsində başa düşməli, nəzarət etməli və təsdiq etməlidir. Bu bölmədə əvvəlcə etik və məxfilik aspektlərini aydınlaşdıracağıq, sonra bir molekulu ideyadan hesabata aparan uçdan-uca iş axını quracağıq və AI və insanların hər mərhələdə əməyi necə böldüyünü görəcəyik. Məqsəd öyrəndiyiniz hər şeyi gündəlik işə uyğun bir sistemə çevirməkdir.

Məxfilik: AI-yə nə verməməli?

Kimya tez-tez məxfi məlumatlarla işləyir: patentsiz molekullar, şirkət sirri sintez marşrutları, dərc edilməmiş məlumatlar, xəstə nümunələri. İctimai AI xidmətinə daxil etdiyiniz mətn xidmətin siyasətinə uyğun olaraq saxlanıla və ya işlənə bilər. Buna görə də:

• Nəşr olunmamış orijinal strukturları (pre-patent molekulları) ictimai süni intellektə buraxmazdan əvvəl institusional siyasətinizi yoxlayın.
• Heç vaxt şəxsi/xəstə məlumatlarını (klinik nümunələr) müəyyən edilə bilən formada daxil etməyin.
• Ticarət sirrinin sintezi yollarını paylaşmazdan əvvəl məxfilik müqavilələrini nəzərdən keçirin.
• Lazım olduqda daxili/xüsusi yerləşdirmə AI alətlərini seçin.

Diqqət: Ümumi süni intellektdən molekul haqqında soruşmaq həmin molekulun strukturunu aşkar etmək demək ola bilər. Patenti olmayan unikal struktur üçün bu, sizin prioritetinizi (patent hüququ) təhlükə altına qoya bilər. Ümumi/surroqat nümunələri ilə gizli strukturları soruşun.

Etika: dörd prinsip

1. Şəffaflıq: AI istifadə etdiyiniz yeri gizlətməyin; Nəşr və institusional siyasətlərə əməl edin.
2. Məsuliyyət: İnsan son qərara görə məsuliyyət daşıyır; “Təklif edilən süni intellekt” təhlükəsizlik və ya bütövlüyün pozulmasına bəraət qazandırmır.
3. Qeyri-zərərlilik: Təhlükəli/qanunsuz sintez, ikili istifadə (silah potensialı) tətbiqləri üçün AI-dan istifadə etməyin.
4. Ədalət və dürüstlük: Məlumatları təhrif etməyin, nəticələri bəzəməyin, atributlar uydurmayın.

Başdan-ayağa iş axını: molekul → hesabat

İndi bütün modulu vahid bir axına birləşdirək. Hər mərhələdə süni intellektlə insanın etdikləri arasındakı fərqə diqqət yetirin.

Mərhələ

AI-nin rolu

İnsanların (kritik) rolu

1. İdeya/ədəbiyyat

Konsepsiya xülasəsi, axtarış termini

Həqiqi mənbənin tapılması, atributun təsdiqlənməsi

2. Strukturun təsviri

GÜLÜŞÜMLER yaratmaq

RDKit, InChIKey ilə autentifikasiya

3. Sintez planı

Retrosintez, alternativlər

Ədəbiyyatın təsdiqi, yol seçimi

4. Təhlükəsizlik

SDS xülasəsi, ilkin uyğunsuzluq

SDS oxunması, təsdiqi, PPE qərarı

5. Ərizə

(Heç biri)

Bütün laboratoriya işləri

6. Təhlil

Spectrum şərh dəstəyi

Son struktur tapşırığı

7. Məlumatların emalı

kod yazmaq

Kodu işə salın, nəticəni yoxlayın

8. Sənədləşdirmə

Formatlaşdırma, nəzarət

Müşahidə, sapma, imza

9. Hesabat

qaralama mətn

Nömrə/sitat yoxlanışı, hesabatlılıq

Bu cədvəl modulun 11 vahidinin bir işə necə düzüldüyünü göstərir. AI sürətləndirir; insanlar yoxlayır və sahib olurlar.

Addım-addım: iş axınının qurulması

1. Rolları aydınlaşdırın: Hər bir tapşırıq üçün "Aİ, yoxsa insan qərar verir?" əvvəldən müəyyənləşdirin.
2. Məxfilik filtri qurun: Süni intellektə bir şey vermədən "bu özəldirmi?" deyə soruşa bilərsiniz. soruş.
3. Doğrulama qapılarını qoyun: Hər bir mərhələnin sonunda yoxlama addımı (vahid 10-da cədvəl).
4. İzləmə qabiliyyətini qoruyun: AI-dən hansı çıxış gəldi, necə yoxlanıldı, kim təsdiq etdi.
5. Təsdiq nöqtələrini təyin edin: Təhlükəsizlik və yekun nəticə kimi kritik nöqtələrdə insan təsdiqi məcburidir.
6. Əlaqə: Tutulan hər bir səhvi qeyd edin və iş axını yaxşılaşdırın.

Dörd kopyalana bilən şablon

1) Məxfilik ön filtri:

Sual verməzdən əvvəl bunu düşünün: Məzmun: [NƏ SORUŞURAM] Tapşırıq: Bu məzmunda dərc olunmamış orijinal artefaktlar, şəxsi məlumatlar və ya ticarət sirləri varmı? Əgər belədirsə, strukturu gizlədəcək ümumi/surroqat nümunə ilə sualı necə yenidən yaza biləcəyimi təklif edin.

2) Fazanın sonu yoxlama qapısı:

Mən aşağıdakı mərhələni tamamladım: [PHASE, məs. sintez planı]. Tapşırıq: Bu mərhələdən çıxan yoxlanılması lazım olan bütün elementləri sadalayın (nömrə, sitat, struktur, təhlükəsizlik iddiası). Hər biri üçün yoxlama metodunu yazın və kim təsdiq etməlidir. Növbəti addıma keçməzdən əvvəl bağlanması lazım olan hər hansı açıq elementləri qeyd edin.

3) İnsan-AI rolunun bölüşdürülməsi planı:

Layihəm: [QISA TƏSVİRİ]. Tapşırıq: Bu layihəni mərhələlərə bölün. Hər bir mərhələ üçün aşağıdakıları ayırın: - AI nə edə bilər (qaralama, kod, xülasə) - İnsan nə qərar verməlidir (təhlükəsizlik, nəticə, təsdiq). Əsas məsuliyyətin insanda olduğu kritik məqamları qeyd edin.

4) Bütövlük yoxlanışı hesabatı:

Aşağıda mənim hesabat layihəsi var:[DRAFT]Tapşırıq: Aşağıdakıları yoxlayın və qeyd edin: 1) Təsdiqlənməmiş rəqəmlər/sitatlar varmı?2) Süni intellektdən istifadə şəffaf şəkildə ifadə olunubmu?3) Məlumatlar “gözəlləşdirilib” (əlamətləri gizlətmək) görünür?4) Təhlükəsizlik/etik qüsurlar varmı? Əmin olmadığınız yerdə [YOXLAYIN].

Zəif məlumat / Güclü göstəriş

Zəif:

Şirkətimizin yeni gizli molekulunu sintez etməyin ən yaxşı yolu nədir?[faktiki orijinal quruluş]

Bu, orijinal pre-patent strukturunu ümumi xidmətə təqdim edir; Prioritet və məxfiliyi risk altına qoyur.

Güclü:

Mən aromatik ketonların oxşar quruluşu üçün ümumi retrosintez strategiyasını öyrənmək istərdim. Konkret, orijinal quruluşu vermədən ümumi bir nümunə (asetofenon törəməsi) ilə izah edin. Mən strategiyanı öz molekulumda tətbiq edəcəyəm.

Fərq: gizli strukturu aşkar etmədən, ümumi surroqat nümunəsi ilə eyni öyrənmə əldə edildi.

mini hallar

Case 1 – Orijinal struktur açıqlanıb. Bir qrup patent üçün müraciət etməzdən əvvəl ümumi süni intellektdən unikal molekul haqqında soruşdu. Hüquq bölməsi bildirdi ki, bu, prioriteti şübhə altına ala bilər; Proses gecikdi. Dərs: ümumi proxy ilə unikal strukturlar istəyin, məxfilik siyasətinə hörmət edin.

2-ci hal - İnsan razılığı qəzanın qarşısını aldı. Avtomatlaşdırılmış iş prosesində AI bir layihə proseduru hazırladı və birbaşa həyata keçirilməli idi; Lakin təcrübəli kimyaçı “təhlükəsizlik klirensi” qapısında uyğun olmayan bir cüt reagent tutdu. Dərs: kritik nöqtələrdə insan təsdiq qapıları həyatları xilas edir.

3-cü vəziyyət — Başdan-ayağa nizam-intizam. Magistr tələbəsi bütün modulu bir layihədə həyata keçirdi: ədəbiyyat xülasəsi + AI ilə faktiki sitatın yoxlanılması, RDKit ilə strukturun yoxlanılması, kodla məlumatların təhlili, SDS ilə təhlükəsizlik, dürüst sənədləşdirmə, şəffaf hesabat. Nəticə həm daha sürətli, həm də daha möhkəm oldu; dissertasiya müdafiəsində "AI-ni necə yoxladınız?" sualına aydın cavab verdi. Dərs: AI + yoxlama intizamı birlikdə ən yaxşı şəkildə işləyir.

Ümumi səhvlər

• Gizli strukturun ümumi AI-yə verilməsi. Bu, patent prioritetini və ticarət sirrini pozur.
• Müəyyən edilə bilən şəxsi/xəstə məlumatlarının daxil edilməsi. Məxfiliyin pozulması və hüquqi risk.
• Təsdiq qapılarından yan keçmək. Təhlükəsizlik və nəticədə insanın razılığı olmadan irəliləmək.
• Məsuliyyətin AI-yə ötürülməsi. “AI təklif etdi” heç bir səhvə bəraət qazandırmır.
• Şəffaflığın qarşısını almaq. Süni intellektdən istifadənin gizlədilməsi bütövlüyə xələl gətirir.
• İkili istifadə riskinə məhəl qoymamaq. Zərərli tətbiqlər üçün AI-dən istifadə etmək qeyri-etikdir.

İpucu: “İnsanın dayandırdığı və təsdiq etdiyi hər bir kritik qərar” ilə iş prosesinizi dizayn edin. AI-ni zənciri sürətləndirən bir halqaya çevirin və zənciri tutan düyün həmişə insandır.

Xülasə

• Təcrübədə insan prinsipi: hər bir kritik kimyəvi qərarda insan başa düşür, nəzarət edir və təsdiqləyir.
• Məxfilik: ictimai süni intellektə unikal artefaktlar, şəxsi məlumatlar və ticarət sirlərini təqdim etməyin; Ümumi proxy istifadə edin.
• Etika: şəffaflıq, məsuliyyət, zərər görməmək, dürüstlük dörd əsas prinsipdir.
• Başdan sona iş prosesində AI hər mərhələdə sürətlənir; insanlar yoxlayır və sahib olurlar.
• İnsan təsdiq qapılarını kritik nöqtələrə qoyun (təhlükəsizlik, son nəticə) və izlənməsini təmin edin.

Tətbiq tapşırığı

Özünüzə aid bir layihə seçin (real və ya hipotetik) və başlanğıcdan sona qədər AI-insan iş axını dizayn edin. Yuxarıdakı 9 mərhələli cədvəli öz layihənizə uyğunlaşdırın: AI hər mərhələdə nə edəcək, insan nəyi təsdiq edəcək? Məxfilik ön filtrini tətbiq edin: AI-yə hansı məlumatları vermirsiniz, onu necə ümumiləşdirirsiniz? Ən azı iki insan tərəfindən təsdiqlənmiş qapıları və bir izlənilmə metodunu müəyyənləşdirin. Bir səhifəlik “iş axını və yoxlama planı” yazın.

yoxlama siyahısı

• [ ] Təcrübədə mən insan prinsipini və bunun nə üçün lazım olduğunu başa düşdüm.
• [ ] Mən gizli strukturu/məlumatları ümumi AI-yə vermədən ümumiləşdirirəm.
• [ ] Mən şəffaflıq, məsuliyyət, zərər görməmək və dürüstlük prinsiplərinə əməl edirəm.
• [ ] Başdan sona iş prosesində AI/insan rollarını ayırdım.
• [ ] Mən kritik nöqtələrdə insan təsdiq qapılarını qoyuram.
• [ ] Mən AI-dən hansı çıxışın gəldiyini və necə yoxlanıldığını izləyirəm.

Modul imtahanı

1. Aşağıdakılardan hansı kimyada süni intellekt üçün ən dəqiq mövqedir?

• A) Süni intellekt kod, layihə və redaktə köməkçisidir; Quruluş, say, resurslar, təhlükəsizlik və etik qərarlara görə məsuliyyət insanların üzərinə düşür ✔
• B) Süni intellekt kimya mühərrikidir və onun verdiyi molekulyar çəkilər həmişə dəqiqdir.
• C) Süni intellekt yalnız ədəbiyyat icmalında işləyir, onun təhlil və təhlükəsizliklə heç bir əlaqəsi yoxdur
• D) Süni intellekt insanlardan daha qərəzsiz olduğundan, təhlükəsizliklə bağlı qərarlar onun öhdəsinə buraxılmalıdır.

Təsvir: Süni intellekt; Bu, kod yazan, qaralamalar hazırlayan, retrosintez skeleti quran, spektrin şərhinə kömək edən və təşkil edən köməkçidir. Bununla belə, molekulyar çəki və stoxiometriyanın deterministik hesablanması, strukturun RDKit ilə yoxlanılması, verilənlər bazasında sitatların təsdiqi, SDS/GHS ilə təhlükəsizlik qərarı və yekun məsuliyyət səlahiyyətli kimyaçıya məxsusdur. Böyük dil modeli kalkulyator və ya kimya mühərriki deyil; Bu, "növbəti ən çox ehtimal olunan sözü" yaradan mətn generatorudur və onun təsdiqlənməmiş çıxışı yanlış struktur, nömrə və ya təhlükəyə səbəb ola bilər.

2. Süni intellektə bir molekulu təsvir etməyin ən etibarlı yolu hansıdır?

• A) Yalnız ümumi türk adını yazmaqla
• B) SMILES kimi struktur təmsilinin verilməsi və InChIKey ilə şəxsiyyətin təsdiqlənməsi ✔
• C) Sadəcə molekulyar çəkisini söyləməklə
• D) Əmtəə nişanının yazılması kifayətdir

İzahat: Adlar (xüsusilə ticarət və sinonim adlar) birmənalı deyil və yanlış molekula səbəb ola bilər. Molekulun SMILES kimi struktur qeydinin verilməsi dəqiqliyi təmin edir; Onun şəxsiyyəti InChIKey ilə verilənlər bazasında təsdiqlənir. Bundan əlavə, süni intellekt tərəfindən verilən SMILES RDKit ilə təhlil edilməli və kanonikləşdirmə ilə təsdiqlənməlidir.

3. Süni intellektin verdiyi molekulyar çəkidən necə istifadə etməlisiniz?

• A) Birbaşa istifadə, çünki AI rəqəmlərdə etibarlıdır
• B) Düsturdan müstəqil olaraq əl ilə və ya RDKit ilə hesablayın və yoxlayın ✔
• C) Sadəcə başqa bir süni intellektdən soruşmaq və müqayisə etmək kifayətdir
• D) Molekulyar çəki əhəmiyyətsizdir, yoxlamaya ehtiyac yoxdur

İzahat: Molekulyar çəki molekulyar düsturdan deterministik şəkildə hesablanmış kəmiyyətdir. Beləliklə, dil modelini soruşmaq ən zəif yoldur; RDKit kimi bir alətlə və ya düsturdan əl ilə hesablanaraq müstəqil olaraq yoxlanılmalıdır. Dil modeli 'ehtimal görünən' dəyəri ilə belə nömrələrə uyğun ola bilər.

4. Süni intellektin qaytardığı ədəbiyyatdan sitatdan (məqalə/DOI) istifadə etməzdən əvvəl nə etmək lazımdır?

• A) Heç nə; Əgər süni intellekt istinad verirsə, bu, realdır
• B) İnandırıcı görünməsi üçün sadəcə başlığa baxmaq kifayətdir.
• C) Hər bir sitatın və DOI-nin verilənlər bazasında (doi.org, Crossref) deşifrə edərək təsdiqlənməsi ✔
• D) Uzun DOI nömrəsi onun həqiqi olduğunu sübut edir.

Təsvir: Dil modeli real görünən, lakin mövcud olmayan məqalələr, müəlliflər və DOI-lər yarada bilər (saxta sitat). Sadəcə DOI verdiyi üçün onun etibarlı olması demək deyil. Hər bir sitat doi.org, Crossref və ya nəşriyyatın saytı kimi verilənlər bazasında həll yolu ilə təsdiqlənməlidir; İnsanın əsl məqaləni tapması və mətni süni intellektlə ümumiləşdirməsi ən təhlükəsiz axındır.

5. Hansı sahədə süni intellekt ən zəifdir və reaksiyanın planlaşdırılmasında təsdiq tələb edir?

• A) Reaksiyanın hansı ümumi sinfə aid olduğunu tanımaqda
• B) Dəqiq vəziyyət nömrələri, məhsuldarlıq qiymətləri və reagent/katalizator adları ✔
• C) Mexanizmi sadə dillə izah etmək
• D) Alternativ yollar üçün beyin fırtınası

İzahat: AI ümumiyyətlə reaksiyanın növünü və yaxşı sənədləşdirilmiş reaksiyaların əsas məhsulunu yaxşı proqnozlaşdırır. Bununla belə, dəqiq vəziyyət nömrələri (temperatur, vaxt, ekvivalent), məhsuldarlıq dəyərləri, nadir reaksiyalar və reagent/katalizator adları ən zəif və istehsala ən çox meyllidir; bunlar ədəbiyyat və kataloqlarla təsdiqlənməlidir.

6. Spektrin şərhində süni intellektdən istifadə etməyin ən etibarlı yolu hansıdır?

• A) Sadəcə bir neçə zirvə verin və “bu hansı spektrdir?” sualını verin. soruşmaq
• B) Gözlənilən strukturun və tam xam məlumatın verilməsi və ardıcıllığın yoxlanılması (hipoteza testi) ✔
• C) İnteqrasiya və bölmə həyata keçirmədən yalnız yerdəyişmə qiymətlərinin yazılması
• D) Tək bir texnika ilə qəti struktur təyinatının olması (yalnız IR)

Təsvir: AI-dən “bu spektr hansı birləşmədir?” sualını verin. Sıfırdan soruşmaq səhv nisbətini artırır. Ən etibarlı yol gözlənilən strukturu (SMILES) və xam məlumatları (inteqrasiya, parçalama, həlledici, pik siyahısı) birlikdə vermək və “bu məlumat bu struktura uyğundurmu?” sualını verməkdir. soruşmaqdır; yəni süni intellektin fərziyyə sınağı kimi istifadə edilməsi. Son tapşırıq eksperimental spektri araşdıran kimyaçı üçündür.

7. Kimyəvi hesablamanın nəticəsini əldə etməyin ən etibarlı yolu hansıdır (məsələn, faiz gəliri)?

• A) Nəticəni birbaşa süni intellektdən sözlə istəmək
• B) Hesabın Python kodunu çap edin və işlədin və məlum nümunə ilə sınayın ✔
• C) Eyni sualı bir neçə dəfə verin və ən çox gələn nömrəni alın
• D) Vahidi qeyd etmədən tez qiymətləndirmək

İzahat: Dil modeli "ehtimal olunan nəticəni proqnozlaşdırmaqla" hesab edir və hətta çox sadə vurmalarda belə səhv ola bilər. Ən etibarlı yol, AI-nin hesabın özünü deyil, KODLARI (məsələn, Python) yazmasını və həmin kodu işə salmasıdır; kod deterministik və yoxlanıla biləndir. Kod həmçinin cavabı məlum olan kiçik bir nümunə ilə sınaqdan keçirilməlidir.

8. Molekulyar xassələrin proqnozlaşdırılmasında “tətbiq sahəsi” anlayışı nə deməkdir?

• A) Modelin işlədiyi kompüterin emal gücü
• B) Modelin etibarlı proqnozlar verdiyi təlim məlumatlarına oxşar molekulyar region ✔
• C) Modelin verdiyi nömrənin həmişə dəqiq olduğu təminat sahəsi
• D) Laboratoriyada molekulun sintez oluna bildiyi temperatur diapazonu

İzahat: QSAR/proqnozlaşdırma modeli öyrədildiyi molekullara bənzər molekullar üzərində yaxşı işləyir. Təlim məlumatlarından çox fərqli bir molekul nəzərə alınmaqla, model hələ də bir sıra istehsal edir, lakin bu, etibarsızdır; buna “tətbiq oluna bilənlik çərçivəsindən kənarda olmaq” deyilir. Model həmişə cavab verir; Cavabın etibarlı olub-olmadığını qiymətləndirmək insana bağlıdır.

9. Təcrübə sənədlərində müşahidələrlə məşğul olmaq üçün düzgün yanaşma hansıdır?

• A) Vaxta qənaət etmək üçün süni intellektə müşahidələr yazmaq
• B) Təcrübə aparan şəxs müşahidələri yazır; AI yalnız formatlaşdırır və yoxlayır ✔
• C) Müşahidələri qeyd etməmək kifayətdir, sadəcə son məhsulu yazmaq kifayətdir
• D) Hesabatın gözəl görünməsi üçün plandan kənara çıxmaların gizlədilməsi

İzahat: Süni intellektin nə olduğunu bilmir; Müşahidələrin (rəng dəyişikliyi, qazın ayrılması və s.) ona uyğunlaşdırılması inandırıcı görünən, lakin baş verməmiş qeydlər yaradır və bu, elmi saxtakarlıqdır. AI qeydi formatlayır, çatışmayan sahələri xatırladır və təkrarlanmağı yoxlayır; lakin təcrübə aparan insan müşahidələri və faktları təqdim etməlidir. Plandan kənarlaşmalar da qeyd edilməlidir.

10. Laboratoriya təhlükəsizliyində süni intellektin rolu və həqiqətin mənbəyi nədir?

• A) Əgər süni intellekt “təhlükəsiz” deyirsə, başqa mənbəyə ehtiyac yoxdur
• B) Həqiqətin mənbəyi SDS və GHS-dir; AI faydalıdır, lakin son sözü deyə bilməz ✔
• C) Təhlükəsizlik qərarları tamamilə süni intellektə həvalə edilə bilər
• D) SDS lazımsızdır; İnternet forumları kifayət qədər məlumat verir.

Təsvir: Təhlükəsizlik kimyada ən yüksək prioritetdir və süni intellekt burada heç vaxt son sözü deyə bilməz. Faktiki təhlükəsizlik məlumatının mənbəyi istehsalçı tərəfindən təmin edilən SDS (Təhlükəsizlik Məlumat Vərəqi) və GHS təsnifatıdır. Süni intellekt SDS mətnini ümumiləşdirə, forma layihələri yarada və uyğunsuzluğun ilkin yoxlanışını həyata keçirə bilər; Bununla belə, bütün iddialar SDS ilə yoxlanılmalı və prosedur təcrübəli şəxs/təhlükəsizlik işçisi tərəfindən təsdiqlənməlidir.

11. Aşağıdakı reagent birləşmələrindən hansı məlum təhlükəli (uyğun olmayan) uyğunluqdur?

• A) Su və xörək duzunu qarışdırmaq
• B) Turşu məhlulun tərkibində hipoxlorit olan məhlulla qarışdırılması (xlor qazı riski) ✔
• C) Etanol və suyun qarışdırılması
• D) Şəkər və suyun həll edilməsi

İzahat: Bəzi kimyəvi maddələr nisbətən təhlükəsiz olsa da, birlikdə təhlükəlidirlər. Turşu və hipokloritin qarışdırılması xlor qazını buraxır; Oksidləşdirici + üzvi yanğın/partlayış, su + reaktiv metal istilik/hidrogen riski yaradır. Süni intellekt bu birləşmələrin əksəriyyətini bilsə də, onların hamısına zəmanət vermir və bəzən günahsız dildə təhlükəli təkliflər təqdim edə bilər; hər bir prosedur SDS-ə uyğun gəlməmək üçün yoxlanılmalıdır.

12. "Halüsinasiya" (uydurma məlumat yaradan süni intellekt) üçün ən doğru ifadə hansıdır?

• A) Bu nadir proqram xətasıdır və yeniləmə ilə tamamilə aradan qaldırılır.
• B) Dil modelinə xas olan davranışdır; Həll yolu hər bir çıxışı müstəqil şəkildə yoxlamaqdır ✔
• C) Yalnız səhv yazılmış göstərişlərdə görünür, heç vaxt düzgün göstərişlərdə deyil.
• D) Əgər süni intellekt təhlükəsiz bir dildə danışırsa, bu hallüsinasiya deyil

İzahat: Halüsinasiya nasazlıq deyil, “növbəti ən çox ehtimal olunan sözü” yaradan dil modelinin təbiətinin nəticəsidir; Model həqiqəti deyil, mümkün olanı hədəfləyir. Ən məkrli tərəfi odur ki, yalan məlumatı həqiqətlə eyni etibarlı dildə təqdim edir. Çözüm modeli düzəltməyə çalışmaq deyil, hər bir çıxış ətrafında tipə uyğun təsdiqləmə qabığını qurmaqdır; səlislik heç vaxt dəqiqliyin sübutu deyil.

13. Kritik dəyəri (məsələn, molekulyar çəki) yoxlamaq üçün “trianqulyasiya” nə deməkdir?

• A) Eyni sualı eyni süni intellektə üç dəfə vermək
• B) Birdən çox müstəqil şəkildə müqayisə edib eyni nəticəyə gəlmək ✔
• C) Eyni zamanda üç müxtəlif molekulun çəkisinin hesablanması
• D) Nəticənin üç onluq yerlərinə yuvarlaqlaşdırılması

İzahat: Trianqulyasiya çoxlu müstəqil yollarla eyni nəticəyə çatır; Məsələn, süni intellektə görə molekulyar çəkinin müqayisəsi, RDKit hesablanması və əl ilə hesablanması. İki müstəqil yol üst-üstə düşürsə, inam yüksəkdir; Kimsə kənara çıxarsa, dayandırılır və araşdırılır. Tək mənbəyə güvənmək əvəzinə, ən azı iki müstəqil üsul axtarmaq lazımdır.

14. Patenti olmayan unikal molekul haqqında ümumi süni intellekt xidmətinə müraciət etməyin düzgün yolu nədir?

• A) Sürət önəmli olduğu üçün ilkin strukturun birbaşa verilməsi
• B) Orijinal strukturu aşkar etmədən ümumi/surroqat nümunə vasitəsilə strategiyanın öyrənilməsi ✔
• C) Struktur vermək problem deyil, AI heç vaxt məlumatı gizlətmir
• D) Molekulun adının verilməməsi, ancaq onun bütün GÜLÜŞMƏLƏRİNİ paylaşması kifayət qədər qorunmadır.

Təsvir: Ümumi süni intellekt xidmətinə daxil edilmiş məzmun xidmət siyasətinə uyğun olaraq saxlanıla və ya emal oluna bilər; Orijinal strukturun verilməsi məxfilik və patent prioritetini riskə atır. Düzgün yanaşma strategiyanı ümumi/surroqat nümunədən (oxşar strukturlar sinfi) öyrənmək və orijinal quruluşu aşkar etmədən onu öz molekuluna tətbiq etməkdir. Şəxsi/xəstə məlumatları da müəyyən edilə bilən formada daxil edilməməlidir.