ปัญญาประดิษฐ์เบื้องต้นในวิชาเคมี: บทบาท ขอบเขต การตรวจสอบความถูกต้อง และจริยธรรม

กำไร:

• ความสามารถในการแยกแยะว่าจุดใดที่ปัญญาประดิษฐ์ช่วยประหยัดเวลาในขั้นตอนการทำงานทางเคมี (แนวคิด การออกแบบ การวิเคราะห์ การรายงาน) และจุดใดที่การตัดสินใจเกี่ยวกับโครงสร้าง จำนวน ทรัพยากร และความปลอดภัยเป็นหน้าที่ของมนุษย์ ทั้งนี้ขึ้นอยู่กับระดับของความเสี่ยง
• ความสามารถในการใช้ระเบียบวินัยที่จะตรวจสอบแต่ละเอาต์พุตอย่างอิสระด้วยสี่ขั้นตอนของโครงสร้าง-หมายเลข-ทรัพยากร-ความปลอดภัย
• ทำความเข้าใจว่าเหตุใดการปรุงแต่งสารประกอบและตัวเลข การอ้างอิงที่เป็นเท็จ และความเข้าใจผิดด้านความปลอดภัยจึงเป็นความเสี่ยงสำหรับวิชาชีพนี้ที่ต้องพิจารณาตั้งแต่เริ่มต้น

เคมีเป็นวิทยาศาสตร์เชิงทดลองที่ศึกษาโครงสร้าง การเปลี่ยนแปลง และคุณสมบัติของสสาร นักเคมีชั่งน้ำหนัก ละลาย ให้ความร้อน และตวงวัดในห้องปฏิบัติการ ที่โต๊ะของเขา เขาวาดโมเลกุล วางแผนปฏิกิริยา ตีความสเปกตรัม สแกนวรรณกรรม และเขียนรายงาน ปัญญาประดิษฐ์ (เรียกสั้น ๆ ว่า AI โดยเฉพาะซอฟต์แวร์ที่สร้างข้อความโดยการคาดเดา "คำที่มีแนวโน้มมากที่สุดถัดไป" ซึ่งฝึกฝนด้วยโมเดลภาษาขนาดใหญ่ เช่น ข้อมูลข้อความขนาดใหญ่) สามารถเร่งความเร็วงานบนโต๊ะจำนวนมากได้อย่างมาก แต่มันไม่ได้สร้างห้องปฏิบัติการขึ้นมาเอง มันไม่อ่านตาชั่ง และที่สำคัญที่สุด: มันไม่ได้ตรวจสอบตัวเลข สูตร หรือการอ้างอิงใดๆ ที่สร้างในนามของคุณ โมดูลนี้จะสอนวิธีใช้ AI ในวิชาเคมีตั้งแต่ต้นจนจบแต่ต้องมีความรับผิดชอบ

ในหน่วยแรกนี้ ฉันต้องการปลูกฝังแนวคิดหนึ่งไว้ในใจ: AI เป็นตัวช่วยในวิชาเคมี ไม่ใช่นักเคมี เขียนโค้ด สร้างโครงร่าง สร้างเฟรมเวิร์กการสังเคราะห์ย้อนหลัง ช่วยตีความจุดสูงสุดของสเปกตรัม สรุปวรรณกรรม อย่างไรก็ตาม นักเคมีผู้มีความสามารถเป็นผู้ตัดสินใจว่าโมเลกุลสามารถสังเคราะห์ได้จริงหรือไม่ ไม่ว่าปฏิกิริยาจะปลอดภัยหรือไม่ ข้อมูลอ้างอิงนั้นเป็นของแท้หรือไม่ และมีความรับผิดชอบสูงสุด

AI เหมาะสมกับกระบวนการทำงานด้านเคมีตรงไหน?

เรามาแบ่งโครงการเคมีออกเป็นห้าขั้นตอนคร่าวๆ กัน: (1) แนวคิดและวรรณกรรม (2) การออกแบบโมเลกุลและปฏิกิริยา (3) การใช้งานในห้องปฏิบัติการ (4) การวิเคราะห์และการระบุลักษณะเฉพาะ (5) การรายงาน AI มีค่าที่แตกต่างกันมากในขั้นตอนเหล่านี้

• แนวคิดและวรรณกรรม: AI สรุปหัวข้ออย่างรวดเร็ว อธิบายแนวคิดหลัก สร้างคำค้นหา แต่เขาสามารถระบุแหล่งที่มาได้ เราจะเห็นสิ่งนี้ในอีกสักครู่
• การออกแบบ: สร้างรอยยิ้ม (รูปแบบของการเขียนโมเลกุลเป็นสตริงข้อความ มีรายละเอียดเพิ่มเติมในภายหลัง) แนะนำขั้นตอนการสังเคราะห์ย้อนยุค แสดงรายการทางเลือกที่เป็นปฏิกิริยา ข้อเสนอแนะเป็นสิ่งที่ดีไม่รับประกัน
• ห้องปฏิบัติการ: AI ไม่ได้ทำอะไรที่นี่ มาตรการชั่งน้ำหนัก การทำความร้อน และความปลอดภัยดำเนินการโดยมนุษย์ AI จะช่วยเขียนขั้นตอนเท่านั้น ก่อนที่จะดำเนินการตามขั้นตอนดังกล่าว มนุษย์จะต้องควบคุมดูแลเพื่อความปลอดภัย
• การวิเคราะห์: ในการตีความ NMR, IR, สเปกตรัมมวล (เป็นเทคนิคการวัดที่แสดงโครงสร้างของโมเลกุล) YZ จะช่วยจัดกลุ่มพีคและแสดงรายการโครงสร้างที่เป็นไปได้ งานสุดท้ายเป็นของคุณ
• การรายงาน: ผลิตสมุดบันทึกทดลอง ร่างบทความ ร่างแบบฟอร์มความปลอดภัย มันมีพลังมาก แต่ตัวเลขควรตรงกับของคุณ

เคล็ดลับ: สถานที่ที่ปลอดภัยที่สุดในการใช้ AI อยู่ในพื้นที่ "หากมีสิ่งผิดปกติเกิดขึ้น ระบบจะสังเกตเห็นและแก้ไขทันที": ข้อความร่าง โครงร่างโค้ด คำอธิบายคำศัพท์ สถานที่ที่เสี่ยงที่สุดคือพื้นที่ "หากเป็นเท็จ มันจะแพร่กระจายอย่างเงียบ ๆ": ค่าคงที่ การอ้างอิง การยืนยันความปลอดภัย ผลลัพธ์ที่เป็นตัวเลข

ทำไมเราต้องระวัง? ความเสี่ยงเชิงโครงสร้างสามประการ

แบบจำลองภาษาใหญ่ไม่ใช่เครื่องคิดเลขหรือเครื่องมือเคมี สร้างข้อความที่ "ดูน่าจะเป็นไปได้" ทางสถิติ สิ่งนี้นำไปสู่ความเสี่ยงที่เป็นรูปธรรมสามประการในวิชาเคมี:

1. สร้างขึ้น (ภาพหลอน): สามารถเขียนสารประกอบที่ไม่ใช่แบบจำลอง ปฏิกิริยาที่ไม่มีอยู่ หรือน้ำหนักโมเลกุลไม่ถูกต้องได้อย่างมั่นใจ ตัวอย่างเช่น ข้อความระบุว่า "น้ำหนักโมเลกุลของสารประกอบ X คือ 154.2 กรัม/โมล" ในขณะที่ค่าที่ถูกต้องคือ 168.2
2. การอ้างอิงปลอม: อาจให้แหล่งข้อมูลที่ดูสมจริงแต่ไม่มีเลย เช่น "Smith et al., 2019, Journal of Organic Chemistry" เขาสามารถสร้างเลข DOI ได้ด้วย
3. การเข้าใจผิดด้านความปลอดภัย: อาจนำเสนอการรวมกันของรีเอเจนต์ที่เป็นอันตราย (เช่น ตัวออกซิไดเซอร์และตัวทำละลายอินทรีย์ในอัตราส่วนที่ไม่เหมาะสม) ว่า "ไม่มีปัญหา"

ความเสี่ยงทั้งสามนี้จะปรากฏขึ้นครั้งแล้วครั้งเล่าในแต่ละหน่วยของโมดูลนี้ วิธีแก้ปัญหาไม่ใช่การหลบหนีจาก AI แต่เป็นการสร้างระเบียบวินัยในการตรวจสอบแต่ละเอาต์พุตด้วยแหล่งที่มาที่เป็นอิสระ

กรณีขนาดเล็ก

กรณีที่ 1 — น้ำหนักโมเลกุลพอดี นักศึกษาระดับบัณฑิตศึกษาถาม AI ถึงน้ำหนักโมเลกุลของพารา-ไนโตรฟีนอล “139.11 กรัม/โมล” AI กล่าว นักศึกษามั่นใจและวางแผนหนัก 6.96 กรัม ต่อ 0.05 โมล อย่างไรก็ตาม น้ำหนักโมเลกุลของพารา-ไนโตรฟีนอลอยู่ที่ 139.11 กรัม/โมล และครั้งนี้ถูกต้อง แต่นักเรียนไม่เคยตรวจสอบเลย ในสารประกอบถัดไป (พารา-อะมิโนฟีนอล ค่าจริง 109.13 กรัม/โมล) YZ บอกว่า “123.15”; ครั้งนี้นักเรียนจับได้โดยคำนวณด้วยมือจากสูตร (C6H7NO2) 6×12.011 + 7×1.008 + 14.007 + 2×15.999 = 109.13 บทเรียน: คำนวณน้ำหนักโมเลกุลแต่ละตัวโดยไม่มีสูตร

กรณีที่ 2 — DOI ปลอม นักวิจัยถาม AI ถึง 5 แหล่งในการทบทวนวรรณกรรมของเขา DOI ของสองในห้ารายการส่งคืน "ไม่พบ" เมื่อคลิก พาดหัวข่าวเป็นข้อเท็จจริง แต่บทความไม่เป็นความจริง เสียเวลา 40 นาที บทเรียน: ไม่ควรใช้การอ้างอิงทุกครั้งโดยไม่มีการตรวจสอบความถูกต้องในฐานข้อมูล (DOI, PubMed, Reaxys)

กรณีที่ 3 — อันตรายที่ดูเหมือนปลอดภัย ผู้ใช้ถาม AI เกี่ยวกับขั้นตอนการทำความสะอาด AI เสนอคำแนะนำทางอ้อมให้ผสมสารละลายที่มีไฮโปคลอไรต์กับสารละลายที่เป็นกรด ซึ่งเป็นส่วนผสมที่สามารถปล่อยก๊าซคลอรีนออกมาได้ โชคดีที่ผู้ใช้ดูเอกสารข้อมูลความปลอดภัย (SDS) แล้วหยุดลง บทเรียน: ทุกขั้นตอนได้รับการตรวจสอบโดยมนุษย์สำหรับ SDS และอันตรายก่อนที่จะนำไปใช้

พรอมต์อ่อน / พรอมต์แรง

พรอมต์ที่อ่อนแอ:

สังเคราะห์โมเลกุลนี้

คำกล่าวอ้างนี้คลุมเครือ: โมเลกุลอะไร วัสดุตั้งต้นอะไร ขนาดใด ข้อจำกัดอะไร AI สร้างช่องว่าง

พรอมต์อันทรงพลัง:

บทบาท: คุณเป็นผู้ช่วยที่มีประสบการณ์ในการสังเคราะห์สารอินทรีย์ โมเลกุลเป้าหมาย: 4-methoxyacetophenone (ยิ้ม: COc1ccc(cc1)C(C)=O) เรามีอนิโซลเป็นวัสดุเริ่มต้น งาน: ให้ข้อเสนอการสังเคราะห์ย้อนหลัง 2 ขั้นตอน สำหรับแต่ละขั้นตอน: รีเอเจนต์ สภาวะ (อุณหภูมิ ตัวทำละลาย) และปฏิกิริยาข้างเคียงที่เป็นไปได้ ข้อจำกัด: ทำเครื่องหมาย "ยืนยัน" ในกรณีที่คุณไม่แน่ใจ กำลังพอดี ผลลัพธ์: ขั้นตอนที่เป็นตัวเลข + รายการประเด็นที่ต้องตรวจสอบ

ความแตกต่าง: บทบาท เป้าหมายที่แน่นอน (พร้อมรอยยิ้ม) บริบท จำนวนขั้นตอน รูปแบบเอาต์พุต และข้อจำกัด "เหมาะสม" เหล่านี้คือองค์ประกอบห้าประการของการกระตุ้นเตือนที่ดีในวิชาเคมี: บทบาท การแสดงโครงสร้างที่แม่นยำ บริบท งาน ข้อจำกัดในการตรวจสอบ

ประเภทของเครื่องมือ AI: แบบจำลองภาษาหรือเครื่องมือเคมี?

ในวิชาเคมี คุณต้องเผชิญกับ "AI" สองแบบที่แตกต่างกัน และสิ่งสำคัญคือต้องไม่สับสน:

ประเภท

ทำอะไร

ความน่าเชื่อถือ

ตัวอย่างการใช้งาน

แบบจำลองภาษาทั่วไป

สร้างข้อความ/โค้ด อธิบาย เขียนแบบร่าง

มีจำนวนน้อยแต่ใช้ภาษาสูง

โครงร่างขั้นตอน คำอธิบายคำศัพท์

ห้องสมุดเคมี (RDKit ฯลฯ )

ประมวลผลโมเลกุลตามที่กำหนด คำนวณน้ำหนักโมเลกุล

สูง (ตามกฎ)

การยืนยัน SMILES บัญชี MA

โมเดลการทำนายแบบกำหนดเอง (การสังเคราะห์ย้อนหลัง คุณลักษณะ)

ให้การคาดการณ์ที่ได้รับการฝึกอบรมจากข้อมูล

ปานกลาง ขึ้นอยู่กับพื้นที่

การสังเคราะห์ซ้ำ การประมาณความสามารถในการละลาย

วรรณกรรม/เครื่องมือค้นหา

แบบสอบถามฐานข้อมูลจริง

สูงขึ้นอยู่กับแหล่งที่มา

การยืนยันการระบุแหล่งที่มา การค้นหาปฏิกิริยา

กระบวนการทำงานที่แข็งแกร่งที่สุดผสมผสานสิ่งเหล่านี้เข้าด้วยกัน: แบบจำลองภาษาสร้างแนวคิด ห้องสมุดเคมีคำนวณตัวเลขตามที่กำหนด เครื่องมือวรรณกรรมจะตรวจสอบแหล่งที่มา การตรวจสอบโดยมนุษย์ เราจะสร้างห่วงโซ่นี้ในหน่วยถัดไป

วินัยในการตรวจสอบ: สี่ขั้นตอน

นำเอาต์พุต AI แต่ละรายการผ่านสี่ขั้นตอนเหล่านี้ก่อนเข้าสู่ห้องปฏิบัติการหรือรายงาน:

1. โครงสร้าง: สัญลักษณ์โมเลกุล/ปฏิกิริยา (SMILES/InChI) ถูกต้องหรือไม่ สามารถแยกวิเคราะห์ด้วยเครื่องมือ (RDKit) ได้หรือไม่?
2. ตัวเลข: มีการตรวจสอบน้ำหนักโมเลกุล ปริมาณสัมพันธ์ และการคำนวณผลผลิตอย่างอิสระ (ด้วยมือหรือห้องสมุด) หรือไม่
3. ที่มา: การอ้างสิทธิ์และการระบุแหล่งที่มาทั้งหมดได้รับการยืนยันในฐานข้อมูลจริงหรือไม่
4. ความปลอดภัย: ได้อ่าน SDS ของรีเอเจนต์แต่ละตัวในขั้นตอนแล้ว มีการรวมกันที่เป็นอันตรายหรือไม่

หมายเหตุ: สี่ขั้นตอนเหล่านี้ใช้ "เสมอ" ไม่ใช่ "บางครั้ง" 20 สถานการณ์ที่ AI ถูกต้องไม่ใช่ข้อแก้ตัว 1 สถานการณ์ที่ไม่ถูกต้อง เพราะในทางเคมีนั้น 1 สถานการณ์อาจเป็นการระเบิด การวางยาพิษ หรือวัตถุหดกลับ

ข้อผิดพลาดทั่วไป

• เข้าใจผิดว่าเอาต์พุต AI เป็น "ทรัพยากร" AI ไม่ใช่ทรัพยากร แต่เป็นตัวสร้างที่พยายามจดจำทรัพยากร (บางครั้งก็ไม่ถูกต้อง) เป็นฐานข้อมูลต้นทาง
• ไว้วางใจเลขครับ. การใช้ตัวเลข เช่น น้ำหนักโมเลกุล, pKa, จุดเดือด โดยไม่ต้องตรวจสอบ สิ่งเหล่านี้สามารถคำนวณ/ค้นหาได้อย่างกำหนด การถามโมเดลภาษาเป็นวิธีที่อ่อนแอที่สุด
• จ้างพนักงานรักษาความปลอดภัยให้กับ AI “AI ไม่ได้บอกว่ามันอันตราย” ไม่ได้หมายความว่ามันปลอดภัย การประเมินอันตรายเป็นงานของมนุษย์และ SDS
• พรอมต์คลุมเครือ ไม่ให้ชื่อโมเลกุลแต่ตามโครงสร้างของมัน (SMILES/InChI) สิ่งนี้นำไปสู่โมเลกุลที่ไม่ถูกต้องเนื่องจากความสับสนของชื่อ
• เชื่อมั่นในความพยายามเพียงครั้งเดียว ถามคำถามเดิมอีกครั้งด้วยวิธีอื่นและไม่ตรวจสอบความสอดคล้อง

โดยสรุป

• AI เป็นผู้ช่วยโต๊ะทำงานที่ทรงพลังในด้านเคมี โดยสร้างโค้ด โครงร่าง คำอธิบาย โครงกระดูกการสแกน แต่ห้องปฏิบัติการไม่ทำและไม่ตรวจสอบผลลัพธ์
• มีความเสี่ยงโดยธรรมชาติสามประการ: สารประกอบ/หมายเลขปลอม การแสดงที่มาปลอม การเข้าใจผิดด้านความปลอดภัย
• แยกและรวมแบบจำลองภาษาทั่วไปและเครื่องมือเคมีเชิงกำหนด (RDKit, ฐานข้อมูล)
• นำแต่ละเอาต์พุตผ่านสี่ขั้นตอนของโครงสร้าง–หมายเลข–แหล่งที่มา–ความปลอดภัย
• พร้อมท์ที่ดี: รวมถึงบทบาท การแสดงโครงสร้างที่ชัดเจน บริบท งาน ข้อจำกัดในการตรวจสอบ

งานสมัคร

เลือกโมเลกุลที่คุณได้ศึกษาด้วยตัวเอง (เช่น แอสไพริน, SMILES: CC(=O)Oc1ccccc1C(=O)O) ถาม AI สามสิ่ง: (1) น้ำหนักโมเลกุล (2) เอกสารอ้างอิงสองฉบับ (3) ขั้นตอนการสังเคราะห์ จากนั้นตรวจสอบแต่ละรายการโดยแยกจากกัน: คำนวณน้ำหนักโมเลกุลจากสูตรด้วยตนเอง ยืนยันการอ้างอิงด้วย DOI ตรวจสอบขั้นตอนการสังเคราะห์ด้วยตาที่ปลอดภัย ผลลัพธ์ใดออกมาถูกต้องและต้องแก้ไขอะไรบ้าง เก็บ "บันทึกการยืนยัน" ไว้ครึ่งหน้า

รายการตรวจสอบ

• [ ] ฉันรู้ว่า AI เป็นตัวช่วย ไม่ใช่นักเคมี
• [ ] ฉันตระหนักถึงความเสี่ยงของการปลอมแปลง การระบุแหล่งที่มาที่เป็นเท็จ และความไม่เชื่อถือด้วยตัวอย่าง
• [ ] ฉันสามารถแยกแยะระหว่างแบบจำลองภาษาและเครื่องมือเคมีที่กำหนดได้
• [ ] ฉันจะใช้สี่ขั้นตอนของโครงสร้าง–หมายเลข–แหล่งที่มา–ความปลอดภัยกับแต่ละเอาต์พุต
• [ ] ฉันอธิบายโมเลกุลด้วยสัญลักษณ์โครงสร้าง (SMILES/InChI) ไม่ใช่ตามชื่อ
• [ ] ฉันเก็บบันทึกการยืนยันไว้อย่างน้อยหนึ่งรายการ