화학에서의 인공 지능 소개: 역할, 경계, 검증 및 윤리

이득:

• 위험 수준에 따라 인공 지능이 화학 작업 흐름(아이디어, 설계, 분석, 보고)에서 시간을 절약하는 부분과 구조, 수, 자원 및 안전 결정을 인간에게 맡기는 부분을 구별할 수 있습니다.
• 구조-번호-자원-보안의 4단계로 각 출력을 독립적으로 확인하는 규율 적용 능력
• 조작된 화합물과 숫자, 잘못된 참조, 보안에 대한 오해가 처음부터 고려해야 하는 이 직업에 대한 위험인 이유를 이해하십시오.

화학은 물질의 구조, 변형 및 특성을 연구하는 실험 과학입니다. 화학자는 실험실에서 무게를 재고, 용해하고, 가열하고 측정합니다. 그는 책상에서 분자를 그리고, 반응을 계획하고, 스펙트럼을 해석하고, 문헌을 스캔하고, 보고서를 작성합니다. 인공 지능(간단히 말하면 AI, 특히 대규모 언어 모델, 즉 대규모 텍스트 데이터에 대해 훈련된 "다음으로 가장 가능성이 높은 단어"를 예측하여 텍스트를 생성하는 소프트웨어)은 이러한 사무 작업의 속도를 극적으로 향상시킬 수 있습니다. 그러나 실험실 자체를 구축하지 않으며, 저울을 읽지도 않으며, 가장 중요한 것은 사용자를 대신하여 생성된 숫자, 공식 또는 인용을 확인하지 않는다는 것입니다. 이 모듈에서는 화학에서 AI를 엔드 투 엔드로 책임감 있게 사용하는 방법을 가르칩니다.

이 첫 번째 단원에서는 여러분의 마음 속에 한 가지 아이디어를 심고 싶습니다. AI는 화학자가 아니라 화학 조수입니다. 코드를 작성하고, 개요를 생성하고, 역합성 프레임워크를 구축하고, 스펙트럼 피크 해석을 돕고, 문헌을 요약합니다. 그러나 분자가 실제로 합성될 수 있는지 여부, 반응이 안전한지 여부, 참조 자료가 정품인지 여부 및 궁극적인 책임을 결정하는 것은 유능한 화학자입니다.

AI는 화학 작업 흐름에서 어디에 적합합니까?

화학 프로젝트를 대략 5단계로 나누어 보겠습니다. (1) 아이디어 및 문헌, (2) 분자 및 반응 설계, (3) 실험실 적용, (4) 분석 및 특성화, (5) 보고. AI는 이 단계에서 매우 다른 가치를 전달합니다.

• 아이디어 및 문헌: AI는 주제를 빠르게 요약하고, 핵심 개념을 설명하고, 검색어를 생성합니다. 그러나 그는 귀속을 구성할 수 있습니다. 우리는 이것을 잠시 후에 보게 될 것입니다.
• 설계: SMILES(분자를 텍스트 문자열로 작성하는 형태, 나중에 자세히 설명)를 생성하고, 역합성 단계를 제안하고, 반응적 대안을 나열합니다. 제안은 좋지만 보장은 아닙니다.
• 연구실: AI는 여기서 아무것도 하지 않습니다. 계량, 난방 및 보안 조치는 사람이 수행합니다. AI는 절차 작성에만 도움을 줍니다. 해당 절차를 수행하기 전에 안전을 위해 사람이 감독해야 합니다.
• 분석: NMR, IR, 질량 스펙트럼(분자의 구조를 보여주는 측정 기술)을 해석할 때 YZ는 피크를 그룹화하고 가능한 구조를 나열하는 데 도움이 됩니다. 마지막 임무는 당신의 몫입니다.
• 보고: 실험 노트, 기사 초안, 안전 양식 초안을 작성합니다. 그것은 매우 강력합니다. 하지만 그 숫자는 당신의 숫자와 일치해야 합니다.

팁: AI를 사용하기에 가장 안전한 곳은 "무언가 잘못되면 즉시 발견하고 수정합니다" 영역(초안 텍스트, 코드 뼈대, 용어 설명)입니다. 가장 위험한 곳은 상수, 참조, 보안 주장, 수치 결과 등 "거짓이면 조용히 퍼진다"는 영역입니다.

우리는 왜 조심해야 합니까? 세 가지 구조적 위험

빅 언어 모델은 계산기나 화학 엔진이 아닙니다. 통계적으로 "가능성이 있는" 텍스트를 생성합니다. 이는 화학 분야에서 세 가지 구체적인 위험을 초래합니다.

1. 꾸며낸 것(환각): 모형이 아닌 화합물, 존재하지 않는 반응, 잘못된 분자량 등을 자신있게 적을 수 있습니다. 예를 들어, "화합물 X의 분자량은 154.2g/mol"이라고 되어 있지만 정확한 값은 168.2입니다.
2. 가짜 인용: "Smith et al., 2019, Journal of Organic Chemistry"와 같이 현실적으로 보이지만 전혀 존재하지 않는 출처를 제공할 수 있습니다. 그는 심지어 DOI 번호를 만들 수도 있습니다.
3. 안전 오류: 시약의 위험한 조합(예: 부적절한 비율의 산화제와 유기 용매)을 "문제 없음"으로 제시할 수 있습니다.

이 세 가지 위험은 이 모듈의 각 단원에서 계속해서 나타납니다. 해결책은 AI에서 벗어나는 것이 아니라, 각각의 결과물을 독립적인 소스로 검증하는 규율을 확립하는 것이다.

미니 케이스

사례 1 - 적합 분자량. 한 대학원생이 AI에게 파라니트로페놀의 분자량을 물었습니다. AI는 “139.11g/mol”이라고 말했다. 학생은 자신감이 있었고 0.05mol에 대해 6.96g의 무게를 달기로 계획했습니다. 그러나 파라니트로페놀의 분자량은 139.11g/mol로 이번에는 정확했지만 학생은 확인한 적이 없었습니다. 다음 화합물(파라-아미노페놀, 실제값 109.13 g/mol)에 대해 YZ는 "123.15"라고 말했습니다. 이번에는 학생이 공식(C6H7NO2): 6×12.011 + 7×1.008 + 14.007 + 2×15.999 = 109.13에서 손으로 계산하여 이를 포착했습니다. 교훈: 공식 없이 각 분자량을 계산합니다.

사례 2 - 가짜 DOI. 한 연구원은 문헌 검토에서 AI에게 5가지 출처를 요청했습니다. 클릭했을 때 5개 중 2개의 DOI가 "찾을 수 없음"을 반환했습니다. 헤드라인은 사실이었지만 기사는 그렇지 않았습니다. 40분 낭비. 교훈: 모든 인용이 데이터베이스(DOI, PubMed, Reaxys)의 검증 없이 사용되어서는 안 됩니다.

사례 3 - 안전해 보이는 위험. 사용자가 AI에게 청소 절차에 대해 질문했습니다. AI는 차아염소산염 함유 용액을 산성 용액과 혼합하면 염소 가스를 방출할 수 있다는 제안을 간접적으로 제시했습니다. 다행히 사용자는 안전보건자료(SDS)를 보고 멈췄습니다. 교훈: 모든 절차는 실행되기 전에 SDS 및 위험 여부를 사람이 직접 검사합니다.

약한 프롬프트 / 강한 프롬프트

약한 프롬프트:

이 분자를 합성하세요.

이 주장은 모호합니다. 어떤 분자, 어떤 출발 물질, 어떤 규모, 어떤 제약이 있습니까? AI가 격차를 메워줍니다.

강력한 프롬프트:

역할: 당신은 유기 합성 분야의 숙련된 조수입니다. 표적 분자: 4-메톡시아세토페논(웃음: COc1ccc(cc1)C(C)=O). 우리는 출발 물질로 아니솔을 가지고 있습니다. 과제: 2단계 역합성 제안을 제시하세요. 각 단계마다 시약, 조건(온도, 용매) 및 가능한 부반응이 있습니다. 제약 조건: 확실하지 않은 부분에 "VERIFY"를 표시합니다. 출력: 번호가 매겨진 단계 + 확인할 포인트 목록.

차이점: 역할, 정확한 목표(SMILES 포함), 컨텍스트, 단계 수, 출력 형식 및 "맞춤" 제약 조건. 역할, 정확한 구조 표현, 맥락, 작업, 검증 제약 등 화학에서 좋은 자극의 5가지 구성 요소는 다음과 같습니다.

AI 도구 유형: 언어 모델인가, 화학 도구인가?

화학에서는 두 가지 다른 "AI"를 접하게 되므로 혼동하지 않는 것이 중요합니다.

장르

무엇을

신뢰성

사용 예

일반 언어 모델

텍스트/코드 생성, 설명, 초안 작성

숫자는 낮고 언어는 높음

절차 개요, 용어 설명

화학 라이브러리(RDKit 등)

분자를 결정론적으로 처리하고 분자량을 계산합니다.

높음(규칙 기반)

SMILES 인증, MA 계정

맞춤형 예측 모델(재합성, 특성)

데이터 학습 예측 제공

지역에 따라 중간

역합성, 용해도 추정

문헌/검색 도구

실제 데이터베이스 쿼리

소스에 따라 높음

속성 확인, 반응 검색

가장 강력한 작업 흐름은 다음을 결합합니다. 언어 모델은 아이디어를 생성하고, 화학 라이브러리는 결정론적으로 숫자를 계산하고, 문헌 도구는 속성을 확인하고, 인간은 검증합니다. 우리는 다음 단원에서 이 체인을 구축할 것입니다.

검증 규율: 4단계

각 AI 출력을 실험실에 입력하거나 보고하기 전에 다음 네 단계를 수행하십시오.

1. 구조: 분자/반응 표기법(SMILES/InChI)이 유효한가요? 도구(RDKit)로 구문 분석할 수 있나요?
2. 번호: 분자량, 화학양론, 수율 계산이 독립적으로(직접 또는 라이브러리를 통해) 검증되었습니까?
3. 출처: 모든 주장과 귀속이 실제 데이터베이스에서 검증되었나요?
4. 안전: 절차에 포함된 각 시약에 대한 SDS를 읽었습니까? 위험한 조합이 있습니까?

참고: 이 네 단계는 "가끔"이 아닌 "항상" 적용됩니다. AI가 올바른 20가지 상황은 AI가 틀린 1가지 상황을 용납하지 않습니다. 화학에서는 폭발, 중독, 물품 회수 등의 상황이 발생할 수 있기 때문입니다.

일반적인 실수

• AI 출력을 "자원"으로 착각합니다. AI는 자원이 아니라 자원을 (때로는 부정확하게) 기억하려고 시도하는 생성기입니다. 소스 데이터베이스입니다.
• 번호를 신뢰합니다. 분자량, pKa, 끓는점 등의 숫자를 검증하지 않고 사용합니다. 이는 결정론적으로 계산/검색될 수 있습니다. 언어 모델을 묻는 것이 가장 약한 방법입니다.
• 보안을 AI에 아웃소싱합니다. “AI가 위험하다고 말하지 않았다”는 것이 안전하다는 뜻은 아니다. 위험 평가는 사람과 SDS의 임무입니다.
• 막연한 프롬프트. 이름으로 분자를 제공하는 것이 아니라 구조로 분자를 제공합니다(SMILES/InChI). 이로 인해 이름 혼동으로 인해 잘못된 분자가 생성됩니다.
• 단 한번의 시도를 믿으세요. 같은 질문을 다른 방식으로 다시 질문하고 일관성을 확인하지 않습니다.

요약하면

• AI는 화학 분야의 강력한 책상 보조자입니다. AI는 코드, 개요, 설명, 스캔 뼈대를 생성합니다. 하지만 연구실에서는 이를 수행하지 않으며 그 결과를 확인하지도 않습니다.
• 세 가지 고유한 위험이 있습니다: 가짜 화합물/숫자, 가짜 속성, 보안 오류.
• 일반 언어 모델과 결정론적 화학 도구(RDKit, 데이터베이스)를 분리하고 결합합니다.
• 구조-번호-소스-보안의 4단계를 통해 각 출력을 수행합니다.
• 좋은 프롬프트: 역할, 명시적 구조 표현, 컨텍스트, 작업, 유효성 검사 제약 조건이 포함됩니다.

응용과제

스스로 연구한 분자를 선택하십시오(예: 아스피린, 미소: CC(=O)Oc1ccccc1C(=O)O). AI에게 (1) 분자량, (2) 참고 논문 2개, (3) 합성 단계의 세 가지를 물어보세요. 그런 다음 각각을 독립적으로 확인합니다. 공식에서 분자량을 수동으로 계산하고, DOI로 인용을 확인하고, 보안 감시를 통해 합성 단계를 검사합니다. 어떤 출력이 올바르게 나왔고 어떤 출력을 수정해야 합니까? 반 페이지 분량의 "확인 로그"를 보관하십시오.

체크리스트

• [ ] AI는 화학자가 아니라 조력자라는 것을 깨달았습니다.
• [ ] 나는 예시를 통해 조작, 허위 귀속, 불신의 위험을 인식합니다.
• [ ] 나는 언어 모델과 결정론적 화학 도구를 구별할 수 있습니다.
• [ ] 각 출력에 구조-번호-소스-보안의 4단계를 적용하겠습니다.
• [ ] 나는 이름이 아닌 구조 표기(SMILES/InChI)로 분자를 설명합니다.
• [ ] 하나 이상의 확인 로그를 보관했습니다.