환각, 윤리, 기밀유지 및 과학적 진실성

이득:

• 물리학에서의 환각 형태(가짜 상수, 가짜 법칙, 단위 오류, 잘못된 결과, 가짜 속성)를 인식하고 적절한 방법으로 포착하는 능력.
• 미공개, 기밀 및 개인 데이터를 무단 도구에 입력하지 않고 익명화 및 최소화하여 보호하는 기능
• 데이터를 가식 없이 솔직하게 보고하고, 인공지능의 사용 내역을 투명하게 기록함으로써 궁극적인 책임이 인간에게 있음을 이해할 수 있습니다.

이 모듈 전체에서 우리는 각 단원에서 인공 지능(AI)이 가속화되고 인간이 검증한다는 동일한 원칙을 다루었습니다. 이 마지막 단원에서는 물리학의 가장 근본적인 가치인 과학적 완전성이라는 우산 아래 전체 검증 관행을 통합합니다. 물리학은 자연에 대해 검증 가능한 지식을 생산하는 것을 추구합니다. 이러한 노력의 중심에는 성실성, 반복성 및 책임감이 있습니다. AI는 이러한 가치를 강화하는 데 사용될 수 있지만 잘못 사용하면 모든 가치를 위협합니다. 이 단원에서는 환각의 물리적 형태, 데이터 및 개인 정보 보호 책임, 윤리적 경계, 궁극적인 책임이 항상 인간에게 있는 이유에 대해 논의합니다.

물리학에서의 환각의 형태

AI가 자신있게 잘못된 정보를 생성하는 환각은 물리학에서 독특하고 위험한 형태를 취합니다. 이를 인식하는 것이 잡기의 첫 번째 단계입니다.

환각의 종류

예

캡처 방법

피팅 고정/데이터

잘못된 재료 밀도

신뢰할 수 있는 참조를 통한 확인

잘못된 공식/법률

존재하지 않는 "원리" 이름

교과서/SymPy 파생

단위/주문 오류

J를 eV로 착각함

차원분석, 단위제어

잘못된 수치 결과

잘못된 코드 출력

코드 실행

출처가 불분명한 귀속

존재하지 않는 기사

DOI를 통한 검증

잘못 보고된 결과

실제 기사의 왜곡

원본 소스 읽기

공통된 내용은 다음과 같습니다. 대규모 언어 모델은 진실을 말하는 것이 아니라 "가능한 것처럼 보이는 텍스트"를 생성하도록 설계되었습니다. 물리학에서는 '가능해 보이는 것'과 '사실인 것'의 차이가 바로 과학의 존재 이유이다.

데이터, 개인 정보 보호 및 지적 재산권 책임

물리학자들은 미공개 실험 데이터, 사전 특허 설계, 산업 협력을 통한 기밀 측정, 개인 건강 또는 안전 데이터와 관련된 연구 등 민감한 데이터를 다루는 경우가 많습니다. 이러한 데이터를 일반 AI 도구에 입력하면 제3자가 해당 데이터에 접근할 수 있고 모델의 훈련 데이터에 접근할 수도 있습니다. 이는 기밀성 위반 및 과학적 우선순위(최초 발견자가 될 수 있는 권리) 상실을 의미합니다. 규칙은 명확합니다. 조직에서 승인하지 않은 AI 도구에 미공개, 기밀 또는 개인 데이터를 입력하지 마십시오. 도구의 데이터 조건을 입력하고, 익명화하고, 최소화(필요한 것만 제공)하고 읽으려는 경우.

주의: 실험실의 미공개 측정값이나 회사의 기밀 설계 매개변수를 "빠른 분석을 위해" AI 도구에 입력하는 것은 되돌릴 수 없는 실수가 될 수 있습니다. 데이터는 한번 공유되면 다시 불러올 수 없습니다. 의심스러우면 데이터를 입력하지 마십시오. 먼저 해당 기관의 정책과 도구의 개인정보 보호 약관을 명확히 하세요.

윤리적 경계와 과학적 완전성

사용은 기술적으로 가능하고 합법적일 수도 있지만 여전히 비윤리적일 수 있습니다. 물리학에는 과학적 완전성과 관련된 몇 가지 빨간 선이 있습니다.

데이터 조작 또는 장식. AI에게 “수익률에 더 잘 맞는 포인트를 생성해달라”거나 “그래프를 더 설득력 있게 보이게 만들어 달라”고 요구하는 것은 데이터 사기다. 데이터는 있는 그대로 보고됩니다. 이상값은 문서화되고 정당한 이유가 있는 경우에만 제거됩니다.

기여의 투명성. 코드 작성, 언어 교정, 분석 등 연구에서 AI를 사용한 적이 있다면 적절한 장소에서 이를 명확히 하는 것이 공정합니다. 많은 저널과 기관에서 이를 요구합니다.

저작권과 책임. AI는 작가가 아닙니다. 작품의 내용에 대해 책임을 질 수 없습니다. 책임은 언제나 인간 작가들에게 있습니다. AI가 만들어낸 오류는 '차량이 해냈다'고 옹호할 수 없다.

재현성. 과학적 결과를 얻으려면 다른 사람이 복제할 수 있도록 방법(사용된 코드, 매개변수, AI 프롬프트 포함)을 명확하게 문서화해야 합니다.

세 개의 미니 케이스

사례 1 - 기밀 데이터 유출. 한 연구원은 "빠른 그래프 작성을 위해" 회사와의 비공개 계약에서 얻은 측정 데이터를 일반 AI 도구에 붙여넣었습니다. 그는 나중에 이 도구가 입력을 저장할 수 있다는 것을 깨달았습니다. 계약 위반 및 우선권 상실 가능성이 발생했습니다. 교훈: 기밀 데이터는 승인되지 않은 도구에 입력되지 않습니다.

사례 2 - 미화 인쇄. 한 학생은 실험 데이터가 이론과 완전히 일치하지 않았기 때문에 AI에 "데이터를 이론에 더 가깝게 보이도록" 편집해 달라고 요청했습니다. 그의 조언자는 이것을 알아채고 그를 멈추었습니다. 불일치는 실험의 체계적인 오류이거나 흥미로운 새로운 물리학을 의미합니다. 이는 숨기는 것이 아니라 조사해야 할 것입니다. 데이터는 정직하게 보고되었으며, 체계적 오류가 발견되었습니다.

사례 3 — 투명성을 얻었습니다. 한 팀은 AI의 도움을 받아 논문의 데이터 분석 코드를 작성하고 이를 방법 섹션에 명확하게 명시했습니다. 코드와 프롬프트를 추가 파일로 공유했습니다. 심판은 코드를 검토하고 사소한 수정을 제안했습니다. 투명성은 출판 전에 오류를 잡아내 연구의 신뢰성을 높였습니다.

복사 가능한 템플릿 4개

1) 환각 검사:

환각에 대한 다음 물리학 출력을 스캔하십시오. 가짜 상수, 가짜 공식/법칙 이름, 단위/주문 오류, 확인되지 않은 수치 결과 및 확인되지 않은 속성이 있습니까? 각각의 의심스러운 항목에 플래그를 지정하고 확인 방법(참조, 코드, DOI)을 지정합니다. 출력: [여기]

2) 데이터 개인정보 보호 사전 확인:

AI 도구에 입력하기 전에 다음 데이터/텍스트를 평가하십시오. 미공개 정보, 기밀 정보, 개인 정보 또는 계약상 보호되는 정보가 포함되어 있습니까? 그렇다면 익명화하거나 최소화할 수 있는 방법을 제안해 주세요. 확실하지 않은 경우 "회사 정책을 확인하세요"라고 말합니다. 내용: [여기]

3) 초안 투명성/기여 명세서:

한 연구에서는 [코딩/언어 교정/분석 등]에 AI를 사용했습니다. 이를 솔직하게 문서화하는 짧은 초안 "AI 사용 명세서"를 작성하세요. 또한 어떤 부분이 사람에 의해 검증되었는지도 표시되어야 합니다.

4) 과학적 완전성 보장:

다음 분석/결과에 대해 무결성 검사를 수행합니다. 데이터가 있는 그대로(장식 없음) 보고되고, 불확실성이 보고되고, 방법이 재현 가능한 방식으로 문서화되어 있으며, AI 사용이 투명합니까? 부족한 점을 나열하십시오. 내용: [여기]

약한 프롬프트 / 강한 프롬프트

약함: "이론에 더 잘 맞도록 수율을 편집하고 그래프를 설득력 있게 만듭니다."

결과: 데이터 사기; 과학적 완전성에 대한 직접적인 위반, 돌이킬 수 없는 평판 손실.

Strong: "수율이 이론과 완전히 일치하지 않습니다. 이러한 불일치의 가능한 원인(체계적 오류, 통계적 변동, 누락된 모델 또는 새로운 효과)을 분석하도록 도와주세요. 데이터를 변경하지 않고 불일치를 정직하게 보고하는 방법을 제안해 주세요."

결과: 과학적 완전성에 대한 정직하고 조사적이며 충실한 접근 방식입니다. 갈등은 발견의 기회가 됩니다.

일반적인 실수

• 환각과 자신감을 혼동합니다. AI가 자신있게 말한다고 해서 정확성이 보장되는 것은 아니다. 심지어 가장 정확한 문장도 조작될 수 있습니다.
• 승인 없이 차량에 기밀 데이터를 입력하는 행위. 일단 공유되면 데이터를 검색할 수 없습니다. 우선순위와 기밀성이 상실됩니다.
• 데이터를 아름답게 만듭니다. 데이터를 "적합 이론"으로 변경하는 것은 가장 심각한 과학 범죄 중 하나입니다.
• AI 사용을 숨깁니다. 투명성은 정직성의 요구 사항이며 많은 기관에서 의무적으로 요구됩니다.
• 차량에 책임을 전가합니다. “AI가 해냈다”는 변호가 아닙니다. 궁극적인 책임은 언제나 인간에게 있습니다.

팁: 모든 AI 기반 연구가 끝나면 다음 세 가지 질문을 스스로에게 물어보십시오. (1) 이 결과의 모든 사실, 숫자 및 속성이 독립적으로 검증되었습니까? (2) 내가 사용한 데이터에 입력해서는 안되는 기밀/개인 정보가 포함되어 있습니까? (3) 다른 사람이 복제할 수 있을 만큼 AI 사용 및 방법론을 투명하게 문서화했습니까? 이 세 가지 질문에 대해 명확하게 "예"라고 대답할 수 없다면 연구가 아직 완료되지 않은 것입니다.

요약하면

과학적 진실성은 물리학 존재의 기초이며 AI 시대에는 더욱 중요하다. 환각은 잘못된 상수, 잘못된 법칙, 단위 오류, 잘못된 결론 및 잘못된 참조의 형태로 물리학에서 나타납니다. 각각은 고유한 확인 방법으로 캡처됩니다. 기밀 및 개인 데이터는 승인되지 않은 도구에 입력되지 않습니다. 데이터는 결코 미화되지 않습니다. AI 사용은 투명하게 문서화됩니다. 그리고 궁극적인 책임은 언제나 사람에게 있습니다. 이 모듈 전체에서 배우는 단 하나의 원칙은 AI는 강력한 가속기이지만 검증, 무결성 및 책임은 유능한 물리학자, 즉 여러분의 어깨에 달려 있다는 것입니다. 검증되지 않은 AI 출력은 결코 물리학자의 확인을 대체할 수 없습니다.

응용과제

이 모듈에서 생성한 AI 출력(계정, 분석 또는 텍스트)을 선택합니다. 1. 템플릿을 사용한 환각 화면: 더미 상수, 가짜 공식, 단위 오류 또는 확인되지 않은 속성이 있습니까? 템플릿 2를 사용하면 사용 중인 데이터가 개인 정보 보호에 적합한지 평가하세요. 마지막으로 템플릿 3을 사용하여 짧은 AI 사용/투명성 설명 초안을 작성합니다. 5~6개의 문장으로 적습니다. 스캔을 통해 밝혀진 내용은 무엇이며, 어떤 확인 단계를 수행했습니까?

체크리스트

• [ ] 출력된 상수, 수식, 결과를 모두 제가 직접 검증했습니다.
• [ ] 나는 DOI/출처를 통해 각 인용을 확인했습니다.
• [ ] 나는 승인 없이 도구에 기밀/개인 데이터를 입력하지 않았음을 확인했습니다.
• [ ] 가식 없이 데이터를 있는 그대로 보고했습니다.
• [ ] 나는 AI 사용을 투명하고 재현 가능한 방식으로 문서화했습니다.
• [ ] 나는 궁극적인 책임이 나에게 있음을 받아들였습니다. 나는 차량에 어떤 잘못도 돌리지 않았습니다.

모듈 시험

1. 다음 중 물리학에서 인공지능의 가장 정확한 포지셔닝은 무엇입니까?

• A) 인공 지능은 코드, 초안 및 편집 보조자입니다. 단위, 직급, 검증, 윤리적 판단의 책임은 인간에게 있습니다 ✔
• 나) 인공지능은 계산기이고 그것이 제공하는 수치 결과는 항상 정확하다
• 다) 인공지능은 계산에만 작동하며, 실험 분석 및 교육과는 아무런 관련이 없습니다.
• 라) 인공지능은 인간보다 공정하기 때문에 단위와 결과 결정은 인공지능에게 맡겨야 한다.

설명: 인공지능; 코드를 작성하고, 초안을 작성하고, 파생 프레임워크를 생성 및 구성하는 보조자입니다. 그러나 결과의 단위 및 순서 검증, 보존 법칙에 따른 결과 보장, 지속성 및 참조 확인에 대한 궁극적인 책임은 유능한 물리학자에게 있습니다. 빅 언어 모델은 계산기나 물리 엔진이 아닙니다. '다음으로 가장 가능성이 높은 단어'를 생성하는 텍스트 생성기이며 확인되지 않은 출력으로 인해 잘못된 값, 디자인 또는 결과가 발생할 수 있습니다.

2. 대규모 언어 모델에 인쇄하는 계산 코드의 수치 결과에 대한 가장 정확한 근사치는 무엇입니까?

• A) 모델이 '이 코드가 제공하는 것'이라고 말하는 숫자를 신뢰합니다. 왜냐하면 그가 코드를 작성했기 때문입니다.
• B) 코드를 직접 실행하고 출력을 확인합니다. ✔ 모델의 언어적 수치 예측에 의존하지 않음
• C) 코드를 전혀 실행하지 않고 코드가 어떻게 읽히는지 살펴보는 것만으로 코드가 올바른 것으로 받아들입니다.
• D) 결과를 다시 모델에게 직접 물어봐도 동일한 수치가 나오면 정답으로 간주한다.

설명: LLM이 머리 속에 작성한 코드의 출력을 '계산'하여 잘못된 숫자를 반환할 수 있습니다. 반면 동일한 코드를 실행하면 올바른 결과가 나옵니다. 결정적인 것은 실행되는 코드입니다. 이는 모델에 대한 구두 예측이 아닙니다. 따라서 코드는 항상 자신의 환경에서 실행되어야 하며 출력이 표시되어야 합니다.

3. 마찰 없는 동적 시스템의 시뮬레이션이 물리학을 정확하게 반영하는지 테스트하는 가장 강력한 방법은 무엇입니까?

• A) 차트가 시각적으로 깔끔하고 설득력 있게 보이는지 확인
• B) 단일 시간 단계만으로 시뮬레이션을 실행하고 결과를 신뢰합니다.
• 다) 총 에너지, 운동량 등 보존해야 할 양을 모니터링하고 일정하게 유지되는지 확인 ✔
• D) 실행 속도에 따라 시뮬레이션 평가

설명: 마찰이 없는 시스템에서는 전체 에너지(및 운동량도 포함)가 보존되어야 합니다. 시뮬레이션 전반에 걸쳐 이 크기를 모니터링하고 그것이 일정하게 유지되는지 확인하면 수치적 결함이 드러납니다(예: 에너지를 지속적으로 증가시키는 원시 오일러 방법). 에너지가 표류하는 경우 시뮬레이션은 신뢰할 수 없습니다. 단지 좋은 그래픽을 만들어낸다고 해서 그것이 옳다는 것을 의미하는 것은 아닙니다.

4. 다음 중 실험 데이터에 모델을 적용할 때 올바른 접근 방식은 무엇입니까?

• A) 모든 점을 통과하므로 데이터에 가장 잘 맞는 더 높은 차수의 다항식을 선택합니다.
• B) 모호함 없이 매개변수를 단일 숫자로 제공
• C) 곡선이 얼마나 아름다운지 보는 것만으로 핏의 질을 선언한다.
• D) 물리학에서 모델 선택, 불확실성과 함께 매개변수 보고, 잔차와의 적합성 평가 ✔

설명: 모델은 데이터를 보고 '어느 것이 가장 적합한지' 궁금해하는 것이 아니라 사건이 따라야 하는 물리적 법칙에서 선택되어야 합니다. 충분한 자유 매개변수(예: 높은 수준의 다항식)를 사용하면 모든 데이터에 대해 '완벽'하지만 물리적으로 의미 없는 맞춤(과적 맞춤)이 이루어질 수 있습니다. 매개변수는 불확실성과 함께 보고되어야 하며, 적합도는 잔차로 평가되어야 하며, 물리적 타당성을 확인해야 합니다.

5. 측정을 여러 번 반복하면 어떤 유형의 불확실성이 줄어듭니까?

• A) 무작위 불확실성; 반복해도 체계적 불확실성은 감소하지 않으므로 원인을 찾아 수정해야 함 ✔
• B) 체계적 불확실성; 재보정 오류를 없애기 때문입니다.
• C) 두 가지 모호성을 완전히 제거합니다.
• D) 그 중 어느 것도 줄이지 않습니다. 불확실성은 측정 횟수와 무관합니다.

설명: 반복 측정은 결과의 무작위 분포로 인한 무작위 불확실성(평균 std/√N의 표준 오차 포함)을 줄입니다. 반면, 체계적 불확실성은 항상 같은 방향으로 벗어나는 오류(예: 잘못 교정된 저울)이며 반복해도 감소하지 않습니다. 그러나 원인을 찾아 교정할 수 있습니다. 여러 측정을 통해 '매우 작은' 불확실성을 보고하면 근본적인 체계적 오류가 숨겨질 수 있습니다.

6. AI가 도출한 오류 전파 공식을 검증하는 가장 신뢰할 수 있는 독립적인 방법은 무엇입니까?

• A) 유동적이고 설득력 있게 보이도록 공식에 의존
• B) 불확실성이 있는 입력을 무작위로 샘플링하는 몬테카를로 계산을 통한 교차 확인 ✔
• 다) 인공지능에게 같은 공식을 다시 물어보고 같은 결과가 나오길 기대한다.
• D) 불확실성을 직접 수집하고 결과와 비교

설명: AI는 종종 오류 전파 공식에 편도함수 계수와 제곱근 구조를 혼합합니다. 이를 독립적으로 달성하는 강력한 방법은 몬테카를로 교차 검사입니다. 각 입력의 불확실성을 무작위로 샘플링하고, 함수를 수천 번 계산하고, 출력의 표준 편차를 공식에 의해 주어진 불확실성과 비교합니다. 두 가지 독립적인 방법의 만남은 신뢰도를 높여줍니다.

7. 기호 물리학의 오랜 파생에서 AI와 SymPy 사이의 올바른 분업은 무엇입니까?

• A) SymPy는 파생 아이디어를 생성하고 AI는 각 단계를 정확하게 검증합니다.
• B) 둘 다 불필요합니다. 긴 파생은 수동으로만 수행해야 합니다.
• C) AI는 파생 프레임워크를 구축하고 SymPy는 각 대수적 단계를 정확하게 검증합니다 ✔
• 라) 인공지능이 스스로 도출을 하기 때문에 유창해 보이기 때문에 검증이 필요하지 않다.

설명: AI는 파생을 전략화하고 경로를 설명하지만 긴 대수학에서는 부호 오류, 이스케이프된 용어 및 잘못된 단순화를 만듭니다. 반면에 SymPy는 규칙에 따라 작동하며 각 대수적 단계를 정확하게 검증합니다. 가장 강력한 워크플로우는 두 가지를 결합합니다. 즉, AI에서 뼈대를 가져오고, 각 단계를 SymPy로 소싱하고, 도함수-적분 역 및 경계 케이스를 사용하여 결과를 테스트합니다.

8. 차원 분석은 물리적 공식의 정확성에 대해 무엇을 말합니까?

• A) 차원 분석은 항상 공식이 정확하다는 것을 확실하게 증명합니다.
• 나) 차원해석은 물리학에서 실질적인 가치가 없다.
• C) 차원 분석은 공식의 일관성이 아닌 상수 요소만 제공합니다.
• D) 차원적으로 적용되지 않는 공식은 완전히 잘못된 것입니다. 차원분석은 숫자를 세지 않고 오류를 잡아냅니다 ✔

설명: 물리 방정식의 두 변은 수치적으로 동일하기 전에 차원적으로 동일해야 합니다. 차원적으로 유지되지 않는 공식은 단순히 잘못된 것입니다. 이는 개수 계산에서 캡처됩니다. 차원 분석은 공식이 정확하다는 것을 결정적으로 증명하지는 않지만(무차원 상수 요소 또는 각도를 놓칠 수 있음) 공식이 틀렸다는 것을 결정적으로 증명합니다. 따라서 모든 계정에 대한 최초이자 가장 저렴한 감사입니다.

9. 36km/h로 이동하는 물체의 운동 에너지를 계산할 때 가장 중요한 첫 번째 단계는 무엇입니까?

• A) 모든 입력을 단일 단위계(SI)로 변환합니다. 36km/h를 10m/s로 변환 ✔
• B) m/s로 변환하지 않고 km/h 단위의 속도를 공식에 직접 입력합니다.
• 다) 단위를 고려하지 않고 숫자만 곱하는 것
• 라) 결과를 계산한 후 순서를 확인할 필요가 없다고 가정

설명: SI 기반 공식(E = ½mv²)에서는 속도(m/s)를 예상합니다. 계산에서 km/h를 m과 혼동하거나 시간을 초와 혼동하는 것은 물리학에서 가장 흔한 실수 중 하나입니다. 먼저 모든 입력을 단일 단위계(SI), 즉 36km/h = 10m/s로 변환해야 합니다. AI는 복합 단위 변환에서 자동 오류를 일으킬 수 있으므로 이 변환은 수동으로 또는 단위 인식 도구를 사용하여 확인해야 합니다.

10. 과학 그래프에서 '정직함'이라는 표현으로 옳은 것은?

• A) 오차 막대가 차트를 어지럽히기 때문에 불확실성을 숨깁니다.
• B) 축에 단위 레이블을 지정하고, 왜곡 없는 눈금을 선택하고, 오차 막대로 불확실성을 표시합니다. ✔
• C) 항상 가장 극적인 차이를 보일 범위에서 y축을 시작하십시오.
• D) 독자가 단위를 추측할 수 있으므로 단위 없이 축을 그대로 둡니다.

설명: 정직한 과학 차트. 크기와 단위로 축에 라벨을 붙이고, 왜곡 없이 의식적으로 규모를 선택하며(과장을 위해 0에서 멀리 떨어진 y축을 시작하는 것은 오해의 소지가 있음), 측정 불확실성을 오류 막대로 표시합니다. 불확실성을 숨기면 데이터가 확실한 것처럼 보이고 편견이나 동의에 대한 잘못된 인상을 남깁니다. 그래픽이 설득력이 있을수록 무결성 검사가 더 중요합니다.

11. 인공지능으로부터 문헌 및 인용 지원을 받을 때 가장 큰 위험과 올바른 규율은 무엇입니까?

• A) 인공지능은 인용을 매우 느리게 생성하기 때문에 시간을 낭비합니다.
• 나) 인공지능이 추천하는 출처는 항상 실제이므로 검증할 필요가 없습니다.
• C) 인공 지능은 실제처럼 보이지만 존재하지 않는 속성을 생성할 수 있습니다. 각 인용은 DOI/출처로 검증되어야 하며 문헌은 실제 데이터베이스에서 찾아야 합니다 ✔
• D) 가짜 인용은 항상 비현실적인 저널 이름을 사용하기 때문에 쉽게 인식됩니다.

설명: 대규모 언어 모델이 실제 데이터베이스에 연결되어 있지 않습니다. 인용 패턴을 모방함으로써 실제 저널 이름, 신뢰할 수 있는 저자, 합리적인 연도를 포함하지만 전혀 존재하지 않는 기사를 생성할 수 있습니다. 따라서 문헌은 실제 데이터베이스에서 찾아야 하며, AI는 실제 텍스트를 요약/번역하는 데에만 사용해야 하며, 각 인용은 DOI 또는 제목별로 독립적으로 검증되어야 합니다. 확인되지 않은 인용은 학문적 진실성을 위반하는 것입니다.

12. AI가 기사를 요약할 때 신뢰할 수 있는 결과를 얻으려면 무엇이 필요합니까?

• A) 기사 제목만 알려주면 모델이 내용을 알거든요.
• 나) 요약 내용은 유동적으로 보이기 때문에 전혀 확인하지 않고 직접 사용
• C) 모델에 동일한 요약을 두 번 요청하고 유사하면 올바른 것으로 받아들입니다.
• D) 원본 텍스트를 모델에 제공하고 생성된 요약을 원본 텍스트와 비교하여 추가/왜곡된 부분이 없는지 확인 ✔

설명: 단순히 AI에 기사 제목을 부여하고 요약을 요청하면 모델은 기사를 보지 않고도 '타당한 요약'을 제시하게 됩니다. 이 요약은 진실과 반대일 수도 있습니다. 신뢰할 수 있는 요약은 원본 텍스트가 모델에 제공되고 생성된 요약이 원본 텍스트와 비교되는 경우에만 얻을 수 있습니다. 또한, 요약 내용에 본문에 없는 결과나 수치가 추가되지 않는지 확인해야 합니다.

13. 물리학 교과목 제작에 있어 인공지능의 출력에 대한 설명으로 옳은 것은?

• A) 각 솔루션은 독립적으로 검증되어야 하며, 유추의 한계를 명시해야 하며, 주의를 끄는 요소는 실제 오해를 겨냥해야 합니다. ✔
• 나) 인공지능이 만들어낸 답안은 항상 정확하므로 감사할 필요가 없다.
• C) 유추는 모든 경우에 완벽하므로 한계를 지정할 필요가 없습니다.
• D) 방해 요소는 완전히 무작위로 선택되어야 합니다. 왜냐하면 잘못된 선택의 성격은 중요하지 않기 때문입니다.

설명: AI는 질문, 예 및 유추를 빠르게 생성하지만 세 가지 점에서 확인이 필수적입니다. 모델이 솔루션에서 부호/단위 오류를 범할 수 있으므로 각 문제에 대한 솔루션은 독립적으로(수동 또는 코드를 통해) 확인해야 합니다. 각각의 비유는 그것이 무너지는 곳에 기술되어야 합니다. 그렇지 않으면 새로운 오류가 생길 것입니다. 주의를 방해하는 사람은 진정한 오해를 표적으로 삼아야 합니다. 책임은 교사에게 있습니다. 잘못된 답안은 학생들에게 수정하기 어려운 오해를 남깁니다.

14. 실험 데이터가 이론과 완전히 일치하지 않을 때 과학적 완전성과 일치하는 행동은 무엇입니까?

• A) 인공지능이 데이터를 이론에 맞게 정리하고 설득력 있게 그래프를 보여주게 해준다.
• B) 불일치(체계적 오류, 모델 부족, 새로운 효과)에 대한 이유를 조사하고 데이터를 변경하지 않고 정직하게 보고합니다. ✔
• 다) 의견 차이를 무시하고 맞는 점만 보고
• D) 데이터를 삭제하고 새로운 실험 결과를 피팅

설명: AI에게 '이론에 더 잘 맞도록 데이터를 정렬'하도록 요청하는 것은 데이터 사기이자 과학적 무결성에 대한 심각한 위반입니다. 불일치는 숨겨진 것이 아니라 조사해야 할 것입니다. 이는 체계적인 오류, 통계적 변동, 패턴 부족 또는 흥미로운 새로운 효과를 나타낼 수 있습니다. 데이터는 있는 그대로 보고되며 불확실성이 있습니다. 궁극적인 책임은 사람에게 있으며 '도구가 해냈다'는 방어는 아닙니다.