이득:
- 학술 연구 워크플로(문헌, 설계, 분석, 글쓰기)에서 인공지능이 실시간을 절약하는 부분과 과학적 판단과 책임이 연구자에게 있는 부분을 작업 위험 수준에 따라 구분할 수 있습니다.
- 모든 인공지능 출력을 소스에 연결하고 검증하는 규율을 적용할 수 있고, 학원의 가장 중요한 위험인 환각(조작) 귀속 문제를 이해할 수 있습니다.
- 기관 및 저널의 인공 지능 사용 정책, 학문적 정직성 및 투명성 원칙을 준수하는 사용 프레임워크를 채택할 수 있는 능력.
연구자의 업무에는 수백 개의 논문을 스캔하고, 요약하고, 연구 질문을 다듬고, 방법을 설계하고, 데이터를 분석하고, 결과를 기록하고, 인용 형식을 지정하고, 저널을 선택하고, 리뷰어 의견에 응답하는 등 생각보다 훨씬 더 많은 쓰기, 읽기 및 편집이 포함됩니다. 이 작업의 대부분은 반복적이고 시간이 많이 걸리며 주의가 산만해집니다. 진정으로 가치 있는 것, 독창적인 사고와 해석을 훔치는 것입니다. 인간의 언어를 이해하고 텍스트, 요약, 코드, 초안 등과 같은 출력을 생성할 수 있는 컴퓨터 프로그램인 인공 지능(AI)은 이러한 반복적인 부담을 가속화하는 데 강력한 도움이 됩니다. 이 모듈 전체에서 우리는 AI를 마법의 정보 소스가 아닌 것으로 간주합니다. 우리는 그것을 연구 조교로 사용하고 초안을 작성하고 아이디어를 제공하고 편집하는 방법을 배웁니다.
하지만 처음부터 학계와 관련된 가장 중요한 문장을 넣어 보겠습니다. AI는 연구자 대신 과학적 결정을 내리지 않습니다. 초안을 작성하는 경우 과학적 판단과 책임은 연구자에게 있습니다. 학계에서는 이 규칙이 다른 직업보다 훨씬 더 엄격합니다. 왜냐하면 과학의 화폐는 신뢰이고 그 신뢰의 기초는 모든 주장이 검증 가능한 출처와 연결되어 있기 때문입니다.
이 첫 번째 단원에서는 세 가지 기초를 설정합니다. 즉, AI가 연구 워크플로우에서 작동하는 위치와 유지되어야 하는 위치를 구별합니다. 각 출력을 확인하는 단계; 학문적 정직성과 투명성의 원칙을 채택합니다. 이 세 가지는 모든 후속 장치의 기본 보안 기반입니다.
AI가 시간을 절약하는 곳은 어디이며, 결정은 연구자의 몫인가요?
위험 수준 측면에서 연구 과제를 생각하는 데 도움이 됩니다. 위험 수준은 잘못 수행할 경우 과학 기록에 얼마나 많은 피해를 입힐 수 있는지를 나타냅니다.
AI가 속도를 크게 높이는 저위험 작업: 검색 전략(키워드, 동의어) 생성, 긴 텍스트의 초기 요약 작성, 문단의 언어 단순화, 표 제목 제안, 브레인스토밍, 개념을 다양한 방식으로 설명, 개요 구조 제시. 여기서 AI는 "빈 페이지" 문제를 해결합니다. 당신은 수정하고, 확인하고, 강화합니다.
엄격한 검증이 필요한 중간 위험, AI 생성 작업: 통계 테스트 선택 권장 사항, 코드 초안, 인용 형식, 결과 초안 해석, 방법 옵션 비교. 여기에서는 AI가 속도를 제공하지만 모든 숫자, 모든 태그, 모든 논리 단계를 수동으로 확인해야 합니다.
결정이 연구자에게만 맡겨지는 고위험 작업: 가설 및 방법의 최종 결정, 데이터의 의미 결정, 결과가 의미있는지 판단, 윤리위원회(IRB) 내 결정, 출처가 실제로 존재하고 주장, 저자 진술 및 기여를 뒷받침하는지 결정합니다. 이러한 결정은 과학 기록의 신뢰성을 결정합니다. 책임과 최종 결정은 항상 연구자에게 있습니다.
주의: "AI가 말했다"는 정당화가 아닙니다. 저널 편집자나 논문 심사위원단은 "내 모델이 이렇게 만들어졌다"는 말을 받아들이지 않을 것입니다. 확인되지 않은 AI 출력은 확인되지 않은 소문과 같습니다.
검증은 왜 필요한가요? 환각과 조작된 귀인
AI는 '알고 있는 것'이 아닌 '가능한 단어를 예측하는 것'을 통해 텍스트를 생성합니다. 그렇기 때문에 때때로 매우 유창하지만 실제로는 잘못된 정보를 제공합니다. 이것을 환각(조작)이라고 합니다. 학계에서 가장 위험한 형태는 허위 귀속입니다. AI는 실제처럼 보이지만 해당 소스가 존재한 적이 없는 저자 이름, 연도, 저널 또는 DOI(디지털 객체 식별자 - 출판물의 영구 주소)까지 생성합니다. 만약 연구자가 이것을 확인하지 않고 사용한다면, 존재하지 않는 연구를 근거로 주장을 하는 것입니다. 이는 논문의 거절, 논문 철회 및 명예 상실로 이어집니다.
두 번째 문제는 왜곡이다. AI가 논문을 요약할 때 “유의미한 차이가 없었다”고 한 연구를 “유의한 차이가 발견됐다”고 요약해 결과를 과장할 수도 있다. 세 번째는 편향입니다. AI는 훈련된 데이터의 추세를 반복합니다. 특정 학교, 언어 또는 관점을 강조하여 문헌이 왜곡된 것처럼 보일 수 있습니다.
이러한 제한으로 인해 우리는 각 출력에 적용할 간단한 검증 원칙을 제안합니다.
- 소스에 연결하세요. 모든 사실, 날짜, 숫자, 인용문, 특히 모든 인용문에 대한 실제 출처(기사, 데이터베이스, DOI)를 찾아 확인하세요.
- 다시 확인하세요. 수치 또는 논리 출력(통계 결과, 샘플 계산)을 수동으로 확인합니다.
- 과학적 필터. "이 주장은 내 분야에서 알려진 문헌과 일치합니까?" 자신의 전문 지식으로 처리하십시오.
- 책임을 져라. 당신이 출판물이나 논문에 그것을 넣는 순간, 그 문장은 당신의 것이 됩니다. 모든 실수는 귀하의 책임입니다.
학문적 정직성과 투명성
학문적 진실성은 해당 저작물이 진정으로 귀하의 독창적인 기여이며 모든 출처가 정직하게 인용되었음을 보장합니다. AI를 사용하면 이 원칙이 사라지는 것이 아니라 투명성이라는 새로운 책임이 추가됩니다. 이제 대부분의 저널과 대학에서는 AI 사용에 대한 명시적인 선언을 요구합니다. 공통 편집 라인(예: ICMJE 및 COPE와 같은 출판 윤리 기관의 원칙)은 두 가지를 명확하게 말합니다. AI는 저자가 될 수 없으며(책임을 질 수 없고 이해 상충을 선언할 수 없기 때문에) AI 사용은 숨겨지지 않지만 방법 또는 감사의 글 섹션에 공개됩니다.
팁: 도구에 텍스트를 붙여넣기 전에 두 가지 질문을 하십시오. (1) 이 도구는 데이터를 어떻게 저장하며 교육에 사용됩니까? (2) 우리 기관과 대상 저널의 AI 정책은 무엇을 말하는가? 이 두 가지를 모르고 시작하지 마세요.
세 개의 미니 케이스
사례 1 — 조작된 귀속이 논문을 손상시켰습니다. 한 대학원생이 논문 소개를 위해 YZ에 12개의 출처를 요청했고, 모두 인용과 함께 받았습니다. 그의 고문은 Google Scholar에서 무작위로 4개를 검색했습니다. 그 중 2개는 전혀 존재하지 않았고, 그 중 1개는 다른 기사로 가는 DOI가 있었습니다. 학생은 전체 목록을 하나씩 확인해야 했고, 실제 출처는 7개만 사용했습니다. 확인에는 40분이 걸렸습니다. 그러나 그것이 허구의 언급과 함께 전달되었다면 심사위원단의 신뢰는 완전히 흔들렸을 것입니다.
사례 2 - 시간 절약. 박사후 연구원은 매주 15~20개의 새로운 기사를 스캔하고 요약하는 데 6시간을 보냈습니다. 그는 AI를 첫 번째 요약 생성기로 사용하기 시작했습니다. AI가 각 기사의 초록과 소개를 요약하도록 하고, 자신의 비판적 독해를 통해 이를 심화시키고, 원문의 결과를 검증했습니다. 시간은 주당 6시간에서 최대 2.5시간으로 감소했습니다. 그는 자신이 번 시간을 원본 합성을 작성하는 데 바쳤습니다.
사례 3 - 스텔스에서 복귀. 한 사회과학자가 분석을 위해 미발표 현장 데이터와 참가자 증언을 AI에 붙여넣으려던 참이었다. 그는 그 안에 자격 증명이 포함되어 있다는 것을 깨달았습니다. 원시 데이터를 공유하는 대신 익명화되고 요약된 샘플 및 분석 계획만 요청했습니다. 그는 귀중한 방법 추천을 받았지만 민감한 데이터는 유출되지 않았습니다.
복사 가능한 템플릿
1) 위험 수준에 따라 작업을 분리합니다.
귀하의 역할: 연구원을 돕는 학술 조교. 다음 연구 작업을 세 가지 목록으로 나눕니다. (A) AI가 안전하게 원고를 생성할 수 있는 저위험 작업, (B) AI가 원고를 생성할 수 있고 엄격한 검증이 필요한 중간 위험 작업, (C) 최종 결정은 연구원에게 있어야 하는 고위험 작업. 각 작업에 대한 한 문장의 근거를 작성하세요. 퀘스트: [자신의 퀘스트 붙여넣기]
2) 유효성 검사 프롬프트:
사실, 날짜, 숫자, 인용문 또는 속성이 포함된 아래 텍스트의 각 문장을 표시하고 "확인 필요"로 표시하십시오. 확실하지 않은 부분을 명확하게 기술하세요. 출처나 번호를 구성하지 마세요. 모르신다면 "모르겠습니다"라고 적어주세요.텍스트: [초안 붙여넣기]
3) AI 사용 선언 초안:
기사의 방법/감사 섹션에는 내가 AI를 사용한 단계(예: 언어 교정, 개요 초안)를 투명하게 설명하는 2~3개의 문장 초안 "AI 사용 설명"을 작성하세요. 사용법: [설명]
4) 출처 검증 목록:
다음 인용 목록의 각 출처에 대해 확인 체크시트를 생성합니다: [저자, 연도, 제목, DOI, 확인됨?]. 확인할 수 없습니다. 수동으로 확인할 빈 테이블을 주세요.목록: [인용 붙여넣기]
약한 프롬프트 / 강한 프롬프트
약한 프롬프트:
내 논문 소개에 대한 출처를 찾아보세요.
맥락이 없고 위험함: AI가 가짜 ID를 뱉어내면 당신은 그것이 진짜라고 생각합니다.
강력한 프롬프트:
귀하의 역할: 방법론 컨설턴트. 위치: "원격 교육에 대한 학생 동기 부여". 나에게 출처를 찾지 마십시오. 대신 Scopus에서 이 주제를 검색하려면 8개의 키워드, 3개의 동의어 그룹 및 부울 검색 문자열을 제안하십시오. 실제 기사 작성자 FAKE. 제가 직접 찾은 출처를 확인하겠습니다.
퀘스트
위험 수준
AI의 역할
최종 결정
검색 전략 생성
낮음
키워드/문자열 제안
연구원
논문 초록 초안
낮음-중간
초안을 생성합니다.
연구원이 확인함
통계 테스트 추천
중간
옵션 제공
연구자가 선택/확인
인용목록
높다
형식 도우미
각 인쇄물은 직접 확인됩니다.
해석/가설 찾기
높다
아이디어를 제공
고독한 연구원
일반적인 실수
- 확인 없이 인용을 사용합니다. 조작된 귀인은 학계에서 가장 빈번하고 파괴적인 오류입니다. 철수로 이어집니다.
- 소스를 요약으로 대체합니다. AI 요약은 결과를 왜곡할 수 있습니다. 원문으로 돌아가지 않고는 인용을 하지 않습니다.
- 투명도를 건너뜁니다. 사용을 은폐하는 것은 발견될 경우 윤리 위반입니다.
- AI가 과학적 결정을 내리게 하세요. 가설, 해석, 방법 결정은 연구자의 몫입니다.
- 공개 도구에 기밀 데이터를 업로드하는 중입니다. 게시되지 않은 데이터와 참가자 정보는 귀하가 통제할 수 없습니다.
팁: 각 AI 세션을 경험이 많지만 신뢰할 수 없는 인턴과 함께 일하는 것처럼 생각하십시오. 그는 빠르고 부지런하지만 서명하기 전에 그가 말하는 모든 것을 확인합니다.
요약하면
AI는 연구자의 반복적인 읽기와 쓰기의 부담을 덜어주는 강력한 조력자입니다. 그러나 환각, 왜곡 및 편견으로 인해 모든 출력에는 검증이 필요합니다. 학계에서 가장 중요한 위험은 허위 인용입니다. 모든 출처는 DOI와 데이터베이스를 통해 검증되어야 합니다. 위험 수준에 따라 작업을 분리하고, 데이터를 보호하고, 사용량을 투명하게 선언합니다. 가장 짧은 경험 법칙: 청사진은 AI에서 나오고, 과학적 책임은 연구자에게 있습니다.
응용과제
자신의 현재 연구 프로젝트에서 8가지 작업을 나열하고 각 작업을 낮음/중간/높음 위험으로 표시하세요. 그런 다음 위험도가 낮은 작업을 선택하고 위의 '강력한 프롬프트'와 같이 컨텍스트가 포함된 프롬프트를 작성하세요. 출력물에 검증이 필요한 항목(번호, 각인, 청구서)을 3개 이상 표시하고 이를 검증할 방법을 작성합니다.
체크리스트
- [ ] 위험 수준에 따라 작업을 구분했습니까?
- [ ] AI 출력에서 모든 인용 및 개수를 확인할 계획인가요?
- [ ] 내가 이용하는 차량의 데이터 보유 정책을 알고 있나요?
- [ ] 소속 기관과 대상 저널의 AI 정책을 읽었습니까?
- [ ] 나는 최종 과학적 판단을 유지할 것이라고 확신합니까?