이득:
- 인간 영역에 환각이 숨어 있는 이유를 알고, 5단계 검증 체인(존재, 각인, 인용, 맥락, 귀속)을 통해 각 소스를 통과할 수 있음
- DOI, ISBN 및 카탈로그와 같은 구체적인 ID로 소스 진위를 확인하는 기능.
- 인공 지능이 조작하는 것을 금지하고 인용 검증과 귀속 정직성을 위임하지 않는다는 규율을 이해하십시오.
인간과 사회 분야에서 텍스트의 가치는 그것이 기반으로 하는 출처의 진정성과 정확한 전달에 달려 있습니다. 문학 에세이, 논문, 강의 노트 등 모두 신뢰할 수 있는 출처와 정직한 귀속(정보 또는 인용문을 누구/어디에서 얻었는지 표시)에 의존합니다. AI는 이 분야에서 큰 편리함을 제공하지만 가장 큰 위험도 안고 있습니다. 즉, 존재하지 않는 출처, 인용문, 사실을 실제처럼 만들어내는 환각입니다. 본 부대는 이러한 위험에 대비한 '검증 방어구' 구축에 전념하고 있습니다.
한 문장 규칙: AI가 생성한 출처, 인용문, 날짜 또는 숫자는 기본 또는 신뢰할 수 있는 출처의 1인칭 확인 없이는 텍스트를 입력할 수 없습니다. 이 규칙은 이 모듈에서 가장 반복적이고 유연성이 가장 낮은 규칙입니다.
이 분야에서 환각이 그토록 위험한 이유는 무엇입니까?
기술적인 문제에서 AI가 틀렸다면 종종 눈에 띌 것입니다. 그러나 인간 영역에서는 환각이 교묘하게 숨겨져 있습니다.
- 현실적인 저자명: AI는 실제 저자의 이름과 해당 분야에 적합한 제목 및 합리적인 연도를 결합합니다. 그 결과 존재하지 않지만 정확히 실제처럼 보이는 소스가 탄생했습니다.
- 문체에 맞는 인용: AI는 작가의 문체를 모방하여 그 사람의 것이 아닌 문장을 '그의 말'로 제시할 수 있습니다.
- 마감되었지만 날짜가 잘못됨: 작품의 연도가 1년 또는 2년 바뀔 수 있습니다. 이것은 부주의한 독자를 피할 수 있습니다.
- 혼란스러운 귀속: 아이디어를 잘못된 사람에게 귀속시킬 수 있습니다.
이 모두는 정직한 의도로 저자의 텍스트에 조용히 침투할 수 있으며, 잡히지 않을 경우 저자의 명예와 독자의 신뢰를 모두 손상시킬 수 있습니다.
주의: 리소스가 AI에 "현실적"으로 나타난다고 해서 그것이 실제라는 의미는 아닙니다. 현실주의와 현실은 서로 다른 것입니다. AI는 전자의 달인이지만 후자를 보장할 수는 없습니다.
검증 갑옷: 단계별
각 출처와 인용문에 대해 다음 체인을 따르세요.
- 거기 있나요? 도서관 카탈로그, 신뢰할 수 있는 데이터베이스 또는 출판사 사이트에서 원본을 검색하세요. 찾을 수 없다면 존재하지 않는 것입니다. 사용하지 마세요.
- 각인이 맞나요? 저자, 제목, 출판사/저널, 연도, 페이지 — 모두 정확히 일치해야 합니다.
- 견적이 진짜인가요? 지정된 페이지의 소스 자체에서 인용문을 찾아 그대로 비교하십시오.
- 문맥이 맞나요? 인용문이 문자 그대로 사용되었나요, 아니면 왜곡되었나요?
- 귀속은 정직합니까? 아이디어가 올바른 사람에게 귀속되었는지, 2차 소스에서 가져온 것이 1차 소스로 묘사됩니까?
이 체인의 링크가 하나라도 끊어지면 원본 텍스트를 입력할 수 없습니다.
팁: 처음부터 AI에게 다음과 같이 지시하세요. "존재하는지 확실하지 않은 출처는 제공하지 마세요. 확실하지 않으면 '출처를 찾을 수 없습니다'라고 말하세요." 이로 인해 환각이 완전히 끝나지는 않지만 AI가 화해하는 대신 "모르겠어요"라고 말하게 됩니다.
인용 및 인용 규율
검증과 함께 정직한 귀속도 규율입니다.
- 인용문과 페이지를 사용하여 직접 견적을 제공하세요. 문자 그대로 보자.
- 또한 간접 인용(자신의 말로 요약)을 출처에 연결하세요. 아이디어가 귀하의 것이 아니라면 귀속이 필요합니다.
- 조직의 규칙에 따라 AI 기여도를 투명하게 명시합니다. AI는 '자원'은 아니지만 사용한다면 선언해야 한다.
- 2차 소스를 1차 소스로 묘사하지 마세요. 다른 책에서 저자의 말을 인용했다면 이를 표시하세요.
세 개의 미니 케이스
사례 1 - 5개의 출처 중 2개가 허구인 것으로 밝혀졌습니다. 연구자는 AI가 제공한 5가지 소스에 대한 검증 과정을 거쳤다. 2개는 카탈로그에 전혀 없었고, 1개는 연도가 잘못되었고, 2개는 실제이고 정확했습니다. 검증된 2개만 사용되었습니다. 허위 귀속으로부터 보호되는 기사입니다.
사례 2 — 인용 왜곡이 발견되었습니다. 한 학생은 실제 책에서 AI의 인용문을 찾았지만, 그 인용문은 원래 맥락과는 정반대의 의미를 가졌습니다. AI가 문맥에 맞지 않게 문장을 빼낸 것이다. 학생은 올바른 문맥으로 인용문을 수정했습니다.
사례 3 - 잘못된 속성이 수정되었습니다. 한 강의 노트에서 AI는 잘못된 저자의 의견을 돌렸습니다. 교사는 신뢰할 수 있는 두 출처를 통해 이를 대조 확인한 후 정당한 소유자를 찾아 고쳤습니다. 그 메모는 학생에게 잘못되지 않고 살아 남았습니다.
복사 가능한 템플릿 4개
1) 제작 금지 지침:
이제부터: 존재하는지 확실하지 않은 출처, 견적, 날짜 또는 숫자를 제공하지 마십시오. 확실하지 않은 경우 "확인이 필요합니다" 또는 "찾을 수 없습니다."라고 말하세요. 사실적인 태그를 제공하지 마십시오. 그러나 진위 여부를 보장할 수는 없습니다. 모든 응답에는 이 규칙을 따르십시오.
2) 소스 검증 로드맵:
출처는 아래에서 직접 확인하겠습니다. 이 리소스(카탈로그, 데이터베이스, 출판사)를 어디서 찾을 수 있는지, 그리고 어떤 핵심 정보가 있는지 알려주세요. 귀하는 리소스가 존재하는지 확인합니다. 확인 단계만 알려주십시오.출처: [크레딧 붙여넣기]
3) 인용 문맥 확인:
아래는 인용문과 그 인용문이 나오는 실제 단락입니다. 인용문이 원래의 맥락에서 사용되었나요, 아니면 왜곡되었나요? 내가 준 본문을 믿으십시오. 코멘트를 추가합니다.인용문: [...] 원본 단락: [...]
4) 귀속 무결성 감사:
아래 텍스트에서: 출처가 필요하지만 출처가 표시되지 않은 문장, 다른 사람의 아이디어일 수 있는 문장, 보조 출처를 기본 출처로 표시하는 곳이 있나요? 조작된 소스를 제안합니다. 인용이 누락된 부분만 지적해 주세요.텍스트: [텍스트 붙여넣기]
약한 프롬프트 / 강한 프롬프트
약함: "이 주제에 대한 5개의 학술 자료와 인용문을 제공하세요."
Güçlü: "이 주제에 대해 연구하는 동안 어떤 종류의 출처와 키워드를 찾아야 하는지 알려주세요. 존재 여부가 확실하지 않은 참고 자료나 인용문은 만들지 마세요. 확실하지 않은 경우 '찾을 수 없습니다'라고 말씀하세요. 제가 찾은 출처는 나중에 알려드리겠습니다. 책에서 인용문을 확인하겠습니다."
강력한 프롬프트는 환각의 문을 닫고 검증을 인간에게 맡깁니다. 약한 프롬프트는 상상의 자원 생산을 직접적으로 유도합니다.
검증 체인 테이블
단계
질문
확인 위치
엔터티
출처가 정말 존재하는 걸까요?
카탈로그/데이터베이스
각인
저자, 연도, 페이지가 정확합니까?
출판사/출판물
인용문
본문에 그대로 나와있나요?
소스 그 자체
맥락
의미가 왜곡됐나요?
주요 단락
인용
적합한 사람에게?
교차 확인
영구 링크 및 각인으로 확인
리소스가 실제로 존재하는지 빠르고 안정적으로 확인할 수 있는 구체적인 방법이 있습니다. 대부분의 최신 학술 출판물에는 DOI(Digital Object Identifier, 출판물에 영구적으로 할당된 변경되지 않는 고유 ID, 링크처럼 작동하여 출판물로 직접 연결됨)가 있습니다. 기사의 DOI를 브라우저에 입력할 때 실제 출판물에 접근하면 해당 소스가 존재합니다. DOI를 찾을 수 없거나 DOI가 전혀 존재하지 않는다면 의심해 보세요. AI가 생성한 "DOI"는 종종 구성되어 아무데도 가지 않습니다. 이것은 가상 소스를 캡처하는 가장 실용적인 테스트 중 하나입니다.
ISBN(국제 표준 도서 번호)은 도서에 대해 유사한 식별 기능을 제공합니다. 도서관 카탈로그나 신뢰할 수 있는 도서 데이터베이스에서 ISBN으로 검색하여 도서의 진위 여부를 확인할 수 있습니다. 정기간행물의 경우 출판사 공식 홈페이지에서 저널명과 권호/호 정보를 확인하세요. 이러한 구체적인 정체성은 '출처가 진짜인가?'라는 질문에 대한 답이다. 몇 분 안에 귀하의 질문에 명확하게 답변합니다.
이러한 방법은 검증을 "재고"가 아닌 "거래"로 전환합니다. 각 소스를 직접 열고 카탈로그, DOI 또는 게시자 사이트에서 볼 때 유령 속성의 위험이 크게 제거됩니다.
팁: 참고문헌 목록을 마쳤으면 "클릭 둘러보기"를 수행하십시오. 실제로 각 소스의 DOI 또는 카탈로그 레코드를 엽니다. 열리지 않는 단일 리소스도 경고입니다. 올바른 인쇄물로 수정하거나 목록에서 제거하세요.
일반적인 실수
- 현실을 현실로 착각합니다. AI의 그럴듯한 신원이 그 존재를 증명하는 것은 아닙니다.
- 출처의 인용문을 확인하지 않습니다. 조작되거나 왜곡된 인용문이 유출될 수 있습니다.
- 단일 소스에서 기록을 가져옵니다. 최소한 두 개의 신뢰할 수 있는 출처를 통해 교차 확인하세요.
- 보조를 기본처럼 보이게 만듭니다. 전송 체인을 솔직하게 기술하십시오.
- AI를 출처로 인용합니다. AI는 자원이 아닙니다. 그 사용이 선언되면 기본 소스에 대한 참조가 이루어집니다.
요약하면
인문학에서 정직성은 출처와 인용의 정확성에 달려 있습니다. AI의 가장 큰 위험은 현실적으로 보이지만 존재하지 않는 출처와 인용문을 생산한다는 점이다. 5단계 검증 체인(엔터티, 출처, 인용문, 맥락, 속성)을 통해 각 출처와 인용을 전달합니다. AI가 처음부터 조작하는 것을 금지하고 절대 검증을 위임하지 마세요. 이 규율은 이 직업에 대한 신뢰성을 보장합니다.
응용과제
AI가 주제에 대한 몇 가지 출처와 인용문을 제안하도록 해보세요. 검증 체인을 통해 각 소스를 실행하십시오. 실제로 존재하는 소스는 몇 개인지, 귀속이 올바른 소스는 몇 개인지, 인용문이 실제로 소스에 있습니까? 결과를 표에 쓰세요. 이번 경험은 이 분야에서 AI의 한계를 구체적으로 보여줄 것이다.
체크리스트
- [ ] 카탈로그에 있는 각 자료의 존재를 확인했습니다.
- [ ] 각 인용문은 원본 출처에서 그대로 확인했습니다.
- [ ] 인용문의 맥락이 왜곡되지 않았음을 확인하였습니다.
- [ ] 나는 적어도 두 곳 이상의 출처를 통해 날짜를 대조 확인했습니다.
- [ ] AI 조작을 금지하고 검증을 위임하지 않았습니다.