이득:
- 환각(조작된 출처, 인용문, 사건)과 시대착오가 역사상 가장 위험한 실수인 이유를 설명하는 능력
- 카탈로그의 각 참조를 확인하고, 내용을 문서와 비교하고, 중요한 사실을 교차 확인하는 규율을 적용하는 능력.
- 인공지능에게 실제 소스 대신 어디를 볼지 물어봄으로써 소스의 편견과 누락된 목소리에 의문을 제기하는 능력
이 모듈의 모든 단원에는 반복되는 주의 사항이 있습니다. AI의 출력은 확인될 때까지 사실이 아니라 주장입니다. 이 유닛은 그 경고를 규율로 바꿉니다. 역사와 기록 보관은 본질적으로 증거 기반 분야입니다. 역사가의 가장 기본적인 기술은 자료비평(누가, 언제, 어떤 목적으로 자료를 제작했는지, 얼마나 신뢰할 수 있는지 질문하는 것)입니다. AI 시대에는 소스 자체가 조작될 수도 있기 때문에 이 기술은 더욱 중요해졌습니다.
여기에서는 세 가지 위험, 즉 환각(AI가 조작된 정보, 출처 또는 인용문을 생성), 시대착오(정기적 요소가 잘못된 기간으로 이동), 일반적인 출처 검증 규율 등 세 가지 위험을 다룰 것입니다. 또한 AI가 과거에 부정확하거나 편향된 소스로부터 학습하여 편향을 재현할 수 있는 모습도 보게 될 것입니다.
환각: 가장 위험한 실수
환각은 AI가 실제로 존재하지 않는 것을 자신있게 제시하는 경우입니다. 역사적으로 가장 일반적으로 다음과 같은 형태로 나타납니다.
- 조작된 출처/참고자료: 존재하지 않는 기록 보관소, 파일 번호, 책 또는 기사.
- 꾸며낸 명언 : 실제로 말하지 않은 말, 문서에 없는 문장.
- 꾸며낸 사건/날짜/사람: 일어나지 않은 사건, 거짓 날짜, 존재하지 않는 사람.
- 허구적 연결: 두 실제 사건 사이에 존재하지 않는 인과 관계입니다.
환각을 위험하게 만드는 것은 그것이 믿을만해 보이기 때문입니다. 구성 참조는 실제 참조와 동일한 형식(펀드 이름, 번호, 날짜)을 갖습니다. 따라서 "형식이 올바른 것 같다"는 것이 "올바르다"는 의미는 아닙니다.
주의: YZ가 생산한 자원은 카탈로그나 신뢰할 수 있는 장소에서 검증 및 발견되지 않고는 사용할 수 없습니다. 참조가 존재한다는 것을 증명하는 유일한 방법은 원본 소스가 있는 곳(아카이브 카탈로그, 도서관, 출판물)을 확인하는 것입니다. "AI가 주었다"는 것은 증거가 아닙니다.
시대 착오 : 시대의 안경
시대착오주의는 현재의 안경을 통해 과거를 보는 것입니다. AI는 오늘날의 언어로 훈련되었기 때문에 다음과 같은 경향이 강합니다.
- 시대착오적 용어: 시대에 속하지 않는 단어, 제도, 개념을 사용하는 것.
- 개념 시대착오: 현재의 아이디어(예: 현대 이데올로기 또는 정체성)를 과거에 투영하는 것입니다.
- 시대착오적 가치관: 과거의 행동을 현재의 기준으로만 판단하는 것.
역사가의 임무는 과거를 그 맥락에서 이해하는 것입니다. AI에는 이러한 상황 민감도가 부족합니다. 직접 제공해야 합니다.
환각이 자주 발생하는 이유를 이해하면 환각으로부터 보호하기가 더 쉬워집니다. AI는 "가장 가능성이 높은 다음 단어"를 생성하는 시스템입니다. "진실을 아는 것"과 같은 목적은 없습니다. 질문을 받으면 답을 알든 모르든 통계적으로 설득력이 있는 텍스트를 생성합니다. 보관 참조 형식(펀드 이름, 번호, 날짜)은 학습된 패턴입니다. AI는 실제 참조 없이 이 패턴을 채울 수 있습니다. 그렇다면 “왜 AI가 만들어내는 걸까요?” 질문에 대한 대답은 간단합니다. "모르는 것"보다 보충하는 것이 더 쉽습니다. 이러한 틀을 실제 자원으로 채우는 책임은 귀하에게 있습니다.
소스 검증 규율: 단계별
1. 리소스의 존재를 확인합니다. 카탈로그/출판물에서 AI가 제공한 모든 참고 자료를 찾아보세요. 찾을 수 없다면 사용하지 마세요.
2. 내용과 출처를 비교해보세요. AI가 문서에 부여한 정보가 실제로 문서에 존재합니까? 견적이 완전히 똑같나요?
3. 교차 확인. 중요한 사실을 확인하려면 최소한 두 개의 독립적이고 신뢰할 수 있는 출처를 살펴보세요.
4. 자료 비평을 적용하십시오. 출처 자체는 믿을만 한가요? 누가, 언제, 어떤 목적으로 제작했나요? 편견인가요?
5. 시대착오 필터를 통과시킵니다. 출력된 기간에 맞지 않는 용어, 개념 또는 가치 판단이 있습니까?
6. 편견에 의문을 제기하세요. AI가 역사적 자료의 편견(한 그룹을 무시하고 한 관점을 선호함)을 재현할 수 있었을까요?
인증 레이어
질문
누가 하는가
엔터티
이 리소스가 실제로 존재합니까?
당신은 카탈로그에 있습니다.
내용
정말 문서에 이런 말이 나와 있나요?
문서 속의 당신
확인
다른 소스에서 지원합니까?
너, 크로스
신뢰성
출처는 믿을만 한가요?
전문가의 판단
기간
시대착오적인 부분이 있나요?
전문가의 판단
편견
누구의 목소리가 들리지 않거나 왜곡되어 있나요?
전문가의 판단
세 개의 미니 케이스
사례 1 - 6개의 조작된 참고문헌. 한 연구원이 AI에게 특정 주제에 대한 출처 목록을 요청했습니다. YZ는 완벽한 형식의 6개 아카이브 참조를 제공했습니다. 카탈로그 검색 결과 6개 중 4개가 누락됐고, 그 중 2개는 번호가 틀렸습니다. 연구자가 검증하지 않았다면 존재하지 않는 출처를 인용한 연구가 나왔을 것이다. 교훈: 모든 참조는 카탈로그에서 확인됩니다.
사례 2 - 꾸며낸 견적. 작가는 AI가 역사적 인물에 대해 언급한 놀라운 인용문을 사용할 것입니다. 출처를 조사해본 결과, 그 사람이 그런 말을 했다는 것을 증명하는 문서는 없고, 그 진술은 AI가 '조작'한 것이라는 사실을 확인했다. 교훈: 인용문은 기본 또는 신뢰할 수 있는 출처의 검증 없이는 사용할 수 없습니다.
사례 3 - 편견의 재생산. 한 학생에게 AI에게 지역의 역사를 설명하게 했습니다. AI가 학습한 소스도 해당 커뮤니티를 무시했기 때문에 출력은 해당 지역의 특정 커뮤니티를 완전히 무시했습니다. 학생은 상호 참조를 통해 이러한 차이를 발견하고 수정했습니다. 교훈: AI는 소스의 침묵과 편견을 재현합니다. 누구의 목소리가 빠졌는지 물어봐야합니다.
복사 가능한 템플릿 4개
1) 참고인 검증 목록 :
아래 텍스트의 모든 출처, 참조, 인용문, 날짜 및 사람 이름은 별도의 목록에 표시됩니다. 각각에 대해 다음과 같은 메모를 추가하세요. "이 텍스트에서 주장되었으며 독립적으로 확인되어야 합니다." 없음을 선택하면 "확인"합니다. 카탈로그/소스에서 확인할 수 있도록 확인할 목록을 생성하세요. 텍스트: [여기]
2) 시대착오적 스캐닝:
아래의 [기간]에 대한 텍스트를 살펴보세요. 이 기간에 속하지 않을 수 있는 용어, 제도, 개념 및 가치를 강조하세요. 각각에 대해 의심스러운 이유를 간략하게 적어주십시오. 최종 판단 전문가가 확인할 의심 목록을 작성하십시오. 텍스트: [여기]
3) 자료 비평 프레임워크:
소스 비평은 (1) 누가 그것을 제작했을지, (2) 언제, (3) 어떤 목적으로, (4) 가능한 편견은 무엇인지, (5) 어떤 문제를 신뢰할 수 있고 어떤 문제를 주의해야 하는지에 대해 초안이 작성됩니다. 최종 판결을 내리다. 질문과 가능한 답변 옵션을 제공합니다. 출처 : [여기]
4) 볼륨/바이어스 제어 누락:
다음 역사적 요약에서 누구의 목소리와 어떤 그룹의 경험이 누락되었거나 일방적일 수 있습니까? 어떤 관점이 지배적이며, 어느 관점이 보이지 않는가? 이것을 질문 목록으로 작성하십시오. 상호 참조로 채워보겠습니다. 요약: [여기]
약한 프롬프트 / 강한 프롬프트
약함:
이 주제에 대한 신뢰할 수 있는 역사적 자료와 인용문을 알려주십시오.
AI는 형식은 정확하지만 "출처"와 "인용"을 요청하면 내용이 조작된 참조를 생성하는 경향이 매우 높습니다. 이 메시지는 환각으로의 직접적인 초대입니다.
강한:
이 주제에 대한 연구에서 어떤 종류의 출처(아카이브 기금 유형, 출판 유형, 기관)를 찾아야 하는지 제안하십시오. 특정 참조, 파일 번호 또는 견적을 피팅합니다. 어디를 봐야 할지 알려주세요. 그런 다음 카탈로그에서 실제 소스를 찾아보겠습니다.
차이점: AI는 "실제 참조"가 아닌 "어디를 볼지"를 묻습니다. 환각의 위험은 근본적으로 줄어들고 검증은 인간에게 맡겨집니다.
일반적인 실수
- 올바른 참조에 의존합니다. 구성된 참조도 완벽하게 보입니다. 카탈로그에서 확인해야 합니다.
- AI로부터 직접 인용을 받습니다. 기본/신뢰할 수 있는 출처의 확인 없이는 견적을 사용할 수 없습니다.
- 시대 착오를 간과합니다. 오늘날의 용어와 개념은 조용히 과거 속으로 스며듭니다.
- 편견을 재생산합니다. AI는 소스에서 침묵을 복사합니다. 누락된 소리에 대해 물어볼 필요가 있습니다.
- 단일 소스에 의존합니다. 중요한 사실은 최소한 두 개의 독립적인 출처를 통해 확인되어야 합니다.
요약하면
원본 검증은 기록과 아카이빙의 핵심이며, AI 시대에는 더욱 중요합니다. 환각은 형식은 완벽하지만 내용은 허구인 출처, 인용문, 사건을 만들어냅니다. 시대착오주의는 오늘날의 렌즈를 통해 과거를 왜곡합니다. AI는 소스의 편견을 재현합니다. 방어는 규율입니다. 카탈로그의 각 참조를 확인하고, 내용을 문서와 비교하고, 중요한 사실을 교차 확인하고, 기간과 편견을 필터링합니다. “실제 출처”가 아닌 “어디를 봐야 할지”를 AI에게 물어보세요. 진실의 수호자는 언제나 전문가입니다.
응용과제
AI가 작업 중인 주제에 대한 리소스 목록을 생성하도록 합니다(의도적으로 "약한 프롬프트" 사용). 그런 다음 "참조 유효성 검사 목록" 템플릿을 사용하여 이 출력에서 모든 참조를 추출하고 카탈로그에서 각 참조를 검색합니다. 실제로 얼마나 많은 것이 존재하는지, 얼마나 많은 것이 꾸며졌거나 부정확한지 세어보세요. "강력한 프롬프트"("어디를 봐야 할까요?")로 동일한 주제를 반복하고 차이점을 경험해 보세요.
체크리스트
- [ ] 카탈로그/신뢰할 수 있는 출처의 각 참조를 확인했습니다.
- [ ] 나는 주요/신뢰할 수 있는 출처를 통해 각 견적을 확인했습니다.
- [ ] 나는 최소한 두 개의 독립적인 출처를 통해 중요한 사실을 대조 확인했습니다.
- [ ] 시대착오적인 내용이 있는지 출력을 필터링했습니다.
- [ ] 나는 누락/왜곡된 목소리와 편견에 대해 의문을 제기했습니다.