이득:
- 도서관 업무 흐름(메타데이터, 요약, 검색, 제안)에서 인공 지능이 시간을 절약하는 부분과 위험 수준에 따라 정확성, 소스 신뢰성 및 개인 정보 보호 결정을 인간에게 맡기는 부분을 구별할 수 있습니다.
- 각 출력을 소스에 연결하고, 독립적인 소스에서 확인하고, 바이어스 필터를 통과하여 검증하는 규율을 적용하는 기능입니다.
- 환각, 조작된 소스 및 사용자 개인 정보 보호가 이 직업에서 처음부터 고려해야 하는 위험인 이유를 이해합니다.
목록 전문가가 아침에 책상에 앉으면 새로 도착한 책 수십 권, 기부금 모음집에서 가져온 수백 권의 문서, 디지털화를 기다리는 보관 상자가 있을 수 있습니다. 참고 사서(사용자가 정보를 찾도록 돕는 전문가)는 "이 주제에 대한 신뢰할 수 있는 출처는 어디에 있습니까?"와 같은 질문에 하루 종일 답변합니다. 정보 관리자는 조직의 수천 개의 문서를 검색 가능하고 안정적으로 유지하는 일을 담당합니다. 이 단원에서는 정확히 인공 지능(간단히 AI, 대규모 언어 모델 및 유사한 도구)이 이러한 작업에서 시간을 절약하는 부분과 판단, 선택 및 책임이 인간에게 남아 있는 부분을 명확히 할 것입니다.
먼저 정의부터 시작하겠습니다. 인공 지능이란 대량의 텍스트에 대해 훈련된 언어 생성 및 패턴 인식 소프트웨어 도구를 의미합니다. 이러한 도구는 요약, 번역, 분류 제안, 초안 텍스트 생성, 대규모 데이터 덩어리의 패턴 표시 등을 수행합니다. 그러나 출처가 실제로 존재하는지, 정보가 정확한지, 사용자의 개인 정보가 보호되는지 여부는 알 수 없습니다. 그렇기 때문에 사서직과 정보 관리에서 AI는 의사결정자가 아닌 보조자입니다.
인공지능이 작동하는 곳은 어디이고 작동하지 않는 곳은 어디인가?
사서 업무 흐름을 세 가지 계층으로 나누어 보겠습니다. 첫 번째 계층은 기계적이고 반복적인 작업입니다. 책 이름에서 메타데이터 초안을 추출하고, 긴 보고서를 요약하고, 텍스트를 한 언어에서 다른 언어로 번역하고, 데이터 테이블을 정리합니다. AI는 여기서 강력하며 시간을 크게 절약해 줍니다.
두 번째 계층은 준사법적 작업입니다. 즉, 문서에 어떤 주제 제목을 부여할지, 컬렉션에 리소스를 포함할지 여부, 사용자에게 어떤 리소스를 추천할지 등을 다룹니다. 여기서는 AI가 제안을 하지만 최종 결정권은 기관의 정책과 사용자의 실제 요구 사항을 아는 전문가가 결정합니다.
세 번째 계층은 순수한 판단과 책임입니다. 정보가 정확한지 확인하고, 저작권을 결정하고, 민감한 개인 데이터를 공개할지 여부를 결정하고, 출처의 신뢰성을 확인합니다. 이 레이어에서 AI의 출력은 단지 시작점일 뿐입니다. 책임은 전적으로 인간에게 있습니다.
팁: AI에 작업을 주기 전에 스스로에게 "이 출력이 틀리면 어떻게 될까요?"라고 자문해 보세요. 대답이 "시간을 좀 낭비하겠습니다"라면 자유롭게 AI를 사용해 보세요. "허위 출처가 유포되거나, 이용자가 오인되거나, 개인정보가 유출된 경우"라고 답변된 경우 반드시 출력을 확인하시기 바랍니다.
환각: 사서의 가장 큰 위험
환각은 AI가 존재하지 않는 정보, 출처, 인용문을 마치 실제인 것처럼 매우 설득력 있는 언어로 생성하는 경우를 말합니다. 이는 특히 사서직과 정보 관리에 위험합니다. 우리 직업의 본질은 출처의 진정성과 신뢰성이기 때문입니다.
AI에게 “이 주제에 관한 학술 논문 5편을 제안하라”고 지시하면 실제처럼 보이지만 전혀 존재하지 않는 제목, 저자, 저널 이름을 생성할 수 있습니다. 이러한 조작된 출처는 고객이나 사서가 확인하지 않고도 참고문헌에 추가할 수 있을 정도로 설득력이 높습니다. 인문학과 사회과학에서는 위험이 훨씬 더 큽니다. "1897년의 해당 문서"가 역사가를 위해 조작되거나 "법원 판결"이 법학자를 위해 조작되면 결과는 심각한 잘못된 정보입니다.
주의: AI가 생성한 출처 인용, 견적 또는 참조는 실제 카탈로그, 데이터베이스 또는 출처 자체의 확인 없이 어디에도 전송되어서는 안 됩니다. 단지 "설득력 있어 보인다"고 해서 그것이 사실이라는 의미는 아닙니다.
검증 규율: 3단계
사서가 AI로 작업할 때 적용해야 하는 기본 원칙은 다음과 같습니다.
1. 소스에 연결합니다. 모든 사실, 수치, 날짜 및 인쇄물은 원본 출처를 기반으로 해야 합니다. AI에게 “이 정보를 어떤 출처에서 얻었는지 말해주세요”라고 묻고 해당 출처를 독립적으로 확인하세요.
2. 독립적으로 확인합니다. AI 외부의 신뢰할 수 있는 소스(정품 카탈로그, 공식 데이터베이스, 기본 문서) 중 하나 이상에서 중요한 정보를 확인하세요.
3. 바이어스 필터를 통과시킵니다. AI는 훈련받은 데이터의 편견을 전달합니다. 제안된 주제, 제안 목록 또는 요약은 특정 관점을 강조하고 다른 관점을 모호하게 만들 수 있습니다. 누가 제외되었는지, 어떤 관점이 누락되었는지 물어보세요.
개인정보 보호 및 사용자 개인정보 보호
사서직의 가장 근본적인 윤리 원칙 중 하나는 사용자 개인 정보 보호입니다. 즉, 개인이 읽는 내용, 검색하는 내용, 관심 있는 주제는 기밀입니다. AI 도구, 특히 인터넷을 통해 작동하는 공개 도구에 사용자 신원, 검색 기록 또는 빌린 리소스를 포함하는 데이터를 입력하는 것은 이 원칙을 위반할 수 있습니다. 왜냐하면 이 데이터가 제3자 시스템으로 전달될 수 있기 때문입니다.
마찬가지로 조직에서는 기밀은 아니지만 민감한 문서(인사 정보, 계약서, 내부 서신)를 일반 AI 도구에 업로드해서는 안 됩니다. 이러한 유형의 데이터에는 기관 자체의 안전하고 폐쇄적인 시스템에서 실행되는 도구가 선호됩니다.
팁: AI에 데이터를 입력하기 전에 "이 정보는 공개되어 있습니까?"라고 물어보십시오. 묻다. 대답이 '아니요'이거나 확실하지 않은 경우 해당 데이터를 개인화되지 않은 익명 형식으로 저장하거나 기관에서 승인한 보안 도구만 사용하세요.
세 개의 미니 케이스
사례 1 - 400개 문서에 대한 초안 메타데이터. 한 대학 도서관은 교수가 기증한 400개의 문서 아카이브 목록을 작성해야 했습니다. 전문가는 AI를 이용해 각 문서의 첫 페이지에서 초안 제목, 날짜, 주제 제안을 추출해냈는데, 문서당 평균 시간이 12분에서 4분으로 단축됐다. 그러나 각 초안 인쇄물은 원본 문서와 비교되어 전문가의 승인을 받았습니다. 이 단계에서 AI가 만들어낸 잘못된 날짜 17개가 적발됐다.
사례 2 — 가짜 소스가 발견되었습니다. 자문 사서는 학부생을 위한 "기후 이주"에 관한 자료를 검색하는 동안 YZ로부터 6개의 기사 제안을 받았습니다. 사서는 해당 기관의 데이터베이스에서 해당 항목을 모두 검색했습니다. 항목 6개 중 2개는 전혀 존재하지 않았습니다. 검증 단계에서는 학생에게 조작된 소스가 제공되는 것을 방지했습니다.
사례 3 - 기밀 침해가 방지되었습니다. 결제 기록에서 “어떤 사용자가 어떤 주제에 관심을 갖고 있는지”를 분석하기 위해 일반 AI 도구를 사용하는 것을 고려한 라이브러리입니다. 정보 관리자는 이 데이터가 사용자 ID와 함께 유출되는 것이 개인정보 침해가 될 수 있음을 깨달았습니다. 데이터는 먼저 익명화되어 집계되고 식별되지 않은 통계로만 처리되었습니다.
복사 가능한 템플릿 4개
1) 역할과 경계 정의를 시작하십시오.
귀하의 역할: 숙련된 보조 목록 작성 및 정보 관리 전문가. 당신의 임무는 내가 당신에게 준 출처의 정보로부터 초안을 만드는 것입니다. 규칙: (1) 내가 제공한 텍스트에 있는 정보만 사용하고 자신의 정보를 추가하지 마십시오. (2) 확실하지 않은 부분에는 "[확인해야 함]"이라고 표시하세요. (3) 날짜, 이름 또는 각인을 구성하지 마십시오. 이해했다면 시작하세요. 출처 : [여기]
2) 유효성 확인 질문:
아래 텍스트에 각 사실적 주장(날짜, 이름, 번호, 출처 인용)을 나열하세요. 각각에 대해: 텍스트에서 이 정보를 어디서 얻었습니까? 본문에 명확하게 기재되어 있지 않은 경우에는 "본문에 없음"이라고 기재합니다. 텍스트: [여기]
3) 편견과 누락된 관점 확인:
다음 요약/권장 사항은 어떤 관점을 강조하고 어떤 관점을 생략합니까? 어떤 그룹, 지역 또는 보기가 누락되었을 수 있나요? 추측하지 말고 본문에만 의존하세요. 텍스트: [여기]
4) 개인정보 사전 확인:
아래 텍스트에 개인정보(이름, 주민등록번호, 연락처, 열람/검색 이력)나 민감한 기업정보가 포함되어 있나요? 그렇다면 이를 나열하고 익명화할 수 있는 방법을 제안하십시오. 텍스트: [여기]
약한 프롬프트 / 강한 프롬프트
약한 프롬프트:
이 주제에 관한 자료를 찾아보세요.
이 프롬프트는 AI가 가짜 리소스를 생성하도록 초대합니다. 역할, 경계, 유효성 검사 규칙 및 리소스가 없습니다. AI는 믿을 수 있지만 존재하지 않는 태그를 생성할 수 있습니다.
강력한 프롬프트:
귀하의 역할: 참고 사서 보조원. 아래에 제공한 카탈로그 항목에서 "기후 이주"라는 주제와 관련된 항목을 선택하고 해당 항목이 왜 관련되는지 설명하십시오. 목록에 없는 출처는 추가하지 마시고, 출처를 조작하지 마세요. 확실하지 않은 경우 "적합한 출처가 나열되어 있지 않습니다."라고 말하세요. 카탈로그 항목: [여기]
차이점은 분명합니다. 강력한 프롬프트는 AI가 자체 메모리가 아닌 주어진 실제 소스에서 작동하도록 강제하고 조작을 방지합니다.
계층 및 책임 테이블
비즈니스 계층
샘플 작업
AI의 역할
남자의 결정
기계적인
초안 메타데이터, 요약, 번역
신속하게 초안을 생성합니다.
검증, 승인
준사법
주제 제목, 출처 제안
제안을 제공합니다
정책에 따른 선택
순수한 판단
인증, 저작권 결정
예비 정보만
모든 책임은 그 사람에게 있다
일반적인 실수
- 소스를 AI 출력으로 대체합니다. AI는 자원이 아니라 보조자입니다. 모든 출력이 검증되었습니다.
- 조작된 소스를 설득력 있는 것으로 받아들입니다. 보기에 좋다고 해서 그것이 옳은 것은 아닙니다.
- 개인/민감한 데이터를 공개 도구에 입력합니다. 사용자 개인 정보 보호 및 기업 기밀 유지는 처음부터 존중됩니다.
- 편견을 무시합니다. AI는 훈련된 데이터의 관점을 전달합니다. 무엇이 빠졌는지 물어보세요.
- 판단은 AI에게 맡깁니다. 정확성, 저작권, 개인정보 보호에 대한 결정은 인간에게 있습니다.
요약하면
인공지능; 이는 사서 업무 및 정보 관리에서 요약, 초안 작성, 번역 및 패턴 표시를 위한 강력한 보조 도구입니다. 기계 작업에 많은 시간이 절약됩니다. 준사법적 문제에 대한 조언을 제공합니다. 그러나 정확성 검증, 출처의 신뢰성, 사용자 개인 정보 보호 및 윤리적 결정은 인간에게 속합니다. 환각은 이 직업에 가장 큰 위험입니다. 확인 없이는 출처 크레딧이나 인용문을 사용하지 않습니다. 명확한 역할, 경계 및 검증 규칙을 사용하여 AI를 실행합니다. 독립적인 소스를 통해 각 중요한 출력을 확인합니다.
응용과제
귀하의 분야에서 실제 주제를 선택하십시오. 해당 주제에 대한 5가지 리소스 추천을 AI에 요청한 다음 실제 카탈로그나 데이터베이스에서 각 리소스를 검색하고 실제로 존재하는 리소스가 몇 개인지 확인합니다. 그런 다음 "역할 및 경계를 정의하는 스타트업" 템플릿을 사용하여 AI가 제공한 텍스트에서만 작동하도록 지시하고 두 접근 방식의 결과를 비교합니다. 어떤 접근 방식이 피팅을 방해하는지 작성하세요.
체크리스트
- [ ] 작업이 어느 계층(기계적, 준사법적, 순수 판단)에 있는지 결정했습니다.
- [ ] "이 출력이 올바르지 않으면 어떻게 되나요?" 나는 질문을했다.
- [ ] 나는 독립적인 출처에 대해 각 크레딧과 인용을 확인했습니다.
- [ ] AI에 입력되는 데이터에 개인정보/민감정보가 없는 것을 확인하였습니다.
- [ ] 최종 결정과 책임은 본인의 재량에 따릅니다.