저작권, 개인 정보 보호, 윤리 및 거버넌스 — 사서 및 정보 관리의 인공 지능

이득:

입력의 저작권 상태와 도구의 데이터 조건을 평가하고 출력의 권리에 대해 의문을 제기하여 법적 위험을 줄이는 능력
익명화 및 최소화를 통해 개인정보를 보호하고, 사용자에게 투명하게 공개하여 개인정보를 보호하는 능력
승인된 도구, 금지된 데이터 및 검증 규칙을 포함하는 기관을 위한 거버넌스 프레임워크를 구축하고 사서 가치와 함께 그 사용을 테스트할 수 있는 능력.

사서정보관리자는 정보를 정리하고 제시할 뿐만 아니라 정보를 보호하는 사람이다. 즉, 작성자의 권리, 이용자의 개인정보 보호, 기관의 책임을 보호하는 역할을 한다. 인공지능은 새롭고 복잡한 질문으로 세 가지 분야 모두에 도전합니다. AI에 문서를 업로드하는 것은 저작권 위반인가요? AI 도구에 사용자 데이터를 제공하는 것이 개인 정보 보호를 침해합니까? 조직은 AI 사용을 어떻게 관리해야 합니까? 이 마무리 단원에서는 모듈 전체에서 다루었던 윤리적, 법적 주제를 하나로 묶는 프레임워크를 구축할 것입니다.

개념을 정의해 봅시다. 저작권은 작품의 사용에 대해 작품 창작자에게 부여되는 법적 권리입니다. 무단 복제나 사용은 침해로 간주될 수 있습니다. 개인 데이터는 개인을 직간접적으로 식별하는 모든 정보이며 법적 보호를 받습니다. 거버넌스는 조직의 AI 사용을 관리하는 규칙, 정책 및 책임의 프레임워크입니다. 이 세 가지 개념은 책임 있는 AI 사용에 대한 법적, 윤리적 기반을 형성합니다.

단계별: AI의 책임감 있고 합법적인 사용

1. 출품작의 저작권 상태를 평가합니다. AI 도구에 텍스트, 책 또는 기사를 로드하기 전에 해당 작업의 저작권 상태와 도구 사용 조건을 고려하십시오. 귀하가 업로드한 데이터를 자체 목적으로 사용하는 도구에 저작권이 있는 저작물을 제공하는 것은 권리 침해로 간주될 수 있습니다.

2. 결과물의 권리에 대해 의문을 제기합니다. AI가 생성한 텍스트의 저작권 상태는 불확실할 수 있으며, AI가 훈련 데이터에 저작권이 있는 콘텐츠를 무의식적으로 복제할 수도 있습니다. AI 출력을 게시하기 전에 독창성과 잠재적인 위반 사항을 평가하십시오.

3. 개인정보를 보호하세요. 사용자의 신원, 열람/검색 기록, 개인정보는 명시적인 동의와 강력한 보호 없이 AI 도구에 입력되어서는 안 됩니다. 익명화 및 데이터 최소화(필요한 만큼의 데이터만)가 필수적입니다.

4. 투명성과 동의를 보장합니다. 사용자는 자신의 데이터와 상호작용이 어떻게 처리되는지 알아야 합니다. AI가 관련된 경우 이를 명확하게 명시해야 합니다. 비밀 AI를 사용하면 신뢰가 훼손됩니다.

5. 거버넌스 프레임워크를 구축합니다. 조직은 어떤 도구가 승인되는지, 어떤 데이터를 입력할 수 있는지, 책임자는 누구인지, 결과는 어떻게 검증되는지를 서면 정책으로 수립해야 합니다.

팁: 조직을 위한 간단한 "AI 사용 규칙" 원시트를 만드십시오. 승인되는 도구, 입력되지 않는 데이터(개인/소유/기밀), 각 출력을 확인하는 방법, 책임자는 누구입니까? 긴 정책보다 명확한 한 페이지짜리 가이드가 더 집행 가능합니다.

사서직의 윤리원칙과 가치

정보에 대한 평등한 접근, 사고의 자유, 사용자 개인 정보 보호, 지적 정직성, 공정성 등 사서 직업의 뿌리 깊은 가치는 AI 시대의 나침반 역할을 합니다. AI는 이러한 가치를 지지하거나 위협할 수 있습니다. 접근성은 확대되지만 편견은 강화될 수 있습니다. 서비스 속도를 높일 수 있지만 개인 정보 보호가 손상될 수 있습니다. 이는 발견을 용이하게 할 수 있지만 잘못된 정보를 퍼뜨릴 수 있습니다.

담당 사서는 각 AI가 사용하는 값을 다음과 같은 가치로 테스트합니다. "이것은 액세스를 동일하게 사용합니까, 아니면 그룹을 제외합니까? 개인 정보를 보호합니까? 정확하고 정직한 정보를 제공합니까?" AI는 도구입니다. 당신이 그것을 사용할 가치는 직업의 본질입니다. 기술은 변하지만 이러한 가치는 사서직의 끊임없는 나침반입니다.

주의: "모두가 사용하고 있습니다" 또는 "빠릅니다"는 AI 사용을 정당화하지 않습니다. 사용이 합법적이더라도 비윤리적일 수 있습니다. 쉽다고 해서 저작권, 사생활, 정의 측면에서 해로운 관행을 채택하지 마십시오. 궁극적인 책임은 도구에 있는 것이 아니라 도구를 사용하는 전문가에게 있습니다.

세 개의 미니 케이스

사례 1 — 저작권이 있는 다운로드가 중지되었습니다. 한 팀은 저작권이 있는 참고 도서 전체를 일반 AI 도구에 로드하여 요약을 생성할 계획이었습니다. 정보 관리자는 이것이 저작권 및 도구의 데이터 사용 조건 측면에서 위험하다고 판단했습니다. 대신에, 그것은 기관의 폐쇄된 시스템 내에서 간략하고 승인된 발췌문에 의해서만 연구되었습니다.

사례 2 - 익명화된 개인 데이터. 한 도서관은 AI를 통해 사용자 피드백을 분석하고 싶었습니다. 하지만 피드백에는 사용자 이름과 연락처 정보가 포함되어 있었습니다. 팀은 분석 전에 데이터를 익명화했습니다. 익명의 집단적 경향만 처리되었습니다. 개인 정보가 보호되고 통찰력이 회복되었습니다.

사례 3 — 거버넌스 격차가 해소되었습니다. 한 조직에서는 직원들이 감독 없이 다양한 AI 도구를 사용하고 때로는 기밀 문서를 입력하기도 했습니다. 정보 관리자는 승인된 도구, 금지된 데이터 유형 및 확인 규칙을 정의하는 한 페이지짜리 정책을 게시했습니다. 불확실성과 위험이 크게 감소했습니다.

인사역량과 기업문화

거버넌스 정책은 이를 실행하는 사람들의 힘만큼만 강력합니다. 아무리 잘 작성된 규칙이라도 직원이 AI의 위험을 이해하지 못한다면 종이에 남게 됩니다. 따라서 책임감 있는 AI 사용을 위한 지속적인 기반은 직원 역량입니다. 즉, 환각이 무엇인지, 입력해서는 안 되는 데이터는 무엇인지, 출력을 검증해야 하는 이유에 대한 각 직원의 이해입니다. 도서관과 정보 기관은 이와 관련하여 이중 역할을 합니다. 자체 직원을 교육하고 이러한 지식을 사용자에게 전파해야 합니다. AI 버그를 숨기기보다 보고하고, "이 결과는 잘 모르겠으니 확인해 보자"라고 말하는 것이 좋은 기업 문화입니다. 처벌이 두려워 실수를 숨기는 환경에서는 위조된 출처나 사생활 침해가 눈에 띄지 않게 퍼진다. 또한 기술과 도구는 빠르게 변화하므로 정책과 교육은 일회성 업데이트가 아닌 정기적으로 업데이트되어야 합니다. 통치; 이는 규칙, 도구, 교육 및 문화가 함께 작동하는 살아있는 시스템입니다. 이 시스템의 중심에는 차량이 아닌 책임을 지고 최종 결정을 내리는 담당자가 있습니다.

팁: 새로운 AI 도구를 채택하기 전에 소규모 파일럿을 수행하십시오. 제한된 팀과 함께 실제이지만 위험도가 낮은 작업에 시도하고 오류와 위험을 기록하십시오. 이를 통해 조직 전체에 도구를 배포하기 전에 역량을 구축하고 정책 취약성을 드러냅니다.

복사 가능한 템플릿 4개

1) 저작권 예비평가:

다음 콘텐츠를 AI 도구에 로드하기 전에 저작권에 대해 평가할 수 있도록 도와주세요. 콘텐츠에 저작권이 있을 수 있는지, 어떤 사용 방식이 위험한지, 어떤 대안(발췌, 허가, 공개 도메인)이 더 안전한가요? 콘텐츠 유형: [여기]

2) 개인 데이터 스캔:

다음 텍스트에 개인 데이터(이름, 연락처, 신원, 독서/검색 기록, 건강/신앙을 암시하는 정보)가 포함되어 있습니까? 각각을 표시하고 분류한 후 익명화하는 방법을 제안합니다. 텍스트: [여기]

3) AI 사용 정책 초안:

우리 조직을 위한 한 페이지짜리 AI 사용 지침 초안을 작성합니다. (1) 승인된 도구 정책, (2) 입력되지 않은 데이터 유형, (3) 출력 유효성 검사 규칙, (4) 책임 및 투명성, (5) 저작권 및 개인 정보 보호 정책. 짧고 실행 가능하게 유지하세요. 컨텍스트: [여기]

4) 윤리적 통제 문의:

다음과 같은 계획된 AI 사용을 사서 가치와 비교하여 테스트합니다: 접근의 형평성, 개인 정보 보호, 정확성/무결성, 편견 위험 및 플래그 문제(있는 경우).사용: [여기]

약한 프롬프트 / 강한 프롬프트

약한 프롬프트:

이 책을 요약하려면 AI에 올려야 할까요?

이 질문은 저작권, 도구의 데이터 조건 및 대안을 고려하지 않습니다. "예"라고 대답하면 권리가 침해될 수 있습니다.

강력한 프롬프트:

귀하의 역할: 저작권 보조 및 개인 정보 보호 자문가. AI 도구에 다음 콘텐츠를 제공하는 것을 고려하고 있습니다. 저작권 상태, 차량 데이터 사용 및 개인 데이터 위험 측면에서 발생할 수 있는 문제를 나열합니다. 보다 안전한 대안을 제안합니다(짧은 인용문, 허가, 공개 도메인, 폐쇄형 시스템). 법적 확실성을 주장하고 위험을 보여주세요. 내용 및 맥락: [여기]

강력한 프롬프트; 저작권, 데이터 상태 및 개인 정보 보호 측면을 고려하여 결정을 고려하고 안전한 대안을 테이블에 올려 놓습니다.

거버넌스 차원표

크기

기본적인 질문

예방 조치

저작권

입출력 침해는 없나요?

허가, 공개 도메인, 짧은 발췌

프라이버시

개인정보는 보호되나요?

익명화, 최소화

투명성

사용자가 알고 있나요?

명확한 정보, 동의

책임

책임은 누구에게 있습니까?

서면 정책, 사람의 승인

가치

액세스 및 무결성이 보호됩니까?

윤리적 점검, 편견 점검

일반적인 실수

저작권 보호 콘텐츠를 아무 생각 없이 업로드합니다. 저작권 침해 및 데이터 상태의 위험이 있습니다.
공개 도구에 개인 데이터를 입력합니다. 개인 정보 침해 및 법적 위험.
AI 사용을 숨깁니다. 투명성이 없으면 신뢰가 손상됩니다.
'합법적'과 '윤리적'을 혼동합니다. 합법적인 사용은 비윤리적일 수 있습니다.
거버넌스 프레임워크를 구축하지 않습니다. 통제되지 않은 사용은 예측할 수 없는 위험을 초래합니다.

요약하면

저작권, 비밀유지, 윤리는 AI 시대 사서 책임의 기본이다. 항목의 저작권 상태와 도구의 데이터 조건을 평가합니다. 결과물의 권리에 의문을 제기합니다. 익명화 및 최소화를 통해 개인 데이터를 보호합니다. 사용자에게 투명하게 공개하고 동의를 얻습니다. 조직에 명확한 거버넌스 프레임워크를 설정합니다. 사서직의 뿌리 깊은 가치(평등한 접근, 개인 정보 보호, 무결성, 공정성)는 AI의 모든 사용을 테스트하는 나침반입니다. 기술 변화; 책임과 가치는 변하지 않으며, 궁극적인 책임은 언제나 인간에게 있습니다.

응용과제

"AI 사용 정책 초안" 템플릿을 사용하여 조직(또는 가상의 조직)을 위한 한 페이지 분량의 사용 규칙 문서(승인된 도구, 절대 입력할 수 없는 데이터, 검증 규칙, 책임)를 준비합니다. 그런 다음 "윤리적 통제 쿼리" 템플릿을 사용하여 액세스, 개인 정보 보호, 정확성 및 편견에 대해 계획하고 있는 실제 AI 사용을 테스트하고 발생하는 모든 문제를 해결할 방법을 작성합니다.

체크리스트

[ ] 출품작의 저작권 상태와 도구의 데이터 상태를 평가했습니다.
[ ] 개인 데이터를 익명화하고 꼭 필요한 것만 사용했습니다.
[ ] AI 사용에 대해 사용자에게 투명하게 설명하고 동의를 존중했습니다.
[ ] 조직의 AI 사용 정책을 서면으로 작성했습니다.
[ ] 사서의 가치로 사용법을 테스트하고 인간에 대한 책임을 지켰습니다.

모듈 시험

1. 다음 중 사서 및 정보관리 분야에서 인공지능의 위치를 가장 정확하게 설명한 것은 무엇입니까?

A) AI는 요약, 메타데이터, 검색 및 추천 도우미입니다. 정확성, 출처 신뢰성 및 윤리적 결정에 대한 책임은 인간에게 있습니다 ✔
나) 인공지능은 출처의 진위 여부와 정확성을 확실하게 검증할 수 있다.
다) 인공지능은 도서 목록 작성에만 작동하며, 다른 사서 업무와는 아무런 관련이 없습니다.
라) 인공지능은 인간보다 공정하기 때문에 주제와 분류 결정은 인공지능에게 맡겨야 한다.

설명: 인공지능; 메타데이터 초안을 작성하고, 요약하고, 번역하고, 패턴을 표시하고, 소스를 가리키는 보조자입니다. 유능한 전문가는 정확성 검증, 주제 및 분류 결정, 출처 신뢰성, 저작권 및 개인 정보 보호 결정과 같은 결과가 높은 작업을 담당합니다. 확인되지 않은 출력물은 허위 소스 유포 또는 개인정보 침해로 이어질 수 있습니다.

2. '환각'이 사서에게 특히 위험한 이유는 무엇입니까?

A) 인공지능의 출력이 매우 느리게 생산되어 시간을 낭비한다.
나) 인공지능은 존재하지 않는 출처와 인용문을 설득력 있게 생산할 수 있으며, 직업의 본질은 출처의 진정성이다 ✔
다) 환각은 이미지 처리에서만 발생하며 텍스트와는 관련이 없습니다.
D) 환각은 아주 오래된 인공지능 도구에서만 볼 수 있고 현재 도구에서는 볼 수 없습니다.

설명: 환각은 인공 지능이 존재하지 않는 출처, 인용문 또는 정보를 매우 설득력 있는 방식으로 생성하는 경우입니다. 직업의 본질은 출처의 진정성과 신뢰성이기 때문에, 조작된 인쇄물이나 인용문을 검증 없이 참고문헌이나 사용자에게 전달하면 심각한 오보가 발생하게 됩니다.

3. 다음 중 인공지능을 활용하여 메타데이터를 제작할 때 위조 위험이 가장 높은 영역은 무엇이며 어떻게 대처해야 합니까?

가) 언어영역은 가장 위험도가 높은 영역이므로 검증이 필요하지 않습니다.
B) 제목 필드는 가장 높은 위험을 수반하므로 예측으로 채워야 합니다.
다) ISBN과 출판 연도는 위조 위험이 가장 높으므로 원본 출처를 그대로 확인해야 합니다. ✔
D) 인공지능이 항상 메타데이터를 정확하게 생성하기 때문에 위험한 분야는 없습니다.

설명: ISBN 및 출판 연도와 같은 정확한 숫자 필드는 AI에 의해 매우 쉽게 위조됩니다. AI는 자신이 모르는 ISBN 대신 합리적으로 보이는 숫자를 생성할 수 있습니다. 이러한 필드는 원본 소스(바코드, 인쇄물/콜로폰)를 사용하여 문자 그대로 확인되어야 합니다.

4. 주제 용어를 지정할 때 '통제어휘'를 사용하는 주된 목적은 무엇입니까?

A) 기록 전반에 걸쳐 용어의 일관성과 가용성을 보장합니다. 인공지능이 자유용어를 만들어내는 것을 방지하기 ✔
B) 인공 지능이 요청한 모든 새 용어를 카탈로그에 자동으로 추가합니다.
다) 주제어를 완전히 삭제하고 제목만으로 검색
D) 각 기록을 다른 용어로 분류하고 작성하는 속도를 늦추는 것

설명: 통제 어휘는 승인된 표준 용어 목록입니다. 동일한 주제가 다른 기록에 다른 용어로 기록되면 사용자는 하나를 찾고 다른 하나를 놓칠 것입니다. AI에게 이 목록을 제공하고 '목록에서 선택하세요'라고 지시함으로써 일관성과 검색 가능성이 유지됩니다. 인공지능이 나열하지 않은 새로운 용어는 카탈로그에 추가하면 안 됩니다.

5. 인공지능으로부터 문서의 분류번호를 얻을 때 올바른 접근방식은 무엇인가요?

A) 인공지능이 주는 정확한 숫자는 공식 테이블을 보지 않고 직접 받아들여야 한다.
나) 분류번호는 전혀 사용하지 않아야 하며, 출처는 무작위로 보관해야 한다.
C) 마스터클래스 제안은 예비적으로 고려되어야 하며, 정확한 단계는 공식 분류표를 통해 검증되어야 합니다 ✔
라) 인공지능은 분류를 할 수 없으므로 이 작업은 완전히 건너뛰어야 한다.

설명: AI는 종종 올바른 전공 클래스를 찾을 수 있지만 하위 수준(예: 의학 대신 병력)을 놓치거나 합리적으로 보이는 잘못된 숫자를 생성할 수 있습니다. 따라서 마스터클래스 제안은 시작으로 간주되어야 하며 정확한 단계는 공식 분류표를 통해 검증되어야 합니다.

6. 의미 검색과 키워드 검색을 비교할 때 올바른 설명은 무엇입니까?

A) 의미 검색은 모든 경우에 키워드 검색을 대체해야 합니다.
B) 의미론적 검색은 의미론적으로 관련된 자원을 찾습니다. 정확한 제목이나 ISBN으로 키워드 검색이 더 안정적입니다 ✔
다) 키워드 검색은 의미 검색보다 의미적으로 더 잘 관련된 다른 용어가 포함된 소스를 찾습니다.
D) 의미 검색은 숫자 데이터에서만 작동하며 텍스트에서는 작동하지 않습니다.

설명: 의미론적 검색은 임베딩 벡터를 통해 단어의 의미와 일치하기 때문에 '수면 문제' 및 '수면 장애'와 같은 단어는 다르지만 관련 리소스를 찾습니다. 반면, 정확한 ISBN, 전체 제목 또는 법령 번호를 찾을 때는 키워드/도메인 검색이 더 안정적입니다. 가장 좋은 방법은 두 가지를 함께 사용하는 것입니다.

7. 개인화된 자료 추천의 '필터 버블' 위험에 대비한 사서의 의무는 무엇입니까?

A) 사용자에게 가장 유사한 리소스만 추천하여 버블을 강화합니다.
나) 제안을 완전히 포기하는 것
다) 사용자의 독서 기록을 공개적으로 공유하는 경우
D) 다양한 관점과 지평을 가진 소스를 의식적으로 추가하고 이를 투명하게 명시합니다. ✔

설명: 필터 버블은 추천 시스템이 사용자를 유사한 콘텐츠에 지속적으로 가두어 새롭고 다른 관점에서 멀어지게 하는 것입니다. 도서관의 가치는 평등하고 다양한 접근성입니다. 따라서 사서는 다르게 보이는 놀라운 리소스를 추가하고 이를 투명하게 설명함으로써 의식적으로 거품을 깨뜨립니다.

8. 보관문서를 인공지능으로 처리할 때 '진위성 및 완전성' 측면에서 올바른 관행은 무엇인가요?

A) 문서를 인공지능으로 '아름답게' 만들고, 부족한 부분을 보완하여 완성하고 원본을 교체합니다.
나) 원본 원본을 삭제하고 인공지능으로 개선된 버전만 유지
다) OCR은 인식 오류만 수정해야 하며, 내용을 수정해서는 안 되며, 원시 원본을 보존하고 파생물을 명확하게 표시해야 합니다. ✔
D) OCR 출력을 수정 없이 '깨끗한 텍스트'로 수락하고 검색을 위해 엽니다.

설명: 보관 작업의 핵심은 문서가 주장된 출처에서 왔으며 그 내용이 변경되지 않았음을 보증하는 것입니다. OCR 수정은 인식 오류만 제거해야 하며 내용을 변경해서는 안 됩니다. AI '복원'은 누락된 부분을 보완할 수 있어 실제 증거를 대체할 수 없다. 원시(원본) 스캔은 항상 보존되어야 하며 파생물에는 명확하게 라벨이 지정되어야 합니다.

9. 다음 중 도서관 정보봇을 책임있게 구축하기 위해 필요한 것은 무엇입니까?

A) 봇은 일반적인 지식을 바탕으로 각 질문에 대한 답변을 신속하게 생성하며 출처를 인용하지 않습니다.
B) 봇은 검증된 기업 정보에만 의존하고 사실을 인용하며 민감한 질문을 전문가/사람에게 전달합니다 ✔
C) 의학적, 법적 질문에 대해 로봇이 직접 정확한 조언을 제공합니다.
D) 봇이나 인간과 대화 중인지 사용자로부터 숨김

설명: 조언 봇은 일반적인 기억이 아닌 검증된 현재 정보와 기관의 출처 목록에만 의존해야 하며, 출처를 인용하여 사실을 제공해야 하며, 의학적/법률적/민감한 문제에 대한 조언을 제공해서는 안 되며, 전문가에게 지시해야 하며, 필요할 경우 사람에게 전달해야 합니다. 따라서 봇은 인간을 대체하는 것이 아니라 오히려 부담을 덜어주는 레이어가 됩니다.

10. 참고문헌학에서 저자의 인용 횟수나 h-index를 알아내는 올바른 방법은 무엇입니까?

A) AI가 제공하는 숫자는 항상 정확하기 때문에 AI에게 직접 물어봅니다.
B) 실제 인용 데이터베이스에서 번호를 가져옵니다. 이 데이터를 정리하고 해석하는 데만 인공지능을 사용합니다 ✔
C) 숫자를 추정하고 이를 방송 결정에 사용합니다.
D) 인용 횟수를 저자 작품의 질을 직접적으로 측정하는 지표로 고려합니다.

설명: 인공지능은 실제 데이터에 접근하지 않고도 인용횟수, h-index 등의 값을 만들어낼 수 있다(예를 들어 실제로는 19인데 42라는 값을 줄 수 있다). 따라서 숫자와 인용은 실제 인용 데이터베이스에서 가져와야 합니다. AI는 이러한 실제 데이터를 클러스터링, 정렬 및 해석하는 데에만 사용해야 합니다.

11. 계량서지학적 척도(인용 횟수, h-index, Impact Factor)의 한계에 대한 올바른 설명은 무엇입니까?

A) 지표는 품질을 직접적으로 측정하고 여러 영역에서 비교할 수 있습니다.
B) 기준은 채용 및 승진 결정에 있어서 단독으로 안전하게 사용될 수 있습니다.
C) 지표는 품질이 아니라 사용량을 나타냅니다. 영역 간 비교할 수 없으며 정성적 평가와 균형을 이루어야 함 ✔
D) 인문학의 결과물은 인용 데이터베이스에 완벽하게 표현됩니다.

공개: 이러한 지표는 사용량과 가시성을 나타내지만 품질을 직접적으로 측정하는 것은 아닙니다. 의학, 철학 등 각 분야의 인용 문화가 다르기 때문에 직접적으로 비교할 수는 없습니다. 책이 많은 인문학 분야의 결과물은 데이터베이스에서 제대로 표현되지 않습니다. 따라서 기준은 개인을 평가하는 데 단독으로 사용되어서는 안 되며, 질적 평가와 균형을 이루어야 합니다.

12. 일반 AI에 비해 RAG(액세스 증강 제조) 접근 방식의 주요 장점은 무엇입니까?

A) 답변을 해당 기관의 실제 문서와 연결하고 출처를 인용함으로써 환각 현상을 대폭 감소시킵니다 ✔
나) 문서 기반의 품질에 관계없이 항상 완벽하게 대응합니다.
C) 환각을 완전하고 영구적으로 불가능하게 만들기
D) 접근통제 없이 모든 사람에게 모든 문서 공개

설명: 질문에 답할 때 RAG는 먼저 기관 자체 문서에서 관련 부분을 찾아 출처를 인용하여 이러한 부분만을 기반으로 답변을 생성합니다. 이렇게 하면 답변이 실제 추적 가능한 문서와 연결되고 환각이 크게 줄어듭니다. 그러나 RAG는 환각을 완전히 제거하지 못합니다. 잘못된 부분이 나오면 답이 여전히 틀릴 수 있기 때문입니다.

13. 인문사회계열에서 AI가 사용자에게 제시한 명언을 검증하는 가장 신뢰할 수 있는 방법은 무엇입니까?

A) 인용문이 믿을 만하고 유창하게 보이는지 확인하세요.
B) AI에게 동일한 인용문을 재현하도록 요청하는 것
다) 저자의 실제 작품에서 인용문을 찾아 확인 ✔
D) 인용문이 유명한 이름에 귀속되는 것만으로도 충분하다는 점을 인정합니다.

설명: 인공지능은 실제 저자가 쓴 것으로 완전히 조작된 인용문을 생성할 수 있습니다. 인용문이 단어 그대로 정확하고 설득력 있는 것처럼 보인다는 사실이 그 인용문의 정확성을 증명하는 것은 아닙니다. 가장 믿을 수 있는 방법은 작가의 실제 작품에서 인용문을 찾아 검증하는 것이다. '이 작가가 이런 말을 했을지도 모른다'는 논리로는 부족하다.

B) 사용이 합법적인 경우에는 확실히 윤리적이며 추가 평가가 필요하지 않습니다.
다) 인공지능이 결과물을 만들어 내면 그 책임은 전적으로 인간이 아닌 도구에게 넘어간다.

설명: 저작권이 있는 콘텐츠 및 개인정보(사용자 ID, 열람/검색 이력)를 일반 인공지능 도구에 충동적으로 입력하는 것은 권리 및 사생활 침해를 초래할 수 있습니다. 익명화, 데이터 최소화, 투명성 및 동의가 필수적입니다. 또한, 사용이 합법적이더라도 비윤리적일 수 있습니다. '누구나 사용한다' 또는 '빠르게 일어난다'는 관행이 정당화되지 않으며 궁극적인 책임은 도구가 아닌 전문가에게 있습니다.