철학과 응용윤리에서의 인공지능 소개: 역할, 경계, 검증 및 윤리

이득:

• 위험 수준에 따라 인공 지능이 철학적 및 윤리적 작업 흐름(읽기, 요약, 매핑, 초안)에서 시간을 절약하는 부분과 해석, 정당화, 독창적인 사고와 같은 결정을 인간에게 맡기는 부분을 구별할 수 있습니다.
• 각 출력을 소스에 연결하고, 기본 텍스트와 확인하고, 편견을 통해 필터링하는 단계를 통해 각 출력을 검증하는 규율을 적용하는 능력.
• 환각의 위험, 판단의 독창성 상실, 피상적인 해석의 위험을 인간 분야에서 처음부터 고려해야 하는 이유를 이해할 수 있습니다.

당신은 철학과의 공부방에 있습니다. 책상 위에는 칸트의 『도덕 형이상학 기초』의 한 장, 병원 윤리 위원회의 실제 사례 파일, 세 가지 현대 기사, 그리고 내일 열릴 세미나를 위한 수업 계획이 있습니다. 학생은 긴 글의 주장 구조를 추출하지 못한다고 불평하고, 저널 리뷰를 위해 세 편의 논문을 비교해야 하고, 윤리위원회에서는 인공지능 의료 의사 결정 지원 시스템에 대한 책임을 누구에게 맡길지 토론합니다. 철학(개념, 주장 및 가정을 비판적이고 체계적으로 조사하는 학문, 지식, 존재, 가치 및 추론에 대해 생각하는 학문)과 응용 윤리(의학, 기술, 환경, 비즈니스 등 구체적인 분야의 실제 결정에 추상적인 도덕적 원칙을 적용하는 분야)는 텍스트 중심, 개념 집약적이며 본질적으로 세심한 추론이 필요한 분야입니다. 이것이 바로 인공 지능(AI - 과거 텍스트 데이터에서 패턴을 학습하고 요약, 번역, 초안 및 분류를 생성할 수 있는 소프트웨어)이 풍부한 텍스트와 개념에서 속도를 높일 수 있는 곳입니다.

하지만 이 모듈의 시작은 분명합니다. AI는 읽기, 매핑, 요약 및 초안 작성 보조자입니다. 당신은 주장을 판단하고, 논문을 옹호하고, 윤리적 결정을 정당화하고, 그 생각을 소유하는 유능한 전문가이자 사상가입니다. 철학에서는 제품 자체가 추론입니다. 추론을 기계에 맡기는 것은 일을 끝내는 것이 아니라 일 자체를 포기하는 것이다.

이 첫 번째 단원에서는 차량이 아닌 규율에 중점을 둘 것입니다. 철학적, 윤리적 워크플로우 중 AI가 실시간을 절약하는 부분, 위험한 부분, 각 출력을 검증하는 방법, 소스 무결성을 유지하는 방법, 학문적 무결성을 관찰하는 방법을 알아봅니다. 이러한 기초를 놓지 않으면 후속 단원은 허공에 매달리게 됩니다. 왜냐하면 인문학에서 검증되지 않은 결과는 단순한 오답이 아니라 날조된 인용문, 왜곡된 철학자의 관점, 또는 다른 사람의 마음을 자신의 생각인 것처럼 제시하는 학문적 진실성에 대한 위반일 수 있기 때문입니다.

AI는 철학적 작업 흐름에서 어디에 유용합니까?

물건을 두 개의 큰 더미로 나누어 봅시다. 첫 번째 클러스터: 방대하고 텍스트 집약적이며 패턴 추출이 가능한 작업입니다. 긴 텍스트의 첫 번째 요약, 복잡한 단락의 전제-결론 구조의 첫 번째 초안, 문헌에서 반복되는 주제 추출, 여러 저자가 개념을 정의하는 방법 비교, 수업 계획의 뼈대, 학생 텍스트의 모호한 위치 표시, 번역 초안. 이러한 작업에서 AI는 시간을 몇 분으로 단축하고 지치지 않습니다.

두 번째 클러스터: 판단, 해석, 정당화 및 독창적인 사고가 필요한 작업입니다. 논증이 실제로 유효한지 여부, 철학자가 구절에서 의미하는 바에 대한 가장 그럴듯한 해석, 두 가치 사이의 실제 긴장을 해결하는 방법, 윤리적 사례에서 어떤 원칙이 우세할지, 논문의 원래 기여가 무엇인지. 이를 위해서는 전문성, 개념적 민감성, 인간의 판단이 필요합니다. 여기에서 AI는 옵션을 늘리고, 이의를 제기하고, 사각지대를 지적합니다. 하지만 평가, 정당성, 서명은 귀하의 몫입니다.

한 문장으로 차이점을 명확히 해보자. AI는 "이 텍스트에 쓰여진 내용과 그 구조는 어떻게 생겼는가"라는 질문에 강하다. "이 주장이 좋은지, 내 생각은 어떻습니까?"와 같은 질문에 대한 결정은 귀하의 몫입니다.

팁: AI에 작업을 아웃소싱하기 전에 "이 출력이 틀리면 무엇을 잃게 되나요?"라고 질문해 보세요. 대답이 "몇 분의 수정 시간"이라면 자유롭게 위임하세요. 대답이 "왜곡된 철학자의 의견, 조작된 출처, 또는 내가 해야 할 생각을 기계가 하게 하는 것"이라면 AI가 그냥 초안을 생성하게 하세요. 당신은 해석, 정당화 및 결정을 제공합니다.

인문학의 세 가지 중요한 위험

철학과 윤리는 AI가 가장 많이 걸림돌이 되는 영역 중 하나입니다. 세 가지 위험에 대해 처음부터 알아봅시다.

환각. AI는 유연하고 자신있게 생산합니다. 그렇다고 그것이 사실이라는 뜻은 아닙니다. 환각은 AI가 존재하지 않는 책, 꾸며낸 인용문, 철학자가 실제로 말하지 않은 문장, 또는 잘못된 견해를 실제인 것처럼 제시하는 경우입니다. 철학 문헌에서 이것은 재앙입니다. "아리스토텔레스는 윤리학에서 니코마코스에게 말합니다."라는 인용 부호로 묶인 문장이 본문에 전혀 없는 것이 매우 일반적입니다.

추론의 독창성 상실. 철학에서 가치는 추론에 있습니다. AI가 생성한 부드럽지만 평범하고 진부하며 출처가 없는 "철학적" 텍스트를 자신의 것처럼 제시하는 것은 지적으로 쓸데없고 학문적 진실성을 위반하는 것입니다. AI는 평균을 생산합니다. 원론, 미묘한 구별, 과감한 반대는 인간의 몫이다.

피상적인 해석과 편견. AI는 대중적이기는 하지만 부정확한 고정관념(예를 들어 니체를 슬로건으로 축소)으로 철학자를 요약하거나, 논쟁의 여지가 있는 주제에 대해 단일 전통을 "올바른" 것으로 제시하거나, 훈련 데이터에서 문화적 편견을 복제할 수 있습니다. 해설은 항상 중요한 필터를 통과해야 합니다.

검증 규율: 3단계

각 출력에 3단계 반사를 적용합니다.

1. 소스에 연결하세요. AI의 모든 인용문, 속성 및 "철학자가 말했다" 주장은 기본 텍스트를 기반으로 해야 합니다. "정확히 어느 작품, 어느 부분, 어느 번역에서요?" 그리고 원본을 직접 보세요. 인용문 안의 각 문장을 출처와 함께 확인하세요.
2. 독립적인 소스를 통해 확인하세요. 신뢰할 수 있는 2차 출처(학술 백과사전, 동료 검토 기사)를 통해 해석 또는 "일반적으로 받아들여지는" 주장을 확인하십시오. 하나의 흐르는 문단에 의존하지 마십시오.
3. 해석과 편견의 필터를 통과하세요. 출력이 철학자를 왜곡합니까? 대체 독서가 있나요? 논란의 여지가 있는 문제를 일방적으로 제시하는가? 귀하의 전문가 판단이 최종 필터입니다.

세 개의 미니 케이스

사례 1 - 매핑으로 시간이 절약되었습니다. 한 대학원생이 촘촘한 40페이지 분량의 인식론 논문에서 논증 구조를 추출하려고 했습니다. AI는 15분 만에 전제-결과 골격의 첫 번째 초안을 제공했습니다. 학생은 일반적으로 반나절이 걸리는 매핑 작업의 속도를 높였습니다. 하지만 그는 각 전제를 텍스트의 단락에 다시 연결하여 유효성을 확인했으며 AI가 생략했다는 암묵적인 가정을 직접 추가했습니다.

사례 2 — 확인 결과 조작된 견적이 발견되었습니다. 한 연구원은 AI에게 인과관계에 대한 흄의 견해를 묻도록 했습니다. YZ는 명확한 문장과 페이지 번호를 인용부호로 표시했습니다. 연구자가 『인간 본성에 관한 논문』의 관련 부분을 살펴보니 그 문장도, 그 페이지도 없었습니다. AI는 그럴듯하면서도 조작된 인용문을 내놨다. 연결 단계를 통해 기사에 사기성 출처가 입력되는 것을 방지했습니다.

사례 3 - 독창성 제한. 한 학생이 AI가 전적으로 작성한 윤리 과제를 제출했습니다. 텍스트는 유창했지만 출처가 없고 진부했으며 학생 자신의 의견이 부족했습니다. 더욱이 두 개의 "소스"가 조작되었습니다. 이는 독창적인 기여가 전혀 없으며 학문적 진실성을 위반하는 것입니다. 올바른 사용법은 AI를 토론 파트너 및 초안 도구로 사용하고 학생이 근거, 논문 및 소스를 스스로 구성하는 것이었습니다.

약한 프롬프트 / 강한 프롬프트

약한 프롬프트:

칸트의 윤리학에 관해 글을 써 보세요.

이 요청은 모호합니다. 출처가 필요하지 않고, 왜곡과 진부한 표현이 있을 수 있으며, 확인할 수 없으며, 출력물이 귀하의 의견이 아닐 것입니다.

강력한 프롬프트:

당신의 역할: 세심한 철학 강사. 칸트의 정언 명령에 대한 "보편성" 공식화와 관련하여 제가 여러분에게 줄 내용을 요약해 보십시오. 규칙: 내가 제공하는 텍스트에만 의존하십시오. 추가 텍스트 정보를 추가합니다. 각 주장을 본문의 단락에 연결하십시오. 확실하지 않은 경우에는 "텍스트가 명확하지 않음"으로 표시하십시오. 인용문을 사용하는 경우 텍스트에 그대로 나타나는 인용문만 사용하세요. 텍스트: [여기에 텍스트 붙여넣기]

이 프롬프트는 소스를 제한하고, 위조를 방지하고, 검증 가능하며, 생각은 사용자에게 맡깁니다.

복사 가능한 템플릿 4개

1) 직무 적합성 평가:

귀하의 역할: 수석 철학 고문. 아래에서 직무에 대해 설명하겠습니다. (1) AI에게 위임할 수 있는 읽기/요약/맵핑/스케치 작업인지, 정당성과 독창적 사고가 필요한 작업인지, (2) 잘못된 출력으로 인한 지적/학술적 비용, (3) 위임하기 전후에 해야 할 검증 작업을 알려주세요. 직업: [여기에 직업을 입력하세요]

2) 출처 링크 의무:

철학적인 글을 전해드리겠습니다. 각 의견과 주장에 대해 항상 본문의 단락/문장을 참조하세요. 본문에 없는 의견을 철학자의 탓으로 돌리지 마십시오. 텍스트에 그대로 나타나는 인용문만 사용하세요. 확실하지 않은 경우 "확인 필요"로 표시하세요.

3) 독창성과 역할 한계:

당신은 내 작가가 아니라 나의 스파링 파트너입니다. 이 주제에 대한 내 논문을 쓰지 마십시오. 대신: 내 논문에 대한 강력한 반대 의견 3개, 제가 간과했을 수 있는 가정 2개, 명확히 해야 할 개념 1개를 말하세요. 마지막 글을 쓰겠습니다. 내 논문: [여기에 논문을 삽입하세요]

4) 워핑/바이어스 제어:

다음 요약이 철학자를 왜곡하고 있는지 확인해보세요.(1) 대중적이지만 거짓된 진부함으로 환원되는가?(2) 논란의 여지가 있는 문제가 일방적으로 제시되는가?(3) 대안적인 해석은 무엇입니까? 자신의 해석이 아닌, 본문을 충실하게 읽는 모습을 보여주세요. 요약: [여기에 요약 붙여넣기]

역할분리표

사업

AI의 역할

남자의 역할

위험 수준

긴 텍스트 요약

첫 번째 초안 요약

소스에 대한 인증

중간

인수 매핑

선행 결과 프레임워크

타당성 판단

중간

인용문/인용문 찾기

후보자 생성

기본 소스에서 확인

높다

윤리적 사례를 정당화하기

옵션 및 반대 의견 생성

결정과 정당성

매우 높다

논문/원저작성

대련 파트너

기사 자체

매우 높다

일반적인 실수

• AI가 제시한 견적을 검증하지 않고 그대로 활용하는 것입니다. 인간 분야에서 가장 흔하고 가장 파괴적인 실수입니다. 인용부호 안의 각 문장은 원문에서 확인된 내용이어야 합니다.
• 생각을 위임합니다. 주장을 구성하고, 논제를 방어하고, 정당성을 산출하는 일을 AI에 맡기는 것은 철학 작업 자체를 포기하는 것입니다.
• 진부한 표현을 정보로 오해하는 것. AI가 철학자를 슬로건으로 요약한 것을 '올바른' 것으로 받아들인다. 텍스트로 돌아가지 않고 의견을 수락해서는 안 됩니다.
• 출처를 밝히지 않고 AI 텍스트를 전달합니다. 학업 성실성 위반; 조직의 AI 사용 지침과 투명성 설명을 따르세요.
• 단일 출력에 의존합니다. 동일한 질문을 다르게 질문하고 2차 출처를 통해 확인하지 않고 해석을 최종적인 것으로 받아들이는 것입니다.

요약하면

인공지능; 철학과 응용윤리 분야의 텍스트 읽기, 논증 매핑, 문헌 스캐닝, 초안 생성 속도를 높이는 강력한 도우미입니다. 그러나 논증을 판단하고, 철학자를 올바르게 해석하고, 윤리적 결정을 정당화하고, 독창적인 논제를 만드는 것은 인간의 책임입니다. 환각(조작된 인용문/출처), 판단의 독창성 상실, 피상적/편향된 해석이라는 세 가지 위험을 처음부터 인식해야 합니다. 해독제는 검증의 3단계 규율입니다. 즉, 소스에 대한 연결, 독립적 검증, 해석 및 편견을 통한 필터링입니다. 이 모듈 전체에서 우리는 AI를 엔드투엔드 방식으로 사용할 것입니다. 하지만 생각하고 서명하는 사람은 항상 여러분 자신이 될 것입니다.

응용과제

1. 당신이 공부하고 있는 철학적 텍스트에서 밀도 높은 문단을 선택하세요.
2. 해당 텍스트만을 기반으로 AI에 요약을 제공하려면 "강력한 프롬프트" 템플릿을 사용하세요.
3. 요약의 각 주장을 본문의 문장에 다시 연결하세요. AI가 텍스트 이외의 정보를 추가하는지, 아니면 꾸며낸 강조를 추가하는지 표시하세요.
4. AI가 인용한 경우 기본 소스에서 그대로 인용되었는지 확인하세요.
5. 자신만의 한 문장 코멘트를 작성하세요. AI가 아닌 여러분의 기여로 만드세요.

체크리스트

• [ ] 일을 맡기기 전, "잘못되면 무엇을 잃게 될까?" 나는 질문을했다.
• [ ] 출력물에 포함된 모든 인용문과 속성을 기본 소스와 함께 확인했습니다.
• [ ] 내용이 맞지 않거나 왜곡된 댓글을 표시했습니다.
• [ ] 주장의 타당성과 정당성에 대해서는 본인이 직접 결정했습니다.
• [ ] 나는 원본 논문과 최종 텍스트를 썼습니다. AI는 단지 겨루기 파트너가 되었을 뿐입니다.
• [ ] 나는 우리 기관의 AI 사용 및 투명성 규칙을 따랐습니다.