이득:
- KVKK 및 특수 개인 데이터 개념의 프레임워크 내에서 학생 데이터를 분류 및 익명화하고 안전한 차량 선택을 적용하는 능력
- PDR 직업 윤리 원칙(기밀성, 선의, 비악의, 자율성)을 인공 지능 사용에 적용하는 능력
- 인공지능 출력의 편견, 문화적 무감각, 환각을 인식하고 윤리적 사용 정책을 수립하는 능력
신뢰는 PDR 직업의 핵심입니다. 학생이 자신의 가장 친밀한 감정, 가족, 두려움을 전문가에게 말할 수 있다면 그것은 그 정보가 보호될 것이라고 믿기 때문입니다. 인공 지능 도구는 이러한 신뢰에 대한 새롭고 심각한 테스트를 제시합니다. 즉, 가장 민감한 데이터가 문장에서 통제를 벗어날 수 있다는 것입니다. 본 단원에서는 개인 정보 보호, KVKK, PDR 직업 윤리 및 이들이 인공 지능 사용에 어떻게 적용되는지 체계적으로 논의합니다. 우리는 이전 단원에서 이러한 원칙을 하나씩 적용했습니다. 여기에서는 이를 전체적으로 결합하여 영구 정책으로 전환하겠습니다.
KVKK 및 데이터 유형: 무엇이 더 보호되나요?
KVKK(개인 데이터 보호법)는 개인 데이터의 합법적인 처리를 규제하는 법률입니다. 두 가지 개념이 특히 중요합니다. 개인 데이터는 이름, 성, 학교 번호, 학급, 주소, 사진 등 개인을 식별하거나 식별하는 모든 정보입니다. 특수 개인 데이터는 건강, 정신 상태, 진단, 성생활, 종교, 민족, 범죄 상태 등 더 높은 보호가 필요한 민감한 데이터 유형입니다. 대부분의 PDR 레코드는 이 두 번째 민감한 범주에 속합니다. 정신 상태, 가족 문제 및 지원 이력은 직접적인 개인 데이터이기 때문입니다. 이는 PDR 데이터가 공개 도구에 원시 형식으로 입력되어서는 안 된다는 것을 의미합니다.
실제로 이는 세 가지 규칙으로 해석됩니다. (1) 데이터 최소화 - 작업을 수행하는 데 필요한 최소한의 데이터 양으로 작업합니다. (2) 익명화 - 개인 식별 정보를 제거하여 데이터를 개인과 연결할 수 없게 만듭니다. (3) 안전한 수단 및 목적 경계 - 가능한 경우 데이터 보안이 유지되는 기업 도구를 사용하고 수집된 목적에 따라서만 데이터를 처리합니다.
주의: "어떻게든 익명화했습니다"라고 말하는 것만으로는 충분하지 않습니다. 텍스트에서 이름이 생략되더라도 상황(소규모 학교의 한 학생의 매우 구체적인 상황)에 대한 고유한 설명을 통해 해당 사람을 식별할 수 있습니다. 익명화에서는 이름뿐만 아니라 그 사람을 나타내는 세부 사항도 일반화합니다.
익명화 관행: 통제 절차
텍스트를 도구로 내보내기 전에 다음 절차를 따르십시오. (a) 이름, 성, 번호, 학급, 부모 이름, 주소, 전화번호, 학교 이름과 같은 직접 식별자를 제거합니다. (b) 간접 표현을 일반화합니다: "12-B의 유일한 시각 장애 학생" 대신 "중학생". (c) 필요에 따라 날짜와 행사 세부정보를 흐리게 처리합니다. (d) 읽기 후: "이 텍스트를 읽는 사람이 누가 언급되고 있는지 알 수 있습니까?" 대답이 모호하다면 더 일반화하세요. 인증된 기록은 해당 기관의 폐쇄적이고 안전한 시스템에만 기록됩니다. AI 도구는 이 시스템 외부에 있습니다.
PDR 직업윤리와 AI
PDR 직업 윤리는 네 가지 기본 원칙을 기반으로 하며 각 원칙은 AI 사용에 직접 적용됩니다.
- 기밀성(비밀 유지): 학생 정보는 보호됩니다. 원시 데이터를 AI에 입력하지 않고 이를 익명화하고 안전한 도구를 선택하는 것이 이 원칙의 요구 사항입니다.
- 선행: 수행되는 모든 일은 학생의 복지에 도움이 되어야 합니다. AI는 학생의 이익을 훼손하는 방식이 아닌 편의를 위해 사용됩니다.
- 무해함: 우선순위는 해를 끼치지 않는 것입니다. 검증되지 않은 출력, 부정확한 통계, 라벨링, 위기 상황에서의 AI 사용은 피해의 위험이 있습니다. 그러므로 검증과 위기 경계는 윤리적으로 필수적이다.
- 자율성: 학생이 스스로 결정을 내릴 권리가 보호됩니다. AI는 학생을 꼬리표로 축소하거나 대신 결정을 내려서는 안 됩니다.
여기에 책임이 추가됩니다. 사용된 모든 결과물에 대한 책임은 전문가에게 있습니다. "AI가 만들었다"는 것은 방어가 아닙니다.
편견, 문화적 민감성 및 투명성
AI는 훈련 데이터에 사회적 패턴을 반영할 수 있습니다. PDR에서 이는 공정성의 문제입니다. 성별, 문화 또는 사회경제적 지위에 따라 학생을 고정관념화하는 결과는 기회의 평등을 훼손합니다. 전문가는 제작된 콘텐츠의 문화적 민감성과 편견을 확인합니다. 또한 투명성: 적절한 경우 자료나 초안 준비에 AI가 사용되었음을 내부적으로 명확히 해야 합니다. 비밀스러운 "마법"으로 사용되어서는 안됩니다. 학생과의 관계에서는 기밀 유지가 필수적입니다. 학생이 설명하는 내용은 차량으로 전달되지 않습니다.
단계별: AI 사용 정책 수립
- 데이터를 분류합니다. 보유하고 있는 모든 정보를 "개인/비공개/공공"으로 구분하세요.
- 차량을 선택하세요. 민감한 데이터를 위한 유일한 안전한 기업용 도구입니다. 일반적인 개요를 위해 익명으로 작업합니다.
- 익명화 절차를 따르세요. 각 항목을 입력하기 전에 확인 루틴을 실행하십시오.
- 검증 및 편향 검사. 사실과 공정성을 위해 각 출력을 검사합니다.
- 위기한도를 유지하라. 위기와 협의 관계를 차량 밖으로 유지하세요.
- 책임을 지고 투명하게 행동하세요. 최종 승인은 전문가의 몫입니다. 조직 내에서 사용이 공개됩니다.
복사 가능한 템플릿
1) 익명화 관리:
귀하의 역할: 개인 정보 보호 감사 보조원. 개인을 직접 또는 간접적으로 식별할 수 있는 각 진술(이름, 전화번호, 학급, 학교, 고유 상황 설명)을 아래 텍스트에 나열하고 각각에 대해 보다 일반적인 대안을 제안하십시오. content.Text에 댓글 달기: [텍스트 붙여넣기]
2) 편견 및 문화적 감수성 감사:
편견과 문화적 민감성에 대해 다음 PDR 자료를 확인하십시오. 성별, 문화, 사회경제적 지위 또는 가족 구조에 대한 고정관념이 포함되어 있습니까? 누가 제외할 수 있나요? 위험한 진술을 표시하고 포괄적인 대안을 제안합니다.자료: [자료 붙여넣기]
3) 기업 AI 사용 정책 초안:
귀하의 역할: PDR 작성 보조. 안내 서비스를 위해 인공지능 도구 사용에 관한 간단한 내부 정책 초안을 작성하세요. 제목: 사용되는 직무, 사용되지 않는 직무(위기, 진단, 상담), 데이터 익명화 규칙, 검증 의무, 책임은 전문가에게 있습니다. 짧고 적용 가능합니다.
약한 프롬프트 / 강한 프롬프트
약함:
Ahmet Yılmaz 8-C의 상황을 요약하자면, 그는 집에서 폭력을 당하고 있었습니다.
이는 가장 민감한 데이터(이름, 클래스, 특수 상태)를 원시 형태로 차량에 입력합니다. 이는 KVKK 및 윤리에 대한 심각한 위반입니다. 또한 이는 알림 상황일 수도 있습니다(단위 9).
강한:
귀하의 역할: 개인정보 보호 보조원. 참고: 아래 텍스트를 도구에 제출하기 전에 익명으로 처리했습니다. 그러나 다시 확인하십시오. 그 사람을 식별할 수 있는 세부 사항이 남아 있습니까? 문자: "한 중학생이 집에서 긴장감을 느끼고 있다고 암시했습니다."
세 개의 미니 케이스
사례 1 — 간접 공개. 한 전문가가 이름을 생략한 도구에 텍스트를 입력하려고 했습니다. 그러나 그는 "학교에서 휠체어를 사용하는 유일한 학생"이라는 문구가 그 사람을 직접적으로 지칭한다는 것을 깨달았습니다. 그는 이것을 "학생"으로 일반화했습니다. 이름을 짓는 것만으로는 충분하지 않았습니다. 독특한 상황에 대한 설명도 확인됐다.
사례 2 - 편향 수정. 경력 자료를 감사한 전문가는 AI가 엔지니어링 사례에서는 항상 남성 이름을 사용하고 돌봄 전문직에서는 여성 이름을 사용한다는 사실을 발견했습니다. 샘플의 균형을 맞추고 틀을 깨뜨렸습니다. 사소해 보이는 이러한 수정으로 인해 학생들에게 전송되는 메시지의 공정성이 유지되었습니다.
사례 3 - 정책 수립. 안내 서비스는 모든 사람이 AI를 다르게 사용한다는 사실로 인해 발생하는 혼란을 없애기 위해 공통 내부 정책 텍스트를 만들었습니다. 위기 및 진단이 아닌 AI가 사용되는 작업, 데이터가 익명화되고 결과가 확인되며 책임은 전문가에게 있습니다. AI가 초안을 제공했습니다. 팀은 각자의 가치관으로 콘텐츠를 완성했습니다. 불확실성은 명확한 틀로 대체되었습니다.
일반적인 실수
- 원시 데이터를 입력합니다. 이름/상태로 차량에 쓰기. 해결책: 익명화 절차, 보안 도구.
- 이름만 빼면 됩니다. 간접 식별자를 잊어버림. 해결 방법: 고유한 세부 사항도 일반화합니다.
- 편견을 무시합니다. 전형적인 출력을 채택합니다. 해결책: 편견과 문화 감사.
- 차량에 책임을 전가합니다. 'AI가 만들었다'는 뜻이다. 해결책: 책임은 전문가에게 있습니다.
- 오용. 한 목적으로 수집된 데이터를 다른 목적으로 처리합니다. 해결책: 목적 제한을 존중하십시오.
표: 데이터 유형 및 AI 규칙
데이터 유형
예
AI 규칙
대중
일반 직업 소개
자유롭게 이용 가능
개인 데이터
이름, 전화번호, 학급
익명처리 없이는 입력할 수 없습니다
특수 품질 데이터
정신상태, 가족, 진단
원시 형태로는 입력할 수 없습니다.
위기 데이터
위험, 학대, 자살
절대 차량에 들어가지 마세요(9번 유닛)
요약하면
PDR에서 기밀성은 직업에 대한 신뢰의 기초이자 AI 시대에 가장 검증된 원칙입니다. KVKK는 데이터를 개인 데이터와 개인 데이터로 분리합니다. 대부분의 PDR 데이터는 민감하며 원시 형식으로 도구에 입력되지 않습니다. 데이터 최소화, 익명화(직접 및 간접 식별자 포함) 및 안전한 도구 선택이 기본 규칙입니다. 직업 윤리의 네 가지 원칙(기밀성, 선의, 비악의, 자율성)은 AI 사용에 구속력을 갖습니다. 편견이 통제되고 책임은 전문가에게 있으며 조직 내에서 사용이 투명합니다.
응용과제
나만의 안내 서비스를 위한 간략한 'AI 이용 정책' 초안을 작성해보세요. “엔터프라이즈 AI 사용 정책 초안” 템플릿으로 한발 앞서 시작하세요. 그런 다음 소속 기관의 현실에 맞게 조정하십시오. 또한 "익명화 확인" 템플릿을 통해 (가상) 텍스트를 전달하고 최소한 하나의 간접 식별자를 캡처하고 일반화합니다.
체크리스트
- [ ] 내가 보유한 데이터를 개인/비공개/공용으로 분류했습니다.
- [ ] 익명화에 직접 및 간접 식별자를 일반화했습니다.
- [ ] 민감한 데이터에 보안/엔터프라이즈 도구를 사용했습니다.
- [ ] 편견과 문화적 민감도에 대한 출력을 확인했습니다.
- [ ] 나는 책임을 받아들이고 사용법을 투명하게 유지했습니다.