이득:
- 아동의 데이터는 특수 데이터이며 KVKK 및 기밀 유지 범위 내에서 익명화되어야 하며 가족의 동의가 필요하다는 사실을 이해하고 구현할 수 있는 능력.
- 모델 훈련에서 데이터 보안, 저장 및 사용 측면에서 인공 지능 도구를 평가하고 안전한 도구를 선택할 수 있는 능력
- 진단 권한, 낙인, 차별, 작업 흐름에서 아동의 최선의 이익과 같은 윤리적 경계를 유지할 수 있는 능력
아동의 발달 파일에는 아동의 가장 친밀한 정보(발달 이력, 가족 상황, 검사 결과, 관찰 결과, 때로는 의료 정보)가 포함됩니다. 이 정보가 잘못된 사람의 손에 들어가거나 오용될 경우, 낙인, 낙인, 차별 등을 통해 향후 수년간 어린이에게 해를 끼칠 수 있습니다. 따라서 아동 데이터를 보호하는 것은 아동 발달 전문가의 가장 중요한 책임 중 하나입니다. 인공지능 시대에는 데이터를 도구에 붙여넣는 데 몇 초가 걸리고 취소할 수 없기 때문에 이러한 책임이 배가됩니다. 이번 단원에서는 아동 데이터의 법적 지위, 개인정보 보호 측면에서 인공지능 도구의 평가, 윤리적 경계에 대해 다룰 것입니다.
첫째, 법적 근거: 터키에서는 KVKK(개인 데이터 보호법)가 개인 데이터 처리를 규제합니다. 아동의 건강 및 발달 데이터는 특수 개인 데이터 범주에 속합니다. 이 범주에는 최고 수준의 보호가 적용됩니다. 유럽에서는 이에 상응하는 것이 GDPR입니다. 아동의 경우, 아동은 자신의 데이터에 대해 유효한 동의를 제공할 수 없기 때문에 민감도가 훨씬 더 높습니다. 동의(명시적 동의)는 법정대리인, 즉 가족으로부터 얻습니다. 모든 결정에는 '아동 최선의 이익' 원칙이 우선적으로 적용됩니다.
익명화: 가장 기본적이고 강력한 단계
인공지능 작업 시 개인 정보를 보호하는 가장 기본적이고 실용적인 단계는 익명화입니다. 데이터에서 모든 신원 공개 정보(이름, 성, TR ID 번호, 생년월일, 학교/기관 이름, 주소, 프로토콜/파일 번호, 성)를 제거하고 작업에 필요한 비식별 정보만 사용하는 것입니다. "엘리프 카야, 3년 2개월, 파파티야 유치원" 대신에 "3년 2개월 된 여자아이"라고 쓰면 데이터 역할을 하면서도 아이덴티티는 유지됩니다.
주의 사항: 여러 개의 작은 세부 정보가 합쳐지면 신원이 다시 나타날 수 있습니다(이를 재식별이라고 함). 예를 들어, "X 마을의 유일한 쌍둥이, 그의 아버지가 촌장이다"와 같은 세부 사항은 이름이 없더라도 그 사람을 식별할 수 있습니다. 따라서 이름을 삭제하는 것뿐만 아니라 이름을 고유하게 만드는 세부 사항을 일반화하는 것도 필요합니다.
원시(공유할 수 없음)
익명(공유 가능)
엘리프 카야, TC 123..., 2022년 3월 12일 출생.
3세 2개월 여아
파파티야 유치원, 3-A반
유치원 기관
그의 어머니는 Ayşe이고 그의 아버지는 Mukhtar입니다.
부모님
파일 번호 2024/187
(삭제됨)
주의: 아동의 신원 정보, 전체 보고서 또는 사진을 공개적으로 사용 가능한 인공 지능 도구에 업로드하는 것은 KVKK 및 개인 정보 보호를 위반하는 것이며 철회할 수 없습니다. 데이터는 외부 서버로 이동하며 일부 도구는 이를 모델 교육에 사용할 수 있습니다. 업로드하기 전에 항상 익명으로 처리하세요.
도구 선택 및 데이터 수명주기
모든 AI 도구가 동일한 수준의 개인 정보 보호를 제공하는 것은 아닙니다. 도구를 평가할 때 다음과 같이 질문하십시오. 모델 학습에 효율성을 사용합니까? 데이터는 어디에 얼마 동안 저장되나요? 데이터 처리 계약(기업용)을 제공합니까? 서버는 어디에 있나요? 귀하의 데이터를 사용하지 않는 기업, 계약 및 교육 도구는 공개적으로 제공되는 무료 도구보다 안전합니다. 그러나 가장 안전한 도구라 할지라도 불필요한 자격 증명을 공유하지 마십시오. 익명성은 모든 상황에서 첫 번째 방어입니다.
데이터 수명 주기를 고려하세요. 데이터 수집(검증), 처리(필요에 따라), 저장(보안, 시간 제한), 공유(승인된 전용, 익명) 및 삭제(완료 시). AI 도구에 붙인 모든 것은 이 루프에서 벗어날 위험이 있습니다.
팁: 즐겨찾는 메시지 상단에 다음과 같은 엄격한 규칙을 적용하세요. "이 대화에서 자녀나 가족을 식별하는 정보는 공유하지 않습니다." 이를 제어 반사로 만들면 가장 일반적인 위반(무심코 ID 붙여넣기)을 방지할 수 있습니다.
윤리적 경계: 진단, 낙인, 차별
개인 정보 보호는 기술적인 문제이지만 윤리는 더 광범위합니다. 세 가지 경계가 중요합니다. 진단 권한: 아동 발달 전문가가 선별 및 발달 평가를 수행합니다. 최종 진단은 관련 의사/임상 팀의 업무입니다. 인공지능은 이 한계를 모릅니다. 당신은 보호할 것입니다. 낙인: 아동에게 초기의 영구적인 낙인(파일, 가족, 자신의 마음 속)을 표시하는 것은 아동에게 불공평하며 발달에 부정적인 영향을 미칠 수 있습니다. 차별과 편견: AI는 훈련 데이터에 편견을 반영할 수 있습니다. 이는 특정 문화, 성별 또는 사회경제적 집단과 관련하여 편향된 결과를 낳을 수 있습니다. 전문가는 이를 인지하고 수정해야 합니다. 무엇보다도 이는 아동 최선의 이익이라는 원칙을 따릅니다. 모든 결정은 아동의 이익을 위한 것입니까?
복사 가능한 프롬프트 4개
1) 익명화 프롬프트:
문자를 드리겠습니다. 아동이나 가족의 신원을 드러낼 수 있는 모든 정보(이름, 성, TR ID, 생년월일, 학교/기관, 주소, 파일 번호, 고유 세부 정보)를 제거합니다. 일반 표현([여자], [유치원])으로 대체합니다. 이름뿐만 아니라 개인을 식별할 수 있는 고유한 세부정보도 일반화하세요. 제거한 내용을 나열하세요.텍스트: [raw]
2) 차량 개인 정보 보호 평가 프롬프트:
아동 데이터(교육, 보존, 계약, 서버 위치, 삭제에 사용되는 데이터)에 AI 도구를 사용할 수 있는지 여부를 결정하기 위해 물어봐야 할 개인 정보 보호 질문 체크리스트를 제공하세요. 답을 꾸며내지 마십시오. 질문만 나열해 보세요.
3) 윤리/권한 통제 프롬프트:
다음 텍스트를 윤리적으로 검토하십시오. (1) 진단을 내리거나 암시합니까? (2) 낙인을 찍는 라벨이 있습니까? (3) 문화적/성별/사회경제적 편견이 있습니까? 각 문제를 강조하고 수정되고 신중한 대안을 제안하십시오.텍스트: [초안]
4) 가족 동의 정보 텍스트 프롬프트:
자녀의 데이터를 사용하고 보호하는 방법을 간단히 설명하는 간략한 통지/동의 텍스트 초안을 가족에게 작성하십시오. 여기에는 데이터, 목적, 보호 방법, 공유 대상, 철회 권리가 포함됩니다. 법률 자문 제공 이는 초안이므로 기관의 승인을 받아야 합니다.
세 개의 미니 케이스
사례 1 - 신원 업로드 위반. 바쁜 날에는 전문가가 이름과 ID가 포함된 아동 발달 보고서를 공개 도구에 붙여넣고 "요약"이라고 말합니다. 기관에 남겨진 데이터는 가족의 동의를 얻지 못했습니다. 올바른 방법은 첫 번째 프롬프트로 데이터를 익명화하고 보안 도구에서 익명 정보만 사용하는 것이었습니다. 이러한 위반은 법적, 윤리적 문제이므로 되돌릴 수 없습니다.
사례 2 - 재식별. 전문가는 이름은 삭제했지만 "마을의 유일한 세쌍둥이, 그의 아버지는 이맘"이라는 세부 정보는 남겼다. 이 세부 정보는 이름이 없어도 아이를 식별합니다. 전문가는 “농촌에 사는 다태 임신 자녀”라는 고유한 세부 사항을 일반화하기 위해 익명성을 심화했습니다. 이제 신원이 보호됩니다.
사례 3 - 편향 수정. AI는 저소득층 가족에 대한 콘텐츠에 '이러한 가족의 참여가 부족한 경우가 많다'와 같은 편향된 가정을 암시합니다. 전문가는 세 번째 프롬프트에서 이를 파악합니다. 해당 진술이 근거가 없고, 낙인을 찍고, 차별적이라고 판단하여 삭제합니다. 모든 가족을 평등하고 존중받는 언어로 내용을 다시 작성합니다.
약한 프롬프트 / 강한 프롬프트
약한 프롬프트:
여기에 Elif의 전체 보고서를 붙여넣고 진단을 평가하고 권장합니다.
문제: 신원 정보 공유(KVKK 위반), 진단 요청(허가 초과), 동의 없음, 안전 차량에 대한 질문이 없습니다.
강력한 프롬프트:
평가 초안을 위해 다음 ANONYMOUS 개발 요약(식별 정보 제거)을 편집합니다. 진단을 내리다; 낙인을 찍는 라벨을 사용하는 것; 편향된 가정을 피하십시오. 확실하지 않은 부분에는 [전문가의 평가를 받아] 표시하세요. 요약: [익명]
일반적인 실수
- 자격 증명 업로드: 가장 일반적이고 가장 심각한 위반입니다. 항상 익명화하세요.
- 표면적 익명화: 이름을 삭제하는 것만으로는 충분하지 않습니다. 독특한 디테일도 일반화하세요.
- 도구 개인정보 보호에 의문을 제기하지 않음: 교육용으로 데이터를 사용하는 도구를 피하세요.
- 진단 경계 넘기: 평가는 진단이 아닙니다. 권한은 의사/팀에게 있습니다.
- 편견을 인식하지 않음: AI에 대한 낙인/차별적 가정을 수정합니다.
요약하면
아동 데이터는 특별한 개인 데이터입니다. KVKK 범위 내에서 가장 높은 수준의 보호가 필요하며 가족으로부터 비밀유지 및 동의를 얻습니다. AI 작업 시 가장 강력한 방어 수단은 익명화입니다. 즉, 이름뿐만 아니라 개인을 식별할 수 있는 고유한 세부 정보도 일반화하는 것입니다. 개인정보 보호를 위한 도구를 평가합니다. 훈련에 데이터를 사용하지 않는 안전한 것을 선택하십시오. 윤리적 경계(진단 권위, 낙인, 차별/편향)를 유지하고 모든 결정에서 아동의 최선의 이익을 고려하십시오.
응용과제
익명 처리되지 않은(본인의 기록에 근거한 실제) 진행 상황 메모를 작성하세요. 화면에 반영하지 않고 1차 프롬프트 로직을 이용해 수동으로 익명화하고 추출한 모든 정보를 나열합니다. 두 번째 프롬프트를 통해 개인 정보 보호 측면에서 사용하는 AI 도구를 평가하세요. 프롬프트 3을 사용하여 윤리/편견 초안을 확인합니다. 수정 사항을 세 개 이상 기록합니다(익명화 1개, 윤리 1개, 편견 1개).
체크리스트
- [ ] 데이터를 익명화했습니다. 독특한 디테일도 일반화했어요.
- [ ] 개인 정보 보호 측면에서 사용한 도구를 평가했습니다. 저는 안전한 것을 선택했어요.
- [ ] 필요한 경우 가족의 동의를 얻었습니다.
- [ ] 진단 권한 한도를 유지했습니다. 평가-진단 구분을 적용하였습니다.
- [ ] 낙인을 찍는 태그와 차별적/편향적 표현을 제거했습니다.
- [ ] 나는 모든 결정에서 아동의 최선의 이익을 고려했습니다.
- [ ] 어떤 차량에도 자격증명을 업로드하지 않았습니다.