이득:
- 민감도 클래스(공개/내부/기밀/일급비밀)에 따라 정보를 평가하고 '질문 클래스, 도구 일치' 반사를 적용하는 기능
- AI의 데이터 저장, 모델 훈련, 수집 및 위반 위험을 이해하고 개방형 세계와 기밀 세계를 분리하여 유지합니다.
- 최소한의 데이터 원칙, 개인정보 보호, 불확실한 정보를 보호하는 규율을 더 높은 수준으로 채택하는 능력.
외교는 신뢰에 기초하고, 신뢰는 비밀에 기초한다. 협상 위치, 정보 평가, 대담자와의 대화 내용 또는 아직 발표되지 않은 결정이 잘못된 손에 들어가면 국가의 이익, 협상 결과, 심지어 국민의 안전까지 위태롭게 할 수 있습니다. 인공 지능은 이 분야에 엄청난 속도를 가져다 주지만, 새롭고 심각한 개인 정보 보호 위험도 안고 있습니다. 본 단원에서는 인공지능 시대에 기밀 정보와 민감한 정보를 보호하는 방법, 어떤 데이터가 어떤 차량에 들어갈 수 있는지, 안전한 사용의 원칙을 학습합니다.
이 단원은 모듈의 가장 중요한 보안 교훈입니다. 여기서 한 가지 실수(기밀 문서를 잘못된 도구에 붙여넣는 것)는 되돌릴 수 없습니다. 따라서 여기에 기억해야 할 반사가 설정됩니다. AI 도구에 데이터를 제공하기 전에 항상 질문하십시오. 이 데이터는 어떤 클래스에 있고 이 도구는 이 클래스에 승인되었습니까?
정보 분류: 기본 구별
외교 정보는 민감도에 따라 분류되는 경우가 많습니다. 기관마다 다르지만 기본 논리는 다음과 같습니다.
- 미분류/공개: 이미 공개되어 공개적으로 접근 가능한 정보입니다. 예: 공식 보도자료, 공개 뉴스.
- 제한됨/내부: 공개적으로 사용할 수 없지만 민감도가 낮은 내부 정보입니다.
- 기밀: 공개되면 국가의 이익에 심각한 해를 끼칠 수 있는 정보입니다. 예: 협상 위치, 내부 평가.
- 일급 비밀: 공개되면 가장 심각한 피해를 초래할 수 있는 정보입니다. 예: 민감한 정보, 중요한 보안 정보.
경험 법칙은 간단합니다. 공개적으로 이용 가능하지 않은 기밀 정보는 기관에서 해당 수업에 대해 승인하지 않은 AI 도구에 입력되지 않습니다. 공공 AI 서비스는 정의상 이러한 종류의 정보에 대해 인증되지 않았습니다.
팁: 확실하지 않은 경우 정보를 선배처럼 다루십시오. "이것은 아마도 이미 알려져 있을 것이다"라고 말하는 것은 위험한 추측이다. 정보가 공개된 것이라고 100% 확신할 때까지 해당 정보를 기밀인 것처럼 보호하십시오. 불필요한 주의는 비용이 아니라 확신입니다.
AI의 개인 정보 보호 위험
AI 도구는 기존 소프트웨어와는 다른 개인 정보 보호 위험을 초래합니다.
1. 데이터 처리 및 저장: 귀하가 공공 AI 서비스에 작성한 텍스트는 해당 서비스의 서버에서 처리되어 저장될 수 있습니다. 액세스하는 사람, 보관 기간, 사용 방법을 제어할 수 없습니다.
2. 모델 훈련에 사용: 일부 서비스에서는 모델 개선을 위해 귀하가 입력한 데이터를 사용할 수 있습니다. 이로 인해 귀하의 기밀 정보가 간접적으로 모델의 "메모리"에 들어가 다른 사람에게 유출될 위험이 발생합니다.
3. 집합 위험: 개별적으로는 무해해 보이는 정보 조각들이 결합되면 민감한 그림을 형성할 수 있습니다. 서로 다른 시간에 입력된 작은 정보 조각이 집합적으로 비밀 위치를 제공할 수 있습니다.
4. 액세스 및 위반 위험: 외부 시스템과 마찬가지로 AI 서비스도 데이터 위반의 대상이 될 수 있습니다. 해당 위반으로 인해 귀하가 제공한 데이터가 노출될 수 있습니다.
이러한 위험에 대한 해결책은 오픈 소스 작업을 위한 일반 도구와 다른 두 가지 별도의 세계를 구축하는 것입니다. 기밀 작업을 위해 데이터를 내보내지 않는 사내의 안전하고 승인된 시스템만 해당됩니다. 절대로 두 가지를 섞지 마십시오.
주의: "익명으로 설정했습니다"라고 말하는 것만으로는 충분하지 않은 경우가 많습니다. 이름을 삭제하더라도 문맥(날짜, 장소, 사건, 당사자 수)만으로도 전문가가 신원과 입장을 수정하기에 충분할 수 있습니다. 실제 민감한 정보는 마스킹이 아닌 적절한 도구 및 매체 선택을 통해 보호됩니다.
안전한 사용 규율
실용적인 제어 흐름을 설정합니다.
- 클래스를 결정합니다. 이 데이터는 공개, 내부, 기밀 또는 일급 비밀인가요?
- 차량을 페어링합니다. 이 도구에서 이 클래스를 처리할 수 있나요? 그렇지 않다면 중지하십시오.
- 최소 데이터 정책. 일할 수 있는 직업이라 할지라도 업무에 필요한 것보다 더 많은 정보를 제공하지 마십시오.
- 개인 데이터를 보호하세요. 개인 데이터(이름, 연락처, 위치)는 필요한 경우에만 법적 근거에 따라 처리됩니다. 불필요한 경우 마스크 처리하거나 아예 제공하지 않습니다.
- 기록을 유지하세요. 어떤 작업에 어떤 도구를 사용했는지, 어떤 데이터를 사용했는지 문서화하세요. 문제가 있으면 추적이 가능합니다.
팁: 팀에 "개인 정보 보호 우선" 문화를 조성하십시오. 새로운 직원이나 인턴은 첫날부터 "기밀 문서가 공개 도메인에 들어가지 않도록" 하는 반사 작용을 배워야 합니다. 대부분의 위반은 악의에서 비롯된 것이 아니라 차량이 얼마나 열려 있는지 알지 못해서 발생합니다.
세 개의 미니 케이스
사례 1 - 반사가 위반을 방지했습니다. 한 전문가가 인터뷰 메모를 요약하려고 하다가 멈춰 서서 그 분류를 물었습니다. 메모는 대담자와의 비밀 대화였습니다. 공용 도구 대신 사내 보안 시스템으로 전환했습니다. 간단한 "수업 먼저 물어보기" 반사 작용으로 위반을 예방했습니다.
사례 2 - 회수 위험이 인식되었습니다. 팀은 각기 다른 날에 외부 도구에 작고 겉으로는 "무해해 보이는" 정보를 입력했습니다. 보안 검토에 따르면 이러한 조각들이 합쳐지면 다가오는 협상의 의제를 제공하는 것으로 나타났습니다. 애플리케이션이 중지되었습니다. 작업이 안전한 환경으로 이동되었습니다.
사례 3 - 가짜 익명성. 직원은 이름을 삭제하고 외부 대리인에게 넘겨주었기 때문에 문서를 "익명"으로 간주했습니다. 그러나 문서의 날짜, 장소 및 사건 설명을 통해 누구를 의미했는지는 분명했습니다. 이름을 삭제하는 것만으로는 충분하지 않았습니다. 어쨌든 문서는 안전한 환경에서 처리되어야 합니다.
복사 가능한 템플릿 4개
1) 클래스 및 차량 사전 확인 :
아래에서 작업에 대해 설명하겠습니다. (일을 하지 마세요): (1) 이 데이터가 어떤 민감도 클래스를 가질 수 있는지(공개/내부/비밀/일급 비밀), (2) 이 클래스를 공용 AI 도구에서 처리해야 하는지, (3) 그렇지 않은 경우 어떤 유형의 환경이 필요한지 알려주세요. 작업/데이터 설명: [여기]
2) 개인정보 스캐닝 및 마스킹:
처리하기 전에 마스킹해야 하는 개인/민감한 데이터(이름, 직위, 연락처, 위치, 건강, ID 번호)를 아래 텍스트에 나열하십시오. 텍스트 처리 어느 부분을 제거해야 하는지 알려주세요. 마스킹해서 다시 보내드리겠습니다. 텍스트: [여기]
3) 수집 위험 평가:
다음 정보를 외부 도구로 별도로 내보내는 것을 고려 중입니다: [조각]. 개별적으로는 무해해 보일 수 있지만 결합하면 민감한 그림(예: 입장, 의제, 정체성)을 만들 수 있습니까? 수집 위험을 평가하고 함께 제공해서는 안 되는 항목을 알려줍니다.
4) 공개 가용성 확인:
다음 정보가 공개되어 있는지 확실하지 않습니다: [정보]. 공개로 간주하기 전에 수행해야 할 확인 사항을 나열합니다(공식 릴리스가 있는지, 게시한 사람, 날짜). 확실하지 않은 경우 "기밀로 취급" 원칙을 상기시켜 주십시오.
약한 프롬프트 / 강한 프롬프트
약한 프롬프트:
이 인터뷰 노트를 요약해보세요. (숨겨진 내용은 노트에 직접 붙여넣습니다)
이것은 가장 위험한 실수입니다. 기밀 문서가 클래스에 대한 질문 없이 공개 매체에 들어갔습니다. 누출 위험이 발생했으며 되돌릴 수 없습니다.
강력한 프롬프트(먼저 확인):
회의록을 처리하고 싶습니다. 하지만 먼저 이 메모는 아마도 비밀 클래스에 있을 것입니다. 이러한 유형의 문서를 공용 도구에서 처리할 수 있는지, 그리고 올바른 방법은 무엇인지 알려주세요. 나는 문서의 내용을 귀하에게 제공하지 않습니다. 나는 단지 올바른 과정을 요구하는 것뿐입니다.
차이점은 명확합니다. 기밀 내용은 전혀 제공되지 않으며 올바른 프로세스를 먼저 요청하고 적절한 환경으로 작업이 전달됩니다.
클래스-차량 매핑 테이블
정보 수업
예
공공 AI
올바른 환경
대중
보도자료
적합한
일반 도구
내부/서비스별
내부 노트
일반적으로 아니요
사내 승인
비밀
협상 입장
결코
안전한 기관 시스템
일급비밀
민감한 지능
결코
최고의 보안
개인 데이터
자격 증명
필수+법적 사항만
마스크/보안
일반적인 실수
- 수업을 묻지 않고 데이터를 입력합니다. 모든 직업 앞에는 "이게 어느 클래스야?"라는 반성이 필요합니다. 필수입니다.
- "아마도 분명할 것"이라고 가정합니다. 불확실한 정보는 기밀로 보호됩니다.
- 이름 삭제를 익명화로 착각합니다. 맥락은 정체성을 알려줄 수 있습니다.
- 수집의 위험을 무시합니다. 작은 부품은 조립 시 섬세할 수 있습니다.
- 두 세계를 혼합합니다. 공개 작업과 분류된 작업은 별도의 도구/환경에서 실행됩니다.
요약하면
비밀 유지는 외교적 AI 사용의 가장 중요한 한계입니다. 정보 분류(공개/내부/기밀/일급 비밀), "수업 문의, 차량 일치" 반사, 최소 데이터 원칙, 개인 데이터 보호 및 수집 위험을 이 단위의 백본으로 삼습니다. 오픈 소스 작업을 위한 일반 도구 분류된 작업에는 사내에서 안전하고 승인된 시스템만 사용하십시오. 이 둘을 혼동하지 마십시오. 의심스러울 때는 선배처럼 정보를 보호하세요.
응용과제
자신의(또는 가상의) 책상에 있는 8가지 다른 데이터 조각을 나열하십시오(일부 공개, 일부 민감한). 각각을 클래스에 배치하고 "어떤 도구에서 처리할 수 있는지"를 결정합니다. "클래스 및 차량 사전 확인" 템플릿을 사용하여 모호한 부분을 평가하세요. 3개 작품을 선택하고 '수집 위험 평가'와 결합 시 민감한 그림을 형성하는지 검토합니다.
체크리스트
- [ ] 먼저 각 데이터의 민감도 등급을 결정했습니다.
- [ ] 클래스가 공공차량에 적합하지 않은 데이터를 입력한 적이 없습니다.
- [ ] 모르는 정보는 상사처럼 지켰습니다.
- [ ] 나는 필요하고 합법적인 경우에만 개인정보를 마스킹하여 처리합니다.
- [ ] 나는 두 세계를 수집하고 분리하는 위험을 무릅썼다.