Lợi nhuận:
- Có khả năng đánh giá thông tin theo lớp nhạy cảm (công khai/nội bộ/bí mật/tuyệt mật) và áp dụng phản xạ 'hỏi lớp, khớp công cụ'
- Hiểu các rủi ro về lưu trữ dữ liệu, đào tạo mô hình, thu thập và vi phạm của AI và tách biệt thế giới mở và bí mật
- Khả năng áp dụng nguyên tắc dữ liệu tối thiểu, bảo vệ dữ liệu cá nhân và kỷ luật bảo vệ thông tin không chắc chắn như thể đó là một cấp độ cao hơn.
Ngoại giao dựa trên lòng tin, và lòng tin dựa trên bí mật. Vị thế đàm phán, đánh giá tình báo, nội dung cuộc trò chuyện với người đối thoại hoặc một quyết định chưa được công bố, rơi vào tay kẻ xấu, có thể gây nguy hiểm cho lợi ích của quốc gia, kết quả của cuộc đàm phán hoặc thậm chí là an ninh của người dân. Trí tuệ nhân tạo mang lại tốc độ chóng mặt cho lĩnh vực này nhưng nó cũng tiềm ẩn những rủi ro mới và nghiêm trọng về quyền riêng tư. Trong phần này, bạn sẽ học cách bảo vệ thông tin mật và nhạy cảm trong thời đại trí tuệ nhân tạo, dữ liệu nào có thể xâm nhập vào phương tiện nào và nguyên tắc sử dụng an toàn.
Phần này là bài học bảo mật quan trọng nhất của mô-đun. Một sai lầm ở đây — dán tài liệu bí mật vào sai công cụ — là sai lầm không thể khắc phục được. Do đó, một phản xạ cần ghi nhớ sẽ được hình thành ở đây: Trước khi đưa bất kỳ dữ liệu nào cho một công cụ AI, hãy luôn hỏi: dữ liệu này thuộc lớp nào và công cụ này có được phê duyệt cho lớp này không?
Phân loại thông tin: phân biệt cơ bản
Thông tin ngoại giao thường được phân loại theo độ nhạy cảm của nó. Mặc dù nó khác nhau giữa các tổ chức, logic cơ bản là thế này:
- Chưa được phân loại/công khai: Thông tin đã được xuất bản và có thể truy cập công khai. Ví dụ: thông cáo báo chí chính thức, tin tức đại chúng.
- Bị hạn chế/nội bộ: Thông tin nội bộ không được công khai nhưng có độ nhạy thấp.
- Bí mật: Thông tin mà việc tiết lộ có thể gây tổn hại nghiêm trọng đến lợi ích của nhà nước. Ví dụ: lập trường đàm phán, đánh giá nội bộ.
- Bí mật hàng đầu: Thông tin mà việc tiết lộ sẽ gây ra tác hại nghiêm trọng nhất. Ví dụ: thông tin tình báo nhạy cảm, thông tin bảo mật quan trọng.
Nguyên tắc chung rất đơn giản: Không có thông tin mật nào không được công khai sẽ được nhập vào công cụ AI mà tổ chức của bạn chưa phê duyệt cho lớp đó. Theo định nghĩa, một dịch vụ AI công cộng không được chứng nhận cho loại thông tin này.
Mẹo: Nếu bạn không chắc chắn, hãy xử lý thông tin như một người có thâm niên. Nói "điều này có lẽ đã được biết" là một suy đoán nguy hiểm. Cho đến khi bạn chắc chắn 100% rằng thông tin đó là công khai, hãy bảo vệ nó như thể nó là bí mật. Sự thận trọng không cần thiết không phải là một chi phí mà là một sự đảm bảo.
Rủi ro về quyền riêng tư của AI
Các công cụ AI gây ra những rủi ro về quyền riêng tư khác với phần mềm truyền thống:
1. Xử lý và lưu trữ dữ liệu: Văn bản bạn viết cho dịch vụ AI công cộng có thể được xử lý và lưu trữ trên máy chủ của dịch vụ đó. Bạn không thể kiểm soát ai truy cập nó, nó được lưu giữ trong bao lâu và nó được sử dụng như thế nào.
2. Sử dụng trong đào tạo mô hình: Một số dịch vụ có thể sử dụng dữ liệu bạn nhập để cải thiện mô hình. Điều này tạo ra nguy cơ thông tin bí mật của bạn sẽ gián tiếp đi vào “bộ nhớ” của mô hình và rò rỉ cho người khác.
3. Rủi ro tổng hợp: Những mẩu thông tin tưởng chừng như vô hại riêng lẻ có thể tạo thành một bức tranh nhạy cảm khi kết hợp lại. Những mẩu thông tin nhỏ được nhập vào những thời điểm khác nhau có thể tiết lộ một vị trí bí mật.
4. Rủi ro truy cập và vi phạm: Giống như bất kỳ hệ thống bên ngoài nào, các dịch vụ AI có thể bị vi phạm dữ liệu. Dữ liệu bạn cung cấp có thể bị lộ trong hành vi vi phạm đó.
Giải pháp cho những rủi ro này là thiết lập hai thế giới riêng biệt: các công cụ chung cho công việc nguồn mở; Chỉ các hệ thống nội bộ, an toàn, được phê duyệt mới không xuất dữ liệu cho công việc được phân loại. Không bao giờ trộn lẫn cả hai.
Lưu ý: Nói "Tôi ẩn danh" thường là không đủ. Ngay cả khi bạn xóa tên, bối cảnh (ngày, địa điểm, sự kiện, số lượng bên) có thể đủ để chuyên gia xác định lại danh tính và vị trí. Thông tin nhạy cảm thực sự được bảo vệ không phải bằng cách che giấu mà bằng cách lựa chọn các công cụ và phương tiện thích hợp.
Kỷ luật sử dụng an toàn
Thiết lập luồng điều khiển thực tế:
- Xác định lớp học. Dữ liệu này là công khai, nội bộ, bí mật hay tuyệt mật?
- Ghép nối xe. Lớp này có thể được xử lý trong công cụ này không? Nếu không, hãy dừng lại.
- Chính sách dữ liệu tối thiểu Ngay cả khi có một công việc khả thi, đừng cung cấp nhiều thông tin hơn mức công việc yêu cầu.
- Bảo vệ dữ liệu cá nhân. Dữ liệu cá nhân (tên, liên hệ, địa điểm) chỉ được xử lý nếu cần thiết và trên cơ sở pháp lý; Nếu không cần thiết, nó sẽ bị che đi hoặc không được đưa ra chút nào.
- Giữ hồ sơ. Ghi lại công cụ bạn đã sử dụng cho công việc nào, với dữ liệu nào; Nếu có vấn đề, nó có thể được truy tìm.
Mẹo: Thiết lập văn hóa "quyền riêng tư là trên hết" trong nhóm của bạn: thư ký mới hoặc thực tập sinh nên học phản xạ "không có tài liệu bí mật nào được đưa vào phạm vi công cộng" ngay từ ngày đầu tiên. Hầu hết các hành vi vi phạm không phải do cố ý mà do không biết độ hở của xe.
ba trường hợp nhỏ
Trường hợp 1 - Phản xạ ngăn chặn hành vi vi phạm. Một chuyên gia đang định tóm tắt một đoạn ghi chú phỏng vấn thì dừng lại và hỏi phân loại của nó: đoạn ghi chú đó là cuộc trò chuyện bí mật với một người đối thoại. Đã chuyển sang hệ thống bảo mật nội bộ thay vì công cụ công cộng. Phản xạ "yêu cầu lớp trước" đơn giản đã ngăn chặn vi phạm.
Trường hợp 2 - Rủi ro thu nợ được nhận biết. Một nhóm sẽ nhập những thông tin nhỏ, dường như “vô hại” vào một công cụ bên ngoài vào những ngày khác nhau. Đánh giá bảo mật cho thấy rằng khi kết hợp lại, những phần này đã tiết lộ chương trình nghị sự của cuộc đàm phán sắp tới. Ứng dụng đã bị dừng; Công việc đã được chuyển đến một môi trường an toàn.
Trường hợp 3 - Ẩn danh giả. Một nhân viên cho rằng tài liệu này là "ẩn danh" vì anh ta đã xóa tên và giao nó cho đại lý bên ngoài. Tuy nhiên, ngày, địa điểm và mô tả sự kiện trong tài liệu đã nói rõ ai là người muốn nói đến. Xóa tên là chưa đủ; Dù sao thì tài liệu cũng phải được xử lý trong môi trường an toàn.
Bốn mẫu có thể sao chép
1) Kiểm tra trước hạng và loại xe:
Tôi sẽ mô tả công việc dưới đây. Hãy cho tôi biết (đừng làm việc đó): (1) dữ liệu này có thể có lớp nhạy cảm nào (công khai / nội bộ / bí mật / tuyệt mật), (2) lớp này có nên được xử lý trong một công cụ AI công khai không, (3) nếu không, loại môi trường nào là bắt buộc. Mô tả công việc/dữ liệu: [tại đây]
2) Quét và che giấu dữ liệu cá nhân:
Liệt kê dữ liệu cá nhân/nhạy cảm (tên, chức danh, địa chỉ liên hệ, vị trí, sức khỏe, số ID) phải được che trước khi xử lý trong văn bản bên dưới. XỬ LÝ VĂN BẢN; Chỉ cần cho tôi biết những khu vực cần phải được loại bỏ. Tôi sẽ làm mặt nạ và gửi lại. Văn bản: [tại đây]
3) Đánh giá rủi ro thu nợ:
Tôi đang xem xét xuất riêng các phần thông tin sau sang một công cụ bên ngoài: [mảnh]. Mặc dù những điều này có vẻ vô hại riêng lẻ, nhưng khi KẾT HỢP chúng có thể tạo ra một bức tranh nhạy cảm (ví dụ: một vị trí, chương trình nghị sự, danh tính) không? Đánh giá rủi ro của việc thu thập và cho biết những mặt hàng nào không nên được đưa cùng nhau.
4) Xác nhận có sẵn công khai:
Tôi không chắc thông tin sau có được công khai hay không: [thông tin]. Liệt kê những xác minh mà tôi cần thực hiện trước khi coi nó là công khai (có bản phát hành chính thức không, ai đã xuất bản nó, ngày tháng). Nếu tôi không chắc chắn, hãy nhắc tôi về nguyên tắc "coi như bí mật".
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Tóm tắt ghi chú phỏng vấn này. (nội dung ẩn được dán trực tiếp vào ghi chú)
Đây là sai lầm nguy hiểm nhất: một tài liệu bí mật được đưa vào phương tiện công cộng mà không bị thẩm vấn về loại tài liệu đó. Nguy cơ rò rỉ đã xảy ra và không thể khắc phục được.
Lời nhắc mạnh mẽ (kiểm tra trước):
Tôi muốn xử lý một ghi chú cuộc họp. Nhưng trước tiên: tờ giấy này có lẽ nằm trong lớp bí mật. Cho tôi biết loại tài liệu này có thể được xử lý bằng công cụ công cộng không và cách xử lý như thế nào là đúng? TÔI KHÔNG CUNG CẤP NỘI DUNG TÀI LIỆU CHO BẠN; Tôi chỉ yêu cầu đúng quy trình.
Sự khác biệt rất rõ ràng: nội dung bí mật hoàn toàn không được cung cấp, quy trình chính xác được yêu cầu trước và công việc được chuyển đến môi trường thích hợp.
Bảng ánh xạ lớp-xe
lớp thông tin
ví dụ
AI công cộng
môi trường phù hợp
công khai
thông cáo báo chí
phù hợp
công cụ chung
Nội bộ/dịch vụ cụ thể
ghi chú bên trong
Thường thì không
Đã được phê duyệt nội bộ
bí mật
vị thế đàm phán
không bao giờ
Hệ thống tổ chức an toàn
bí mật hàng đầu
trí thông minh nhạy cảm
không bao giờ
bảo mật cao nhất
dữ liệu cá nhân
thông tin xác thực
Chỉ cần thiết+pháp lý
Bịt mặt/bảo đảm
Những lỗi thường gặp
- Nhập dữ liệu mà không yêu cầu lớp học. Trước mỗi công việc, phản xạ “đây là lớp nào?” là điều bắt buộc.
- Giả sử "điều đó có lẽ là hiển nhiên". Thông tin không chắc chắn được bảo vệ dưới dạng bí mật.
- Nhầm xóa tên là ẩn danh. Bối cảnh có thể tiết lộ danh tính.
- Bỏ qua rủi ro thu thập. Các bộ phận nhỏ có thể dễ vỡ khi lắp ráp.
- Trộn lẫn hai thế giới. Các công việc mở và phân loại chạy trong các công cụ/môi trường riêng biệt.
Tóm lại
Bí mật là giới hạn quan trọng nhất của việc sử dụng AI ngoại giao. Lấy hoạt động phân loại thông tin (công khai/nội bộ/bí mật/tuyệt mật), phản xạ "yêu cầu lớp, phương tiện phù hợp", nguyên tắc dữ liệu tối thiểu, bảo vệ dữ liệu cá nhân và rủi ro thu thập làm xương sống của đơn vị này. Các công cụ chung cho công việc nguồn mở; Chỉ sử dụng các hệ thống an toàn, được phê duyệt nội bộ cho công việc được phân loại. Đừng bao giờ nhầm lẫn cả hai; Khi nghi ngờ, hãy bảo vệ thông tin như một cấp trên.
Nhiệm vụ ứng dụng
Liệt kê 8 mẩu dữ liệu khác nhau từ bàn làm việc (hoặc tưởng tượng) của riêng bạn (một số công khai, một số nhạy cảm). Xếp mỗi người vào một lớp và quyết định "có thể xử lý nó bằng công cụ nào". Đánh giá những điều chưa rõ ràng bằng mẫu "Kiểm tra trước hạng và xe". Chọn ba phần và kiểm tra xem chúng có tạo thành một bức tranh nhạy cảm khi kết hợp với “đánh giá rủi ro thu nợ” hay không.
danh sách kiểm tra
- [ ] Đầu tiên tôi xác định lớp nhạy cảm cho từng dữ liệu.
- Tôi chưa bao giờ nhập dữ liệu có lớp [ ] không phù hợp với phương tiện công cộng.
- [ ] Tôi bảo vệ những thông tin mà tôi không chắc chắn như một cấp trên.
- [ ] Tôi chỉ xử lý dữ liệu cá nhân khi cần thiết và hợp pháp, được che giấu.
- [ ] Tôi đã mạo hiểm thu thập và chia tách hai thế giới.