Lợi nhuận:
- Khả năng hiểu và triển khai thực tế rằng dữ liệu của trẻ là dữ liệu đặc biệt và dữ liệu đó phải được ẩn danh trong phạm vi KVKK và tính bảo mật cũng như cần có sự đồng ý của gia đình.
- Có khả năng đánh giá các công cụ trí tuệ nhân tạo về mặt bảo mật, lưu trữ và sử dụng dữ liệu trong đào tạo mô hình và lựa chọn công cụ an toàn
- Khả năng duy trì các ranh giới đạo đức như thẩm quyền chẩn đoán, kỳ thị, phân biệt đối xử và lợi ích tốt nhất của trẻ trong quy trình làm việc
Hồ sơ phát triển của một đứa trẻ chứa đựng những thông tin sâu sắc nhất của đứa trẻ đó: lịch sử phát triển, hoàn cảnh gia đình, kết quả sàng lọc, quan sát và đôi khi là thông tin y tế. Khi thông tin này rơi vào tay kẻ xấu hoặc bị lạm dụng, nó có thể gây hại cho đứa trẻ trong nhiều năm tới: bị dán nhãn, bị kỳ thị, bị phân biệt đối xử. Vì vậy, bảo vệ dữ liệu của trẻ em là một trong những trách nhiệm nghiêm túc nhất của chuyên gia phát triển trẻ em; Trong thời đại trí tuệ nhân tạo, trách nhiệm này càng tăng lên gấp bội, vì việc dán dữ liệu vào công cụ chỉ mất vài giây và không thể hoàn tác được. Trong phần này, chúng ta sẽ đề cập đến tình trạng pháp lý của dữ liệu trẻ em, đánh giá các công cụ trí tuệ nhân tạo về quyền riêng tư và ranh giới đạo đức.
Đầu tiên, cơ sở pháp lý: Tại Türkiye, KVKK (Luật bảo vệ dữ liệu cá nhân) quy định việc xử lý dữ liệu cá nhân. Dữ liệu về sức khỏe và sự phát triển của trẻ thuộc loại dữ liệu cá nhân đặc biệt; Loại này có mức độ bảo vệ cao nhất. Ở châu Âu, nó tương đương với GDPR. Trong trường hợp của một đứa trẻ, độ nhạy cảm thậm chí còn lớn hơn, bởi vì đứa trẻ không thể đưa ra sự đồng ý hợp lệ về dữ liệu của chính mình; Sự đồng ý (đồng ý rõ ràng) được lấy từ người đại diện theo pháp luật, tức là gia đình. Nguyên tắc “vì lợi ích tốt nhất của trẻ” được áp dụng trong mọi quyết định.
Ẩn danh: bước cơ bản và mạnh mẽ nhất
Bước cơ bản nhất, thiết thực nhất để bảo vệ quyền riêng tư khi làm việc với trí tuệ nhân tạo là ẩn danh: xóa tất cả thông tin tiết lộ danh tính (tên, họ, số ID TR, ngày sinh, tên trường/tổ chức, địa chỉ, số giao thức/tệp, tên họ) khỏi dữ liệu và chỉ sử dụng thông tin không xác định cần thiết cho nhiệm vụ của bạn. Viết "bé gái 3 tuổi 2 tháng" thay vì "Elif Kaya, 3 tuổi 2 tháng, trường mẫu giáo Papatya" thực hiện công việc xử lý dữ liệu nhưng vẫn giữ được danh tính.
Lưu ý: danh tính có thể xuất hiện trở lại khi nhiều chi tiết nhỏ kết hợp với nhau (điều này được gọi là tái nhận dạng). Ví dụ, những chi tiết như “Anh song sinh duy nhất ở làng X, bố là trưởng làng” có thể nhận dạng được người đó ngay cả khi không có tên. Vì vậy, không chỉ cần xóa tên mà còn phải khái quát hóa những chi tiết tạo nên sự độc đáo cho nó.
Nguyên (không thể chia sẻ)
Ẩn danh (có thể chia sẻ)
Elif Kaya, TC 123..., sinh ngày 12.03.2022.
bé gái 3 tuổi 2 tháng
Trường mầm non Papatya, lớp 3A
cơ sở giáo dục mầm non
Mẹ anh là Ayşe và bố anh là Mukhtar.
cha mẹ
Số tập tin 2024/187
(đã xóa)
Lưu ý: Việc tải thông tin nhận dạng, báo cáo đầy đủ hoặc ảnh của trẻ lên công cụ trí tuệ nhân tạo có sẵn công khai là vi phạm KVKK và quyền riêng tư và không thể rút lại. Dữ liệu được chuyển đến máy chủ bên ngoài và một số công cụ có thể sử dụng dữ liệu đó để đào tạo mô hình. Luôn ẩn danh trước khi tải lên.
Lựa chọn công cụ và vòng đời dữ liệu
Không phải mọi công cụ AI đều có mức độ riêng tư như nhau. Khi đánh giá một công cụ, hãy hỏi: Công cụ đó có sử dụng hiệu quả trong việc huấn luyện mô hình không? Nó lưu trữ dữ liệu ở đâu và trong bao lâu? Nó có cung cấp thỏa thuận xử lý dữ liệu (để sử dụng cho công ty) không? Máy chủ của họ ở đâu? Các công cụ doanh nghiệp, hợp đồng và đào tạo không sử dụng dữ liệu của bạn sẽ an toàn hơn các công cụ miễn phí có sẵn công khai. Tuy nhiên, ngay cả trong công cụ an toàn nhất, cũng không chia sẻ thông tin xác thực không cần thiết — ẩn danh là biện pháp bảo vệ đầu tiên trong mọi trường hợp.
Xem xét vòng đời dữ liệu: thu thập dữ liệu (xác thực), xử lý (khi cần), lưu trữ (bảo mật, hẹn giờ), chia sẻ (chỉ khi được ủy quyền, ẩn danh) và xóa (khi hoàn tất). Bất cứ thứ gì bạn đưa vào công cụ AI đều có nguy cơ rơi ra ngoài vòng lặp này.
Mẹo: Đặt một quy tắc cứng rắn lên đầu những lời nhắc yêu thích của bạn: “Tôi sẽ không chia sẻ bất kỳ thông tin nào nhận dạng trẻ hoặc gia đình trong cuộc trò chuyện này”. Việc biến điều này thành phản xạ kiểm soát sẽ ngăn chặn hành vi vi phạm phổ biến nhất (dán ID một cách lơ đãng).
Ranh giới đạo đức: chẩn đoán, kỳ thị, phân biệt đối xử
Quyền riêng tư là một vấn đề kỹ thuật, nhưng đạo đức còn rộng hơn. Ba ranh giới là rất quan trọng. Cơ quan chẩn đoán: chuyên gia phát triển trẻ em tiến hành sàng lọc và đánh giá sự phát triển; Chẩn đoán xác định là công việc của bác sĩ/nhóm lâm sàng có liên quan. Trí tuệ nhân tạo không biết giới hạn này; bạn sẽ bảo vệ. Kỳ thị: đánh dấu một đứa trẻ bằng một nhãn hiệu sớm và vĩnh viễn (trong hồ sơ, trong gia đình, trong tâm trí của chính bạn) là không công bằng đối với đứa trẻ và có thể tác động tiêu cực đến sự phát triển của chúng. Phân biệt đối xử và thiên vị: AI có thể phản ánh những thành kiến trong dữ liệu đào tạo; Nó có thể tạo ra kết quả sai lệch liên quan đến một nền văn hóa, giới tính hoặc nhóm kinh tế xã hội cụ thể. Chuyên gia nên chú ý những điều này và sửa chúng. Trên hết đây là nguyên tắc vì lợi ích tốt nhất của trẻ: mọi quyết định có phải vì lợi ích của trẻ không?
Bốn lời nhắc có thể sao chép
1) Lời nhắc ẩn danh:
Tôi sẽ cung cấp cho bạn một văn bản. Xóa mọi thông tin có thể tiết lộ danh tính của trẻ hoặc gia đình (tên, họ, ID TR, ngày sinh, trường học/cơ quan, địa chỉ, số hồ sơ, chi tiết duy nhất); thay thế bằng biểu thức chung([cô gái], [tổ chức mầm non]). Khái quát hóa không chỉ tên mà còn cả những chi tiết độc đáo có thể nhận dạng người đó. Liệt kê những gì bạn đã xóa. Văn bản: [raw]
2) Lời nhắc đánh giá quyền riêng tư của phương tiện:
Hãy cung cấp cho tôi danh sách kiểm tra các câu hỏi về quyền riêng tư mà tôi nên hỏi để quyết định xem liệu tôi có thể sử dụng công cụ AI với dữ liệu trẻ em hay không (là dữ liệu được sử dụng trong giáo dục, lưu giữ, hợp đồng, vị trí máy chủ, xóa). Đừng bịa ra câu trả lời; chỉ cần liệt kê các câu hỏi.
3) Lời nhắc về đạo đức/giới hạn kiểm soát quyền hạn:
Hãy xem lại văn bản sau đây một cách đạo đức: (1) nó có đưa ra/ngụ ý một chẩn đoán không? (2) có bị dán nhãn kỳ thị không? (3) có thành kiến về văn hóa/giới tính/kinh tế xã hội không? Nêu bật từng vấn đề và đề xuất phương án thay thế thận trọng, đúng đắn. Văn bản: [bản nháp]
4) Lời nhắc văn bản thông tin đồng ý của gia đình:
Soạn thảo một văn bản THÔNG BÁO/ĐỒNG Ý ngắn gọn cho gia đình trong đó giải thích đơn giản cách tôi sẽ sử dụng và bảo vệ dữ liệu của trẻ. Nó bao gồm: dữ liệu nào, cho mục đích gì, nó được bảo vệ như thế nào, nó được chia sẻ với ai, quyền rút. Cung cấp tư vấn pháp luật; Lưu ý rằng đây là bản dự thảo và phải được tổ chức phê duyệt.
ba trường hợp nhỏ
Trường hợp 1 - Vi phạm tải lên danh tính. Vào một ngày bận rộn, một chuyên gia dán báo cáo phát triển của một đứa trẻ, có đầy đủ tên và ID vào một công cụ công cộng và nói "tóm tắt". Dữ liệu rời khỏi tổ chức và sự đồng ý của gia đình không được lấy. Cách chính xác là ẩn danh dữ liệu bằng dấu nhắc đầu tiên và chỉ sử dụng thông tin ẩn danh trong một công cụ bảo mật. Sự vi phạm này vừa là vấn đề pháp lý vừa là vấn đề đạo đức và không thể đảo ngược được.
Trường hợp 2 - Xác định lại. Chuyên gia xóa tên nhưng để lại chi tiết “anh ba duy nhất trong làng, bố là thầy tế”. Chi tiết này xác định đứa trẻ ngay cả khi không có tên. Chuyên gia đào sâu ẩn danh để khái quát những chi tiết độc đáo: “một đứa trẻ đa thai sống ở nông thôn”. Danh tính bây giờ đã được bảo vệ.
Trường hợp 3 - Hiệu chỉnh sai lệch. AI tạo ra một giả định thiên vị tiềm ẩn trong nội dung về một gia đình có thu nhập thấp, chẳng hạn như “sự tham gia thường không đầy đủ trong những gia đình này”. Chuyên gia nắm bắt được điều này ở gợi ý thứ 3; nhận thấy tuyên bố này không có căn cứ, kỳ thị và phân biệt đối xử và loại bỏ nó. Nó viết lại nội dung bằng ngôn ngữ coi mọi gia đình đều bình đẳng và được tôn trọng.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Tôi đang dán báo cáo đầy đủ của Elif vào đây, đánh giá và đưa ra chẩn đoán.
Vấn đề: thông tin nhận dạng được chia sẻ (vi phạm KVKK), yêu cầu chẩn đoán (vượt quá ủy quyền), không có sự đồng ý, phương tiện an toàn không bị nghi ngờ.
Lời nhắc mạnh mẽ:
Chỉnh sửa bản tóm tắt phát triển BẤT CỨ NÀO sau đây (đã xóa thông tin nhận dạng) cho BẢN THẢO đánh giá. Thực hiện chẩn đoán; sử dụng nhãn mác kỳ thị; Tránh giả định thiên vị. Đánh dấu [để chuyên gia đánh giá] ở chỗ bạn không chắc chắn. Tóm tắt: [ẩn danh]
Những lỗi thường gặp
- Tải thông tin xác thực lên: Vi phạm phổ biến nhất và nghiêm trọng nhất; luôn ẩn danh.
- Ẩn danh bề ngoài: Chỉ xóa tên là chưa đủ; khái quát hóa các chi tiết độc đáo là tốt.
- Không đặt câu hỏi về quyền riêng tư của công cụ: Tránh các công cụ sử dụng dữ liệu của bạn cho mục đích giáo dục.
- Vượt qua ranh giới chẩn đoán: Đánh giá không phải là chẩn đoán; Thẩm quyền thuộc về bác sĩ/nhóm.
- Không thừa nhận sự thiên vị: Khắc phục các giả định kỳ thị/phân biệt đối xử của AI.
Tóm lại
Dữ liệu trẻ em là dữ liệu cá nhân đặc biệt; Nó đòi hỏi sự bảo vệ cao nhất trong phạm vi KVKK và phải có sự đồng ý và bảo mật từ gia đình. Cách bảo vệ mạnh mẽ nhất khi làm việc với AI là ẩn danh - khái quát hóa không chỉ tên mà cả các chi tiết độc đáo có thể nhận dạng cá nhân. Đánh giá các công cụ về quyền riêng tư; Chọn cái an toàn không sử dụng dữ liệu của bạn trong quá trình đào tạo. Duy trì các ranh giới đạo đức (thẩm quyền chẩn đoán, kỳ thị, phân biệt đối xử/thiên vị) và cân nhắc lợi ích tốt nhất của trẻ trong mọi quyết định.
Nhiệm vụ ứng dụng
Ghi chú tiến độ không ẩn danh (xác thực, từ hồ sơ của chính bạn); Không phản ánh nó trên màn hình, hãy ẩn danh nó theo cách thủ công bằng cách sử dụng logic của lời nhắc đầu tiên và liệt kê mọi thông tin bạn đã trích xuất. Đánh giá công cụ AI bạn sử dụng về mặt quyền riêng tư bằng lời nhắc thứ 2. Kiểm tra bản nháp về vấn đề đạo đức/thành kiến với gợi ý 3. Lưu ý ít nhất ba điều chỉnh mà bạn đã thực hiện (một lần ẩn danh, một lần về đạo đức, một lần thành kiến).
danh sách kiểm tra
- [ ] Tôi đã ẩn danh dữ liệu; Tôi cũng khái quát các chi tiết độc đáo.
- [ ] Tôi đã đánh giá công cụ tôi sử dụng về mặt quyền riêng tư; Tôi đã chọn cái an toàn.
- [ ] Tôi đã nhận được sự đồng ý của gia đình khi cần thiết.
- [ ] Tôi đã duy trì giới hạn thẩm quyền chẩn đoán; Tôi đã áp dụng sự phân biệt đánh giá-chẩn đoán.
- [ ] Tôi đã xóa các thẻ kỳ thị và các biểu hiện phân biệt đối xử/thiên vị.
- [ ] Tôi luôn cân nhắc lợi ích tốt nhất của đứa trẻ trong mọi quyết định.
- [ ] Tôi chưa tải thông tin xác thực lên bất kỳ phương tiện nào.