Lợi nhuận:
- Khả năng phân loại và ẩn danh dữ liệu học sinh trong khuôn khổ KVKK và các khái niệm dữ liệu cá nhân đặc biệt cũng như áp dụng lựa chọn phương tiện an toàn
- Khả năng điều chỉnh các nguyên tắc đạo đức nghề nghiệp của PDR (bảo mật, có lợi, không ác ý, tự chủ) với việc sử dụng trí tuệ nhân tạo
- Khả năng nhận ra sự thiên vị, vô cảm về văn hóa và ảo giác trong sản phẩm trí tuệ nhân tạo và tạo ra chính sách sử dụng có đạo đức
Niềm tin là trọng tâm của nghề PDR. Nếu một học sinh có thể kể những tâm sự, nỗi sợ hãi, gia đình thân thiết nhất của mình với chuyên gia thì đó chỉ là vì em tin rằng những thông tin đó sẽ được bảo vệ. Các công cụ trí tuệ nhân tạo đặt ra một thử nghiệm mới nghiêm túc cho sự tin tưởng này: dữ liệu nhạy cảm nhất có thể vượt khỏi tầm kiểm soát trong một câu. Trong phần này, chúng tôi thảo luận một cách có hệ thống về quyền riêng tư, đạo đức nghề nghiệp của KVKK, PDR và cách chúng áp dụng vào việc sử dụng trí tuệ nhân tạo. Chúng tôi đã áp dụng từng nguyên tắc này trong các học phần trước; Ở đây chúng tôi sẽ kết hợp nó một cách tổng thể và biến nó thành một chính sách lâu dài.
KVKK và các loại dữ liệu: cái nào được bảo vệ nhiều hơn
KVKK (Luật bảo vệ dữ liệu cá nhân) là luật quy định việc xử lý hợp pháp dữ liệu của mọi người. Hai khái niệm đặc biệt quan trọng. Dữ liệu cá nhân là bất kỳ thông tin nào nhận dạng hoặc nhận dạng một người: tên, họ, số trường, lớp, địa chỉ, ảnh. Dữ liệu cá nhân đặc biệt là loại dữ liệu nhạy cảm cần được bảo vệ cao hơn: sức khỏe, trạng thái tinh thần, chẩn đoán, đời sống tình dục, tôn giáo, dân tộc, tình trạng tội phạm. Phần lớn các hồ sơ PDR thuộc loại nhạy cảm thứ hai này; bởi vì tình trạng tâm thần, các vấn đề gia đình và lịch sử hỗ trợ đều là dữ liệu riêng tư trực tiếp. Điều này có nghĩa là không bao giờ được nhập dữ liệu PDR ở dạng thô vào các công cụ công cộng.
Trong thực tế, điều này chuyển thành ba quy tắc: (1) Giảm thiểu dữ liệu - làm việc với lượng dữ liệu cần thiết ít nhất để thực hiện công việc. (2) Ẩn danh - làm cho dữ liệu không thể liên kết được với cá nhân bằng cách xóa thông tin nhận dạng cá nhân. (3) Ranh giới về phương tiện và mục đích an toàn — sử dụng các công cụ doanh nghiệp được bảo mật dữ liệu nếu có thể và chỉ xử lý dữ liệu cho mục đích thu thập dữ liệu.
Lưu ý: Chỉ nói "Tôi đã ẩn danh nó bằng cách nào đó" là chưa đủ. Ngay cả khi tên bị bỏ qua trong văn bản, một mô tả duy nhất về tình huống (một tình huống rất cụ thể đối với một học sinh tại một trường học nhỏ) có thể giúp nhận dạng được người đó. Khi ẩn danh, hãy khái quát hóa không chỉ tên mà cả các chi tiết cùng nhau chỉ ra con người.
Thực hành ẩn danh: một thủ tục kiểm soát
Trước khi xuất văn bản sang công cụ, hãy làm theo quy trình sau: (a) Xóa các thông tin nhận dạng trực tiếp như tên, họ, số hiệu, lớp, tên phụ huynh, địa chỉ, số điện thoại, tên trường. (b) Khái quát hóa các mô tả gián tiếp: “một học sinh cấp hai” thay vì “học sinh khiếm thị duy nhất trong lớp 12-B”. (c) Làm mờ chi tiết ngày tháng và sự kiện nếu cần thiết. (d) Sau khi đọc: “Có ai đọc văn bản này có thể tìm ra ai đang được nhắc đến không?” Nếu câu trả lời mơ hồ, hãy khái quát hóa thêm. Hồ sơ đã được xác thực chỉ được ghi vào hệ thống khép kín, an toàn của cơ sở; Công cụ AI nằm ngoài hệ thống này.
Đạo đức nghề nghiệp và AI của PDR
Đạo đức nghề nghiệp của PDR dựa trên bốn nguyên tắc cơ bản, mỗi nguyên tắc đều áp dụng trực tiếp vào việc sử dụng AI:
- Bảo mật (giữ bí mật): Thông tin của học sinh được bảo vệ. Không nhập dữ liệu thô vào AI, ẩn danh và chọn công cụ an toàn là yêu cầu của nguyên tắc này.
- Lợi ích: Mọi việc được thực hiện phải phục vụ lợi ích của học sinh. AI được sử dụng vì sự thuận tiện chứ không phải theo cách gây tổn hại đến lợi ích của học sinh.
- Không ác ý: Ưu tiên hàng đầu là không gây hại. Đầu ra chưa được xác minh, thống kê không chính xác, dán nhãn và sử dụng AI trong khủng hoảng là những nguy cơ gây hại; do đó việc xác minh và ranh giới khủng hoảng là một mệnh lệnh đạo đức.
- Quyền tự chủ: Quyền tự quyết định của học sinh được bảo vệ. AI không nên thu gọn học sinh thành một nhãn hiệu hoặc thay mặt học sinh đó đưa ra quyết định.
Trách nhiệm giải trình được bổ sung vào điều này: Trách nhiệm đối với mọi kết quả đầu ra được sử dụng thuộc về chuyên gia; “AI đã tạo ra nó” không phải là lời bào chữa.
Thành kiến, nhạy cảm về văn hóa và tính minh bạch
AI có thể phản ánh các mô hình xã hội trong dữ liệu đào tạo. Ở PDR, đây là vấn đề về sự công bằng: kết quả định hình một học sinh theo giới tính, văn hóa hoặc tình trạng kinh tế xã hội của họ làm suy yếu sự bình đẳng về cơ hội. Chuyên gia kiểm tra nội dung được tạo ra để tìm độ nhạy cảm và thành kiến về văn hóa. Ngoài ra, tính minh bạch: khi thích hợp, cần làm rõ trong nội bộ rằng AI đã được sử dụng để chuẩn bị tài liệu hoặc bản nháp; Nó không nên được sử dụng như một "ma thuật" bí mật. Tính bảo mật là điều cần thiết trong mối quan hệ với học sinh; Những gì học sinh giải thích không được chuyển sang phương tiện khác.
Từng bước: thiết lập chính sách sử dụng AI
- Phân loại dữ liệu. Tách tất cả thông tin bạn có thành "cá nhân/riêng tư/công khai".
- Chọn phương tiện. Công cụ doanh nghiệp, an toàn duy nhất dành cho dữ liệu nhạy cảm; Làm việc ẩn danh cho đề cương chung.
- Thực hiện theo quy trình ẩn danh. Chạy quy trình kiểm tra trước mỗi mục nhập.
- Xác nhận và kiểm tra sai lệch. Kiểm tra từng đầu ra để đảm bảo tính thực tế và công bằng.
- Duy trì giới hạn khủng hoảng. Hãy tránh xa mối quan hệ khủng hoảng và tham vấn.
- Chịu trách nhiệm và minh bạch. Phê duyệt cuối cùng thuộc về chuyên gia; Việc sử dụng được mở trong tổ chức.
Mẫu có thể sao chép
1) Kiểm soát ẩn danh:
Vai trò của bạn: trợ lý kiểm tra quyền riêng tư. Liệt kê mỗi câu trong văn bản dưới đây có thể TRỰC TIẾP hoặc GIÁN TIẾP xác định người đó (tên, số hiệu, lớp, trường, mô tả tình huống cụ thể) và đề xuất một giải pháp thay thế tổng quát hơn cho mỗi câu. Nội dung bình luận.Text: [dán văn bản]
2) Kiểm tra độ nhạy cảm về văn hóa và sai lệch:
Kiểm tra tài liệu PDR sau đây để biết sự thiên vị và nhạy cảm về văn hóa: Nó có chứa các định kiến về giới tính, văn hóa, tình trạng kinh tế xã hội hoặc cấu trúc gia đình không? Ai có thể loại trừ? Gắn cờ các tuyên bố rủi ro và đề xuất các giải pháp thay thế toàn diện. Chất liệu: [dán tài liệu]
3) Dự thảo chính sách sử dụng AI của doanh nghiệp:
Vai trò của bạn: Trợ lý viết bài của PDR. Đối với dịch vụ hướng dẫn, hãy soạn thảo chính sách nội bộ ngắn gọn về việc sử dụng các công cụ trí tuệ nhân tạo. Tiêu đề: nó được sử dụng trong công việc nào, công việc nào không được sử dụng (khủng hoảng, chẩn đoán, tư vấn), quy tắc ẩn danh dữ liệu, nghĩa vụ xác minh, trách nhiệm thuộc về chuyên gia. Ngắn gọn và áp dụng được.
Dấu nhắc yếu / Dấu nhắc mạnh
yếu:
Tóm tắt hoàn cảnh của Ahmet Yılmaz 8-C, anh ấy đang bị bạo lực tại nhà.
Nó nhập dữ liệu nhạy cảm nhất (tên, hạng, trạng thái đặc biệt) vào xe ở dạng thô - vi phạm nghiêm trọng KVKK và đạo đức; Hơn nữa, đây có thể là tình huống thông báo (bài 9).
Mạnh mẽ:
Vai trò của bạn: trợ lý kiểm soát quyền riêng tư. Lưu ý: Tôi đã ẩn danh văn bản bên dưới trước khi gửi nó tới công cụ. Tuy nhiên, hãy kiểm tra lại: có chi tiết nào còn lại giúp nhận dạng người đó không? Dòng chữ: "Một học sinh cấp hai ám chỉ rằng cậu ấy đang gặp căng thẳng ở nhà."
ba trường hợp nhỏ
Trường hợp 1 - Tiết lộ gián tiếp. Một chuyên gia chuẩn bị nhập văn bản vào công cụ mà anh ta đã bỏ qua tên; nhưng anh nhận ra rằng cụm từ “học sinh duy nhất của trường sử dụng xe lăn” ám chỉ trực tiếp đến người đó. Anh ấy đã khái quát điều này thành "một học sinh". Chỉ đặt tên thôi là chưa đủ; Mô tả về tình huống độc đáo cũng được xác định.
Trường hợp 2 - Hiệu chỉnh sai lệch. Một chuyên gia đã kiểm tra tài liệu nghề nghiệp phát hiện ra rằng AI luôn sử dụng tên nam trong các ví dụ kỹ thuật và tên nữ trong các ngành nghề chăm sóc. Nó cân bằng các mẫu và phá vỡ khuôn. Sự chỉnh sửa tưởng chừng như nhỏ này đã bảo toàn tính công bằng của thông điệp gửi đến học sinh.
Trường hợp 3 - Thiết lập chính sách. Một dịch vụ hướng dẫn đã tạo ra một văn bản chính sách nội bộ chung để loại bỏ sự nhầm lẫn phát sinh từ thực tế là mọi người sử dụng AI một cách khác nhau: nó được sử dụng trong nhiệm vụ nào, không phải trong khủng hoảng và chẩn đoán, dữ liệu được ẩn danh, đầu ra được xác minh, trách nhiệm thuộc về chuyên gia. AI đưa ra bản nháp; Nhóm hoàn thiện nội dung với những giá trị riêng của mình. Sự không chắc chắn đã nhường chỗ cho một khuôn khổ rõ ràng.
Những lỗi thường gặp
- Nhập dữ liệu thô. Viết cho xe có tên/trạng thái. Giải pháp: quy trình ẩn danh, công cụ bảo mật.
- Chỉ cần xóa tên. Quên các định danh gián tiếp. Giải pháp: khái quát hóa các chi tiết độc đáo.
- Bỏ qua sự thiên vị. Áp dụng đầu ra khuôn mẫu. Giải pháp: kiểm toán thiên vị và văn hóa.
- Đổ trách nhiệm lên xe. Nó có nghĩa là "AI đã tạo ra nó". Giải pháp: trách nhiệm thuộc về chuyên gia.
- Lạm dụng. Xử lý dữ liệu được thu thập cho mục đích này cho mục đích khác. Giải pháp: tôn trọng giới hạn mục đích.
Bảng: Kiểu dữ liệu và quy tắc AI
Kiểu dữ liệu
ví dụ
quy tắc AI
công cộng
Giới thiệu chung về nghề
có sẵn miễn phí
dữ liệu cá nhân
Tên, số hiệu, lớp
Không thể nhập mà không ẩn danh
Dữ liệu chất lượng đặc biệt
Tình trạng tâm thần, gia đình, chẩn đoán
Nó không bao giờ có thể được nhập ở dạng thô.
dữ liệu khủng hoảng
Rủi ro, lạm dụng, tự tử
Không bao giờ vào xe (Bài 9)
Tóm lại
Tại PDR, tính bảo mật là nền tảng của niềm tin vào nghề nghiệp và là nguyên tắc được thử nghiệm nhiều nhất trong kỷ nguyên AI. KVKK phân tách dữ liệu thành dữ liệu cá nhân và dữ liệu riêng tư; Hầu hết dữ liệu PDR đều nhạy cảm và không được nhập vào công cụ ở dạng thô. Giảm thiểu dữ liệu, ẩn danh (với số nhận dạng trực tiếp và gián tiếp) và lựa chọn công cụ an toàn là những quy tắc cơ bản. Bốn nguyên tắc đạo đức nghề nghiệp—bảo mật, có ích, không ác ý, tự chủ—có tính ràng buộc đối với việc sử dụng AI; Sự thiên vị được kiểm soát, trách nhiệm thuộc về chuyên gia và việc sử dụng là minh bạch trong tổ chức.
Nhiệm vụ ứng dụng
Soạn thảo "Chính sách sử dụng AI" ngắn gọn cho dịch vụ hướng dẫn của riêng bạn. Hãy bắt đầu thuận lợi với mẫu “Bản dự thảo chính sách sử dụng AI dành cho doanh nghiệp”; Sau đó điều chỉnh cho phù hợp với thực tế của cơ quan bạn. Đồng thời chuyển một văn bản (hư cấu) thông qua mẫu "kiểm tra ẩn danh" đồng thời nắm bắt và khái quát hóa ít nhất một mã định danh gián tiếp.
danh sách kiểm tra
- [ ] Tôi đã phân loại dữ liệu tôi có là cá nhân / riêng tư / công khai.
- [ ] Tôi đã khái quát các định danh trực tiếp và gián tiếp trong ẩn danh.
- [ ] Tôi đã sử dụng công cụ bảo mật/doanh nghiệp cho dữ liệu nhạy cảm.
- [ ] Tôi đã kiểm tra kết quả đầu ra xem có sai lệch và nhạy cảm về văn hóa hay không.
- [ ] Tôi đã chấp nhận trách nhiệm và đảm bảo tính minh bạch trong việc sử dụng.