Lợi nhuận:
- Nhận biết khi nào AI tạo ra thành kiến thông qua dữ liệu đào tạo, đóng khung, tiêu chuẩn kép và xu nịnh
- Khả năng thiết lập biện pháp kiểm soát chống lại sự thiên vị bằng các câu hỏi trung lập, phân biệt khuôn mẫu bằng chứng và kiểm tra góc ngược
- Khả năng chuyển ngôn ngữ kỳ thị sang ngôn ngữ mô tả và tôn trọng bằng cách sử dụng kiến thức văn hóa như một điểm chú ý hơn là một quy tắc dứt khoát
Lý do tồn tại của công tác xã hội là công lý và phẩm giá con người; Cốt lõi của nghề này là cam kết rằng mọi cá nhân đều có giá trị như nhau, chống phân biệt đối xử và các nhóm dễ bị tổn thương được bảo vệ. Trí tuệ nhân tạo tiềm ẩn một rủi ro có thể âm thầm gây tổn hại cho chính những giá trị này: sự thiên vị. AI học hỏi từ dữ liệu lịch sử; Nếu dữ liệu đó bao gồm sự bất bình đẳng, khuôn mẫu và sự phân biệt đối xử trong xã hội, thì AI sẽ học chúng và tái tạo chúng bằng ngôn ngữ có vẻ trôi chảy, “khách quan”. Trong tay nhân viên xã hội, điều này có thể chuyển thành đánh giá tiêu cực một cách có hệ thống hơn về một nhóm, khuôn mẫu về một gia đình hoặc sự hiểu lầm về một nền văn hóa. Trong phần này, bạn sẽ học cách nhận biết sự thiên vị AI, kiểm soát nó và sử dụng AI một cách công bằng và nhạy cảm về văn hóa.
Một thực tế ngay từ đầu: AI không hề trung lập, nó có vẻ trung lập. Thành kiến nguy hiểm nhất là thành kiến được trình bày bằng ngôn ngữ tự tin và chuyên nghiệp; bởi vì nó được chấp nhận mà không cần thắc mắc. Công việc của bạn với tư cách là một nhân viên xã hội là làm cho thành kiến vô hình này trở nên rõ ràng và theo dõi xem kết quả đầu ra có xung đột với các giá trị nghề nghiệp của bạn hay không.
Sự thiên vị AI đến từ đâu và nó trông như thế nào?
- Độ lệch dữ liệu đào tạo. AI học từ các văn bản phản ánh sự bất bình đẳng trong xã hội. Những định kiến về một số nhóm dân tộc, người nghèo, người khuyết tật, khu dân cư hoặc giới tính nhất định có thể lọt vào đầu ra.
- Ngôn ngữ và định kiến thiên vị. AI có thể coi một nhóm là thụ động, “có vấn đề” hoặc “đối tượng cần giúp đỡ”; nhóm khác làm chủ thể. Hành vi tương tự có thể được một nhóm khác hiểu là “có văn hóa” và một nhóm khác hiểu là “có vấn đề”.
- Thiếu sự đại diện. AI có thể hiểu một cách không chính xác hoặc hời hợt các nhóm không được trình bày đầy đủ trong dữ liệu (quần thể nhỏ, trường hợp hiếm gặp).
- Sự xu nịnh (sycophancy). AI có xu hướng xác nhận quan điểm ngụ ý của bạn; Một câu hỏi thiên vị mang đến một sự xác nhận thiên vị.
Những thành kiến này đặc biệt nguy hiểm trong công tác xã hội vì kết quả đầu ra liên quan trực tiếp đến cuộc sống thực của con người - một đánh giá, một báo cáo, một giấy giới thiệu.
Thận trọng: "AI đã đánh giá nó theo cách đó" là một dấu hiệu cảnh báo, không phải là lời biện minh. Khi bạn thấy kết quả miêu tả tiêu cực về một nhóm hoặc cá nhân, câu hỏi đầu tiên là “nó dựa trên bằng chứng hay dựa trên khuôn mẫu?” nên như vậy.
Từng bước: kiểm tra chống thiên vị
- Hỏi trung lập. Đặt những câu hỏi không hàm ý hoặc dẫn dắt; Không phải “giải thích tại sao gia đình này lại lơ là”, mà là “những quan sát này có thể có ý nghĩa gì, những lời giải thích thay thế là gì?” hỏi.
- Phân biệt giữa bằng chứng và khuôn mẫu. Đối với mỗi câu phủ định, hãy hỏi: nó dựa trên những bằng chứng cụ thể trước mặt tôi hay nó dựa trên một giả định chung về một nhóm?
- Kiểm tra từ góc độ đối diện. Hãy xem xét tình huống tương tự cho một nhóm khác: “Nếu khách hàng đến từ nguồn gốc kinh tế xã hội/dân tộc khác, liệu AI có viết nó bằng cùng một ngôn ngữ không?”
- Tìm kiếm sự nhạy cảm về văn hóa. Hỏi về bối cảnh văn hóa của một hành vi; nhưng hãy coi kiến thức văn hóa là khả năng và là điểm thận trọng chứ không phải là quy luật tuyệt đối (tránh rập khuôn).
- Làm sạch lưỡi in dấu. Hãy dịch nó sang một ngôn ngữ mô tả tình huống chứ không phải con người và cũng nhìn thấy được điểm mạnh.
ba trường hợp nhỏ
Trường hợp 1 - Góc ngược cho thấy độ lệch. Một chuyên gia đã nhờ AI tóm tắt hai trường hợp tương tự; sự khác biệt duy nhất là tình trạng kinh tế xã hội của các gia đình. YZ viết với giọng điệu “có nguy cơ bị bỏ rơi cao” đối với gia đình có thu nhập thấp và với giọng điệu “cha mẹ buộc phải cư xử” đối với gia đình có thu nhập cao. Chuyên gia đã công nhận tiêu chuẩn kép này và chắt lọc cả hai đánh giá thành ngôn ngữ bình đẳng, dựa trên bằng chứng.
Trường hợp 2 - Giải thích sai về văn hóa đã được sửa chữa. YZ coi hoàn cảnh của một đứa trẻ sống với đại gia đình là “các vấn đề ranh giới và môi trường gia đình hỗn hợp”. Chuyên gia này biết rằng trong bối cảnh văn hóa của gia đình, đại gia đình là nguồn hỗ trợ và bảo vệ mạnh mẽ. AI đã biến sức mạnh văn hóa thành một vấn đề. Đánh giá đã được sửa chữa để công nhận hỗ trợ này là một nguồn tài nguyên.
Trường hợp 3 - Câu hỏi dẫn dắt tạo ra thành kiến. “Hãy viết ra lý do tại sao người cha này không đáng tin cậy,” một thực tập sinh hỏi AI. AI đã tạo ra một văn bản miêu tả tiêu cực về người cha (tâng bốc) mà không có bất kỳ bằng chứng nào. Người giám sát sửa đổi câu hỏi: “Những nhận xét về người cha là gì, điểm mạnh và điểm yếu của ông ấy là gì?” Đầu ra đã trở nên cân bằng và dựa trên bằng chứng. Bài học: câu hỏi thiên vị tạo ra câu trả lời thiên vị.
Bốn mẫu có thể sao chép
1) Yêu cầu đánh giá trung lập, cân bằng:
Khi tóm tắt những quan sát sau đây, bạn trình bày cả những điểm mạnh có thể có và những mối lo ngại có thể có một cách CÂN BẰNG và CHỈ dựa trên bằng chứng. Đừng đưa ra bất kỳ suy luận nào dựa trên khuôn mẫu. Nếu nhận xét không dựa vào quan sát, hãy viết "không đủ bằng chứng". Quan sát: [dán quan sát]
2) Kiểm tra độ lệch (kiểm tra góc đối diện):
Kiểm tra văn bản đánh giá dưới đây. Có tuyên bố nào truyền tải định kiến không có căn cứ về tình trạng kinh tế xã hội, dân tộc, tôn giáo, giới tính, khuyết tật hoặc khu vực lân cận của khách hàng không? Đối với mỗi câu hỏi, hãy hỏi: "Điều này có được viết bằng cùng một ngôn ngữ nếu khách hàng đến từ một nhóm khác không?" Gắn cờ các câu có vấn đề.Văn bản: [dán văn bản]
3) Bối cảnh văn hóa (không rập khuôn):
Cung cấp KHẢ NĂNG về ý nghĩa của hành vi/tình huống sau đây trong các bối cảnh văn hóa khác nhau. Đưa ra những điều này như những điểm cần được xem xét chứ không phải như những quy tắc tuyệt đối; Nhấn mạnh rằng có sự khác biệt cá nhân trong mỗi cộng đồng. Đừng khái quát hóa về một nhóm duy nhất. Tình huống: [viết tình huống]
4) Làm sạch dấu ấn lưỡi:
Trong văn bản bên dưới, hãy tìm những tính từ đánh giá hoặc bêu xấu một người (ví dụ: "bỏ bê", "không hợp tác", "có vấn đề"). Đối với mỗi người, hãy thay thế cùng một sự thật bằng một sự thay thế mang tính mô tả, tôn trọng và công nhận điểm mạnh. Thêm thông tin mới.Text: [dán văn bản]
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Giải thích tại sao gia đình này không đủ khả năng nuôi dạy con cái.
Câu hỏi này giả định kết quả ngay từ đầu ("không đủ"). AI, với xu hướng xu nịnh, sẽ tạo ra một văn bản sai lệch và không có bằng chứng xác nhận giả định này. Nếu câu hỏi thiên vị thì câu trả lời cũng sẽ thiên vị.
Lời nhắc mạnh mẽ:
Dựa trên những quan sát sau đây, hãy liệt kê cả những điểm mạnh trong việc nuôi dạy con cái của gia đình này và những lĩnh vực cần quan tâm một cách CÂN BẰNG và chỉ dựa trên bằng chứng. Đừng giả định kết quả ngay từ đầu; Nếu bằng chứng không đủ, hãy nêu rõ như vậy. Tránh rập khuôn. Quan sát: [dán quan sát]
Sự khác biệt: một câu hỏi cân bằng không giả định kết quả và yêu cầu bằng chứng sẽ ngăn chặn sự thiên vị ngay từ đầu.
Các loại sai lệch và biện pháp đối phó
Loại sai lệch
Nó trông như thế nào
biện pháp đối phó
dữ liệu đào tạo
khuôn mẫu nhóm
Phân biệt mẫu bằng chứng
đóng khung
Ngôn ngữ thụ động/tiêu cực
Ngôn ngữ cân bằng, lấy chủ đề làm trung tâm
tiêu chuẩn kép
Hành vi giống nhau, giọng điệu khác nhau
kiểm tra góc ngược
mù văn hóa
Biến sức mạnh văn hóa thành một vấn đề
Câu hỏi bối cảnh văn hóa
sự tâng bốc
xác nhận hàm ý
Đừng hỏi những câu hỏi trung lập
thiếu đại diện
hời hợt/hiểu lầm
Xác nhận của địa phương/chuyên gia
Những lỗi thường gặp
- Đặt những câu hỏi mang tính định kiến. Một câu hỏi giả định một kết luận sẽ tạo ra một câu trả lời thiên vị; vấn đề trung lập.
- Dựa vào ngôn ngữ tự tin. Giọng điệu chuyên nghiệp không làm cho thành kiến trở nên đúng đắn; nhìn vào bằng chứng.
- Coi kiến thức văn hóa là một quy luật dứt khoát. Hãy coi nó như một điểm khả thi và sự chú ý; Tránh khuôn mẫu.
- Không chú ý đến tiêu chuẩn kép. Kiểm tra xem hành vi tương tự được viết trong các nhóm khác nhau như thế nào.
- Nhầm con tem làm bằng chứng Đó là một sự phán xét “cẩu thả”; Hãy mô tả hiện tượng, đừng phán xét con người.
Tóm lại
AI không trung lập, nó có vẻ trung lập; Nó tái tạo sự bất bình đẳng và khuôn mẫu trong dữ liệu giáo dục bằng một ngôn ngữ lưu loát. Trong công tác xã hội, điều này có thể dẫn tới những đánh giá không công bằng về con người thật. Nhận biết thành kiến (dữ liệu đào tạo, định hình, tiêu chuẩn kép, mù quáng về văn hóa, xu nịnh), kiểm tra nó (câu hỏi trung lập, tách biệt mẫu bằng chứng, kiểm tra góc độ, độ nhạy văn hóa, xóa bỏ kỳ thị) và lọc từng đầu ra thông qua các giá trị công bằng và danh dự của nghề nghiệp. Bộ lọc đạo đức cuối cùng luôn là bạn.
Nhiệm vụ ứng dụng
Yêu cầu AI tóm tắt cùng một tập hợp quan sát hư cấu với hai hồ sơ nhóm khác nhau (ví dụ: tình trạng kinh tế xã hội khác nhau) và so sánh với “kiểm tra góc ngược” xem âm điệu/ngôn ngữ có khác nhau hay không. Sau đó, hãy thử đặt một câu hỏi trung lập với một câu hỏi mang tính thiên vị một cách có ý thức (“giải thích tại sao nó không phù hợp”) và xem xét sự khác biệt trong kết quả. Cuối cùng, áp dụng mẫu “làm sạch ngôn ngữ hình mờ” cho văn bản.
danh sách kiểm tra
- [ ] Tôi đặt câu hỏi của mình một cách trung lập, không giả định kết quả.
- [ ] Tôi đã kiểm tra từng phát biểu phủ định bằng cách sử dụng sự phân biệt bằng chứng-khuôn mẫu.
- [ ] Tôi đã kiểm tra tiêu chuẩn kép bằng bài kiểm tra góc ngược.
- [ ] Tôi sử dụng kiến thức văn hóa như một lời cảnh báo chứ không phải là một quy tắc tuyệt đối.
- [ ] Tôi đã thay thế ngôn ngữ kỳ thị bằng ngôn ngữ mô tả, tôn trọng.