Lợi nhuận:
- Nhận biết bằng các ví dụ về mức độ thiên vị về văn hóa, giới tính và chẩn đoán trong các mô hình trí tuệ nhân tạo gây ra tác hại trong bối cảnh tâm lý học
- Khả năng thực hiện kiểm tra sai lệch để kiểm tra đầu ra cho các nhóm, ngôn ngữ và nền văn hóa khác nhau
- Khả năng phát triển các kỹ thuật xác minh và kịp thời nhằm điều chỉnh các chuẩn mực và ngôn ngữ kỳ thị lấy phương Tây làm trung tâm
Trí tuệ nhân tạo (AI) không trung lập. Một mô hình AI học hỏi từ một đống văn bản khổng lồ trên internet và "thế giới quan" của mô hình bị sai lệch bởi giọng nói của ai chứa nhiều hơn và giọng nói của ai chứa ít hơn. Sự biến dạng này được gọi là sai lệch. Thành kiến trong tâm lý học không phải là một lỗi kỹ thuật thông thường; Nó có thể ảnh hưởng trực tiếp đến việc đánh giá, chẩn đoán và điều trị của một người. Một triệu chứng có thể được hiểu là “bình thường” ở nền văn hóa này và “bệnh lý” ở nền văn hóa khác; một hành vi có thể được đóng khung là “quyết đoán” ở một giới tính và “hung hăng” ở giới tính kia. AI có thể học hỏi và tái tạo những thành kiến lịch sử này. Trong phần này, bạn sẽ học cách nhận biết sự thiên vị trong AI trong bối cảnh tâm lý học và kiểm tra kết quả đầu ra cho các nhóm, ngôn ngữ và nền văn hóa khác nhau.
Định kiến đến từ đâu và nó có hại như thế nào?
Có ba nguồn sai lệch chính của AI:
- Mất cân bằng dữ liệu đào tạo. Người mẫu được đào tạo chủ yếu bằng các văn bản của một ngôn ngữ, văn hóa và thời kỳ cụ thể. Phần lớn tài liệu tâm lý học đến từ các xã hội công nghiệp hóa, có giáo dục ở phương Tây; do đó giả định "con người bình thường" của AI phản ánh mẫu hẹp này.
- Bao gồm sự thiên vị lịch sử. Các văn bản gây bệnh và kỳ thị một số nhóm nhất định trong quá khứ cũng được đưa vào dữ liệu; mô hình học các mẫu này.
- Thiếu sự đại diện. Mô hình này có thông tin không đầy đủ hoặc mang tính khuôn mẫu về các nhóm ít được đại diện (khác nhau về dân tộc, ngôn ngữ, khuynh hướng tình dục, khuyết tật).
Tác hại là hữu hình: AI có thể đánh giá một triệu chứng ở nhóm này nghiêm trọng hơn và nhẹ hơn ở nhóm khác; có thể nhầm lẫn coi một biểu hiện văn hóa (nghi lễ tang, kinh nghiệm tôn giáo) là một triệu chứng; Nó có thể tạo ra ngôn ngữ mang tính kỳ thị, sáo rỗng.
Thận trọng: Ngay cả khi kết quả đầu ra từ AI có vẻ là “khoa học khách quan”, nó vẫn có thể mang theo những thành kiến mà nó đã học được. Đặc biệt khi đề cập đến các nền văn hóa, giới tính, khuynh hướng tình dục và các nhóm kinh tế xã hội khác nhau, chúng tôi coi mỗi kết quả là “điều này có công bằng cho tất cả các nhóm không?” Lọc bằng câu hỏi.
Các loại thiên vị dành riêng cho tâm lý học
Loại sai lệch
Xem trong tâm lý học
rủi ro
thiên vị văn hóa
Coi các chuẩn mực phương Tây là phổ quát
Đừng nhầm lẫn biểu hiện văn hóa với bệnh lý
định kiến giới tính
Giải thích cùng một hành vi khác nhau tùy theo giới tính
sự khác biệt trong chẩn đoán
sai lệch chẩn đoán
Miêu tả một số nhóm nhất định là "dễ mắc" một số chẩn đoán nhất định
Chẩn đoán thừa/thiếu
thiên vị ngôn ngữ
"Thành thạo" hơn ở ngôn ngữ chính, hời hợt ở ngôn ngữ khác
Đánh giá không đồng đều
Dập
Ngôn ngữ xác định người được chẩn đoán
khung xuống cấp
Từng bước: kiểm soát sai lệch
- Bạn có thể thay đổi kết quả đầu ra thành "nó được viết cho ai?" câu hỏi. Chủ đề mặc định là ai? Nhìn chung anh ấy là một chàng trai có học thức, phương Tây, “trung bình”.
- Kiểm tra với các nhóm khác nhau. Lặp lại cùng một gợi ý trong các bối cảnh văn hóa, giới tính và độ tuổi khác nhau; Các bình luận có thay đổi không?
- Quét lưỡi kỳ thị. Từ ngữ chính xác xác định người được chẩn đoán ("người bị tâm thần phân liệt" thay vì "tâm thần phân liệt").
- Thêm bối cảnh văn hóa. Cho AI biết bối cảnh văn hóa/ngôn ngữ của khách hàng và “không coi những cách diễn đạt có thể bình thường trong bối cảnh này là bệnh lý”.
- Con mắt của chuyên gia và cộng đồng. Nếu bạn không chắc chắn về một vấn đề văn hóa nào đó, hãy tham khảo ý kiến của đồng nghiệp biết rõ về văn hóa đó.
- Hãy để mọi người quyết định. Ngay cả việc kiểm tra sai lệch cũng không được giao cho AI; Phán quyết cuối cùng của công lý là của bạn.
Mẹo: Một cách thiết thực để kiểm tra xem kết quả đầu ra có bị sai lệch hay không: thay đổi một thuộc tính duy nhất (giới tính, văn hóa, độ tuổi) trong lời nhắc và đặt lại câu hỏi tương tự. Nếu cách giải thích thay đổi "không công bằng" với sự thay đổi này thì có sự thiên vị.
ba trường hợp nhỏ
Trường hợp 1 - Biểu hiện văn hóa bệnh lý. Một chuyên gia nói với AI rằng một khách hàng đến từ một nền văn hóa khác đang “nói chuyện với người đã khuất” trong quá trình đau buồn. AI coi đây là “có thể là một triệu chứng loạn thần”. Tuy nhiên, đây là biểu hiện đau buồn phổ biến và bình thường trong văn hóa của khách hàng đó. Chuyên gia từ chối kết quả đầu ra của AI vì anh ta biết bối cảnh văn hóa. Một người không biết bối cảnh có thể đánh giá sai lầm nghiêm trọng.
Trường hợp 2 - Kiểm tra sai lệch giới tính. Một điều tra viên đưa ra bản tóm tắt vụ án tương tự cho AI hai lần; nó chỉ thay đổi giới tính của người đó. Ở phiên bản “nữ”, AI nhấn mạnh vào “sự bất ổn về cảm xúc”, trong khi ở phiên bản “nam”, nó đóng khung hành vi tương tự như “phản ứng căng thẳng”. Điều này thể hiện rõ ràng sự thiên vị giới tính của người mẫu. Nhà nghiên cứu ghi lại sự khác biệt này và sử dụng kết quả đầu ra với nhận thức này.
Trường hợp 3 - Sửa chữa ngôn ngữ kỳ thị. AI là một “đường biên giới bệnh hoạn”, một dự thảo báo cáo nêu rõ. Chuyên gia coi đây là ngôn ngữ mang tính kỳ thị nhằm xác định người được chẩn đoán và dịch nó sang ngôn ngữ tập trung vào người đó, chẳng hạn như "một cá nhân có kiểu tính cách ranh giới xác định". Một thay đổi nhỏ trong ngôn ngữ sẽ tạo nên sự khác biệt lớn trong việc bảo vệ phẩm giá của khách hàng.
Lời nhắc và mẫu có thể sao chép
Kiểm tra văn bản sau để tìm thành kiến: gắn cờ các tuyên bố biểu thị thành kiến về văn hóa, giới tính, khuynh hướng tình dục, tuổi tác hoặc kinh tế xã hội. Đồng thời chỉ ra những giả định coi các chuẩn mực phương Tây là phổ quát. Đề xuất một giải pháp thay thế công bằng hơn cho mỗi giải pháp.Text: [text]
Hãy giúp tôi đánh giá tình huống sau, nhưng bối cảnh văn hóa của khách hàng là [văn hóa/ngôn ngữ]. Trong bối cảnh này, việc trình bày các biểu hiện có thể BÌNH THƯỜNG là bệnh lý; Nếu bạn không chắc chắn về một quan điểm văn hóa nào đó, hãy nói "điều này có thể khác nhau về mặt văn hóa, hãy tham khảo ý kiến chuyên gia". Trạng thái: [trạng thái ẩn danh]
Dịch các cách diễn đạt mang tính kỳ thị trong văn bản này nhằm xác định người được chẩn đoán (ví dụ: "tâm thần phân liệt", "đường ranh giới") sang ngôn ngữ lấy con người làm trung tâm và bảo vệ phẩm giá của họ. Đừng thay đổi nội dung, chỉ nhân hóa ngôn ngữ. Văn bản: [văn bản]
Tôi sẽ đánh giá tóm tắt trường hợp sau đây hai lần: một lần là chủ đề [đặc điểm A], lần còn lại là [đặc điểm B]. Có sự khác biệt không công bằng giữa hai đánh giá không và nếu có thì đó có phải là do thiên vị không? So sánh.Abstract: [tóm tắt ẩn danh]
Dấu nhắc yếu / Dấu nhắc mạnh
Lời nhắc yếu: "Hành vi của khách hàng này là bình thường hay bất thường?"
Lời nhắc này không hỏi "bình thường" dành cho ai; AI giả định một “bình thường” không có văn hóa, lấy phương Tây làm trung tâm và có thể gây bệnh cho sự biểu hiện văn hóa.
Lời nhắc mạnh mẽ: "Khách hàng này đang ở trong [bối cảnh văn hóa/ngôn ngữ]. Giải thích xem hành vi này có thể là một biểu hiện bình thường trong bối cảnh văn hóa đó hay là một dấu hiệu cần được chú ý, hãy thảo luận riêng về cả hai. Đừng đưa ra phán xét dứt khoát; hãy nhắc tôi tham khảo ý kiến của chuyên gia biết rõ về bối cảnh văn hóa."
Lời nhắc này đặt bối cảnh làm trung tâm, ngăn chặn việc hiểu sai về văn hóa và để chuyên gia quyết định.
Những lỗi thường gặp
- Nhầm đầu ra AI là “mục tiêu”. Quên rằng mô hình mang tính thiên vị và chấp nhận kết quả đầu ra là thực tế khoa học.
- Coi chuẩn mực phương Tây là phổ quát. Định nghĩa "bình thường" theo một nền văn hóa duy nhất và giải thích các biểu hiện bệnh lý khác nhau.
- Không chú ý đến ngôn ngữ kỳ thị. Nhầm ngôn ngữ xác định người được chẩn đoán là "ngôn ngữ kỹ thuật".
- Không kiểm tra sự thiên vị. Không thử cùng một lời nhắc với các nhóm khác nhau và kiểm tra tính nhất quán.
- Đưa ra quyết định một mình trong một nền văn hóa mà bạn không biết. Đưa ra phán xét mà không hỏi ý kiến đồng nghiệp biết rõ về văn hóa đó.
Tóm lại
AI bị thiên vị vì nó học hỏi từ các văn bản của một thế giới thiên vị; Trong tâm lý học, sự thiên vị này chuyển thành tác hại hữu hình dưới hình thức văn hóa, giới tính, chẩn đoán, ngôn ngữ và sự kỳ thị. So sánh từng kết quả đầu ra với câu hỏi “điều này có công bằng với tất cả các nhóm không?” làm căng nó; kiểm tra cùng một lời nhắc với các nhóm khác nhau; thêm bối cảnh văn hóa vào lời nhắc của bạn; thay đổi ngôn ngữ kỳ thị sang ngôn ngữ lấy con người làm trung tâm; Tìm kiếm sự quan tâm của chuyên gia/cộng đồng về một nền văn hóa mà bạn chưa quen thuộc. Sự phán xét công bằng, bao gồm cả việc kiểm soát thành kiến, xuất phát từ con người.
Nhiệm vụ ứng dụng
Chuẩn bị một bản tóm tắt trường hợp (ẩn danh). Đưa nó cho AI hai lần; chỉ thay đổi một đặc điểm (giới tính, văn hóa hoặc tuổi tác). Đặt hai bản in cạnh nhau và kiểm tra xem có sự khác biệt không đáng có không. Đồng thời yêu cầu AI dịch các cụm từ mang tính kỳ thị trong đoạn báo cáo sang ngôn ngữ lấy con người làm trung tâm và ghi lại sự khác biệt.
danh sách kiểm tra
- [ ] Thay đổi kết quả thành "điều này có công bằng với tất cả các nhóm không?" Tôi đã đặt câu hỏi.
- [ ] Tôi đã thử nghiệm cùng một lời nhắc với các nhóm/nền văn hóa khác nhau.
- [ ] Tôi đã thêm bối cảnh văn hóa vào lời nhắc; Tôi không bệnh lý hóa sự biểu hiện văn hóa.
- [ ] Tôi đã thay đổi ngôn ngữ kỳ thị thành ngôn ngữ lấy con người làm trung tâm.
- [ ] Tôi đã tìm kiếm lời khuyên của một chuyên gia/đồng nghiệp về một vấn đề văn hóa mà tôi chưa quen.
- [ ] Tôi để lại quyết định công bằng cuối cùng cho phán quyết của chính mình chứ không phải AI.