Lợi nhuận:
- Hiểu rằng dữ liệu là nguồn chính gây ra sự thiên vị AI
- Nhận biết những rủi ro mà sự thiên vị có thể tạo ra ở nơi làm việc
- Thực hiện các biện pháp có thể được thực hiện để giảm thiểu thành kiến
AI xuất hiện như một cỗ máy trung lập, khách quan; nhưng sự thật phức tạp hơn nhiều. Các hệ thống AI tìm hiểu những thành kiến của con người trong dữ liệu mà chúng được đào tạo và đôi khi phóng đại và tái tạo chúng. Định kiến là xu hướng của một hệ thống thiên vị hoặc loại trừ một cách có hệ thống những người hoặc nhóm nhất định. Trong phần này, chúng ta sẽ xem xét định kiến đến từ đâu, những rủi ro cụ thể mà nó gây ra ở nơi làm việc và những gì có thể làm để chống lại nó. Đây không chỉ là vấn đề “đạo đức”; Đó là một vấn đề kinh doanh thực tế mang lại rủi ro về mặt pháp lý, thương mại và danh tiếng khi quản lý sai.
Định kiến đến từ đâu?
Thông tin của một mô hình ngôn ngữ xuất phát từ những văn bản khổng lồ mà con người tạo ra. Những văn bản này chứa đựng tất cả những kiến thức về xã hội loài người cũng như tất cả những khuôn mẫu, sự mất cân bằng và bất bình đẳng trong lịch sử của nó. Mô hình không phân biệt giữa mẫu "tốt" và mẫu "xấu"; Nó học bất cứ điều gì có trong dữ liệu.
Ví dụ: Nếu một số ngành nghề nhất định chủ yếu được liên kết với giới tính trong các văn bản trước đây (ví dụ: "y tá" với nữ, "kỹ sư" với nam), thì mô hình sẽ tìm hiểu mối liên hệ này. Cô ấy có thể có xu hướng chọn một đại từ nam tính khi hoàn thành câu, “Một kỹ sư bước vào văn phòng, anh ấy…” Mẫu này không có ác ý; nó chỉ phản ánh sự mất cân bằng trong dữ liệu.
Vì vậy, sự thiên vị chủ yếu là do nó phản ánh dữ liệu chứ không phải lỗi lập trình có chủ ý. Giải thích vấn đề là "ai đó đã viết mã sai" là sai lầm; Vấn đề là sự mất cân bằng trên thế giới được đưa vào dữ liệu và từ đó vào mô hình.
Rủi ro hữu hình tại nơi làm việc
khu vực
Nguy cơ thiên vị
tác hại có thể xảy ra
tuyển dụng
Tìm hiểu xu hướng trong dữ liệu lịch sử và loại bỏ các nhóm nhất định
Vụ việc pháp lý, mất năng lực
Giao tiếp khách hàng
Ngôn ngữ khuôn mẫu hoặc loại trừ
Mất uy tín, khách hàng bỏ chạy
tín dụng/rủi ro
Kéo dài những bất bình đẳng trong quá khứ
Phân biệt đối xử, trừng phạt
Đánh giá hiệu suất
Đưa sự thiên vị trong dữ liệu vào quyết định
Khuyến mãi/tiền thưởng không công bằng
Nội dung/tiếp thị
Làm cho nhóm cụ thể trở nên vô hình
Thiệt hại thương hiệu
Ba hộp nhỏ
Trường hợp 1 - Quảng cáo đang thu hẹp ngôn ngữ. Một công ty bắt đầu in tin tuyển dụng bằng AI. Sau một thời gian, người ta nhận thấy rằng các quảng cáo đã thu hút một hồ sơ nhất định với các biểu thức như “trẻ và năng động”, “mục tiêu hung hãn” và do đó làm giảm tính đa dạng của ứng dụng. Nhóm đã thêm một bước để kiểm tra từng bài đăng để tìm “ngôn ngữ hòa nhập”; Sự đa dạng của người nộp đơn đã tăng lên đáng kể trong vòng vài tháng.
Trường hợp 2 - Thành kiến ẩn trong bản tóm tắt. Một người quản lý đã nhờ AI tóm tắt 30 phản hồi của nhân viên. Bản tóm tắt dường như tập trung những bình luận tiêu cực vào một đội cụ thể; trong khi đó ở dữ liệu thô, tình hình được cân bằng. Mô hình đã phóng đại một số tuyên bố mạnh mẽ. Khi người quản lý quay lại và kiểm tra dữ liệu thô, anh ta đã tránh mắc sai lầm.
Trường hợp 3 - Nhiệm vụ toàn diện đã có hiệu quả. Một nhóm tiếp thị đã tiêu chuẩn hóa hướng dẫn trong bản sao chiến dịch để “sử dụng ngôn ngữ toàn diện, không cụ thể về giới tính/độ tuổi/nhóm và liệt kê các giả định của bạn ở cuối”. Những cách diễn đạt mang tính công thức trong các văn bản được tạo ra đã giảm đi rõ rệt; nhóm không phải sửa đi sửa lại từng đầu ra theo cách thủ công.
Tại sao lại khó nhận ra sự thiên vị?
Điều nguy hiểm nhất của định kiến là nó thường vô hình. Đầu ra trông mượt mà, chuyên nghiệp và hợp lý; Xu hướng bên trong nó chỉ trở nên rõ ràng khi người ta xem xét cẩn thận hoặc đo lường tác động của nó đối với các nhóm khác nhau. Sẽ là sai lầm khi nói "không có sự thiên vị ở đây" bằng cách xem xét một ví dụ duy nhất; Sự thiên vị thường biểu hiện không phải ở những ví dụ riêng lẻ mà ở xu hướng chung của hệ thống.
Thận trọng: Giả định rằng “Tôi trung lập nên công cụ tôi sử dụng cũng trung lập” là nguy hiểm. Tính trung lập của công cụ phụ thuộc vào dữ liệu huấn luyện và cách kiểm tra nó chứ không phụ thuộc vào ý định của bạn.
Nhắc yếu / Nhắc mạnh
Dấu nhắc yếu: Mô tả ứng viên lý tưởng cho vị trí này.
Kết quả: Mô hình có thể dựa vào các khuôn mẫu và trình bày một hồ sơ cụ thể là "lý tưởng".
Lời nhắc mạnh mẽ: Chỉ liệt kê những năng lực có thể đo lường được cho vị trí này và thực sự phù hợp với công việc. Không sử dụng bất kỳ đặc điểm nào không liên quan đến công việc như giới tính, tuổi tác, tình trạng hôn nhân, quê quán. Cuối cùng, hãy viết những gì bạn còn bỏ sót dưới tiêu đề "những giả định tôi tránh".
Kết quả: Đánh giá được giới hạn ở các tiêu chí liên quan đến công việc, loại trừ các tính năng không liên quan.
Mẫu để giảm xu hướng
Kiểm tra văn bản dưới đây để biết ngôn ngữ bao gồm. Gắn cờ các tuyên bố ngụ ý về giới tính, tuổi tác, dân tộc, khuyết tật hoặc một nhóm cụ thể và đề xuất giải pháp thay thế trung lập cho từng nhóm. Văn bản: [dán vào đây]
Thực hiện đánh giá này chỉ dựa trên các tiêu chí khách quan sau: [tiêu chí]. Không tính đến bất kỳ thông tin nào ngoài các tiêu chí này (tên, giới tính, tuổi).
Liệt kê dưới một tiêu đề riêng ở cuối những giả định mà bạn đã đưa ra trong văn bản mà bạn đưa ra. Vì vậy, tôi có thể nhìn thấy những thành kiến tiềm ẩn.
Đánh giá nội dung này qua con mắt của ba nhóm độc giả khác nhau và đánh dấu bất kỳ tuyên bố nào có thể xúc phạm/xúc phạm bất kỳ ai trong số họ. Nội dung: [dán vào đây]
Những lỗi thường gặp
Những lỗi thường gặp
- Giả sử đầu ra AI "trung tính". Mặc dù đầu ra có vẻ trung lập nhưng nó có thể mang lại sai lệch trong dữ liệu; Cần có sự giám sát tích cực.
- Nhìn vào một ví dụ và nói "không có sự thiên vị". Định kiến ẩn chứa trong xu hướng chung của hệ thống.
- Để lại việc đưa ra quyết định có tác động cao cho AI không được giám sát. Quyền lực của con người rất cần thiết trong các quyết định như tuyển dụng, thăng chức và tín dụng.
- Quên yêu cầu sự bao gồm. Nếu bạn không yêu cầu nó một cách rõ ràng trong lời nhắc, mô hình sẽ trở lại các mẫu mặc định.
- Nó có nghĩa là "Máy đã nói rồi." Người sử dụng quyết định cũng phải chịu trách nhiệm về hậu quả.
Công lý là trách nhiệm của mọi người
Chống lại thành kiến không chỉ là công việc của đội ngũ kỹ thuật. Mọi nhân viên sử dụng đầu ra AI đều có trách nhiệm đặt câu hỏi liệu đầu ra đó có công bằng hay không. “Cái máy bảo tôi” không phải là một cái cớ; Người ra quyết định cũng phải chịu trách nhiệm về hậu quả.
Tóm lại
- Nguồn gốc chính của sự thiên vị AI không phải là ác ý mà là sự mất cân bằng và khuôn mẫu hiện có trong dữ liệu đào tạo.
- Định kiến; Nó tạo ra rủi ro pháp lý và danh tiếng thực sự trong các lĩnh vực như tuyển dụng, giao tiếp với khách hàng, tài chính và đánh giá.
- Sự thiên vị thường vô hình và được gắn liền với cách bố trí tổng thể của hệ thống; Nhìn vào một ví dụ duy nhất là sai lệch.
- Để giảm thiểu: nhận thức, giới hạn quyết định trong các tiêu chí liên quan đến công việc, yêu cầu rõ ràng về tính toàn diện, đặt sự kiểm soát của con người đối với các quyết định có tác động cao.
- “Cái máy bảo tôi” không phải là một cái cớ; Công bằng là trách nhiệm của tất cả những người sử dụng đầu ra.
Nhiệm vụ ứng dụng
Yêu cầu AI “mô tả một nhân viên [bất kỳ nghề nghiệp] lý tưởng nào” và đánh dấu những giả định (có lẽ không cần thiết) đã được đưa ra trong kết quả đầu ra. Sau đó lặp lại với mẫu “tiêu chí liên quan đến công việc” ở trên và so sánh hai kết quả đầu ra cho công bằng.
Danh sách kiểm tra
- [ ] Tôi hiểu rằng nguồn sai lệch chính là dữ liệu đào tạo.
- [ ] Tôi có thể kể tên những rủi ro cụ thể mà sự thiên vị ở nơi làm việc có thể gây ra.
- [ ] Tôi biết rằng sự thiên vị thường không thể nhận thấy được và việc nhìn vào một ví dụ đơn lẻ sẽ gây hiểu lầm.
- [ ] Tôi có thể yêu cầu rõ ràng về tính toàn diện và các tiêu chí liên quan đến công việc trong lời nhắc.
- [ ] Tôi yêu cầu con người giám sát các quyết định có tác động lớn.