Lợi nhuận:
- Khả năng gắn kết các nguyên tắc AI có trách nhiệm (công bằng, minh bạch, trách nhiệm giải trình, quyền riêng tư, giám sát của con người, bảo mật, tính bền vững) với các quyết định cụ thể
- Khả năng kiểm tra các bên bị ảnh hưởng và thành kiến bằng cách tách biệt đạo đức khỏi việc tuân thủ pháp luật và phân biệt giữa 'chúng ta có thể' và 'chúng ta nên'
- Khả năng giảm trước các tình huống lạm dụng bằng cách đưa tính minh bạch, giám sát con người và khiếu nại vào thiết kế
Một công ty khởi nghiệp AI có thể hoàn hảo về mặt kỹ thuật, có lợi nhuận về mặt tài chính và khả thi về mặt pháp lý; nhưng nó vẫn có thể sai. Đạo đức là sự khác biệt giữa “chúng ta có thể” và “chúng ta nên”. Đối với một nhà quản lý cấp cao, đạo đức không phải là vấn đề tô điểm hay quan hệ công chúng; Nó là nền tảng duy trì độ tin cậy, danh tiếng và tính hợp pháp xã hội lâu dài của tổ chức. Trong học phần này, bạn sẽ tìm hiểu các nguyên tắc của AI có trách nhiệm (một cách tiếp cận để phát triển và sử dụng trí tuệ nhân tạo theo cách công bằng, minh bạch, có trách nhiệm và tôn trọng phẩm giá con người) và cách phản ánh chúng trong các quyết định hàng ngày.
Nguyên tắc cơ bản của AI có trách nhiệm
Các khuôn khổ khác nhau đáp ứng các nguyên tắc tương tự. Tóm tắt thực tế dành cho người quản lý:
nguyên tắc
Ý bạn là gì?
câu hỏi của quản trị viên
công lý
không phân biệt đối xử
Điều này có ảnh hưởng không công bằng đến một nhóm không?
minh bạch
có thể hiểu được
Chúng tôi có thể giải thích lý do cho quyết định này không?
trách nhiệm giải trình
Xác định ai chịu trách nhiệm
Ai chịu trách nhiệm nếu xảy ra sai sót?
Quyền riêng tư
Tôn trọng dữ liệu cá nhân
Chúng tôi có quyền sử dụng dữ liệu không?
giám sát con người
Luôn kiểm soát
Liệu một người có thể phản đối và ngăn chặn nó?
Bảo mật
không làm hại
Điều này có thể bị lạm dụng?
Tính bền vững
Tác động môi trường/xã hội
Chúng ta áp đặt chi phí cho ai?
Những nguyên tắc này không trừu tượng; Mỗi người trong số họ có thể được liên kết với một quyết định cụ thể. Ví dụ: “minh bạch” có nghĩa là cho khách hàng biết rằng họ đang nói chuyện với AI; “Giám sát của con người” có nghĩa là yêu cầu con người xem xét việc từ chối khoản vay và để ngỏ cho việc kháng cáo.
Mẹo: Với mỗi quyết định có tác động lớn của AI, hãy đặt một câu hỏi: “Tôi có thể giải thích rõ ràng và ủng hộ quyết định này cho người bị ảnh hưởng tiêu cực nhất không?” Nếu câu trả lời mang tính xúc phạm thì đó là vấn đề đạo đức.
Đạo đức khác với pháp luật
Một điểm khác biệt quan trọng: tuân thủ pháp luật (Đơn vị 9) là mức tối thiểu; Đạo đức là một dòng cao hơn. Một cái gì đó có thể hợp pháp nhưng phi đạo đức. Ví dụ: một ứng dụng có thể không bị cấm sử dụng trí tuệ nhân tạo để thao túng hành vi của người dùng, nhưng điều đó là phi đạo đức. Các tổ chức có trách nhiệm "có bị cấm không?" không phải "Có thật không?" anh ấy hỏi.
Từng bước: đưa đạo đức vào quyết định
1. Xác định các bên bị ảnh hưởng. Ai bị ảnh hưởng bởi sáng kiến này? (Khách hàng, nhân viên, xã hội, nhóm yếu thế)
2. Quét các chính sách. Đặt câu hỏi về sáng kiến theo từng nguyên tắc trên.
3. Kiểm tra sự thiên vị và tác hại. Mô hình có ảnh hưởng không công bằng đến một số nhóm nhất định không? Các tình huống lạm dụng là gì?
4. Thêm tính minh bạch và giám sát. Báo cáo việc sử dụng trí tuệ nhân tạo, không để con người phản đối.
5. Hồ sơ và rà soát. Lưu đánh giá đạo đức; Kiểm tra lại định kỳ.
ba trường hợp nhỏ
Trường hợp 1 - Đúng luật nhưng sai. Một ứng dụng đã sử dụng trí tuệ nhân tạo để tạo ra các thông báo gây nghiện nhằm giữ chân người dùng ở lại ứng dụng lâu hơn. Không có trở ngại pháp lý nào nhưng khi đưa tin trên báo chí đã gây tổn thất nghiêm trọng về uy tín; Việc nhắm mục tiêu vào người dùng trẻ nói riêng đã thu hút sự chỉ trích. Công ty đã loại bỏ tính năng này. Nếu bộ lọc đạo đức được thực hiện ngay từ đầu thì nguy cơ này sẽ được nhìn thấy.
Trường hợp 2 - Giá trị của phép thử tính công bằng. Mô hình chấm điểm tín dụng của ngân hàng cho điểm thấp hơn một cách có hệ thống đối với các đơn đăng ký từ các nhóm được bảo vệ. Điều này đã bị bắt trong một cuộc kiểm toán tư pháp. Mô hình này đã được thiết kế lại và thử nghiệm thường xuyên để đảm bảo tính công bằng giữa các nhóm trong kết quả của nó. Nguyên tắc đạo đức (công lý) đã trở thành một thử thách cụ thể và ngăn chặn được tác hại thực sự.
Trường hợp 3 - Tính minh bạch tạo dựng niềm tin. Một công ty thương mại điện tử đặt cụm từ “Trợ lý trí tuệ nhân tạo giúp bạn, bạn có thể kết nối với đại diện con người bất cứ lúc nào” ở đầu chatbot hỗ trợ khách hàng của mình. Tính minh bạch và lối thoát của con người không làm giảm sự hài lòng; Ngược lại, nó làm tăng sự tự tin và khiếu nại giảm 15%. Sự minh bạch được thực hiện đúng đắn là giá trị chứ không phải chi phí.
Bốn mẫu có thể sao chép
1) Sàng lọc đạo đức:
Vai trò của bạn: nhà tư vấn AI có trách nhiệm. Quét sáng kiến này để tìm 7 nguyên tắc: công bằng, minh bạch, trách nhiệm giải trình, quyền riêng tư, giám sát của con người, bảo mật, tính bền vững. Đối với mỗi chính sách, hãy viết một rủi ro và một khuyến nghị. Sáng kiến: [văn bản]
2) Phân tích bên bị ảnh hưởng:
Liệt kê tất cả các bên bị ảnh hưởng bởi sáng kiến AI này (khách hàng, nhân viên, xã hội, các nhóm thiệt thòi). Viết ra những tác động tích cực và tiêu cực có thể xảy ra đối với mỗi bên; Đánh dấu nhóm có nhiều khả năng bị tổn hại nhất. Sáng kiến: [văn bản]
3) Tình huống lạm dụng:
Tạo 5 tình huống trong đó tính năng AI sau có thể bị lạm dụng (bao gồm thao túng, phân biệt đối xử, vi phạm quyền riêng tư, lừa đảo). Đề xuất một quyết định thiết kế phòng ngừa cho từng kịch bản. Thuộc tính: [văn bản]
4) Kiểm soát tính minh bạch và giám sát:
Viết một kế hoạch minh bạch và giám sát của con người đối với AI hướng tới khách hàng: nội dung nào sẽ được truyền đạt tới người dùng và cách thức truyền đạt; Làm thế nào nó có thể được chuyển giao cho con người? Làm sao anh ta có thể phản đối quyết định này? Cách sử dụng: [văn bản]
Dấu nhắc yếu / Dấu nhắc mạnh
Yếu: “AI này có đạo đức không?”
Kết quả: Một câu nói “có/không” hời hợt; Nguyên tắc nào, ai bị ảnh hưởng, biện pháp nào thì chưa rõ.
Strong: "Chúng tôi đang xem xét sử dụng AI trong công cụ sàng lọc trước tuyển dụng (con người sẽ đưa ra quyết định cuối cùng). Sàng lọc công cụ này để đảm bảo các nguyên tắc công bằng, minh bạch, trách nhiệm và sự giám sát của con người. Viết cụ thể những nhóm ứng viên nào có thể bị ảnh hưởng bất công, những bài kiểm tra thiên vị nào tôi cần làm và cách ứng viên có thể kháng cáo quyết định."
Kết quả: Đánh giá thực tế, dựa trên nguyên tắc nhằm xác định bên bị ảnh hưởng và đề xuất kiểm tra và kháng cáo.
Những lỗi thường gặp
- Nhầm lẫn đạo đức với việc tuân thủ pháp luật. Không phải mọi thứ hợp pháp đều có tính đạo đức; Đạo đức là một dòng cao hơn.
- Để lại đạo đức để tồn tại. Nhận được “sự chấp thuận về mặt đạo đức” sau khi thiết kế đã quá muộn; đạo đức phải được đưa vào thiết kế ngay từ đầu.
- Không thử thách công lý. Giả định rằng “mô hình của chúng tôi là trung lập” là nguy hiểm; không thể biết được nếu không đo lường.
- Nhầm lẫn tính minh bạch với chi phí. Sự minh bạch được thực hiện đúng cách sẽ làm tăng niềm tin và giá trị.
- Giữ các bên bị ảnh hưởng thu hẹp. Chỉ nghĩ đến khách hàng mà bỏ qua nhân viên, xã hội và các nhóm yếu thế sẽ tạo ra điểm mù.
Thận trọng: Việc giao hoàn toàn việc đánh giá đạo đức cho trí tuệ nhân tạo là điều mâu thuẫn và nguy hiểm. AI có thể giúp đưa ra các câu hỏi về đạo đức, nhưng việc đánh giá giá trị, bối cảnh văn hóa và trách nhiệm đạo đức cuối cùng đều thuộc về con người. Lập trường đạo đức của một tổ chức được quyết định bởi những lựa chọn có ý thức của con người chứ không phải bởi "AI đã nói như vậy".
Tóm lại
Đạo đức là sự khác biệt giữa “chúng ta có thể” và “chúng ta nên” và bảo vệ uy tín lâu dài của tổ chức. AI có trách nhiệm; Nó dựa trên các nguyên tắc công bằng, minh bạch, trách nhiệm giải trình, quyền riêng tư, sự giám sát của con người, an ninh và tính bền vững. Những nguyên tắc này không trừu tượng; Nó chuyển thành các quyết định cụ thể như xác định các bên bị ảnh hưởng, kiểm tra sự thiên vị, cung cấp sự minh bạch và bổ sung sự giám sát của con người. Đạo đức khác với luật pháp và là một phạm trù cao hơn; Nó không thể để đến cuối cùng, nó phải được đưa vào thiết kế. Trong phần tiếp theo, chúng ta sẽ thảo luận về việc tuân thủ, điều này tương đương về mặt pháp lý với đạo đức, đặc biệt là Luật AI của EU và KVKK.
Nhiệm vụ ứng dụng
Chọn một công ty khởi nghiệp AI có tác động cao. Với mẫu 2, liệt kê tất cả các bên bị ảnh hưởng và đánh dấu nhóm có nhiều khả năng bị tổn hại nhất. Với mẫu 1, hãy quét sáng kiến để tìm ra bảy nguyên tắc. Xác định biện pháp cụ thể (kiểm tra tính công bằng, thông báo minh bạch, lộ trình kháng cáo, v.v.) cho hai rủi ro đạo đức nghiêm trọng nhất. Cuối cùng, “tôi có thể giải thích quyết định này cho người bị ảnh hưởng tiêu cực nhất không?” Trả lời câu hỏi một cách trung thực.
danh sách kiểm tra
- [ ] Tôi đã xác định tất cả các bên bị ảnh hưởng.
- [ ] Tôi đã sàng lọc công ty khởi nghiệp với bảy nguyên tắc về AI có trách nhiệm.
- [ ] Tôi đã lên kế hoạch kiểm tra độ thiên vị/công bằng.
- [ ] Tôi đã thiết kế tuyên bố minh bạch.
- [ ] Tôi không còn cách nào để con người giám sát và kháng cáo.
- [ ] Tôi đã nghĩ đến những tình huống lạm dụng.
- [ ] “Tôi có thể giải thích điều đó cho người bị ảnh hưởng tiêu cực nhất không?” Tôi đã vượt qua bài kiểm tra.