Lợi nhuận:
- Khả năng phân tích một trường hợp đạo đức từ nhiều góc độ, từ các khuôn khổ đạo đức theo chủ nghĩa hậu quả, nghĩa vụ và đạo đức
- Khả năng làm rõ sự thật và các bên liên quan cũng như nêu tên các xung đột về nguyên tắc
- Có thể đưa ra các phán đoán và quyết định có tính đạo đức một cách hợp lý với khả năng kiểm soát thiên vị mà không cần giao việc đó cho trí tuệ nhân tạo
Trọng tâm của đạo đức ứng dụng là câu hỏi “phải làm gì?” trong một tình huống thực tế. là đưa ra câu trả lời hợp lý cho câu hỏi. Một ủy ban đạo đức của bệnh viện thảo luận về quyết định điều trị, một công ty đánh giá liệu việc sử dụng dữ liệu có hợp đạo đức hay không, một nhà nghiên cứu cân nhắc tác hại của một thí nghiệm đối với người tham gia. Các công cụ được sử dụng trong các tác phẩm này là các khuôn khổ đạo đức (các phương pháp đưa ra một bộ nguyên tắc và lý do mạch lạc để đánh giá một tình huống)—ví dụ: chủ nghĩa hậu quả (cách tiếp cận đánh giá tính đúng đắn của một hành động theo hậu quả của nó, lợi ích và tác hại mà nó tạo ra), nghĩa vụ học (cách tiếp cận đánh giá tính đúng đắn của một hành động bằng cách tuân thủ các nghĩa vụ, quyền và quy tắc, độc lập với hậu quả của nó) và đạo đức đức hạnh (cách tiếp cận đặt câu hỏi là “một người có đạo đức sẽ như thế nào” làm gì?” thay vì “hành động gì?”). AI có thể là một công cụ nhanh chóng để phân tích một trường hợp từ các khung khác nhau, xem các khía cạnh bị bỏ qua và nhiều tùy chọn. Nhưng phán quyết đạo đức cuối cùng – nguyên tắc nào chiếm ưu thế, quyết định nào được đưa ra và lý do căn bản cho quyết định đó – thuộc về con người, đặc biệt là ủy ban chịu trách nhiệm và chuyên gia.
Trong phần này, chúng ta sẽ xem cách phân tích một trường hợp đạo đức theo cách được hỗ trợ bởi AI nhưng được con người đánh giá.
Phân tích đa khung: Sức mạnh thực sự của AI
Sai lầm phổ biến nhất trong một vụ án đạo đức là bám vào một quan điểm duy nhất. Một phân tích tốt sẽ nhìn thấy cùng một tình huống từ nhiều khuôn khổ và phát hiện ra những căng thẳng. Đây là nơi AI phát huy sức mạnh: nó có thể phân tích đồng thời một trường hợp từ các quan điểm hệ quả, nghĩa vụ và dựa trên đạo đức và nhanh chóng liệt kê kết luận mà mỗi khuôn khổ dẫn đến. Điều này vạch ra cuộc tranh luận.
Các bước:
1. Làm rõ sự thật. Ai, cái gì, khi nào có liên quan; phân biệt giữa sự thật không chắc chắn và sự thật giả định. Phân tích đạo đức không thể dựa trên sự thật sai lệch.
2. Xác định các bên liên quan và lợi ích. Ai bị ảnh hưởng bởi quyết định này, quyền và lợi ích của mỗi người là gì?
3. Phân tích từ các khung khác nhau. Mỗi khung nhìn nhận tình huống này như thế nào và nó khuyến nghị hành động gì?
4. Thể hiện sự căng thẳng và xung đột về nguyên tắc. Nếu các khuôn khổ đưa ra những kết luận khác nhau, thì xung đột chính xác là ở đâu? (Ví dụ, giữa quyền tự chủ của cá nhân và lợi ích của xã hội.)
5. Đi đến một quyết định hợp lý. Hãy biện minh nguyên tắc nào quan trọng hơn tại sao bằng cách chấp nhận sự phản đối mạnh mẽ nhất của phía bên kia.
Mẹo: Đừng yêu cầu AI “cho tôi biết câu trả lời đúng”; Hãy nói, “phân tích trường hợp này từ ba khuôn khổ và đưa ra kết luận cũng như phản đối mạnh mẽ nhất của mỗi khuôn khổ”. Công việc của AI là tạo ra bản đồ; Bạn đưa ra quyết định và sự biện minh. Về mặt đạo đức, “câu trả lời do máy đưa ra” không phải là lời biện minh.
Tại sao AI không thể đưa ra quyết định có đạo đức?
Hãy nói rõ điều này. Phán xét đạo đức; Nó đòi hỏi kiến thức về bối cảnh, sự ưu tiên giữa các giá trị, chịu trách nhiệm và ý chí ký quyết định đó. AI không có những thứ này: nó không có giá trị, không có trách nhiệm, kiến thức hạn chế về bối cảnh và có thể tái tạo những thành kiến về văn hóa/ý thức hệ trong dữ liệu đào tạo. Hơn nữa, AI thường đưa ra ý kiến “trung bình” hoặc phổ biến nhất về một chủ đề gây tranh cãi; trong khi đó về mặt đạo đức, câu trả lời đúng có thể phần lớn thuộc về thiểu số hoặc có thể không hề tồn tại. AI mở ra các lựa chọn; Bạn cân nhắc và quyết định.
Thận trọng: Trong các quyết định mang tính đạo đức cao (y tế, pháp lý, thể chế), đầu ra AI không bao giờ được thay thế phán quyết của hội đồng hoặc chuyên gia có thẩm quyền. Sử dụng AI làm “người soạn thảo tư vấn”; Quyết định và trách nhiệm cuối cùng thuộc về người chịu trách nhiệm. Ngoài ra, nếu dữ liệu trường hợp thực tế chứa thông tin cá nhân/bí mật, không nhập dữ liệu đó vào các công cụ công cộng.
ba trường hợp nhỏ
Trường hợp 1 - Bản đồ nhiều khung. Một ủy ban đạo đức đang thảo luận về việc phân bổ một nguồn lực hạn chế (ví dụ: một số phương án điều trị có giới hạn). Họ đã nhờ AI phân tích trường hợp từ các quan điểm theo chủ nghĩa hệ quả, nghĩa vụ và dựa trên đạo đức; Ba lời biện minh khác nhau và các điểm xung đột của chúng đã được lập bản đồ trong 20 phút. Sử dụng bản đồ này làm điểm khởi đầu, hội đồng đã tiến hành thảo luận riêng và đưa ra quyết định hợp lý của riêng mình.
Trường hợp 2 - Bên liên quan bị bỏ qua. Một công ty đang đánh giá một quyết định sử dụng dữ liệu. Trong phân tích của mình, YZ đánh dấu nhóm thứ ba (những người có dữ liệu được sử dụng nhưng không tham gia vào quy trình) bị ảnh hưởng gián tiếp, ngoài các bên trực tiếp đưa ra quyết định. Nhóm đã bỏ qua bên liên quan này. Dữ liệu đầu vào của AI giúp đưa ra quyết định hoàn chỉnh hơn — nhưng nhóm đã ưu tiên hóa.
Trường hợp 3 - Đã sửa đề xuất sai lệch. Một điều tra viên đã nhờ AI phân tích một trường hợp nhạy cảm về mặt văn hóa. AI trình bày một quan điểm văn hóa duy nhất là “chân lý phổ quát” và bỏ qua các hệ thống giá trị thay thế. Nhà nghiên cứu nhận thấy sự phiến diện này và đa dạng hóa việc phân tích. Chế độ xem chủ đạo về dữ liệu đào tạo của AI được cân bằng bởi sự giám sát của con người.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Tôi nên làm gì về mặt đạo đức trong tình huống này?
Điều này nhắc nhở giao quyền phán xét và trách nhiệm đạo đức cho AI; Bạn nhận được một “câu trả lời”, bạn không nhìn thấy lý do và khuôn khổ, sự thiên vị vẫn bị ẩn giấu.
Lời nhắc mạnh mẽ:
Vai trò của bạn: nhà phân tích đạo đức ứng dụng (không phải người ra quyết định). Phân tích trường hợp sau. ĐỪNG CHO TÔI QUYẾT ĐỊNH.1) Liệt kê các sự kiện mơ hồ cần được làm rõ.2) Loại bỏ các bên liên quan và lợi ích/quyền của mỗi bên.3) Phân tích vụ việc tách biệt với các quan điểm đạo đức hệ quả, nghĩa vụ và đạo đức; Đưa ra kết luận và phản đối mạnh mẽ nhất của mỗi ý kiến. 4) Chỉ ra sự xung đột cơ bản về nguyên tắc giữa các khuôn khổ. Tôi sẽ đưa ra quyết định và biện minh. Cảnh báo nếu có dữ liệu cá nhân/bí mật. Trường hợp: [viết trường hợp]
Lời nhắc này loại bỏ bản đồ đa khung, để bạn tự quyết định và hiển thị độ lệch.
Bốn mẫu có thể sao chép
1) Làm rõ thực tế và các bên liên quan:
Trong trường hợp sau, hãy liệt kê (a) một số sự kiện đã biết, (b) các sự kiện không chắc chắn/giả định, (c) tất cả các bên liên quan cũng như lợi ích và quyền của mỗi bên. Thêm ý kiến và quyết định. Trường hợp: [trường hợp]
2) Phân tích ba khung:
Phân tích trường hợp này một cách tách biệt khỏi các quan điểm của chủ nghĩa hệ quả, nghĩa vụ và đạo đức nhân đức. Đối với mỗi khung hình: cách anh ấy nhìn nhận nó, hành động anh ấy đề xuất và phản đối mạnh mẽ nhất đối với đề xuất đó. Khai báo một khung "chính xác". Trường hợp: [trường hợp]
3) Chẩn đoán xung đột chính sách:
Nêu tên các nguyên tắc chính mà các khuôn khổ xung đột trong phân tích dưới đây (ví dụ: quyền tự chủ so với lợi ích chung, công lý so với lòng trắc ẩn). Chỉ ra chính xác nơi xung đột tập trung. Ra quyết định.Phân tích: [dán văn bản]
4) Kiểm tra định kiến và độ nhạy văn hóa:
Kiểm tra xem phân tích đạo đức này có trình bày một quan điểm văn hóa/ý thức hệ duy nhất như là chân lý phổ quát hay không. Có hệ thống hoặc quan điểm giá trị thay thế nào đang bị bỏ qua không? Làm nổi bật những chỗ cần có tính đa nguyên hơn. Phân tích: [dán văn bản]
Biểu đồ so sánh khung
khung
câu hỏi cơ bản
Tập trung
điểm yếu điển hình
chủ nghĩa hậu quả
Kết quả tốt nhất là gì?
Cân bằng lợi ích/tác hại
Có thể đè bẹp quyền thiểu số
nghĩa vụ học
Bài tập/quy tắc nói gì?
quyền, nghĩa vụ, nguyên tắc
Nghiêm khắc, có thể bỏ qua kết quả
đạo đức đức hạnh
Người có đức hạnh làm gì?
tính cách, ý định
Hướng dẫn hành động mơ hồ
Những lỗi thường gặp
- Làm cho AI quyết định. "Tôi nên làm gì?" Câu hỏi đại diện cho sự phán xét đạo đức; AI tạo ra bản đồ, bạn quyết định.
- Bị mắc kẹt trong một khung hình duy nhất. Chỉ nhìn vụ việc từ một góc độ; phân tích đa khung cho thấy sự căng thẳng.
- Không làm rõ sự thật. Phân tích đạo đức dựa trên sự thật sai lệch hoặc giả định sẽ sụp đổ.
- Không thừa nhận sự thiên vị. AI có thể thể hiện quan điểm văn hóa thống trị là “phổ quát”; Đa nguyên được cung cấp bởi con người.
- Nhập trường hợp bí mật/cá nhân vào công cụ công cộng. Nguy cơ vi phạm quyền riêng tư trong các tệp thực; Ẩn danh hoặc sử dụng hệ thống an toàn.
Tóm lại
Sức mạnh thực sự của AI trong phân tích trường hợp đạo đức ứng dụng là nhanh chóng lập bản đồ tình huống từ nhiều khung, trích xuất các bên liên quan và làm rõ các xung đột về nguyên tắc. Nhưng phán xét đạo đức – nguyên tắc chiếm ưu thế, quyết định và sự biện minh – thuộc về con người, đặc biệt là thuộc về ủy ban chịu trách nhiệm và chuyên gia; bởi vì AI không có giá trị, không có trách nhiệm, không có kiến thức về bối cảnh và mang tính thiên vị. Làm rõ sự thật, phân tích nhiều khuôn khổ, nêu tên xung đột, kiểm tra sự thiên vị và tự mình đưa ra quyết định có căn cứ. Trong các quyết định mang tính rủi ro cao, AI được đặt bên cạnh, thay vì thay thế, phán đoán của chuyên gia.
Nhiệm vụ ứng dụng
- Chọn một trường hợp đạo đức có thật hoặc hư cấu (ẩn danh nếu nó liên quan đến dữ liệu cá nhân).
- Trích xuất thông tin thực tế và các bên liên quan bằng mẫu “Làm rõ thông tin thực tế và bên liên quan”.
- Yêu cầu phân tích trường hợp từ ba khía cạnh bằng mẫu “phân tích ba khung”.
- Đặt tên cho sự căng thẳng cơ bản bằng mẫu “chẩn đoán xung đột nguyên tắc”.
- Viết quyết định hợp lý của riêng bạn - chấp nhận sự phản đối mạnh mẽ nhất của bên đối lập.
danh sách kiểm tra
- [ ] Tôi đã làm rõ sự thật và những điều chưa chắc chắn.
- [ ] Tôi đã xác định tất cả các bên liên quan và lợi ích của họ.
- [ ] Tôi đã phân tích trường hợp này từ ít nhất ba khuôn khổ đạo đức.
- [ ] Tôi đã nêu tên rõ ràng xung đột nguyên tắc.
- [ ] Tôi đã kiểm tra tính thiên vị và phiến diện.
- [ ] Tôi để lại quyết định và giải trình cho chính tôi/hội đồng quản trị chứ không phải cho AI.
- [ ] Tôi đã bảo vệ dữ liệu bí mật/cá nhân.