Lợi nhuận:
- Khả năng xác định rõ ràng các khái niệm về cơ quan, khoảng cách trách nhiệm, sai lệch thuật toán, tính minh bạch và quyền tự chủ cũng như thiết lập các căng thẳng.
- Đặt trách nhiệm không phải lên 'trí tuệ nhân tạo' mà lên chuỗi con người thiết kế, triển khai và sử dụng nó
- Khả năng tiến hành một cuộc tranh luận nhiều chiều bằng cách kiểm tra xu hướng lạc quan và kiến thức lỗi thời của AI về công nghệ của chính nó
Triết học và đạo đức ứng dụng là những lĩnh vực không chỉ sử dụng AI mà còn nghiên cứu về AI. Bản thân trí tuệ nhân tạo đã là một trong những chủ đề sôi động nhất trong triết lý đạo đức hiện nay: Ai chịu trách nhiệm khi hệ thống AI đưa ra quyết định? Nếu một thuật toán bị sai lệch thì sự bất công này được gọi như thế nào? AI có thể được coi là một “tác nhân” (chủ thể có khả năng hành động đạo đức)? Với tư cách là một nhà đạo đức học, bạn là người vừa tiến hành các cuộc thảo luận vừa giảng dạy này. Trong phần này, chúng ta sẽ làm rõ các khái niệm cơ bản của cuộc tranh luận về đạo đức AI (nhánh đạo đức ứng dụng xem xét các câu hỏi đạo đức—trách nhiệm, thành kiến, minh bạch, quyền tự chủ, công lý—được nêu ra bởi sự phát triển và sử dụng hệ thống trí tuệ nhân tạo) và xem cách bạn có thể phân tích và giảng dạy cuộc tranh luận này tốt hơn bằng các công cụ AI.
Đây là một vòng lặp thú vị: Bạn có thể sử dụng AI làm công cụ ngay cả khi thảo luận về đạo đức AI - nhưng đó chính xác là lúc bạn cần cảnh giác nhất với những thành kiến và hạn chế của chính AI.
Các khái niệm cơ bản và căng thẳng
Tác nhân và chủ thể đạo đức. Ý định, sự hiểu biết, sự tự do và nhận thức về hậu quả thường được yêu cầu để một sinh vật chịu trách nhiệm đạo đức. Liệu AI có những thứ này hay không vẫn còn gây tranh cãi; Hầu hết các quan điểm đều cho rằng AI là một công cụ và trách nhiệm đó thuộc về con người thiết kế, triển khai và sử dụng nó. Điều này phù hợp với nguyên tắc được nhấn mạnh xuyên suốt trong học phần: trách nhiệm cuối cùng thuộc về con người.
Khoảng trống trách nhiệm Khi hệ thống AI gây hại, các tình huống có thể nảy sinh trong đó trách nhiệm bị phân tán (“bỏ trống”): người thiết kế, nhà cung cấp dữ liệu, tổ chức sử dụng dữ liệu đó, người vận hành cuối cùng? “Khoảng cách trách nhiệm” này là một trong những vấn đề trọng tâm của đạo đức AI đương đại.
Sai lệch thuật toán. AI có thể học và tái tạo những bất bình đẳng trong lịch sử trong dữ liệu huấn luyện; Sự thiên vị thuật toán này (khi một hệ thống tạo ra những kết quả gây bất lợi cho một số nhóm nhất định một cách có hệ thống) là cốt lõi của các cuộc thảo luận về sự công bằng và phân biệt đối xử.
Tính minh bạch và khả năng giải thích. Việc không hiểu tại sao một quyết định của AI lại như vậy (“vấn đề hộp đen”) là một vấn đề đạo đức xét về mặt trách nhiệm pháp lý và quyền kháng cáo. Khả năng giải thích (làm cho cơ sở lý luận cho kết quả đầu ra của hệ thống trở nên dễ hiểu đối với con người) ngày càng trở thành một yêu cầu về mặt đạo đức và pháp lý.
Mẹo: Khi thảo luận về đạo đức AI, hãy phân tách rõ ràng các khái niệm: Thay vì nói "AI đưa ra quyết định", hãy nói "AI tạo ra đầu ra, con người thực hiện nó". Sự chặt chẽ về mặt ngôn ngữ này đặt trách nhiệm vào đúng chỗ và cứu cuộc thảo luận khỏi sự u ám.
Sử dụng AI làm công cụ trong cuộc tranh luận này
Bản thân AI là tài liệu minh họa tuyệt vời trong các khóa học về đạo đức AI. Bạn có thể yêu cầu học sinh tìm ra sự thiên vị trong kết quả đầu ra của AI, chứng minh sự không hợp lý của một quyết định và so sánh các ý kiến khác nhau. Nhưng có hai điều cần lưu ý: (1) AI có thể có quan điểm thương mại hoặc lạc quan về công nghệ của nó; Hãy chắc chắn tìm kiếm những ý kiến phê phán là tốt. (2) Lĩnh vực này thay đổi nhanh chóng; Thông tin của AI có thể đã lỗi thời, hãy truy cập nguồn hiện tại để biết các quy định và thông tin thực tế.
Thận trọng: Khi hỏi AI “AI có đạo đức không?” Khi bạn hỏi một câu hỏi như thế này, câu trả lời bạn nhận được là kết quả trung bình của dữ liệu huấn luyện chứ không phải kết quả của một cuộc thảo luận triết học. Hãy lấy câu trả lời này làm điểm khởi đầu; Hãy tự mình xác định các khái niệm, tự mình thiết lập các căng thẳng và tự mình hỗ trợ chúng bằng các ví dụ thực tế hiện tại.
ba trường hợp nhỏ
Trường hợp 1 - Tranh luận về khoảng cách trách nhiệm. Một cuộc hội thảo đã thảo luận về một kịch bản trong đó hệ thống tuyển dụng được hỗ trợ bởi AI khiến một nhóm gặp bất lợi. Hỏi AI "ai chịu trách nhiệm?" Họ đã phân tích câu hỏi từ các khuôn khổ khác nhau; Đầu ra ánh xạ chuỗi nhà thiết kế-tổ chức dữ liệu-nhà điều hành. Nhóm đã sử dụng bản đồ này để phát triển lập trường hợp lý của riêng mình: họ chủ trương trách nhiệm giải trình trong từng mắt xích để trách nhiệm không rơi vào “khoảng trống”.
Trường hợp 2 - Định kiến được thể hiện bằng một ví dụ sống động. Một người hướng dẫn đã yêu cầu AI viết cùng một bản mô tả công việc với các tên khác nhau và cho học sinh xem các khuôn mẫu trong bản in. Học sinh nhìn nhận xu hướng thuật toán không phải là một khái niệm trừu tượng mà cụ thể ở kết quả đầu ra trước mắt. Bài học đã khắc sâu khái niệm bằng một ví dụ thực tế. Giảng viên cũng nhấn mạnh đây là một kết quả duy nhất và cần có bằng chứng mang tính hệ thống để khái quát hóa.
Trường hợp 3 - Xu hướng lạc quan đã ổn định. Một sinh viên đã yêu cầu AI viết về “tác động của AI đối với xã hội”; Kết quả đầu ra chủ yếu là tích cực và đánh giá thấp rủi ro. Sinh viên này đã tìm đến các nguồn học thuật quan trọng, bổ sung các quan điểm đối lập và xây dựng một phân tích cân bằng. Sự thiên vị của AI đối với miền riêng của nó được cân bằng bởi sự kiểm soát của con người.
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Trí tuệ nhân tạo có đạo đức hay không? Trả lời.
Lời nhắc này biến cuộc tranh luận triết học phức tạp thành một câu trả lời nhị phân; AI trả về mức trung bình, các khái niệm vẫn chưa được xác định và sự thiên vị trở nên vô hình.
Lời nhắc mạnh mẽ:
Vai trò của bạn: Một nhà phân tích khách quan trong lĩnh vực đạo đức AI. ĐỪNG ĐÁNH GIÁ TÔI về [Kịch bản]. Thay vào đó:1) Xác định các khái niệm liên quan (thủ phạm, khoảng cách trách nhiệm pháp lý, sai lệch thuật toán, tính minh bạch) — ngắn gọn và trung lập.2) Lập bản đồ phân bổ trách nhiệm có thể có (nhà thiết kế, dữ liệu, tổ chức, nhà điều hành).3) Trình bày ít nhất hai quan điểm đạo đức đối lập, mỗi quan điểm là mạnh nhất.4) Lưu ý rằng lĩnh vực này đang thay đổi nhanh chóng và đòi hỏi các nguồn lực cập nhật. Tôi sẽ đưa ra đánh giá của riêng mình. Kịch bản: [viết kịch bản]
Lời nhắc này làm rõ các khái niệm, thiết lập một cuộc thảo luận nhiều chiều và để bạn quyết định.
Bốn mẫu có thể sao chép
1) Làm rõ khái niệm:
Xác định ngắn gọn và khách quan các khái niệm sau trong đạo đức AI: tác nhân/chủ thể đạo đức, khoảng cách trách nhiệm, sai lệch thuật toán, tính minh bạch, khả năng giải thích. Bao gồm một ví dụ hàng ngày dưới mỗi định nghĩa. Đánh dấu các khu vực gây tranh cãi là "có ý kiến khác nhau".
2) Sơ đồ trách nhiệm:
Trong tình huống sau, hãy vẽ chuỗi trách nhiệm về thiệt hại do hệ thống AI gây ra: nhà thiết kế, nhà cung cấp dữ liệu, tổ chức phân phối, nhà điều hành người dùng, cơ quan quản lý. Viết ra số tiền đặt cược và khả năng phòng thủ của mỗi vòng. Đưa ra phán quyết cuối cùng. Kịch bản: [kịch bản]
3) Trình bày quan điểm đối lập:
Trình bày ít nhất hai quan điểm đạo đức đối lập nhau về [câu hỏi đạo đức AI], mỗi quan điểm ở dạng mạnh mẽ và trung thực nhất. Không tuyên bố ai là "người chiến thắng". Đặt tên cho giá trị mà mỗi vị trí dựa vào. Câu hỏi: [câu hỏi]
4) Kiểm soát sự lạc quan/thiên vị:
Kiểm tra xem văn bản sau đây về AI có đánh giá thấp rủi ro hay thể hiện thái độ lạc quan đối với công nghệ hay không. Đánh dấu những quan điểm quan trọng còn thiếu và những rủi ro cần được bổ sung. Văn bản: [dán văn bản]
Bảng khái niệm/điện áp
khái niệm
câu hỏi cơ bản
căng thẳng đạo đức
Thủ phạm/chủ thể đạo đức
AI có chịu trách nhiệm không?
Công cụ hay chủ đề?
khoảng cách trách nhiệm
Ai chịu trách nhiệm khi gây thiệt hại?
Trách nhiệm phân tán
sai lệch thuật toán
Bất lợi cho ai?
Công lý và hiệu quả
minh bạch
Tại sao lại có quyết định này?
Khả năng giải thích, v.v. độ phức tạp
quyền tự chủ
Con người kiểm soát được bao nhiêu?
Tự động hóa so với kiểm toán
Những lỗi thường gặp
- Ngôn ngữ “AI quyết định”. Nó làm mờ đi trách nhiệm; AI tạo ra đầu ra, con người thực hiện nó và trách nhiệm thuộc về con người.
- Giảm cuộc tranh luận thành một câu trả lời nhị phân. “Có đạo đức hay không?” câu hỏi phá hủy chiều sâu khái niệm; Thiết lập điện áp.
- Không nhận thấy xu hướng lạc quan của AI. AI có thể không ổn định về công nghệ của chính nó; Thêm nguồn quan trọng.
- Khái quát hóa một kết quả duy nhất. Sự thiên vị trong một mẫu là điều đáng chú ý, nhưng một tuyên bố mang tính hệ thống đòi hỏi phải có bằng chứng có hệ thống.
- Dựa vào thông tin lỗi thời. Lĩnh vực này và sự sắp xếp của nó thay đổi nhanh chóng; Xác nhận sự thật với nguồn hiện tại.
Tóm lại
Đạo đức của trí tuệ nhân tạo là một trong những lĩnh vực triết học đương đại sôi động nhất và với tư cách là một nhà đạo đức học, bạn vừa tiến hành vừa giảng dạy cuộc tranh luận này. Xác định rõ ràng các khái niệm chính - cơ quan, khoảng cách về trách nhiệm giải trình, sai lệch về thuật toán, tính minh bạch, quyền tự chủ - và thiết lập các căng thẳng. Bạn có thể sử dụng AI vừa làm công cụ vừa làm ví dụ trong cuộc thảo luận này, nhưng hãy cẩn thận với hai cạm bẫy: AI có xu hướng lạc quan về công nghệ của mình và kiến thức của nó có thể đã lỗi thời. Ngôn ngữ như “AI quyết định” làm mờ đi trách nhiệm; Ngôn ngữ khái niệm chặt chẽ đặt trách nhiệm vào đúng chỗ. Bạn luôn đưa ra quyết định.
Nhiệm vụ ứng dụng
- Chọn một kịch bản đạo đức AI (ví dụ: hệ thống quyết định bằng thuật toán).
- Hãy tự xác định và xem xét các khái niệm chính bằng mẫu "làm rõ khái niệm".
- Trích xuất chuỗi trách nhiệm trong trường hợp có thiệt hại bằng mẫu "bản đồ trách nhiệm".
- So sánh ít nhất hai quan điểm đạo đức với mẫu “trình bày quan điểm đối lập”.
- Kiểm tra độ lệch trong văn bản AI bằng mẫu “kiểm tra mức độ lạc quan” và thêm nguồn quan trọng.
danh sách kiểm tra
- [ ] Tôi đã xác định các khái niệm một cách rõ ràng và khách quan.
- [ ] Tôi đặt trách nhiệm lên chuỗi con người, không phải lên “AI”.
- [ ] Tôi đã cấu trúc cuộc thảo luận theo nhiều chiều, tôi không biến nó thành một câu trả lời nhị phân.
- [ ] Tôi đã kiểm tra thái độ lạc quan của AI đối với lĩnh vực của nó.
- [ ] Tôi đã xác nhận sự thật và quy định với nguồn hiện tại.
- [ ] Tôi đã tự mình đưa ra phán quyết và biện minh cuối cùng.