Lợi nhuận:
- Liệt kê các nguyên tắc cơ bản của việc sử dụng AI có trách nhiệm
- Có thể giải thích tại sao sự kiểm soát của con người là không thể thiếu
- Có thể tạo danh sách kiểm tra sử dụng có trách nhiệm cho công việc của mình
Trong mô-đun này, chúng ta đã tìm hiểu AI là gì, nó hoạt động như thế nào, điểm mạnh, điểm yếu, rủi ro và quy trình làm việc của nó. Trong phần này, chúng tôi kết hợp tất cả những điều này trong một khuôn khổ thực tế dưới tiêu đề sử dụng có trách nhiệm. AI là một công cụ mạnh mẽ; Nhưng quyền lực của nó trở thành mối nguy hiểm khi không cân bằng được với trách nhiệm của người sử dụng nó. “Sử dụng có trách nhiệm” nghe có vẻ giống như một nguyên tắc đạo đức trừu tượng; Tuy nhiên, nó bao gồm những thói quen hàng ngày rất cụ thể. Trong bài này, chúng ta sẽ đưa những thói quen này vào một khuôn khổ đơn giản và hấp dẫn.
Năm nguyên tắc cơ bản của việc sử dụng có trách nhiệm
1. Người ta nói lời cuối cùng
Đây là nguyên tắc cơ bản nhất. AI đưa ra khuyến nghị; Người dân tự quyết định và chịu trách nhiệm. Đặc biệt đối với các vấn đề có tác động lớn như tiền bạc, sức khỏe, luật pháp, việc làm và danh tiếng, đầu ra của AI không bao giờ được thực hiện mà không có sự giám sát. “Cái máy bảo tôi” không bao giờ là một lý do chính đáng.
2. Xác minh rồi tin tưởng
Hãy nhớ đơn vị ảo giác. Không sử dụng các dữ kiện có thể xác minh do AI tạo ra (số, ngày, tên, nguồn) mà không xác nhận chúng một cách độc lập. Ngôn ngữ trôi chảy và tự tin không phải là bằng chứng về tính chính xác.
3. Bảo vệ quyền riêng tư
Áp dụng nguyên tắc trong đơn vị bảo mật dữ liệu: Không viết dữ liệu cá nhân, bí mật thương mại và thông tin bí mật trên phương tiện truyền thông đại chúng; ẩn danh khi cần thiết và tuân thủ chính sách công ty của bạn.
4. Tôn trọng công lý
Nhận thức được sự thiên vị: đảm bảo rằng kết quả đầu ra không loại trừ hoặc rập khuôn một cách không công bằng các nhóm nhất định; Giám sát nhiều con mắt khác nhau về các quyết định có tác động cao.
5. Hãy minh bạch
Đừng xuyên tạc rằng bạn đang sử dụng AI. Tuyên bố một cách thích hợp rằng sản phẩm chính đã được chuẩn bị với sự trợ giúp của AI, dựa trên bối cảnh kinh doanh và chính sách của công ty, sẽ tạo dựng được niềm tin.
Lưu ý: Năm nguyên tắc này bổ sung cho nhau. Chỉ thực hiện một thôi là chưa đủ; Ví dụ: nếu bạn chú ý đến quyền riêng tư và bỏ qua việc xác minh, bạn vẫn gặp rủi ro.
Tại sao sự kiểm soát của con người là không thể thiếu?
AI không thể chịu trách nhiệm; Khi anh ta mắc sai lầm, người phải trả giá không phải là anh ta mà là người và tổ chức lợi dụng anh ta. Ngoài ra, AI không thể nhìn thấy bối cảnh đầy đủ (chính sách doanh nghiệp, các mối quan hệ, độ nhạy cảm của ngành, tình hình cụ thể tại thời điểm hiện tại). Kiểm soát của con người; Nó vừa xác định cơ quan có thẩm quyền sẽ chịu trách nhiệm pháp lý, vừa là bộ lọc bắt những điểm mù của người mẫu (ảo giác, thiên vị, không đúng mực). Cuộc kiểm toán càng gần đến một quyết định có tác động lớn thì nó càng phải nghiêm ngặt hơn.
Cấp độ kiểm toán theo rủi ro
Loại nhiệm vụ
ví dụ
Kiểm tra bắt buộc
tác động thấp
Soạn thảo bản ghi nhớ nội bộ, động não
Đánh giá nhẹ
hiệu ứng trung bình
Email gửi đi, tóm tắt báo cáo
Đọc kỹ + kiểm tra thực tế
tác động cao
Quyết định pháp lý/tài chính/sức khỏe/việc làm
Xác minh của chuyên gia + xác nhận bằng văn bản
Cách tiếp cận yếu / Cách tiếp cận mạnh mẽ
Cách tiếp cận yếu: Thực hiện quyết định có tác động cao (ví dụ: đánh giá của nhân viên) dựa trên kết quả đầu ra của AI mà không cần xác minh.
Kết quả: Ảo giác hoặc thành kiến ảnh hưởng trực tiếp đến quyết định ảnh hưởng đến cuộc sống của một người.
Cách tiếp cận mạnh mẽ:Chỉ sử dụng AI để hỗ trợ/dự thảo; Hãy tự mình chứng minh quyết định bằng các bằng chứng liên quan, tham khảo ý kiến của chuyên gia có liên quan và đưa ra phê duyệt cuối cùng bằng văn bản.
Kết quả: Bạn được hưởng lợi từ tốc độ nhưng vẫn đảm bảo được trách nhiệm và sự công bằng.
Ba hộp nhỏ
Trường hợp 1 - Danh sách kiểm tra bị lỗi. Khi bắt đầu với AI, một nhóm đã in năm nguyên tắc lên một tấm thẻ và đặt chúng lên bàn. Một nhân viên tình cờ gặp câu hỏi "quyền riêng tư" trên một đề xuất sẽ được gửi và nhận thấy rằng nó chứa tên của khách hàng và ẩn danh nó. Một danh sách đơn giản đã ngăn chặn sự vi phạm có thể xảy ra.
Trường hợp 2 – “Máy báo như vậy” không hoạt động. Một nhân viên khác đã áp dụng thông tin quy định không chính xác do AI đưa ra mà không xác minh và khi có vấn đề phát sinh, anh ta đã tự bào chữa bằng cách nói "Đó là những gì AI đã nói". Lời bào chữa này không được chấp nhận; bởi vì anh ấy là người sử dụng và thực hiện công cụ đó. Trách nhiệm thuộc về người sử dụng.
Trường hợp 3 - Kiểm soát linh hoạt theo rủi ro. Khi người quản lý nhanh chóng sử dụng kết quả đầu ra của quá trình động não nội bộ; Cần có sự phê duyệt của chuyên gia + văn bản biện minh cho các quyết định có tác động lớn như tuyển dụng và hiệu suất. Do đó, nó tăng tốc cả công việc có rủi ro thấp và tăng cường tính bảo mật trong các quyết định quan trọng.
Mẫu có thể sao chép
Trước khi sử dụng kết quả này, hãy hỏi tôi năm câu hỏi về sử dụng có trách nhiệm theo thứ tự và yêu cầu tôi đánh dấu “ok/chưa hoàn thành” cho mỗi câu hỏi: 1) Đã có cuộc kiểm tra con người chưa? 2) Sự thật đã được xác minh chưa? 3) Tính bảo mật có được duy trì không? 4) Nó có công bằng và toàn diện không? 5) Tôi có sẵn sàng chịu trách nhiệm về kết quả không?
Đánh giá mức độ tác động (thấp/trung bình/cao) của nhiệm vụ này và đề xuất danh sách các bước kiểm tra phù hợp. Nhiệm vụ: [viết nhiệm vụ]
Trong kết quả bên dưới, hãy liệt kê các điểm rủi ro (sự thật, tính bảo mật, sự công bằng, cam kết) mà một người chắc chắn nên kiểm tra theo thứ tự quan trọng. Đầu ra: [dán vào đây]
Chuẩn bị cho tôi một "quy tắc sử dụng AI có trách nhiệm" ngắn gọn, mang tính cá nhân cho vai trò của tôi; Làm cho các mục có định hướng hành động và dễ nhớ. Vai trò của tôi: [viết vai trò của bạn]
Danh sách kiểm tra thực hành
kiểm soát
Câu hỏi
Kiểm toán
Tôi đã xem xét kết quả đầu ra này với tư cách là một con người chưa?
sự chính xác
Tôi đã xác nhận các thông tin (số, tên, ngày tháng) trong đó chưa?
Quyền riêng tư
Tôi đã ghi dữ liệu nhạy cảm hoặc dữ liệu cá nhân vào công cụ chưa?
công lý
Kết quả có công bằng và toàn diện không?
minh bạch
Việc sử dụng AI có được nêu rõ và không gây hiểu lầm không?
Trách nhiệm
Tôi có sẵn sàng chịu trách nhiệm về hậu quả của kết quả này không?
Câu trả lời cho câu hỏi cuối cùng phải luôn là "có"; Vì chỉ cần bạn là người sử dụng công cụ thì kết quả là của bạn.
Những lỗi thường gặp
Những lỗi thường gặp
- Thực hiện quyết định có tác động cao mà không có sự giám sát. Sự phê duyệt của chuyên gia và giám sát bằng văn bản là rất cần thiết trong lĩnh vực tiền bạc, sức khỏe, luật pháp và việc làm.
- Nó có nghĩa là "Máy đã nói rồi." Trách nhiệm không ràng buộc công cụ mà ràng buộc người sử dụng nó.
- Áp dụng chính sách có chọn lọc Năm nguyên tắc là một tổng thể; Nếu thiếu một cái, rủi ro vẫn còn.
- Luôn thực hiện việc kiểm tra với mức độ nghiêm ngặt như nhau. Kiểm soát quy mô theo rủi ro; tốc độ với rủi ro thấp, tỉ mỉ với rủi ro cao.
Trách nhiệm mang lại tự do
Các quy tắc sử dụng có trách nhiệm có vẻ hạn chế nhưng chúng hoàn toàn ngược lại: Khi đã có những thói quen an toàn này, bạn có thể sử dụng AI một cách thoải mái và táo bạo hơn nhiều. Bởi vì ngay cả khi có sai sót, bạn biết mình có bộ lọc để bắt nó. Các quy tắc không phải để làm bạn chậm lại mà để giúp bạn tăng tốc một cách an toàn.
Tóm lại
- Năm nguyên tắc sử dụng có trách nhiệm: mọi người có tiếng nói cuối cùng, xác minh rồi tin tưởng, bảo vệ bí mật, theo đuổi sự công bằng, minh bạch.
- Những nguyên tắc này bổ sung cho nhau; Nếu thiếu một cái, rủi ro vẫn tiếp tục.
- Sự giám sát của con người là không thể thiếu vì AI không thể chịu trách nhiệm và nhìn thấy toàn cảnh.
- Mở rộng quy mô kiểm toán theo rủi ro: nhẹ với tác động thấp, phê duyệt của chuyên gia và giải thích bằng văn bản với tác động cao.
- Vì bạn là người sử dụng công cụ nên bạn cũng chịu trách nhiệm về kết quả; "Máy nói với tôi" không phải là lý do.
Nhiệm vụ ứng dụng
Tạo “quy tắc sử dụng AI có trách nhiệm” ngắn gọn, mang tính cá nhân cho vai trò của bạn bằng cách sử dụng mẫu ở trên (tối đa 6 mục). Ghi lại ở nơi dễ nhìn thấy và thực hành lần lượt các câu hỏi trong bảng “danh sách kiểm tra thực hành” về sản phẩm AI quan trọng tiếp theo.
Danh sách kiểm tra
- [ ] Tôi có thể nêu tên năm nguyên tắc sử dụng có trách nhiệm.
- [ ] Tôi có thể giải thích tại sao sự kiểm soát của con người là không thể thiếu.
- [ ] Tôi có thể điều chỉnh mức độ kiểm soát tùy theo mức độ rủi ro của nhiệm vụ.
- [ ] Tôi đã tạo một danh sách kiểm tra việc sử dụng có trách nhiệm cho vai trò của mình.
- [ ] Tôi đã nội tâm hóa rằng “cái máy bảo tôi” không phải là một cái cớ.