Lợi nhuận:
- Hiểu rằng mô hình có thể tạo ra ảo giác và mỗi kết quả đầu ra phải được xác minh
- Biết các rủi ro và các lựa chọn thay thế an toàn khi đưa dữ liệu cá nhân và bí mật vào thời điểm nhanh chóng
- Áp dụng các giới hạn về đạo đức, bản quyền và trách nhiệm pháp lý trong việc sử dụng trí tuệ nhân tạo
Chỉ nắm vững cách viết lời nhắc là chưa đủ; Cũng cần phải học cách sử dụng trí tuệ nhân tạo một cách có trách nhiệm. Đơn vị này là lớp bảo mật phải được đặt lên hàng đầu về kỹ năng kỹ thuật. AI tạo ra câu trả lời nhanh, thuyết phục và thường chính xác; Nhưng đôi khi nó tạo ra thông tin hoàn toàn sai lệch với độ tin cậy tương tự, có thể khiến dữ liệu nhạy cảm gặp rủi ro và vượt qua các ranh giới đạo đức. Trong phần này, chúng ta sẽ đề cập đến việc xác minh đầu ra, những hạn chế của mô hình, tính bảo mật và trách nhiệm đạo đức. Không có kiến thức này, tất cả các kỹ thuật khác vẫn chưa hoàn thiện.
Ảo giác: Lắp mô hình
Ảo giác là khi mô hình tạo ra thông tin không có thật bằng ngôn ngữ tự tin. Nguồn không tồn tại, ngày tháng không chính xác, số liệu thống kê bịa đặt hoặc luật chưa bao giờ được viết ra là những ví dụ về những điều này. Tại sao nó xảy ra? Bởi vì mô hình được thiết kế không phải để "biết sự thật" mà để "tạo ra sự tiếp nối có thể xảy ra" (hãy nhớ logic ở bài đầu tiên). Chỉ vì một câu có thể sử dụng được về mặt ngữ pháp không có nghĩa là nó đúng về mặt thực tế.
Ý nghĩa thực tế của điều này rất rõ ràng: mọi sự thật do AI tạo ra đều là một tuyên bố chứ không phải sự thật cho đến khi được xác minh độc lập. Đặc biệt, hãy luôn kiểm tra:
- Những con số và thống kê
- Tên, ngày tháng, địa danh
- Trích dẫn và nguồn tham khảo
- Điều khoản pháp lý, tiêu chuẩn kỹ thuật, thông tin y tế/tài chính
Thói quen xác nhận
Bạn có thể giảm bớt nhưng không thể đặt lại xác minh bằng kỹ thuật nhanh chóng. Làm việc trong hai lớp:
- Lớp nhắc nhở: Đưa ra các hạn chế về mô hình như “chỉ dựa vào nguồn tôi cung cấp, không thêm thông tin không tồn tại, viết 'Tôi không biết' nếu bạn không chắc chắn, chỉ ra nguồn của mỗi tuyên bố." Điều này làm giảm sự phù hợp.
- Lớp con người: Tự mình xác minh từng thông tin quan trọng từ nguồn. Bước này là không thể thương lượng; Điều này đặc biệt bắt buộc đối với nội dung sẽ được xuất bản, sẽ là cơ sở để đưa ra quyết định hoặc sẽ ảnh hưởng đến người khác.
Giới hạn: Những gì mô hình không làm tốt
khu vực
Rủi ro
cách tiếp cận đúng
sự kiện hiện tại
Dữ liệu đào tạo có thể đã lỗi thời
Xác minh từ nguồn ngày/hiện tại
con số chính xác
Có khả năng phù hợp cao
Kiểm tra bằng máy tính/nguồn
Pháp lý/y tế/tài chính
Nguy cơ gây tổn hại nghiêm trọng
Hãy tham khảo ý kiến của chuyên gia thực sự, đừng chỉ dựa vào nó
Nguồn/trích dẫn
Có thể tạo ra các nguồn tài nguyên không tồn tại
Tự kiểm tra tính xác thực của nguồn
Chủ đề hiếm/ngách
Bề ngoài hoặc không chính xác
So sánh với kiến thức chuyên môn
Mô hình là người trợ giúp chứ không phải là người có thẩm quyền cuối cùng. Trách nhiệm luôn thuộc về người sử dụng nó.
Quyền riêng tư và dữ liệu cá nhân
Văn bản bạn nhập vào công cụ AI công khai phải tuân theo chính sách xử lý của công cụ đó và có thể nằm ngoài tầm kiểm soát của tổ chức bạn. Vì vậy, việc nhập dữ liệu bí mật và cá nhân mà không suy nghĩ là một rủi ro nghiêm trọng. Việc xử lý dữ liệu cá nhân ở Türkiye được quy định bởi KVKK (Luật bảo vệ dữ liệu cá nhân); Các tổ chức cũng thường có chính sách dữ liệu của riêng họ.
Cách thức làm việc an toàn:
- Ẩn danh/che giấu: Viết “khách hàng” thay vì tên thật, “[số tài khoản]” thay vì số thực. Trong hầu hết trường hợp, việc nói "khách hàng doanh nghiệp 3 năm" sẽ có tác dụng.
- Sử dụng công cụ được tổ chức phê duyệt: Một số tổ chức cung cấp các công cụ theo hợp đồng/tổ chức không làm rò rỉ dữ liệu. Chỉ xử lý dữ liệu nhạy cảm trên chúng.
- Đừng cho đi những gì không cần thiết: Không đưa vào bất kỳ chi tiết nhạy cảm nào không thực sự cần thiết để thực hiện nhiệm vụ.
- Biết chính sách: Tìm hiểu và tuân thủ các quy tắc sử dụng trí tuệ nhân tạo của tổ chức bạn.
Đạo đức và Bản quyền
Việc sử dụng có trách nhiệm không chỉ dừng lại ở quyền riêng tư. Ba nguyên tắc:
- Tính minh bạch: Ghi nhận một cách thích hợp nội dung do AI tạo ra nếu bối cảnh yêu cầu điều đó (ví dụ: nơi dự kiến có lao động của con người). Tránh sử dụng lừa đảo.
- Bản quyền và tính độc đáo: Đầu ra của mô hình có thể giống với các tác phẩm khác. Xem xét tính nguyên gốc và tình trạng quyền trước khi sử dụng cho mục đích thương mại; Không bắt chước thương hiệu/tác phẩm của người khác.
- Không có ác ý: Không sử dụng để tạo nội dung gây hiểu lầm, phân biệt đối xử, lôi kéo hoặc nhắm mục tiêu. Sức mạnh của công cụ làm tăng trách nhiệm.
Bốn mẫu có thể sao chép
1) Lắp đặt hạn chế ràng buộc:
Chỉ cần dựa vào nguồn dưới đây. Không thêm bất kỳ thông tin nào không có trong nguồn. Ghi "không ghi nguồn" ở chỗ bạn không chắc chắn. Bên cạnh mỗi tuyên bố quan trọng, hãy chỉ ra dòng mà nó dựa vào. Nguồn: [văn bản]
2) Trích xuất danh sách xác minh:
Liệt kê tất cả các sự kiện (số, ngày, tên, yêu cầu bồi thường) cần được xác minh trong văn bản dưới đây. Đề xuất ngắn gọn cách tôi có thể xác minh cho từng. Văn bản: [đầu ra]
3) Ẩn danh:
Che giấu tất cả dữ liệu cá nhân/bí mật trong văn bản sau: đặt tên [CÁ NHÂN], công ty [CÔNG TY], số [SỐ]. Đưa ra phiên bản ẩn danh với ý nghĩa nguyên vẹn. Văn bản: [văn bản]
4) Đánh giá đạo đức:
Đánh giá nội dung này một cách có đạo đức trước khi xuất bản: nó có gây hiểu lầm, phân biệt đối xử hay không công bằng không? Gắn cờ nếu có và đề xuất sửa chữa. Nội dung: [văn bản]
Nhắc yếu / Nhắc mạnh
Yếu (rủi ro):
Tìm các vấn đề trong hợp đồng của Ahmet Yılmaz (TC: ...) và so sánh nó với mức trung bình của ngành.
Mạnh mẽ (an toàn):
Tìm các điều khoản rủi ro trong văn bản hợp đồng dưới đây. - Sử dụng dữ liệu cá nhân; Hãy để các bên được gọi là [CÔNG TY-A] và [CÁ NHÂN].- Chỉ dựa vào những gì được viết trong văn bản; trung bình ngành được tạo nên, viết "dữ liệu không có sẵn".- Hiển thị từng rủi ro với mục của nó.Văn bản (ẩn danh): [văn bản]
Phiên bản mạnh mẽ vừa bảo vệ dữ liệu cá nhân vừa chặn dữ liệu ngành giả mạo; Đầu ra đã sẵn sàng để nhóm pháp lý xem xét.
Ba hộp nhỏ
Trường hợp 1 - Nguồn bịa đặt. Một nhà nghiên cứu đưa 3 “nguồn học thuật” do người mẫu đưa ra vào bài trình bày mà không kiểm chứng; Hai trong số các nguồn không có sẵn. Một đồng nghiệp đã nhận thấy điều đó trước khi thuyết trình. Sau đó, nhóm đã áp dụng quy tắc "tự mình tìm và mở từng tài nguyên trước khi xuất bản".
Trường hợp 2 - Tính bảo mật. Một nhân viên dán nguyên vẹn hợp đồng khách hàng thực tế vào một công cụ công cộng và yêu cầu tóm tắt. Khi nhóm bảo mật thông tin của tổ chức phát hiện ra điều này, quy trình đã được xem xét lại; Các tài liệu nhạy cảm hiện chỉ được xử lý trong công cụ của công ty đã được tổ chức phê duyệt và được ẩn danh.
Trường hợp 3 - Trách nhiệm quyết định. Một chủ doanh nghiệp nhỏ chuẩn bị hành động dựa trên cách giải thích về thuế mà mô hình đưa ra; Nhận xét này không tuân thủ luật pháp hiện hành. Sai lầm đã được phát hiện khi anh hỏi ý kiến cố vấn tài chính của mình. Bài học rất rõ ràng: AI chuẩn bị, chuyên gia và con người quyết định.
Mẹo: Hãy tạo thói quen đánh dấu một thông tin là "chưa được xác minh". Đặt dấu kiểm bên cạnh mỗi số và nguồn ở đầu ra cho đến khi bạn xác nhận nó; Kỷ luật đơn giản này ngăn chặn thông tin sai lệch âm thầm lan truyền.
Thận trọng: "AI đã nói như vậy" không phải là một cái cớ. Bạn chịu trách nhiệm về mọi nội dung mà bạn xuất bản, gửi hoặc đưa ra quyết định dựa trên đó. Tốc độ của xe không làm giảm bớt nghĩa vụ kiểm tra của bạn.
Những lỗi thường gặp
- Nhầm đầu ra trôi chảy là đúng. Nhầm ngôn ngữ thuyết phục là bằng chứng của sự thật.
- Sử dụng nguồn mà không kiểm tra nó. Xuất bản một nguồn không tồn tại.
- Nhập dữ liệu bí mật mà không cần suy nghĩ. Dán các tài liệu nhạy cảm mà không ẩn danh chúng.
- Để lại kiến thức chuyên môn cho người mẫu. Không xác minh các quyết định pháp lý/y tế/tài chính.
- Đổ trách nhiệm lên xe. Trốn tránh sự kiểm soát bằng cách nói “AI đã nói vậy”.
Tóm lại
- Ảo giác là khi người mẫu tự tin tạo ra những gì không có thật; Mọi sự thật đều là lời khẳng định cho đến khi được xác minh.
- Việc xác minh gồm hai phần: các hạn chế kịp thời làm giảm việc chế tạo và việc kiểm tra của con người sẽ phát hiện được.
- Mô hình này được giới hạn ở các vấn đề hiện tại, chính xác, pháp lý/y tế/tài chính; không phải là thẩm quyền cuối cùng.
- Chỉ ẩn danh dữ liệu cá nhân và bí mật hoặc xử lý bằng công cụ được tổ chức phê duyệt (KVKK và chính sách của tổ chức).
- Tuân thủ các nguyên tắc đạo đức, bản quyền và không ác ý; Trách nhiệm về nội dung luôn thuộc về con người.
Nhiệm vụ ứng dụng
Lấy một bản in mà bạn mới tạo ra và trích xuất tất cả thông tin trong đó (số, ngày, tên, nguồn, yêu cầu bồi thường) làm danh sách xác minh. Viết ra phương pháp xác minh cho từng phương pháp và thực sự kiểm tra ít nhất ba trong số chúng. Ngoài ra, hãy kiểm tra xem có dữ liệu bí mật/cá nhân trong đầu vào của cùng một đầu ra hay không và ẩn danh nó nếu cần.
danh sách kiểm tra
- [ ] Tôi có thể giải thích ảo giác là gì và tại sao nó lại xảy ra.
- [ ] Tôi xác minh kết quả thực tế từ nguồn độc lập.
- [ ] Tôi ẩn danh dữ liệu bí mật/cá nhân hoặc xử lý dữ liệu đó trong một công cụ an toàn.
- [ ] Tôi tham khảo ý kiến của một chuyên gia thực sự về các vấn đề pháp lý/y tế/tài chính.
- [ ] Tôi chấp nhận rằng tôi chịu trách nhiệm về nội dung.