Lợi nhuận:
- Có thể phân biệt nơi nào trí tuệ nhân tạo tiết kiệm thời gian trong quy trình làm việc của thủ thư (siêu dữ liệu, tóm tắt, tìm kiếm, đề xuất) và nơi nào độ chính xác, độ tin cậy của nguồn và các quyết định về quyền riêng tư được giao cho con người, tùy thuộc vào mức độ rủi ro.
- Khả năng áp dụng kỷ luật xác minh từng đầu ra bằng cách liên kết nó với nguồn, xác nhận nó trong một nguồn độc lập và chuyển nó qua bộ lọc sai lệch.
- Hiểu được lý do tại sao ảo giác, nguồn bịa đặt và quyền riêng tư của người dùng là những rủi ro cần phải tính đến trong nghề này ngay từ đầu.
Khi một chuyên gia biên mục ngồi vào bàn làm việc vào buổi sáng, anh ta có thể có hàng chục cuốn sách mới được gửi đến, hàng trăm tài liệu từ một bộ sưu tập quyên góp và một hộp lưu trữ đang chờ số hóa. Một thủ thư tham khảo (chuyên gia giúp người dùng tìm thông tin) trả lời các câu hỏi suốt cả ngày như “nguồn đáng tin cậy về chủ đề này ở đâu?” Người quản lý thông tin có trách nhiệm giữ cho hàng nghìn tài liệu của tổ chức có thể được khám phá và đáng tin cậy. Trong phần này, chúng tôi sẽ làm rõ chính xác trí tuệ nhân tạo (gọi tắt là AI; mô hình ngôn ngữ lớn và các công cụ tương tự) tiết kiệm thời gian trong các nhiệm vụ này ở đâu và ở đâu khả năng phán đoán, lựa chọn và trách nhiệm vẫn thuộc về con người.
Hãy bắt đầu với một định nghĩa: trí tuệ nhân tạo, theo đó chúng tôi muốn nói đến các công cụ phần mềm tạo ngôn ngữ và nhận dạng mẫu được đào tạo trên một lượng lớn văn bản. Các công cụ này tóm tắt, dịch, đề xuất phân loại, tạo văn bản nháp và gắn cờ các mẫu trong khối dữ liệu lớn. Nhưng nó không biết liệu nguồn có thực sự tồn tại hay không, thông tin có chính xác hay quyền riêng tư của người dùng có được bảo vệ hay không. Đó là lý do tại sao trong thủ thư và quản lý thông tin, AI là trợ lý chứ không phải là người ra quyết định.
Trí tuệ nhân tạo hoạt động ở đâu và không hoạt động ở đâu?
Hãy chia quy trình làm việc của thủ thư thành ba lớp. Lớp đầu tiên là các nhiệm vụ máy móc và lặp đi lặp lại: trích xuất siêu dữ liệu nháp từ dòng tên của một cuốn sách, tóm tắt một báo cáo dài, dịch văn bản từ ngôn ngữ này sang ngôn ngữ khác, làm sạch bảng dữ liệu. AI ở đây rất mạnh mẽ và tiết kiệm được nhiều thời gian.
Lớp thứ hai là công việc gần như mang tính tư pháp: tài liệu nên đưa ra tiêu đề chủ đề nào, có nên đưa tài nguyên vào một bộ sưu tập hay không, tài nguyên nào cần giới thiệu cho người dùng. AI đưa ra đề xuất ở đây, nhưng chuyên gia nắm rõ chính sách của tổ chức và nhu cầu thực sự của người dùng mới là người đưa ra lời cuối cùng.
Lớp thứ ba là sự phán xét và trách nhiệm thuần túy: xác nhận rằng thông tin là chính xác, quyết định bản quyền, có tiết lộ dữ liệu cá nhân nhạy cảm hay không, xác nhận độ tin cậy của nguồn. Ở lớp này, đầu ra của AI chỉ là điểm khởi đầu; Trách nhiệm hoàn toàn thuộc về con người.
Mẹo: Trước khi giao nhiệm vụ cho AI, hãy tự hỏi bản thân: “Điều gì xảy ra nếu kết quả đầu ra này sai?” Nếu câu trả lời là "Tôi sẽ lãng phí thời gian", hãy sử dụng AI. Nếu câu trả lời là "một nguồn sai được lan truyền, người dùng bị đánh lừa hoặc dữ liệu cá nhân bị rò rỉ", hãy nhớ xác minh đầu ra.
Ảo giác: mối nguy hiểm lớn nhất của thủ thư
Ảo giác là khi AI tạo ra những thông tin, nguồn hoặc trích dẫn không tồn tại như thể nó có thật và bằng một ngôn ngữ cực kỳ thuyết phục. Điều này đặc biệt nguy hiểm đối với nghề thủ thư và quản lý thông tin; bởi vì bản chất nghề nghiệp của chúng tôi là tính xác thực và độ tin cậy của nguồn.
Khi bạn yêu cầu AI “đề xuất năm bài báo học thuật về chủ đề này”, nó có thể tạo ra các tiêu đề, tác giả và tên tạp chí có vẻ như có thật nhưng hoàn toàn không tồn tại. Những nguồn bịa đặt này thuyết phục đến mức người bảo trợ hoặc thậm chí thủ thư có thể thêm chúng vào thư mục mà không cần xác minh. Trong khoa học xã hội và nhân văn, mối nguy hiểm còn lớn hơn: khi "tài liệu đó từ năm 1897" được bịa đặt cho một nhà sử học hoặc "quyết định của tòa án" cho một luật gia, kết quả là thông tin sai lệch nghiêm trọng.
Lưu ý: Không được phép chuyển bất kỳ trích dẫn, trích dẫn hoặc tài liệu tham khảo nguồn nào do AI tạo ra đi bất cứ đâu mà không được xác minh trong danh mục, cơ sở dữ liệu hoặc chính nguồn đó. Chỉ vì nó "có vẻ thuyết phục" không có nghĩa là nó đúng.
Kỷ luật xác minh: ba bước
Nguyên tắc cơ bản mà thủ thư phải áp dụng khi làm việc với AI là:
1. Kết nối với nguồn. Mọi sự kiện, con số, ngày tháng và dấu ấn đều phải dựa trên một nguồn gốc. Hãy hỏi AI “cho tôi biết bạn lấy thông tin này từ nguồn nào” và kiểm tra nguồn đó một cách độc lập.
2. Xác nhận độc lập. Xác minh thông tin quan trọng trong ít nhất một nguồn đáng tin cậy bên ngoài AI (danh mục xác thực, cơ sở dữ liệu chính thức, tài liệu chính).
3. Đưa nó qua bộ lọc thiên vị. AI mang những thành kiến của dữ liệu mà nó được đào tạo. Một chủ đề gợi ý, một danh sách gợi ý hoặc một bản tóm tắt có thể làm nổi bật một số quan điểm nhất định và che khuất những quan điểm khác. Hỏi xem ai bị bỏ rơi, thiếu góc nhìn nào.
Quyền riêng tư và quyền riêng tư của người dùng
Một trong những nguyên tắc đạo đức cơ bản nhất của nghề thủ thư là quyền riêng tư của người dùng: những gì một người đọc, những gì anh ta tìm kiếm và chủ đề anh ta quan tâm đều được giữ bí mật. Việc nhập dữ liệu vào các công cụ AI, đặc biệt là các công cụ công cộng hoạt động qua Internet, bao gồm danh tính, lịch sử tìm kiếm hoặc tài nguyên mượn của người dùng có thể vi phạm nguyên tắc này; vì dữ liệu này có thể đi đến hệ thống của bên thứ ba.
Tương tự như vậy, trong một tổ chức, không nên tải các tài liệu nhạy cảm nhưng chưa được phân loại (thông tin nhân sự, hợp đồng, thư từ nội bộ) lên một công cụ AI chung. Các công cụ chạy trên hệ thống khép kín, an toàn của tổ chức được ưu tiên cho loại dữ liệu này.
Mẹo: Trước khi nhập bất kỳ dữ liệu nào vào AI, hãy hỏi "Thông tin này có được công khai không?" hỏi. Nếu câu trả lời là không hoặc bạn không chắc chắn, hãy đặt dữ liệu đó ở định dạng ẩn danh, không được cá nhân hóa hoặc chỉ sử dụng các công cụ bảo mật đã được tổ chức phê duyệt.
ba trường hợp nhỏ
Trường hợp 1 - Siêu dữ liệu nháp cho 400 tài liệu. Một thư viện của trường đại học phải lập danh mục một kho lưu trữ gồm 400 tài liệu do một giáo sư tặng. Chuyên gia trích xuất tiêu đề dự thảo, ngày tháng và gợi ý chủ đề từ trang đầu tiên của mỗi tài liệu bằng AI: thời gian trung bình cho mỗi tài liệu giảm từ 12 phút xuống còn 4 phút. Nhưng mỗi bản thảo đều được đối chiếu với bản gốc và được chuyên gia phê duyệt; 17 ngày không chính xác do AI tạo ra đã bị phát hiện ở bước này.
Trường hợp 2 - Nguồn giả bị bắt. Một thủ thư tư vấn đã nhận được 6 gợi ý bài viết từ YZ khi tìm kiếm tài nguyên về "di cư khí hậu" cho một sinh viên đại học. Thủ thư đã tìm kiếm tất cả trong cơ sở dữ liệu của cơ quan: 2 trong số 6 bài báo hoàn toàn không tồn tại. Bước xác minh đã ngăn học sinh được cung cấp một nguồn bịa đặt.
Trường hợp 3 - Ngăn chặn vi phạm bí mật. Một thư viện đã cân nhắc việc sử dụng một công cụ AI chung để phân tích “người dùng nào quan tâm đến chủ đề nào” từ hồ sơ thanh toán. Người quản lý thông tin nhận ra rằng việc dữ liệu này bị lộ cùng với ID người dùng sẽ vi phạm quyền riêng tư; dữ liệu lần đầu tiên được ẩn danh và chỉ được xử lý dưới dạng số liệu thống kê tổng hợp, không xác định danh tính.
Bốn mẫu có thể sao chép
1) Bắt đầu xác định vai trò và ranh giới:
Vai trò của bạn: trợ lý chuyên gia quản lý thông tin và biên mục có kinh nghiệm. Nhiệm vụ của bạn: tạo bản nháp từ thông tin trong nguồn mà tôi đã cung cấp cho bạn. Quy tắc: (1) Chỉ sử dụng thông tin trong văn bản tôi đã cung cấp cho bạn, không thêm thông tin của riêng bạn. (2) Đánh dấu "[phải được xác minh]" ở những chỗ bạn không chắc chắn. (3) Không bịa đặt bất kỳ ngày tháng, tên hoặc dấu ấn nào. Nếu bạn hiểu, hãy bắt đầu. Nguồn: [tại đây]
2) Câu hỏi kiểm tra xác nhận:
Liệt kê từng tuyên bố thực tế (ngày, tên, số, trích dẫn nguồn) trong văn bản bên dưới. Đối với mỗi câu: bạn lấy thông tin này ở đâu trong văn bản? Nếu nó không rõ ràng trong văn bản, hãy viết "không có trong văn bản". Văn bản: [tại đây]
3) Kiểm tra sai lệch và thiếu quan điểm:
Phần tóm tắt/đề xuất sau đây nêu bật những quan điểm nào và bỏ qua những quan điểm nào? Những nhóm, khu vực hoặc chế độ xem nào có thể bị thiếu? Chỉ dựa vào văn bản, đừng suy đoán. Văn bản: [tại đây]
4) Kiểm tra trước quyền riêng tư:
Văn bản bên dưới có chứa dữ liệu cá nhân (tên, số ID, liên hệ, lịch sử đọc/tìm kiếm) hoặc thông tin nhạy cảm của công ty không? Nếu vậy, hãy liệt kê nó và đề xuất cách ẩn danh nó. Văn bản: [tại đây]
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Tìm cho tôi một số tài nguyên về chủ đề này.
Lời nhắc này mời AI tạo tài nguyên giả. Không có vai trò, ranh giới, quy tắc xác nhận và tài nguyên. AI có thể tạo ra các thẻ đáng tin cậy nhưng không tồn tại.
Lời nhắc mạnh mẽ:
Vai trò của bạn: trợ lý thư viện tham khảo. Chọn những vấn đề liên quan đến chủ đề "di cư khí hậu" từ các mục danh mục mà tôi đã cung cấp cho bạn dưới đây và giải thích lý do tại sao chúng có liên quan. Không thêm bất kỳ nguồn nào không có trong danh sách, không bịa đặt nguồn. Khi bạn không chắc chắn, hãy nói "không có nguồn nào phù hợp được liệt kê". Các mục trong danh mục: [tại đây]
Sự khác biệt rất rõ ràng: lời nhắc mạnh mẽ buộc AI phải hoạt động từ nguồn thực nhất định chứ không phải từ bộ nhớ của chính nó và ngăn chặn việc bịa đặt.
Bảng lớp và trách nhiệm
lớp kinh doanh
nhiệm vụ mẫu
Vai trò của AI
quyết định của đàn ông
cơ khí
Siêu dữ liệu dự thảo, tóm tắt, bản dịch
Tạo bản nháp nhanh chóng
xác minh, phê duyệt
gần như tư pháp
Tiêu đề chủ đề, gợi ý nguồn
đưa ra gợi ý
Lựa chọn theo chính sách
sự phán xét thuần khiết
Quyết định xác thực, bản quyền
Thông tin sơ bộ chỉ
Trách nhiệm hoàn toàn thuộc về con người
Những lỗi thường gặp
- Thay thế đầu ra AI cho nguồn. AI là trợ lý, không phải tài nguyên; Mọi đầu ra đều được xác nhận.
- Chấp nhận nguồn bịa đặt là có sức thuyết phục. Chỉ vì nó trông đẹp không có nghĩa là nó đúng.
- Nhập dữ liệu cá nhân/nhạy cảm vào công cụ công cộng. Quyền riêng tư của người dùng và bảo mật của công ty được tôn trọng ngay từ đầu.
- Bỏ qua định kiến. AI mang các góc nhìn của dữ liệu mà nó được đào tạo; Hỏi những gì còn thiếu.
- Hãy để AI phán xét. Các quyết định về tính chính xác, bản quyền và quyền riêng tư thuộc về con người.
Tóm lại
trí tuệ nhân tạo; Nó là một trợ thủ đắc lực cho việc tóm tắt, soạn thảo, dịch thuật và đánh dấu mẫu trong quản lý thư viện và thông tin. Nó tiết kiệm rất nhiều thời gian trong công việc cơ khí; đưa ra lời khuyên về các vấn đề gần như tư pháp; Nhưng việc xác minh tính chính xác, độ tin cậy của nguồn, quyền riêng tư của người dùng và các quyết định đạo đức đều thuộc về con người. Ảo giác là mối nguy hiểm lớn nhất đối với nghề này: không có nguồn hoặc trích dẫn nào được sử dụng mà không xác minh. Chạy AI với các quy tắc về vai trò, ranh giới và xác thực rõ ràng; Xác nhận từng đầu ra quan trọng bằng một nguồn độc lập.
Nhiệm vụ ứng dụng
Chọn một chủ đề thực sự từ lĩnh vực của bạn. Yêu cầu AI cung cấp 5 đề xuất tài nguyên về chủ đề đó, sau đó tìm kiếm từng đề xuất trong danh mục hoặc cơ sở dữ liệu thực tế và lưu ý số lượng thực sự tồn tại. Sau đó, với mẫu “Khởi động xác định vai trò và ranh giới”, yêu cầu AI chỉ hoạt động từ văn bản bạn cung cấp và so sánh kết quả đầu ra của hai phương pháp. Viết cách tiếp cận nào cản trở sự phù hợp.
danh sách kiểm tra
- [ ] Tôi đã xác định nhiệm vụ đang ở tầng nào (máy móc, bán tư pháp, phán xét thuần túy).
- [ ] "Điều gì xảy ra nếu kết quả đầu ra này không chính xác?" Tôi đã đặt câu hỏi.
- [ ] Tôi đã xác minh từng ghi nhận và trích dẫn dựa trên một nguồn độc lập.
- [ ] Tôi đã kiểm tra rằng không có thông tin cá nhân/nhạy cảm nào trong dữ liệu nhập vào AI.
- [ ] Tôi giữ quyết định cuối cùng và chịu trách nhiệm theo ý mình.