Lợi nhuận:
- Khả năng phân biệt giữa các phương pháp đề xuất dựa trên nội dung và hợp tác, đồng thời ngăn chặn các nguồn giả mạo bằng cách xác minh từng đề xuất trong bộ sưu tập thực
- Khả năng phá vỡ bong bóng bộ lọc bằng sự đa dạng có ý thức và đưa ra các đề xuất với những lý do minh bạch
- Bảo vệ quyền riêng tư của người dùng về lịch sử đọc và tìm kiếm cũng như xử lý dữ liệu này một cách an toàn
Một độc giả có thể hỏi "Tôi đã đọc xong cuốn sách này, tôi nên đọc gì tiếp theo?" ', một thủ thư giỏi sẽ giới thiệu các nguồn tài liệu phù hợp với sở thích, trình độ và mục đích của họ. Trong thế giới kỹ thuật số, các hệ thống đề xuất thực hiện việc này trên quy mô lớn: chúng đề xuất các tài nguyên mới bằng cách xem xét sở thích trước đây của người dùng hoặc đặc điểm của tài nguyên. Trong phần này, bạn sẽ tìm hiểu cách hoạt động của hệ thống đề xuất dựa trên trí tuệ nhân tạo, chúng mang lại lợi ích gì cho thư viện và cách quản lý các rủi ro như quyền riêng tư, thành kiến và "bong bóng bộ lọc".
Hãy xác định các khái niệm. Đề xuất dựa trên nội dung xem xét các đặc điểm của nguồn (chủ đề, tác giả, thể loại) và đề xuất các nguồn tương tự: "Nếu bạn thích cuốn sách lịch sử này, bạn cũng có thể thích cuốn sách này, có cùng thời kỳ." Lọc cộng tác hoạt động theo nguyên tắc "những người dùng khác thích các tài nguyên như bạn cũng thích những tài nguyên này". Bong bóng bộ lọc là khi hệ thống đề xuất khóa người dùng vào những nội dung liên tục giống nhau và khiến họ tránh xa những góc nhìn mới, khác biệt. Một đề xuất thư viện tốt vừa thu hút được sự quan tâm vừa phá vỡ bong bóng.
Từng bước: một cách tiếp cận tư vấn có trách nhiệm
1. Làm rõ mục đích. Đề xuất nhằm mục đích gì? Bạn có muốn người dùng tiếp tục đọc, mở rộng tầm nhìn của họ hoặc tìm tài nguyên cho một câu hỏi nghiên cứu cụ thể không? Mục đích xác định loại khuyến nghị.
2. Xác minh nguồn gốc và tính xác thực. AI có thể tạo nên những cuốn sách không tồn tại khi đưa ra gợi ý. Xác minh rằng mỗi tài nguyên được đề xuất thực sự tồn tại trong bộ sưu tập hoặc trong một danh mục đáng tin cậy.
3. Duy trì sự đa dạng. Chỉ đề xuất cái "tương tự nhất" sẽ tạo ra bong bóng bộ lọc. Có ý thức bao gồm các quan điểm khác nhau, các tác giả khác nhau và các cấp độ khác nhau. Nhiệm vụ của thư viện là mở ra những chân trời chứ không phải giới hạn chúng trong hệ sinh thái.
4. Bảo vệ quyền riêng tư. Đề xuất được cá nhân hóa sử dụng lịch sử đọc của người dùng và cực kỳ chính xác. Không cung cấp dữ liệu này cho các công cụ AI thông thường; Chỉ xử lý trong hệ thống bảo mật của tổ chức, với sự đồng ý của người dùng.
5. Hãy minh bạch. Giải thích cho người dùng lý do đưa ra đề xuất: "Tài nguyên này được đề xuất vì nó liên quan đến chủ đề mà bạn quan tâm." Sự minh bạch củng cố niềm tin và hiểu biết về thông tin.
Mẹo: Hãy chủ ý thêm tài nguyên “hơi khác” vào danh sách đề xuất và nêu rõ: “Những tài nguyên này gần với lĩnh vực bạn quan tâm; tôi đã thêm tài nguyên này để ôn lại”. Điều này vừa phá vỡ bong bóng bộ lọc vừa thể hiện giá trị khám phá của thư viện.
Khía cạnh đạo đức của đề xuất
Hệ thống khuyến nghị tưởng chừng như vô hại nhưng lại tạo ra hiệu ứng mạnh mẽ. Những tài nguyên nào được đề xuất cho người dùng sẽ định hình thế giới thông tin của họ. Nếu hệ thống chỉ nêu bật những nguồn phổ biến hoặc chỉ theo một quan điểm cụ thể thì tiếng nói của thiểu số, quan điểm khác biệt và những nguồn có giá trị ít được biết đến hơn sẽ không được nhìn thấy. AI có thể củng cố xu hướng này bằng cách kế thừa tính phổ biến và thành kiến trong dữ liệu đào tạo.
Đây chính là lúc giá trị của nghề thủ thư xuất hiện: thư viện không phải là một công cụ giới thiệu thương mại; Nhiệm vụ của nó là đảm bảo khả năng tiếp cận thông tin bình đẳng và đa dạng. Trách nhiệm của thủ thư là điều chỉnh hệ thống khuyến nghị phù hợp với giá trị này.
Lưu ý: Lịch sử đọc và tìm kiếm của người dùng là một trong những dữ liệu riêng tư nhạy cảm nhất. Những gì một người đọc có thể tiết lộ thông tin về sức khỏe, quan điểm chính trị, niềm tin hoặc khủng hoảng cá nhân của họ. Không bao giờ chuyển dữ liệu này cùng với danh tính của nó sang các hệ thống bên ngoài; Việc ẩn danh và đồng ý là điều cần thiết.
ba trường hợp nhỏ
Trường hợp 1 - Đề xuất dựa trên nội dung đã có hiệu quả. Một thư viện trường học đã sử dụng hệ thống dựa trên nội dung để giới thiệu các nguồn tài liệu tương tự với cuốn sách họ đang đọc cho học sinh. Một học sinh đã đọc xong một cuốn tiểu thuyết khoa học viễn tưởng; Hệ thống đề xuất ba cuốn sách có cùng chủ đề nhưng của một tác giả khác. Người sinh viên mượn hai cái; Thói quen đọc sách vẫn tiếp tục. Người thủ thư trước đó đã xác nhận rằng tất cả các gợi ý đều thực sự tồn tại trong bộ sưu tập.
Trường hợp 2 - Đề xuất giả bị bắt. Một thủ thư đã yêu cầu AI giới thiệu 8 cuốn sách cho người dùng. Anh kiểm tra danh sách trong danh mục: trong số 8 cuốn sách bị thiếu 3 cuốn; AI đã tạo ra những tiêu đề hợp lý. Bước xác minh đã ngăn cản việc đề xuất những cuốn sách không tồn tại cho người dùng.
Trường hợp 3 - Bong bóng lọc bị vỡ. Một nhà nghiên cứu liên tục làm việc với các nguồn có cùng quan điểm và hệ thống luôn đề xuất những nguồn tương tự. Thủ thư đã cố tình đưa vào hai nguồn trình bày cách tiếp cận tương phản với chủ đề và làm rõ điều này. Chỉ nhờ những nguồn đối lập này mà nhà nghiên cứu mới nhận ra được khía cạnh chưa hoàn thiện trong nghiên cứu của mình.
Khởi động nguội và sự cố với người dùng mới
Một thách thức nổi tiếng của hệ thống gợi ý là vấn đề khởi đầu nguội: hệ thống không biết nên giới thiệu gì cho người dùng mới hoặc tài nguyên vừa được thêm vào bộ sưu tập mà không có dữ liệu lịch sử. Trong trường hợp này, nhiều hệ thống chuyển sang các tài nguyên phổ biến nhất làm lựa chọn an toàn; Điều này có nghĩa là các tài nguyên có giá trị ít được biết đến hoàn toàn không được khuyến khích và mức độ phổ biến sẽ tự tăng lên. Về mặt nghề thủ thư, điều này mâu thuẫn với giá trị của quyền tiếp cận bình đẳng. Giải pháp là hỏi người dùng mới một câu hỏi ưu tiên ngắn gọn, rõ ràng (chủ đề nào, cấp độ nào, mục đích nào) trước khi đưa ra đề xuất và nêu bật các tài nguyên mới được thêm vào dựa trên đặc điểm nội dung của chúng. Tại thời điểm này, bằng cách phân tích chủ đề và đặc điểm của một tài nguyên, AI có thể liên kết ngay cả một cuốn sách chưa từng được mượn với người dùng liên quan; miễn là đề xuất đến từ bộ sưu tập thực và được xác minh. Do đó, hệ thống không chỉ hiển thị những thứ "rất được yêu thích" mà còn cả những thứ "có liên quan và có giá trị".
Mẹo: Khi thiết lập đề xuất cho người dùng mới, hãy dựa trên nhu cầu hiện tại của người dùng thay vì dữ liệu lịch sử của hệ thống. Một câu hỏi hay (“đây là để nghiên cứu, để giải trí, ở mức độ nào?”) thường đưa ra đề xuất chính xác hơn dữ liệu hành vi hàng tháng trời.
Bốn mẫu có thể sao chép
1) Đề xuất tài nguyên tương tự dựa trên nội dung:
Dưới đây là chủ đề/tóm tắt của một tài nguyên mà người dùng thích. Tôi cũng đã đưa ra danh sách các tài nguyên hiện có trong bộ sưu tập của chúng tôi. Chỉ từ danh sách này, hãy đề xuất 5 tài nguyên tương tự với chủ đề và viết lời giải thích bằng một câu cho mỗi tài nguyên. Nguồn đề xuất không được liệt kê. Nguồn yêu thích: [tại đây] / Danh sách sưu tập: [tại đây]
2) Gợi ý bổ sung thêm sự đa dạng:
Vào danh sách đề xuất bên dưới, hãy thêm 2 tài nguyên sẽ mở rộng tầm nhìn của người dùng và đưa ra một góc nhìn hoặc chủ đề phụ khác (chỉ từ danh sách bộ sưu tập mà tôi đã cung cấp). Giải thích tại sao chúng khác nhau và có giá trị. Danh sách: [tại đây] / Bộ sưu tập: [tại đây]
3) Giải thích lý do kiến nghị:
Đối với mỗi đề xuất bên dưới, hãy viết lời biện minh ngắn gọn, minh bạch để người dùng có thể thấy: "Tài nguyên này được đề xuất vì..." Không cường điệu, không ngụ ý về dữ liệu cá nhân. Gợi ý: [tại đây]
4) Kiểm tra trước quyền riêng tư:
Mục gợi ý sau có chứa thông tin nhận dạng người dùng hoặc thông tin nhạy cảm (bóng gió về sức khỏe, niềm tin, quan điểm chính trị) không? Nếu vậy, hãy đánh dấu nó và đề xuất cách ẩn danh nó. Đầu vào: [tại đây]
Dấu nhắc yếu / Dấu nhắc mạnh
Dấu nhắc yếu:
Đề xuất 10 cuốn sách để người dùng này đọc.
AI tạo ra các đề xuất từ bộ nhớ chung của nó mà không cần biết bộ sưu tập; Anh ta có thể bịa ra những cuốn sách không tồn tại và không tôn trọng sự đa dạng và quyền riêng tư.
Lời nhắc mạnh mẽ:
Vai trò của bạn: trợ lý tư vấn độc giả. Dưới đây là chủ đề mà người dùng yêu thích và danh sách các nguồn thực tế trong bộ sưu tập của chúng tôi. (1) Gợi ý 5 nguồn liên quan đến chủ đề từ danh sách. (2) Ngoài ra, hãy thêm 2 nguồn với những góc nhìn khác nhau sẽ giúp bạn mở rộng tầm mắt. (3) Viết lời biện minh minh bạch cho mỗi đề xuất. Không đưa ra khỏi danh sách, bịa đặt nguồn hoặc ám chỉ dữ liệu cá nhân. Chủ đề: [tại đây] / Bộ sưu tập: [tại đây]
Lời nhắc mạnh mẽ; nó giới hạn nó trong bộ sưu tập thực tế, đòi hỏi sự đa dạng và bổ sung thêm sự biện minh cũng như quy tắc bảo mật.
Biểu đồ so sánh loại khuyến nghị
Loại đề xuất
điểm mạnh
rủi ro
Nhiệm vụ của thư viện
dựa trên nội dung
Thu hút sự chú ý tốt
bong bóng lọc
Thêm sự đa dạng
hợp tác
khám phá bất ngờ
Sự riêng tư, xu hướng phổ biến
Ẩn danh, cân bằng
Danh sách sản xuất AI
nhanh
nguồn tạo thành
xác minh thực tế
Những lỗi thường gặp
- Đưa ra đề xuất mà không cần xác minh. AI có thể tạo nên những nguồn không tồn tại.
- Chỉ đề xuất "tương tự nhất". Bong bóng bộ lọc thu hẹp tầm nhìn của người dùng.
- Xuất lịch sử đọc sang công cụ bên ngoài. Đây là dữ liệu riêng tư nhạy cảm nhất.
- Trình bày đề nghị mà không có lý do chính đáng. Sự minh bạch hỗ trợ niềm tin và khả năng đọc viết.
- Bỏ qua sự thiên vị phổ biến. Tài nguyên có giá trị nhưng ít được biết đến bị mất.
Tóm lại
Hệ thống đề xuất là công cụ mạnh mẽ hỗ trợ việc khám phá bằng cách thu hút sự quan tâm của người dùng; Các phương pháp tiếp cận dựa trên nội dung và hợp tác mang lại những điểm mạnh và rủi ro khác nhau. AI nhanh chóng đưa ra các đề xuất nhưng có thể phát minh ra các nguồn không tồn tại, lọc bong bóng và củng cố thành kiến. Công việc của thủ thư; Để xác minh mọi đề xuất trong bộ sưu tập thực, phá vỡ bong bóng với sự đa dạng có ý thức, bảo vệ quyền riêng tư của người dùng và duy trì giá trị của quyền truy cập thư viện bình đẳng và đa dạng bằng cách đưa ra các đề xuất với lý do minh bạch.
Nhiệm vụ ứng dụng
Chuẩn bị một danh sách ngắn các bộ sưu tập thực tế (10-15 nguồn). Tạo đề xuất cho người dùng bằng mẫu "đề xuất tài nguyên tương tự dựa trên nội dung" và xác minh rằng tất cả chúng thực sự tồn tại trong danh sách. Sau đó, thêm các nguồn có quan điểm khác nhau vào danh sách bằng mẫu "Đề xuất bổ sung tính đa dạng". Cuối cùng, hãy tạo lời giải thích minh bạch cho từng đề xuất bằng mẫu "Giải thích lý do đề xuất" và lên kế hoạch về cách bạn sẽ trình bày nó với người dùng.
danh sách kiểm tra
- [ ] Tôi đã xác minh rằng mỗi đề xuất đều thực sự tồn tại trong bộ sưu tập.
- [ ] Tôi đã thêm sự đa dạng để phá vỡ bong bóng bộ lọc.
- [ ] Tôi đã giữ an toàn cho lịch sử đọc/tìm kiếm của người dùng, tôi không đưa nó cho một công cụ bên ngoài.
- [ ] Tôi đã chuẩn bị lời giải thích minh bạch cho mỗi đề xuất.
- [ ] Để tránh thành kiến về mức độ phổ biến, tôi để mắt đến những nguồn có giá trị và ít được biết đến hơn.