Bản quyền, Quyền riêng tư, Đạo đức và Quản trị

Lợi nhuận:

• Khả năng giảm thiểu rủi ro pháp lý bằng cách đánh giá trạng thái bản quyền của đầu vào và điều kiện dữ liệu của công cụ cũng như đặt câu hỏi về quyền của đầu ra
• Khả năng bảo vệ dữ liệu cá nhân thông qua ẩn danh và giảm thiểu và đảm bảo quyền riêng tư bằng cách minh bạch với người dùng
• Khả năng thiết lập khung quản trị cho cơ sở bao gồm các công cụ đã được phê duyệt, dữ liệu bị cấm và các quy tắc xác minh, đồng thời kiểm tra việc sử dụng nó với các giá trị của nghề thủ thư.

Thủ thư và người quản lý thông tin là người không chỉ tổ chức và trình bày thông tin mà còn bảo vệ nó: bảo vệ quyền của người sáng tạo, quyền riêng tư của người dùng và trách nhiệm của cơ quan. Trí tuệ nhân tạo thách thức cả ba lĩnh vực này bằng những câu hỏi mới và phức tạp. Tải tài liệu lên AI có vi phạm bản quyền không? Việc cung cấp dữ liệu người dùng cho công cụ AI có vi phạm quyền riêng tư không? Tổ chức nên quản lý việc sử dụng AI như thế nào? Trong phần kết thúc này, chúng ta sẽ thiết lập một khuôn khổ tập hợp các chủ đề đạo đức và pháp lý mà chúng ta đã đề cập đến trong suốt học phần.

Hãy xác định các khái niệm. Bản quyền là quyền hợp pháp được cấp cho người tạo ra tác phẩm đối với việc sử dụng tác phẩm của mình; Việc sao chép hoặc sử dụng trái phép có thể bị coi là vi phạm. Dữ liệu cá nhân là bất kỳ thông tin nào trực tiếp hoặc gián tiếp nhận dạng một người và được pháp luật bảo vệ. Quản trị là khuôn khổ các quy tắc, chính sách và trách nhiệm giải trình chi phối việc sử dụng AI của tổ chức. Ba khái niệm này tạo thành cơ sở pháp lý và đạo đức cho việc sử dụng AI có trách nhiệm.

Từng bước: sử dụng AI một cách có trách nhiệm và hợp pháp

1. Đánh giá tình trạng bản quyền của bài viết. Trước khi tải văn bản, sách hoặc bài viết vào công cụ AI, hãy xem xét trạng thái bản quyền của tác phẩm đó và điều khoản sử dụng của công cụ đó. Cung cấp tác phẩm có bản quyền cho một công cụ sử dụng dữ liệu bạn tải lên cho mục đích riêng của nó có thể cấu thành hành vi vi phạm quyền.

2. Đặt câu hỏi về quyền của đầu ra. Trạng thái bản quyền của văn bản do AI tạo ra có thể không chắc chắn và AI có thể vô tình sao chép nội dung có bản quyền trong dữ liệu đào tạo. Trước khi xuất bản đầu ra AI, hãy đánh giá tính nguyên bản của nó và các vi phạm tiềm ẩn.

3. Bảo vệ dữ liệu cá nhân. Danh tính, lịch sử đọc/tìm kiếm và thông tin cá nhân của người dùng không được nhập vào bất kỳ công cụ AI nào mà không có sự đồng ý rõ ràng và sự bảo vệ mạnh mẽ. Việc ẩn danh và giảm thiểu dữ liệu (chỉ có nhiều dữ liệu khi cần thiết) là điều cần thiết.

4. Đảm bảo tính minh bạch và đồng thuận. Người dùng nên biết dữ liệu và tương tác của họ được xử lý như thế nào; Khi có liên quan đến AI, điều này cần được nêu rõ. Việc sử dụng AI bí mật làm suy yếu lòng tin.

5. Thiết lập khuôn khổ quản trị. Tổ chức nên thiết lập chính sách bằng văn bản những công cụ nào được phê duyệt, dữ liệu nào có thể được nhập, ai chịu trách nhiệm và cách xác minh kết quả đầu ra.

Mẹo: Tạo một tờ giấy “quy tắc sử dụng AI” đơn giản cho tổ chức của bạn: công cụ nào được phê duyệt, dữ liệu nào không bao giờ được nhập (cá nhân/độc quyền/bí mật), cách xác minh từng đầu ra và ai chịu trách nhiệm. Hướng dẫn một trang rõ ràng sẽ có hiệu lực thi hành cao hơn một chính sách dài dòng.

Nguyên tắc đạo đức và giá trị của nghề thư viện

Các giá trị sâu xa của nghề thủ thư đóng vai trò như một chiếc la bàn trong thời đại AI: quyền tiếp cận thông tin một cách bình đẳng, quyền tự do tư tưởng, quyền riêng tư của người dùng, sự trung thực về trí tuệ và tính khách quan. AI có thể hỗ trợ hoặc đe dọa những giá trị này. Nó có thể mở rộng khả năng tiếp cận nhưng củng cố thành kiến; có thể tăng tốc dịch vụ nhưng có thể ảnh hưởng đến quyền riêng tư; Nó có thể tạo điều kiện thuận lợi cho việc phát hiện nhưng có thể lan truyền thông tin sai lệch.

Thủ thư phụ trách kiểm tra từng AI sử dụng dựa trên các giá trị sau: "Việc sử dụng này có cân bằng quyền truy cập hoặc loại trừ một nhóm không? Nó có bảo vệ quyền riêng tư không? Nó có cung cấp thông tin chính xác và trung thực không?" AI là một công cụ; Những giá trị mà bạn sẽ sử dụng nó là bản chất của nghề nghiệp. Công nghệ thay đổi, nhưng những giá trị này là kim chỉ nam không ngừng của nghề thủ thư.

Thận trọng: "Mọi người đang sử dụng nó" hoặc "nó nhanh" không biện minh cho việc sử dụng AI. Ngay cả khi việc sử dụng đó là hợp pháp thì nó vẫn có thể phi đạo đức; Đừng áp dụng một cách làm có hại về mặt bản quyền, quyền riêng tư và công lý chỉ vì nó dễ dàng. Trách nhiệm cuối cùng không nằm ở công cụ mà nằm ở người chuyên nghiệp sử dụng nó.

ba trường hợp nhỏ

Trường hợp 1 - Tải xuống có bản quyền đã bị dừng. Một nhóm đã lên kế hoạch tải toàn bộ sách tham khảo có bản quyền vào một công cụ AI chung để tạo bản tóm tắt. Người quản lý thông tin nhận thấy điều này có rủi ro cả về bản quyền và điều khoản sử dụng dữ liệu của công cụ; thay vào đó, nó chỉ được nghiên cứu trong những đoạn trích ngắn gọn, được cho phép và trong hệ thống khép kín của cơ sở giáo dục.

Trường hợp 2 - Dữ liệu cá nhân được ẩn danh. Một thư viện muốn phân tích phản hồi của người dùng bằng AI; nhưng phản hồi chứa tên người dùng và thông tin liên hệ. Nhóm đã ẩn danh dữ liệu trước khi phân tích; chỉ có xu hướng tập thể, ẩn danh mới được xử lý. Quyền riêng tư được bảo tồn, cái nhìn sâu sắc lấy lại được.

Trường hợp 3 - Khoảng cách quản trị đã được thu hẹp. Trong một tổ chức, nhân viên sử dụng các công cụ AI khác nhau mà không có sự giám sát, đôi khi nhập các tài liệu bí mật. Người quản lý thông tin đã xuất bản chính sách dài một trang xác định các công cụ được phê duyệt, loại dữ liệu bị cấm và quy tắc xác minh; Sự không chắc chắn và rủi ro đã giảm đáng kể.

Năng lực nhân sự và văn hóa doanh nghiệp

Một chính sách quản trị chỉ mạnh mẽ như những người thực hiện nó. Ngay cả quy tắc được viết ra tốt nhất vẫn nằm trên giấy nếu nhân viên không hiểu những rủi ro của AI. Do đó, cơ sở lâu dài cho việc sử dụng AI có trách nhiệm là năng lực của nhân viên: sự hiểu biết của mỗi nhân viên về ảo giác là gì, dữ liệu nào không bao giờ được nhập vào và tại sao kết quả đầu ra cần được xác minh. Các thư viện và cơ quan thông tin có vai trò kép trong vấn đề này; Nó vừa phải đào tạo nhân viên của mình vừa phải phổ biến kiến ​​thức này cho người dùng. Văn hóa doanh nghiệp tốt là văn hóa báo cáo lỗi AI thay vì che giấu nó và thấy việc nói "Tôi không chắc chắn về kết quả này là điều bình thường, hãy cùng xác minh". Trong một môi trường mà sai sót được giấu kín vì sợ bị trừng phạt, một nguồn bịa đặt hoặc hành vi vi phạm quyền riêng tư sẽ không được chú ý. Ngoài ra, do công nghệ và công cụ thay đổi nhanh chóng nên chính sách và đào tạo cần được cập nhật thường xuyên thay vì một lần. Quản trị; Đó là một hệ thống sống nơi các quy tắc, công cụ, giáo dục và văn hóa phối hợp với nhau. Trung tâm của hệ thống này là người có thẩm quyền, người chịu trách nhiệm và đưa ra quyết định cuối cùng chứ không phải phương tiện.

Mẹo: Trước khi áp dụng một công cụ AI mới, hãy thực hiện một thí điểm nhỏ: thử với một nhóm hạn chế, thực hiện các nhiệm vụ thực tế nhưng có độ rủi ro thấp, ghi lại các lỗi và rủi ro. Điều này vừa xây dựng năng lực vừa bộc lộ các lỗ hổng chính sách trước khi triển khai công cụ này trong toàn tổ chức.

Bốn mẫu có thể sao chép

1) Đánh giá sơ bộ về bản quyền:

Giúp tôi đánh giá bản quyền nội dung sau trước khi tải vào công cụ AI: nội dung có thể có bản quyền không, cách sử dụng nào có rủi ro, giải pháp thay thế nào (trích, quyền, phạm vi công cộng) an toàn hơn? Loại nội dung: [tại đây]

2) Quét dữ liệu cá nhân:

Văn bản sau có chứa dữ liệu cá nhân (tên, liên hệ, danh tính, lịch sử đọc/tìm kiếm, thông tin ngụ ý về sức khỏe/tín ngưỡng) không? Đánh dấu từng cái, phân loại và đề xuất cách ẩn danh nó. Văn bản: [tại đây]

3) Dự thảo chính sách sử dụng AI:

Dự thảo hướng dẫn sử dụng AI dài một trang cho tổ chức của chúng tôi: (1) chính sách công cụ đã được phê duyệt, (2) loại dữ liệu không bao giờ được nhập, (3) quy tắc xác thực đầu ra, (4) trách nhiệm giải trình và tính minh bạch, (5) chính sách bản quyền và quyền riêng tư. Giữ nó ngắn gọn và có thể hành động. Bối cảnh: [tại đây]

4) Truy vấn kiểm soát đạo đức:

Kiểm tra việc sử dụng AI theo kế hoạch sau đây dựa trên các giá trị của quản lý thư viện: tính công bằng trong quyền truy cập, quyền riêng tư, độ chính xác/toàn vẹn, nguy cơ sai lệch và gắn cờ các mối lo ngại nếu có. Cách sử dụng: [tại đây]

Dấu nhắc yếu / Dấu nhắc mạnh

Dấu nhắc yếu:

Tôi có nên đưa nó vào AI để tóm tắt cuốn sách này không?

Câu hỏi không tính đến bản quyền, điều kiện dữ liệu của công cụ và các lựa chọn thay thế; Trả lời "có" có thể dẫn đến vi phạm quyền.

Lời nhắc mạnh mẽ:

Vai trò của bạn: trợ lý cố vấn bản quyền và quyền riêng tư. Tôi đang cân nhắc việc cung cấp nội dung sau cho một công cụ AI. Liệt kê các vấn đề có thể xảy ra về tình trạng bản quyền, việc sử dụng dữ liệu phương tiện và rủi ro dữ liệu cá nhân; đề xuất các giải pháp thay thế an toàn hơn (trích dẫn ngắn, quyền, phạm vi công cộng, hệ thống khép kín). Yêu cầu sự chắc chắn về mặt pháp lý, thể hiện rủi ro. Nội dung và bối cảnh: [tại đây]

Lời nhắc mạnh mẽ; Nó xem xét quyết định về các khía cạnh bản quyền, điều kiện dữ liệu và quyền riêng tư và đưa ra các lựa chọn thay thế an toàn.

Bảng kích thước quản trị

Kích thước

câu hỏi cơ bản

đề phòng

bản quyền

Có vi phạm đầu vào/đầu ra không?

Giấy phép, phạm vi công cộng, đoạn trích ngắn

sự riêng tư

Dữ liệu cá nhân có được bảo vệ không?

Ẩn danh, giảm thiểu

minh bạch

Người dùng có biết không?

Thông tin rõ ràng, đồng ý

Trách nhiệm

Ai chịu trách nhiệm?

Chính sách bằng văn bản, sự chấp thuận của con người

Giá trị

Quyền truy cập và tính toàn vẹn có được bảo vệ không?

Kiểm tra đạo đức, kiểm tra thiên vị

Những lỗi thường gặp

• Tải lên nội dung có bản quyền mà không cần suy nghĩ. Có nguy cơ vi phạm bản quyền và tình trạng dữ liệu.
• Nhập dữ liệu cá nhân vào công cụ công cộng. Xâm phạm quyền riêng tư và rủi ro pháp lý.
• Ẩn việc sử dụng AI. Không có sự minh bạch, niềm tin bị tổn hại.
• Nhầm lẫn giữa “pháp lý” với “đạo đức”. Việc sử dụng hợp pháp có thể là phi đạo đức.
• Không thiết lập khuôn khổ quản trị Việc sử dụng không kiểm soát tạo ra những rủi ro khó lường.

Tóm lại

Bản quyền, bảo mật và đạo đức là nền tảng trách nhiệm của thủ thư trong thời đại AI. Đánh giá tình trạng bản quyền của mục nhập và các điều kiện dữ liệu của công cụ; đặt câu hỏi về quyền của đầu ra; bảo vệ dữ liệu cá nhân bằng cách ẩn danh và giảm thiểu; minh bạch với người dùng và nhận được sự đồng ý; Thiết lập một khuôn khổ quản trị rõ ràng trong tổ chức. Các giá trị sâu xa của nghề thủ thư (quyền truy cập bình đẳng, quyền riêng tư, tính chính trực, công bằng) là kim chỉ nam kiểm tra mọi hoạt động sử dụng AI. Thay đổi công nghệ; Trách nhiệm và các giá trị không thay đổi, và trách nhiệm giải trình cuối cùng luôn thuộc về con người.

Nhiệm vụ ứng dụng

Chuẩn bị tài liệu quy tắc sử dụng dài một trang cho tổ chức của bạn (hoặc tổ chức hư cấu) với mẫu “dự thảo chính sách sử dụng AI”: các công cụ được phê duyệt, dữ liệu không bao giờ được nhập, quy tắc xác thực, trách nhiệm pháp lý. Sau đó, hãy kiểm tra việc sử dụng AI thực tế mà bạn đang lên kế hoạch về quyền truy cập, quyền riêng tư, độ chính xác và thành kiến ​​bằng mẫu “Truy vấn kiểm soát đạo đức” và viết cách bạn sẽ giải quyết mọi mối lo ngại phát sinh.

danh sách kiểm tra

• [ ] Tôi đã đánh giá trạng thái bản quyền của bài viết và điều kiện dữ liệu của công cụ.
• [ ] Tôi đã ẩn danh dữ liệu cá nhân và chỉ sử dụng những gì cần thiết.
• [ ] Tôi đã minh bạch với người dùng về việc sử dụng AI và tôn trọng sự đồng ý.
• [ ] Tôi đã tạo chính sách sử dụng AI bằng văn bản cho tổ chức.
• [ ] Tôi đã thử nghiệm việc sử dụng với các giá trị của thủ thư và giữ trách nhiệm cho con người.

Thi học phần

1. Định vị nào sau đây là chính xác nhất cho trí tuệ nhân tạo trong thủ thư và quản lý thông tin?

• A) AI là trợ lý tóm tắt, siêu dữ liệu, tìm kiếm và đề xuất; Trách nhiệm về tính chính xác, độ tin cậy của nguồn và các quyết định có đạo đức thuộc về con người ✔
• B) Trí tuệ nhân tạo có thể xác minh tính xác thực và chính xác của nguồn một cách đáng tin cậy
• C) Trí tuệ nhân tạo chỉ làm công việc biên mục sách, không liên quan gì đến các công việc thủ thư khác
• D) Vì trí tuệ nhân tạo vô tư hơn con người nên các quyết định về chủ đề và phân loại nên được giao cho nó.

Mô tả: Trí tuệ nhân tạo; Nó là một trợ lý soạn thảo siêu dữ liệu, tóm tắt, dịch nó, đánh dấu mẫu và trỏ nó đến nguồn. Chuyên gia có thẩm quyền chịu trách nhiệm về các nhiệm vụ có tính hệ quả cao như xác minh tính chính xác, các quyết định về chủ đề và phân loại, độ tin cậy của nguồn cũng như các quyết định về bản quyền và quyền riêng tư; Đầu ra chưa được xác minh có thể dẫn đến việc phổ biến nguồn bịa đặt hoặc vi phạm quyền riêng tư.

2. Tại sao 'ảo giác' lại đặc biệt nguy hiểm đối với người thủ thư?

• A) Đầu ra của trí tuệ nhân tạo được sản xuất rất chậm và lãng phí thời gian
• B) Trí tuệ nhân tạo có thể tạo ra các nguồn và trích dẫn không tồn tại một cách thuyết phục, và bản chất của nghề này là tính xác thực của nguồn ✔
• C) Ảo giác chỉ xảy ra trong quá trình xử lý hình ảnh, không liên quan gì đến văn bản
• D) Ảo giác chỉ được nhìn thấy trong các công cụ trí tuệ nhân tạo rất cũ, không có trong các công cụ hiện tại.

Giải thích: Ảo giác là khi trí tuệ nhân tạo tạo ra một nguồn, trích dẫn hoặc thông tin không tồn tại một cách cực kỳ thuyết phục. Vì bản chất của nghề này là tính xác thực và độ tin cậy của nguồn, nên nếu một dấu ấn hoặc trích dẫn bịa đặt được chuyển cho thư mục hoặc người dùng mà không xác minh thì thông tin sai lệch nghiêm trọng sẽ xảy ra.

3. Lĩnh vực nào sau đây có nguy cơ bị làm giả cao nhất khi sản xuất siêu dữ liệu bằng trí tuệ nhân tạo và vấn đề này cần được giải quyết như thế nào?

• A) Lĩnh vực ngôn ngữ là lĩnh vực có nguy cơ cao nhất và không cần phải xác minh
• B) Trường tiêu đề có rủi ro cao nhất và phải chứa đầy dự đoán
• C) ISBN và năm xuất bản có nguy cơ bịa đặt cao nhất và cần được xác minh nguyên văn với nguồn gốc ✔
• D) Không có lĩnh vực nào có rủi ro vì trí tuệ nhân tạo luôn tạo ra siêu dữ liệu chính xác

Giải thích: Các trường số chính xác như ISBN và năm xuất bản rất dễ bị AI giả mạo; AI có thể tạo ra một con số trông hợp lý thay vì ISBN mà nó không biết. Các trường này phải được xác minh nguyên văn với nguồn gốc (mã vạch, nhà xuất bản/colophone).

4. Mục đích chính của việc sử dụng 'từ vựng được kiểm soát' khi giao một thuật ngữ chủ đề là gì?

• A) Đảm bảo tính nhất quán và tính sẵn có của thuật ngữ trên các hồ sơ; Ngăn chặn trí tuệ nhân tạo tạo ra các điều khoản miễn phí ✔
• B) Tự động thêm mọi thuật ngữ mới được trí tuệ nhân tạo yêu cầu vào danh mục
• C) Loại bỏ hoàn toàn các thuật ngữ chủ đề và chỉ tìm kiếm theo tiêu đề
• D) Giảm tốc độ biên mục và ghi từng bản ghi với các thuật ngữ khác nhau

Mô tả: Từ vựng được kiểm soát là danh sách các thuật ngữ tiêu chuẩn và được phê duyệt. Nếu cùng một chủ đề được viết với các thuật ngữ khác nhau trong các bản ghi khác nhau, người dùng sẽ tìm thấy cái này và bỏ sót cái kia. Bằng cách đưa cho AI danh sách này và yêu cầu nó “chỉ cần chọn từ danh sách”, tính nhất quán và khả năng tìm thấy được duy trì; Một thuật ngữ mới chưa được trí tuệ nhân tạo liệt kê sẽ không được thêm vào danh mục.

5. Cách tiếp cận chính xác khi lấy số phân loại tài liệu từ trí tuệ nhân tạo là gì?

• A) Con số chính xác do trí tuệ nhân tạo đưa ra nên được chấp nhận trực tiếp mà không cần nhìn vào bảng chính thức
• B) Không nên sử dụng số phân loại nào cả, các nguồn phải được xếp ngẫu nhiên
• C) Đề xuất của lớp thạc sĩ cần được xem xét sơ bộ, các bước chính xác cần được xác minh bằng bảng phân loại chính thức ✔
• D) Vì trí tuệ nhân tạo không thể phân loại nên nên bỏ qua hoàn toàn nhiệm vụ này

Giải thích: AI thường có thể tìm đúng lớp chính, nhưng có thể bỏ sót các lớp phụ (ví dụ: bệnh sử thay vì thuốc) hoặc đưa ra những con số không chính xác có vẻ hợp lý. Do đó, đề xuất của lớp thạc sĩ nên được coi là bước khởi đầu và các bước chính xác phải được xác minh bằng bảng phân loại chính thức.

6. Câu nào đúng khi so sánh tìm kiếm ngữ nghĩa và tìm kiếm từ khóa?

• A) Tìm kiếm ngữ nghĩa sẽ thay thế tìm kiếm từ khóa trong mọi trường hợp
• B) Tìm kiếm ngữ nghĩa tìm các tài nguyên liên quan đến ngữ nghĩa; Tìm kiếm từ khóa cho tiêu đề chính xác hoặc ISBN đáng tin cậy hơn ✔
• C) Tìm kiếm từ khóa tìm các nguồn có các thuật ngữ khác nhau có liên quan về mặt ngữ nghĩa tốt hơn tìm kiếm ngữ nghĩa
• D) Tìm kiếm ngữ nghĩa chỉ hoạt động trên dữ liệu số, không hoạt động trên văn bản

Mô tả: Tìm kiếm ngữ nghĩa tìm thấy các tài nguyên từ khác nhau nhưng có liên quan, chẳng hạn như 'vấn đề về giấc ngủ' và 'rối loạn giấc ngủ', vì nó khớp với nghĩa của các từ (thông qua vectơ nhúng). Ngược lại, khi tìm kiếm ISBN, tiêu đề đầy đủ hoặc số quy chế chính xác, tìm kiếm từ khóa/tên miền sẽ đáng tin cậy hơn. Thực hành tốt nhất là sử dụng cả hai cùng nhau.

7. Nhiệm vụ của thủ thư trước nguy cơ xảy ra 'bong bóng bộ lọc' trong các đề xuất tài nguyên được cá nhân hóa là gì?

• A) Tăng cường bong bóng bằng cách chỉ đề xuất các tài nguyên tương tự nhất cho người dùng
• B) Từ bỏ hoàn toàn việc đưa ra đề xuất
• C) Chia sẻ công khai lịch sử đọc của người dùng
• D) Có ý thức bổ sung các nguồn có quan điểm và tầm nhìn khác nhau và nêu rõ điều này ✔

Giải thích: Bong bóng bộ lọc là khi hệ thống đề xuất liên tục khóa người dùng vào những nội dung tương tự và khiến họ tránh xa những góc nhìn mới và khác biệt. Giá trị của thư viện là quyền truy cập bình đẳng và đa dạng; Do đó, thủ thư có ý thức phá vỡ bong bóng bằng cách thêm các tài nguyên có hình thức khác, mở rộng tầm mắt và nêu rõ điều này một cách minh bạch.

8. Cách thực hành nào là đúng về 'tính xác thực và toàn vẹn' khi xử lý tài liệu lưu trữ bằng trí tuệ nhân tạo?

• A) 'làm đẹp' tài liệu bằng trí tuệ nhân tạo, hoàn thiện nó bằng cách bù đắp những phần còn thiếu và thay thế bản gốc
• B) Xóa bản gốc và chỉ giữ lại phiên bản được cải tiến bằng trí tuệ nhân tạo
• C) OCR chỉ nên sửa các lỗi nhận dạng, không được sửa đổi nội dung, giữ nguyên bản gốc và các dẫn xuất phải được dán nhãn rõ ràng ✔
• D) Chấp nhận đầu ra OCR dưới dạng 'văn bản sạch' mà không có bất kỳ chỉnh sửa nào và mở nó để tìm kiếm.

Mô tả: Bản chất của công việc lưu trữ là đảm bảo rằng tài liệu đến từ nguồn được xác nhận và nội dung của nó không bị thay đổi. Hiệu chỉnh OCR chỉ nên loại bỏ lỗi nhận dạng chứ không thay đổi nội dung; Việc 'phục hồi' AI không thể thay thế cho bằng chứng thực tế vì nó có thể bù đắp những phần còn thiếu. Bản quét thô (bản gốc) phải luôn được bảo quản, các dẫn xuất phải được dán nhãn rõ ràng.

9. Điều nào sau đây là cần thiết để xây dựng bot thông tin thư viện một cách có trách nhiệm?

• A) Bot đưa ra câu trả lời cho từng câu hỏi một cách nhanh chóng từ kiến thức chung của nó và không trích dẫn nguồn
• B) Bot chỉ dựa vào thông tin công ty đã được xác minh, trích dẫn sự thật và chuyển các câu hỏi nhạy cảm đến chuyên gia/con người ✔
• C) Bot trực tiếp đưa ra lời khuyên chính xác về các câu hỏi y tế và pháp lý
• D) Ẩn người dùng cho dù anh ta đang nói chuyện với bot hay con người

Giải thích: Bot tư vấn chỉ nên dựa vào thông tin hiện tại đã được xác minh và danh sách nguồn của tổ chức chứ không phải dựa trên bộ nhớ chung của nó, phải đưa ra sự thật bằng cách trích dẫn nguồn, không nên đưa ra lời khuyên về các vấn đề y tế/pháp lý/nhạy cảm, nên chuyển lời khuyên đó đến chuyên gia và nên chuyển nó cho con người khi cần thiết. Do đó, bot không thay thế con người mà trở thành một lớp giúp giảm bớt gánh nặng.

10. Trong trắc lượng thư mục, phương pháp chính xác để tìm ra số lượng trích dẫn hoặc chỉ số h của tác giả là gì?

• A) Hỏi trực tiếp AI, vì những con số nó đưa ra luôn chính xác
• B) Lấy số liệu từ cơ sở dữ liệu trích dẫn thực tế; Chỉ sử dụng trí tuệ nhân tạo để sắp xếp và diễn giải dữ liệu này ✔
• C) Ước tính các con số và sử dụng chúng trong các quyết định phát sóng
• D) Coi số lượng trích dẫn là thước đo trực tiếp chất lượng tác phẩm của tác giả.

Giải thích: Trí tuệ nhân tạo có thể tạo ra các giá trị như số trích dẫn và chỉ số h mà không cần truy cập dữ liệu thực (ví dụ: nó có thể cho giá trị 42 trong khi thực tế là 19). Vì vậy, các con số, trích dẫn phải được lấy từ cơ sở dữ liệu trích dẫn thực tế; AI chỉ nên được sử dụng để phân cụm, sắp xếp và diễn giải dữ liệu thực này.

11. Điều nào đúng về giới hạn của thước đo thư mục (số lượng trích dẫn, chỉ số h, hệ số tác động)?

• A) Số liệu trực tiếp đo lường chất lượng và có thể so sánh giữa các lĩnh vực
• B) Tiêu chí có thể được sử dụng một cách an toàn trong các quyết định tuyển dụng và thăng chức.
• C) Số liệu chỉ ra mức độ sử dụng chứ không phải chất lượng; không thể so sánh giữa các lĩnh vực và phải được cân bằng với đánh giá định tính ✔
• D) Kết quả đầu ra của ngành nhân văn được thể hiện đầy đủ và đầy đủ trong cơ sở dữ liệu trích dẫn

Tiết lộ: Các số liệu này cho biết mức độ sử dụng và khả năng hiển thị, chúng không phải là thước đo trực tiếp về chất lượng. Bởi vì văn hóa trích dẫn của các lĩnh vực là khác nhau (như y học và triết học) nên không thể so sánh trực tiếp được; Các kết quả đầu ra nặng về sách về nhân văn không được thể hiện đầy đủ trong cơ sở dữ liệu. Vì vậy, không nên sử dụng các tiêu chí một mình để đánh giá cá nhân mà cần phải cân bằng với đánh giá định tính.

12. Ưu điểm chính của phương pháp tiếp cận RAG (sản xuất tăng cường khả năng truy cập) so với AI nói chung là gì?

• A) Giảm đáng kể ảo giác bằng cách liên kết câu trả lời với tài liệu thật của cơ quan và trích dẫn nguồn ✔
• B) Luôn phản hồi hoàn hảo, bất kể chất lượng của cơ sở tài liệu
• C) Làm cho ảo giác không thể xảy ra hoàn toàn và vĩnh viễn
• D) Mở tất cả tài liệu cho mọi người mà không cần kiểm soát truy cập

Giải thích: Khi trả lời một câu hỏi, trước tiên RAG tìm những phần có liên quan từ tài liệu của chính tổ chức và đưa ra câu trả lời chỉ dựa trên những phần này, trích dẫn nguồn. Bằng cách này, câu trả lời được liên kết với tài liệu thực tế và có thể theo dõi được và ảo giác sẽ giảm đi đáng kể. Tuy nhiên, RAG không loại bỏ hoàn toàn ảo giác, vì câu trả lời vẫn có thể sai nếu đưa ra mảnh ghép sai.

13. Trong khoa học xã hội và nhân văn, phương pháp nào đáng tin cậy nhất để xác minh một trích dẫn từ AI cho người dùng?

• A) Hãy chắc chắn rằng trích dẫn có vẻ đáng tin cậy và trôi chảy
• B) Chỉ yêu cầu AI sao chép lại câu trích dẫn tương tự
• C) Xác minh trích dẫn bằng cách tìm nó trong tác phẩm thực tế của tác giả ✔
• D) Chấp nhận rằng việc trích dẫn được gán cho một cái tên nổi tiếng là đủ

Mô tả: Trí tuệ nhân tạo có thể tạo ra những trích dẫn hoàn toàn bịa đặt của một tác giả có thật; Việc trích dẫn có vẻ chính xác và thuyết phục từng chữ không phải là bằng chứng về tính chính xác của nó. Phương pháp đáng tin cậy nhất là xác minh đoạn trích bằng cách tìm nó trong tác phẩm thực tế của tác giả; Logic “tác giả này có thể đã nói điều gì đó như thế này” là chưa đủ.

14. Nguyên tắc nào là đúng trong việc sử dụng trí tuệ nhân tạo về mặt bản quyền, quyền riêng tư và đạo đức?

• A) Dữ liệu cá nhân và bản quyền có thể được nhập vào các công cụ công cộng mà không cần suy nghĩ vì nó nhanh chóng
• B) Nếu việc sử dụng là hợp pháp thì việc sử dụng đó chắc chắn là hợp đạo đức và không cần đánh giá thêm.
• C) Khi trí tuệ nhân tạo tạo ra đầu ra, trách nhiệm hoàn toàn chuyển sang công cụ chứ không phải con người.
• D) Bản quyền và quyền riêng tư phải được tôn trọng ngay từ đầu; ẩn danh, minh bạch và đồng ý là điều cần thiết và trách nhiệm cuối cùng thuộc về con người ✔

Giải thích: Việc nhập nội dung có bản quyền và dữ liệu cá nhân (ID người dùng, lịch sử đọc/tìm kiếm) vào các công cụ trí tuệ nhân tạo nói chung có thể dẫn đến vi phạm các quyền và quyền riêng tư; Ẩn danh, giảm thiểu dữ liệu, tính minh bạch và sự đồng ý là điều cần thiết. Ngoài ra, ngay cả khi việc sử dụng đó là hợp pháp, nó vẫn có thể phi đạo đức; 'mọi người đều sử dụng nó' hoặc 'nó diễn ra nhanh chóng' không biện minh cho việc thực hành và trách nhiệm cuối cùng thuộc về chuyên gia chứ không phải công cụ.