Zyski:
- Możliwość rozróżnienia między podejściem do rekomendacji opartych na treści a podejściem opartym na współpracy oraz zapobiegania fałszywym źródłom poprzez weryfikację każdej rekomendacji w prawdziwej kolekcji
- Umiejętność przełamywania bańki filtrującej świadomą różnorodnością i przedstawiania propozycji z przejrzystym uzasadnieniem
- Ochrona prywatności historii czytania i wyszukiwania użytkowników oraz bezpieczne przetwarzanie tych danych
Czytelnik może zapytać: „Skończyłem tę książkę, co mam przeczytać dalej?” ', dobry bibliotekarz poleca zasoby odpowiednie do jego zainteresowań, poziomu i celu. W cyfrowym świecie systemy rekomendacji robią to na dużą skalę: rekomendują nowe zasoby, analizując zainteresowania użytkownika w przeszłości lub cechy zasobu. W tej części dowiesz się, jak działają systemy rekomendacji oparte na sztucznej inteligencji, co wnoszą do biblioteki i jak zarządzać zagrożeniami, takimi jak prywatność, stronniczość i „bańka filtrująca”.
Zdefiniujmy pojęcia. Rekomendacja oparta na treści uwzględnia charakterystykę źródła (temat, autor, gatunek) i rekomenduje podobne źródła: „Jeśli spodobała Ci się ta książka historyczna, może spodobać Ci się także ta, która obejmuje ten sam okres”. Wspólne filtrowanie działa na zasadzie „inni użytkownicy, którzy polubili zasoby takie jak Ty, również je polubili”. Bańka filtrująca ma miejsce wtedy, gdy system rekomendacji blokuje użytkownika w stale podobnych treściach i trzyma go z dala od nowych, odmiennych perspektyw. Dobra rekomendacja biblioteki zarówno wzbudza zainteresowanie, jak i przełamuje bańkę.
Krok po kroku: odpowiedzialne podejście doradcze
1. Wyjaśnij cel. Jaki jest cel wniosku? Czy chcesz, aby użytkownik kontynuował lekturę, poszerzał swoje horyzonty lub znalazł zasoby na konkretny problem badawczy? Cel określa rodzaj rekomendacji.
2. Zweryfikuj źródło i autentyczność. Podczas przedstawiania sugestii sztuczna inteligencja może tworzyć nieistniejące książki. Sprawdź, czy każdy sugerowany zasób faktycznie istnieje w kolekcji lub w wiarygodnym katalogu.
3. Utrzymuj różnorodność. Polecanie tylko tego „najbardziej podobnego” tworzy bańkę filtrującą. Świadomie uwzględniaj różne perspektywy, różnych autorów i różne poziomy. Zadaniem biblioteki jest otwieranie horyzontów, a nie zamykanie ich w ekologii.
4. Chroń prywatność. Spersonalizowana rekomendacja wykorzystuje historię czytania użytkownika i jest niezwykle dokładna. Nie udostępniaj tych danych ogólnym narzędziom AI; Przetwarzaj wyłącznie w bezpiecznych systemach instytucji, za zgodą użytkownika.
5. Bądź przejrzysty. Wyjaśnij użytkownikowi, dlaczego wydano rekomendację: „Ten zasób został polecony, ponieważ jest powiązany z tematem, który Cię interesuje”. Przejrzystość wzmacnia zaufanie i umiejętność korzystania z informacji.
Wskazówka: Świadomie dodaj „nieco inny” zasób do listy sugestii i oświadcz: „Są blisko Twojego obszaru zainteresowań; dodałem ten jako przypomnienie”. To zarówno przełamuje bańkę filtrującą, jak i demonstruje wartość odkrywczą biblioteki.
Wymiar etyczny propozycji
Systemy rekomendacji wydają się niewinne, ale dają potężne efekty. To, jakie zasoby są rekomendowane użytkownikowi, kształtuje jego świat informacyjny. Jeśli system wyróżni tylko źródła popularne lub tylko z określonego punktu widzenia, głosy mniejszości, odmienne poglądy i mniej znane, wartościowe źródła będą niewidoczne. Sztuczna inteligencja może wzmocnić ten trend, dziedzicząc popularność i uprzedzenia w danych szkoleniowych.
I tu właśnie pojawia się wartość bibliotekarstwa: biblioteka nie jest komercyjną platformą rekomendacji; Jej misją jest zapewnienie równego i zróżnicowanego dostępu do informacji. Za dostosowanie systemu rekomendacji do tej wartości odpowiada bibliotekarz.
Uwaga: Historia czytania i wyszukiwania użytkownika jest jedną z najbardziej wrażliwych danych osobowych. To, co dana osoba czyta, może ujawnić informacje na temat jej zdrowia, poglądów politycznych, przekonań lub kryzysu osobistego. Nigdy nie przekazuj tych danych wraz z ich tożsamością do systemów zewnętrznych; Anonimizacja i zgoda są niezbędne.
trzy mini etui
Przypadek 1 — Zalecenie oparte na treści zadziałało. Biblioteka szkolna korzystała z systemu opartego na treści, aby rekomendować uczniom zasoby podobne do książki, którą czytali. Jeden ze studentów skończył powieść science fiction; System rekomendował trzy książki o tej samej tematyce, ale autorstwa innego autora. Student pożyczył dwa; Nawyk czytania pozostał. Bibliotekarz potwierdził już wcześniej, że wszystkie propozycje faktycznie znajdują się w zbiorze.
Przypadek 2 — złapano fałszywą sugestię. Bibliotekarz poprosił sztuczną inteligencję o polecenie użytkownikowi 8 książek. Sprawdził listę w katalogu: 3 z 8 książek w ogóle brakowało; Sztuczna inteligencja wymyśliła wiarygodne nagłówki. Etap weryfikacji zapobiegł rekomendowaniu użytkownikowi nieistniejących książek.
Przypadek 3 — Pęknięcie balonu filtrującego. Badacz stale współpracował ze źródłami o tym samym punkcie widzenia, a system zawsze sugerował podobne. Bibliotekarz celowo uwzględnił dwa źródła, które prezentowały kontrastowe podejście do tematu i wyraźnie to dał do zrozumienia. Dopiero dzięki tym przeciwstawnym źródłom badacz zdał sobie sprawę z niepełnego aspektu swoich badań.
Zimny start i nowy problem użytkownika
Dobrze znanym wyzwaniem systemów rekomendacyjnych jest problem zimnego startu: system nie wie, co polecić nowemu użytkownikowi lub zasób, który właśnie został dodany do kolekcji, dla którego nie ma danych historycznych. W takim przypadku wiele systemów korzysta z najpopularniejszych zasobów jako bezpiecznej opcji; Oznacza to, że mało znane cenne zasoby w ogóle nie są polecane, a popularność sama się napędza. Z punktu widzenia bibliotekarstwa stoi to w sprzeczności z wartością równego dostępu. Rozwiązaniem jest zadanie nowemu użytkownikowi krótkiego, jasnego pytania dotyczącego preferencji (które tematy, jaki poziom, jaki cel) przed wydaniem rekomendacji i wyróżnieniem nowo dodanych zasobów w oparciu o ich charakterystykę treści. W tym momencie, analizując temat i cechy zasobu, sztuczna inteligencja może powiązać nawet książkę, która nigdy nie była wypożyczona, z odpowiednim użytkownikiem; o ile sugestia pochodzi z prawdziwej kolekcji i jest zweryfikowana. W ten sposób system uwidacznia nie tylko tych „bardzo kochanych”, ale także „istotnych i wartościowych”.
Wskazówka: Konfigurując rekomendację dla nowego użytkownika, oprzyj ją na bieżących potrzebach użytkownika, a nie na historycznych danych systemu. Jedno dobre pytanie („czy to ma służyć badaniom, dla przyjemności, w jakim stopniu?”) często daje trafniejszą rekomendację niż miesiące zbierania danych behawioralnych.
Cztery szablony do kopiowania
1) Rekomendacja podobnych zasobów oparta na treści:
Poniżej znajduje się temat/podsumowanie zasobu, który spodobał się użytkownikowi. Podałem także listę istniejących zasobów w naszym zbiorze. Właśnie z tej listy zaproponuj 5 zasobów o podobnej tematyce i do każdego napisz jednozdaniowe uzasadnienie. Sugerowanie źródeł niewymienionych na liście. Ulubione źródło: [tutaj] / Lista kolekcji: [tutaj]
2) Sugestia urozmaicająca:
Do poniższej listy sugestii dodaj 2 zasoby, które poszerzą horyzonty użytkownika i zaoferują inną perspektywę lub podtemat (tylko z podanej przeze mnie listy kolekcji). Wyjaśnij, dlaczego są one inne i cenne. Lista: [tutaj] / Kolekcja: [tutaj]
3) Wyjaśnienie powodu zalecenia:
Do każdej poniższej rekomendacji napisz krótkie, przejrzyste uzasadnienie, które można pokazać użytkownikowi: „Ten zasób został polecony, ponieważ…” Bez przesady i bez podawania danych osobowych. Sugestie: [tutaj]
4) Wstępna kontrola prywatności:
Czy następujący wpis z sugestią zawiera informacje identyfikujące użytkownika lub informacje wrażliwe (wskazujące na stan zdrowia, przekonania, poglądy polityczne)? Jeśli tak, zaznacz to i zasugeruj, jak je zanonimizować. Wejście: [tutaj]
Słaba zachęta/silna zachęta
Słaba zachęta:
Poleć 10 książek temu użytkownikowi do przeczytania.
Sztuczna inteligencja generuje sugestie ze swojej globalnej pamięci, nie znając kolekcji; Potrafi wymyślać książki, które nie istnieją i nie szanują różnorodności i prywatności.
Potężny monit:
Twoja rola: doradca czytelnika. Poniżej znajduje się temat, który spodobał się użytkownikowi oraz lista prawdziwych źródeł w naszej kolekcji. (1) Zaproponuj z listy 5 źródeł związanych z tematem. (2) Dodaj także 2 źródła z różnymi perspektywami, które otworzą ci oczy. (3) Napisz przejrzyste uzasadnienie każdej sugestii. Nie skreślaj listy, nie fałszuj źródeł ani nie sugeruj danych osobowych. Temat: [tutaj] / Kolekcja: [tutaj]
Potężny monit; ogranicza je do rzeczywistego zbioru, wymaga różnorodności, dodaje uzasadnienie i zasadę prywatności.
Tabela porównawcza typów rekomendacji
Typ sugestii
mocny punkt
ryzyko
Obowiązek bibliotekarza
oparte na treści
Dobrze przyciąga uwagę
bańka filtracyjna
Dodaj różnorodność
współpracujący
zaskakujące odkrycie
Prywatność i stronniczość popularności
Anonimowość, równowaga
Lista produkcji AI
szybko
wymyślone źródło
zweryfikować rzeczywistość
Typowe błędy
- Oferowanie sugestii bez weryfikacji. Sztuczna inteligencja może tworzyć nieistniejące źródła.
- Po prostu polecam „najbardziej podobne”. Bańka filtrująca zawęża horyzonty użytkownika.
- Eksport historii czytania do narzędzia zewnętrznego. To najbardziej wrażliwe dane dotyczące prywatności.
- Przedstawienie propozycji bez uzasadnienia. Przejrzystość wspiera zaufanie i umiejętność czytania i pisania.
- Ignorowanie uprzedzeń związanych z popularnością. Tracą się cenne, choć mało znane zasoby.
Podsumowując
Systemy rekomendacji to potężne narzędzia ułatwiające odkrywanie poprzez zdobywanie zainteresowań użytkowników; Podejścia oparte na treści i współpracy niosą ze sobą różne mocne strony i ryzyko. Sztuczna inteligencja szybko generuje sugestie, ale może wymyślać nieistniejące źródła, filtrować bańki i wzmacniać stronniczość. Zawód bibliotekarza; Aby zweryfikować każdą sugestię w realnym zbiorze, przełamać bańkę świadomą różnorodnością, chronić prywatność użytkowników i zachować wartość równego i zróżnicowanego dostępu do biblioteki poprzez przedstawianie sugestii z przejrzystymi powodami.
Zadanie aplikacji
Przygotuj krótką listę zbiorów faktograficznych (10-15 źródeł). Wygeneruj rekomendację dla użytkownika za pomocą szablonu „rekomendacja podobnych zasobów na podstawie treści” i sprawdź, czy wszyscy oni rzeczywiście znajdują się na liście. Następnie dodaj do listy źródła o różnych perspektywach, korzystając z szablonu „Sugestia, która dodaje różnorodności”. Na koniec utwórz przejrzyste wyjaśnienie każdej sugestii za pomocą szablonu „Wyjaśnienie uzasadnienia sugestii” i zaplanuj, w jaki sposób przedstawisz je użytkownikowi.
lista kontrolna
- [ ] Sprawdziłem, że każda sugestia rzeczywiście istnieje w kolekcji.
- [ ] Dodałem urozmaicenia, aby przełamać bańkę filtrującą.
- [ ] Zadbałem o bezpieczeństwo historii czytania/wyszukiwania użytkownika, nie udostępniałem jej żadnemu zewnętrznemu narzędziu.
- [ ] Do każdej propozycji przygotowałem przejrzyste uzasadnienie.
- [ ] Aby uniknąć stronniczości związanej z popularnością, zwracałem uwagę na mniej znane i wartościowe źródła.