Zyski:
- Możliwość rozróżnienia, gdzie sztuczna inteligencja oszczędza czas w pracy bibliotekarza (metadane, podsumowanie, wyszukiwanie, sugestie), a gdzie dokładność, wiarygodność źródła i decyzje dotyczące prywatności pozostawia się ludziom, w zależności od poziomu ryzyka.
- Umiejętność zastosowania dyscypliny weryfikującej każdy wynik poprzez połączenie go ze źródłem, potwierdzenie w niezależnym źródle i przepuszczenie przez filtr stronniczości.
- Zrozumienie, dlaczego halucynacje, sfabrykowane źródła i prywatność użytkowników to zagrożenia, które w tym zawodzie należy brać pod uwagę od samego początku.
Kiedy rano specjalista ds. katalogowania siada za biurkiem, może mieć przed sobą dziesiątki nowo przybyłych książek, setki dokumentów ze zbiórki darowizn i pudło archiwalne czekające na digitalizację. Bibliotekarz referencyjny (ekspert, który pomaga użytkownikom znaleźć informacje) przez cały dzień odpowiada na pytania typu „gdzie jest wiarygodne źródło na ten temat?” Menedżer informacji jest odpowiedzialny za zapewnienie możliwości odnalezienia i wiarygodności tysięcy dokumentów organizacji. W tej części wyjaśnimy, gdzie dokładnie sztuczna inteligencja (w skrócie AI; duże modele językowe i podobne narzędzia) oszczędza czas w tych zadaniach, a gdzie osąd, wybór i odpowiedzialność pozostają w gestii człowieka.
Zacznijmy od definicji: sztuczna inteligencja, przez którą rozumiemy narzędzia programowe generujące język i rozpoznające wzorce, uczące się na dużych ilościach tekstu. Narzędzia te podsumowują, tłumaczą, sugerują klasyfikację, generują tekst roboczy i wzorce flag w dużych porcjach danych. Nie wie jednak, czy źródło rzeczywiście istnieje, czy informacja jest prawidłowa i czy prywatność użytkownika jest chroniona. Dlatego w bibliotekarstwie i zarządzaniu informacją sztuczna inteligencja jest asystentem, a nie decydentem.
Gdzie działa sztuczna inteligencja, a gdzie nie?
Podzielmy pracę bibliotekarza na trzy warstwy. Pierwsza warstwa to zadania mechaniczne i powtarzalne: wydobywanie wersji roboczej metadanych z nagłówka książki, podsumowanie długiego raportu, tłumaczenie tekstu z jednego języka na drugi, czyszczenie tabeli danych. Sztuczna inteligencja jest tutaj potężna i pozwala zaoszczędzić dużo czasu.
Druga warstwa to praca quasi-sądowa: jaki temat nadać dokumentowi tytuł, czy włączyć zasób do zbioru, jaki zasób polecić użytkownikowi. Sztuczna inteligencja wydaje tu sugestie, ale ostatnie słowo ma ekspert, który zna politykę instytucji i realne potrzeby użytkownika.
Trzecia warstwa to czysty osąd i odpowiedzialność: potwierdzenie, że informacje są dokładne, podjęcie decyzji o prawach autorskich, czy ujawnić wrażliwe dane osobowe, potwierdzenie wiarygodności źródła. Na tej warstwie wyniki sztucznej inteligencji stanowią jedynie punkt wyjścia; Odpowiedzialność spoczywa wyłącznie na ludziach.
Wskazówka: zanim powierzysz zadanie sztucznej inteligencji, zadaj sobie pytanie: „Co się stanie, jeśli wynik będzie nieprawidłowy?” Jeśli odpowiedź brzmi: „Zmarnuję trochę czasu”, nie krępuj się skorzystać ze sztucznej inteligencji. Jeśli odpowiedź brzmi „rozpowszechnianie fałszywego źródła, użytkownik zostaje wprowadzony w błąd lub wyciekają dane osobowe”, pamiętaj o sprawdzeniu wyników.
Halucynacje: największe zagrożenie bibliotekarza
Halucynacja ma miejsce wtedy, gdy sztuczna inteligencja tworzy nieistniejące informacje, źródła lub cytaty tak, jakby były prawdziwe, i to w niezwykle przekonującym języku. Jest to szczególnie niebezpieczne dla bibliotekarstwa i zarządzania informacją; ponieważ istotą naszego zawodu jest autentyczność i rzetelność źródła.
Kiedy powiesz sztucznej inteligencji, aby „zasugerowała pięć artykułów naukowych na ten temat”, może wygenerować tytuły, autorów i nazwy czasopism, które wydają się prawdziwe, ale w ogóle nie istnieją. Te sfabrykowane źródła są na tyle przekonujące, że mecenas czy nawet bibliotekarz może je dodać do bibliografii bez ich weryfikacji. W naukach humanistycznych i społecznych niebezpieczeństwo jest jeszcze większe: gdy „ten dokument z 1897 r.” jest sfabrykowany dla historyka lub „to orzeczenie sądu” dla prawnika, skutkuje to poważną dezinformacją.
Uwaga: Żaden cytat źródłowy, cytat czy wzmianka wytworzona przez AI nie powinna być nigdzie przekazywana bez weryfikacji w prawdziwym katalogu, bazie danych lub samym źródle. To, że coś „wygląda przekonująco”, nie znaczy, że jest prawdziwe.
Dyscyplina weryfikacji: trzy kroki
Podstawowa dyscyplina, którą bibliotekarz musi stosować podczas pracy z AI, to:
1. Połącz się ze źródłem. Każdy fakt, liczba, data i nadruk muszą opierać się na oryginalnym źródle. Zapytaj sztuczną inteligencję „powiedz mi, z jakiego źródła masz te informacje” i niezależnie sprawdź to źródło.
2. Niezależnie potwierdź. Zweryfikuj krytyczne informacje w przynajmniej jednym wiarygodnym źródle spoza AI (autentyczny katalog, oficjalna baza danych, dokument pierwotny).
3. Przepuść go przez filtr polaryzacyjny. Sztuczna inteligencja niesie ze sobą stronniczość danych, na których jest szkolona. Sugerowany temat, lista sugestii lub podsumowanie mogą podkreślać pewne punkty widzenia i przesłaniać inne. Zapytaj, kogo pominięto, jakiej perspektywy brakuje.
Prywatność i prywatność użytkownika
Jedną z najbardziej podstawowych zasad etycznych zawodu bibliotekarza jest prywatność użytkownika: to, co dana osoba czyta, czego szuka i czym się interesuje, jest poufne. Wprowadzanie do narzędzi AI, zwłaszcza publicznych, działających w sieci Internet, danych obejmujących tożsamość użytkowników, historię wyszukiwania czy pożyczone zasoby może naruszać tę zasadę; ponieważ dane te mogą trafić do systemów podmiotów trzecich.
Podobnie w organizacji niesklasyfikowane, ale wrażliwe dokumenty (dane osobowe, umowy, korespondencja wewnętrzna) nie powinny być przesyłane do ogólnego narzędzia AI. Do tego typu danych preferowane są narzędzia działające w oparciu o własny, bezpieczny, zamknięty system instytucji.
Wskazówka: Przed wprowadzeniem jakichkolwiek danych do AI zapytaj „Czy te informacje są publiczne?” zapytać. Jeśli odpowiedź brzmi nie lub nie jesteś pewien, umieść te dane w zdepersonalizowanym, anonimowym formacie lub korzystaj wyłącznie z bezpiecznych narzędzi zatwierdzonych przez instytucję.
trzy mini etui
Przypadek 1 – Projekt metadanych dla 400 dokumentów. Biblioteka uniwersytecka musiała skatalogować archiwum liczące 400 dokumentów podarowanych przez profesora. Ekspert wyodrębnił wersję roboczą tytułu, datę i sugestię tematu z pierwszej strony każdego dokumentu za pomocą sztucznej inteligencji: średni czas na dokument spadł z 12 minut do 4 minut. Jednak każdy projekt odcisku był porównywany z oryginalnym dokumentem i zatwierdzany przez biegłego; Na tym etapie wychwycono 17 błędnych dat wymyślonych przez sztuczną inteligencję.
Przypadek 2 — złapano fałszywe źródło. Bibliotekarz-doradca otrzymał od YZ 6 propozycji artykułów, szukając zasobów na temat „migracji klimatycznych” dla studenta studiów licencjackich. Bibliotekarz przeszukał je wszystkie w bazie instytucji: 2 z 6 artykułów w ogóle nie istniały. Etap weryfikacji uniemożliwił uczniowi otrzymanie sfabrykowanego źródła.
Przypadek 3 – Zapobiegnięto naruszeniu poufności. W bibliotece rozważono użycie ogólnego narzędzia AI do analizy „który użytkownik jest zainteresowany jakim tematem” na podstawie rekordów realizacji transakcji. Menedżer informacji zdał sobie sprawę, że ujawnienie tych danych wraz z identyfikatorem użytkownika stanowiłoby naruszenie prywatności; dane zostały najpierw zanonimizowane i przetworzone wyłącznie w formie zagregowanych statystyk pozbawionych danych umożliwiających identyfikację.
Cztery szablony do kopiowania
1) Zacznij definiować role i granice:
Twoja rola: doświadczony asystent specjalisty ds. katalogowania i zarządzania informacją. Twoje zadanie: sporządzić wersję roboczą na podstawie informacji zawartych w źródle, które ci podałem. Zasady: (1) Korzystaj wyłącznie z informacji zawartych w tekście, który Ci podałem, nie dodawaj własnych informacji. (2) Zaznacz „[należy zweryfikować]”, jeśli nie jesteś pewien. (3) Nie należy wymyślać żadnych dat, imion ani nadruków. Jeśli rozumiesz, zacznij. Źródło: [tutaj]
2) Pytanie sprawdzające:
Wymień każde twierdzenie faktyczne (data, nazwa, numer, cytat źródłowy) w poniższym tekście. Dla każdego: skąd w tekście uzyskałeś tę informację? Jeżeli nie jest to jasno określone w tekście, należy wpisać „nie w tekście”. Tekst: [tutaj]
3) Sprawdzanie stronniczości i braku perspektywy:
Które perspektywy podkreśla poniższe podsumowanie/rekomendacja, a które pomija? Jakich grup, regionów lub widoków może brakować? Opieraj się tylko na tekście, nie spekuluj. Tekst: [tutaj]
4) Wstępna kontrola prywatności:
Czy poniższy tekst zawiera dane osobowe (imię i nazwisko, numer identyfikacyjny, kontakt, historię czytania/wyszukiwania) lub wrażliwe informacje korporacyjne? Jeśli tak, wymień go i zasugeruj, w jaki sposób można go zanonimizować. Tekst: [tutaj]
Słaba zachęta/silna zachęta
Słaba zachęta:
Znajdź mi jakieś materiały na ten temat.
Ten monit zaprasza sztuczną inteligencję do generowania fałszywych zasobów. Nie ma ról, granic, zasad walidacji i zasobów. Sztuczna inteligencja może tworzyć wiarygodne, ale nieistniejące tagi.
Potężny monit:
Twoja rola: referencyjny asystent bibliotekarza. Wybierz te, które dotyczą tematu „migracji klimatycznych” z podanych przeze mnie poniżej wpisów w katalogu i wyjaśnij, dlaczego są one istotne. Nie dodawaj żadnych źródeł, których nie ma na liście, nie fabrykuj źródeł. Jeśli nie jesteś pewien, powiedz „nie ma na liście odpowiednich źródeł”. Wpisy do katalogu: [tutaj]
Różnica jest wyraźna: silny impuls zmusza sztuczną inteligencję do pracy z danego rzeczywistego źródła, a nie z własnej pamięci i zapobiega fabrykacji.
Tabela warstw i odpowiedzialności
warstwa biznesowa
przykładowe zadanie
Rola sztucznej inteligencji
decyzja mężczyzny
mechaniczne
Projekt metadanych, streszczenie, tłumaczenie
Szybko tworzy przeciągi
weryfikacja, zatwierdzenie
quasi-sądowe
Tytuł tematu, sugestia źródła
oferuje sugestie
Wybór według zasad
czysty osąd
Uwierzytelnienie, decyzja dotycząca praw autorskich
Tylko wstępne informacje
Pełna odpowiedzialność spoczywa na osobie
Typowe błędy
- Zastąpienie źródła wyjściem AI. Sztuczna inteligencja jest asystentem, a nie zasobem; Każde wyjście jest sprawdzane.
- Uznanie sfabrykowanego źródła za przekonujące. To, że wygląda dobrze, nie znaczy, że jest prawidłowe.
- Wprowadzanie danych osobowych/wrażliwych do narzędzia publicznego. Od samego początku szanowana jest prywatność użytkowników i poufność korporacyjna.
- Ignorowanie uprzedzeń. Sztuczna inteligencja niesie ze sobą perspektywy danych, na których jest szkolona; Zapytaj, czego brakuje.
- Ocenę pozostawiam AI. Decyzje dotyczące dokładności, praw autorskich i prywatności należą do ludzi.
Podsumowując
sztuczna inteligencja; Jest to potężny asystent do podsumowań, redagowania, tłumaczenia i oznaczania wzorców w bibliotekarstwie i zarządzaniu informacją. Oszczędza dużo czasu w pracach mechanicznych; udziela porad w sprawach quasi-sądowych; Jednak weryfikacja dokładności, wiarygodności źródła, prywatności użytkownika i decyzji etycznych należą do ludzi. Halucynacje są największym zagrożeniem dla tego zawodu: nie używa się żadnych źródeł ani cytatów bez sprawdzenia. Uruchamiaj sztuczną inteligencję z jasnymi zasadami roli, granic i walidacji; Potwierdź każdy krytyczny wynik z niezależnego źródła.
Zadanie aplikacji
Wybierz prawdziwy temat ze swojej dziedziny. Poproś sztuczną inteligencję o 5 rekomendacji zasobów na ten temat, a następnie przeszukaj każdy z nich w rzeczywistym katalogu lub bazie danych i zanotuj, ile faktycznie istnieje. Następnie za pomocą szablonu „Start definiujący role i granice” poinstruuj sztuczną inteligencję, aby działała wyłącznie na podstawie dostarczonego przez Ciebie tekstu i porównaj wyniki obu podejść. Napisz, które podejście uniemożliwia dopasowanie.
lista kontrolna
- [ ] Ustaliłem, na którym poziomie (mechanicznym, półsądowym, czystym osądem) znajduje się zadanie.
- [ ] „Co się stanie, jeśli dane wyjściowe będą nieprawidłowe?” Zadałem pytanie.
- [ ] Sprawdziłem każdy kredyt i cytat w niezależnym źródle.
- [ ] Sprawdziłem, czy dane wprowadzane do AI nie zawierają żadnych danych osobowych/wrażliwych.
- [ ] Ostateczną decyzję i odpowiedzialność pozostawiłem według własnego uznania.