zisky:
- Schopnost rozlišovat mezi přístupy doporučení založenými na obsahu a na základě spolupráce a předcházet falešným zdrojům ověřením každého doporučení ve skutečné sbírce
- Schopnost rozbít filtrační bublinu vědomou rozmanitostí a prezentovat návrhy s transparentním odůvodněním
- Ochrana soukromí uživatelů při čtení a historii vyhledávání a bezpečné zpracování těchto dat
Čtenář se může zeptat: "Dočetl jsem tuto knihu, co bych měl číst dál?" “, dobrý knihovník doporučuje zdroje odpovídající jeho zájmu, úrovni a účelu. V digitálním světě to systémy doporučení dělají ve velkém: doporučují nové zdroje tím, že se dívají na minulé zájmy uživatele nebo na charakteristiky zdroje. V této lekci se dozvíte, jak fungují systémy doporučení založené na umělé inteligenci, co přinášejí do knihovny a jak řídit rizika, jako je soukromí, zkreslení a „filtrační bublina“.
Pojďme si definovat pojmy. Doporučení založené na obsahu se zaměřuje na charakteristiku zdroje (téma, autora, žánr) a doporučuje podobné zdroje: „Pokud se vám líbila tato historická kniha, mohla by se vám líbit i tato, která zahrnuje stejné období.“ Kolaborativní filtrování funguje na principu „ty se líbily i ostatním uživatelům, kteří si oblíbili zdroje jako vy“. Filtrační bublina nastane, když systém doporučení uzamkne uživatele do neustále podobného obsahu a brání mu od nových, odlišných perspektiv. Dobré doporučení knihovny zaujme a zároveň prolomí bublinu.
Krok za krokem: odpovědný poradenský přístup
1. Ujasněte si účel. Co je cílem návrhu? Chcete, aby uživatel pokračoval ve čtení, rozšířil si obzory nebo našel zdroje pro konkrétní výzkumnou otázku? Účel určuje typ doporučení.
2. Ověřte zdroj a pravost. Umělá inteligence může při vytváření návrhů vymýšlet neexistující knihy. Ověřte, že každý navrhovaný zdroj skutečně existuje v kolekci nebo ve spolehlivém katalogu.
3. Udržujte rozmanitost. Doporučení pouze té "nejpodobnější" vytváří filtrační bublinu. Vědomě zahrňte různé pohledy, různé autory a různé úrovně. Úkolem knihovny je otevírat obzory, nikoli je omezovat na ekologii.
4. Chraňte soukromí. Personalizované doporučení využívá historii čtení uživatele a je extrémně přesné. Neposkytujte tato data obecným nástrojům umělé inteligence; Zpracovávat pouze v rámci zabezpečených systémů instituce se souhlasem uživatele.
5. Buďte transparentní. Vysvětlete uživateli, proč bylo doporučení učiněno: "Tento zdroj byl doporučen, protože souvisí s tématem, které vás zajímá." Transparentnost posiluje důvěru a informační gramotnost.
Tip: Vědomě přidejte do seznamu návrhů „trochu jiný“ zdroj a uveďte: „Tyto jsou blízké oblasti vašeho zájmu; tento jsem přidal jako osvěžení.“ To jak prolomí filtrační bublinu, tak demonstruje objevovací hodnotu knihovny.
Etický rozměr návrhu
Systémy doporučení se zdají být nevinné, ale vytvářejí silné efekty. Které zdroje jsou uživateli doporučeny, formují jeho informační svět. Pokud systém zvýrazňuje pouze zdroje, které jsou populární nebo pouze z určitého úhlu pohledu, menšinové hlasy, odlišné názory a méně známé cenné zdroje budou neviditelné. Umělá inteligence může tento trend posílit tím, že zdědí popularitu a předsudky v trénovacích datech.
Zde přichází na řadu hodnota knihovnictví: knihovna není motorem komerčních doporučení; Jejím posláním je zajistit rovný a různorodý přístup k informacím. Je odpovědností knihovníka sladit systém doporučení s touto hodnotou.
Upozornění: Historie čtení a vyhledávání uživatele je jedním z nejcitlivějších údajů o ochraně osobních údajů. To, co člověk čte, může odhalit informace o jeho zdraví, politických názorech, přesvědčeních nebo osobní krizi. Nikdy nepřenášejte tato data s jejich identitou do externích systémů; Nezbytností je anonymizace a souhlas.
tři mini pouzdra
Případ 1 – Doporučení na základě obsahu fungovalo. Školní knihovna používala systém založený na obsahu k doporučování zdrojů studentům, které byly podobné knize, kterou četli. Jeden student dokončil sci-fi román; Systém doporučil tři knihy na stejné téma, ale od jiného autora. Student si vypůjčil dva; Návyk čtení pokračoval. Knihovník již dříve potvrdil, že všechny návrhy ve sbírce skutečně existují.
Případ 2 – Falešný návrh zachycen. Knihovník požádal AI, aby uživateli doporučila 8 knih. Zkontroloval seznam v katalogu: 3 z 8 knih vůbec chyběly; AI vymyslela věrohodné titulky. Krok ověření zabránil tomu, aby byly uživateli doporučeny neexistující knihy.
Případ 3 – Balónek filtru praskl. Výzkumník neustále pracoval se zdroji se stejným úhlem pohledu a systém vždy navrhoval podobné. Knihovnice záměrně zahrnula dva zdroje, které představovaly kontrastní přístup k tématu a daly to jasně najevo. Teprve díky těmto protichůdným zdrojům si badatel uvědomil neúplný aspekt své studie.
Studený start a problém s novým uživatelem
Známým problémem doporučujících systémů je problém studeného startu: systém neví, co doporučit novému uživateli nebo zdroj, který byl právě přidán do kolekce, pro kterou neexistují žádná historická data. V tomto případě se mnoho systémů obrací na nejoblíbenější zdroje jako na bezpečnou možnost; To znamená, že málo známé cenné zdroje se vůbec nedoporučují a popularita se živí sama sebou. Z hlediska knihovnictví je to v rozporu s hodnotou rovného přístupu. Řešením je položit novému uživateli krátkou, jasnou preferenční otázku (jaká témata, která úroveň, jaký účel) před tím, než udělá doporučení a zvýrazní nově přidané zdroje na základě jejich obsahových charakteristik. V tomto okamžiku může umělá inteligence pomocí analýzy předmětu a vlastností zdroje propojit s relevantním uživatelem dokonce i knihu, která nebyla nikdy vypůjčena; pokud návrh pochází ze skutečné sbírky a je ověřen. Systém tak zviditelňuje nejen to „velmi milované“, ale také „relevantní a cenné“.
Tip: Při nastavování doporučení pro nového uživatele vycházejte z aktuálních potřeb uživatele, nikoli z historických dat systému. Jedna dobrá otázka („je to pro výzkum, pro potěšení, do jaké míry?“) často poskytuje přesnější doporučení než měsíce údajů o chování.
Čtyři kopírovatelné šablony
1) Doporučení podobného zdroje založeného na obsahu:
Níže je uveden předmět/shrnutí zdroje, který se uživateli líbil. Také jsem uvedl seznam existujících zdrojů v naší sbírce. Jen z tohoto seznamu navrhněte 5 zdrojů podobných tématu a ke každému napište jednovětové odůvodnění. Navrhující zdroje nejsou uvedeny. Oblíbený zdroj: [zde] / Seznam sbírek: [zde]
2) Návrh, který přidává rozmanitost:
Do níže uvedeného seznamu návrhů přidejte 2 zdroje, které uživateli rozšíří obzory a nabídnou jiný pohled nebo podtéma (pouze ze seznamu kolekce, který jsem uvedl). Vysvětlete, proč jsou jiné a cenné. Seznam: [zde] / Kolekce: [zde]
3) Vysvětlení důvodu doporučení:
Ke každému níže uvedenému doporučení napište krátké, transparentní odůvodnění, které může být uživateli ukázáno: „Tento zdroj byl doporučen, protože...“ Bez nadsázky, bez implikace osobních údajů. Návrhy: [zde]
4) Předběžná kontrola soukromí:
Obsahuje následující záznam návrhu uživatele identifikující nebo citlivé informace (naznačující zdraví, přesvědčení, politické názory)? Pokud ano, označte jej a navrhněte, jak jej anonymizovat. Vstup: [zde]
Slabá výzva / Silná výzva
Slabá výzva:
Doporučte tomuto uživateli 10 knih ke čtení.
Umělá inteligence generuje návrhy ze své globální paměti, aniž by znala kolekci; Dokáže vymýšlet knihy, které neexistují a nerespektuje rozmanitost a soukromí.
Výkonná výzva:
Vaše role: čtenářský poradce. Níže je uvedeno téma, které se uživateli líbilo, a seznam skutečných zdrojů v naší sbírce. (1) Navrhněte 5 zdrojů souvisejících s tématem ze seznamu. (2) Přidejte také 2 zdroje s různými perspektivami, které vám otevřou oči. (3) Ke každému návrhu napište transparentní odůvodnění. Nevycházejte ze seznamu, nevytvářejte si zdroje ani nenaznačujte osobní údaje. Předmět: [zde] / Kolekce: [zde]
Výkonná výzva; omezuje to na skutečný sběr, vyžaduje rozmanitost a přidává odůvodnění a pravidlo ochrany soukromí.
Srovnávací tabulka typů doporučení
Typ návrhu
silná stránka
riziko
Povinnost knihovníka
založené na obsahu
Dobře přitahuje pozornost
filtrační bublina
Přidejte rozmanitost
kolaborativní
překvapivé zjištění
Soukromí, zkreslení popularity
Anonymita, rovnováha
Seznam produkce AI
rychle
vymyšlený zdroj
ověřit realitu
Časté chyby
- Nabízí návrhy bez ověření. AI může tvořit neexistující zdroje.
- Jen doporučuji "nejpodobnější". Filtrační bublina zužuje uživateli obzory.
- Export historie čtení do externího nástroje. Jedná se o nejcitlivější údaje o soukromí.
- Prezentace návrhu bez odůvodnění. Transparentnost podporuje důvěru a gramotnost.
- Ignorování zkreslení popularity. Cenné, ale málo známé zdroje jsou ztraceny.
V souhrnu
Systémy doporučení jsou mocné nástroje, které usnadňují objevování tím, že zachycují zájem uživatelů; Přístupy založené na obsahu a spolupráci s sebou nesou různé silné stránky a rizika. Umělá inteligence je rychlá ve vytváření návrhů, ale dokáže vymýšlet neexistující zdroje, filtrovat bubliny a posilovat zaujatost. Práce knihovníka; Ověřovat každý návrh ve skutečné sbírce, prolomit bublinu vědomou rozmanitostí, chránit soukromí uživatelů a zachovat hodnotu rovného a různorodého přístupu knihovny předkládáním návrhů s transparentními důvody.
Aplikační úkol
Připravte krátký seznam faktografických sbírek (10-15 zdrojů). Vygenerujte doporučení pro uživatele pomocí šablony „doporučení podobného zdroje založeného na obsahu“ a ověřte, že všichni skutečně existují v seznamu. Poté do seznamu přidejte zdroje s různými pohledy pomocí šablony „Návrh, který přidává rozmanitost“. Nakonec vytvořte transparentní vysvětlení pro každý návrh pomocí šablony „Vysvětlení odůvodnění návrhu“ a naplánujte, jak jej budete prezentovat uživateli.
kontrolní seznam
- [ ] Ověřil jsem, že každý návrh ve sbírce skutečně existuje.
- [ ] Přidal jsem rozmanitost, abych rozbil filtrační bublinu.
- [ ] Uchoval jsem historii čtení/hledání uživatele v bezpečí, nedal jsem to externímu nástroji.
- [ ] Ke každému podnětu jsem připravil transparentní odůvodnění.
- [ ] Abych se vyhnul zkreslení popularity, sledoval jsem méně známé a cenné zdroje.