Autorské práva, súkromie, etika a riadenie

zisky:

• Schopnosť znížiť právne riziká hodnotením stavu autorských práv na vstupe a dátových podmienok nástroja a spochybnením práv na výstup
• Schopnosť chrániť osobné údaje prostredníctvom anonymizácie a minimalizácie a zabezpečiť súkromie transparentnosťou pre používateľa
• Schopnosť vytvoriť rámec riadenia pre inštitúciu, ktorý zahŕňa schválené nástroje, zakázané údaje a overovacie pravidlá, a otestovať jeho používanie s knihovníckymi hodnotami.

Knihovník a informačný manažér je niekto, kto informácie nielen organizuje a prezentuje, ale ich aj chráni: chráni práva tvorcu, súkromie používateľa a zodpovednosť inštitúcie. Umelá inteligencia spochybňuje všetky tri oblasti novými a zložitými otázkami. Je nahranie dokumentu do AI porušením autorských práv? Porušuje poskytovanie údajov používateľa nástroju AI súkromie? Ako by mala organizácia riadiť používanie AI? V tejto záverečnej časti vytvoríme rámec, ktorý spája etické a právne témy, ktorých sme sa v module dotkli.

Definujme si pojmy. Autorské právo je zákonné právo udelené tvorcovi diela na použitie jeho diela; Neoprávnené kopírovanie alebo používanie môže byť považované za porušenie. Osobný údaj je akákoľvek informácia, ktorá priamo alebo nepriamo identifikuje osobu a podlieha právnej ochrane. Riadenie je rámec pravidiel, politík a zodpovednosti, ktorý riadi používanie AI v organizácii. Tieto tri koncepty tvoria právny a etický základ pre zodpovedné používanie AI.

Krok za krokom: zodpovedné a legálne používanie AI

1. Vyhodnoťte stav autorských práv k príspevku. Pred načítaním textu, knihy alebo článku do nástroja AI zvážte stav autorských práv daného diela a podmienky používania nástroja. Poskytnutie diela chráneného autorskými právami nástroju, ktorý používa údaje, ktoré nahráte na svoje vlastné účely, môže predstavovať porušenie práv.

2. Spochybňujte práva na výstup. Stav autorských práv textu vytvoreného AI môže byť neistý a AI môže nevedomky reprodukovať obsah chránený autorskými právami v tréningových údajoch. Pred zverejnením výstupu AI zhodnoťte jeho originalitu a potenciálne porušenia.

3. Chráňte osobné údaje. Identita používateľov, história čítania/vyhľadávania a osobné informácie by nemali vstupovať do žiadneho nástroja AI bez výslovného súhlasu a silnej ochrany. Anonymizácia a minimalizácia údajov (len toľko údajov, koľko je potrebné) sú nevyhnutné.

4. Zabezpečiť transparentnosť a súhlas. Používatelia by mali vedieť, ako sa spracúvajú ich údaje a interakcie; Ak ide o AI, malo by to byť jasne uvedené. Používanie skrytej AI podkopáva dôveru.

5. Vytvorte rámec riadenia. Organizácia by mala v písomnej politike stanoviť, ktoré nástroje sú schválené, aké údaje možno zadávať, kto je zodpovedný a ako sa budú výstupy overovať.

Tip: Vytvorte pre svoju organizáciu jednoduchý hárok „Pravidlá používania AI“: ktoré nástroje sú schválené, aké údaje sa nikdy nezadávajú (osobné/vlastnícke/dôverné), ako sa každý výstup overuje a kto je zodpovedný. Jasná jednostranová príručka je vynútiteľnejšia ako zdĺhavá politika.

Etické princípy a hodnoty knihovníctva

Hlboko zakorenené hodnoty knihovníckej profesie slúžia ako kompas vo veku AI: rovnaký prístup k informáciám, sloboda myslenia, súkromie používateľov, intelektuálna čestnosť a nestrannosť. AI môže tieto hodnoty podporovať alebo ohrozovať. Môže rozšíriť prístup, ale posilniť predsudky; môže urýchliť službu, ale môže ohroziť súkromie; Môže uľahčiť objavovanie, ale môže šíriť dezinformácie.

Zodpovedný knihovník testuje každé použitie AI na základe týchto hodnôt: "Vyrovnáva toto použitie prístup alebo vylučuje skupinu? Chráni súkromie? Poskytuje presné a čestné informácie?" AI je nástroj; Hodnoty, s ktorými ho budete používať, sú podstatou profesie. Technológia sa mení, ale tieto hodnoty sú stálym kompasom knihovníctva.

Pozor: „Každý to používa“ alebo „je to rýchle“ neospravedlňuje použitie AI. Aj keď je použitie legálne, môže byť neetické; Neprijímajte praktiky, ktoré sú škodlivé z hľadiska autorských práv, súkromia a spravodlivosti, len preto, že sú jednoduché. Konečnú zodpovednosť nenesie nástroj, ale odborník, ktorý ho používa.

tri mini prípady

Prípad 1 – Sťahovanie chránené autorskými právami bolo zastavené. Jeden tím plánoval načítať celú referenčnú knihu chránenú autorskými právami do všeobecného nástroja AI na generovanie súhrnov. Správca informácií to považoval za riskantné z hľadiska autorských práv aj podmienok používania údajov nástroja; namiesto toho sa študovalo len v krátkych, autorizovaných úryvkoch a v rámci uzavretého systému inštitúcie.

Prípad 2 – Osobné údaje anonymizované. Knižnica chcela analyzovať spätnú väzbu používateľov pomocou AI; ale spätná väzba obsahovala používateľské mená a kontaktné informácie. Tím pred analýzou anonymizoval údaje; boli spracované len anonymné, kolektívne tendencie. Súkromie zachované, prehľad bol obnovený.

Prípad 3 – medzera v správe vecí verejných sa uzavrela. V jednej organizácii zamestnanci používali rôzne nástroje AI bez dohľadu a niekedy zadávali dôverné dokumenty. Správca informácií zverejnil jednostránkovú politiku definujúcu schválené nástroje, zakázané typy údajov a pravidlá overovania; Výrazne sa znížila neistota a riziko.

Personálna kompetencia a firemná kultúra

Politika riadenia je len taká silná, ako silní sú ľudia, ktorí ju vykonávajú. Dokonca aj najlepšie napísané pravidlo zostáva na papieri, ak zamestnanci nerozumejú rizikám AI. Trvalým základom zodpovedného používania AI je preto kompetencia zamestnancov: pochopenie každého zamestnanca, čo je to halucinácia, aké údaje by sa nikdy nemali zadávať a prečo by sa mal výstup overovať. Knižnice a informačné inštitúcie majú v tomto smere dvojakú úlohu; Musí vyškoliť svojich vlastných zamestnancov a rozšíriť túto gramotnosť medzi používateľov. Dobrá firemná kultúra je taká, ktorá hlási chybu AI, namiesto toho, aby ju skrývala, a považuje za normálne povedať: „Nie som si istý týmto výstupom, overme si to“. V prostredí, kde sa chyby skrývajú zo strachu pred trestom, sa nepozorovane šíri vymyslený zdroj či narušenie súkromia. Okrem toho, pretože technológie a nástroje sa rýchlo menia, politika a školenia by sa mali aktualizovať pravidelne a nie jednorazovo. riadenie; Je to živý systém, kde pravidlá, nástroje, vzdelávanie a kultúra spolupracujú. V centre tohto systému stojí kompetentná osoba, ktorá preberá zodpovednosť a robí konečné rozhodnutie, nie vozidlo.

Tip: Pred prijatím nového nástroja AI urobte malý pilotný test: vyskúšajte ho s obmedzeným tímom na skutočných, ale nízkorizikových úlohách, pri zaznamenávaní chýb a rizík. Tým sa buduje kompetencia a odhaľujú sa slabé miesta v politike pred zavedením nástroja do celej organizácie.

Štyri kopírovateľné šablóny

1) Predbežné posúdenie autorských práv:

Pomôžte mi vyhodnotiť nasledujúci obsah z hľadiska autorských práv pred jeho načítaním do nástroja AI: môže byť obsah chránený autorskými právami, ktorý spôsob použitia je rizikový, ktorá alternatíva (úryvok, povolenie, verejná doména) je bezpečnejšia? Typ obsahu: [tu]

2) Skenovanie osobných údajov:

Obsahuje nasledujúci text osobné údaje (meno, kontakt, identitu, históriu čítania/vyhľadávania, informácie naznačujúce zdravie/vieru)? Každý z nich označte, zaraďte a navrhnite, ako ho anonymizovať. Text: [tu]

3) Návrh pravidiel používania AI:

Návrh jednostránkových usmernení na používanie AI pre našu organizáciu: (1) schválené zásady nástrojov, (2) nikdy nezadané typy údajov, (3) pravidlo overenia výstupu, (4) zodpovednosť a transparentnosť, (5) zásady týkajúce sa autorských práv a ochrany súkromia. Nechajte to krátke a akčné. Kontext: [tu]

4) Otázka na etickú kontrolu:

Otestujte nasledujúce plánované využitie AI v porovnaní s knihovníckymi hodnotami: rovnosť prístupu, súkromie, presnosť/integrita, riziko zaujatosti a prípadné problémy s upozornením. Použitie: [tu]

Slabá výzva / Silná výzva

Slabá výzva:

Mám to dať na AI, aby som zhrnul túto knihu?

Otázka nezohľadňuje autorské práva, dátové podmienky nástroja a alternatívy; Odpoveď „áno“ môže mať za následok porušenie práv.

Výkonná výzva:

Vaša úloha: asistent poradcu pre autorské práva a ochranu súkromia. Uvažujem o poskytnutí nasledujúceho obsahu nástroju AI. Uveďte možné problémy, pokiaľ ide o stav autorských práv, používanie údajov o vozidle a riziko osobných údajov; navrhnúť bezpečnejšie alternatívy (krátka cenová ponuka, povolenie, verejná doména, uzavretý systém). Požiadajte o právnu istotu, ukážte riziká. Obsah a kontext: [tu]

Výkonná výzva; Rozhodnutie zvažuje z hľadiska autorských práv, podmienok údajov a ochrany súkromia a predkladá bezpečné alternatívy.

Tabuľka rozmerov riadenia

Veľkosť

základná otázka

preventívne opatrenie

autorské práva

Došlo k porušeniu vstupu/výstupu?

Povolenie, verejná doména, krátky úryvok

súkromia

Sú osobné údaje chránené?

Anonymizácia, minimalizácia

transparentnosť

Vie používateľ?

Jasné informácie, súhlas

Zodpovednosť

Kto je zodpovedný?

Písomná politika, ľudský súhlas

hodnoty

Sú prístup a integrita chránené?

Etická kontrola, kontrola zaujatosti

Časté chyby

• Nahrávanie obsahu chráneného autorskými právami bez rozmýšľania. Existuje riziko porušenia autorských práv a stavu údajov.
• Zadávanie osobných údajov do verejného nástroja. Narušenie súkromia a právne riziko.
• Skrytie používania AI. Bez transparentnosti je dôvera narušená.
• Zamieňanie „legálneho“ s „etickým“. Legálne použitie môže byť neetické.
• Nevytváranie rámca riadenia. Nekontrolované používanie vytvára nepredvídateľné riziká.

V súhrne

Autorské práva, dôvernosť a etika sú základom zodpovednosti knihovníctva vo veku AI. Vyhodnoťte stav autorských práv záznamu a podmienky údajov nástroja; spochybňovať práva na výstup; chrániť osobné údaje anonymizáciou a minimalizáciou; byť pre používateľa transparentný a získať súhlas; Vytvorte v organizácii jasný rámec riadenia. Hlboko zakorenené hodnoty knihovníctva (rovnaký prístup, súkromie, integrita, nestrannosť) sú kompasom, ktorý testuje každé použitie AI. Technologické zmeny; Zodpovednosť a hodnoty sa nemenia a konečná zodpovednosť je vždy na ľudskej bytosti.

Aplikačná úloha

Pripravte si jednostránkový dokument pravidiel používania pre vašu organizáciu (alebo fiktívnu organizáciu) so šablónou „Návrh politiky používania AI“: schválené nástroje, údaje, ktoré sa nikdy nezadávajú, pravidlo overenia, zodpovednosť. Potom otestujte skutočné využitie AI, ktoré plánujete z hľadiska prístupu, súkromia, presnosti a zaujatosti, pomocou šablóny „Dotaz na etickú kontrolu“ a napíšte, ako budete riešiť akékoľvek obavy, ktoré sa objavia.

kontrolný zoznam

• [ ] Vyhodnotil som autorský stav záznamu a dátové podmienky nástroja.
• [ ] Osobné údaje som anonymizoval a použil som len to, čo bolo nevyhnutné.
• [ ] Pre používateľa som bol transparentný v súvislosti s používaním AI a rešpektoval som súhlas.
• [ ] Vytvoril som písomnú politiku používania AI pre organizáciu.
• [ ] Testoval som použitie s knihovníckymi hodnotami a zodpovednosť som ponechal na človeku.

Modulová skúška

1. Ktorá z nasledujúcich možností je najpresnejšia pre umelú inteligenciu v knihovníctve a správe informácií?

• A) AI je súhrn, metadáta, vyhľadávanie a asistent odporúčaní; Zodpovednosť za presnosť, spoľahlivosť zdroja a etické rozhodnutia nesú ľudia ✔
• B) Umelá inteligencia dokáže spoľahlivo overiť pravosť a presnosť zdroja
• C) Umelá inteligencia funguje len pri katalogizácii kníh, s inou knihovníckou prácou nemá nič spoločné
• D) Keďže umelá inteligencia je nestrannejšia ako ľudia, rozhodnutia o predmete a klasifikácii by sa mali ponechať na ňu.

Popis: Umelá inteligencia; Je to asistent, ktorý načrtáva metadáta, sumarizuje ich, prekladá, označí vzor a ukazuje na zdroj. Kompetentný odborník je zodpovedný za úlohy s vysokou mierou následkov, ako je overenie presnosti, rozhodnutia o téme a klasifikácii, dôveryhodnosť zdroja a rozhodnutia o autorských právach a súkromí; Neoverený výstup môže viesť k šíreniu falošného zdroja alebo k porušeniu súkromia.

2. Prečo je „halucinácia“ obzvlášť nebezpečná pre knihovníka?

• A) Výstup umelej inteligencie sa vytvára veľmi pomaly a stráca čas
• B) Umelá inteligencia dokáže presvedčivo produkovať neexistujúce zdroje a citáty a podstatou profesie je autenticita zdroja ✔
• C) Halucinácie sa vyskytujú len pri spracovaní obrazu, s textom to nemá nič spoločné
• D) Halucinácie sa vyskytujú iba vo veľmi starých nástrojoch umelej inteligencie, nie v súčasných nástrojoch.

Vysvetlenie: Halucinácia je, keď umelá inteligencia vytvorí neexistujúci zdroj, citát alebo informáciu mimoriadne presvedčivým spôsobom. Keďže podstatou profesie je autenticita a spoľahlivosť zdroja, ak sa vymyslený odtlačok alebo citát prenesie do bibliografie alebo používateľa bez overenia, dôjde k závažným dezinformáciám.

3. Ktorá z nasledujúcich oblastí je oblasťou s najvyšším rizikom fabrikácie pri vytváraní metadát pomocou umelej inteligencie a ako ju treba riešiť?

• A) Jazyková oblasť je najrizikovejšou oblasťou a nie je potrebné ju overovať
• B) Pole názvu nesie najvyššie riziko a malo by byť vyplnené predikciou
• C) ISBN a rok vydania nesú najvyššie riziko výmyslu a mali by byť overené doslovne s pôvodným zdrojom ✔
• D) Žiadne pole nie je rizikové, pretože umelá inteligencia vždy produkuje metadáta správne

Vysvetlenie: Presné číselné polia, ako napríklad ISBN a rok vydania, AI veľmi ľahko sfalšuje; Umelá inteligencia dokáže vygenerovať rozumne vyzerajúce číslo namiesto čísla ISBN, ktoré nepozná. Tieto polia musia byť overené doslovne s pôvodným zdrojom (čiarový kód, tiráž/kolofón).

4. Aký je hlavný účel používania „riadenej slovnej zásoby“ pri priraďovaní termínu k téme?

• A) Zabezpečenie konzistentnosti a dostupnosti terminológie v rámci záznamov; Zabránenie umelej inteligencii vymýšľať si voľné termíny ✔
• B) Automaticky pridávať do katalógu každý nový výraz vyžiadaný umelou inteligenciou
• C) Úplne odstráňte predmetové výrazy a hľadajte iba podľa názvu
• D) Spomalenie katalogizácie a zapisovania každého záznamu s inými výrazmi

Popis: Riadená slovná zásoba je zoznam schválených a štandardných výrazov. Ak je ten istý predmet napísaný s rôznymi výrazmi v rôznych záznamoch, používateľ jeden nájde a druhý mu bude chýbať. Tým, že AI poskytnete tento zoznam a poviete mu, aby si „vybral zo zoznamu“, zachová sa konzistentnosť a nájdeteľnosť; Nový výraz, ktorý umelá inteligencia neuvádza, by do katalógu nemal byť pridaný.

5. Aký je správny postup pri získavaní klasifikačného čísla dokumentu od umelej inteligencie?

• A) Presné číslo udané umelou inteligenciou by sa malo prijať priamo bez toho, aby ste sa pozerali na oficiálnu tabuľku
• B) Klasifikačné čísla by sa nemali používať vôbec, zdroje by sa mali ukladať náhodne
• C) Návrh hlavnej triedy by sa mal považovať za predbežný, presné kroky by sa mali overiť pomocou oficiálnej klasifikačnej tabuľky ✔
• D) Keďže umelá inteligencia nemôže klasifikovať, túto úlohu treba úplne vynechať

Vysvetlenie: Umelá inteligencia často dokáže nájsť správnu hlavnú triedu, ale môže vynechať podúrovne (napr. anamnézu namiesto medicíny) alebo produkovať nesprávne čísla, ktoré sa zdajú rozumné. Preto by sa návrh hlavnej triedy mal považovať za začiatok a presné kroky by sa mali overiť pomocou oficiálnej klasifikačnej tabuľky.

6. Ktoré tvrdenie je pravdivé pri porovnaní sémantického vyhľadávania a vyhľadávania kľúčových slov?

• A) Sémantické vyhľadávanie by malo vo všetkých prípadoch nahradiť vyhľadávanie podľa kľúčových slov
• B) Sémantické vyhľadávanie nájde sémanticky súvisiace zdroje; Spoľahlivejšie je vyhľadávanie podľa kľúčového slova pre presný názov alebo číslo ISBN ✔
• C) Vyhľadávanie kľúčových slov nájde zdroje s rôznymi výrazmi, ktoré sú sémanticky príbuzné lepšie ako sémantické vyhľadávanie
• D) Sémantické vyhľadávanie funguje len na číselných údajoch, nie na texte

Popis: Sémantické vyhľadávanie nájde zdroje rôznych slov, ale súvisiace, ako napríklad „problém so spánkom“ a „porucha spánku“, pretože zodpovedá významu slov (prostredníctvom vložených vektorov). Naproti tomu pri hľadaní presného čísla ISBN, celého názvu alebo čísla štatútu je spoľahlivejšie vyhľadávanie kľúčových slov/domén. Najlepšou praxou je používať obe spolu.

7. Čo je povinnosťou knihovníka proti riziku „filtračnej bubliny“ v personalizovaných odporúčaniach zdrojov?

• A) Posilnite bublinu tým, že používateľovi odporučíte len tie najpodobnejšie zdroje
• B) Úplne sa vzdať návrhov
• C) Verejné zdieľanie histórie čítania používateľa
• D) Vedome pridávať zdroje s rôznymi perspektívami a horizontom a transparentne to uvádzať ✔

Vysvetlenie: Filtračná bublina nastáva vtedy, keď systém odporúčaní neustále uzamyká používateľa do podobného obsahu a chráni ho pred novými a odlišnými perspektívami. Hodnota knižnice je rovnaký a rôznorodý prístup; Preto knihovník vedome rozbíja bublinu pridaním inak vyzerajúcich, oči otvárajúcich zdrojov a transparentným vyjadrením.

8. Ktorý postup je správny z hľadiska „pravosti a integrity“ pri spracovaní archívneho dokumentu pomocou umelej inteligencie?

• A) „skrášliť“ dokument umelou inteligenciou, doplniť ho doplnením chýbajúcich častí a nahradiť originál
• B) Odstránenie surového originálu a ponechanie iba verzie vylepšenej umelou inteligenciou
• C) OCR by malo opravovať iba chyby rozpoznávania, obsah by sa nemal upravovať, pôvodný originál by sa mal zachovať a deriváty by mali byť jasne označené ✔
• D) Prijmite výstup OCR ako „čistý text“ bez akýchkoľvek opráv a otvorte ho na vyhľadávanie.

Popis: Podstatou archívnej práce je uistenie, že dokument pochádza z reklamovaného zdroja a že jeho obsah nebol pozmenený. Korekcia OCR by mala odstrániť iba chyby rozpoznávania, nie zmeniť obsah; „Obnova“ AI nie je náhradou skutočných dôkazov, pretože môže doplniť chýbajúce časti. Surový (originálny) sken by mal byť vždy zachovaný, deriváty by mali byť jasne označené.

9. Čo z nasledujúceho je potrebné pre zodpovednú konštrukciu knižničného informačného bota?

• A) Robot rýchlo vytvára odpovede na každú otázku zo svojich všeobecných znalostí a necituje zdroje
• B) Robot sa spolieha iba na overené firemné informácie, cituje fakty a citlivé otázky smeruje na odborníka/človeka ✔
• C) Robot priamo poskytuje presné rady v lekárskych a právnych otázkach
• D) Skrytie pred používateľom, či hovorí s robotom alebo človekom

Vysvetlenie: Poradenský robot by sa mal spoliehať iba na overené aktuálne informácie a zdrojový zoznam inštitúcie, nie na jej všeobecnú pamäť, mal by uvádzať fakty citovaním zdroja, nemal by poskytovať rady o lekárskych/právnych/citlivých otázkach, mal by ich nasmerovať na odborníka a v prípade potreby by ich mal preniesť na človeka. Bot teda nenahrádza človeka, ale stáva sa vrstvou, ktorá odľahčuje záťaž.

10. Aká je v bibliometrii správna metóda na zistenie počtu citácií autora alebo h-indexu?

• A) Spýtať sa priamo AI, pretože čísla, ktoré uvádza, sú vždy správne
• B) Získanie čísel z aktuálnej citačnej databázy; Používanie umelej inteligencie iba na organizáciu a interpretáciu týchto údajov ✔
• C) Odhadnite čísla a použite ich pri rozhodovaní o vysielaní
• D) Počet citácií ako priameho meradla kvality autorského diela.

Vysvetlenie: Umelá inteligencia môže vytvárať hodnoty ako počet citácií a h-index bez prístupu k skutočným údajom (napríklad môže poskytnúť hodnotu 42, keď je v skutočnosti 19). Preto musia byť čísla a citácie prevzaté zo skutočnej citačnej databázy; AI by sa mala používať iba na zoskupovanie, triedenie a interpretáciu týchto skutočných údajov.

11. Čo platí o limite bibliometrických mier (počet citácií, h-index, impakt faktor)?

• A) Metriky priamo merajú kvalitu a sú porovnateľné medzi doménami
• B) Kritériá môžu byť bezpečne použité samostatne pri rozhodovaní o prijatí do zamestnania a povýšení.
• C) Metriky označujú použitie, nie kvalitu; nemožno porovnávať medzi doménami a musí byť vyvážený kvalitatívnym hodnotením ✔
• D) Výstupy humanitných vied sú plne a úplne zastúpené v citačných databázach

Zverejnenie: Tieto metriky označujú používanie a viditeľnosť, nie sú priamymi mierami kvality. Pretože citačná kultúra odborov je odlišná (napríklad medicína a filozofia), nemožno ich priamo porovnávať; Výstupy z oblasti humanitných vied s veľkým množstvom kníh sú v databázach nedostatočne zastúpené. Kritériá by sa preto na hodnotenie jednotlivcov nemali používať samostatne, ale mali by byť vyvážené kvalitatívnym hodnotením.

12. Aká je kľúčová výhoda prístupu RAG (access-augmented production) oproti všeobecnej AI?

• A) Výrazné zníženie halucinácií prepojením odpovede so skutočnými dokumentmi inštitúcie a uvedením zdroja ✔
• B) Vždy reagujte perfektne, bez ohľadu na kvalitu podkladu
• C) Úplné a trvalé znemožňovanie halucinácií
• D) Otváranie všetkých dokumentov každému bez potreby kontroly prístupu

Vysvetlenie: Pri odpovedi na otázku RAG najprv nájde príslušné časti z vlastných dokumentov inštitúcie a vytvorí odpoveď založenú len na týchto častiach, pričom uvedie zdroj. Týmto spôsobom je odpoveď spojená so skutočnou a sledovateľnou dokumentáciou a halucinácie sú výrazne znížené. RAG však halucinácie úplne neodstráni, pretože odpoveď môže byť stále nesprávna, ak sa objaví nesprávny kus.

13. Aká je v humanitných a spoločenských vedách najspoľahlivejšia metóda na overenie ponuky AI používateľovi?

• A) Uistite sa, že citát vyzerá dôveryhodne a plynulo
• B) Stačí požiadať AI, aby reprodukovala rovnakú citáciu
• C) Overte citát tak, že ho nájdete v skutočnom diele autora ✔
• D) Súhlas s tým, že stačí, aby bol citát pripísaný slávnemu menu

Popis: Umelá inteligencia dokáže generovať úplne vymyslené citáty pripisované skutočnému autorovi; Skutočnosť, že citát sa zdá slovo od slova presný a presvedčivý, nie je dôkazom jeho presnosti. Najspoľahlivejšou metódou je overenie citátu jeho nájdením v skutočnej práci autora; Logika „tento autor mohol povedať niečo také“ nestačí.

14. Ktorý princíp je správny pri používaní umelej inteligencie z hľadiska autorských práv, súkromia a etiky?

• A) Údaje chránené autorskými právami a osobné údaje je možné vkladať do verejných nástrojov bez rozmýšľania, pretože je to rýchle
• B) Ak je použitie legálne, je určite etické a nevyžaduje sa žiadne ďalšie hodnotenie.
• C) Keď umelá inteligencia produkuje výstup, zodpovednosť úplne prechádza na nástroj, nie na človeka.
• D) Autorské práva a súkromie musia byť rešpektované od samého začiatku; anonymizácia, transparentnosť a súhlas sú nevyhnutné a konečná zodpovednosť leží na človeku ✔

Vysvetlenie: Impulzívne vkladanie obsahu chráneného autorskými právami a osobných údajov (ID používateľa, história čítania/vyhľadávania) do všeobecných nástrojov umelej inteligencie môže viesť k porušeniu práv a súkromia; Podstatná je anonymizácia, minimalizácia údajov, transparentnosť a súhlas. Navyše, aj keď je použitie legálne, môže byť neetické; „Každý to používa“ alebo „stane sa to rýchlo“ neospravedlňuje prax a konečná zodpovednosť leží na odborníkovi, nie na nástroji.