Nyereség:
- Képes a jogi kockázatok csökkentésére a bemenet szerzői jogi státuszának és az eszköz adatfeltételeinek értékelésével, valamint a kimenet jogainak megkérdőjelezésével
- Képes a személyes adatok anonimizálással és minimalizálással történő védelmére, valamint az adatvédelem biztosítására azáltal, hogy átlátható a felhasználó számára
- Képes az intézmény számára jóváhagyott eszközöket, tiltott adatokat és ellenőrzési szabályokat tartalmazó irányítási keretrendszer kialakítására, használatának tesztelésére könyvtári értékekkel.
A könyvtáros és információmenedzser az, aki az információkat nemcsak rendszerez, bemutat, hanem védi is: védi az alkotó jogait, a felhasználó magánéletét, az intézmény felelősségét. A mesterséges intelligencia mindhárom területet új és összetett kérdésekkel támadja meg. A dokumentum MI-be való feltöltése szerzői jogsértésnek minősül? A felhasználói adatok AI-eszköznek való átadása sérti a magánélet védelmét? Hogyan kezelje a szervezet az AI használatát? Ebben a záróegységben egy olyan keretrendszert hozunk létre, amely egyesíti azokat az etikai és jogi szálakat, amelyeket a modul során érintettünk.
Határozzuk meg a fogalmakat. A szerzői jog a mű alkotóját megillető törvényes jog a művének felhasználására; A jogosulatlan sokszorosítás vagy felhasználás jogsértésnek minősülhet. Személyes adat minden olyan információ, amely közvetlenül vagy közvetve azonosít egy személyt, és jogi védelem alá esik. Az irányítás a szabályok, irányelvek és az elszámoltathatóság kerete, amely szabályozza a szervezet mesterséges intelligenciájának használatát. Ez a három fogalom képezi a felelős AI-használat jogi és etikai alapját.
Lépésről lépésre: az AI felelős és legális használata
1. Értékelje a bejegyzés szerzői jogi állapotát. Mielőtt egy szöveget, könyvet vagy cikket betöltene egy mesterséges intelligencia eszközbe, fontolja meg az adott mű szerzői jogi státuszát és az eszköz használati feltételeit. Jogok megsértését jelentheti, ha szerzői joggal védett művet olyan eszköznek ad át, amely az Ön által feltöltött adatokat saját céljaira használja.
2. Kérdezze meg a kimenet jogait. A mesterséges intelligencia által készített szöveg szerzői jogi státusza bizonytalan lehet, és az AI tudtán kívül is reprodukálhat szerzői jog által védett tartalmat a képzési adatokban. Az AI-kimenet közzététele előtt értékelje annak eredetiségét és a lehetséges jogsértéseket.
3. Védje a személyes adatokat. A felhasználók személyazonossága, olvasási/keresési előzményei és személyes adatai nem léphetnek be semmilyen mesterséges intelligencia-eszközbe kifejezett hozzájárulás és erős védelem nélkül. Az anonimizálás és az adatok minimalizálása (csak annyi adat, amennyi szükséges) elengedhetetlen.
4. Biztosítsa az átláthatóságot és az egyetértést. A felhasználóknak tudniuk kell, hogyan dolgozzák fel adataikat és interakcióikat; A mesterséges intelligencia esetében ezt egyértelműen jelezni kell. A rejtett mesterséges intelligencia használata aláássa a bizalmat.
5. Hozzon létre egy irányítási keretet. A szervezetnek írásos szabályzatban kell rögzítenie, hogy mely eszközöket hagyja jóvá, milyen adatok vihetők be, ki a felelős, és hogyan fogják ellenőrizni a kimeneteket.
Tipp: Hozzon létre egy egyszerű „AI használati szabályok” egy lapot a szervezete számára: mely eszközöket hagyják jóvá, milyen adatokat soha nem adnak meg (személyes/tulajdonos/bizalmas), hogyan történik az egyes kimenetek ellenőrzése, és ki a felelős. Egy világos, egyoldalas útmutató jobban érvényesíthető, mint egy hosszadalmas szabályzat.
A könyvtáros munka etikai alapelvei és értékei
A könyvtáros szakma mélyen gyökerező értékei iránytűként szolgálnak a mesterséges intelligencia korában: egyenlő hozzáférés az információkhoz, gondolatszabadság, felhasználói magánélet, intellektuális őszinteség és pártatlanság. Az AI támogathatja vagy veszélyeztetheti ezeket az értékeket. Bővítheti a hozzáférést, de megerősíti az előítéleteket; felgyorsíthatja a szolgáltatást, de veszélyeztetheti a magánéletet; Elősegítheti a felfedezést, de téves információkat terjeszthet.
A felelős könyvtáros minden mesterséges intelligenciát a következő értékekkel tesztel: "Ez a használat kiegyenlíti a hozzáférést, vagy kizár egy csoportot? Védi a magánéletet? Pontos és őszinte információkat ad?" Az AI egy eszköz; Az értékek, amelyekkel használni fogod, a szakma lényege. A technológia változik, de ezek az értékek a könyvtáros munka állandó iránytűi.
Figyelem: „Mindenki használja” vagy „gyors” nem indokolja az MI használatát. Még ha a felhasználás jogszerű is, etikátlan lehet; Ne alkalmazzon olyan gyakorlatot, amely káros a szerzői jog, a magánélet és az igazságosság szempontjából, csak azért, mert könnyű. A végső felelősség nem az eszközé, hanem az azt használó szakemberé.
három mini tok
1. eset – A szerzői joggal védett letöltés leállt. Az egyik csapat azt tervezte, hogy egy teljes, szerzői joggal védett referenciakönyvet tölt be egy általános mesterséges intelligencia-eszközbe, hogy összefoglalókat készítsen. Az információs menedzser ezt kockázatosnak találta, mind a szerzői jogok, mind az eszköz adathasználati feltételei tekintetében; ehelyett csak rövid, engedélyezett kivonatokban és az intézmény zárt rendszerén belül tanulmányozták.
2. eset – A személyes adatok anonimizáltak. Egy könyvtár a felhasználói visszajelzéseket akarta elemezni a mesterséges intelligencia segítségével; de a visszajelzés felhasználói neveket és elérhetőségeket tartalmazott. A csapat anonimizálta az adatokat az elemzés előtt; csak anonim, kollektív tendenciákat dolgoztak fel. A magánélet megőrizve, a betekintés visszanyerve.
3. eset – Az irányítási szakadék megszűnt. Az egyik szervezetben az alkalmazottak különböző mesterséges intelligencia-eszközöket használtak felügyelet nélkül, és néha bizalmas dokumentumokat vittek be. Az információs rendszergazda közzétett egy egyoldalas szabályzatot, amely meghatározza a jóváhagyott eszközöket, a tiltott adattípusokat és az ellenőrzési szabályokat; A bizonytalanság és a kockázat jelentősen csökkent.
Személyzeti kompetencia és vállalati kultúra
A kormányzási politika csak annyira erős, mint az emberek, akik végrehajtják. Még a legjobban megírt szabály is papíron marad, ha az alkalmazottak nem értik az AI kockázatait. A felelős mesterséges intelligencia használatának tartós alapja ezért a személyzet hozzáértése: minden alkalmazott megérti, mi a hallucináció, milyen adatokat nem szabad soha bevinni, és miért kell ellenőrizni a kimenetet. A könyvtárak és az információs intézmények ebben a tekintetben kettős szerepet töltenek be; Egyrészt ki kell képeznie saját személyzetét, másrészt el kell juttatnia ezt a műveltséget a felhasználókhoz. A jó vállalati kultúra az, amelyik inkább bejelenti a mesterséges intelligencia hibáját, nem pedig elrejti azt, és normálisnak találja, ha azt mondja: "Nem vagyok biztos ebben a kimenetben, ellenőrizzük." Egy olyan környezetben, ahol a büntetéstől való félelem miatt rejtve maradnak a hibák, észrevétlenül terjed a koholt forrás vagy a magánélet megsértése. Ezen túlmenően, mivel a technológia és az eszközök gyorsan változnak, az irányelveket és a képzést rendszeresen frissíteni kell, nem egyszeri alkalommal. Kormányzás; Ez egy élő rendszer, ahol a szabályok, az eszközök, az oktatás és a kultúra együtt működnek. Ennek a rendszernek a középpontjában az illetékes személy áll, aki vállalja a felelősséget és hozza meg a végső döntést, nem a jármű.
Tipp: Mielőtt elfogadna egy új AI-eszközt, végezzen egy kis kísérletet: próbálja ki egy korlátozott csapattal, valós, de alacsony kockázatú feladatokon, rögzítse a hibákat és kockázatokat. Ez egyrészt fejleszti a kompetenciát, másrészt feltárja a szakpolitikai sebezhetőségeket, mielőtt az eszközt a szervezetben elterjedné.
Négy másolható sablon
1) Szerzői jogi előzetes értékelés:
Segítsen értékelni a következő tartalmat szerzői jogi szempontból, mielőtt betöltené egy mesterséges intelligencia eszközbe: lehet-e szerzői jogvédett a tartalom, melyik felhasználási mód kockázatos, melyik alternatíva (kivonat, engedély, közkincs) a biztonságosabb? Tartalom típusa: [itt]
2) Személyes adatok szkennelése:
Tartalmaz-e a következő szöveg személyes adatokat (név, elérhetőség, személyazonosság, olvasási/keresési előzmények, egészségre/meggyőződésre utaló információk)? Jelölje meg mindegyiket, osztályozza, és javasolja, hogyan anonimizálja. Szöveg: [itt]
3) AI használati szabályzat tervezete:
Egyoldalas mesterséges intelligencia használati irányelvek tervezete szervezetünk számára: (1) jóváhagyott eszközszabályzat, (2) soha be nem írt adattípusok, (3) kimeneti érvényesítési szabály, (4) elszámoltathatóság és átláthatóság, (5) szerzői jogi és adatvédelmi irányelvek. Legyen rövid és gyakorlatias. Kontextus: [itt]
4) Etikai ellenőrzési lekérdezés:
Tesztelje a következő tervezett mesterségesintelligencia-használatot a könyvtári értékekkel: egyenlő hozzáférés, adatvédelem, pontosság/integritás, elfogultság kockázata és aggályok, ha vannak ilyenek. Használat: [itt]
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Tegyem fel az AI-ra, hogy összefoglaljam ezt a könyvet?
A kérdés nem veszi figyelembe a szerzői jogot, az eszköz adatfeltételeit és az alternatívákat; Az „igen” válasz jogsértést eredményezhet.
Erőteljes felszólítás:
Az Ön szerepköre: asszisztens szerzői jogi és adatvédelmi tanácsadó. Azt fontolgatom, hogy a következő tartalmat egy AI-eszköznek adom át. Sorolja fel a lehetséges problémákat a szerzői jogi státusz, a járműadatok felhasználása és a személyes adatok kockázata tekintetében; javasoljon biztonságosabb alternatívákat (rövid idézet, engedély, közkincs, zárt rendszer). Igényeljen jogbiztonságot, mutasson kockázatokat.Tartalom és kontextus: [itt]
Erőteljes felszólítás; A döntést szerzői jogi, adatállapoti és adatvédelmi szempontok alapján mérlegeli, és biztonságos alternatívákat tesz le az asztalra.
Irányítási dimenziók táblázata
Méret
alapkérdés
elővigyázatosság
szerzői jog
Van-e bemeneti/kimeneti jogsértés?
Engedély, közkincs, rövid kivonat
magánélet
Védve vannak a személyes adatok?
Anonimizálás, minimalizálás
átláthatóság
A felhasználó tudja?
Világos tájékoztatás, beleegyezés
Felelősség
Ki a felelős?
Írott szabályzat, emberi jóváhagyás
Értékek
Védve van a hozzáférés és az integritás?
Etikai ellenőrzés, elfogultság ellenőrzés
Gyakori hibák
- Gondolkodás nélkül tölt fel szerzői joggal védett tartalmat. Fennáll a szerzői jogok megsértése és az adatok állapota.
- Személyes adatok bevitele a nyilvános eszközbe. A magánélet megsértése és a jogi kockázat.
- Az AI használatának elrejtése. Átláthatóság nélkül a bizalom megsérül.
- A „legális” és az „etikus” összekeverése. A legális felhasználás etikátlan lehet.
- Nem hoz létre irányítási keretet. Az ellenőrizetlen használat előre nem látható kockázatokkal jár.
Összefoglalva
A szerzői jog, a titoktartás és az etika a könyvtáros tevékenység felelősségének alapja a mesterséges intelligencia korában. Értékelje a bejegyzés szerzői jogi állapotát és az eszköz adatfeltételeit; megkérdőjelezi a kimenet jogait; a személyes adatok anonimizálással és minimalizálással történő védelme; átláthatónak kell lennie a felhasználó számára, és meg kell szereznie a hozzájárulását; Hozzon létre egy világos irányítási keretet a szervezetben. A könyvtárosság mélyen gyökerező értékei (egyenlő hozzáférés, adatvédelem, integritás, pártatlanság) az iránytű, amely az AI minden felhasználását teszteli. Technológiai változások; A felelősség és az értékek nem változnak, és a végső elszámoltathatóság mindig az embert terheli.
Pályázati feladat
Készítsen egy egyoldalas használati szabályok dokumentumot szervezete (vagy egy fiktív szervezet) számára az „AI használati szabályzat tervezete” sablonnal: jóváhagyott eszközök, soha nem adható adatok, érvényesítési szabály, felelősség. Ezután tesztelje a tervezett valódi mesterségesintelligencia-használatot a hozzáférés, az adatvédelem, a pontosság és az elfogultság tekintetében az „Ethical control query” sablonnal, és írja meg, hogyan kezeli a felmerülő problémákat.
ellenőrző lista
- [ ] Értékeltem a bejegyzés szerzői jogi állapotát és az eszköz adatfeltételeit.
- [ ] A személyes adatokat anonimizáltam, és csak a szükséges mennyiséget használtam fel.
- [ ] Átlátható voltam a felhasználó számára az MI használatával kapcsolatban, és tiszteletben tartottam a beleegyezést.
- [ ] Írásos mesterségesintelligencia-használati szabályzatot készítettem a szervezet számára.
- [ ] Könyvtári értékekkel teszteltem a felhasználást, és a felelősséget az emberen hagytam.
Modul vizsga
1. Az alábbiak közül melyik a legpontosabb helymeghatározás a mesterséges intelligencia számára a könyvtárügyben és az információkezelésben?
- A) A mesterséges intelligencia egy összefoglaló, metaadatok, keresési és ajánlási segéd; A pontosságért, a forrás megbízhatóságáért és az etikus döntésekért a felelősség az embert terheli ✔
- B) A mesterséges intelligencia megbízhatóan tudja ellenőrizni a forrás hitelességét és pontosságát
- C) A mesterséges intelligencia csak a könyvkatalógusban működik, semmi köze más könyvtárosi munkához
- D) Mivel a mesterséges intelligencia pártatlanabb, mint az ember, a tárgyi és besorolási döntéseket rá kell bízni.
Leírás: Mesterséges intelligencia; Ez egy asszisztens, amely metaadatokat készít, összegzi, lefordítja, megjelöli a mintát és rámutat a forrásra. Az illetékes szakértő felelős a nagy következményekkel járó feladatokért, mint például a pontosság ellenőrzése, a téma- és besorolási döntések, a forrás hitelessége, valamint a szerzői jogi és adatvédelmi döntések; A nem ellenőrzött kimenet koholt forrás terjesztéséhez vagy az adatvédelem megsértéséhez vezethet.
2. Miért különösen veszélyes a „hallucináció” a könyvtáros számára?
- A) A mesterséges intelligencia kimenete nagyon lassan keletkezik, és időt veszít
- B) A mesterséges intelligencia meggyőzően tud nem létező forrásokat, idézeteket előállítani, a szakma lényege pedig a forrás hitelessége ✔
- C) Hallucináció csak a képfeldolgozás során fordul elő, semmi köze a szöveghez
- D) Hallucináció csak nagyon régi mesterséges intelligencia eszközökben látható, a jelenlegi eszközökben nem.
Magyarázat: Hallucinációról akkor beszélünk, amikor a mesterséges intelligencia rendkívül meggyőző módon állít elő nem létező forrást, idézetet vagy információt. Mivel a szakma lényege a forrás hitelessége és megbízhatósága, ha egy koholt impresszum, idézet ellenőrzés nélkül kerül át egy bibliográfiához, felhasználóhoz, súlyos félretájékoztatás történik.
3. Metaadatok mesterséges intelligenciával történő előállítása során az alábbiak közül melyik területen a legnagyobb a gyártás kockázata, és hogyan kell kezelni?
- A) A nyelvterület a leginkább veszélyeztetett terület, és nem kell ellenőrizni
- B) A cím mező hordozza a legnagyobb kockázatot, és előrejelzéssel kell kitölteni
- C) Az ISBN és a kiadás évszáma hordozza a legnagyobb gyártási kockázatot, és szó szerint kell ellenőrizni az eredeti forrással ✔
- D) Egyetlen terület sem kockázatos, mert a mesterséges intelligencia mindig helyesen állítja elő a metaadatokat
Magyarázat: A pontos, numerikus mezőket, például az ISBN-t és a kiadási évet az MI nagyon könnyen hamisítja; A mesterséges intelligencia létrehozhat egy ésszerűnek tűnő számot az általa nem ismert ISBN helyett. Ezeket a mezőket szó szerint igazolni kell az eredeti forrással (vonalkód, impresszum/kolofon).
4. Mi a fő célja az „ellenőrzött szókincs” használatának a témakifejezések kijelölésekor?
- A) A terminológia konzisztenciájának és elérhetőségének biztosítása az iratok között; Megakadályozza, hogy a mesterséges intelligencia szabad kifejezéseket alkosson ✔
- B) A mesterséges intelligencia által kért minden új kifejezés automatikus hozzáadása a katalógushoz
- C) Törölje ki teljesen a tárgykifejezéseket, és csak cím alapján keressen
- D) A katalogizálás lelassítása és az egyes rekordok különböző kifejezésekkel történő írása
Leírás: A szabályozott szókincs jóváhagyott és szabványos kifejezések listája. Ha ugyanazt a tárgyat különböző kifejezésekkel írják különböző rekordokban, a felhasználó megtalálja az egyiket, a másikat pedig hiányolja. Ha megadja a mesterséges intelligencia számára ezt a listát, és azt mondja neki, hogy „csak válasszon a listából”, a következetesség és a megtalálhatóság megmarad; Olyan új kifejezést, amelyet a mesterséges intelligencia nem sorol fel, nem szabad felvenni a katalógusba.
5. Mi a helyes megközelítés egy dokumentum besorolási számának mesterséges intelligenciától való beszerzéséhez?
- A) A mesterséges intelligencia által megadott pontos számot el kell fogadni közvetlenül, anélkül, hogy megnéznénk a hivatalos táblázatot
- B) Osztályozási számokat egyáltalán nem szabad használni, a forrásokat véletlenszerűen kell elhelyezni
- C) A mesterkurzus javaslatot előzetesnek kell tekinteni, a pontos lépéseket a hivatalos besorolási táblázattal ellenőrizni ✔
- D) Mivel a mesterséges intelligencia nem tud osztályozni, ezt a feladatot teljesen ki kell hagyni
Magyarázat: A mesterséges intelligencia gyakran megtalálja a megfelelő főosztályt, de kihagyhat alszinteket (pl. a kórtörténetet az orvostudomány helyett), vagy helytelen számokat ad, amelyek ésszerűnek tűnnek. Ezért a mesterkurzus javaslatot kezdetnek kell tekinteni, és a pontos lépéseket a hivatalos besorolási táblázattal ellenőrizni kell.
6. Melyik állítás igaz a szemantikus keresés és a kulcsszavas keresés összehasonlításakor?
- A) A szemantikus keresés minden esetben helyettesítse a kulcsszavas keresést
- B) A szemantikus keresés szemantikailag kapcsolódó forrásokat talál; A pontos címre vagy ISBN-re vonatkozó kulcsszavas keresés megbízhatóbb ✔
- C) A kulcsszavas keresés különböző kifejezéseket tartalmazó forrásokat talál, amelyek szemantikailag jobban összefüggenek, mint a szemantikai keresés
- D) A szemantikus keresés csak számadatokon működik, szövegen nem
Leírás: A szemantikus keresés különböző szavakból álló, de kapcsolódó forrásokat talál, például „alvásproblémát” és „alvási zavart”, mert megegyezik a szavak jelentésével (beágyazóvektorokon keresztül). Ezzel szemben, ha pontos ISBN-t, teljes címet vagy törvényi számot keresünk, a kulcsszó/domain keresés megbízhatóbb. A legjobb gyakorlat a kettő együttes használata.
7. Mi a könyvtáros kötelessége a „szűrőbuborék” kockázatával szemben a személyre szabott forrásajánlatokban?
- A) Erősítse meg a buborékot azzal, hogy csak a leginkább hasonló erőforrásokat ajánlja a felhasználónak
- B) Teljesen lemondani a javaslattételről
- C) A felhasználó olvasási előzményeinek nyilvános megosztása
- D) Különböző nézőpontú és horizontú források tudatos hozzáadása és ennek átlátható közlése ✔
Magyarázat: A szűrőbuborékról akkor beszélünk, amikor az ajánlórendszer folyamatosan hasonló tartalomhoz zárja a felhasználót, és távol tartja az új és más nézőpontoktól. A könyvtár értéke az egyenlő és sokrétű hozzáférés; Ezért a könyvtáros tudatosan töri a buborékot azzal, hogy más megjelenésű, szemet nyitó forrásokat ad hozzá, és ezt átláthatóan kimondja.
8. Melyik gyakorlat a helyes a „hitelesség és integritás” szempontjából egy archív dokumentum mesterséges intelligenciával történő feldolgozásakor?
- A) mesterséges intelligenciával 'szépíteni' a dokumentumot, kiegészíteni a hiányzó részek pótlásával és az eredeti pótlásával
- B) A nyers eredeti törlése és csak a mesterséges intelligenciával javított verzió megtartása
- C) Az OCR csak a felismerési hibákat javítsa, a tartalmat ne módosítsa, a nyers eredetit meg kell őrizni és a származékokat egyértelműen címkézni kell ✔
- D) Fogadja el az OCR kimenetet "tiszta szövegként" minden javítás nélkül, és nyissa meg keresésre.
Leírás: A levéltári munka lényege annak biztosítása, hogy a dokumentum az igényelt forrásból származik, és annak tartalma nem változott. Az OCR-javítás csak a felismerési hibákat távolíthatja el, nem változtathatja meg a tartalmat; Az AI „helyreállítása” nem helyettesíti a tényleges bizonyítékokat, mivel pótolhatja a hiányzó részeket. A nyers (eredeti) szkennelést mindig meg kell őrizni, a származékokat egyértelműen címkézni kell.
9. Az alábbiak közül melyik szükséges egy könyvtári információs bot felelős felépítéséhez?
- A) A bot általános ismeretei alapján gyorsan választ minden kérdésre, és nem hivatkozik forrásokra
- B) A bot csak ellenőrzött vállalati információkra támaszkodik, tényeket idéz, és kényes kérdéseket intéz szakértőhöz/emberhez ✔
- C) A bot közvetlenül ad pontos tanácsot orvosi és jogi kérdésekben
- D) Elrejteni a felhasználó elől, hogy bottal vagy emberrel beszél
Magyarázat: A tanácsadó bot csak az intézmény ellenőrzött aktuális információira és forráslistájára hagyatkozzon, általános memóriájára ne, a forrásra hivatkozva adja meg a tényeket, ne adjon tanácsot orvosi/jogi/kényes kérdésekben, a szakértőhöz irányítsa, és szükség esetén adja át az embernek. Így a bot nem helyettesíti az embert, hanem inkább egy réteggé válik, amely könnyíti a terhet.
10. Mi a helyes módszer a bibliometriában a szerző idézetszámának vagy h-indexének megállapítására?
- A) Kérdezd meg közvetlenül az MI-t, mert az általa megadott számok mindig helyesek
- B) A számok lekérése a tényleges hivatkozási adatbázisból; Mesterséges intelligencia használata csak ezen adatok rendszerezésére és értelmezésére ✔
- C) Becsülje meg a számokat, és használja fel a közvetítési döntésekben
- D) Az idézetek számát tekintve a szerző munkája minőségének közvetlen mérőszámának.
Magyarázat: A mesterséges intelligencia valódi adatokhoz való hozzáférés nélkül képes olyan értékeket létrehozni, mint a hivatkozások száma és a h-index (például 42-es értéket adhat, ha az valójában 19). Ezért a számokat és az idézeteket valódi hivatkozási adatbázisból kell venni; A mesterséges intelligencia csak ezen valós adatok klaszterezésére, rendezésére és értelmezésére használható.
11. Melyik igaz a bibliometriai mértékek határára (idézetek száma, h-index, impakt faktor)?
- A) A mutatók közvetlenül mérik a minőséget, és összehasonlíthatók a különböző tartományokban
- B) A kritériumok önmagukban is biztonságosan használhatók a felvételi és előléptetési döntésekben.
- C) A mutatók a használatot, nem a minőséget jelzik; nem hasonlíthatók össze a különböző területeken, és ki kell egyensúlyozni a minőségi értékeléssel ✔
- D) A humán tudományok eredményeit teljes körűen és maradéktalanul reprezentálják az idézettségi adatbázisok
Közzététel: Ezek a mutatók a használatot és a láthatóságot jelzik, nem közvetlen minőségmérők. Mivel a szakterületek idézési kultúrája eltérő (például az orvostudomány és a filozófia), közvetlenül nem hasonlíthatók össze; A humán tudományok könyvtömegű eredményei alulreprezentáltak az adatbázisokban. Ezért a kritériumokat nem szabad önmagában használni az egyének értékelésére, hanem egyensúlyban kell lenniük a minőségi értékeléssel.
12. Mi a fő előnye a RAG (access-augmented production) megközelítésnek az általános mesterséges intelligenciával szemben?
- A) A hallucináció jelentős csökkentése az intézmény valós dokumentumaihoz való kapcsolással és a forrás megjelölésével ✔
- B) Mindig tökéletesen válaszoljon, függetlenül a dokumentumalap minőségétől
- C) A hallucináció teljes és végleges ellehetetlenítése
- D) Az összes dokumentum megnyitása mindenki számára hozzáférés-szabályozás nélkül
Magyarázat: Egy kérdés megválaszolásakor a RAG először az intézmény saját dokumentumaiból keresi meg a releváns darabokat, és csak ezek alapján adja meg a választ, a forrásra hivatkozva. Így a válasz valódi és nyomon követhető dokumentációhoz kapcsolódik, és a hallucinációk nagymértékben csökkennek. A RAG azonban nem szünteti meg teljesen a hallucinációt, mivel a válasz még mindig rossz lehet, ha rossz darabot hoznak fel.
13. Mi a legmegbízhatóbb módszer a humán- és társadalomtudományokban a mesterséges intelligencia által a felhasználónak küldött árajánlat ellenőrzésére?
- A) Győződjön meg arról, hogy az idézet hihetőnek és gördülékenynek tűnik
- B) Csak arra kérem az MI-t, hogy reprodukálja ugyanazt az idézetet
- C) Ellenőrizze az idézetet úgy, hogy megtalálja a szerző tényleges munkájában ✔
- D) Elfogadva, hogy elegendő, ha az idézetet egy híres névhez kötik
Leírás: A mesterséges intelligencia képes teljesen kitalált idézeteket generálni, amelyeket valódi szerzőnek tulajdonítanak; Az a tény, hogy az idézet szóról szóra pontosnak és meggyőzőnek tűnik, nem bizonyítja a pontosságát. A legmegbízhatóbb módszer az idézet ellenőrzése úgy, hogy a szerző tényleges munkájában megtalálja azt; Nem elég az a logika, hogy „ez a szerző mondhatott ilyesmit”.
14. Melyik elv a helyes a mesterséges intelligencia használatában a szerzői jog, a magánélet és az etika tekintetében?
- A) A szerzői joggal védett és személyes adatok gondolkodás nélkül bevihetők nyilvános eszközökbe, mert gyors
- B) Ha a felhasználás jogszerű, az mindenképpen etikus, és nincs szükség további értékelésre.
- C) Amikor a mesterséges intelligencia kimenetet produkál, a felelősség teljes mértékben az eszközre hárul, nem az emberre.
- D) A szerzői jogot és a magánéletet a kezdetektől tiszteletben kell tartani; Az anonimizálás, az átláthatóság és a beleegyezés elengedhetetlen, és a végső felelősség az embert terheli ✔
Magyarázat: A szerzői joggal védett tartalom és személyes adatok (felhasználói azonosító, olvasási/keresési előzmények) általános mesterséges intelligencia-eszközökbe történő impulzív bevitele a jogok és a magánélet megsértését eredményezheti; Az anonimizálás, az adatok minimalizálása, az átláthatóság és a hozzájárulás elengedhetetlen. Továbbá, még ha a felhasználás jogszerű is, etikátlan lehet; A „mindenki használja” vagy „gyorsan történik” nem indokolja a gyakorlatot, és a végső felelősség a szakértőt terheli, nem az eszközt.