Nyereség:
- Annak ismerete, hogy a hallucináció miért van elrejtve az emberi tartományban, és hogy az egyes forrásokat át kell adni az ötlépéses ellenőrzési láncon (létezés, impresszum, idézet, kontextus, hozzárendelés)
- Lehetőség a forrás hitelességének megerősítésére olyan konkrét azonosítókkal, mint a DOI, ISBN és katalógus.
- Ismerje meg a mesterséges intelligencia kitalációinak megtiltását, és soha ne ruházza át az idézet ellenőrzését és a hozzárendelés őszinteségét.
Egy szöveg értéke emberi és társadalmi téren az alapul szolgáló források hitelességétől és pontos átadásától függ. Egy irodalmi esszé, egy szakdolgozat, egy jegyzet – mind megbízható forrásokra és őszinte forrásokra támaszkodik (megmutatva, ki/honnan szerzett információt vagy idézetet). A mesterséges intelligencia ezen a téren nagy kényelmet kínál, de a legnagyobb veszélyt is magában hordozza: a hallucinációt, vagyis egy nem létező forrás, idézet vagy tény valódiként való előállítását. Ez az egység egy "ellenőrző páncél" létrehozására szolgál e veszély ellen.
Egymondatos szabály: A mesterséges intelligencia által generált forrás, idézet, dátum vagy szám nem írhatja be a szöveget elsődleges vagy megbízható forrás első személyű megerősítése nélkül. Ez a szabály ennek a modulnak a leginkább ismétlődő és legkevésbé rugalmas szabálya.
Miért olyan veszélyes a hallucináció ezen a területen?
Ha a mesterséges intelligencia téved egy technikai kérdésben, azt gyakran észreveszik; de az emberi szférában a hallucináció ügyesen el van rejtve:
- Valósághű szerző: A mesterséges intelligencia egy valódi szerző nevét a szakterületnek megfelelő címmel és egy ésszerű évszámmal kombinálja. Az eredmény egy olyan forrás, amely nem létezik, de pontosan valóságosnak tűnik.
- A stílusnak megfelelő idézet: a mesterséges intelligencia képes utánozni egy szerző stílusát, és egy nem hozzá tartozó mondatot "szavaként" mutat be.
- Bezárás, de rossz dátum: A munka éve egy vagy két évvel eltolható; Ez elkerüli a figyelmetlen olvasót.
- Zavaros tulajdonítás: rossz személynek tulajdoníthat egy ötletet.
Mindezek csendben beszivároghatnak egy őszinte szándékkal rendelkező szerző szövegébe, és ha nem kapják el, ronthatják a szerző hírnevét és az olvasó bizalmát.
Figyelem: Csak azért, mert egy erőforrás „realisztikusnak” tűnik az AI számára, még nem jelenti azt, hogy valódi. A realizmus és a valóság két különböző dolog; Az MI mestere az előbbinek, az utóbbit nem tudja garantálni.
Ellenőrző páncél: lépésről lépésre
Minden forrás és idézet esetében kövesse ezt a láncot:
- van? Keresse a forrást a könyvtári katalógusban, megbízható adatbázisban vagy a kiadó honlapján. Ha nem található, akkor nem létezik – ne használja.
- Helyes a lenyomat? Szerző, cím, kiadó/folyóirat, év, oldal – mindegyiknek pontosan meg kell egyeznie.
- Valódi az idézet? Keresse meg az idézetet magában a forrásban, a megadott oldalon, és szó szerint hasonlítsa össze.
- Helyes a kontextus? Az idézet szó szerint használatos, vagy eltorzult?
- Őszinte a hozzárendelés? A megfelelő embernek tulajdonítják-e az ötletet, valami másodlagos forrásból vett valamit elsődlegesnek ábrázolnak?
Ha ennek a láncnak akár csak egy láncszeme is megszakad, nem tud beírni a forrásszöveget.
Tipp: Kezdettől fogva utasítsa az AI-t: "Ne adjon meg olyan forrást, amelynek létezésében nem vagy biztos; ha nem vagy biztos benne, mondd azt, hogy "Nem találtam a forrást". Ez nem vet véget teljesen a hallucinációnak, de arra készteti az MI-t, hogy azt mondja, „nem tudom”, ahelyett, hogy kitalálná.
Idézés és idézés fegyelem
Az igazolás mellett az őszinte hozzárendelés is fegyelem:
- Adja meg a közvetlen idézetet idézetekkel és oldallal; Legyen szó szerint.
- A közvetett idézetet (saját szavaival összefoglalva) is kapcsolja a forráshoz; Ha az ötlet nem a tiéd, akkor forrásmegjelölést igényel.
- Átláthatóan adja meg az AI hozzájárulását a szervezet szabályai szerint; Az AI nem „erőforrás”, de ha használják, akkor deklarálni kell.
- Ne ábrázolja a másodlagos forrást elsődlegesnek; Ha egy másik könyvből vett idézetet egy szerzőtől, jelezze ezt.
három mini tok
1. eset – Az öt forrás közül kettő fiktívnek bizonyult. Egy kutató 5 MI által megadott forrás ellenőrzési folyamatán ment keresztül. 2 egyáltalán nem szerepelt a katalógusban, 1-nek rossz az évszáma, 2-nek valódi és helyes. Csak a 2 ellenőrzött került felhasználásra; cikk védett a fiktív forrásmegjelöléstől.
2. eset – Idézet torzítás észlelve. Egy diák talált egy idézetet a mesterséges intelligenciától egy könyvben, de az idézet az eredeti szövegkörnyezetben ennek pont az ellenkezőjét jelentette. Az AI kiragadta a mondatot a szövegkörnyezetből. A tanuló javította az idézetet a megfelelő szövegkörnyezetével.
3. eset – A hibás hozzárendelés javítva. Az egyik előadás jegyzetében az AI rossz szerzőnek tulajdonított egy véleményt. Amikor a tanár összevetette két megbízható forrással, megtalálta a jogos tulajdonost és megjavította. A cetli megmaradt anélkül, hogy a diáknak baja lett volna.
Négy másolható sablon
1) Gyártási tilalomra vonatkozó utasítás:
Mostantól: NE adjon meg olyan forrást, idézetet, dátumot vagy számot, amelynek létezésében nem biztos. Ha nem biztos benne, mondja azt, hogy „ellenőrzés szükséges” vagy „Nem találtam”. Soha ne adj olyan címkét, amely reális, de nem garantálhatod a hitelességét. Kövesse ezt a szabályt minden válasznál.
2) Forrás-ellenőrzési ütemterv:
A forrást alább magam fogom ellenőrizni. Mondja meg, hol keressem ezt az erőforrást (katalógus, adatbázis, kiadó), és milyen fontos információkkal. ÖN megerősíti, hogy az erőforrás létezik; csak adja meg az ellenőrzési lépéseket.Forrás: [paste credit]
3) Idézetkörnyezet-ellenőrzés:
Az alábbiakban egy idézet és a tényleges bekezdés található, amelyben előfordul. Az idézetet az eredeti szövegkörnyezetében használták, vagy eltorzították? Csak hagyatkozz a szövegre, amit adtam; megjegyzés hozzáadása.Idézet: [...] Eredeti bekezdés: [...]
4) Hozzárendelés integritásának ellenőrzése:
Az alábbi szövegemben: mely mondatok igényelnek forrást, de nem maradnak hozzárendelve, melyik gondolat lehet másé, van-e olyan hely, ahol a másodlagos forrást mutatom meg elsődlegesnek? koholt források ajánlása; csak mutasson rá a hiányzó hivatkozásokra.Szöveg: [szöveg beillesztése]
Gyenge felszólítás / Erős felszólítás
Gyenge: "Adjon meg 5 tudományos forrást és idézetet ebben a témában."
Güçlü: "Mondja meg, milyen forrásokat és kulcsszavakat kell keresnem, ha ebben a témában kutakodok. Ne adjon elő olyan hivatkozást vagy idézetet, amelynek létezésében nem biztos, ha nem biztos benne, mondja azt, hogy "nem találtam". A megtalált forrásokat később adom; megerősítem a könyvekből származó idézeteket."
Az erőteljes felszólítás bezárja az ajtót a hallucináció előtt, és az emberre hagyja a hitelesítést. A gyenge prompt közvetlenül hívja fel a képzeletbeli erőforrás-termelést.
Érvényesítési lánc táblázat
lépést
kérdés
ellenőrzési hely
entitás
Valóban létezik a forrás?
Katalógus / adatbázis
impresszum
Helyes a szerző, évszám, oldal?
Kiadó/lenyomat
idézet
Szó szerint benne van a szövegben?
maga a forrás
Kontextus
Eltorzult a jelentés?
fő bekezdés
Idézet
A megfelelő emberhez?
keresztellenőrzés
Ellenőrzés állandó hivatkozással és lenyomattal
Vannak konkrét módszerek annak gyors és megbízható megerősítésére, hogy egy erőforrás valóban létezik-e. A legtöbb modern tudományos publikáció rendelkezik DOI-val (Digital Object Identifier – Digital Object Identifier – egy változatlan egyedi azonosító, amely állandóan hozzá van rendelve egy publikációhoz; hivatkozásként működik, és közvetlenül a publikációhoz vezet). Ha egy cikk DOI-jának böngészőbe írásakor hozzáfér a tényleges publikációhoz, akkor az a forrás létezik; Ha nem találja, vagy a DOI egyáltalán nem létezik, legyen gyanús. A mesterséges intelligencia által generált „DOI-k” gyakran kitaláltak, és nem vezetnek sehova; Ez az egyik legpraktikusabb teszt a képzeletbeli forrás megragadásához.
Az ISBN (International Standard Book Number) hasonló azonosítást biztosít a könyvekhez; A könyv valódiságát úgy ellenőrizheti, hogy ISBN alapján keres rá egy könyvtári katalógusban vagy egy megbízható könyvadatbázisban. Folyóiratok esetén ellenőrizze a folyóirat nevét és a kötet/kiadás adatait a kiadó hivatalos honlapján. Ezek a konkrét identitások adják a választ arra a kérdésre, hogy "valós-e a forrás?" Perceken belül egyértelmű választ ad kérdésére.
Ezek a módszerek az ellenőrzést „tranzakcióvá”, nem pedig „készletté” változtatják: ha minden forrást személyesen, a katalógusban, a DOI-n keresztül vagy a kiadó webhelyén nyit meg és tekint meg, a fantom-hozzárendelés kockázata nagyrészt megszűnik.
Tipp: Ha befejezte a bibliográfiát, tegyen egy „kattintási körutat”: nyissa meg az egyes források DOI- vagy katalógusrekordját. Még egyetlen forrás, amely nem nyílik meg, figyelmeztetés; vagy javítsa ki a megfelelő lenyomattal, vagy távolítsa el a listáról.
Gyakori hibák
- A realizmus összetévesztése a valósággal. Egy mesterséges intelligencia valószínű azonossága nem bizonyítja a létezését.
- Nem ellenőrizzük a forrásból származó idézetet. A kitalált vagy torz idézetek kiszivároghatnak.
- Az előzmények lekérése egyetlen forrásból. Ellenőrizze legalább két megbízható forrással.
- A másodlagos kinézete az elsődlegesnek. Mondja el őszintén az átviteli láncot.
- Az AI forrásként való hivatkozása. Az AI nem erőforrás; felhasználását deklaráljuk, az elsődleges forrásra hivatkozunk.
Összefoglalva
Az őszinteség a bölcsészettudományban a forrás és az idézet pontosságán múlik. A mesterséges intelligencia legnagyobb veszélye, hogy valósághűnek látszó, de nem létező forrásokat és idézeteket állít elő. Minden forrást és hivatkozást át kell adni az ötlépcsős ellenőrzési láncon (entitás, hitel, idézet, kontextus, forrásmegjelölés). Tiltsa le az AI-t a kezdetektől fogva gyártani, és soha ne ruházza át az ellenőrzést. Ez a fegyelem a garancia a megbízhatóságodra ebben a szakmában.
Pályázati feladat
Próbáljon meg az MI-vel javasolni néhány forrást és idézetet egy témában. Futtassa végig az egyes forrásokat az ellenőrzési láncon: hány létezik valójában, hánynak van megfelelő hozzárendelése, az idézet valóban benne van a forrásban? Az eredményeket írja le táblázatba! Ez a tapasztalat konkrétan megmutatja az AI korlátait ezen a területen.
ellenőrző lista
- [ ] Megerősítettem az egyes források meglétét a katalógusban.
- [ ] Minden idézetet szó szerint ellenőriztem az eredeti forrásból.
- [ ] Ellenőriztem, hogy az idézet szövegkörnyezete nem torzult-e el.
- [ ] A dátumokat legalább két forrással összevetettem.
- [ ] Megtiltottam az AI gyártását, és nem ruháztam rá az ellenőrzést.