Nyereség:
- Képes megragadni, miért elidegeníthetetlen az ítélet eredetisége, és a mesterséges intelligencia csak élesítő partner lehet
- Képes felismerni a hallucináció formáit, és külön ellenőrizni a 10 százalékos kitalációt a 90 százalékos igazságon belül.
- Képes megőrizni az intellektuális őszinteséget a kétértelműség el nem titkolása, a hozzájárulás pontos bemutatása és a saját elme próbája révén.
Elérkeztünk a modul legmélyebb egységéhez. A filozófiában egyedül az érvelés értékes – eredeti megkülönböztetés, merész tézis, finom indoklás. Ebben az egységben három, egymással összefüggő témával foglalkozunk: az érvelés eredetisége (amikor egy gondolat valóban a saját érvelésének terméke, nem pedig valaki más vagy egy gép kész kimenetének másolata), a hallucináció (amikor egy mesterséges intelligencia nem létező információt, forrást vagy idézetet állít elő tényként), és intellektuális őszinteség (az ismeretek és mások nem őszintesége önmagával kitől kapott, és mi nem világos). Ez a három a mesterséges intelligencia bölcsészettudományi használatának etikai magja.
A korábbi egységek egyetlen készségeket tanítottak; Ez az egység megalapozza azt a mentális fegyelmet, amely mindennek az alapja. Mert az eszközök változnak, de az intellektuális őszinteség nem.
Miért elidegeníthetetlen az ítélet eredetisége?
A filozófiában nem elég, ha egy szöveg „megadja a helyes választ”; Az, hogy hogyan jutott erre a válaszra, milyen különbségeket tett, és milyen kifogásokkal várt és találkozott, valódi értéket képvisel. Az AI szövegek millióinak átlagát állítja elő; ez az átlag gördülékenynek, ésszerűnek és gyakran pontosnak tűnik – de nem eredeti. Az eredeti gondolkodás ott kezdődik, ahol elszakad az átlagtól: senki más nem tesz különbséget, merész kihívás a konvencionális szemlélettel szemben, új kapcsolat két fogalom között.
Használhatja az AI-t gondolkodó partnerként – hagyja, hogy kifogásokat generáljon, mutassa meg a holtfoltot, segít tisztázni egy fogalmat. De ha magát a gondolkodást – tézist, indoklást, következtetést – delegálod, akkor marad egy átlagos szöveg, és a hozzájárulásod nulla. Ráadásul ez az intellektuális őszinteség megsértése: valaki másnak (jelen esetben egy gépnek) a sajátjaként való bemutatása.
Tipp: Minden ülésen kérdezd meg magadtól, hogy mi a különbség a „Hagyd, hogy a mesterséges intelligencia gondolkodjon helyettem” és a „Hagyd, hogy az AI élesítse a gondolkodásomat” között. Az első megöli az eredetiséget; A második erősít. Konkrét kritérium: A foglalkozás végén felmerült tézis és indoklás az Ön fejéből fakadt, vagy a képernyőről másolták le?
A hallucinációk felismerése és elhárítása
A hallucináció nem az MI hibája, hanem működésének következménye: a modell nem "tudja" az igazságot, statisztikailag valószínű szöveget állít elő. Így még akkor is, ha egy kérdésre nincs válasza, hihető kitalációval tölti be a hiányt. A hallucináció tipikus formái az emberi területeken:
- Előállított forrás: nem létező könyv, cikk, hamis DOI.
- Hamis idézet: idézőjeles mondat, amely nem tartozik a valódi szerzőhöz.
- Téves attribúció: egy igaz nézet rossz filozófusnak való tulajdonítása.
- Kitalált dátum/tény: olyan dátum, esemény vagy statisztika, amely nem létezik.
- Magabiztos kétértelműség: egy ténylegesen vitatott kérdés bemutatása úgy, mintha teljesen igaz lenne.
Az ellenszer az az ellenőrzési fegyelem, amelyet ebben a modulban tanult: hivatkozás a forrásra, független ellenőrzés, szó szerinti ellenőrzés. De egy további reflex: ne tévessze össze a mesterséges intelligencia magabiztos hangját a pontosság jelével. Az AI akkor is a legmagabiztosabbnak tűnik, ha a legtöbbet alkot.
Vigyázat: A hallucináció legálomosabb típusa a 10%-ban 90%-ban igaz szövegbe ágyazott kitaláció. Mivel a szöveg nagy része igaz, az olvasó megnyugszik, és azt hiszi, hogy a kitalált rész is igaz. Ezért nem elég az "általában helyesnek tűnik" teszt; Minden egyes forrást, idézetet és tényt külön-külön ellenőrizze.
Az intellektuális őszinteség három szabálya
1. A bizonytalanság elrejtése. Ne mutasson be biztosnak valamit, amit nem tud vagy nem tud ellenőrizni. Azt mondani, hogy „ez vitatható” vagy „ezt nem tudtam ellenőrizni”, őszinteség, nem gyengeség.
2. Helyesen jelenítse meg a hozzájárulást. Ha MI-t használt, és szervezete megköveteli a közzétételt, ezt átláthatóan jelezze. Ne vegye a sajátjaként mások vagy a gép hozzájárulását.
3. Teszteld saját elméddel. Bármilyen gördülékeny is egy eredmény, ne fogadd el anélkül, hogy saját ítéleteden keresztül mennél. A végső tekintély a kritikus elméd, nem a gép.
három mini tok
1. eset – Átlagos észlelés. Egy PhD-hallgató egy részét úgy írta meg, hogy mesterséges intelligenciával „agyonrázta”, de a kimenetet nagyrészt úgy használta, ahogy van. Tanácsadója azt mondta, hogy a szöveg nem tartalmaz egyedi megkülönböztetéseket, de egy átlagos "mindenki megmondhatja". A hallgató ismét az MI-t használta vitapartnerként: kapott kifogásokat, de a tézist és az indoklást megalapozta. A második tervezet eredeti hozzászólást tartalmazott.
2. eset – 10% gyártás. A kutató egy 10 forrásból álló, egyszerűsített és nagyrészt pontos szakirodalmi összefoglalót használna, amelyet az AI készít. Az általános szöveg tömör volt, így majdnem átment az ellenőrzésen. Ennek ellenére minden forrást megvizsgált: 10-ből 1 kitalált, és egy idézetet kiragadtak a szövegkörnyezetből. Attól, hogy a szöveg nagy része igaz, még nem tette ártatlanná a 10%-ot. A szisztematikus ellenőrzés egyetlen hibát észlelt.
3. eset – Őszinte bizonytalanság. Egy diák nem tudott megindokolni egy pontot a szeminárium szövegében. Ahelyett, hogy azzal utasította volna el, hogy "az AI mondta" - írta egyértelműen - "ez az állítás nem egyértelmű a forrásokból, ellenőrizni kell." A tanácsadó ezt az érettség, nem pedig a gyengeség jelének tartotta. Az intellektuális őszinteség értékesebb volt, mint a hamis bizonyosság.
Gyenge felszólítás / Erős felszólítás
Gyenge felszólítás:
Írjon eredeti és mélyreható filozófiai elemzést erről a témáról.
Ez az igény ellentmondásos: az eredetiséget követelni az AI-tól pontosan megöli az eredetiséget. Az eredmény egy olyan szöveg, amely "eredetinek" tűnik, de átlagos és valószínűleg apokrif.
Erőteljes felszólítás:
Az Ön szerepe: szókratikus gondolkodó partner. NE ÍRJ NEKEM ebben a témában, és NE ADJ SZAKDOLGOZATOT. Ehelyett élesítse a gondolkodásomat: 1) Kérjen 3 gyenge pontot a pozíciómban. 2) Mutasson rá 2 megkülönböztetésre, amit esetleg kihagytam. 3) Adjon ellenpéldát, hogy tesztelhessem a dolgozatomat! Ha forrást vagy tényt állít, jelölje be, hogy "ellenőrizendő"; ne pótolj, ha nem vagy biztos benne. Megírom a szakdolgozatot és a szöveget. Az én álláspontom: [adja be a saját álláspontját]
Ez a felszólítás megtartja benned a gondolkodást, élesítő partnerré változtatja az MI-t, és hallucinációellenes jelölést ad.
Négy másolható sablon
1) Szókratikus partner (gondolkodtat):
Ne válaszolj nekem; tegyél fel kérdéseket Tesztelje az alábbi álláspontomat 5 éles szókratészi kérdéssel: fedje fel feltételezéseimet, kihagyott lépéseimet és ellenpéldáimat. Szakdolgozat készítése. Saját helyem: [helyszín]
2) Hallucinációs jelölések:
Válaszoljon alább, de minden tényszerű állítást, forrást és idézetet jelöljön meg a megbízhatósági szintjükkel: [BIZONYOS] / [ELLENŐRZNI KELL] / [NEM BIZTOS]. Ne gyártson olyan forrást vagy idézetet, amelyben bizonytalan. Mondja inkább azt, hogy „nem tudom”. Kérdés: [kérdés]
3) Átlagos specifitású diagnózis:
Az alábbi szöveg az enyém. Mely szakaszok átlagosak, melyeket "mondhatja mindenki", és melyek tartalmaznak egyedi megkülönböztetést/állítást? Jelölje be a fennmaradó helyeket, hogy egyedivé tudjam tenni őket. Tartalom hozzáadása; csak diagnosztizálni.Szöveg: [szöveg]
4) Bizonytalanság őszintesége:
Keresse meg az alábbi szövegben azokat az állításokat, amelyek pontosak, de valójában vitatottak vagy megalapozatlanok. Mindegyiknél javasolja, hogyan lehetne őszintébben kifejezni. Szöveg: [szöveg]
Eredetiség/őszinteség táblázat
viselkedés
eredetiség
őszinteség
Következtetés
Miután a dolgozatot az AI írta
Egyik sem
megsértése
értéktelen, kockázatos
Ötletbörze az AI-val, saját maga írja meg a szakdolgozatot
Igen
Őszinte (kijelenti)
értékes
AI-forrás használata ellenőrzés nélkül
—
Szabálysértés kockázata
Előállítás veszélye
Világosan fogalmazza meg a bizonytalanságot
—
magas
megbízható
Gyakori hibák
- Eredetiséget kér az AI-tól. Ez ellentmondásos igény; az eredetiség csak a te ítéletedből fakad.
- Elégedjen meg az "általában igaz"-val. 10% kitaláció 90% igazságon belül rejtőzik; Minden egyes állítást külön ellenőrizze.
- A magabiztos hangnem összetévesztése a pontossággal. Az AI akkor néz ki a legmagabiztosabbnak, ha a legtöbbet alkot.
- A bizonytalanság elrejtése. A hamis bizonyosság károsabb, mint az őszinte fenntartás, és rombolja a bizalmat.
- A hozzájárulás elrejtése. A mesterséges intelligencia használatának felfedésének elmulasztása ellentétes a vállalati politikával és integritással.
Összefoglalva
Az ítélet eredetisége, a hallucinációk és az intellektuális őszinteség a mesterséges intelligencia humán tudományokban való használatának etikai magja. Maga a gondolkodás elidegeníthetetlen: lehet, hogy a mesterséges intelligencia élesítő partner, de a tézis, az indoklás és a következtetés a tiéd; Egyébként marad egy átlagos és hamisítatlan szöveg. A hallucináció az AI működésének eredménye; Ne tévessze össze a magabiztos hangot az igazsággal, és a 90%-os igazságon belüli 10%-os kitalációt külön ellenőrizze. Az intellektuális őszinteség három szabálya: rejtsd el a bizonytalanságot, mutasd be pontosan a hozzájárulást, teszteld a saját elméddel. Az eszközök megváltoznak; Ez a fegyelem nem változik.
Pályázati feladat
- Írja le filozófiai álláspontját (saját szavaival, röviden).
- Csak kérdéseket kaphat az AI-tól a „Socratic partner” sablon segítségével; ne vállaljon semmilyen szakdolgozatot.
- Erősítse meg pozícióját azzal, hogy megírja saját válaszait ezekre a kérdésekre.
- Készítsen mesterséges intelligencia kimenetet egy „hallucinációs jelölés” sablonnal, és ténylegesen ellenőrizze a [VERIFIED] feliratú állításokat.
- Tesztelje saját szövegét az „átlagos eredetiség diagnózis” sablonnal, és tegye egyedivé a szakaszt.
ellenőrző lista
- [ ] A tézist, az indoklást és a következtetést saját érvelésemmel készítettem.
- [ ] Az AI-t partnerként használtam a gondolkodás élesítésére, nem helyettesítőként.
- [ ] Minden egyes forrást, idézetet és tényt egyenként ellenőriztem.
- [ ] A bizonyítékokban bíztam, nem az AI magabiztos hangnemében.
- [ ] Őszintén megjelöltem a homályos/alap nélküli állításokat.
- [ ] Kijelentettem, hogy a mesterséges intelligenciát a vállalati szabályzatnak megfelelően használom.