Dobici:
- Sposobnost da se shvati zašto je originalnost rasuđivanja neotuđiva, a umjetna inteligencija može biti samo partner za izoštravanje
- Sposobnost prepoznavanja oblika halucinacije i odvojene provjere 10 posto izmišljotina unutar 90 posto istine.
- Sposobnost održavanja intelektualne iskrenosti kroz principe ne skrivanja dvosmislenosti, predstavljanja doprinosa kao tačnog i testiranja vlastitog uma.
Došli smo do najdublje jedinice ovog modula. Jedino što je vrijedno u filozofiji je samo rezonovanje - originalna distinkcija, smjela teza, suptilno opravdanje. U ovoj cjelini ćemo pokriti tri međusobno povezane teme: originalnost rasuđivanja (kada je misao zaista proizvod vlastitog rasuđivanja, a ne kopija nečijeg drugog ili gotovog rezultata mašine), halucinacije (gdje AI proizvodi nepostojeću informaciju, izvor ili citat kao činjenicu) i intelektualnu iskrenost u odnosu na sebe (biti iskreni i iskreni prema drugima); šta neko ne zna, šta je od koga dobio, a šta je nejasno). Ova tri su etička srž upotrebe AI u humanističkim naukama.
Prethodne jedinice su podučavale pojedinačne vještine; Ova jedinica uspostavlja mentalnu disciplinu koja je u osnovi svega. Jer alati se mijenjaju, ali intelektualno poštenje ne.
Zašto je originalnost prosuđivanja neotuđiva?
U filozofiji nije dovoljno da tekst "daje pravi odgovor"; Kako ste došli do tog odgovora, koje ste razlike napravili i koje ste prigovore očekivali i naišli su od stvarne vrijednosti. AI proizvodi u prosjeku milione tekstova; ovaj prosjek izgleda fluidan, razuman i često tačan—ali nije originalan. Originalno razmišljanje počinje upravo tamo gdje se odvojite od prosjeka: razlika koju niko drugi ne pravi, hrabar izazov konvencionalnom gledištu, nova veza između dva koncepta.
Možete koristiti umjetnu inteligenciju kao partnera za razmišljanje – pustite ga da generiše prigovore, pokaže vam vašu slijepu tačku, pomogne vam da razjasnite koncept. Ali ako delegirate samo razmišljanje – tezu, opravdanje, zaključak – ostaje vam prosječan tekst i vaš doprinos je nula. Štaviše, ovo je kršenje intelektualnog poštenja: predstavljanje tuđeg (u ovom slučaju mašinskog) proizvoda kao svog.
Savjet: Zapitajte se u svakoj sesiji koja je razlika između “Neka AI razmisli o tome umjesto mene” i “Neka AI izoštri moje razmišljanje”. Prvi ubija originalnost; Drugi jača. Konkretan kriterijum: Da li vam je teza i opravdanje koje su se pojavile na kraju sesije potekle iz glave ili je prepisano sa ekrana?
Prepoznavanje i odbijanje halucinacija
Halucinacija nije greška AI, već posljedica načina na koji radi: model ne "zna" istinu, on proizvodi statistički vjerojatan tekst. Pa čak i kada nema odgovor na pitanje, prazninu popunjava uvjerljivom izmišljotinom. Tipični oblici halucinacija u ljudskim domenama:
- Izmišljeni izvor: nepostojeća knjiga, članak, lažni DOI.
- Lažni citat: rečenica pod navodnicima koja ne pripada pravom autoru.
- Pogrešna atribucija: pripisivanje pravog pogleda pogrešnom filozofu.
- Izmišljeni datum/činjenica: datum, događaj ili statistika koja ne postoji.
- Samouvjerena dvosmislenost: predstavljanje pitanja koje je zapravo kontroverzno kao da je apsolutno istinito.
Protuotrov je disciplina verifikacije koju ste naučili kroz ovaj modul: link do izvora, neovisna provjera, doslovna provjera. Ali dodatni refleks: nemojte zamijeniti samouvjereni ton AI sa znakom tačnosti. AI izgleda najsamouvjerenije čak i kada se najviše nadoknađuje.
Oprez: Najpodmuklija vrsta halucinacije je 10% izmišljotina ugrađenih u 90% istinitog teksta. Pošto je većina teksta istinita, čitalac se opušta i misli da je i izmišljeni deo istinit. Zato test "generalno izgleda ispravan" nije dovoljan; Provjerite svaki određeni izvor, citat i činjenicu pojedinačno.
Tri pravila intelektualnog poštenja
1. Skrivanje neizvjesnosti. Ne predstavljajte kao sigurno nešto što ne znate ili ne možete provjeriti. Reći “ovo je diskutabilno” ili “ja ovo nisam mogao provjeriti” je iskrenost, a ne slabost.
2. Ispravno prikazati doprinos. Ako ste koristili AI i vaša organizacija zahtijeva otkrivanje, navedite to transparentno. Ne uzimajte tuđi doprinos ili doprinos mašine kao svoj.
3. Testirajte ga vlastitim umom. Bez obzira koliko je rezultat tečan, nemojte ga prihvatiti a da ne prođete kroz vlastitu prosudbu. Konačni autoritet je vaš kritički um, a ne mašina.
tri mini kofera
Slučaj 1 — Prosjek primjećen. Student doktorskih studija napisao je dio toga tako što ga je "razmislio" o AI, ali je koristio izlaz uglavnom takav kakav jeste. Njegov savjetnik je rekao da tekst ne sadrži jedinstvene razlike, već da je prosjek "koji bi svako mogao reći". Student je ponovo koristio AI kao partnera u diskusiji: dobio je primjedbe, ali je uspostavio tezu i opravdanje. Drugi nacrt sadržavao je originalan doprinos.
Slučaj 2 — 10% proizvodnje. Istraživač bi koristio 10 izvora, pojednostavljen i uglavnom tačan sažetak literature koji proizvodi AI. Ukupan tekst je bio solidan, tako da je skoro prošao verifikaciju. Ipak, provjerio je svaki izvor: 1 od 10 je izmišljen, a jedan citat izvučen iz konteksta. Samo zato što je većina teksta bila istinita ne čini tih 10% nevinim. Sistematska provjera uhvatila je jednu grešku.
Slučaj 3 — Iskrena nesigurnost. Student nije mogao opravdati poen u tekstu seminara. Umjesto da je odbaci rekavši "AI je tako rekao", jasno je napisao, "ova tvrdnja nije jasna u izvorima, treba je provjeriti." Savjetnik je to smatrao znakom zrelosti, a ne slabosti. Intelektualno poštenje bilo je vrijednije od lažne sigurnosti.
Slaba prompt / Jaka prompt
Slab upit:
Napišite originalnu i dubinsku filozofsku analizu na ovu temu.
Ovaj zahtjev je kontradiktoran: zahtijevanje originalnosti od AI upravo ubija originalnost. Rezultat je tekst koji izgleda "originalno", ali je prosječan i možda apokrif.
Snažan upit:
Vaša uloga: partner u sokratskom razmišljanju. NE PIŠITE ZA MENE o ovoj temi i NEMOJTE MI DAVATI TEZE. Umjesto toga, izoštrite moje razmišljanje: 1) Tražite 3 slabe tačke u mojoj poziciji. 2) Istaknite 2 razlike koje sam možda propustio. 3) Navedite protuprimjer kako bih mogao testirati svoju tezu. Ako tvrdite izvor ili činjenicu, označite to kao "mora biti potvrđeno"; ne pomišljajte ako niste sigurni. Napisaću tezu i tekst. Moja pozicija: [unesite svoju poziciju]
Ovaj podsticanje zadržava razmišljanje u vama, pretvara AI u partnera za izoštravanje i potiče označavanje protiv halucinacija.
Četiri šablona za kopiranje
1) Sokratski partner (tjera vas na razmišljanje):
Ne odgovaraj mi; postavljajte pitanja Testirajte moju poziciju ispod sa 5 oštrih sokratskih pitanja: otkrijte moje pretpostavke, preskočene korake i protuprimjere. Izrada teze. Moja lokacija: [lokacija]
2) Oznake halucinacija:
Odgovorite u nastavku, ali svaku činjeničnu tvrdnju, izvor i citat označite nivoom pouzdanosti: [IZVJERENO] / [MORA BITI PROVJEREN] / [NISU SIGURNO]. Nemojte izmišljati nijedan izvor ili citat u koji niste sigurni. Umjesto toga recite "ne znam". Pitanje: [pitanje]
3) Dijagnoza prosječne specifičnosti:
Tekst ispod je moj. Koje rubrike su prosječne, koje "svako može reći", a koje sadrže jedinstvenu razliku/tvrdnju? Označite preostala mjesta da ih učinim jedinstvenim. Dodavanje sadržaja; samo za dijagnozu. Tekst: [tekst]
4) Nesigurnost iskrenost:
U tekstu ispod pronađite tvrdnje koje su predstavljene kao tačne, ali su zapravo sporne ili nepotkrijepljene. Za svaku predložite kako bi se to moglo iskrenije izraziti. Tekst: [tekst]
Tabela autentičnosti/poštenosti
ponašanje
originalnost
poštenje
Zaključak
Imati tezu koju je napisao AI
Nema
kršenje
bezvredno, rizično
Razmišljajte s AI, sami pišite tezu
Da
Pošteno (izjaviti)
precious
Korištenje AI izvora bez provjere
—
Rizik od povrede
Opasnost od fabrikacije
Jasno navedite nesigurnost
—
visoko
pouzdan
Uobičajene greške
- Tražimo originalnost od AI. To je kontradiktoran zahtjev; originalnost proizlazi samo iz vaše prosudbe.
- Zadovoljite se sa "generalno istinitim". 10% izmišljotina krije se u 90% istine; Potvrdite svaku konkretnu tvrdnju zasebno.
- Mijenjanje samopouzdanog tona za tačnost. AI izgleda najsamouvjerenije kada najviše nadoknađuje.
- Skrivanje neizvjesnosti. Lažna sigurnost je štetnija od iskrene rezerve i uništava povjerenje.
- Prikrivanje doprinosa. Neotkrivanje upotrebe AI protivno je korporativnoj politici i integritetu.
Ukratko
Originalnost prosuđivanja, halucinacije i intelektualno poštenje su etička srž upotrebe AI u humanističkim naukama. Samo razmišljanje je neotuđivo: AI može biti partner za izoštravanje, ali teza, obrazloženje i zaključak su vaši; Inače, ostaje prosječan i nepatvoren tekst. Halucinacije su rezultat načina na koji AI radi; Nemojte zamijeniti samouvjereni ton za istinu i uhvatite 10% izmišljotina unutar 90% istine tako što ćete ih zasebno provjeriti. Tri pravila intelektualne iskrenosti: sakrijte nesigurnost, precizno prezentirajte doprinos, testirajte vlastitim umom. Promjena alata; Ova disciplina se ne mijenja.
Zadatak aplikacije
- Napišite svoj filozofski stav (svojim riječima, ukratko).
- Dobijte samo pitanja od AI sa šablonom „Sokratov partner“; ne uzimajte nikakvu tezu.
- Ojačajte svoju poziciju pisanjem vlastitih odgovora na ova pitanja.
- Neka AI izlaz bude generisan sa šablonom „označavanje halucinacija“ i zapravo potvrdite tvrdnje označene sa [PROVERENO].
- Testirajte svoj tekst pomoću šablona "dijagnostika prosječne originalnosti" i učinite odjeljak jedinstvenim.
kontrolna lista
- [ ] Tezu, obrazloženje i zaključak sam izradio vlastitim obrazloženjem.
- [ ] Koristio sam AI kao partnera za izoštravanje razmišljanja, a ne kao zamjenu.
- [ ] Pojedinačno sam provjerio svaki određeni izvor, citat i činjenicu.
- [ ] Vjerovao sam dokazima, a ne samouvjerenom tonu AI.
- [ ] Iskreno sam označio nejasne/nepotkrijepljene tvrdnje.
- [ ] Izjavio sam upotrebu AI u skladu sa korporativnom politikom.