Originalnost rasuđivanja, halucinacija i intelektualno poštenje

Dobici:

• Sposobnost shvaćanja zašto je originalnost prosudbe neotuđiva, a umjetna inteligencija može biti samo partner u izoštravanju
• Sposobnost prepoznavanja oblika halucinacija i zasebnog provjeravanja 10 posto izmišljotine unutar 90 posto istine.
• Sposobnost održavanja intelektualnog poštenja kroz načela neskrivanja dvosmislenosti, predstavljanja doprinosa točnim i testiranja vlastitog uma.

Došli smo do najdublje cjeline ovog modula. Jedina stvar koja je vrijedna u filozofiji je samo rasuđivanje - originalna distinkcija, smjela teza, suptilno opravdanje. U ovoj jedinici ćemo pokriti tri međusobno povezane teme: originalnost rasuđivanja (kada je misao doista proizvod nečijeg vlastitog razmišljanja, a ne kopija tuđeg ili gotovog izlaza stroja), halucinacija (gdje umjetna inteligencija proizvodi nepostojeću informaciju, izvor ili citat kao činjenicu) i intelektualno poštenje (biti iskren prema sebi i drugima u proizvodnji znanja i ideja; jasno navesti što ne zna, što je tko od koga dobio, a što je nejasno). Ovo troje je etička srž upotrebe umjetne inteligencije u humanističkim znanostima.

Prethodne jedinice podučavale su pojedinačne vještine; Ova jedinica uspostavlja mentalnu disciplinu koja je u osnovi svega toga. Jer alati se mijenjaju, ali intelektualno poštenje ne.

Zašto je izvornost presude neotuđiva?

U filozofiji nije dovoljno da tekst "da pravi odgovor"; Kako ste došli do tog odgovora, koje ste razlike napravili i koje ste primjedbe očekivali i na koje ste naišli od stvarne su vrijednosti. AI proizvodi u prosjeku milijune tekstova; ovaj prosjek se čini fluidnim, razumnim i često točnim - ali nije originalan. Izvorno razmišljanje počinje upravo tamo gdje se odvajate od prosjeka: razlika koju nitko drugi ne pravi, hrabar izazov konvencionalnom gledištu, nova veza između dva koncepta.

AI možete koristiti kao partnera za razmišljanje — dopustite mu da generira prigovore, pokaže vam vašu slijepu točku, pomogne vam da razjasnite koncept. Ali ako delegirate samo razmišljanje - tezu, opravdanje, zaključak - ostaje vam prosječan tekst i vaš doprinos je ravan nuli. Štoviše, to je kršenje intelektualnog poštenja: predstavljanje tuđeg (u ovom slučaju strojnog) proizvoda kao vlastitog.

Savjet: U svakoj sesiji zapitajte se koja je razlika između "Neka AI razmišlja o tome umjesto mene" i "Neka AI izoštri moje razmišljanje." Prvo ubija originalnost; Drugi jača. Konkretan kriterij: Jesu li teze i opravdanja koji su se pojavili na kraju sesije došli iz vaše glave ili su prepisani s ekrana?

Prepoznavanje i odbijanje halucinacija

Halucinacija nije greška umjetne inteligencije, već posljedica načina na koji radi: model ne "zna" istinu, on proizvodi statistički vjerojatan tekst. Dakle, čak i kada nema odgovor na pitanje, popunjava prazninu uvjerljivom izmišljotinom. Tipični oblici halucinacija u ljudskim domenama:

• Izmišljeni izvor: nepostojeća knjiga, članak, lažni DOI.
• Lažni citat: rečenica pod navodnicima koja ne pripada pravom autoru.
• Pogrešna atribucija: pripisivanje pravog pogleda pogrešnom filozofu.
• Izmišljeni datum/činjenica: datum, događaj ili statistika koja ne postoji.
• Pouzdana dvosmislenost: predstavljanje problema koji je zapravo kontroverzan kao da je apsolutno istinit.

Protuotrov je disciplina provjere koju ste naučili tijekom ovog modula: veza na izvor, neovisna provjera, provjera doslovno. Ali dodatni refleks: nemojte zamijeniti samouvjereni ton umjetne inteligencije sa znakom točnosti. AI izgleda najsamouvjerenije čak i kada najviše nadoknađuje.

Oprez: Najpodmuklija vrsta halucinacija je 10% izmišljotina ugrađenih u 90% istinitog teksta. Budući da je većina teksta istinita, čitatelj se opušta i misli da je istina i ono izmišljeno. Zato test "općenito se čini točnim" nije dovoljan; Provjerite svaki određeni izvor, citat i činjenicu pojedinačno.

Tri pravila intelektualnog poštenja

1. Skrivanje neizvjesnosti. Ne predstavljajte kao sigurno nešto što ne znate ili ne možete provjeriti. Reći "ovo je sporno" ili "Nisam mogao to potvrditi" je iskrenost, a ne slabost.

2. Ispravno prikažite doprinos. Ako ste koristili AI i vaša organizacija zahtijeva otkrivanje podataka, navedite to transparentno. Ne uzimajte tuđi ili strojni doprinos kao svoj.

3. Testirajte vlastitim umom. Bez obzira na to koliko je ishod tečan, nemojte ga prihvatiti bez vlastite prosudbe. Konačni autoritet je vaš kritički um, a ne stroj.

tri mini kućišta

Slučaj 1 — Prosjek primijećen. Student doktorskog studija napisao je dio toga "razmišljajući" pomoću umjetne inteligencije, ali je rezultat uglavnom koristio kakav jest. Njegov savjetnik rekao je da tekst ne sadrži jedinstvene razlike, već je prosjek "što bi svatko mogao reći". Student je ponovno koristio AI kao sugovornika: dobio je prigovore, ali je utvrdio tezu i opravdanje. Drugi nacrt sadržavao je izvorni doprinos.

Slučaj 2 — 10% proizvodnje. Istraživač bi koristio 10 izvora, pojednostavljen i uglavnom točan sažetak literature koji AI proizvodi. Sveukupni tekst bio je solidan, pa je gotovo prošao provjeru. Ipak, provjerio je svaki izvor: 1 od 10 bio je izmišljen, a jedan je citat izvučen iz konteksta. Samo zato što je većina teksta bila istinita ne čini tih 10% nevinim. Sustavnom provjerom uočena je jedna greška.

Slučaj 3 — Iskrena neizvjesnost. Student nije uspio opravdati bod u seminarskom tekstu. Umjesto da je odbaci rekavši "AI je tako rekao", jasno je napisao, "ova tvrdnja nije jasna u izvorima, treba je provjeriti." Savjetnik je to smatrao znakom zrelosti, a ne slabosti. Intelektualno poštenje bilo je vrednije od lažne sigurnosti.

Slab upit / Jak upit

Slab upit:

Napišite originalnu i dubinsku filozofsku analizu o ovoj temi.

Ovaj zahtjev je kontradiktoran: zahtijevanje originalnosti od umjetne inteligencije upravo ubija originalnost. Rezultat je tekst koji se čini "izvornim", ali je prosječan i možda apokrifan.

Snažan upit:

Vaša uloga: partner sokratskog razmišljanja. NEMOJTE MI PISATI na ovu temu i NEMOJTE MI DAJATI DIPLOMSKI RAD. Umjesto toga, izoštri moje razmišljanje: 1) Traži 3 slabe točke u mom položaju. 2) Istaknite 2 razlike koje sam možda propustio. 3) Navedite protuprimjer kako bih mogao testirati svoju tezu. Ako tvrdite izvor ili činjenicu, označite to kao "mora se provjeriti"; nemojte se pomiriti ako niste sigurni. Napisat ću diplomski rad i tekst. Moj stav: [unesite svoj stav]

Ovaj upit zadržava razmišljanje u vama, pretvara AI u partnera za izoštravanje i potiče označavanje protiv halucinacija.

Četiri predloška za kopiranje

1) Sokratov partner (tjera vas da razmišljate):

Ne odgovaraj mi; postavljajte pitanja Ispitajte moj stav u nastavku s 5 oštrih sokratskih pitanja: otkrijte moje pretpostavke, preskočene korake i protuprimjere. Izrada diplomskog rada. Moja lokacija: [lokacija]

2) Halucinacijska oznaka:

Odgovorite u nastavku, ali označite svaku činjeničnu tvrdnju, izvor i citat s njegovom razinom pouzdanosti: [SIGURNO] / [MORA SE PROVJERITI] / [NISEM SIGURAN]. Nemojte izmišljati izvore ili citate u koje niste sigurni. Umjesto toga recite "ne znam". Pitanje: [pitanje]

3) Dijagnoza prosječne specifičnosti:

Tekst ispod je moj. Koji su dijelovi prosječni, za koje "svatko može reći", a koji sadrže jedinstvenu razliku/tvrdnju? Označite preostala mjesta kako bih ih učinio jedinstvenima. Dodavanje sadržaja; samo dijagnoza.Tekst: [tekst]

4) Iskrenost neizvjesnosti:

Pronađite tvrdnje u donjem tekstu koje su predstavljene kao točne, ali su zapravo osporene ili nepotkrijepljene. Za svaku predložite kako bi se mogla iskrenije izraziti. Tekst: [tekst]

Tablica autentičnosti/poštenja

ponašanje

originalnost

iskrenost

Zaključak

Imajući tezu koju je napisao AI

Nijedan

kršenje

bezvrijedan, riskantan

Brainstorming s AI, pisanje teze sami

da

Pošten (izjaviti)

dragocjen

Korištenje AI izvora bez njegove provjere

—

Rizik od kršenja

Opasnost od izmišljotine

Jasno izrazite nesigurnost

—

visoka

pouzdani

Uobičajene greške

• Traženje originalnosti od umjetne inteligencije. To je proturječan zahtjev; originalnost proizlazi samo iz vaše prosudbe.
• Zadovoljite se "općenito istinitim". 10% izmišljotina skriva se unutar 90% istine; Svaku konkretnu tvrdnju provjerite posebno.
• Miješajući samopouzdani ton s točnošću. AI izgleda najsamouvjerenije kada najviše nadoknađuje.
• Skrivanje neizvjesnosti. Lažna sigurnost je štetnija od iskrene rezerve i uništava povjerenje.
• Skrivanje doprinosa. Neotkrivanje upotrebe umjetne inteligencije protivno je korporativnoj politici i integritetu.

Ukratko

Izvornost prosuđivanja, halucinacije i intelektualno poštenje etička su srž upotrebe umjetne inteligencije u humanističkim znanostima. Samo razmišljanje je neotuđivo: AI može biti partner u izoštravanju, ali teza, obrazloženje i zaključak su vaši; Inače, ostaje prosječan i nepatvoren tekst. Halucinacije su rezultat načina na koji AI radi; Nemojte zamijeniti samouvjereni ton s istinom i uhvatite 10% izmišljotine unutar 90% istine tako što ćete je zasebno provjeriti. Tri pravila intelektualnog poštenja: sakriti neizvjesnost, točno predstaviti doprinos, testirati vlastitim umom. Promjena alata; Ova se disciplina ne mijenja.

Zadatak aplikacije

1. Napiši neko svoje filozofsko stajalište (ukratko svojim riječima).
2. Dobijte samo pitanja od AI s predloškom "Sokratov partner"; nemojte uzimati nikakvu tezu.
3. Ojačajte svoju poziciju pisanjem vlastitih odgovora na ova pitanja.
4. Imajte AI izlaz generiran s predloškom "označavanja halucinacije" i stvarno potvrdite tvrdnje s oznakom [VERIFIED].
5. Testirajte vlastiti tekst pomoću predloška "dijagnoza prosječne originalnosti" i učinite dio jedinstvenim.

popis za provjeru

• [ ] Tezu, obrazloženje i zaključak izveo sam vlastitim obrazloženjem.
• [ ] Koristio sam AI kao partnera za izoštravanje razmišljanja, a ne kao zamjenu.
• [ ] Pojedinačno sam provjerio svaki određeni izvor, citat i činjenicu.
• [ ] Vjerovao sam dokazima, a ne samouvjerenom tonu umjetne inteligencije.
• [ ] Iskreno sam označio nejasne/neutemeljene tvrdnje.
• [ ] Izjavio sam korištenje AI-a u skladu s korporativnom politikom.