Izvirnost sklepanja, halucinacija in intelektualna poštenost

Dobički:

• Sposobnost razumeti, zakaj je izvirnost presoje neodtujljiva in je umetna inteligenca lahko le partner pri ostrenju
• Sposobnost prepoznavanja oblik halucinacij in ločenega preverjanja 10 odstotkov izmišljotin znotraj 90 odstotkov resnice.
• Sposobnost ohranjanja intelektualne poštenosti z načeli ne skrivanja dvoumnosti, predstavitve prispevka kot točnega in preizkušanja lastnega uma.

Prišli smo do najgloblje enote tega modula. Edina stvar, ki je vredna v filozofiji, je razmišljanje samo - izvirno razlikovanje, drzna teza, subtilna utemeljitev. V tej enoti bomo obravnavali tri medsebojno povezane teme: izvirnost razmišljanja (ko je misel resnično produkt lastnega sklepanja, ne kopija že pripravljenih rezultatov nekoga drugega ali stroja), halucinacije (kjer AI ustvari neobstoječo informacijo, vir ali citat kot dejstvo) in intelektualno poštenost (biti pošten do sebe in drugih pri ustvarjanju znanja in idej; jasno povedati, kaj ne ve, kaj je kdo prejel od koga in kaj ni jasno). Ti trije so etično jedro uporabe umetne inteligence v humanistiki.

Prejšnje enote so poučevale posamezne veščine; Ta enota vzpostavlja mentalno disciplino, ki je osnova vsega. Kajti orodja se spreminjajo, intelektualna poštenost pa ne.

Zakaj je izvirnost sodbe neodtujljiva?

V filozofiji ni dovolj, da besedilo »da pravi odgovor«; Kako ste prišli do tega odgovora, kakšne razlike ste naredili in katere ugovore ste pričakovali in na katere ste naleteli, je resnično vredno. AI ustvari povprečje milijonov besedil; to povprečje se zdi tekoče, razumno in pogosto natančno - vendar ni izvirno. Izvirno razmišljanje se začne tam, kjer se oddaljite od povprečja: razlikovanje, ki ga nihče drug ne dela, drzen izziv konvencionalnemu pogledu, nova povezava med dvema konceptoma.

Umetno inteligenco lahko uporabite kot razmišljajočega partnerja – pustite mu, da ustvari ugovore, vam pokaže vašo slepo pego, vam pomaga razjasniti koncept. Če pa delegiraš samo razmišljanje – tezo, utemeljitev, zaključek – ostaneš s povprečnim besedilom in je tvoj prispevek nič. Poleg tega gre za kršitev intelektualne poštenosti: predstavljanje tujega (v tem primeru strojnega) izdelka kot svojega.

Namig: na vsaki seji se vprašajte, kakšna je razlika med »Naj umetna inteligenca razmišlja o tem namesto mene« in »Naj umetna inteligenca izostri moje razmišljanje«. Prvi ubija izvirnost; Drugi krepi. Konkreten kriterij: Ali sta teza in utemeljitev, ki sta se pojavila ob koncu seje, prišla iz vaših misli ali sta bila prepisana z ekrana?

Prepoznavanje in preprečevanje halucinacij

Halucinacija ni napaka umetne inteligence, ampak posledica načina delovanja: model ne "pozna" resnice, proizvede statistično verjetno besedilo. Torej, tudi ko nima odgovora na vprašanje, zapolni vrzel z verodostojno izmišljotino. Tipične oblike halucinacij v človeških domenah:

• Izmišljen vir: neobstoječa knjiga, članek, lažni DOI.
• Lažni citat: stavek v narekovajih, ki ne pripada pravemu avtorju.
• Napačno pripisovanje: pripisovanje pravega pogleda napačnemu filozofu.
• Izmišljeni datum/dejstvo: datum, dogodek ali statistika, ki ne obstaja.
• Samozavestna dvoumnost: predstavitev vprašanja, ki je dejansko sporno, kot da bi bilo popolnoma res.

Protistrup je disciplina preverjanja, ki ste se je naučili skozi ta modul: povezava z virom, neodvisno preverjanje, preverjanje dobesedno. Toda dodaten refleks: ne zamenjujte samozavestnega tona umetne inteligence za znak natančnosti. Umetna inteligenca je videti najbolj samozavestna, tudi ko se najbolj pobota.

Pozor: najbolj zahrbtna vrsta halucinacije je 10 % izmišljotina, vdelana v 90 % resničnega besedila. Ker je večina besedila resnična, se bralec sprosti in pomisli, da je res tudi tisto izmišljeno. Zato test "na splošno se zdi pravilno" ni dovolj; Preverite vsak določen vir, citat in dejstvo posebej.

Tri pravila intelektualne poštenosti

1. Skrivanje negotovosti. Ne predstavljajte kot gotovo nekaj, česar ne poznate ali ne morete preveriti. Reči "ta točka je sporna" ali "tega nisem mogel preveriti" je poštenost, ne šibkost.

2. Pravilno prikaži prispevek. Če ste uporabljali AI in vaša organizacija zahteva razkritje, to navedite pregledno. Ne jemljite prispevka nekoga drugega ali stroja za svojega.

3. Preizkusite z lastnim umom. Ne glede na to, kako tekoč je rezultat, ga ne sprejmite brez lastne presoje. Končna avtoriteta je vaš kritični um, ne stroj.

trije mini kovčki

Primer 1 – Povprečje opaženo. Doktorski študent je del tega napisal tako, da je "razmislil" z umetno inteligenco, vendar je rezultat večinoma uporabil takšnega, kot je. Njegov svetovalec je dejal, da besedilo ne vsebuje edinstvenih razlik, ampak je povprečje, "ki bi ga lahko kdorkoli povedal." Študent je ponovno uporabil AI kot razpravnega partnerja: prejel je ugovore, vendar je postavil tezo in utemeljitev. Drugi osnutek je vseboval izvirni prispevek.

Primer 2 — 10 % izdelave. Raziskovalec bi uporabil poenostavljen in pretežno natančen povzetek literature iz 10 virov, ki ga ustvari umetna inteligenca. Celotno besedilo je bilo solidno, tako da je skoraj prestalo preverjanje. Kljub temu je preveril vsak vir: 1 od 10 je bil izmišljen in en citat je bil vzet iz konteksta. Samo zato, ker je bila večina besedila resnična, teh 10 % ni nedolžnih. Sistematično preverjanje je ujelo eno samo napako.

Primer 3 – Iskrena negotovost. Študent v seminarskem besedilu ni znal utemeljiti točke. Namesto da bi jo zavrnil z besedami "AI je tako rekla," je jasno zapisal, "ta trditev ni jasna v virih, treba jo je preveriti." Svetovalec je menil, da je to znak zrelosti, ne šibkosti. Intelektualna poštenost je bila dragocenejša od lažne gotovosti.

Šibek poziv/močan poziv

Šibek poziv:

Napišite izvirno in poglobljeno filozofsko analizo na to temo.

Ta zahteva je protislovna: zahtevati izvirnost od AI ravno ubija izvirnost. Rezultat je besedilo, ki se zdi "izvirno", vendar je povprečno in morda apokrifno.

Močan poziv:

Vaša vloga: sokratsko misleči partner. NE PIŠI ZAME na to temo in NE MI DAJ DIPLOMSKO DELO. Namesto tega izostri moje razmišljanje: 1) Vprašaj za 3 šibke točke mojega položaja. 2) Poudarite 2 odliki, ki sem ju morda spregledal. 3) Navedite protiprimer, da bom lahko preizkusil svojo tezo. Če zahtevate vir ali dejstvo, to označite kot "treba preveriti"; ne ličite, če niste prepričani. Napisal bom diplomsko delo in besedilo. Moje stališče: [vstavite svoje stališče]

Ta poziv ohranja razmišljanje v vas, spremeni AI v partnerja za ostrenje in spodbudi označevanje proti halucinacijam.

Štiri predloge za kopiranje

1) Sokratov partner (da misliti):

Ne odgovarjaj mi; postavljajte vprašanja Spodaj preizkusite moje stališče s 5 ostrimi sokratskimi vprašanji: razkrijte moje predpostavke, preskočene korake in protiprimere. Izdelava diplomske naloge. Moja lokacija: [lokacija]

2) Halucinacijske oznake:

Odgovorite spodaj, vendar vsako dejansko trditev, vir in citat označite z njegovo stopnjo zaupanja: [GOTOVO] / [MORA BITI PREVERJENO] / [NISEM PREPRIČAN]. Ne izmišljujte nobenega vira ali citata, o katerem niste prepričani. Namesto tega recite "ne vem". Vprašanje: [vprašanje]

3) Diagnoza povprečne specifičnosti:

Spodnje besedilo je moje. Kateri deli so povprečni, za katere "lahko reče vsak" in kateri vsebujejo edinstveno razliko/trditev? Označite preostala mesta, da jih naredim unikatne. Dodajanje vsebine; samo diagnosticiranje. Besedilo: [besedilo]

4) Negotovost poštenost:

V spodnjem besedilu poiščite trditve, ki so predstavljene kot točne, vendar so dejansko izpodbijane ali neutemeljene. Za vsakega predlagajte, kako bi ga lahko bolj iskreno izrazili. Besedilo: [besedilo]

Tabela pristnosti/poštenosti

obnašanje

izvirnost

poštenost

Zaključek

Imeti diplomsko nalogo, ki jo je napisal AI

Noben

kršitev

ničvreden, tvegan

Brainstorming z AI, pisanje diplomske naloge sam

ja

Iskren (izjavi)

dragoceno

Uporaba vira AI brez njegovega preverjanja

—

Tveganje kršitve

Nevarnost izdelave

Jasno izrazite negotovost

—

visoka

zanesljiv

Pogoste napake

• Zahteva izvirnost od AI. Gre za protislovno zahtevo; izvirnost izhaja samo iz vaše presoje.
• Zadovoljite se s "na splošno drži". 10 % izmišljotin se skriva v 90 % resnice; Preverite vsako konkretno trditev posebej.
• Samozavestni ton zamenjate za natančnost. Umetna inteligenca je videti najbolj samozavestna, ko se najbolj pobota.
• Skrivanje negotovosti. Lažna gotovost je bolj škodljiva kot iskrena zadržanost in ruši zaupanje.
• Prikrivanje prispevka. Nerazkritje uporabe umetne inteligence je v nasprotju s politiko podjetja in integriteto.

Če povzamem

Izvirnost presoje, halucinacija in intelektualna poštenost so etično jedro uporabe umetne inteligence v humanistiki. Samo razmišljanje je neodtujljivo: umetna inteligenca je lahko partner pri ostrenju, toda teza, utemeljitev in zaključek so vaši; Sicer pa ostane povprečno in neponarejeno besedilo. Halucinacija je posledica načina delovanja AI; Ne zamenjujte samozavestnega tona za resnico in ujemite 10 % izmišljotine znotraj 90 % resnice tako, da jo ločeno preverite. Tri pravila intelektualne poštenosti: skriti negotovost, predstaviti prispevek natančno, preizkusiti z lastnim umom. Menjava orodij; Ta disciplina se ne spreminja.

Aplikacijska naloga

1. Napišite svoje filozofsko stališče (na kratko s svojimi besedami).
2. Prejmite samo vprašanja AI s predlogo »Sokratov partner«; ne jemlji nobene teze.
3. Okrepite svoj položaj tako, da sami napišete odgovore na ta vprašanja.
4. Ustvarite izhod umetne inteligence s predlogo »označevanje halucinacij« in dejansko preverite trditve z oznako [PREVERJENO].
5. Preizkusite svoje besedilo s predlogo "diagnoza povprečne izvirnosti" in naredite razdelek edinstven.

kontrolni seznam

• [ ] Tezo, utemeljitev in zaključek sem izdelal z lastnim razmišljanjem.
• [ ] AI sem uporabil kot partnerja za izostritev razmišljanja, ne kot nadomestek.
• [ ] Posamezno sem preveril vsak določen vir, citat in dejstvo.
• [ ] Zaupal sem dokazom, ne samozavestnemu tonu AI.
• [ ] Iskreno sem označil nejasne/neutemeljene trditve.
• [ ] Izjavil sem uporabo AI v skladu s politiko podjetja.