zisky:
- Schopnosť pochopiť, prečo je originalita úsudku neodcudziteľná a umelá inteligencia môže byť len zostrujúcim partnerom
- Schopnosť rozpoznať formy halucinácií a samostatne overiť 10-percentný výmysel v rámci 90-percentnej pravdy.
- Schopnosť zachovať intelektuálnu čestnosť prostredníctvom princípov neskrývania nejednoznačnosti, prezentovania príspevku ako presného a testovania vlastnej mysle.
Dostali sme sa k najhlbšej jednotke tohto modulu. Jediné, čo je na filozofii cenné, je samotné zdôvodnenie – originálne rozlíšenie, odvážna téza, rafinované zdôvodnenie. V tejto lekcii sa budeme venovať trom vzájomne prepojeným témam: originalita uvažovania (keď je myšlienka skutočne produktom vlastného uvažovania, nie kópia hotového výstupu niekoho iného alebo stroja), halucinácie (kde AI produkuje neexistujúce informácie, zdroj alebo citát ako fakt) a intelektuálna poctivosť (byť úprimný k sebe a k druhým, čo je to, čo človek získal pri produkcii vedomostí a myšlienok, jasne vedieť, čo od koho dostal, nevie, čo nejasné). Tieto tri sú etickým jadrom používania AI v humanitných vedách.
Predchádzajúce jednotky vyučovali jednotlivé zručnosti; Táto jednotka vytvára mentálnu disciplínu, ktorá je základom toho všetkého. Pretože nástroje sa menia, ale intelektuálna poctivosť nie.
Prečo je originalita úsudku neodňateľná?
Vo filozofii nestačí, aby text „dal správnu odpoveď“; Skutočnú hodnotu má to, ako ste k tejto odpovedi dospeli, aké rozdiely ste urobili a aké námietky ste očakávali a stretli. AI produkuje v priemere milióny textov; tento priemer sa zdá byť plynulý, primeraný a často presný – ale nie je originálny. Originálne myslenie začína práve tam, kde sa vzdialite od priemeru: rozdiel, ktorý nikto iný nerobí, odvážna výzva konvenčnému pohľadu, nové spojenie medzi dvoma pojmami.
AI môžete použiť ako partnera na myslenie – nechajte ju generovať námietky, ukázať vám slepé miesto, pomôcť vám objasniť koncept. Ale ak delegujete samotné myslenie – tézu, zdôvodnenie, záver – zostane vám priemerný text a váš prínos je nulový. Navyše ide o porušenie intelektuálnej poctivosti: prezentovať cudzí (v tomto prípade strojový) produkt ako svoj vlastný.
Tip: Opýtajte sa sami seba na každom stretnutí, aký je rozdiel medzi „Nech o tom AI premýšľa za mňa“ a „Nech AI zostrí moje myslenie“. Prvý zabíja originalitu; Druhý posilňuje. Konkrétne kritérium: Pochádzali tézy a odôvodnenia, ktoré sa objavili na konci sedenia, z vašej mysle alebo boli skopírované z obrazovky?
Rozpoznanie a odvrátenie halucinácií
Halucinácia nie je chybou AI, ale dôsledkom spôsobu jej fungovania: model „nepozná“ pravdu, produkuje štatisticky pravdepodobný text. Takže aj keď nemá odpoveď na otázku, zaplní medzeru vierohodným výmyslom. Typické formy halucinácií v ľudských doménach:
- Vymyslený zdroj: neexistujúca kniha, článok, falošný DOI.
- Falošný citát: veta v úvodzovkách, ktorá nepatrí skutočnému autorovi.
- Misatribúcia: pripisovanie pravdivého názoru nesprávnemu filozofovi.
- Vymyslený dátum/fakt: dátum, udalosť alebo štatistika, ktorá neexistuje.
- Sebavedomá nejednoznačnosť: prezentácia problému, ktorý je skutočne kontroverzný, ako keby to bola úplná pravda.
Protijed je overovacia disciplína, ktorú ste sa naučili v tomto module: odkaz na zdroj, nezávislé overenie, kontrola doslovne. Ale ďalší reflex: Nemýľte si sebavedomý tón AI za znak presnosti. Umelá inteligencia vyzerá najistejšie, aj keď najviac tvorí.
Pozor: Najzákernejší typ halucinácie je 10% výmysel vložený do 90% pravdivého textu. Keďže väčšina textu je pravdivá, čitateľ si oddýchne a myslí si, že pravdivá je aj vymyslená časť. Preto test „vo všeobecnosti sa zdá byť správny“ nestačí; Overte si každý konkrétny zdroj, citát a fakt jednotlivo.
Tri pravidlá intelektuálnej poctivosti
1. Skrytie neistoty. Neprezentujte ako isté niečo, čo neviete alebo nemôžete overiť. Povedať „tento bod je diskutabilné“ alebo „nemohol som si to overiť“ je úprimnosť, nie slabosť.
2. Ukážte príspevok správne. Ak ste používali AI a vaša organizácia vyžaduje zverejnenie, uveďte to transparentne. Príspevok niekoho iného alebo stroja neberte ako svoj vlastný.
3. Otestujte si to vlastnou mysľou. Bez ohľadu na to, aký plynulý je výsledok, neprijímajte ho bez toho, aby ste si prešli vlastným úsudkom. Konečnou autoritou je vaša kritická myseľ, nie stroj.
tri mini prípady
Prípad 1 – Priemerný zaznamenaný. Doktorand napísal časť z nej tak, že ju „vymyslel“ s AI, ale výstup z veľkej časti použil tak, ako je. Jeho poradca povedal, že text neobsahuje žiadne jedinečné rozdiely, ale je priemerom, „ktorý by mohol povedať každý“. Študent opäť použil AI ako partnera v diskusii: dostal námietky, ale založil tézu a odôvodnenie. Druhý návrh obsahoval originálny príspevok.
Prípad 2 — 10 % zhotovenie. Výskumník by použil 10-zdrojový, efektívny a do značnej miery presný súhrn literatúry, ktorý vytvára AI. Celkový text bol pevný, takže takmer prešiel overením. Napriek tomu skontroloval každý zdroj: 1 z 10 bol vymyslený a jeden citát bol vytrhnutý z kontextu. To, že väčšina textu bola pravdivá, neznamená, že tých 10% je nevinných. Systematická kontrola zachytila jedinú chybu.
Prípad 3 – Úprimná neistota. Študent nebol schopný zdôvodniť bod v seminárnom texte. Namiesto toho, aby to odmietol slovami „AI to povedala,“ jasne napísal, „toto tvrdenie nie je v zdrojoch jasné, treba ho overiť.“ Poradca to považoval za znak zrelosti, nie slabosti. Intelektuálna čestnosť bola cennejšia ako falošná istota.
Slabá výzva / Silná výzva
Slabá výzva:
Napíšte originálny a hĺbkový filozofický rozbor na túto tému.
Táto požiadavka je protichodná: vyžadovanie originality od AI presne zabíja originalitu. Výsledkom je text, ktorý pôsobí „originálne“, no je priemerný a možno apokryfný.
Výkonná výzva:
Vaša úloha: partner sokratického myslenia. NEPÍŠTE MI na túto tému a NEDÁVAJTE MI DIPLOMOVÚ. Namiesto toho zbystrite moje myslenie: 1) Požiadajte o 3 slabé miesta v mojej pozícii. 2) Upozornite na 2 rozdiely, ktoré som možno prehliadol. 3) Uveďte protipríklad, aby som mohol otestovať svoju prácu. Ak uvádzate zdroj alebo fakt, označte ho ako „musí byť overený“; nelíč sa, ak si nie si istý. Diplomovú prácu aj text napíšem. Moja pozícia: [vložte svoju vlastnú pozíciu]
Táto výzva vo vás udrží myslenie, zmení AI na zostrujúceho partnera a podnieti antihalucinačné značenie.
Štyri kopírovateľné šablóny
1) Sokratovský partner (núti vás premýšľať):
Neodpovedaj mi; klásť otázky Otestujte si moju pozíciu nižšie 5 ostrými sokratovskými otázkami: odhaľte moje predpoklady, preskočené kroky a protipríklady. Vypracovanie diplomovej práce. Moja poloha: [poloha]
2) Značenie halucinácií:
Odpovedzte nižšie, ale každé faktické tvrdenie, zdroj a citát označte ich úrovňou spoľahlivosti: [URČITÉ] / [MUSÍ BYŤ OVERENÉ] / [NEJISTOTÉ]. Nevymýšľajte si žiadny zdroj ani citát, ktorým si nie ste istý. Namiesto toho povedzte „neviem“. Otázka: [otázka]
3) Diagnóza priemernej špecifickosti:
Nižšie uvedený text je môj. Ktoré časti sú priemerné, ktoré „môže povedať každý“ a ktoré obsahujú jedinečné rozlíšenie/nárok? Označte zvyšné miesta, aby som ich mohol urobiť jedinečnými. Pridávanie obsahu; len diagnostika.Text: [text]
4) Úprimnosť v neistote:
Nájdite v texte nižšie tvrdenia, ktoré sú prezentované ako presné, ale v skutočnosti sú sporné alebo nepodložené. Pri každom navrhnite, ako by sa to dalo vyjadriť úprimnejšie. Text: [text]
Tabuľka pravosti/čestnosti
správanie
originalita
čestnosť
Záver
Diplomovú prácu napíše AI
žiadne
porušenie
bezcenné, riskantné
Brainstorming s AI, písanie diplomovej práce sami
áno
Čestný (vyhlásiť)
vzácny
Používanie zdroja AI bez jeho overenia
—
Riziko porušenia
Nebezpečenstvo výroby
Jasne uveďte neistotu
—
vysoká
spoľahlivý
Časté chyby
- Žiadosť o originalitu od AI. Je to protichodná požiadavka; originalita vzniká len z tvojho úsudku.
- Uspokojte sa s „všeobecne pravdivým“. 10% výmyslov skrýva 90% pravdy; Overte každý konkrétny nárok samostatne.
- Zamieňanie sebavedomého tónu za presnosť. AI vyzerá najistejšie, keď najviac tvorí.
- Skrytie neistoty. Falošná istota je škodlivejšia ako úprimná rezervácia a ničí dôveru.
- Zatajenie príspevku. Nezverejnenie používania AI je v rozpore s firemnou politikou a integritou.
V súhrne
Originalita úsudku, halucinácie a intelektuálna poctivosť sú etickým jadrom používania AI v humanitných vedách. Samotné myslenie je neodcudziteľné: AI môže byť vyostrujúcim partnerom, ale téza, zdôvodnenie a záver sú vaše; Inak zostáva priemerný a nefalšovaný text. Halucinácie sú výsledkom spôsobu, akým funguje AI; Nezamieňajte si sebavedomý tón s pravdou a zachyťte 10% výmysel v rámci 90% pravdy tak, že si to overíte samostatne. Tri pravidlá intelektuálnej poctivosti: skrývať neistotu, prezentovať príspevok presne, testovať vlastnou mysľou. Výmena nástrojov; Táto disciplína sa nemení.
Aplikačná úloha
- Napíšte svoj filozofický postoj (stručne vlastnými slovami).
- Získajte iba otázky od AI s šablónou „Socratic partner“; nerobte žiadnu tézu.
- Posilnite svoju pozíciu napísaním vlastných odpovedí na tieto otázky.
- Nechajte si vygenerovať výstup AI pomocou šablóny „halucination marking“ a skutočne overte tvrdenia označené [VERIFIED].
- Otestujte svoj vlastný text pomocou šablóny „diagnostika priemernej originality“ a urobte sekciu jedinečnou.
kontrolný zoznam
- [ ] Diplomovú prácu, odôvodnenie a záver som vypracoval s vlastným odôvodnením.
- [ ] AI som používal ako partnera na zostrenie myslenia, nie ako náhradu.
- [ ] Každý konkrétny zdroj, citát a fakt som individuálne overil.
- [ ] Veril som dôkazom, nie sebavedomému tónu AI.
- [ ] Úprimne som označil nejasné/nepodložené tvrdenia.
- [ ] Deklaroval som používanie AI v súlade s firemnou politikou.