Originaliteit van redeneren, hallucinatie en intellectuele eerlijkheid — Kunstmatige intelligentie in filosofie en toegepaste ethiek

Winst:

Het vermogen om te begrijpen waarom originaliteit van oordeel onvervreemdbaar is en kunstmatige intelligentie alleen maar een verscherpende partner kan zijn
Vermogen om de vormen van hallucinatie te herkennen en afzonderlijk de 10 procent verzinsel binnen de 90 procent waarheid te verifiëren.
Vermogen om intellectuele eerlijkheid te behouden door de principes van het niet verbergen van dubbelzinnigheid, het presenteren van de bijdrage als accuraat en het testen van de eigen geest.

We zijn bij de diepste eenheid van deze module aangekomen. Het enige dat waardevol is in de filosofie is de redenering zelf: een origineel onderscheid, een gedurfde stelling, een subtiele rechtvaardiging. In deze unit behandelen we drie onderling verbonden thema's: originaliteit van redeneren (wanneer een gedachte werkelijk het product is van iemands eigen redenering, en niet een kopie van de kant-en-klare output van iemand anders of een machine), hallucinatie (waarbij een AI niet-bestaande informatie produceert, bron of citaat als feit) en intellectuele eerlijkheid (eerlijk zijn tegenover zichzelf en anderen bij de productie van kennis en ideeën; duidelijk aangeven wat men niet weet, wat men van wie heeft ontvangen en wat onduidelijk is). Deze drie vormen de ethische kern van het gebruik van AI in de geesteswetenschappen.

In eerdere eenheden werden afzonderlijke vaardigheden aangeleerd; Deze eenheid vestigt de mentale discipline die aan dit alles ten grondslag ligt. Omdat instrumenten veranderen, maar intellectuele eerlijkheid niet.

Waarom is de originaliteit van het oordeel onvervreemdbaar?

In de filosofie is het niet voldoende dat een tekst ‘het juiste antwoord geeft’; Hoe u tot dat antwoord bent gekomen, welk onderscheid u heeft gemaakt en welke bezwaren u heeft verwacht en tegengekomen, zijn van reële waarde. AI produceert gemiddeld miljoenen teksten; dit gemiddelde lijkt vloeiend, redelijk en vaak accuraat, maar is niet origineel. Origineel denken begint precies daar waar je je losmaakt van het gemiddelde: een onderscheid dat niemand anders maakt, een gedurfde uitdaging voor een conventionele visie, een nieuwe verbinding tussen twee concepten.

Je kunt AI gebruiken als denkpartner – laat het bezwaren genereren, je blinde vlek laten zien, je helpen een concept te verduidelijken. Maar als je het denken zelf delegeert – stelling, rechtvaardiging, conclusie – houd je een gemiddelde tekst over en is jouw bijdrage nul. Bovendien is dit een schending van de intellectuele eerlijkheid: het product van iemand anders (in dit geval een machine) presenteren als het jouwe.

Tip: Vraag jezelf in elke sessie het verschil af tussen ‘Laat de AI er voor mij over nadenken’ en ‘Laat de AI mijn denken aanscherpen’. De eerste doodt de originaliteit; De tweede versterkt. Concreet criterium: Kwam de stelling en rechtvaardiging die aan het einde van de sessie naar voren kwam uit je hoofd of werd deze van het scherm gekopieerd?

Herkennen en afweren van hallucinaties

De hallucinatie is geen fout van de AI, maar een gevolg van de manier waarop deze werkt: het model ‘kent’ de waarheid niet, het produceert statistisch waarschijnlijke tekst. Dus zelfs als hij geen antwoord heeft op een vraag, vult hij de leemte op met een geloofwaardig verzinsel. Typische vormen van hallucinatie in menselijke domeinen:

Verzonnen bron: niet-bestaand boek, artikel, valse DOI.
Vals citaat: een zin tussen aanhalingstekens die niet bij de echte auteur hoort.
Misattributie: toekenning van een ware visie aan de verkeerde filosoof.
Verzonnen datum/feit: een datum, gebeurtenis of statistiek die niet bestaat.
Zelfverzekerde dubbelzinnigheid: een onderwerp presenteren dat feitelijk controversieel is, alsof het absoluut waar is.

Het tegengif is de verificatiediscipline die je tijdens deze module hebt geleerd: linken naar bron, onafhankelijk verifiëren, woordelijk controleren. Maar een extra reflex: verwar de zelfverzekerde toon van de AI niet met een teken van nauwkeurigheid. AI ziet er het meest zelfverzekerd uit, zelfs als het het meeste goedmaakt.

Let op: het meest verraderlijke type hallucinatie is 10% verzinsel ingebed in een 90% ware tekst. Omdat het grootste deel van de tekst waar is, ontspant de lezer zich en denkt hij dat het verzonnen gedeelte ook waar is. Dat is de reden waarom de test 'lijkt over het algemeen correct' niet voldoende is; Verifieer elke specifieke bron, citaat en feit afzonderlijk.

Drie regels van intellectuele eerlijkheid

1. Onzekerheid verbergen. Presenteer iets dat u niet weet of niet kunt verifiëren niet als zeker. Zeggen ‘dit punt is discutabel’ of ‘ik kon dit niet verifiëren’ is eerlijkheid en geen zwakte.

2. Toon bijdrage correct. Als u AI heeft gebruikt en uw organisatie heeft behoefte aan openbaarmaking, geef dit dan transparant aan. Beschouw de bijdrage van iemand anders of de machine niet als uw eigen bijdrage.

3. Test het met je eigen geest. Hoe vloeiend een uitkomst ook is, accepteer deze niet zonder eerst uw eigen oordeel te vellen. De uiteindelijke autoriteit is uw kritische geest, niet de machine.

drie minikoffers

Geval 1 – Gemiddeld opgemerkt. Een promovendus schreef een deel ervan door erover te ‘brainstormen’ met AI, maar gebruikte de output grotendeels zoals het is. Zijn adviseur zei dat de tekst geen uniek onderscheid bevatte, maar een gemiddelde was 'dat iedereen kon zien'. De student zette AI opnieuw in als gesprekspartner: hij kreeg bezwaren, maar hij stelde de stelling en onderbouwing vast. Het tweede concept bevatte een originele bijdrage.

Geval 2 – 10% fabricage. Een onderzoeker zou een gestroomlijnde en grotendeels nauwkeurige literatuursamenvatting uit tien bronnen gebruiken die AI produceert. De algehele tekst was solide, zodat hij bijna door de verificatie kwam. Toch controleerde hij elke bron: 1 op de 10 was verzonnen en één citaat was uit zijn context gehaald. Het feit dat het grootste deel van de tekst waar was, maakte die 10% nog niet onschuldig. Bij systematische controle werd één fout ontdekt.

Geval 3 – Eerlijke onzekerheid. Een student kon een punt in een werkcollegetekst niet verantwoorden. In plaats van het van de hand te wijzen door te zeggen: “AI zei het”, schreef hij duidelijk, “is deze bewering niet duidelijk in de bronnen, ze moet worden geverifieerd.” De adviseur beschouwde dit als een teken van volwassenheid en niet van zwakte. Intellectuele eerlijkheid was waardevoller dan valse zekerheid.

Zwakke prompt/sterke prompt

Zwakke prompt:

Schrijf een originele en diepgaande filosofische analyse over dit onderwerp.

Deze eis is tegenstrijdig: het eisen van originaliteit van AI doodt juist de originaliteit. Het resultaat is een tekst die "origineel" lijkt, maar gemiddeld en mogelijk apocrief is.

Krachtige prompt:

Jouw rol: een socratisch denkpartner. SCHRIJF NIET VOOR MIJ over dit onderwerp en GEEF MIJ GEEN Scriptie. Verscherp in plaats daarvan mijn denkwijze: 1) Vraag naar drie zwakke punten in mijn standpunt. 2) Wijs op twee verschillen die ik misschien gemist heb. 3) Geef een tegenvoorbeeld zodat ik mijn stelling kan testen. Als u een bron of feit claimt, markeer deze dan als "moet worden geverifieerd"; verzin het niet als u het niet zeker weet. Ik schrijf de scriptie en de tekst. Mijn standpunt: [vul uw eigen standpunt in]

Deze prompt houdt het denken in je, verandert de AI in een slijppartner en zorgt voor anti-hallucinatiemarkering.

Vier kopieerbare sjablonen

1) Socratische partner (zet je aan het denken):

Geef mij geen antwoord; stel vragen Test hieronder mijn standpunt met vijf scherpe socratische vragen: ontdek mijn aannames, overgeslagen stappen en tegenvoorbeelden. Het maken van een proefschrift. Mijn locatie: [locatie]

2) Hallucinatiemarkering:

Antwoord hieronder, maar geef bij elke feitelijke bewering, bron en citaat het niveau van vertrouwen aan: [BEPAALD] / [MOET WORDEN GEVERIFIEERD] / [NIET ZEKER]. Verzin geen bron of citaat waarvan u niet zeker bent. Zeg in plaats daarvan 'Ik weet het niet'. Vraag: [vraag]

3) Diagnose met gemiddelde specificiteit:

Onderstaande tekst is van mij. Welke secties zijn gemiddeld, welke "iedereen kan zeggen", en welke bevatten een uniek onderscheid/claim? Markeer de overige plaatsen zodat ik ze uniek kan maken. Inhoud toevoegen; alleen diagnose.Tekst: [tekst]

4) Onzekerheid eerlijkheid:

Zoek in de onderstaande tekst beweringen die als accuraat worden gepresenteerd, maar die feitelijk betwist of niet onderbouwd zijn. Geef voor elk van hen aan hoe het eerlijker kan worden uitgedrukt. Tekst: [tekst]

Authenticiteit/eerlijkheid tafel

gedrag

originaliteit

eerlijkheid

Conclusie

Het laten schrijven van de scriptie door AI

Geen

overtreding

waardeloos, riskant

Brainstormen met AI, zelf de scriptie schrijven

Eerlijk (verklaar)

kostbaar

AI-bron gebruiken zonder deze te verifiëren

—

Risico van inbreuk

Gevaar voor fabricage

Geef de onzekerheid duidelijk weer

—

hoog

betrouwbaar

Veel voorkomende fouten

Vragen om originaliteit van AI. Het is een tegenstrijdige eis; originaliteit komt alleen voort uit uw oordeel.
Neem genoegen met ‘in het algemeen waar’. 10% verzinsel gaat schuil achter 90% waarheid; Controleer elke specifieke claim afzonderlijk.
De zelfverzekerde toon wordt verward met nauwkeurigheid. AI ziet er het meest zelfverzekerd uit als het het meeste goedmaakt.
Het verbergen van onzekerheid. Valse zekerheid is schadelijker dan eerlijk voorbehoud en vernietigt het vertrouwen.
Het verbergen van de bijdrage. Het niet openbaar maken van het gebruik van AI is in strijd met het bedrijfsbeleid en de integriteit.

Samengevat

Originaliteit van oordeel, hallucinatie en intellectuele eerlijkheid vormen de ethische kern van het gebruik van AI in de geesteswetenschappen. Het denken zelf is onvervreemdbaar: AI kan een verscherpende partner zijn, maar de stelling, grondgedachte en conclusie zijn van jou; Anders blijft er een gemiddelde en onvervalste tekst over. Hallucinatie is het resultaat van de manier waarop de AI werkt; Verwar de zelfverzekerde toon niet met de waarheid en vang de 10% verzinsel binnen de 90% waarheid door deze afzonderlijk te verifiëren. Drie regels van intellectuele eerlijkheid: onzekerheid verbergen, bijdrage nauwkeurig presenteren, testen met je eigen geest. Gereedschappen veranderen; Deze discipline verandert niet.

Applicatie taak

Schrijf een filosofisch standpunt van u op (kort in uw eigen woorden).
Krijg alleen vragen van de AI met de sjabloon “Socratische partner”; neem geen enkele scriptie.
Versterk uw positie door uw eigen antwoorden op deze vragen op te schrijven.
Laat een AI-uitvoer genereren met een “hallucinatiemarkering”-sjabloon en verifieer daadwerkelijk claims met het label [VERIFIED].
Test uw eigen tekst met het sjabloon "diagnose gemiddelde originaliteit" en maak een sectie uniek.

controlelijst

[ ] Ik heb de stelling, de rechtvaardiging en de conclusie op basis van mijn eigen redenering opgesteld.
[ ] Ik gebruikte AI als partner om het denken aan te scherpen, niet als vervanging.
[ ] Ik heb elke specifieke bron, citaat en feit afzonderlijk geverifieerd.
[ ] Ik vertrouwde op het bewijsmateriaal, niet op de zelfverzekerde toon van de AI.
[ ] Ik heb eerlijk gezegd vage/ongefundeerde beweringen gemeld.
[ ] Ik heb het gebruik van AI aangegeven in overeenstemming met het bedrijfsbeleid.