Eining 3 / 11

Málvísindi og Corpus Greining: Lestur orðaforða með tölum

Hagnaður:

  • Geta til að leggja drög að mælingum eins og orðatíðni, samsetningu, orðaforðaauð og leitarorð með gervigreind
  • Að vita að gervigreind er óáreiðanleg í nákvæmri talningu og að geta sannreynt hverja talningu með sérstöku tæki
  • Hæfni til að skilja að tala segir ekki neitt ein og sér og að máltúlkunin sem staðfestir merkinguna tilheyri mönnum.

Bókmennta- og tungumálafræði er ekki bara „kommentary“; Það hefur líka mælanlegan og teljanlegan þátt. Hversu mörg mismunandi orð höfundur notar, hvaða orð hann vill nota með hvaða orðum, hvaða orð verða algeng á tímabili - þau eru rannsökuð í gegnum málvísindi (vísindin sem rannsaka hljóð, byggingu, merkingu og notkun tungumálsins) og sérstaklega málvísindi. Korpus er safn texta, svo sem heildarverk höfundar, árlegt skjalasafn dagblaðs eða ljóð tímabils. Corpus greining leitar að tölulegum mynstrum í þessum hluta.

Í þessari einingu munum við læra að nota gervigreind sem aðstoðarmann við greiningu á corpus: draga fljótt út mælikvarða eins og orðatíðni (fjöldi skipta sem orð kemur fyrir í textanum), samsetning (orðapör sem koma oft saman, t.d. „svartur“ + „mín örlög“), auðlegð orðaforða og árstíðabundin breytileiki. En viðvörun frá upphafi: AI getur gert mistök þegar talið er ein; Sérstök verkfæri eru nauðsynleg fyrir stórar og nákvæmar talningar og þú ert málfræðingurinn sem staðfestir merkingu hverrar tölu.

Hvar er gervigreind sterk og hvar er hún veik í corpusgreiningu?

Styrkleikar þess eru: Að þekkja mynstur í litlum og meðalstórum textum, búa til tilgátur um orðaforða texta, stinga upp á frambjóðendum fyrir samsetningar, túlka niðurstöðu, lýsa aðferðafræði. AI spyr „hvaða orðasambönd standa upp úr hjá þessum höfundi? Það gefur fljótlega byrjun á spurningunni.

Veikleiki: Nákvæm talning. AI er tungumálalíkan, ekki reiknivél; getur gefið áætlað og stundum rangt svar við spurningunni „hversu oft hefur það komið fyrir“ í löngum texta. Fyrir nákvæma tíðni, nákvæma staðsetningartölfræði, eða stóra skönnun á þúsundum orða, er sérhæfður hugbúnaður (t.d. málverktól eins og AntConc eða töflureikni) notaður. AI er dýrmætt við að túlka úttak þessara verkfæra; En ekki láta hann gera hrátalninguna í blindni.

Ábending: Ef þú þarft nákvæma tölu, notaðu tvær leiðir: láttu tól gera talninguna í litlum texta og láttu gervigreindina túlka það; Eða láttu AI telja og sannreyna það á annan hátt. Notaðu aldrei setninguna „AI sagði að það gerist 47 sinnum“ án staðfestingar.

Skref fyrir skref málheildarrannsókn

  1. Settu fram spurningu. „Hvernig er litaorðum dreift í þessu skáldi? Talning er tilgangslaus án skýrrar spurningar eins og:
  2. Skilgreindu corpus. Hvaða textar? Hvaða útgáfa? Hvaða tímabil? Landamærin verða að vera skýr.
  3. Veldu mælingu. Tíðni, samsetning, auður orðaforða?
  4. Mæla og sannreyna. Gerðu talninguna og staðfestu síðan aðra leið.
  5. Athugasemd. Talan ein segir ekki neitt; Það er athugasemd þín sem gerir þá niðurstöðu að "litorð tvöfölduðust á öðru tímabili" merkingarbæra.

Oft notaður mælikvarði á auðlegð orðaforða er hlutfall fjölda mismunandi orða af heildarfjölda orða (tegund/táknhlutfall). Ef þetta hlutfall er hátt er textinn orðafjölbreyttur og ef hann er lágur þýðir það að hann sé endurtekinn. En þetta hlutfall hefur áhrif á lengd texta; Vertu varkár þegar þú berð saman stutta og langa texta beint.

þrjú smámál

Mál 1 - Samsetning sýndi stíl. Rannsakandi skoðaði pörun lýsingarorða og nafnorðs í 3 skáldsögum skáldsagnahöfunda. AI lagði til að orðið „föl“ passaði við 5 mismunandi nafnorð; Rannsakandi staðfesti 4 af textunum og sleppti einum sem tilbúnum. Staðfesta mynstrið varð að ritgerðaryfirlýsingu um lýsingarstíl höfundar.

Tilvik 2 — Talningarvilla náðist. Nemandi spurði gervigreind hversu oft orðið „nótt“ birtist í 2.000 orða texta; AI sagði „23“. Þegar nemandinn henti textanum í töflureikni og lét telja hann var rauntalan 17. Það hefur komið í ljós að hrátalning gervigreindar er óáreiðanleg.

Mál 3 - Reglubundnar breytingar olli deilum. Einn hópur bar saman hlutfall óhlutbundinna orða í fyrstu og seinustu ljóðum skálds. Fyrstu drög að gervigreindum stungið upp á þróun; Þegar hópurinn fór aftur í textann og staðfesti talninguna reyndist þróunin vera raunveruleg, en „orsakirnar“ sem gervigreindin lagði til voru ósannanlegar vangaveltur og var eytt.

Fjögur afritanleg sniðmát

1) Orðatíðni yfirlit (með staðfestingu):

Skráðu 15 algengustu innihaldsorðin (útiloka fallorð eins og samtengingar og forsetningar) í textanum hér að neðan, ásamt áætlaðri tíðni þeirra. VIÐVÖRUN: Athugaðu að talningar mega EKKI vera nákvæmar og athugaðu "til að vera nákvæmar verður að staðfesta þær með sérstöku talningartæki." Texti: [líma texta hér]

2) Umsækjendur um samstarf:

Stingdu upp á orðapörum (samsetningum) sem koma oft fyrir saman í textanum hér að neðan. Gefðu að minnsta kosti eina tilvitnun úr textanum fyrir hvert par. Tvöfaldur tilbúningur sem á sér enga hliðstæðu í textanum; Ef þú ert ekki viss skaltu merkja það sem "þarf staðfestingu". Texti: [líma texta]

3) Orðaforðasamanburður:

Ég mun gefa þér tvo texta. Fyrir hvert: áætlað heildarorð, athuganir á mismunandi orðafbrigðum og áberandi orðasvið (t.d. litur, eðli, tilfinningar). Segðu að tölurnar séu áætluð. Látið túlkunina á samanburðinum eftir sannprófun minni. Texti A: [...] Texti B: [...]

4) Niðurstöðutúlkun:

Ég fékk eftirfarandi niðurstöður úr talningartæki: [líma niðurstöður]. Búðu til 2-3 tilgátur um hvað þessar tölur gætu þýtt málfræðilega. Merktu hverja tilgátu sem „þarf sönnunargagna“ og segðu mér hvernig ég get prófað hana. Forðastu of miklar athugasemdir.

Veik kvaðning / Sterk kvaðning

Veik: "Hvaða orð kemur mest fyrir í þessum texta?"

Sterkt: "Skráðu algengustu innihaldsorðin í þessum texta með áætlaðri tíðni þeirra; útilokaðu fallorð. Gerðu það ljóst að tölurnar eru ekki nákvæmar og þarf að staðfesta með sérstöku tóli. Gefðu dæmi um setningu fyrir hvert orð."

Öflug hvetja gerir gervigreindinni kleift að samþykkja talningartakmarkið og segir þér fyrirfram að staðfestingar sé krafist. Í veiku hvetjunni gefur gervigreindin upp eina tölu og þú veist ekki að það gæti verið rangt.

Mæling og áreiðanleikatafla

mælingu

Hvað sýnir

AI einn

réttan hátt

orðatíðni

tíð orð

Um það bil áhættusamt

Counter + AI athugasemd

colocation

þeir sem fóru saman

Framleiðir frambjóðendur

Staðfesting frá texta

Tegund/tákn hlutfall

Verbal fjölbreytileiki

Getur verið villandi

Reikningur með tóli

árstíðabundnar breytingar

Þróun með tímanum

býr til tilgátur

Mæla og sannreyna

Lokaathugasemd

Merking

Öflugur en ýktur

mannlega dómgreind

Leitarorð og n-gramm hugtök

Tvö hugtök gera vinnu þína auðveldari í greiningu á málefnum. Fyrsta er lykilorðið (leitarorð á ensku - orðið sem kemur fyrir í texta eða höfundi mun oftar en búist var við miðað við almennt tungumál, sem gefur þeim texta "karakter"). Leitarorð höfundar sýna áhugamál hans og stíl; Til dæmis, ef "sjór" og "aðskilnaður" koma oftar fyrir en búist er við hjá skáldi, verður þessi tölfræðilega útskot upphafspunktur túlkunar. Til að bera kennsl á leitarorð er nauðsynlegt að bera saman tíðni texta við tíðni tilvísunarheildar (almennur, stór texti sem notaður er til samanburðar); Þessi samanburður er endanlegt verkfæri, það er útreikningur sem gervigreind getur ekki gert áreiðanlega á eigin spýtur.

Annað er n-grömm (röð af n orðum í röð í texta; röð tveggja orða er kölluð „tvírit“, röð þriggja orða er kölluð „þrígram“). N-gram greining leiðir í ljós formúluorð höfundar og oft notaðar setningar. Til dæmis, ef rithöfundur notar orðasambönd eins og „eins konar“ eða „hvernig sem“ mjög oft, gefur það til kynna vana hans að búa til setningar. gervigreind getur stungið upp á þessum setningum sem umsækjendur; en fyrir sanna tíðni og tölfræðilega marktekt er nauðsynlegt að fara aftur í talningartækið.

Ábending: Segðu gervigreindinni: "Skráðu athyglisverðar setningar (tvö eða þrjú orð) í þessum texta sem frambjóðendur og gefðu dæmi úr textanum fyrir hvern." Taktu kandídatalistann og mældu raunverulega tíðni með sérstöku tæki. Settu gervigreindina sem „notenda“, umboðsmanninn sem „teljarann“ og sjálfan þig sem „túlkinn“.

Algeng mistök

  • Að treysta á hráa fjölda gervigreindarinnar. AI er ekki reiknivél; Staðfestu nákvæma tölu með sérstöku tæki.
  • Kynning á númeri án athugasemda. „Stóðst 47 sinnum“ segir ekki neitt; Þú skapar merkinguna.
  • Hunsa textalengd. Lyric fjölbreytileiki hlutfall er lengd viðkvæm.
  • Gerir ritgerð án þess að staðfesta samsetningu. Pör sem ekki eru AI geta stungið upp á; Staðfestu úr textanum.
  • Öfgafull athugasemd. Ekki samþykkja „ástæðurnar“ sem gervigreindin leggur til án sannana.

Í stuttu máli

Corpus greining opnar fyrir talanlega hlið bókmennta: tíðni, samsetningu, orðaforða, reglubundnar breytingar. Gervigreind er öflug á þessu sviði við að þekkja mynstur og túlka niðurstöður; en það er óáreiðanlegt í algerri talningu. Staðfestu númerið með því aðskildu tóli, staðfestu samsetningar úr textanum og staðfestu merkingu hverrar tölu sjálfur. Fjöldi er ekki sönnunargagn, það er dyrnar að sönnunargögnum.

Umsóknarverkefni

Veldu stuttan texta (500-1000 orð). Þekkja innihaldsorð (t.d. „nótt“ eða „vegur“). Fyrst skaltu telja sjálfan þig í textanum. Láttu svo gervigreindina telja það. Berðu saman þessar tvær niðurstöður; Ef það er munur skaltu kanna ástæðuna. Skrifaðu síðan athugasemd í einni málsgrein um hlutverk þess orðs í textanum - breyttu tölunni í merkingu.

gátlisti

  • [ ] Ég setti skýra málfræðilega spurningu.
  • [ ] Ég skilgreindi mörk málheildarinnar (texti, útgáfa, punktur).
  • [ ] Ég staðfesti talningu gervigreindar í aðra átt.
  • [ ] Ég staðfesti samlokanir úr textanum.
  • [ ] Ég skildi ekki eftir númerið án athugasemda; Ég skapaði merkinguna sjálfur.