Satuan 3 / 11

Analisis Linguistik dan Korpus: Membaca Kosakata dengan Angka

Keuntungan:

  • Kemampuan untuk menyusun pengukuran korpus seperti frekuensi kata, kolokasi, kekayaan kosa kata, dan kata kunci dengan kecerdasan buatan
  • Mengetahui bahwa kecerdasan buatan tidak dapat diandalkan dalam penghitungan yang tepat dan mampu memverifikasi setiap penghitungan dengan alat terpisah
  • Kemampuan untuk memahami bahwa suatu bilangan tidak mengatakan apa pun dengan sendirinya dan bahwa interpretasi linguistik yang menentukan maknanya adalah milik manusia.

Kajian sastra dan bahasa bukan sekedar “komentar”; Ia juga memiliki aspek yang terukur dan dapat dihitung. Berapa banyak kata berbeda yang digunakan seorang penulis, kata mana yang dia suka gunakan dengan kata apa, kata mana yang menjadi umum dalam suatu periode – ini diselidiki melalui linguistik (ilmu yang mempelajari bunyi, struktur, makna dan penggunaan bahasa) dan khususnya linguistik korpus. Korpus adalah kumpulan teks, seperti karya lengkap seorang penulis, arsip tahunan surat kabar, atau puisi suatu periode. Analisis korpus mencari pola numerik dalam bagian ini.

Dalam unit ini, kita akan belajar menggunakan AI sebagai asisten analisis korpus: dengan cepat mengekstraksi metrik seperti frekuensi kata (berapa kali sebuah kata muncul dalam teks), kolokasi (pasangan kata yang sering muncul bersamaan, misalnya "hitam" + "keberuntunganku"), kekayaan kosakata, dan variasi musiman. Namun peringatan sejak awal: AI bisa membuat kesalahan saat menghitung sendirian; Alat khusus diperlukan untuk penghitungan yang besar dan tepat, dan Anda adalah ahli bahasa yang menentukan arti setiap angka.

Di manakah kelebihan AI dan di manakah kelemahannya dalam analisis korpus?

Kekuatannya adalah: Mengenali pola dalam teks kecil dan menengah, menghasilkan hipotesis tentang kosakata suatu teks, menyarankan kandidat untuk kolokasi, menafsirkan hasil, mendeskripsikan metodologi. AI bertanya “frasa apa yang menonjol dari penulis ini?” Ini memberikan awal yang cepat untuk pertanyaan itu.

Kelemahan: Penghitungan yang akurat. AI adalah model bahasa, bukan kalkulator; dapat memberikan perkiraan dan terkadang jawaban yang salah untuk pertanyaan "berapa kali hal itu terjadi" dalam teks yang panjang. Untuk frekuensi yang tepat, statistik kolokasi yang tepat, atau pemindaian korpus besar yang terdiri dari ribuan kata, perangkat lunak khusus (misalnya alat korpus seperti AntConc atau spreadsheet) digunakan. AI sangat berharga dalam menafsirkan keluaran alat-alat ini; Tapi jangan membuat dia melakukan penghitungan mentah secara membabi buta.

Tip: Jika Anda memerlukan angka pasti, gunakan dua cara: minta alat menghitung dalam teks kecil dan minta AI menafsirkannya; Atau minta AI menghitung dan memverifikasinya dengan cara lain. Jangan pernah menggunakan kalimat "AI bilang itu terjadi 47 kali" tanpa konfirmasi.

Studi korpus langkah demi langkah

  1. Ajukan pertanyaan. “Bagaimana kata-kata berwarna didistribusikan dalam penyair ini?” Menghitung tidak ada artinya tanpa pertanyaan yang jelas seperti:
  2. Definisikan korpus. Teks yang mana? Edisi yang mana? Periode yang mana? Perbatasannya harus jelas.
  3. Pilih pengukuran. Frekuensi, kolokasi, kekayaan kosa kata?
  4. Ukur dan verifikasi. Hitung, lalu konfirmasi dengan cara kedua.
  5. Komentar. Angka saja tidak berarti apa-apa; Komentar Andalah yang menjadikan temuan bahwa "kata-kata berwarna berlipat ganda pada periode kedua" menjadi bermakna.

Ukuran kekayaan kosa kata yang sering digunakan adalah rasio jumlah kata yang berbeda terhadap jumlah total kata (rasio tipe/token). Jika rasionya tinggi berarti teksnya mengandung variasi kata, dan jika rendah berarti repetitif. Namun rasio ini dipengaruhi oleh panjang teks; Berhati-hatilah saat membandingkan teks pendek dan panjang secara langsung.

tiga kasus mini

Kasus 1 — Kolokasi menunjukkan suatu gaya. Seorang peneliti meneliti pasangan kata sifat-kata benda dalam 3 novel karya seorang novelis. AI menyarankan agar kata “pucat” cocok dengan 5 kata benda berbeda; Peneliti memverifikasi 4 teks dan menghilangkan 1 teks palsu. Pola yang dikonfirmasi menjadi pernyataan tesis tentang gaya deskriptif penulis.

Kasus 2 — Kesalahan penghitungan tertangkap. Seorang siswa bertanya kepada AI berapa kali kata “malam” muncul dalam teks berisi 2.000 kata; AI mengatakan "23". Ketika siswa memasukkan teks tersebut ke dalam spreadsheet dan menghitungnya, jumlah sebenarnya adalah 17. Jelaslah bahwa penghitungan mentah AI tidak dapat diandalkan.

Kasus 3 — Perubahan berkala memicu kontroversi. Satu kelompok membandingkan proporsi kata-kata abstrak dalam puisi-puisi awal dan akhir seorang penyair. Draf pertama AI menunjukkan sebuah tren; Ketika kelompok tersebut kembali ke teks dan memverifikasi penghitungannya, tren tersebut ternyata nyata, tetapi "penyebab" yang dikemukakan oleh AI hanyalah spekulasi yang tidak dapat diverifikasi dan dihilangkan.

Empat templat yang dapat disalin

1) Garis besar frekuensi kata (dengan verifikasi):

Cantumkan 15 kata isi yang paling sering muncul (tidak termasuk kata fungsi seperti konjungsi dan preposisi) pada teks di bawah, beserta perkiraan frekuensinya. PERINGATAN: Perhatikan bahwa penghitungan MUNGKIN TIDAK akurat dan perhatikan "agar akurat, penghitungan tersebut harus diverifikasi dengan alat penghitungan terpisah". Teks: [tempelkan teks di sini]

2) Kandidat kolokasi:

Sarankan pasangan kata (kolokasi) yang sering muncul bersamaan dalam teks di bawah ini. Berikan setidaknya satu kutipan dari teks untuk setiap pasangan. Fabrikasi ganda yang tidak ada padanannya dalam teks; Jika Anda tidak yakin, tandai sebagai "perlu verifikasi".Teks: [tempel teks]

3) Perbandingan kosakata:

Saya akan memberi Anda dua teks. Untuk masing-masing: perkiraan total kata, pengamatan tentang variasi kata yang berbeda, dan domain kata yang menonjol (misalnya warna, alam, emosi). Nyatakan bahwa angka-angka tersebut merupakan perkiraan. Serahkan interpretasi perbandingan pada verifikasi saya. Teks A: [...] Teks B: [...]

4) Interpretasi hasil:

Saya mendapatkan hasil berikut dari alat hitung: [tempelkan hasil]. Hasilkan 2-3 hipotesis tentang arti angka-angka ini secara linguistik. Tandai setiap hipotesis sebagai "memerlukan bukti" dan beri tahu saya bagaimana saya dapat mengujinya. Hindari komentar berlebihan.

Perintah lemah / Perintah kuat

Lemah: "Kata manakah yang paling banyak muncul dalam teks ini?"

Kuat: "Cantumkan kata-kata isi yang paling sering muncul dalam teks ini beserta perkiraan frekuensinya; kecualikan kata-kata fungsi. Perjelas bahwa angka-angka tersebut tidak tepat dan perlu diverifikasi dengan alat terpisah. Berikan contoh kalimat untuk setiap kata."

Perintah yang kuat membuat AI menerima batas hitungan dan memberi tahu Anda sebelumnya bahwa verifikasi diperlukan. Pada prompt yang lemah, AI memberikan satu nomor dan Anda tidak tahu bahwa itu mungkin salah.

Tabel pengukuran dan reliabilitas

pengukuran

Apa yang ditunjukkan

AI sendirian

cara yang benar

frekuensi kata

kata-kata yang sering

Tentang, berisiko

Komentar balasan + AI

kolokasi

mereka yang lewat bersama

Menghasilkan kandidat

Konfirmasi dari teks

Rasio jenis/token

Keberagaman verbal

Bisa menyesatkan

Akun dengan alat

perubahan musim

Tren seiring berjalannya waktu

menghasilkan hipotesis

Ukur dan verifikasi

Komentar penutup

Artinya

Kuat tapi berlebihan

penilaian manusia

Konsep kata kunci dan n-gram

Dua konsep membuat pekerjaan Anda lebih mudah dalam analisis korpus. Yang pertama adalah kata kunci (kata kunci dalam bahasa Inggris - kata yang muncul dalam teks atau penulis lebih sering dari yang diharapkan dibandingkan dengan bahasa umum, sehingga memberikan "karakter" pada teks tersebut). Kata kunci seorang penulis mengungkapkan minat dan gayanya; Misalnya, jika "laut" dan "perpisahan" muncul lebih sering dari yang diharapkan dalam diri seorang penyair, penonjolan statistik ini menjadi titik awal interpretasi. Untuk mengidentifikasi kata kunci, perlu membandingkan frekuensi teks dengan frekuensi korpus referensi (kumpulan teks umum berukuran besar yang digunakan untuk perbandingan); Perbandingan ini adalah pekerjaan alat yang pasti, ini adalah perhitungan yang tidak dapat dilakukan dengan andal oleh AI.

Yang kedua adalah n-gram (urutan n kata berurutan dalam sebuah teks; rangkaian dua kata disebut "bigram", rangkaian tiga kata disebut "trigram"). Analisis N-gram mengungkapkan ekspresi rumusan penulis dan frasa yang sering digunakan. Misalnya, jika seorang penulis sangat sering menggunakan frasa seperti "semacam" atau "namun", ini menunjukkan kebiasaannya dalam membuat kalimat. AI dapat menyarankan frasa ini sebagai kandidat; tetapi untuk mengetahui frekuensi sebenarnya dan signifikansi statistik, kita perlu kembali ke alat penghitungan.

Petunjuk: Beritahu AI, "Buatlah daftar frasa penting (dua atau tiga kata) dalam teks ini sebagai kandidat, dan berikan contoh dari teks untuk masing-masingnya." Ambil daftar kandidat dan ukur frekuensi sebenarnya dengan alat terpisah. Posisikan AI sebagai “pemberita”, agen sebagai “penghitung”, dan diri Anda sendiri sebagai “penerjemah”.

Kesalahan umum

  • Mengandalkan hitungan mentah AI. AI bukanlah kalkulator; Verifikasi angka pastinya dengan alat terpisah.
  • Menyajikan nomor tanpa komentar. "Lulus 47 kali" tidak berarti apa-apa; Anda menciptakan maknanya.
  • Mengabaikan panjang teks. Tingkat keragaman lirik sensitif terhadap panjangnya.
  • Membuat tesis tanpa memverifikasi kolokasi. Pasangan non-AI mungkin menyarankan; Konfirmasikan dari teks.
  • Komentar ekstrim. Jangan terima “alasan” yang dikemukakan AI tanpa bukti.

Singkatnya

Analisis korpus membuka aspek sastra yang dapat dihitung: frekuensi, kolokasi, kosa kata, perubahan periodik. AI sangat ampuh dalam bidang ini dalam mengenali pola dan menafsirkan hasil; tetapi hal ini tidak dapat diandalkan dalam penghitungan absolut. Verifikasi nomor tersebut dengan alat terpisah, konfirmasikan kolokasi dari teks, dan tentukan sendiri arti setiap nomor. Angka bukanlah bukti, melainkan pintu menuju bukti.

Tugas aplikasi

Pilih teks pendek (500-1000 kata). Identifikasi kata konten (misalnya, "malam" atau "jalan"). Pertama, hitung diri Anda sendiri dalam teks. Lalu minta AI menghitungnya. Bandingkan kedua hasil tersebut; Jika ada perbedaan, selidiki alasannya. Kemudian tulislah komentar satu paragraf tentang fungsi kata tersebut dalam teks — mengubah angka menjadi makna.

daftar periksa

  • [ ] Saya mengajukan pertanyaan linguistik yang jelas.
  • [ ] Saya mendefinisikan batas-batas korpus (teks, edisi, titik).
  • [ ] Saya memverifikasi hitungan AI dengan cara kedua.
  • [ ] Saya mengonfirmasi kolokasi dari teks.
  • [ ] Saya tidak meninggalkan nomor tersebut tanpa komentar; Saya sendiri yang menciptakan maknanya.