Lợi nhuận:
- Khả năng soạn thảo các phép đo ngữ liệu như tần số từ, sắp xếp thứ tự, độ phong phú từ vựng và từ khóa bằng trí tuệ nhân tạo
- Biết rằng trí tuệ nhân tạo không đáng tin cậy trong việc đếm chính xác và có thể xác minh từng số đếm bằng một công cụ riêng biệt
- Khả năng hiểu rằng một con số không tự nó nói lên bất cứ điều gì và việc giải thích ngôn ngữ để thiết lập ý nghĩa thuộc về con người.
Nghiên cứu văn học và ngôn ngữ không chỉ là “bình luận”; Nó cũng có một khía cạnh có thể đo lường được và đếm được. Tác giả sử dụng bao nhiêu từ khác nhau, từ nào thích dùng với từ nào, từ nào trở nên phổ biến trong một thời kỳ - những từ này được nghiên cứu thông qua ngôn ngữ học (ngành khoa học nghiên cứu về âm thanh, cấu trúc, ý nghĩa và cách sử dụng ngôn ngữ) và đặc biệt là ngôn ngữ học ngữ liệu. Kho ngữ liệu là một tập hợp các văn bản, chẳng hạn như các tác phẩm hoàn chỉnh của một tác giả, kho lưu trữ hàng năm của một tờ báo hoặc các bài thơ của một thời kỳ. Phân tích Corpus tìm kiếm các mẫu số trong đoạn này.
Trong phần này, chúng ta sẽ học cách sử dụng AI làm trợ lý phân tích kho văn bản: trích xuất nhanh các số liệu như tần suất từ (số lần một từ xuất hiện trong văn bản), sắp xếp thứ tự (cặp từ xuất hiện thường xuyên cùng nhau, ví dụ: "đen" + "may mắn của tôi"), sự phong phú về từ vựng và sự thay đổi theo mùa. Nhưng cảnh báo ngay từ đầu: AI có thể mắc lỗi khi đếm một mình; Cần có các công cụ đặc biệt để đếm số lượng lớn và chính xác, và bạn là nhà ngôn ngữ học thiết lập ý nghĩa của từng con số.
AI mạnh ở đâu và yếu ở đâu trong phân tích kho văn bản?
Điểm mạnh của nó là: Nhận biết các mẫu trong văn bản vừa và nhỏ, đưa ra các giả thuyết về từ vựng của văn bản, gợi ý các cụm từ phù hợp, diễn giải kết quả, mô tả phương pháp luận. AI hỏi “cụm từ nào nổi bật trong tác giả này?” Nó đưa ra một sự khởi đầu nhanh chóng cho câu hỏi.
Điểm yếu: Tính toán chính xác. AI là mô hình ngôn ngữ, không phải máy tính; có thể đưa ra câu trả lời gần đúng và đôi khi không chính xác cho câu hỏi “đã xảy ra bao nhiêu lần” trong một đoạn văn dài. Để có tần suất chính xác, số liệu thống kê vị trí chính xác hoặc quét kho văn bản lớn hàng nghìn từ, phần mềm chuyên dụng (ví dụ: các công cụ kho văn bản như AntConc hoặc bảng tính) sẽ được sử dụng. AI có giá trị trong việc diễn giải đầu ra của những công cụ này; Nhưng đừng bắt anh ta đếm thô một cách mù quáng.
Mẹo: Nếu bạn cần một con số chính xác, hãy sử dụng hai cách: nhờ một công cụ đếm bằng văn bản nhỏ và nhờ AI giải thích nó; Hoặc có số lượng AI và xác minh nó theo cách khác. Đừng bao giờ sử dụng câu “AI cho biết nó xảy ra 47 lần” mà không có sự xác nhận.
Nghiên cứu tổng thể từng bước
- Đặt một câu hỏi. “Các từ màu sắc được phân bổ như thế nào trong nhà thơ này?” Việc đếm sẽ vô nghĩa nếu không có một câu hỏi rõ ràng như:
- Xác định ngữ liệu. Những văn bản nào? Phiên bản nào? Thời kỳ nào? Biên giới phải rõ ràng.
- Chọn phép đo. Tần suất, cách sắp xếp, từ vựng phong phú?
- Đo lường và xác minh. Hãy đếm, sau đó xác nhận cách thứ hai.
- Bình luận. Chỉ con số thôi thì không nói lên điều gì; Chính nhận xét của bạn đã làm cho phát hiện “từ màu sắc tăng gấp đôi trong giai đoạn thứ hai” có ý nghĩa.
Thước đo mức độ phong phú từ vựng được sử dụng thường xuyên là tỷ lệ giữa số lượng từ khác nhau trên tổng số từ (tỷ lệ loại/mã thông báo). Nếu tỷ lệ này cao chứng tỏ văn bản có nhiều từ, còn nếu thấp chứng tỏ văn bản bị lặp lại. Nhưng tỷ lệ này bị ảnh hưởng bởi độ dài văn bản; Hãy cẩn thận khi so sánh trực tiếp các văn bản ngắn và dài.
ba trường hợp nhỏ
Trường hợp 1 - Sự sắp xếp thứ tự thể hiện một phong cách. Một nhà nghiên cứu đã khảo sát các cặp tính từ-danh từ trong 3 cuốn tiểu thuyết của một tiểu thuyết gia. AI gợi ý rằng từ “nhạt” phù hợp với 5 danh từ khác nhau; Nhà nghiên cứu đã xác minh 4 văn bản và loại bỏ 1 văn bản là bịa đặt. Hình mẫu được khẳng định đã trở thành một câu khẳng định luận điểm về phong cách miêu tả của tác giả.
Trường hợp 2 - Bắt lỗi đếm. Một sinh viên hỏi AI bao nhiêu lần từ “đêm” xuất hiện trong một văn bản 2.000 từ; AI nói "23". Khi sinh viên ném văn bản vào bảng tính và đếm, con số thực tế là 17. Rõ ràng là số liệu thô của AI là không đáng tin cậy.
Trường hợp 3 - Sự thay đổi định kỳ gây ra tranh cãi. Một nhóm so sánh tỷ lệ từ ngữ trừu tượng trong những bài thơ đầu và cuối của một nhà thơ. Bản thảo đầu tiên của AI gợi ý một xu hướng; Khi nhóm quay lại văn bản và xác minh số lượng thì xu hướng này hóa ra là có thật, nhưng những "nguyên nhân" do AI gợi ý đều là suy đoán không thể kiểm chứng và đã bị loại bỏ.
Bốn mẫu có thể sao chép
1) Sơ lược tần số từ (có xác minh):
Liệt kê 15 từ nội dung xuất hiện thường xuyên nhất (loại trừ các từ chức năng như liên từ và giới từ) trong văn bản bên dưới, với tần suất gần đúng của chúng. CẢNH BÁO: Lưu ý rằng số đếm CÓ THỂ KHÔNG chính xác và lưu ý "để chính xác, chúng phải được xác minh bằng công cụ đếm riêng." Văn bản: [dán văn bản vào đây]
2) Ứng viên colocation:
Gợi ý các cặp từ (cụm từ) thường xuyên xuất hiện cùng nhau trong đoạn văn dưới đây. Đưa ra ít nhất một trích dẫn từ văn bản cho mỗi cặp. Bịa đặt đôi mà không có sự tương đương trong văn bản; Nếu bạn không chắc chắn, hãy đánh dấu là "cần xác minh". Văn bản: [dán văn bản]
3) So sánh từ vựng:
Tôi sẽ cung cấp cho bạn hai văn bản. Đối với mỗi: tổng số từ gần đúng, quan sát về các loại từ khác nhau và các miền từ nổi bật (ví dụ: màu sắc, tính chất, cảm xúc). Nói rằng các con số là gần đúng. Hãy để việc giải thích sự so sánh đó cho sự xác minh của tôi. Văn bản A: […] Văn bản B: […]
4) Giải thích kết quả:
Tôi nhận được các kết quả sau từ một công cụ đếm: [dán kết quả]. Đưa ra 2-3 giả thuyết về ý nghĩa của những con số này về mặt ngôn ngữ. Đánh dấu mỗi giả thuyết là "cần bằng chứng" và cho tôi biết cách tôi có thể kiểm tra nó. Tránh bình luận quá mức.
Dấu nhắc yếu / Dấu nhắc mạnh
Yếu: “Từ nào xuất hiện nhiều nhất trong văn bản này?”
Mạnh: "Liệt kê các từ nội dung thường xuyên nhất trong văn bản này với tần suất gần đúng của chúng; loại trừ các từ chức năng. Hãy làm rõ rằng các con số không chính xác và cần được xác minh bằng một công cụ riêng. Đưa ra một câu ví dụ cho mỗi từ."
Lời nhắc mạnh mẽ khiến AI chấp nhận giới hạn số lượng và cho bạn biết trước rằng cần phải xác minh. Trong dấu nhắc yếu, AI đưa ra một con số duy nhất và bạn không biết rằng con số đó có thể sai.
Bảng đo lường và độ tin cậy
đo lường
Những gì cho thấy
AI một mình
đúng cách
tần số từ
từ thường xuyên
Về, rủi ro
Phản biện + AI bình luận
colocation
những người đã cùng nhau vượt qua
Sản xuất ứng viên
Xác nhận từ văn bản
Tỷ lệ loại/mã thông báo
Sự đa dạng về ngôn từ
Có thể gây hiểu lầm
Tài khoản với công cụ
thay đổi theo mùa
Xu hướng theo thời gian
tạo ra giả thuyết
Đo lường và xác minh
Nhận xét kết luận
Ý nghĩa
Mạnh mẽ nhưng cường điệu
sự phán xét của con người
Khái niệm từ khóa và n-gram
Hai khái niệm giúp công việc của bạn dễ dàng hơn trong việc phân tích kho văn bản. Đầu tiên là từ khóa (từ khóa trong tiếng Anh - từ xuất hiện trong một văn bản hoặc tác giả thường xuyên hơn nhiều so với mong đợi so với ngôn ngữ chung, tạo cho văn bản đó “ký tự” của nó). Từ khóa của tác giả bộc lộ sở thích và phong cách của tác giả; Ví dụ, nếu “biển” và “sự chia ly” xảy ra thường xuyên hơn mong đợi ở một nhà thơ, thì phần nhô ra mang tính thống kê này sẽ trở thành điểm khởi đầu cho một diễn giải. Để xác định từ khóa, cần phải so sánh tần suất của một văn bản với tần số của kho văn bản tham chiếu (một phần văn bản chung, lớn được sử dụng để so sánh); Sự so sánh này là một công việc công cụ dứt khoát, nó là một phép tính mà AI không thể tự mình thực hiện một cách đáng tin cậy.
Thứ hai là n-gram (một chuỗi gồm n từ liên tiếp trong một văn bản; chuỗi gồm hai từ được gọi là "bigram", chuỗi gồm ba từ được gọi là "trigram"). Phân tích N-gram cho thấy các cách diễn đạt công thức và các cụm từ được sử dụng thường xuyên của tác giả. Ví dụ: nếu một nhà văn sử dụng các cụm từ như "loại" hoặc "tuy nhiên" cực kỳ thường xuyên, điều này cho thấy thói quen đặt câu của anh ta. AI có thể đề xuất những cụm từ này làm ứng cử viên; nhưng để biết tần số thực và ý nghĩa thống kê thì cần phải quay lại công cụ đếm.
Gợi ý: Nói với AI: "Liệt kê các cụm từ đáng chú ý (hai hoặc ba từ) trong văn bản này làm ứng cử viên và đưa ra ví dụ từ văn bản cho mỗi cụm từ." Lấy danh sách ứng viên và đo tần suất thực tế bằng một công cụ riêng. Định vị AI là “người thông báo”, tác nhân là “người đếm” và chính bạn là “người phiên dịch”.
Những lỗi thường gặp
- Dựa vào số liệu thô của AI. AI không phải là một chiếc máy tính; Xác minh con số chính xác bằng công cụ riêng biệt.
- Trình bày con số mà không bình luận. “Đã vượt qua 47 lần” không nói lên điều gì; Bạn tạo ra ý nghĩa.
- Bỏ qua độ dài văn bản. Tỷ lệ đa dạng lời bài hát rất nhạy cảm với độ dài.
- Làm luận án mà không xác minh sự sắp xếp thứ tự. Các cặp đôi không sử dụng AI có thể đề xuất; Xác nhận từ văn bản.
- Bình luận cực đoan. Đừng chấp nhận những “lý do” do AI đưa ra mà không có bằng chứng.
Tóm lại
Phân tích ngữ liệu mở ra khía cạnh đếm được của văn học: tần suất, cách sắp xếp thứ tự, từ vựng, sự thay đổi định kỳ. AI rất mạnh trong lĩnh vực này trong việc nhận dạng các mẫu và diễn giải kết quả; nhưng nó không đáng tin cậy trong việc đếm tuyệt đối. Xác minh số bằng công cụ riêng biệt, xác nhận các cụm từ trong văn bản và tự mình thiết lập ý nghĩa của từng số. Con số không phải là bằng chứng, nó là cánh cửa dẫn đến bằng chứng.
Nhiệm vụ ứng dụng
Chọn một văn bản ngắn (500-1000 từ). Xác định một từ nội dung (ví dụ: "đêm" hoặc "đường"). Đầu tiên, hãy đếm chính mình trong văn bản. Sau đó để AI đếm nó. So sánh hai kết quả; Nếu có sự khác biệt, hãy tìm hiểu nguyên nhân. Sau đó viết một đoạn bình luận về chức năng của từ đó trong văn bản - biến con số thành ý nghĩa.
danh sách kiểm tra
- [ ] Tôi đặt một câu hỏi ngôn ngữ rõ ràng.
- [ ] Tôi đã xác định ranh giới của kho văn bản (văn bản, ấn bản, thời kỳ).
- [ ] Tôi đã xác minh số lượng AI theo cách thứ hai.
- [ ] Tôi đã xác nhận các cụm từ trong văn bản.
- [ ] Tôi không để lại số điện thoại mà không bình luận; Ý nghĩa đó do chính tôi tạo ra.