Unidade 3 / 11

Lingüística e Análise de Corpus: Lendo Vocabulário com Números

Ganhos:

  • Capacidade de elaborar medidas de corpus, como frequência de palavras, colocação, riqueza de vocabulário e palavras-chave com inteligência artificial
  • Saber que a inteligência artificial não é confiável na contagem exata e ser capaz de verificar cada contagem com uma ferramenta separada
  • Capacidade de compreender que um número não diz nada por si só e que a interpretação linguística que estabelece o significado pertence ao ser humano.

Os estudos de literatura e linguagem não são apenas “comentários”; Também tem um aspecto mensurável e contável. Quantas palavras diferentes um autor usa, quais palavras ele gosta de usar com quais palavras, quais palavras se tornam comuns em um período - isso é investigado por meio da linguística (a ciência que estuda o som, a estrutura, o significado e o uso da linguagem) e principalmente a linguística de corpus. Um corpus é uma coleção de textos, como a obra completa de um autor, o arquivo anual de um jornal ou os poemas de um período. A análise de corpus procura padrões numéricos neste pedaço.

Nesta unidade, aprenderemos a usar a IA como assistente de análise de corpus: extraindo rapidamente métricas como frequência de palavras (o número de vezes que uma palavra ocorre no texto), colocação (pares de palavras que ocorrem frequentemente juntas, por exemplo, "preto" + "minha fortuna"), riqueza de vocabulário e variação sazonal. Mas um aviso desde o início: a IA pode cometer erros ao contar sozinha; São necessárias ferramentas especiais para contagens grandes e precisas, e você é o linguista que estabelece o significado de cada número.

Onde a IA é forte e onde é fraca na análise de corpus?

Seus pontos fortes são: Reconhecer padrões em textos pequenos e médios, gerar hipóteses sobre o vocabulário de um texto, sugerir candidatos para colocações, interpretar um resultado, descrever uma metodologia. AI pergunta “quais frases se destacam neste autor?” Dá um início rápido à pergunta.

Fraqueza: Contagem precisa. A IA é um modelo de linguagem, não uma calculadora; pode dar uma resposta aproximada e às vezes incorreta à pergunta “quantas vezes isso ocorreu” em um texto longo. Para frequência precisa, estatísticas exatas de colocation ou varredura de grande corpus de milhares de palavras, é usado software especializado (por exemplo, ferramentas de corpus como AntConc ou uma planilha). A IA é valiosa na interpretação dos resultados dessas ferramentas; Mas não o faça fazer a contagem bruta cegamente.

Dica: Se precisar de um número exato, use duas formas: peça a uma ferramenta que faça a contagem em texto pequeno e peça à IA que interprete; Ou faça a contagem da IA ​​e verifique de outra forma. Nunca use a frase “AI disse que ocorre 47 vezes” sem confirmação.

Um estudo de corpus passo a passo

  1. Faça uma pergunta. “Como as palavras coloridas são distribuídas neste poeta?” Contar não tem sentido sem uma pergunta clara como:
  2. Defina o corpus. Quais textos? Qual edição? Qual período? A fronteira deve estar clara.
  3. Selecione a medida. Frequência, colocação, riqueza de vocabulário?
  4. Meça e verifique. Faça a contagem e depois confirme uma segunda via.
  5. Comentário. O número por si só não diz nada; É o seu comentário que torna significativa a conclusão de que "as palavras coloridas dobraram no segundo período".

Uma medida de riqueza de vocabulário frequentemente usada é a razão entre o número de palavras diferentes e o número total de palavras (proporção tipo/token). Se essa proporção for alta, o texto apresenta variedade de palavras e, se for baixa, significa que é repetitivo. Mas esta proporção é afetada pelo comprimento do texto; Tenha cuidado ao comparar diretamente textos curtos e longos.

três mini cases

Caso 1 — A colocação demonstrou um estilo. Um pesquisador examinou pares adjetivo-substantivo em três romances de um romancista. A IA sugeriu que a palavra “pálido” correspondesse a 5 substantivos diferentes; A pesquisadora verificou 4 dos textos e eliminou 1 como fabricado. O padrão confirmado tornou-se uma declaração de tese sobre o estilo descritivo do autor.

Caso 2 — Erro de contagem detectado. Um aluno perguntou à IA quantas vezes a palavra “noite” apareceu em um texto de 2.000 palavras; A IA disse “23”. Quando o aluno colocou o texto em uma planilha e o contou, o número real era 17. Tornou-se claro que a contagem bruta da IA ​​não é confiável.

Caso 3 — Mudanças periódicas geraram polêmica. Um grupo comparou a proporção de palavras abstratas nos primeiros e últimos poemas de um poeta. O primeiro rascunho da IA ​​sugeria uma tendência; Quando o grupo voltou ao texto e verificou a contagem, a tendência revelou-se real, mas as “causas” sugeridas pela IA eram especulações inverificáveis ​​e foram eliminadas.

Quatro modelos copiáveis

1) Esboço da frequência das palavras (com verificação):

Liste as 15 palavras de conteúdo que ocorrem com mais frequência (excluindo palavras funcionais como conjunções e preposições) no texto abaixo, com suas frequências aproximadas. AVISO: Observe que as contagens PODEM NÃO ser precisas e observe "para serem precisas, elas devem ser verificadas com uma ferramenta de contagem separada". Texto: [cole o texto aqui]

2) Candidatos a colocação:

Sugira pares de palavras (colocações) que ocorrem frequentemente juntas no texto abaixo. Dê pelo menos uma citação do texto para cada par. Dupla fabricação que não tem equivalente no texto; Se você não tiver certeza, marque como "precisa de verificação".Texto: [colar texto]

3) Comparação de vocabulário:

Vou te dar dois textos. Para cada um: total aproximado de palavras, observações sobre diferentes variedades de palavras e domínios de palavras proeminentes (por exemplo, cor, natureza, emoção). Afirme que os números são aproximados. Deixe a interpretação da comparação para minha verificação. Texto A: [...] Texto B: [...]

4) Interpretação dos resultados:

Obtive os seguintes resultados de uma ferramenta de contagem: [colar resultados].Gere 2 a 3 hipóteses sobre o que esses números podem significar linguisticamente. Marque cada hipótese como “requer evidência” e diga-me como posso testá-la. Evite comentários excessivos.

Alerta fraco / Alerta forte

Fraco: “Qual palavra ocorre mais neste texto?”

Forte: "Liste as palavras de conteúdo mais frequentes neste texto com sua frequência aproximada; exclua palavras funcionais. Deixe claro que os números não são exatos e precisam ser verificados com uma ferramenta separada. Dê um exemplo de frase para cada palavra."

O prompt poderoso faz com que a IA aceite o limite de contagem e informa antecipadamente que a verificação é necessária. No prompt fraco, a IA dá um único número e você não sabe que pode estar errado.

Tabela de medição e confiabilidade

medição

O que mostra

IA sozinha

caminho certo

frequência de palavras

palavras frequentes

Sobre, arriscado

Contador + comentário de IA

colocation

aqueles que passaram juntos

Produz candidatos

Confirmação do texto

Proporção tipo/token

Diversidade verbal

Pode ser enganoso

Conta com ferramenta

mudança sazonal

Tendência ao longo do tempo

gera hipóteses

Meça e verifique

Comentário final

Significado

Poderoso, mas exagera

julgamento humano

Conceitos de palavras-chave e n-gramas

Dois conceitos facilitam seu trabalho na análise de corpus. A primeira é a palavra-chave (palavra-chave em inglês – palavra que ocorre em um texto ou autor com muito mais frequência do que o esperado em comparação com a linguagem geral, dando a esse texto seu “caráter”). As palavras-chave de um autor revelam seus interesses e estilo; Por exemplo, se “mar” e “separação” ocorrem com mais frequência do que o esperado num poeta, esta saliência estatística torna-se o ponto de partida para uma interpretação. Para identificar palavras-chave, é necessário comparar as frequências de um texto com as frequências de um corpus de referência (um grande corpo de texto geral usado para comparação); Esta comparação é um trabalho de ferramenta definitivo, é um cálculo que a IA não consegue fazer por si só de forma confiável.

O segundo é n-grama (uma sequência de n palavras consecutivas em um texto; uma sequência de duas palavras é chamada de “bigrama”, uma sequência de três palavras é chamada de “trigrama”). A análise de N-gramas revela as expressões estereotipadas de um autor e as frases usadas com frequência. Por exemplo, se um escritor usa frases como “mais ou menos” ou “no entanto” com extrema frequência, isso indica seu hábito de fazer frases. A IA pode sugerir essas frases como candidatas; mas para uma verdadeira frequência e significância estatística é necessário retornar à ferramenta de contagem.

Dica: diga à IA: "Liste as frases notáveis ​​(duas ou três palavras) neste texto como candidatas e dê um exemplo do texto para cada uma." Pegue a lista de candidatos e meça a frequência real com uma ferramenta separada. Posicione a IA como o “observador”, o agente como o “contador” e você mesmo como o “intérprete”.

Erros comuns

  • Contando com a contagem bruta da IA. IA não é uma calculadora; Verifique o número exato com uma ferramenta separada.
  • Apresentando o número sem comentários. “Aprovado 47 vezes” não diz nada; Você cria o significado.
  • Ignorando o comprimento do texto. As taxas de diversidade das letras são sensíveis à duração.
  • Fazer tese sem verificar a colocação. Casais sem IA podem sugerir; Confirme no texto.
  • Comentário extremo. Não aceite os “motivos” sugeridos pela IA sem provas.

Em resumo

A análise de corpus abre a faceta contável da literatura: frequência, colocação, vocabulário, mudança periódica. A IA é poderosa nesta área no reconhecimento de padrões e na interpretação de resultados; mas não é confiável na contagem absoluta. Verifique o número com a ferramenta separada, confirme as colocações do texto e estabeleça você mesmo o significado de cada número. Número não é evidência, é a porta para a evidência.

Tarefa de aplicativo

Escolha um texto curto (500-1000 palavras). Identifique uma palavra de conteúdo (por exemplo, “noite” ou “estrada”). Primeiro, conte-se no texto. Em seguida, faça com que a IA conte. Compare os dois resultados; Se houver diferença, investigue o motivo. Em seguida, escreva um comentário de um parágrafo sobre a função daquela palavra no texto – transformando o número em significado.

lista de verificação

  • [ ] Coloquei uma questão linguística clara.
  • [ ] Defini os limites do corpus (texto, edição, período).
  • [] Verifiquei a contagem da IA ​​de uma segunda maneira.
  • [ ] Confirmei as colocações do texto.
  • [ ] Não deixei o número sem comentar; Eu mesmo criei o significado.