Ganhos:
- Ser capaz de distinguir onde a inteligência artificial economiza tempo no fluxo de trabalho da biblioteconomia (metadados, resumo, pesquisa, sugestão) e onde a precisão, a confiabilidade da fonte e as decisões de privacidade são deixadas para os humanos, dependendo do nível de risco.
- Capacidade de aplicar uma disciplina que verifica cada saída vinculando-a à fonte, confirmando-a em uma fonte independente e passando-a por um filtro de viés.
- Entender por que a alucinação, as fontes fabricadas e a privacidade do usuário são riscos que devem ser levados em conta nesta profissão desde o início.
Quando um especialista em catalogação se senta à sua mesa pela manhã, ele pode ter dezenas de livros recém-chegados, centenas de documentos de uma coleção de doações e uma caixa de arquivo esperando para serem digitalizados. Um bibliotecário de referência (o especialista que ajuda os usuários a encontrar informações) responde perguntas ao longo do dia como “onde está a fonte confiável sobre este assunto?” Um gerente de informações é responsável por manter os milhares de documentos de uma organização detectáveis e confiáveis. Nesta unidade, esclareceremos onde exatamente a inteligência artificial (em resumo, IA; grandes modelos de linguagem e ferramentas semelhantes) economiza tempo nessas tarefas e onde o julgamento, a escolha e a responsabilidade permanecem com o ser humano.
Vamos começar com uma definição: inteligência artificial, com a qual nos referimos a ferramentas de software geradoras de linguagem e de reconhecimento de padrões treinadas em grandes quantidades de texto. Essas ferramentas resumem, traduzem, sugerem classificação, geram rascunhos de texto e sinalizam padrões em grandes blocos de dados. Mas não sabe se a fonte realmente existe, se a informação é correta ou se a privacidade do usuário está protegida. É por isso que na biblioteconomia e na gestão da informação, a IA é uma assistente, não uma tomadora de decisões.
Onde a inteligência artificial funciona e onde não funciona?
Vamos dividir o fluxo de trabalho da biblioteconomia em três camadas. A primeira camada consiste em tarefas mecânicas e repetitivas: extrair metadados de rascunho da assinatura de um livro, resumir um longo relatório, traduzir texto de um idioma para outro, limpar uma tabela de dados. A IA é poderosa aqui e economiza muito tempo.
A segunda camada é o trabalho quase judicial: que título de assunto dar a um documento, se incluir um recurso em uma coleção, que recurso recomendar a um usuário. Aqui a IA produz sugestões, mas o especialista que conhece a política da instituição e as reais necessidades do usuário tem a última palavra.
A terceira camada é o puro julgamento e responsabilidade: confirmar que a informação é precisa, decidir sobre um direito autoral, se deve divulgar dados pessoais sensíveis, confirmar a fiabilidade de uma fonte. Nesta camada, a saída da IA é apenas um ponto de partida; A responsabilidade é inteiramente dos humanos.
Dica: Antes de atribuir uma tarefa à IA, pergunte-se: “O que acontece se esta saída estiver errada?” Se a resposta for “Vou perder tempo”, fique à vontade para usar a IA. Se a resposta for "uma fonte falsa foi espalhada, um usuário foi enganado ou dados pessoais foram vazados", certifique-se de verificar o resultado.
Alucinação: o maior perigo do bibliotecário
Alucinação é quando a IA produz informações, fontes ou citações inexistentes como se fossem reais e em uma linguagem extremamente convincente. Isto é particularmente perigoso para a biblioteconomia e a gestão da informação; porque a essência da nossa profissão é a autenticidade e confiabilidade da fonte.
Quando você diz à IA para “sugerir cinco artigos acadêmicos sobre este tópico”, ela pode gerar títulos, autores e nomes de periódicos que parecem reais, mas que nem existem. Essas fontes fabricadas são tão convincentes que um usuário ou mesmo um bibliotecário pode adicioná-las a uma bibliografia sem verificá-las. Nas ciências humanas e sociais, o perigo é ainda maior: quando “aquele documento de 1897” é fabricado para um historiador ou “aquela decisão judicial” para um jurista, o resultado é uma grave desinformação.
Atenção: Nenhuma citação de fonte, citação ou referência produzida pela IA deve ser transferida para qualquer lugar sem verificação em catálogo real, banco de dados ou na própria fonte. Só porque “parece convincente” não significa que seja verdade.
Disciplina de verificação: três etapas
A disciplina básica que o bibliotecário deve aplicar ao trabalhar com IA é esta:
1. Conecte-se à fonte. Cada fato, número, data e impressão deve ser baseado em uma fonte original. Pergunte à IA “diga-me de que fonte você obteve essas informações” e verifique essa fonte de forma independente.
2. Confirme de forma independente. Verifique informações críticas em pelo menos uma fonte confiável fora da IA (catálogo autêntico, banco de dados oficial, documento primário).
3. Passe-o pelo filtro de polarização. A IA carrega os preconceitos dos dados nos quais é treinada. Um tema sugerido, uma lista de sugestões ou um resumo podem destacar certos pontos de vista e obscurecer outros. Pergunte quem ficou de fora, que perspectiva está faltando.
Privacidade e privacidade do usuário
Um dos princípios éticos mais fundamentais da profissão de biblioteconomia é a privacidade do usuário: o que uma pessoa lê, o que ela pesquisa e em que assunto está interessada são confidenciais. A inserção de dados em ferramentas de IA, especialmente ferramentas públicas que operam na Internet, que incluam identidades de usuários, histórico de pesquisa ou recursos emprestados pode violar este princípio; porque esses dados podem ir para sistemas de terceiros.
Da mesma forma, numa organização, documentos não classificados mas sensíveis (informações pessoais, contratos, correspondência interna) não devem ser carregados numa ferramenta geral de IA. Ferramentas executadas no sistema fechado e seguro da própria instituição são preferidas para esse tipo de dados.
Dica: Antes de inserir qualquer dado na IA, pergunte “Esta informação é pública?” perguntar. Se a resposta for não, ou se você não tiver certeza, coloque esses dados em formato despersonalizado e anônimo ou use apenas ferramentas seguras aprovadas pela instituição.
três mini cases
Caso 1 — Rascunho de metadados para 400 documentos. Uma biblioteca universitária teve que catalogar um arquivo com 400 documentos doados por um professor. O especialista extraiu um rascunho de título, data e sugestão de tema da primeira página de cada documento com IA: o tempo médio por documento diminuiu de 12 minutos para 4 minutos. Mas cada rascunho de impressão foi comparado com o documento original e aprovado pelo perito; Nesta etapa foram detectadas 17 datas incorretas inventadas pela IA.
Caso 2 — Fonte falsa capturada. Um bibliotecário consultivo recebeu 6 sugestões de artigos de YZ enquanto procurava recursos sobre “migração climática” para um estudante de graduação. A bibliotecária pesquisou todos no banco de dados da instituição: 2 dos 6 artigos não existiam. A etapa de verificação evitou que o aluno recebesse uma fonte fabricada.
Caso 3 — Quebra de confidencialidade evitada. Uma biblioteca considerou usar uma ferramenta geral de IA para analisar “qual usuário está interessado em qual tópico” a partir dos registros de checkout. O gestor da informação percebeu que seria uma violação da privacidade esses dados saírem com o ID do usuário; os dados foram inicialmente anonimizados e processados apenas como estatísticas agregadas e desidentificadas.
Quatro modelos copiáveis
1) Comece a definir funções e limites:
Sua função: assistente experiente especialista em catalogação e gerenciamento de informações. Sua tarefa: produzir um rascunho a partir das informações da fonte que lhe dei. Regras: (1) Use apenas as informações do texto que lhe dei, não adicione suas próprias informações. (2) Marque "[deve ser verificado]" onde não tiver certeza. (3) Não invente datas, nomes ou impressões. Se você entende, comece. Fonte: [aqui]
2) Pergunta de verificação de validação:
Liste cada afirmação factual (data, nome, número, citação da fonte) no texto abaixo. Para cada um: onde no texto você conseguiu essa informação? Se não estiver claro no texto, escreva “não está no texto”. Texto: [aqui]
3) Viés e verificação de perspectiva ausente:
Que perspectivas o seguinte resumo/recomendação destaca e quais deixa de fora? Que grupos, regiões ou pontos de vista podem estar faltando? Confie apenas no texto, não especule. Texto: [aqui]
4) Pré-verificação de privacidade:
O texto abaixo contém dados pessoais (nome, número de identificação, contato, histórico de leitura/pesquisa) ou informações corporativas confidenciais? Em caso afirmativo, liste-o e sugira como pode ser anonimizado. Texto: [aqui]
Alerta fraco / Alerta forte
Alerta fraco:
Encontre-me alguns recursos sobre este assunto.
Este prompt convida a IA a gerar recursos falsos. Não existem funções, limites, regras de validação e recursos. A IA pode produzir tags confiáveis, mas inexistentes.
Alerta poderoso:
Sua função: assistente de bibliotecário de referência. Escolha aqueles relacionados ao tema “migração climática” nas entradas do catálogo que forneci abaixo e explique por que são relevantes. Não adicione fontes que não estejam na lista, não fabrique fontes. Quando não tiver certeza, diga “não há fontes adequadas listadas”. Entradas do catálogo: [aqui]
A diferença é clara: um prompt forte força a IA a trabalhar a partir de uma determinada fonte real, e não de sua própria memória, e impede a fabricação.
Tabela de camadas e responsabilidades
camada de negócios
tarefa de amostra
Papel da IA
decisão do homem
mecânico
Rascunho de metadados, resumo, tradução
Produz rascunhos rapidamente
verificação, aprovação
quase judicial
Título do tópico, sugestão de fonte
oferece sugestões
Seleção por política
julgamento puro
Autenticação, decisão de direitos autorais
Apenas informações preliminares
A responsabilidade total é da pessoa
Erros comuns
- Substituindo a saída AI pela fonte. A IA é um assistente, não um recurso; Cada saída é validada.
- Aceitar a fonte fabricada como convincente. Só porque parece bom não significa que esteja certo.
- Inserção de dados pessoais/sensíveis na ferramenta pública. A privacidade do usuário e a confidencialidade corporativa são respeitadas desde o início.
- Ignorando o preconceito. A IA carrega as perspectivas dos dados nos quais é treinada; Pergunte o que está faltando.
- Deixando o julgamento para a IA. As decisões de precisão, direitos autorais e privacidade pertencem aos humanos.
Em resumo
inteligência artificial; É um assistente poderoso para resumir, redigir, traduzir e marcar padrões em biblioteconomia e gerenciamento de informações. Economiza muito tempo em trabalhos mecânicos; dá consultoria em questões quase judiciais; Mas a verificação da precisão, confiabilidade da fonte, privacidade do usuário e decisões éticas pertencem aos seres humanos. A alucinação é o maior perigo para esta profissão: nenhum crédito ou citação da fonte é usado sem verificação. Execute a IA com regras claras de função, limites e validação; Confirme cada saída crítica com uma fonte independente.
Tarefa de aplicativo
Escolha um tópico real da sua área. Peça à IA 5 recomendações de recursos sobre esse tópico, depois pesquise cada uma delas em um catálogo ou banco de dados real e observe quantos realmente existem. Em seguida, com o modelo “Startup definindo funções e limites”, diga à IA para trabalhar apenas a partir de um texto que você fornecer e compare o resultado das duas abordagens. Escreva qual abordagem impede o ajuste.
lista de verificação
- [ ] Determinei em qual camada (mecânica, semijudicial, julgamento puro) a tarefa está.
- [] "O que acontece se esta saída estiver incorreta?" Eu fiz a pergunta.
- [] Verifiquei cada crédito e citação com uma fonte independente.
- [] Verifiquei se não há informações pessoais/sensíveis nos dados inseridos na IA.
- [ ] Mantive a decisão final e a responsabilidade a meu critério.