Direitos Autorais, Privacidade, Ética e Governança — Inteligência Artificial em Biblioteconomia e Gestão da Informação

Ganhos:

Capacidade de reduzir riscos legais avaliando o status dos direitos autorais da entrada e as condições dos dados da ferramenta e questionando os direitos da saída
Capacidade de proteger dados pessoais através da anonimização e minimização e garantir a privacidade sendo transparente para o usuário
Capacidade de estabelecer uma estrutura de governança para a instituição que inclua ferramentas aprovadas, dados proibidos e regras de verificação, e testar seu uso com valores bibliotecários.

O bibliotecário e gestor da informação é alguém que não apenas organiza e apresenta a informação, mas também a protege: protegendo os direitos do criador, a privacidade do usuário e a responsabilidade da instituição. A inteligência artificial desafia todos os três campos com questões novas e complexas. O upload de um documento para a IA é uma violação de direitos autorais? Fornecer dados do usuário a uma ferramenta de IA viola a privacidade? Como a organização deve gerenciar o uso da IA? Nesta unidade de encerramento, estabeleceremos uma estrutura que reúne os fios éticos e legais que abordamos ao longo do módulo.

Vamos definir os conceitos. Copyright é o direito legal concedido ao criador de uma obra sobre o uso de sua obra; A duplicação ou utilização não autorizada pode ser considerada infração. Dados pessoais são quaisquer informações que identifiquem direta ou indiretamente uma pessoa e estejam sujeitas a proteção legal. Governança é a estrutura de regras, políticas e responsabilidades que regem o uso da IA por uma organização. Estes três conceitos constituem a base legal e ética para o uso responsável da IA.

Passo a passo: uso responsável e legal da IA

1. Avalie o status dos direitos autorais da inscrição. Antes de carregar um texto, livro ou artigo em uma ferramenta de IA, considere o status dos direitos autorais desse trabalho e os termos de uso da ferramenta. Ceder uma obra protegida por direitos autorais a uma ferramenta que usa os dados que você carrega para seus próprios fins pode constituir uma violação de direitos.

2. Questione os direitos da saída. O status de direitos autorais do texto produzido pela IA pode ser incerto e a IA pode reproduzir inadvertidamente conteúdo protegido por direitos autorais nos dados de treinamento. Antes de publicar um resultado de IA, avalie sua originalidade e possíveis violações.

3. Proteja os dados pessoais. A identidade, o histórico de leitura/pesquisa e as informações pessoais dos usuários não devem entrar em nenhuma ferramenta de IA sem consentimento explícito e proteção forte. O anonimato e a minimização dos dados (apenas a quantidade de dados necessária) são essenciais.

4. Garanta transparência e consentimento. Os usuários devem saber como seus dados e interações são processados; Quando a IA estiver envolvida, isso deve ser claramente indicado. O uso de IA secreta mina a confiança.

5. Estabelecer um quadro de governação. A organização deve estabelecer numa política escrita quais as ferramentas que são aprovadas, que dados podem ser introduzidos, quem é o responsável e como os resultados serão verificados.

Dica: Crie uma planilha simples de “regras de uso de IA” para sua organização: quais ferramentas são aprovadas, quais dados nunca são inseridos (pessoais/proprietários/confidenciais), como cada saída é verificada e quem é o responsável. Um guia claro de uma página é mais aplicável do que uma política extensa.

Princípios éticos e valores da biblioteconomia

Os valores profundamente enraizados da profissão de biblioteconomia servem de bússola na era da IA: igualdade de acesso à informação, liberdade de pensamento, privacidade do usuário, honestidade intelectual e imparcialidade. A IA pode apoiar ou ameaçar estes valores. Pode expandir o acesso, mas reforçar o preconceito; pode acelerar o serviço, mas pode comprometer a privacidade; Pode facilitar a descoberta, mas pode espalhar desinformação.

O bibliotecário responsável testa cada uso de IA em relação a estes valores: "Esse uso equaliza o acesso ou exclui um grupo? Protege a privacidade? Fornece informações precisas e honestas?" IA é uma ferramenta; Os valores com os quais você irá utilizá-lo são a essência da profissão. A tecnologia muda, mas esses valores são a bússola constante da biblioteconomia.

Cuidado: “Todo mundo está usando” ou “é rápido” não justifica o uso de uma IA. Mesmo que um uso seja legal, pode ser antiético; Não adote uma prática prejudicial em termos de direitos autorais, privacidade e justiça, só porque é fácil. A responsabilidade final não é da ferramenta, mas do profissional que a utiliza.

três mini cases

Caso 1 — O download protegido por direitos autorais foi interrompido. Uma equipe planejou carregar um livro de referência inteiro protegido por direitos autorais em uma ferramenta geral de IA para gerar resumos. O gestor de informação considerou isto arriscado, tanto em termos de direitos de autor como em termos de utilização de dados da ferramenta; em vez disso, foi estudado apenas em trechos breves e autorizados e dentro do sistema fechado da instituição.

Caso 2 — Dados pessoais anonimizados. Uma biblioteca queria analisar o feedback dos usuários com IA; mas o feedback continha nomes de usuário e informações de contato. A equipe anonimizou os dados antes da análise; apenas tendências anônimas e coletivas foram processadas. Privacidade preservada, visão recuperada.

Caso 3 — Lacuna de governação eliminada. Numa organização, os funcionários utilizavam diferentes ferramentas de IA sem supervisão, por vezes introduzindo documentos confidenciais. O administrador de informações publicou uma política de uma página definindo ferramentas aprovadas, tipos de dados proibidos e regras de verificação; A incerteza e o risco diminuíram significativamente.

Competência pessoal e cultura corporativa

Uma política de governação é tão forte quanto as pessoas que a implementam. Mesmo a regra mais bem escrita permanece no papel se os funcionários não compreenderem os riscos da IA. A base duradoura para a utilização responsável da IA é, portanto, a competência do pessoal: a compreensão de cada funcionário sobre o que é uma alucinação, que dados nunca devem ser introduzidos e porque é que um resultado deve ser verificado. As bibliotecas e as instituições de informação têm um duplo papel neste sentido; Deve formar o seu próprio pessoal e difundir esta literacia aos utilizadores. Uma boa cultura corporativa é aquela que relata um bug de IA em vez de ocultá-lo e acha normal dizer “Não tenho certeza sobre esse resultado, vamos verificar”. Num ambiente onde os erros são escondidos por medo de punição, uma fonte fabricada ou uma violação de privacidade se espalha despercebida. Além disso, como a tecnologia e as ferramentas mudam rapidamente, as políticas e a formação devem ser atualizadas regularmente e não uma única vez. Governança; É um sistema vivo onde regras, ferramentas, educação e cultura trabalham juntas. No centro deste sistema está a pessoa competente, que assume a responsabilidade e toma a decisão final, e não o veículo.

Dica: Antes de adotar uma nova ferramenta de IA, faça um pequeno piloto: experimente com uma equipe limitada, em tarefas reais, mas de baixo risco, registrando erros e riscos. Isto tanto desenvolve competências como revela vulnerabilidades políticas antes de implementar a ferramenta em toda a organização.

Quatro modelos copiáveis

1) Avaliação preliminar de direitos autorais:

Ajude-me a avaliar o seguinte conteúdo quanto a direitos autorais antes de carregá-lo em uma ferramenta de IA: o conteúdo pode ser protegido por direitos autorais, qual forma de uso é arriscada, qual alternativa (trecho, permissão, domínio público) é mais segura? Tipo de conteúdo: [aqui]

2) Verificação de dados pessoais:

O texto a seguir contém dados pessoais (nome, contato, identidade, histórico de leitura/pesquisa, informações que impliquem saúde/crença)? Marque cada um, classifique-o e sugira como anonimizá-lo. Texto: [aqui]

3) Projeto de política de uso de IA:

Elabore diretrizes de uso de IA de uma página para nossa organização: (1) políticas de ferramentas aprovadas, (2) tipos de dados nunca inseridos, (3) regra de validação de saída, (4) responsabilidade e transparência, (5) políticas de direitos autorais e privacidade. Seja curto e prático. Contexto: [aqui]

4) Consulta de controle ético:

Teste o seguinte uso planejado de IA em relação aos valores da biblioteconomia: equidade de acesso, privacidade, precisão/integridade, risco de preconceito e sinalização de preocupações, se houver. Uso: [aqui]

Alerta fraco / Alerta forte

Alerta fraco:

Devo colocá-lo na IA para resumir este livro?

A questão não leva em consideração direitos autorais, condições de dados da ferramenta e alternativas; Responder “sim” pode resultar em violação de direitos.

Alerta poderoso:

Sua função: consultor assistente de direitos autorais e privacidade. Estou pensando em fornecer o seguinte conteúdo para uma ferramenta de IA. Listar possíveis problemas em termos de status de direitos autorais, uso de dados de veículos e risco de dados pessoais; sugerir alternativas mais seguras (citação curta, permissão, domínio público, sistema fechado). Reivindique segurança jurídica, mostre riscos.Conteúdo e contexto: [aqui]

Alerta poderoso; Considera a decisão em termos de direitos de autor, condições dos dados e aspectos de privacidade e coloca alternativas seguras sobre a mesa.

Tabela de dimensões de governança

Tamanho

pergunta básica

precaução

direitos autorais

Existe alguma violação de entrada/saída?

Permissão, domínio público, pequeno trecho

privacidade

Os dados pessoais estão protegidos?

Anonimização, minimização

transparência

O usuário sabe?

Informações claras, consentimento

Responsabilidade

Quem é responsável?

Política escrita, aprovação humana

Valores

O acesso e a integridade estão protegidos?

Verificação ética, verificação de preconceito

Erros comuns

Carregar conteúdo protegido por direitos autorais sem pensar. Existe o risco de violação de direitos autorais e condição dos dados.
Inserção de dados pessoais na ferramenta pública. Invasão de privacidade e risco jurídico.
Escondendo o uso de IA. Sem transparência, a confiança é prejudicada.
Confundir “legal” com “ético”. Um uso legal pode ser antiético.
Não estabelecer um quadro de governação. O uso descontrolado cria riscos imprevisíveis.

Resumindo

Direitos autorais, confidencialidade e ética são a base da responsabilidade da biblioteconomia na era da IA. Avaliar o status dos direitos autorais da entrada e as condições de dados da ferramenta; questionar os direitos da produção; proteger os dados pessoais com anonimização e minimização; ser transparente com o usuário e obter consentimento; Estabeleça uma estrutura de governança clara na organização. Os valores profundamente enraizados da biblioteconomia (acesso igual, privacidade, integridade, imparcialidade) são a bússola que testa cada uso da IA. Mudanças tecnológicas; A responsabilidade e os valores não mudam, e a responsabilidade final sempre cabe ao ser humano.

Tarefa de aplicativo

Prepare um documento de regras de uso de uma página para sua organização (ou uma organização fictícia) com o modelo “Rascunho de política de uso de IA”: ferramentas aprovadas, dados que nunca devem ser inseridos, regra de validação, responsabilidade. Em seguida, teste um uso real de IA que você está planejando para acesso, privacidade, precisão e preconceito com o modelo “Consulta de controle ético” e escreva como você abordará quaisquer preocupações que surgirem.

lista de verificação

[] Avaliei o status dos direitos autorais da entrada e as condições dos dados da ferramenta.
[ ] Anonimizei os dados pessoais e utilizei apenas o necessário.
[ ] Fui transparente com o usuário sobre o uso da IA e respeitei o consentimento.
[] Criei uma política escrita de uso de IA para a organização.
[ ] Testei o uso com valores bibliotecários e mantive a responsabilidade sobre o humano.

Exame do Módulo

1. Qual das alternativas a seguir é o posicionamento mais preciso da inteligência artificial na biblioteconomia e na gestão da informação?

A) IA é um assistente de resumo, metadados, pesquisa e recomendação; A responsabilidade pela precisão, confiabilidade da fonte e decisões éticas é dos humanos ✔
B) A inteligência artificial pode verificar com segurança a autenticidade e a precisão de uma fonte
C) A inteligência artificial só funciona na catalogação de livros, não tem nada a ver com outros trabalhos de biblioteconomia
D) Como a inteligência artificial é mais imparcial que os humanos, as decisões sobre assuntos e classificação devem ser deixadas a ela.

Descrição: Inteligência artificial; É um assistente que elabora metadados, resume, traduz, marca o padrão e aponta para a fonte. O especialista competente é responsável por tarefas de alta consequência, como verificação de precisão, decisões de tópico e classificação, credibilidade da fonte e decisões de direitos autorais e privacidade; Um resultado não verificado pode levar à disseminação de uma fonte fabricada ou a uma violação de privacidade.

2. Por que a “alucinação” é particularmente perigosa para o bibliotecário?

A) O resultado da inteligência artificial é produzido muito lentamente e desperdiça tempo
B) A inteligência artificial pode produzir fontes e citações inexistentes de forma convincente, e a essência da profissão é a autenticidade da fonte ✔
C) A alucinação ocorre apenas no processamento de imagens, não tem nada a ver com texto
D) A alucinação só é vista em ferramentas de inteligência artificial muito antigas, não em ferramentas atuais.

Explicação: Uma alucinação ocorre quando a inteligência artificial produz uma fonte, citação ou informação inexistente de forma extremamente convincente. Dado que a essência da profissão é a autenticidade e fiabilidade da fonte, se uma impressão ou citação fabricada for transferida para uma bibliografia ou utilizador sem verificação, ocorrerão graves desinformação.

3. Qual das alternativas a seguir é a área com maior risco de fabricação ao produzir metadados com inteligência artificial e como isso deve ser abordado?

A) A área do idioma é a área de maior risco e não precisa ser verificada
B) O campo do título apresenta o maior risco e deve ser preenchido com previsão
C) O ISBN e o ano de publicação apresentam o maior risco de fabricação e devem ser verificados literalmente com a fonte original ✔
D) Nenhum campo é arriscado porque a inteligência artificial sempre produz metadados corretamente

Explicação: Campos numéricos exatos, como ISBN e ano de publicação, são facilmente falsificados pela IA; A IA pode gerar um número de aparência razoável em vez de um ISBN que ela não conhece. Esses campos devem ser verificados literalmente com a fonte original (código de barras, impressão/colofone).

4. Qual é o principal objetivo do uso de “vocabulário controlado” ao atribuir um termo de tópico?

A) Garantir a consistência terminológica e a disponibilidade nos registos; Impedir que a inteligência artificial crie termos gratuitos ✔
B) Adicionar automaticamente ao catálogo cada novo termo solicitado pela inteligência artificial
C) Elimine completamente os termos de assunto e pesquise apenas por título
D) Desacelerar a catalogação e escrever cada registro com termos diferentes

Descrição: Um vocabulário controlado é uma lista de termos aprovados e padrão. Se o mesmo assunto for escrito com termos diferentes em registros diferentes, o usuário encontrará um e perderá o outro. Ao fornecer esta lista à IA e dizer-lhe para 'basta selecionar na lista', a consistência e a localização são mantidas; Um novo termo que não esteja listado pela inteligência artificial não deve ser adicionado ao catálogo.

5. Qual é a abordagem correta para obter o número de classificação de um documento a partir da inteligência artificial?

A) O número exato fornecido pela inteligência artificial deve ser aceito diretamente, sem olhar a tabela oficial
B) Os números de classificação não devem ser usados, as fontes devem ser arquivadas aleatoriamente
C) A proposta da master class deverá ser considerada preliminar, os passos exatos deverão ser verificados com a tabela de classificação oficial ✔
D) Como a inteligência artificial não pode classificar, esta tarefa deve ser completamente ignorada

Explicação: A IA muitas vezes consegue encontrar a classe principal certa, mas pode perder subníveis (por exemplo, histórico médico em vez de medicina) ou produzir números incorretos que parecem razoáveis. Portanto, a proposta da master class deve ser considerada um começo e os passos exatos devem ser verificados com a tabela oficial de classificação.

6. Qual afirmação é verdadeira ao comparar a pesquisa semântica e a pesquisa por palavras-chave?

A) A pesquisa semântica deve substituir a pesquisa por palavra-chave em todos os casos
B) A busca semântica encontra recursos semanticamente relacionados; A pesquisa por palavra-chave para título exato ou ISBN é mais confiável ✔
C) A pesquisa por palavra-chave encontra fontes com termos diferentes que estão semanticamente relacionados melhor do que a pesquisa semântica
D) A pesquisa semântica funciona apenas em dados numéricos, não em texto

Descrição: a pesquisa semântica encontra palavras diferentes, mas recursos relacionados, como 'problema do sono' e 'distúrbio do sono', porque corresponde ao significado das palavras (por meio de vetores incorporados). Em contraste, ao procurar um ISBN exato, título completo ou número de estatuto, uma pesquisa por palavra-chave/domínio é mais confiável. A melhor prática é usar os dois juntos.

7. Qual é o dever do bibliotecário contra o risco de uma “bolha de filtro” nas recomendações personalizadas de recursos?

A) Fortalecer a bolha recomendando apenas os recursos mais semelhantes ao usuário
B) Desistir completamente de fazer sugestões
C) Compartilhar publicamente o histórico de leitura do usuário
D) Adicionar conscientemente fontes com diferentes perspectivas e horizontes e afirmar isso de forma transparente ✔

Explicação: A bolha do filtro ocorre quando o sistema de recomendação prende constantemente o usuário a conteúdos semelhantes e o mantém afastado de perspectivas novas e diferentes. O valor da biblioteca é o acesso igual e diversificado; Portanto, o bibliotecário rompe conscientemente a bolha, adicionando recursos de aparência diferente e reveladores e afirmando isso de forma transparente.

8. Qual prática é correta em termos de “autenticidade e integridade” ao processar um documento de arquivo com inteligência artificial?

A) ‘embelezar’ o documento com inteligência artificial, completá-lo reconstituindo as partes que faltam e substituindo o original
B) Excluir o original bruto e manter apenas a versão melhorada com inteligência artificial
C) O OCR deve apenas corrigir erros de reconhecimento, o conteúdo não deve ser modificado, o original bruto deve ser preservado e os derivados devem ser claramente rotulados ✔
D) Aceite a saída do OCR como 'texto limpo' sem quaisquer correções e abra-o para pesquisa.

Descrição: A essência do trabalho de arquivo é a garantia de que o documento provém da fonte reivindicada e que o seu conteúdo não foi alterado. A correção de OCR deve apenas remover erros de reconhecimento e não alterar o conteúdo; A ‘restauração’ da IA não substitui evidências reais, pois pode compensar peças faltantes. A digitalização bruta (original) deve ser sempre preservada, os derivados devem ser claramente rotulados.

9. Qual das opções a seguir é necessária para a construção responsável de um bot de informações de biblioteca?

A) O bot produz respostas para cada pergunta rapidamente a partir de seu conhecimento geral e não cita fontes
B) O bot depende apenas de informações corporativas verificadas, cita fatos e direciona questões delicadas a um especialista/humano ✔
C) O bot fornece conselhos precisos diretamente sobre questões médicas e jurídicas
D) Esconder do usuário se ele está falando com um bot ou com um humano

Explicação: O bot de aconselhamento deve basear-se apenas nas informações atuais verificadas e na lista de fontes da instituição, e não na sua memória geral, deve fornecer os factos citando a fonte, não deve dar conselhos sobre questões médicas/jurídicas/sensíveis, deve encaminhá-los para o perito, e deve transferi-los para o humano quando necessário. Assim, o bot não substitui o humano, mas sim se torna uma camada que alivia o fardo.

10. Em bibliometria, qual é o método correto para descobrir a contagem de citações ou índice h de um autor?

A) Perguntar diretamente à IA, porque os números que ela fornece estão sempre corretos
B) Obter os números do banco de dados de citações real; Utilizar inteligência artificial apenas para organizar e interpretar esses dados ✔
C) Estime os números e use-os nas decisões de transmissão
D) Considerar o número de citações como medida direta da qualidade do trabalho de um autor.

Explicação: A inteligência artificial pode criar valores como contagem de citações e índice h sem acessar dados reais (por exemplo, pode fornecer um valor de 42 quando na verdade é 19). Portanto, os números e as citações devem ser retirados de uma base de dados de citações real; A IA só deve ser usada para agrupar, classificar e interpretar esses dados reais.

11. O que é verdade sobre o limite das medidas bibliométricas (número de citações, índice h, fator de impacto)?

A) As métricas medem diretamente a qualidade e são comparáveis entre domínios
B) Os critérios podem ser usados sozinhos com segurança nas decisões de contratação e promoção.
C) As métricas indicam uso, não qualidade; não pode ser comparado entre domínios e deve ser equilibrado com uma avaliação qualitativa ✔
D) Os resultados das ciências humanas são total e completamente representados em bancos de dados de citações

Divulgação: Essas métricas indicam uso e visibilidade, não são medidas diretas de qualidade. Como a cultura de citação das áreas é diferente (como medicina e filosofia), elas não podem ser comparadas diretamente; As produções com muitos livros na área de humanidades estão sub-representadas nas bases de dados. Portanto, os critérios não devem ser usados sozinhos para avaliar os indivíduos, mas devem ser equilibrados com a avaliação qualitativa.

12. Qual é a principal vantagem da abordagem RAG (fabricação com acesso aumentado) em relação à IA geral?

A) Reduzindo significativamente a alucinação ao vincular a resposta aos documentos reais da instituição e citar a fonte ✔
B) Responder sempre perfeitamente, independente da qualidade da base do documento
C) Tornar a alucinação completa e permanentemente impossível
D) Abertura de todos os documentos para todos sem necessidade de controle de acesso

Explicação: Ao responder a uma pergunta, o RAG primeiro encontra os trechos relevantes nos documentos da própria instituição e produz a resposta com base apenas nesses trechos, citando a fonte. Desta forma a resposta está ligada a documentação real e rastreável e a alucinação é bastante reduzida. No entanto, o RAG não elimina completamente a alucinação, pois a resposta ainda pode estar errada se a peça errada for mencionada.

13. Nas ciências humanas e sociais, qual é o método mais confiável para verificar uma citação de uma IA para um usuário?

A) Certifique-se de que a citação pareça verossímil e fluente
B) Apenas pedindo à IA para reproduzir a mesma citação
C) Verifique a citação encontrando-a na obra real do autor ✔
D) Aceitar que basta que a citação seja atribuída a um nome famoso

Descrição: A inteligência artificial pode gerar citações totalmente fabricadas atribuídas a um autor real; O fato de a citação parecer exata e convincente, palavra por palavra, não é prova de sua exatidão. O método mais confiável é verificar a citação encontrando-a na obra real do autor; A lógica de “este autor poderia ter dito algo assim” não é suficiente.

14. Qual princípio é correto no uso da inteligência artificial em termos de direitos autorais, privacidade e ética?

A) Dados pessoais e protegidos por direitos autorais podem ser inseridos em ferramentas públicas sem pensar porque é rápido
B) Se um uso for legal, é definitivamente ético e nenhuma avaliação adicional é necessária.
C) Quando a inteligência artificial produz um resultado, a responsabilidade passa totalmente para a ferramenta, não para o humano.
D) Os direitos autorais e a privacidade devem ser respeitados desde o início; anonimato, transparência e consentimento são essenciais e a responsabilidade final é do ser humano ✔

Explicação: A introdução impulsiva de conteúdos protegidos por direitos de autor e de dados pessoais (ID do utilizador, histórico de leitura/pesquisa) em ferramentas gerais de inteligência artificial pode resultar numa violação de direitos e privacidade; Anonimização, minimização de dados, transparência e consentimento são essenciais. Além disso, mesmo que o uso seja legal, pode ser antiético; 'todo mundo usa' ou 'acontece rápido' não justifica uma prática e a responsabilidade final cabe ao especialista, não à ferramenta.