利益:
- リスクのレベルに応じて、図書館のワークフロー（メタデータ、概要、検索、提案）において人工知能が時間を節約する部分と、正確さ、情報源の信頼性、プライバシーに関する決定が人間に委ねられる部分を区別できるようになります。
- 各出力をソースにリンクし、独立したソースで確認し、バイアス フィルターに通すことで検証する規律を適用する能力。
- この職業において、幻覚、捏造された情報源、ユーザーのプライバシーがなぜリスクであるかを理解し、最初から考慮する必要があります。
目録作成の専門家が朝机に座ると、新しく到着した数十冊の本、寄付コレクションからの数百冊の文書、デジタル化を待っているアーカイブ ボックスがあるかもしれません。レファレンス ライブラリアン (ユーザーの情報検索を支援する専門家) が、「このトピックに関する信頼できる情報源はどこですか?」などの質問に 1 日中答えます。情報管理者は、組織の何千もの文書を発見可能かつ信頼できる状態に保つ責任があります。この単元では、人工知能 (略して AI、大規模な言語モデルや同様のツール) がこれらのタスクの時間を節約する部分と、判断、選択、責任が人間に残される部分を明確にします。
まず定義から始めましょう。人工知能とは、大量のテキストで訓練された言語生成およびパターン認識ソフトウェア ツールを意味します。これらのツールは、大量のデータの要約、翻訳、分類の提案、下書きテキストの生成、およびパターンのフラグ付けを行います。しかし、情報源が本当に存在するかどうか、情報が正しいかどうか、ユーザーのプライバシーが保護されているかどうかはわかりません。だからこそ、図書館や情報管理において、AI は意思決定者ではなく、アシスタントなのです。
人工知能はどこで機能し、どこで機能しないのでしょうか?
図書館員のワークフローを 3 つの層に分けてみましょう。最初の層は機械的で反復的なタスクです。本の署名欄からメタデータの下書きを抽出し、長いレポートを要約し、テキストをある言語から別の言語に翻訳し、データ表を整理します。ここでは AI が強力であり、時間を大幅に節約します。
2 番目の層は、準司法的な作業です。文書にどのような件名を付けるか、コレクションにリソースを含めるかどうか、ユーザーにどのリソースを推奨するかなどです。ここでは AI が提案を出しますが、最終決定権を持つのは機関のポリシーとユーザーの本当のニーズを知っている専門家です。
3 番目の層は純粋な判断と説明責任です。情報が正確であることの確認、著作権の決定、機密の個人データを開示するかどうかの決定、情報源の信頼性の確認です。この層では、AI の出力は単なる出発点にすぎません。責任は完全に人間にあります。
ヒント: AI にタスクを与える前に、「この出力が間違っていたらどうなるでしょうか?」と自問してください。 「時間を無駄にする」という答えがあれば、遠慮せずに AI を使ってください。答えが「偽のソースが拡散されている、ユーザーが誤解されている、または個人データが漏洩している」の場合は、必ず出力を確認してください。
幻覚：図書館員にとって最大の危険
幻覚とは、AI が存在しない情報、情報源、引用をあたかも本物であるかのように、非常に説得力のある言語で生成することです。これは図書館と情報管理にとって特に危険です。なぜなら、私たちの職業の本質は情報源の信頼性と信頼性だからです。
AI に「このテーマに関する学術論文を 5 つ提案してください」と指示すると、実在するように見えてもまったく存在しないタイトル、著者、雑誌名を生成できます。これらの捏造された情報源は非常に説得力があるため、利用者や図書館員さえも検証せずに参考文献に追加することができます。人文科学や社会科学では、危険はさらに大きくなります。歴史家にとって「1897 年のあの文書」が捏造されたり、法学者にとって「あの裁判所の判決」が捏造されたりすると、その結果は重大な誤報となります。
注意: AI によって生成された出典の引用、引用、参照は、実際のカタログ、データベース、または出典自体で検証することなく、どこにも転送してはなりません。 「説得力があるように見える」からといって、それが真実であるとは限りません。
検証規律: 3 つのステップ
AI を扱うときに図書館員が適用しなければならない基本的な規律は次のとおりです。
1. ソースに接続します。すべての事実、図、日付、押印はオリジナルの情報源に基づいていなければなりません。 AIに「この情報をどのソースから入手したか教えてください」と質問し、そのソースを独自に確認します。
2. 独自に確認します。 AI の外部にある少なくとも 1 つの信頼できるソース (本物のカタログ、公式データベース、一次文書) で重要な情報を検証します。
3. バイアスフィルターに通します。 AI には、トレーニングに使用されたデータのバイアスが影響します。提案されたトピック、提案のリスト、または概要は、特定の観点を強調し、他の観点を曖昧にする場合があります。誰が取り残されているのか、どの視点が欠けているのかを尋ねてください。
プライバシーとユーザーのプライバシー
図書館の職業における最も基本的な倫理原則の 1 つは、ユーザーのプライバシーです。つまり、人が何を読んで、何を検索し、どの主題に興味があるかは機密です。 AI ツール、特にインターネット上で動作する公開ツールにユーザーの ID、検索履歴、借用したリソースなどのデータを入力すると、この原則に違反する可能性があります。このデータはサードパーティのシステムに送信される可能性があるためです。
同様に、組織では、機密扱いではないものの機密文書 (個人情報、契約書、内部通信) を一般的な AI ツールにアップロードすべきではありません。このタイプのデータには、機関独自の安全な閉鎖システムで実行されるツールが推奨されます。
ヒント: AI にデータを入力する前に、「この情報は公開されていますか?」と尋ねてください。聞く。答えが「いいえ」である場合、または確信が持てない場合は、そのデータを非個人化された匿名形式で保存するか、教育機関によって承認された安全なツールのみを使用してください。
ミニケース3個
ケース 1 — 400 個のドキュメントのメタデータの草案を作成します。大学図書館は、教授から寄贈された 400 件の文書のアーカイブを目録化する必要がありました。専門家は AI を使用して各文書の最初のページから草案のタイトル、日付、トピックの提案を抽出しました。文書あたりの平均時間は 12 分から 4 分に短縮されました。しかし、各草案インプリントは元の文書と比較され、専門家によって承認されました。このステップでは、AI によって作成された 17 個の誤った日付が検出されました。
ケース 2 — 偽のソースが見つかった。ある顧問図書館員は、学部生のために「気候変動」に関するリソースを探していたときに、YZ から 6 件の記事の提案を受け取りました。図書館員はそのすべてを大学のデータベースで検索しましたが、6 件中 2 件はまったく存在しませんでした。この検証ステップにより、学生に捏造された情報源が与えられることはなくなりました。
ケース 3 — 機密漏洩を防止しました。会計記録から「どのユーザーがどの話題に興味があるか」を汎用AIツールで分析することを検討したライブラリ。情報管理者は、このデータがユーザー ID とともに外部に流出することはプライバシーの侵害になることに気づきました。データは最初に匿名化され、集計された匿名化された統計としてのみ処理されました。
コピー可能な 4 つのテンプレート
1) 役割と境界の定義を開始します。
あなたの役割: 経験豊富な目録作成アシスタントおよび情報管理スペシャリスト。あなたの仕事は、私が提供した情報源の情報から草案を作成することです。ルール: (1) 私が提供したテキスト内の情報のみを使用し、独自の情報を追加しないでください。 (2) 不明な点には「【要確認】」を付けてください。 (3) 日付、名前、刻印などをでっち上げないでください。理解できたら始めてください。出典: [こちら]
2) 検証チェックの質問:
以下の本文に、各事実の主張 (日付、名前、番号、出典引用) を記載します。それぞれについて: この情報は本文のどこで得ましたか?本文中に明確でない場合は「本文中にない」と記入してください。テキスト: [ここ]
3) バイアスと視点の欠如のチェック:
以下の要約/推奨事項ではどの視点が強調され、どの視点が省略されますか?どのグループ、地域、またはビューが欠落している可能性がありますか?推測しないで、ただテキストに頼ってください。テキスト: [ここ]
4) プライバシーの事前チェック:
以下のテキストには個人データ (名前、ID 番号、連絡先、閲覧/検索履歴) または企業の機密情報が含まれていますか?もしそうなら、それをリストし、それを匿名化する方法を提案してください。テキスト: [ここ]
弱いプロンプト / 強いプロンプト
弱いプロンプト:
この件に関するリソースを見つけてください。
このプロンプトは、AI に偽のリソースを生成するよう促します。役割、境界、検証ルール、リソースはありません。 AI は、信頼できるが存在しないタグを生成できます。
強力なプロンプト:
あなたの役割: 参考図書室のアシスタント。以下に挙げたカタログ項目から「気候変動」の主題に関連するものを選択し、なぜそれが関連するのかを説明してください。リストにない情報源を追加したり、情報源を捏造したりしないでください。よくわからない場合は、「適切な情報源がリストされていません」と言ってください。カタログエントリー：[こちら]
違いは明らかです。強力なプロンプトは、AI に自身のメモリではなく、与えられた実際のソースから動作するように強制し、捏造を防ぎます。
レイヤーと責任の表
ビジネス層
サンプルタスク
AIの役割
男の決断
機械的
メタデータの草案、要約、翻訳
ドラフトを迅速に作成します
検証、承認
準司法的な
トピックのタイトル、ソースの提案
提案を提供します
方針による選択
純粋な判断
認証・著作権判定
予備情報のみ
全責任は本人にある
よくある間違い
- AI 出力をソースに置き換えます。 AI はリソースではなくアシスタントです。すべての出力が検証されます。
- 捏造された情報源を説得力のあるものとして受け入れる。見た目が良いからといって、それが正しいとは限りません。
- 個人/機密データを公開ツールに入力する。ユーザーのプライバシーと企業の機密保持は最初から尊重されます。
- 偏見を無視する。 AI は、トレーニングに基づいてデータの視点を持ちます。何が足りないのか尋ねてください。
- 判断はAIに任せる。正確性、著作権、プライバシーの決定は人間に属します。
要約すると
人工知能。図書館業務や情報管理における要約、起草、翻訳、パターンマーキングを行うための強力なアシスタントです。機械的な作業にかかる時間を大幅に節約できます。準司法的な事項についてアドバイスを与える。しかし、正確性、情報源の信頼性、ユーザーのプライバシー、倫理的決定の検証は人間に属します。この職業にとって幻覚は最大の危険です。出典のクレジットや引用は検証なしに使用されません。明確な役割、境界、検証ルールを使用して AI を実行します。それぞれの重要な出力を独立した情報源で確認します。
アプリケーションタスク
自分の分野から実際のトピックを選択してください。 AI にそのトピックに関する 5 つのリソースの推奨事項を尋ね、実際のカタログまたはデータベースでそれぞれを検索し、実際にいくつ存在するかを記録します。次に、「役割と境界を定義するスタートアップ」テンプレートを使用して、提供されたテキストのみから動作するように AI に指示し、2 つのアプローチの出力を比較します。どのアプローチがフィッティングを妨げるかを書いてください。
チェックリスト
- [ ] 私は、その任務がどの層（機械的、半司法的、純粋な判断）にあるのかを決定しました。
- [ ] 「この出力が間違っている場合はどうなりますか?」私は質問をしました。
- [ ] 私は各クレジットと引用を独立した情報源と照合して確認しました。
- [ ] AI に入力されるデータに個人情報や機密情報が含まれていないことを確認しました。
- [ ] 最終的な決定と責任は私自身の判断で行いました。