利益:
- 検証済みの企業情報のみに接続し、出典を引用して事実を提供するように、責任を持ってアドバイザリー ボットを設計する能力。
- 医学的、法律的、デリケートな質問を専門家や信頼できる情報源に伝え、アドバイスを回避し、必要に応じてそれらを人間に転送する能力
- チャット データのプライバシーを保護し、AI の使用についてユーザーに透過的にする
図書館が人々と出会う場所、それがインフォメーションデスクです。学生は宿題の情報源を探し、市民は公式文書にアクセスする方法を尋ね、研究者はデータベースの使用方法を学びたいと考えています。これはリファレンス サービスと呼ばれます。ユーザーの情報ニーズを理解し、それを適切な情報源と適切な方法で提供する仕事です。この単元では、人工知能を活用したチャットボット（利用者に対応して支援するソフトウェア）とAIを活用したカウンセリングを責任を持って利用する方法を学びます。
定義の 1 つは、レファレンスインタビューとは、図書館員が利用者の真のニーズを明らかにするために質問する対話です。ほとんどの場合、ユーザーは探しているものを完全に表現できないからです。 「歴史について何か」と言う人は、実際には特定の出来事の特定の側面を探している可能性があります。この人間的で共感的で判断力のある仕事は図書館の中心であり、AI がそれを完全に引き継ぐことはできません。
ステップバイステップ: AI を活用したコンサルティング
1. 必要性を明確にする。人間であれボットであれ、適切な相談はまずニーズを理解します。 AI は、ユーザーに尋ねるべき質問を明確にすることを提案できます。しかし、ユーザーの文脈や感情を読み取るのは人間の仕事です。
2. 出典を参照し、答えをでっち上げないでください。ライブラリ ボットの仕事は、ユーザーを実際のリソースに誘導することです。一般知識から答えを導き出すことではありません。ボットは、「このトピックについては、このデータベース、このコレクションを見てください」と言う必要があります。出典を引用して事実を主張する必要があります。
3. 制限を設定します。ボットは、医学的、法律的、経済的なアドバイスを提供してはなりません。代わりに、信頼できる情報源と、必要に応じて専門家を紹介する必要があります。 AI がユーザーに対して間違った医学的または法的な「回答」を与えた場合、重大な損害が発生する可能性があります。
4. 人間に委任します。ボットがそれを理解できない場合、またはトピックがデリケートな場合は、ユーザーを本物の図書館員に誘導する必要があります。優れたシステムはボットの限界を知っています。
5. 透明性を保つ。ユーザーは、自分がボットと話していることを認識している必要があります。図書館は、人間になりすました隠れたボットによってユーザーを誤解させてはなりません。
ヒント: コレクションと FAQ (よくある質問) 情報に基づいて、リソース引用システムとしてアドバイザリー ボットをセットアップします。 「すべてを知っている」のではなく、「適切なリソースを見つける」アシスタントとしてボットを使用することで、信頼性と正確性の両方が維持されます。
チャットボットの制限とリスク
図書館チャットボットは魅力的に見えます。24 時間年中無休で動作し、複数のユーザーを同時にサポートし、簡単な質問にすぐに答えます。しかし、リスクは現実のものです。ボットは幻覚を見せて、存在しないリソース、誤った起動時間、または欠陥のある手順をユーザーに伝える可能性があります。ボットは、ユーザーのデリケートな質問 (健康上の懸念、個人的な危機) を誤って処理する可能性があります。また、ボットがユーザーの入力内容を記録すると、プライバシーのリスクが生じます。
したがって、ボットは人間のアドバイザーの代替としてではなく、その負担を軽減するレイヤーとして位置付けられます。単純な繰り返しの質問はボットによって受信されます。人間は、複雑でデリケートで判断力が必要な質問に対処します。
注意: ユーザーがチャットボットに入力する質問は機密性の高いものである可能性があります (健康、法律、個人的な状況)。このやり取りの記録は、ローンの記録と同様にプライバシーを保護する必要があります。一般的なAIツールにチャットデータを提供して学習させることは、ユーザーの信頼を侵害することになります。
ミニケース3個
ケース 1 — ボートのおかげで荷物が軽くなりました。ある大学図書館では、蔵書情報やFAQ情報をもとに、「開館時間、貸出期間、データベースへのアクセス」などのよくある質問に答えるボットを構築しました。ボットは、インフォメーション デスクに寄せられた質問の約 40% を処理しました。図書館員は、複雑な研究課題により多くの時間を費やすことができました。ボットの回答には常に公式ページへのリンクが含まれていました。
ケース 2 — 間違った時刻が修正されました。ボットは、そのグローバル メモリから「図書館は日曜日は閉まっています」と言いました。一方、図書館市場は開いていました。このため、ユーザーは無駄になってしまいます。チームは、組織の現在の検証済み情報にのみ接続するようにボットを再構成しました。グローバルメモリからの応答を無効にしました。
ケース 3 — 人への感染が発生しました。ユーザーが個人的な健康上の懸念についてボットに質問しました。医学的なアドバイスを提供する代わりに、ボットはユーザーに信頼できる健康情報ソースを案内し、「必要に応じて図書館員に相談できます」と人間に引き渡すオプションを提供しました。機密性の高いトピックは正しく処理されました。
アクセシビリティと包括性
優れたユーザー サービスはすべての人に役立ちます。これは、ライブラリの等しいアクセス値を直接拡張したものです。ここで AI ツールには機会とリスクの両方が伴います。機会の側面: AI は、複雑なテキストを平易な言語に翻訳したり、さまざまな言語で応答を生成したり、視覚障害のあるユーザーが長い文書を読めるようにしたり、音声アシスタントとの対話を容易にしたりできます。これにより、これまでサービスから除外されていたユーザーが取り込まれます。リスク面: AI ツールは多くの場合、特定の言語および特定のユーザー プロファイルでより適切に機能します。リソースが少ない言語やリテラシーレベルが異なる場合、応答の質が低下し、不平等が助長される可能性があります。図書館員は、ボットや AI ツールがどのユーザー グループでうまく機能し、どのグループでうまく機能しないかを観察し、弱い場合は人間によるサポートを提供する必要があります。簡略化または翻訳の出力は、他の事実に基づく回答と同様に、意味を歪曲していないことを確認するためにレビューされる必要があります。誤った簡略化は、特に健康、法律、政府手続きなどの機密性の高い文書では誤解を招く可能性があります。
注意：文章を簡略化または翻訳する際、AIが意図せず意味を変えたり、重要な警告を省略したりする可能性があります。アクセシビリティを目的として生成された出力も、正確性を監査する必要があります。 「全員に届くべき」とは言いつつも、誤った情報が拡散しないよう注意が必要だ。
コピー可能な 4 つのテンプレート
1) カウンセリング面接の質問:
以下の曖昧なユーザーの質問 (範囲、レベル、目的、種類) を明確にするために、丁寧で自由形式の質問を 3 ～ 4 つ提案します。ユーザーの意図を想定しないでください。質問: [ここ]
2) ソースに向けたボット応答:
あなたの役割: 図書館情報ボット。以下はユーザーからの質問とリソース/ガイドのリストです。このリストのみに基づいて、ユーザーを適切なリソースに誘導する短く丁寧な応答を作成します。事実に基づく主張を行う場合は、出典を明記してください。リストにない場合は、「図書館員にご案内します」と伝えてください。質問: [こちら] / 一覧: [こちら]
3) 制限と売上高への対応:
次のユーザーの質問には、医療/法律/財務上のアドバイス、またはより機密性の高い個人的な話題が含まれていますか?その場合は、アドバイスはせずに、ユーザーを信頼できる情報源と専門家/図書館員に丁寧に案内する応答文を作成してください。質問: [ここ]
4) よくある質問の回答ファクトチェック:
以下のボット応答内のすべての事実情報 (時間、期間、手順、ソース) は、私が提供した公式 FAQ/情報テキストに基づいていますか?各主張を「ソースに存在する/存在しない」としてマークします。回答: [こちら] / よくある質問: [こちら]
弱いプロンプト / 強いプロンプト
弱いプロンプト:
このユーザーの質問に答えます。
ボットは一般的なメモリから回答を生成します。虚偽の時刻、虚偽の情報源、または不完全な手順を提供する可能性があります。国境や時代を尊重しません。
強力なプロンプト:
あなたの役割: 図書館情報ボット。以下に提供する現在の機関情報とリソースのリストのみに依存してください。これ以外の情報は提供しないでください。医学的/法的アドバイスが必要な場合は、専門家に問い合わせてください。答えは短く丁寧にして、事実の出典を述べ、情報がない場合は「図書館員にご案内します」と伝えてください。ユーザーからの質問: [こちら] / 組織情報: [こちら]
強力なプロンプト。ボットを検証済みの企業情報に接続し、制限を設定し、転送パスを定義します。
諮問質問タイプ表
質問の種類
ブーツは合っていますか？
アプローチ
開館時間・開催期間・手順
はい
現在の機関情報からの回答
シンプルなソースルーティング
はい
コレクション/連絡先へのリンク
複雑な研究
部分的に
ニーズを明確にし、人々に伝える
医療/法律/機密性の高い
いいえ
専門家の信頼できる情報源に直接問い合わせる
よくある間違い
- グローバル メモリから応答するためにボットを残します。誤った情報や捏造された情報源のリスク。
- 出典を引用せずに事実に基づいた回答をすること。ユーザーは確認できません。
- 医学的/法的なアドバイスを提供します。重大な危害を引き起こす。指導が与えられるべきだ。
- 人への感染経路が確立されていない。複雑かつデリケートな問題は未解決のままです。
- チャットデータを保護しないままにする。プライバシーの侵害となるでしょう。
要約すると
ユーザー サービスでは、AI とチャットボットが単純な繰り返しの質問を引き継ぎ、図書館員が複雑で機密性が高く、判断力が必要なタスクに集中できるようにします。しかし、ボットは人間の代わりにではなく、負担を軽減するレイヤーとして構築されるべきです。検証された企業情報のみに依存し、情報源として事実を提供し、医学的/法的アドバイスを避けて専門家に相談し、機密の質問は人間に任せ、チャットデータのプライバシーを保護する必要があります。透明性は不可欠です。ユーザーは、自分がボットと会話していることを認識する必要があります。
アプリケーションタスク
あなたの教育機関向けの短い「最新情報とリソースのリスト」（営業時間、融資ルール、いくつかのガイド）を準備してください。 「ソースへのボット応答」テンプレートを使用して 3 つの異なるユーザーの質問に対する回答を生成し、「FAQ 応答ファクト チェック」で各事実がソースに基づいているかどうかを確認します。最後に、「制限と売上高の応答」テンプレートを使用して、機密性の高い質問に対する正しいプロンプト テキストを作成します。
チェックリスト
- [ ] 確認済みの企業情報にのみボットを接続しました。
- [ ] 私は事実に基づいた回答の中で出典を引用しました。
- [ ] 医療/法律/機密性の高い質問のルーティングと受け渡しを設定しました。
- [ ] ユーザーがボットと会話していることを明確に述べました。
- [ ] チャットデータのプライバシーを保護しました。