利益:
- 役割、範囲、およびシステム プロンプトでサポート チャットボットが実行できないことを明確に定義する機能
- 知らないときにでっち上げを拒否することで、人間にまでエスカレートする行動規範を確立できる
- ブランドの声に合わせて再利用可能なチャットボット システム プロンプトを設計する機能
電子商取引会社のライブ サポート画面を考えてください。同時に 40 のチャットがあり、「荷物はどこですか」、「返品方法」、「請求書が見つかりません」などの質問が 1 秒あたりに流れます。こうした繰り返しの質問のほとんどは、実際にはいくつかのパターンを中心に展開しています。人工知能 (AI) を利用したチャットボットは、まさにこの繰り返しの負担に応えるために存在します。つまり、エージェント (顧客の担当者、つまり会話を行う人間) を日常業務から解放し、真に人間の判断が必要な困難なケースに集中することができるのです。
しかし、チャットボットを「すべてに応答する」ように設定することは、最もコストがかかる間違いです。承認なしに割引を約束したり、存在しないキャンペーンをでっち上げたり、顧客に間違った返品ポリシーを伝えたりするボットは、解決するよりも多くの問題を引き起こします。この単元では、優れたチャットボットの秘密を見ていきます。チャットボットに何をすべきかを伝えることは、何をしてはいけないのか、いつ人間に引き渡すかを伝えることと同じくらい重要です。
注: このコンテンツは一般的なチュートリアルです。作成したチャットボットの動作はすべて、独自の製品とポリシーを使用してテストする必要があります。顧客に公開される前に人間の承認を受ける必要があります。
チャットボットの3つの柱：役割、範囲、境界
優れたシステム プロンプト (チャットボットの性格とルールを決定するバックグラウンドで実行される隠れた命令) は、次の 3 つの質問に明確に答えます。
- 役割: ボットとは誰ですか?彼はどのブランドを代表しており、どのような口調で話しているのでしょうか? 「親切で忍耐強い、解決志向のサポートアシスタント」のようなものです。
- 範囲: ボットは何に応答しますか?注文追跡、返品、基本的な製品に関する質問はあります。法的アドバイス、個別の財務上の決定番号。
- 境界: ボットは何をしませんか?いつ停止しますか?価格や割引を約束したり、確認なしに個人データを共有したり、不確かな場合には個人データを他の人に転送したりすることはありません（これはエスカレーションと呼ばれます）。
これら 3 つを省略すると、ボットは独自の「想像力」でギャップを埋めます。それが埋めるすべてのギャップは潜在的な誤った情報です。
ステップバイステップ: 安全なチャットボットの構築
- 役割とトーンを書きます。あなたのブランドの声を一文で説明してください: フォーマル、フレンドリー、ユーモラス?
- 範囲をリストします。ボットが応答できるトピックを明確にリストします。
- 禁止リスト（ガードレール）を設置します。 「次のことは絶対に行わないでください」セクションを追加します: 価格交渉、医学/法的アドバイス、未確認の個人データ、非宣伝。
- 委任ルールを定義します。 「エージェントに転送します」と言うべきタイミングを明確にします。自信がなければ、怒りがエスカレートし、話題は範囲外になります。
- あいまいな動作を特定します。わからないときは、でっち上げないでください。彼に、「これについてはよくわかりません。確認するために警察官に送ります。折り返し連絡します。」と言わせてください。
- テストしてみましょう。難しい質問や罠の質問でボットを限界まで押し上げます (レッド チーム / レッド チーム テスト)。
コピー可能なシステムプロンプト
次のテンプレートは、直接使用できる基本的なスケルトンです。
役割: あなたは、「Aydın Elektronik」ブランドのカスタマー サポート アシスタントです。あなたは親切で、忍耐強く、解決志向です。あなたは短く、わかりやすく、温かい言葉で話します。回答できるトピック (範囲): - 注文状況と貨物追跡 - 返品と交換の手順 - 製品の一般的な機能と在庫状況 - メンバーシップとパスワードの取引 絶対にやってはいけないこと (制限): - 価格交渉、割引/キャンペーンの約束はしません。 - 正確な配達日をお約束するものではありません。システム内の情報のみを転送します。 - 顧客の身元を確認することなく注文/個人データを共有することはありません。 - 医学的、法律的、経済的なアドバイスは提供しません。わからないとき：でっち上げないでください。 「これについてはよくわかりません。正確な情報を得るためにエージェントに転送します」と言って、委任します。次の場合には人間に転送します。顧客が明示的に代理を要求した場合、怒りがエスカレートした場合、問題が範囲外である場合、支払い/返金金額に争いがある場合。
2 番目のパターンでは、ボットが何かについて確信があるかどうかを内部的にマークできます。
それぞれの答えの前に、自分の心の中で次のことを評価してください。この情報は確かなもので、自分の範囲内に収まっているでしょうか。そうでない場合は、応答を生成しません。代わりに委任条項を使用してください。
3 番目のパターンは、認証フローを保護します。
顧客が注文の詳細を要求した場合は、まず注文番号と最後に登録したメールアドレスの確認を求めます。 2 つが一致しない限り、注文内容を共有しないでください。 「安全のため、まず本人確認をしましょう。」と言います。
4 番目のテンプレートは、引き継ぎの瞬間を顧客にスムーズに伝えます。
委任する必要がある場合は、次の 3 つの手順に従ってください: (1) 顧客の問題を一文で要約する、(2) 担当者にエスカレーションする理由を丁寧に説明する、(3) 推定待ち時間を伝える。例: 「担当者は払い戻し額の差額を確認する必要があります。ちなみに、平均待ち時間は 2 分です。」
弱いプロンプト / 強いプロンプト
プロンプトが弱い
強力なプロンプト
「あなたはサポートボットです。顧客をサポートしてください。」
役割 + 範囲リスト + 禁止リスト + 委任ルール
彼はあらゆる質問に対して何かをでっち上げます。
範囲外を検知して転送
印刷物に掲載されると割引や日付が約束される場合があります
「これはシステム内の情報です」とコミットメント境界を保持します。
認証なしでデータを共有できる
最初に確認を求めます
違いは明らかです。強いプロンプトはボットの可動範囲を狭め、安全にします。優れたボットとは、知りすぎるボットではなく、限界を知っているボットです。
ミニケース3個
ケース 1 — 捏造されたキャンペーン。衣料品ブランドの最初のリリースのブーツは「割引はありますか?」と尋ねます。彼は質問に「はい、今週はすべての製品が 20% 割引になります」と答えました。しかし、そのようなキャンペーンはありませんでした。 3 時間で 60 人以上の顧客がこの割引をリクエストし、チームは困難な状況に陥りました。 「キャンペーン/割引を約束せず、システムで定義されたキャンペーンのみを転送する」というルールを禁止リストに追加した後、問題は完全に解消されました。
ケース 2 — 適切なタイミングで委任する。貨物会社の船が「箱が空で届いた。電話が入っていない！」と言いました。あなたのメッセージを受け取りました。これは標準的な FAQ ではありません。紛失・詐欺の可能性があります。制限ルールのおかげで、ボットは「専門家がこの状況を確認する必要がある」と判断し、リクエストを優先キューに転送しました。顧客は 90 秒以内に実際の担当者に連絡し、インシデントが記録されました。
ケース 3 — 認証が保存されました。ある人は他人の注文番号を入力し、「この注文の配送先住所を変更してください」と言いました。検証ルールのおかげで、ボットは登録された電子メールの確認を要求しました。確認が得られなかった場合、彼は取引を拒否し、セキュリティ チームに報告しました。これにより、配達詐欺の可能性が防止されました。
ヒント: ボットを開く前に、「特別割引をしてくれ」、「この注文をキャンセルしてほしい」、「マネージャーに相談させてほしい」など、「悪意のある顧客」の立場になってテストしてください。これらのトラップでボットがどのように動作するかを確認することは、本番稼働前の最も価値のあるリハーサルです。
ボットの音声とブランドの一貫性
トーンは境界線と同じくらい重要です。同じ「返金はできません」というメッセージでも、冷淡に伝えられれば苦情に変わる可能性がありますが、共感的な言葉で伝えられれば理解に変わる可能性があります。システム プロンプトでの具体的な例を使用してトーンを定義します。「短い文を使用し、顧客を名前で呼び、専門用語を避け、応答ごとに次のステップを伝えます。」ボットの特性は、いくつかの書かれたサンプル応答 (少数のショット、つまり、モデルにいくつかの例を示すことで目的のパターンを教える) で強化できます。
注意: チャットボットがどれほど優れていても、顧客に対して法的および商業的責任があります。ほとんどの場合、ボットによる虚偽の約束が会社を拘束します。したがって、価格、配送、返品などの拘束力のある問題については、ボットを「意思決定者」の立場ではなく、「情報を送信する」立場に保ちます。
よくある間違い
- 「質問があればヘルプ」など、システム プロンプトを無制限のままにします。
- 禁止リスト（ガードレール）を置かないこと。ボットが約束や推奨を行うための扉を開きます。
- 委任ルールを定義しない。ボットが知らない場合は、それをでっちあげます。
- 本人確認のステップをスキップし、確認なしに個人データを共有する。
- ボットをライブで起動する前に、ひっかけの質問でボットをテストしていない。
- トーンを定義せず、ボットがロボット的または冷たい言葉を使用することを許可します。
要約すると
- 優れたサポート チャットボットは、役割、範囲、境界という 3 つの柱に基づいて構築されます。
- 最も重要な部分は「何をしないのか」ということです。つまり、約束もしないし、アドバイスもしないし、未確認のデータも共有しません。
- 分からないときは、でっちあげてはいけません。彼は「よくわかりません」と言って、それを人間に転送する必要があります（エスカレーション）。
- 認証は、個人データを共有する前に不可欠なステップです。
- 公開する前に、悪意のある質問やトラップの質問でボットをテストします。最終的な責任はあなたにあります。
アプリケーションタスク
自分のビジネス (または架空の「Aydın Elektronik」) 用のチャットボット システム プロンプトを作成します。プロンプトには、役割/トーン、範囲リスト、禁止リスト、委任ルールの 4 つのセクションを含める必要があります。次に、3 つのひっかけ質問でボットをテストします: (1) 「特別割引をしていただけますか?」、(2) 「正確にいつ届きますか?」、(3) 「その注文番号のアドレスを変更してください」 (検証なし)。ボットが 3 つすべての制限を維持しているかどうかを観察し、エスケープされた動作をプロンプトに追加して修正します。
チェックリスト
- [ ] 役割とトーンを具体的に定義しました。
- [ ] ボットが回答するトピック（範囲）をリストにしました。
- [ ] コミットメントとアドバイスのために禁止リスト (ガードレール) を追加しました。
- [ ] 捏造を禁止し、知らない場合に譲渡するという文言を定義しました。
- [ ] 個人データの認証手順を記載します。
- [ ] ボットをひっかけ問題でテストし、弱点を埋めました。