利益:
- モデルが幻覚を引き起こす可能性があること、および各出力を検証する必要があることを理解しています。
- プロンプトに機密データや個人データを置くことのリスクと安全な代替手段を理解している
- 人工知能の使用に倫理、著作権、責任制限を適用します。
プロンプトの書き方をマスターするだけでは十分ではありません。人工知能を責任を持って使用する方法を学ぶことも必要です。このユニットは、技術スキルの上に配置する必要があるセキュリティ層です。 AI は、迅速かつ説得力があり、多くの場合正確な回答を生成します。しかし、場合によっては、同じ自信を持って完全に虚偽の情報を生成し、機密データを危険にさらし、倫理的境界を押し広げる可能性があります。この単元では、出力の検証、モデルの制限、機密保持、倫理的責任について説明します。この知識がなければ、他のすべてのテクニックは不完全なままになります。
幻覚: モデルの当てはめ
幻覚とは、モデルが自信に満ちた言語で非現実的な情報を生成することです。存在しない情報源、誤った日付、捏造された統計、または決して書かれていない法律などがその例です。なぜそれが起こるのでしょうか？なぜなら、モデルは「真実を知る」ためではなく、「可能な継続を生成する」ために設計されているからです (最初の単元のロジックを思い出してください)。文が文法的に可能だからといって、それが事実として正しいとは限りません。
これが実際に意味することは明らかです。AI によって生成されるすべての事実は、独立して検証されるまでは事実ではなく主張です。特に、次のことを常に確認してください。
- 数字と統計
- 名前、日付、地名
- 引用と出典参照
- 法的条項、技術基準、医療・財務情報
検証の習慣
プロンプト技術を使用して検証を減らすことはできますが、リセットすることはできません。 2 つのレイヤーで作業します。
- プロンプト層: 「私が提供した情報源のみに依存する、存在しない情報は追加しない、わからない場合は「わかりません」と書く、各主張の出典を示す」などの制限をモデルに与えます。これによりフィッティングが低下します。
- 人間層: それぞれの重要な事実をソースから自分で検証します。このステップには交渉の余地はありません。これは、公開されるコンテンツ、意思決定の基礎となるコンテンツ、または他の人に影響を与えるコンテンツには特に必須です。
限界: モデルがうまく機能しないこと
エリア
リスク
正しいアプローチ
現在の出来事
トレーニングデータが古い可能性があります
日付/現在のソースから検証する
正確な数字
当たる確率が高い
計算機/ソースで確認する
法律/医療/金融
重大な危害を及ぼす危険性
一人で頼らず、本物の専門家に相談してください
出典/引用
存在しないリソースを生成できる
情報源の信頼性を自分で確認してください
レア/ニッチなトピック
表面的または不正確
専門知識と比較する
モデルはアシスタントであり、最終的な権限を持っているわけではありません。責任は常に使用する人にあります。
プライバシーと個人データ
公開 AI ツールに入力したテキストは、そのツールの処理ポリシーの対象となり、組織の制御が及ばない場合があります。したがって、何も考えずに機密データや個人データを入力することは重大なリスクです。トゥルキエにおける個人データの処理は、KVKK (個人データ保護法) によって規制されています。多くの場合、機関は独自のデータ ポリシーを持っています。
安全な作業方法:
- 匿名化/マスク: 本名の代わりに「顧客」、実番号の代わりに「[口座番号]」を書き込みます。ほとんどの場合、「3 年間の法人顧客」と言えば十分です。
- 機関が承認したツールを使用する: 一部の機関は、データを漏洩しない契約済み/機関向けツールを提供しています。機密データはそれら上でのみ処理してください。
- 必要のないものは提供しない: タスクの実行に実際には必要ではない機密情報を含めないでください。
- ポリシーを理解する: 組織の人工知能の使用規則を理解し、遵守します。
倫理と著作権
責任ある使用はプライバシーにとどまりません。 3 つの原則:
- 透明性: コンテキストが必要とする場合 (たとえば、人間の労働が期待される場合)、AI によって生成されたコンテンツを適切にクレジットします。不正な使用は避けてください。
- 著作権と独自性: モデルの出力は他の作品に似ている場合があります。商用利用の前に独自性と権利状況を確認してください。他人のブランドや作品を模倣しないでください。
- 非悪意: 誤解を招く、差別的、操作的、またはターゲットを絞ったコンテンツの作成には使用しないでください。ツールの威力により責任が増大します。
4 つのコピー可能なテンプレート
1) 拘束制限フィッティング:
以下のソースを信頼してください。ソースにない情報は追加しないでください。よくわからないところには「ソースにない」と書きましょう。それぞれの重要な主張の横に、その主張の根拠を示します。出典: [本文]
2) 検証リストを抽出します。
以下のテキストで検証する必要があるすべての事実 (番号、日付、名前、主張) をリストします。それぞれを確認する方法を簡単に提案します。テキスト: [出力]
3) 匿名化:
次のテキスト内のすべての個人/機密データをマスクします: 名前 [PERSON]、会社名 [COMPANY]、数字 [NUMBER]。意味をそのままにした匿名化されたバージョンを提供します。テキスト: [テキスト]
4) 倫理審査:
このコンテンツを公開する前に、誤解を招くもの、差別的、または不公平なものではないかを倫理的に評価してください。その場合はフラグを立てて修正を提案してください。内容: [テキスト]
弱いプロンプト / 強いプロンプト
弱い（危険）：
アフメット・ユルマズ (TC: ...) の契約の問題点を見つけて、業界平均と比較してください。
強い（安全）：
以下の契約文で危険な条項を見つけてください。 - 個人データの使用;当事者を [COMPANY-A] および [PERSON] と呼びます。- 本文に書かれていることのみに依存します。業界平均を算出し、「データが利用できない」と記入します。 - 各リスクをその項目で表示します。テキスト (匿名化): [テキスト]
強力なバージョンは、個人データを保護し、偽の業界データをブロックします。出力は法務チームによるレビューの準備ができています。
ミニケース3個
ケース 1 — 加工されたソース。研究者は、モデルによって与えられた 3 つの「学術情報源」を検証せずにプレゼンテーションに組み入れました。情報源のうち 2 つはまったく利用できませんでした。同僚はプレゼンテーションの前にそれに気づきました。その後、チームは「公開する前に各リソースを個人的に見つけて開く」というルールを採用しました。
ケース 2 — 機密保持。従業員は実際の顧客契約書をそのまま公開ツールに貼り付け、概要を尋ねました。機関の情報セキュリティ チームがこれを検出したとき、プロセスが見直されました。現在、機密文書は機関によって承認された企業ツールでのみ処理され、匿名化されています。
ケース 3 — 意思決定の責任。中小企業の経営者は、モデルによって与えられた税解釈に基づいて行動を起こそうとしていました。コメントは現在の法律に準拠していませんでした。彼が財務アドバイザーに相談したときに間違いに気づきました。教訓は明らかです。AI が準備し、専門家と人間が決定します。
ヒント: 事実を「未検証」としてマークする習慣をつけましょう。確認するまで、出力内の各数値とソースの横にチェック マークを付けます。この単純な規律により、誤った情報が静かに拡散するのを防ぎます。
注意：「AIがそう言った」は言い訳にはなりません。あなたは、公開、送信、または決定の根拠となるコンテンツに対して責任を負います。車両の速度が速いからといって検査義務が免除されるわけではありません。
よくある間違い
- 流暢な出力を正しいと誤解する。説得力のある言葉を真実の証拠と誤解する。
- ソースを確認せずに使用すること。存在しないソースを公開する。
- 機密データを何も考えずに入力してしまう。機密文書を匿名化せずに貼り付ける。
- 専門知識はモデルだけに任せます。法的/医学的/財務上の決定を検証しない。
- 車に責任を負わせる。 「AIがそう言った」と言って制御を逃れる。
要約すると
- 幻覚とは、モデルが自信を持って現実ではないものを作り出す場合です。すべての事実は検証されるまでは主張です。
- 検証には 2 つの要素があります。迅速な制約によって製造が削減され、人間によるチェックによって製造が検出されます。
- このモデルは、最新の正確な法律/医療/財務問題に限定されています。最終的な権限ではありません。
- 機密データや個人データを匿名化するか、教育機関によって承認されたツールでのみ処理してください (KVKK および教育機関のポリシー)。
- 倫理、著作権、非悪意の原則を遵守します。コンテンツに対する責任は常にその人にあります。
アプリケーションタスク
最近作成したプリントアウトを取り、そこに含まれるすべての事実 (番号、日付、名前、情報源、主張) を検証リストとして抽出します。それぞれの確認方法を書き出して、少なくとも3つ以上は実際に確認してみましょう。また、同じ出力の入力に機密/個人データが含まれているかどうかを確認し、必要に応じて匿名化します。
チェックリスト
- [ ] 幻覚とは何か、そしてなぜそれが起こるのかを説明できます。
- [ ] 私は独立した情報源からの事実の出力を検証します。
- [ ] 私は機密/個人データを匿名化するか、安全なツールで処理します。
- [ ] 私は法律/医療/財務問題について本物の専門家に相談します。
- [ ] 内容については私が責任を負うことを認めます。