エンドツーエンドの統合: 倫理的な AI 使用ポリシー — 心理学における人工知能

利益:

心理学の実践または機関向けに、強制力のある人工知能の使用ポリシーと意思決定フローを書面で作成する能力
モジュール全体で学習した境界、検証、プライバシー、バイアスの規律を単一の制御システムに結合する機能
人工知能の使用をクライアントに透過的に説明し、職業倫理と説明責任を維持する能力

このモジュール全体を通じて、心理学の仕事のさまざまな部分で人工知能 (AI) を使用する方法を学びました。文献レビュー、尺度解釈のサポート、セッションの採点、心理教育、研究分析、バイアスチェック、危機のハードエッジ、デジタルツール、専門能力開発などです。各単元には、境界、検証、機密保持という 3 つの原則が繰り返し存在しました。この最後の単元では、これらの原則を 1 つのシステム、つまり書面化され強制可能な AI 使用ポリシーにまとめます。ポリシーとは、「AI を良い目的で利用しようとする」といった漠然とした意図ではありません。これは、全員が従う、監査可能な、クライアントに対して説明責任を負う一連の具体的なルールです。あなたが一人で働いているか、組織で働いているかにかかわらず、このポリシーはあなたとあなたのクライアントの両方を保護するフレームワークです。

書面によるポリシーが不可欠な理由

暗黙のルールが一貫性なく適用されます。データが匿名化される日もあれば、忙しい日にはデータのことを忘れてしまう日もあります。専門家は AI を正しく使用するかもしれませんが、同僚は AI を誤って使用する可能性があります。書面化されたポリシーは、一貫性 (全員が同じルールに従う)、説明責任 (何か問題が発生した場合、何がどのように行われたか明確)、透明性 (AI をどのように使用しているかをクライアントに明確に説明できる) の 3 つを保証します。職業倫理と KVKK の観点から言えば、「AI を使用したが、それをどのように制御したかを記録しなかった」という立場は支持できません。

注意: AI ポリシーは境界を維持するために存在し、境界を緩和するために存在するものではありません。「スピードを上げるためにプライバシーを緩める」「緊急時にはボットにリダイレクトする」などの条項は、ポリシーではなくリスクの原因について説明しています。優れた政策は、簡単な方法ではなく、正しい方法を制度化します。

ポリシーの 6 つの基本コンポーネント

コンポーネント

定義するもの

モジュールベース

使用範囲

どのタスクに AI が使用されているか (グリーン/イエローゾーン)

ユニット 1

立ち入り禁止区域

AIが絶対に使われないところ（診断、危機判断）

1号機、4号機、9号機

データルール

匿名化とツールの選択

ユニット 2

検証ルール

各出力の確認方法

3号機、5号機、7号機

偏見と言語

正義と偏見のコントロール

ユニット8

透明性

クライアントへの伝え方

2号機、12号機

ステップバイステップ: 独自のポリシーを設定する

タスクインベントリを作成します。 AI を実際に使用できるすべてのタスクをリストします。それぞれを緑/黄/赤のゾーンに配置します。
禁止リストを明確にする。レッドゾーン（診断、リスク判断、危機介入、治療・投薬判断）を禁止事項として明記します。
データルールを記述します。どのデータが匿名化され、どのツールが承認され、どの設定が必須か。
検証手順を定義します。出力タイプ (ソース、メモ、分析) ごとに必須の確認手順を記述します。
透明テキストを用意します。クライアント向けの啓発テキストに AI の使用を含めます。
レビュースケジュールを設定します。ポリシーを定期的に (6 か月ごとなど) 更新します。テクノロジーと法律は変化します。

ヒント: ポリシーをテストする最良の方法は、ポリシーを通じて実際の 1 日のタスクを 1 つずつ実行することです。タスクごとに、「このルールに従っていますか?」質問に明確に答えることができれば、ポリシーは機能しています。「場合によっては」というなら、その条項をもっと明確に書くべきだ。

クライアントに対する透明性

クライアントは、AI が自社のプロセスでどのような役割を果たしているかを知る権利があります。しかし、これはクライアントを怖がらせることなく正直に説明する必要があります。「私は一部の事務作業や草稿作業（メモの編集、資料の準備など）で人工知能ツールを使用しています。私はあなたのデータを匿名化し、常に診断、評価、治療の決定を行っています。」この声明は倫理的義務であると同時に、信頼を築く誠実さでもあります。クライアントが反対した場合は、クライアントの選択が尊重されます。

ミニケース3個

ケース 1 — ポリシーの保護。クリニックの新しいインターンが、顧客のメモを匿名化せずに AI ツールに貼り付けようとしています。このクリニックの書面によるポリシーには、「生の顧客データは AI ツールに入力されず、最初に匿名化される」と記載されており、このポリシーは仕事の開始時に署名されているため、インターンは立ち止まって正しいステップを踏みます。このポリシーがなければ、プライバシー侵害が発生することになります。文書化されたルールは、善意が忘れられたときに機能するセーフティネットです。

ケース 2 — 透明性は信頼を築きます。最初のミーティングで、専門家は AI の使用法をクライアントに正直に説明します。何を使用するか、データはどのように保護されるか、決定は彼のものです。クライアントは最初は緊張していますが、説明を聞くとリラックスして自信が高まります。透明性は、隠す必要がある弱さではなく、信頼を築く正直さとして機能します。

ケース 3 — 禁止リストの有効化。忙しい一日の終わりに、専門家は AI にクライアントのリスクについて「質問」させたいと考えています。同機関の方針にある「危機やリスクの判断はAIに求めることはできない。専門家が直接評価し、必要に応じて監督・緊急ラインに相談する」という条文が頭に浮かぶ。専門家は立ち止まって正しい行動をとります。ポリシーの禁止リストは、最も疲れた瞬間でも正しい決定を思い出させてくれるアンカーです。

コピー可能なプロンプトとテンプレート

心理学の実践のための人工知能使用ポリシーの草案を作成します。次の 6 つのセクションを考えてみましょう: 1) 使用が許可されている領域、2) 禁止されている領域 (診断、危機の決定、治療の決定)、3) データ/匿名化のルール、4) 検証手順、5) 偏見と言語の管理、6) クライアントへの透明性。ルールを明確かつ強制的に書きます。境界を緩める物質を追加します。

次のタスクのリストを緑/黄/赤のリスクゾーンに分割し、それぞれについて 1 文のポリシールールを作成します (誰が実行し、どのように検証されるか)。クエスト: [タスクリスト]

人工知能の使用について、人工知能がどのような仕事で使用されるのか、データが匿名化されているかどうか、診断/治療の決定は専門家に属していること、およびクライアントの反対する権利など、正直にかつ脅迫なく説明する段落をクライアント情報のテキストに追加します。

この AI 使用ポリシーの草案を確認してください。境界が適切に保護されているか、禁止区域は明確になっているか、プライバシーと認証の手順は完了しているか、クライアントの透明性はあるか?弱いアイテムや危険なアイテムにフラグを立てます。政策: [草案]

弱いプロンプト / 強いプロンプト

弱いプロンプト: 「AI を使いやすくするポリシーを書いてください。」

「有効化」を重視することで、AI は境界を緩和する条項を提案するようになります。一方、政策の目的は利便性ではなく、保護と説明責任です。

強力なプロンプト: 「境界を維持し、禁止領域 (診断、危機、治療の決定) を明確に示し、機密保持と検証手順を要求し、クライアントへの透明性を含む AI 使用ポリシーの草案を作成してください。目標は、使用を緩和することではなく、安全で説明責任のあるものにすることです。」

このプロンプトは、ポリシーを正しい目標 (保護) に導きます。出力は制御可能なフレームになります。

よくある間違い

政治については全く書いていません。ルールを念頭に置き、一貫性を持たずに適用する。これは最も一般的な間違いです。
境界を緩和する条項を導入する。「スピードを上げるためにプライバシーを緩める」などのルールをポリシーに導入します。
禁止リストを曖昧なままにする。診断・危機・治療の決定が禁止されていることを明確に書いていない。
透明度をスキップします。 AIの利用についてクライアントに全く知らせていない。
ポリシーを更新していません。テクノロジーや法律が変化しても、古いルールが継続されます。

要約すれば

このモジュールの 3 つの原則 (制限、認証、プライバシー) が組み合わされて、書面化された強制可能な AI 使用ポリシーが作成されます。優れたポリシーには、使用が許可されている領域、禁止されている領域 (診断、危機、治療の決定)、データ/匿名化ルール、検証手順、偏見と言語の管理、クライアントに対する透明性の 6 つの要素が含まれます。政治は境界線を緩和するために存在するのではなく、維持するために存在する。一貫性、説明責任、透明性を提供します。 AIの使用についてクライアントに正直に説明し、ポリシーを定期的に更新します。 AIは加速します。責任、決断、倫理は常にあなたのものです。

アプリケーションタスク

自分の診療所または機関向けに 1 ページの AI 使用ポリシーを作成します。 6 つのコンポーネント (許可されたフィールド、禁止されたフィールド、データルール、検証、バイアス/言語、透明性) をすべて完了します。次に、実際の勤務日の 5 つのタスクをこのポリシーに従って 1 つずつ実行し、「ルールに従っていたか?」と尋ねます。それぞれに。質問に明確に答えられるかどうかを確認してください。明確に答えられない項目は、より明確に書きましょう。

チェックリスト

[ ] 使用が許可される領域と禁止される領域を書面で定義しました。
[ ] 診断、危機、治療の決定は禁止されていることを明確に書きました。
[ ] データ・匿名化と承認車両ルールを設定しました。
[ ] 出力タイプごとに検証手順を書きました。
[ ] ポリシーにバイアスと言語チェックを追加しました。
[ ] 私はクライアント向けに透明性テキストを準備し、レビュースケジュールを設定しました。

モジュール試験

1. 心理学者は、クライアントが説明した症状を人工知能に書き込み、「このクライアントはどのような診断を受けていますか?」と尋ねます。彼は尋ねます。最も正しいアプローチはどれですか?

A) 考えられる概念を提案するためだけに AI を使用する。臨床面接、病歴、自身の判断を通じて診断を下す ✔
B) 人工知能による診断をレポートに直接書き込む
C) 人工知能が同じ診断を数回行った場合、それは最終的な診断であるとみなされます。
D) 問診を短縮し、診断を迅速化するために人工知能に依存する

説明: 診断を下すことは安全性が重要な臨床上の決定であり、複数のデータ、臨床面接、病歴、判断が必要です。人工知能は考えられる概念を示唆するのに役立ちますが、診断は有能な専門家（心理学者/精神科医）の臨床判断を通じて行われます。 AI の出力はこの決定に代わるものではありません。

2. クライアントのセッション記録をクラウドベースの人工知能ツールに要約したいと考えています。 KVKK と職業上の機密保持に関して最初に行うべきことは何ですか?

A) 実名と詳細を記載した記録をそのまま貼り付ける
B) コンテンツの匿名化、ツールのプライバシー/データポリシーの監視、および同意フレームワークの遵守 ✔
C) クライアントの姓のみを短縮し、残りはそのままにします。
D) プライバシーは重要ですが、スピードを上げるためにすべてのデータを共有する

説明: クライアントデータは特別な個人データです。クラウドツールに渡す前に、名前、場所、日付、職場などの識別情報を匿名化する必要があります。可能であれば、匿名化されたコンテンツを使用し、ツールがトレーニングにデータを使用しないようにする必要があります。さらに、クライアントのインフォームドコンセントを遵守する必要があります。

3. 人工知能は論文の要約で「2019 年のこの研究における効果量は d = 0.82 であることが判明した」と述べていますが、その論文は見つかりません。どうすればいいでしょうか？

A) 人工知能が信頼できるので帰属をそのまま使用する
B) 合理的だと思われるため、出典を探さずに数字を書く
C) 原文からの出典と効果量を確認するまで、主張を無視してください ✔
D) 別の人工知能に質問し、同じ数字が返ってきた場合はそれを受け入れる

説明: 人工知能は、本物のように見えても存在しない参照、著者、または数字をでっち上げることがあります (幻覚)。ソースが見つからない、または効果量が検証できないものは使用しません。この主張は、一次情報源から確認されるまで無効とみなされます。

4. クライアントはセッション中に自殺願望があると報告します。この状況において人工知能はどのような役割を果たすべきでしょうか?

A) 人工知能はリスクを評価し、セキュリティ計画をクライアントに伝える必要があります。
B) クライアントは人工知能チャットボットに誘導される必要があります
C) 人工知能が自動的に緊急サービスに電話するように設定する必要がある
D) 決定と介入は専門家に属します。 AIはリスクを評価できない、危機は人間の責任である ✔

説明: 自殺と危機のリスクは、リアルタイムの臨床評価、関与、説明責任を必要とする安全上クリティカルな状況です。人工知能は意思決定をしたり、リスクを評価したり、介入したりすることはできません。専門家が直接介入します。必要に応じて、ホットラインと人的サポートチェーンがアクティブになります。 AI はせいぜい、セッション外で専門家にリマインダーとして機能する程度です。

5. 人工知能を使用して作成された心理教育パンフレットで最も重大なリスクはどれですか?

A) クライアントを自己診断や治療に導く、不正確または偏見を与える情報 ✔
B) パンフレットのビジュアルデザインが不十分
C) パンフレットが長すぎる
D) フォントが小さい

説明: 心理教育資料がクライアントの手に渡った場合、それは自己診断および治療ツールに変わる可能性があり、不正確な情報や偏見を与える情報は害を引き起こす可能性があります。したがって、素材は証拠、安全性、および正しいフレーミングについて専門的に検証される必要があります。「この情報は専門家の判断に代わるものではありません」という警告を追加する必要があります。

6. 質的研究データ (インタビュー記録) において、人工知能によるテーマ別コーディングのサポートを受けます。最も健康的なアプローチはどれですか?

A) 人工知能によって生成されたコードを最終分析として報告する
B) コードを初稿とみなし、データを読み取ることで検証、修正し、信頼性を確保する ✔
C) 分析を完全に人工知能に任せ、データをまったく読まない
D) 人工知能のテーマが与えられるため、自分で本を読まない

説明: AI は最初のコード提案とテーマの概要を迅速に生成しますが、定性分析には研究者の解釈的な判断が必要です。人工知能コードは始まりです。研究者はすべてのデータを読み、コードを検証して修正し、コーダー間の信頼性を観察します。さらに、トランスクリプトは匿名化する必要があります。

7. 人工知能モデルにおいて、心理学の観点からバイアスが重要なリスクとなるのはなぜですか?

A) バイアスは単なる技術的な問題であり、臨床的には関係ありません
B) 最新のモデルではバイアスが完全に解決されました
C) モデルの出力は文化/性別/診断によって歪められる可能性があり、評価に誤解を与え、損害を与える可能性があります ✔
D) バイアスは画像を生成するモデルでのみ発生します。

説明: モデルは多くの場合、特定の文化や言語からのデータに基づいてトレーニングされるため、診断、文化、性別のバイアスが含まれる可能性があります。あるグループでは症状を「正常」と解釈し、別のグループでは「病的」と解釈したり、非難的な言葉を生み出したりする場合があります。これにより、評価が歪められ、損害を受ける可能性があります。出力はさまざまなグループや文化に対して監査される必要があります。

8. あなたは、クライアントに治療用チャットボットを推奨することを検討しています。まず何をすべきでしょうか?

A) 人気があるので直接勧めます
B) ボットが治療に取って代わることができ、セッションを減らすことができると主張する
C) 危機の際にクライアントがボットを信頼することを示唆する。
D) 証拠、セキュリティ、プライバシー、臨床適合性を監査し、ボットを限定的な補完物として位置付けます ✔

説明: デジタルメンタルヘルスツールを推奨する前に、その証拠ベース、セキュリティ（危機管理）、プライバシー/データポリシー、クライアントの臨床状況への適合性を検討する必要があります。ボットは人間による治療の代替としてではなく、限定的な補完として位置付けられるべきであり、危機的状況では不十分であることをクライアントに明確に説明する必要があります。

9. AI がセッションメモの草案を作成しました。このアウトラインを使用する前に行うべき最も重要な手順は何ですか?

A) ドラフトを実際のセッションで起こったことと比較して検証し、捏造/欠落した内容を修正し、責任を負います ✔
B) 下書きをそのままファイルに保存する
C) ドラフトは流暢に書かれているので正しいと仮定する
D) クライアントにドラフトを承認してもらい、変更せずに使用してください。

説明: AI 草案には、省略されていた重要な情報が追加されたり、実際には言われていない発言 (幻覚) がでっち上げられたり、臨床的に誤った枠組みが提供されたりする可能性があります。専門家は草案とセッションで実際に起こったことを比較し、検証し、修正し、最終的な内容に責任を負います。このメモは法的および臨床的な文書です。

10.心理学における人工知能の使用における「グリーンゾーン」(低リスク)タスクは次のうちどれですか?

A) クライアントが自殺の危険にさらされているかどうかを判断する
B) 匿名の心理教育テキストの文言を簡素化するための草案を準備する ✔
C) スケールスコアからの確定診断
D) 投薬推奨事項の作成

説明: 匿名化された心理教育テキストの文言の簡略化や予約リマインダー電子メールの作成などのタスクは、診断/決定を伴わないためリスクが低く、迅速なレビューで安全に使用できます。診断、リスク評価、治療の決定はレッド (安全性が重要な) ゾーンにあります。

11. 心理測定テストの解釈に人工知能を使用する場合の最も重要な制限は何ですか?

A) 人工知能がスコアを解釈するため、専門家のコメントは必要ありません。
B) 人工知能にテスト名を伝えるだけで十分
C) 解釈は単一のスコアからではなく、臨床判断と複数のデータから生じます。著作権と規範の遵守 ✔
D) カットオフスコアはどの文化でも同じです

説明: スケール/テストのスコアはデータの一部です。診断と臨床的解釈は単一のスコアから得られるものではありません。さらに、多くのテストは著作権で保護されており、規範の状況に依存します。人工知能はサブスケールの説明と言語サポートを提供できますが、解釈は臨床的判断、複数のデータ、文化的妥当性の枠組み内で専門家によって行われます。

12. なぜ AI は実際の監視に代わることができないのですか?

A) 人工知能は応答が速いため、監視に取って代わります。
B) とにかく監視は不要です
C) 人工知能はライセンスを取得しているため、スーパーバイザーとみなされます。
D) 人工知能は責任を負わず、実際の状況を知らず、倫理的制御を提供できません。監督には人間の専門家が必要 ✔

説明: 監督。それは、責任を持ち、対人関係を持ち、クライアントの本当の状況とセラピストの成長を知っている有能な専門家の監督です。 AI は症例のリハーサルや製剤の草案作成には役立ちますが、臨床的な責任は負わず、実際の状況も知らず、倫理的/法的な監督を提供することはできません。監督には人間の専門家が必要です。

13. あなたは、心理学機関向けの人工知能の使用ポリシーを準備しています。次のうちどれを含める必要がありますか?

A) 匿名化ルール、使用禁止領域、強制的な検証とクライアントへの透明性 ✔
B) 速度向上のために匿名化せずにクライアントデータを共有する許可
C) 診断上の決定を人工知能に転送する
D) 危機状況をチャットボットに指示する

説明: 優れたポリシー。これは、ツールにどのようなデータを与えることができるか (匿名化ルール)、診断/危機などの使用禁止領域、必須の検証手順、クライアントへの透明性を定義します。「迅速なプライバシーの実現」などの条項は、倫理的および法的リスクを伴います。政治は境界線を緩めるために存在するのではなく、維持するために存在する。

14. AI 出力を検証するための正当な理由は次のうちどれですか?

A) 正解です。人工知能は同じ答えを複数回返します。
B) 主張は一次証拠、有効な測定、および有能な専門家の判断によって確認されています ✔
C) 流暢かつ説得力を持って書かれているので、答えは正しいです。
D) AI は強力なモデルであるため、その出力は正確です

説明: 臨床または研究上の主張の正当化。一次証拠、有効な測定、適用される倫理/専門基準、および適切な専門的判断。「AI が言った」「流暢に書いた」「同じことを何度も言った」は正当な理由ではありません。これらは真実の兆候ではなく、せいぜい一貫性の兆候です。