ユニット 1 / 11

PDR における人工知能の概要: 役割、境界、危機例外およびプライバシー

利益:

  • PDR ワークフローのどの部分 (面接メモ、心理教育資料、キャリアの内容、フォローアップの概要) を人工知能が区別できるため、タスクのリスク レベルに応じて、どこで診断、指導、心理カウンセリングなどの決定が専門家に委ねられているかをリアルタイムで節約できます。
  • 危機やリスクの場合には人工知能は決して決定を下すことができないこと、人間の専門家や必要な当局に相談する必要があること、そしてすべての出力を検証する必要があることを理解する。
  • KVKK、職業上の機密保持、PDR倫理原則の範囲内での学生データの匿名化、および安全な車両を選択する習慣の獲得

スクールカウンセラーの一日は、個人面談記録、教室指導計画、心理教育パンフレット、保護者への情報レター、規模報告書、生徒追跡表、グループおよび委員会の議事録、進路選択資料など、ほとんど人が目にすることのない大量の文書や文書でいっぱいです。この作業の多くは反復的なものであり、机に座って何時間も費やします。しかし、この職業の本当の価値は、学生との対面で築かれる信頼関係にあります。人工知能 (AI) は、人間の言語を理解し、テキスト、概要、計画、要約を作成できるコンピューター プログラムであり、この繰り返しの書き込み負荷を高速化する強力な助けとなります。このモジュール全体を通じて、AI を魔法のソリューションとしてではなく、草稿を作成し、アイデアを与え、編集する執筆アシスタントとして使用する方法を学びます。

しかし、最初から、この職業において何よりも重要な 2 つの文を入れてみましょう。AI は学生について決定を下しません。心理カウンセリングの関係を診断したり、指導したり、置き換えたりするものではありません。そしてさらに重要なことは、危機やリスクの状況では AI は決して役に立たないということです。そこでは人間の専門家、家族、管轄当局が不可欠です。これら 2 つの原則は、モジュールの残りの部分が構築されるセキュリティ基盤です。

この最初の単元では、AI が PDR ワークフローのどこで時間を節約し、どこで停止すべきかを区別するという 3 つの基礎を築きます。各出力を検証する。生徒のデータを保護します。

AI はどこで時間を節約し、どこで決定は専門家に属するのでしょうか?

PDR タスクをリスク レベルの観点から考えると役立ちます。リスクレベルは、タスクが間違って実行された場合に生徒にどの程度の損害を与えるかを示します。 PDR では、このリスクはほとんどの職業よりも深刻です。それは子供の精神的な幸福、安全、そして将来に関わるからです。

AI によって大幅にスピードアップされるリスクの低いタスク: 教室でのガイダンス活動の概要を説明する、テストの不安に関するパンフレットの最初のバージョンを作成する、散在するインタビューのメモを組織的な構造に整理する (個人データを削除した後)、保護者向けニュースレターの草稿を作成する、キャリア紹介文を簡素化する、心理教育的なプレゼンテーションのアイデアを生成する。ここでは AI が「空白ページ」問題を解決します。あなたはそれを修正し、専門的な知識を加えて充実させ、最終的な承認を与えます。

決定が専門家に委ねられるリスクの高い課題: 生徒に診断のようなラベルを付ける (「この子はうつ病だ」、「注意欠陥がある」)、スケールの結果を臨床的に解釈する、生徒を職業に誘導する、家族に対して決定的な発言をする、行動を「リスク」と定義して行動を開始する。これらの決定は子供の人生に影響を与えます。責任と最終決定権は常に専門家にあります。ここで AI はせいぜい視点を提供するだけで、意思決定を行うことはできません。

AI が決して立ち入っていない禁断の領域: 危機とリスク。自殺願望、自分自身や他者への危害、性的/身体的/精神的虐待、ネグレクト、重度の精神症状。このような場合、私たちはAIに「どうすればいいですか?」と尋ねます。質問することは貴重な時間を無駄にし、プログラムに責任を委任しようとすることになります。正しいことは、緊急プロトコルを運用し、認定された人間の専門家と家族に連絡し、必要な当局に通知することです。これについては単元 9 で詳しく説明します。しかし、反射神経は今日から確立しなければなりません。

注意: 「AI が言った」ということは正当化されません。 AI の出力は、生徒の精神的健康、安全、将来に影響を与えるあらゆる分野における有能な専門家の承認に代わるものではありません。未検証の AI 出力は未検証の噂のようなものです。

なぜ検証が必要なのでしょうか?幻覚と偏見

AIは「知っている」のではなく、「候補となる単語を予測する」ことでテキストを生成します。そのため、非常に流暢であっても、実際には不正確な情報が提供されることがあります。これは幻覚と呼ばれます。存在しない科学的研究、暗黙の引用、虚偽の統計、存在しない尺度基準、でっち上げられたガイドラインです。 PDR の専門家にとって、これは危険です。なぜなら、心理教育で与えられた誤った情報は生徒の中に永続的な誤解となり、家族に与えられた誤った統計は誤った不安に変わるからです。

2 番目の問題はバイアスです。AI は、トレーニングの対象となるデータ内で社会的パターンを繰り返す可能性があります。性別、文化、社会経済的地位、または「業績」に関して偏った成果を生み出す可能性があります。たとえば、女子学生を特定の職業に偏らせたり、男子学生を他の職業に偏らせたりする可能性があります。あるいは、ある生徒にとってはある行動を「いたずら」、別の生徒にとっては「深刻な問題」として捉えることもある。 PDR における偏見は、正義と機会の平等の原則を直接損ないます。

これら 2 つの制限があるため、すべての出力に適用する単純な検証規則を提案します。

  1. ソースに接続します。信頼できる情報源(科学的研究、政府機関、専門組織の文書)からの事実、統計、引用、ルール、または診断基準を含むものを検証してください。
  2. もう一度確認してください。数値または論理出力 (表、タイムプラン) を手動でチェックします。
  3. プロフェッショナルフィルター。 「これはこの生徒、この年齢、この文化、この家族にとって適切でしょうか?害を及ぼす可能性はありますか?」自分の専門知識を使って対処してください。
  4. 責任を持ってください。あなたがそれを承認した瞬間、そのテキストはあなたのものになります。間違いはあなたの責任です。

学生データ: 最初からプライバシー

PDR レコードには、最も機密性の高い種類のデータが含まれます。生徒の名前、番号、クラスは個人データです。精神状態、家族の状況、健康情報、診断、またはトラウマは特別な個人データであり、より高度な保護が必要です。トゥルキエでは、KVKK (個人データ保護法) がこれを規制しています。さらに、PDR 専門家には職業倫理から生じる厳格な守秘義務が課せられます。生徒の名前、ステータス、または会話記録を公開 AI ツールに入力するだけでは、最も機密性の高いデータが制御不能になることを意味します。

ルールはシンプルで妥協のないものです。まず匿名化します。氏名、学校番号、クラス支部、保護者の名前、住所などの識別情報を削除します。 「学生 A」、「13 歳の学生」、「家族の緊張を経験している 10 代の若者」などの一般的な表現を使用します。可能であれば、学校や省庁が提供する、データ処理を保証する企業ツールを選択してください。この原則については単元 10 でさらに詳しく説明します。とりあえず反射的にやってみよう。

ヒント: AI にテキストを貼り付ける前に、「Ctrl+F」を使用して名前、番号、教育機関、親の名前を検索します。見つけた場合は、一般的なフレーズに置き換えて送信してください。疑問がある場合: 「この情報は学生を特定するものですか?」聞く;答えが「はい」の場合、表示されます。

ミニケース3個

ケース 1 — でっち上げられた統計。受験不安セミナーのために進路指導員がAIに「高校生の試験不安率」を尋ねた。 AIは「73%」といった明確な数字と「研究」の名前を与えた。教師が情報源を探そうとしたとき、その場所もその研究も存在しないことがわかりました。認証ステップのおかげで、彼は 120 人の保護者に架空の数字を提示することができました。代わりに、彼は出典が確認できる一般的な発言を使用しました。準備には 6 分長くかかり、誤った情報はブロックされました。

ケース 2 — 時間の節約。 PDR の専門家は、毎月 4 クラスの個別の教室ガイダンス活動を計画し、それに約 4 時間を費やしていました。彼は AI をドラフト作成ツールとして使い始めました。AI に結果に基づいてセッション プランのドラフトを作成させ、教室の現実に応じて修正させました。時間は月あたり 4 時間から約 1.5 時間に短縮されました。彼は稼いだ 2 時間半を個別の会議に費やしました。最終的な編集とフィルタリングは専門家によって行われたため、品質が損なわれることはありませんでした。

ケース 3 — 危機の境界線。あるインタビューで、ある学生は自分自身を傷つける考えについて話しました。専門家の頭の中では、「AIに状況を書き込んで提案をもらうべきでしょうか?」と考えます。それは過ぎ去ったが、停止した。それは危機的な状況だった。 AI に一行も書き込むことなく、彼は緊急プロトコルを実行し、学校管理者と家族に通知し、生徒を適切な専門家に安全に案内しました。彼は危機発生後に初めて AI を使用し、事件を匿名で記録した議事録の文言を編集した。

コピー可能なテンプレート

1) リスクレベルごとにタスクを分割します。

あなたの役割: スクールカウンセラーの執筆アシスタント。次の 8 つの PDR タスクを 2 つのリストに分割します: (A) AI が自信を持ってアウトラインを生成できる低リスク タスク、(B) 最終決定を専門家に委ねる必要がある高リスク タスク。また、タスクが危機/リスク領域に該当する場合は、「禁止 - 人間の専門家」とマークします。各タスクの正当な理由を 1 文で書きます。タスク: [毎週の独自のタスクをここに貼り付けます]

2) 検証チェックのプロンプト:

事実、統計、引用、情報源、または科学的主張を含む以下のテキスト内の各文にマークを付け、「どの情報源から検証する必要があるか」それぞれに注記を追加してください。本人確認を行わないでください。確認する必要があるもののみをリストします。テキスト: [下書きを貼り付け]

3) 匿名化の事前チェック:

以下のテキスト内で生徒を直接的または間接的に説明する可能性のある各フレーズ (名前、番号、学年、学校、保護者の名前、固有の状況の説明) を見つけて、それぞれについてより一般的な代替案を提案します。コメント内容。テキスト: [テキストを貼り付け]

4) 面接準備の質問をサポート:

あなたの役割: PDR ライティングアシスタント。診断、指導。私は 13 歳の生徒 (匿名) と学業へのモチベーションについてサポートするミーティングの準備をしています。判断力のない、自由回答の準備質問を 8 つ提案してください。危機の兆候が検出された場合は、上部に「専門家や家族に相談する」という警告を追加します。

弱いプロンプト / 強いプロンプト

弱い:

私の生徒が不幸なのですが、どうすればよいでしょうか?

このプロンプトはコンテキストフリーであり、個人データのリスクを引き起こす可能性があり、AI を診断/紹介の領域に押し込みます。一般的で危険で役に立たない出力が生成されます。

強い:

あなたの役割: スクールカウンセラーの執筆アシスタント。診断や指導をしないでください。以下の状況は匿名化されています。背景: 13 歳の生徒はここ数週間、授業に興味を失っているようです。タスク: この学生とのサポート的な面接のための、判断を含まない自由形式の準備質問を 6 つ提案してください。危機の兆候が検出された場合は、上部に「専門家/家族に相談してください」という警告を追加します。

この要求は、最初から役割、限界、匿名性、形式、危機反射をコード化しています。

よくある間違い

  • 資格情報を貼り付けます。面接記録や生徒名をそのままツールに入力します。解決策: まず匿名化します。
  • AIに危機について尋ねる。リスクに備えて数分を費やします。解決策: 直接プロトコルと人間の専門家。
  • 検証せずに使用する。捏造された統計や情報源を生徒や保護者に渡すこと。解決策: ソースに接続します。
  • 診断待ちです。 AIから「この子の何が問題なの?」まで。診断を求めること。解決策: 診断と解釈は専門家に属します。
  • 「AIが言った」という意味です。車に責任を負わせる。解決策: 最終的な決定と責任は専門家にあります。

表:ミッションのリスクレベルとAIの役割

クエスト

リスクレベル

AIの役割

意思決定者

授業指導活動概要

低い

ドラフトを生成します

専門家が企画

心理教育パンフレット初版

低い

ドラフト+アイデア

専門家が確認

会話メモの編集 (匿名)

中程度

フォーマット/言語レイアウト

専門家が確認

スケール結果の解釈

高い

言語プレゼンテーションのみ

専門家のレビュー

診断・的確な指導

高い

参加しません

専門家

危機/リスク対応

禁止

参加しません

人間の専門家 + 権威

要約すると

AI は、PDR の反復的な書き込み負荷を高速化する強力なアシスタントですが、意思決定者ではありません。リスクレベルごとにタスクを分離します。リスクの低いドラフト作業では AI を自由に使用し、リスクの高い決定は自分自身に秘密にし、危機やリスクの場合には AI を完全に無視します。すべての出力を検証し、すべてのデータを匿名化し、常に責任を負います。

アプリケーションタスク

あなた自身の毎週の PDR タスクを 10 個リストに書き留めます。それぞれに「低リスク / 高リスク / 禁止(危機)」のラベルを付けます。次に、上記の「強力なプロンプト」パターンを使用して、AI ツールに低リスク タスクの 1 つのドラフトを匿名で作成させ、その出力を検証規律の 4 つのステップに通過させます。

チェックリスト

  • [ ] タスクをリスクレベル(低/高/禁止)に分けました。
  • [ ] テキストをツールにフィードする前に認証情報を匿名化しました。
  • [ ] 危機/リスク状況では、AI ではなくプロトコルと人間の専門家をターゲットにしました。
  • [ ] 出力内の事実、統計、および出典を確認しました。
  • [ ] 最終的な決定と責任は私にあることを受け入れました。