利益:
- リスクのレベルに応じて、ソーシャルワークワークフロー（要約、編集、簡略化、下書き）において人工知能が時間を節約する部分と、臨床判断、リスク、および表現の決定が人間に委ねられる部分を区別できるようになります。
- 各出力を実際の証拠とリンクさせ、現在の公式情報源で外部情報を確認し、バイアスを通してフィルタリングするという手順を通じて、各出力を検証する規律を適用する能力。
- なぜクライアントのプライバシー、匿名の世界とクライアントのデータ世界の区別、そして KVKK の責任がソーシャルワークの最初から考慮される必要があるのかを理解するには。
あなたは朝、社会福祉センターに来ています。昨日、新たに3人の申請書が届いた。暴力の被害者である女性とその2人の子供、介護が必要な高齢者、そして学校中退の危機に瀕している10代の若者だ。あなたの机の上には 4 冊の社会調査報告書、裁判所から求められた意見書、記入が必要な事件記録、そして今日の午後の家族との家庭訪問の準備が置かれています。ソーシャルワーク（個人、家族、地域社会の社会的機能を向上させ、権利と福祉へのアクセスを確保し、弱い立場にある人々を保護するために行われる専門職と規律）は、本質的に文書集約的で時間的プレッシャーがあり、人の命に関わり、高い責任を伴う分野です。人工知能 (AI - 過去のデータからパターンを抽出し、テキスト、要約、翻訳、下書きを作成または分類できるソフトウェア) は、この文書の負荷と時間のプレッシャーから解放されます。しかし、このモジュールの最初の部分は明らかです。AI はアシスタント、サマライザー、アウトライン ジェネレーターです。あなたは、クライアントに関する評価、リスク、そして最終的な決定を下す有能な専門家です。
この最初の単元では、ツールではなく規律に焦点を当てます。 AI がソーシャル ワーク ワークフローのどこでリアルタイムの時間を節約できるのか、どこが危険なのか、各出力を検証する方法、クライアントのプライバシーと個人データを保護する方法、偏見に注意を払う方法を学びます。この基礎を築かなければ、後続の単元は宙に浮いたままになります。なぜなら、ソーシャルワークでは、検証されていない成果物は単なる虚偽の文ではないからです。それは、子どもが誤った判断を受けたり、リスクが見逃されたり、家族が不当に非難されたり、機密情報が漏洩したりする可能性のある間違いです。
AI はソーシャル ワークフローのどのような場面で役に立ちますか?
ソーシャルワークの仕事を 2 つの大きなクラスターに分けてみましょう。最初のクラスター: ドキュメント集約型、反復型、パターン抽出可能な、言語ベースのタスク。インタビュー後に散らばったメモを整理された事件記録に翻訳すること、長いファイルの時系列の要約、社会調査報告書の最初の骨格、クライアントの言語に合わせた援助/サービスリストの簡素化、紹介状の草稿、多言語クライアント向けの簡単な情報テキストの翻訳、プログラムの最初の枠組みには分析が必要です。これらの仕事では、AI によって数時間が数分に短縮され、疲れません。
2 番目のクラスター: 判断、臨床評価、リスク判断、責任を必要とするタスク。子供が家にいて安全かどうか、個人の自傷行為のリスクのレベル、家族に保護措置が必要かどうか、裁判所に報告書が提出される際の意見、サービスがクライアントにとって本当に適切かどうか。これらの決定には、専門的な能力、臨床的判断、背景知識、倫理的責任、そして多くの場合学際的なチームの意見が必要です。ここでは、AI が選択肢を増やし、下書きを生成し、見落とされていたものを思い出させてくれますが、最終的な評価と署名はあなたのものです。
この違いを一文で明確にしましょう。AI は、「このファイルの内容と最初のドラフトはどのようになるか」という質問に強いです。 「この人の本当の状況はどうなっているのか、自分の職業を代表してこれを擁護できるのか」などの質問に関しては、決断はあなたにあります。
ヒント: AI にジョブをアウトソーシングする前に、「この出力が間違っていた場合、誰が傷つきますか?」と自問してください。答えが「数分間のリファクタリング」であれば、安心して委任してください。答えが「クライアントの誤った評価、リスク回避、情報漏洩」であれば、AIに草案を作成させ、あなたが意思決定と検証を行います。
プライバシー：不可侵の原則
ソーシャルワークの核心は信頼であり、信頼は機密保持に基づいています。クライアントは、職業上の機密保持に基づいて、暴力、貧困、健康状態、家族の秘密など、最もプライベートで最も脆弱な情報をあなたに伝えます。この情報が悪者の手に渡ると、人の生命、安全、尊厳が脅かされます。ここでの基本ルール: 顧客を特定する個人データ (名前、住所、TR ID、健康状態、家族情報など) は、所属機関が承認していない公開 AI ツールには入力されません。パブリック AI サービスに入力したテキストは、そのサービスのサーバーで処理されます。誰が見るか、どこに保存されるか、モデルのトレーニングに使用されるかどうかを制御することはできません。トゥルキエでは、これは KVKK (個人データ保護法 - 個人データの処理を規制する法律) に基づく法的責任でもあります。
したがって、ソーシャル ワークにおける AI の使用は、2 つの異なる世界で機能します。一般的なツールは、匿名化された/一般的な世界 (クライアントを特定しない匿名または架空の例、一般知識の質問) に使用できます。クライアントデータの世界では、データを漏洩しない、安全で承認された社内システムのみが使用されます。 2 つを混同することは、このモジュールの最も危険な間違いです。
注意：「AIがそう言った」は正当化されず、事件ファイルには何の強制力もありません。誤った判断や情報の捏造、データの漏洩があった場合、その責任はAIではなく、その出力を検証せずに使用したり、そのデータをツールに入力した専門家にあります。
検証規律: 3 つのステップ
AI は流動的かつ自信を持って生産します。それが真実だというわけではありません。 AI は時折幻覚を引き起こすことがあります。つまり、存在しない法律、存在しないサービス、でっち上げられた統計、またはクライアントが決して言っていない発言を本物のように見せます。社会調査報告書やリスク覚書において、これは悲惨なことです。各出力に 3 段階の反射を適用します。
- 出典/証拠へのリンク。 AI がクライアントについて行うすべての発言は、実際のメモや会話に基づいている必要があります。 「この情報は、どの会話の中で、誰の口から、どのような観察に基づいて与えられたのでしょうか?」聞く。 AIはクライアントが言っていないことを付け加えるべきではありません。
- 独立した情報源に確認してください。法律、権利、サービス、転送先アドレスなどの外部情報を現在の公式情報源から確認します。 AI によって提供される申請要件や電話番号は、古いものであるか、偽物である可能性があります。
- 解釈と偏見のフィルターを通してください。出力はグループに対して偏っていますか?クライアントを非難したり非難したりするような言葉遣いはありますか?強みを無視するのか？あなたの専門的な判断が最終的なフィルターとなります。
ミニケース3個
ケース 1 — ドキュメント作成にかかる時間を節約できます。ソーシャルワーカーは1週間に14回の面接を実施し、それぞれの面接について手書きのメモを残しました。 AI 支援編集により、これらのメモを構造化されたケース記録に翻訳する合計時間が約 4 時間から 1 時間に短縮されました。しかし、各録音は専門家によって読み取られ、実際のインタビューと比較することで検証されました。 AIが「解釈」した2文が削除された。
ケース 2 — 検証で幻覚が見つかりました。専門家がAIに権利に関する質問をした。 YZは、「この援助には最低24か月の居住要件がある」と述べた。専門家が公式の法律を調べたところ、そのような要件はありませんでした。 AIは2つの同様の補助具を混合し、存在しない状態をでっち上げた。帰属のステップにより、クライアントが不当に拒否されるのを防ぐことができました。
ケース 3 — プライバシー侵害からの復帰。手短に言うと、ある新人専門家は、児童保護事件のすべての情報 (子供の名前、住所、学校を含む) を公開 AI ツールに貼り付けて、レポートを印刷したいと考えていました。上級専門家は、これは KVKK の範囲内の機密個人データであり、アウトであることに気づきました。このインシデントはデータ侵害として処理されました。資格情報が削除され、社内の安全な方法のみを使用してジョブがやり直されました。
コピー可能な 4 つのテンプレート
1) 職務適合性評価:
あなたの役割: シニアソーシャルワーカーおよびスーパーバイザー。以下にその仕事について説明します。 (1) これが AI に委託できる要約/編集/アウトラインの仕事なのか、それとも臨床的判断とリスク判断が必要な仕事なのか、(2) 誤った出力によるクライアントへのコスト、(3) 委託の前後に行う必要がある検証について教えてください。ジョブ: [ここにジョブを挿入]
2) 証拠に依存する義務:
会議のメモをお渡しします。録音を編集するときは、メモ内の情報のみを使用してください。クライアントが言っていないことを付け加えたり、診断したり、コメントしたりしないでください。観察とクライアントの表現を別々にラベル付けします。不足している領域または不明瞭な領域を「説明が必要」としてマークします。
3) プライバシーの事前チェック:
処理する前に次のテキストを評価してください: このテキストにはクライアントを特定する個人データ (名前、住所、TR ID、健康状態、家族情報) が含まれている可能性がありますか?もしそうなら、どのセクションですか?そのため、公開ツールで処理すべきではない場合は、警告し、匿名化する必要があるフィールドをリストしてください。テキスト: [ここにテキストを書き込みます]
4) 偏見/言語チェック:
次の事例記録を考えてみましょう。クライアントをグループに対して非難したり、非難したり、偏見を持ったりするような言葉遣いはありますか?それは強みやリソースを無視しますか？より敬意を表し、事実に焦点を当て、長所を認識するような言葉遣いを提案してください。記録を変更せず、言語の問題にフラグを立てるだけです。
弱いプロンプト / 強いプロンプト
弱いプロンプト:
この家族についてのレポートを書き、子供が家で安全かどうかを判断してください。
このプロンプトは文脈がなく、危険です。どのような情報、どのような観察が、AI に子供の安全に関する判断を求めているのかが不明瞭です。 AI は予測し、偏見を持ち、補うことができ、そしてそれは人間の命に関係します。
強力なプロンプト:
あなたの役割: アシスタント編集者からソーシャルワーカーまで。出典: インタビューと観察ノート。識別情報は削除されています。以下に貼り付けます。タスク: これらのメモに実際に含まれている情報のみに基づいて、社会調査報告書の骨子案を作成します。所見、クライアントの声明、欠落情報を個別にラベル付けします。リスクまたは安全性の決定を下す。評価をさせていただきます。確信が持てない領域には「明確にする必要がある」とマークを付けます。
違いは明らかです。匿名化、「true-passing」制約、ラベル付け、および「決定」制約により、出力が安全かつ有用になります。
役割/タスクの比較表
ビジネス
AIの役割
男の役割
検証
ケース記録を編集する
メモを設定する
確認、正確さ
メモとの比較
ファイルの概要
時系列概要
重要性、コメント
ソースへのリンク
権利・サービス情報
初稿
現在の確認
公式の法律
リスク評価
質問/フレームリマインダー
臨床上の判断、決定
チーム + 監督
レポート
スケルトンスケッチ
内容、意見、署名
証拠と陳述の照合
プログラム設計
アイデア/フレームワークの生成
資格、決定
フィールド+データ確認
よくある間違い
- AIの出力を評価と間違える。出力は常に検証されるドラフトです。証拠にリンクされずにファイルに記録されることはありません。
- クライアント データを開いているツールに貼り付けます。漏洩した場合、元に戻すことはできず、KVKK の違反となります。それは最も危険な間違いです。
- AIにリスク/安全性の判断を依頼します。これらの決定には専門的な権限と責任が必要です。 AIには意思決定ができません。
- 証拠を必要としない要求。 「メモに書いてあることだけ使ってください」と言わないと、クライアントが言っていないことをAIが付け加えてしまう可能性があります。
- 非難的な言葉に気づかない。 AI の言語には偏見が含まれる可能性があります。敬意を払い、長所を考慮した言葉遣いはあなたのコントロール下にあります。
要約すれば
AI はソーシャルワークにおける強力なアシスタントです。乱雑なメモを整理し、ファイルを要約し、下書きを作成し、簡略化し、翻訳します。しかし、臨床判断、リスク評価、表現、そして最終決定は人間に属します。このモジュールのバックボーンとして、2 つのセットの分離 (文書集約型の作業 vs 判断/リスクの決定)、3 段階の検証 (証拠へのリンク、独立した確認、バイアス フィルター)、プライバシーの認識 (匿名 vs クライアント データの世界)、およびバイアスへの警戒を実行します。
アプリケーションタスク
自分の（または想像上の）机から 6 つのタスクをリストします。それぞれを「AI委任可能な要約/編集/草案」または「臨床判断/リスク判断」に分類します。転送可能なもの (クライアントを特定しない架空の例) の 1 つについては、上記の「職務適合性評価」テンプレートを使用して、AI からの応答を取得します。次に、3 段階認証を適用し、プライバシー事前チェックも試してください。
チェックリスト
- [ ] 作業を 2 つのクラスター (文書中心 / 判断 - リスク判断) に分割しました。
- [ ] 3 段階の検証 (証拠、独立した確認、バイアス) を適用しました。
- [ ] クライアントを特定する個人データをオープン ツールに提供しないようにしました。
- [ ] AI がクライアントに関して行ったすべての発言を実際のメモにリンクしました。
- [ ] 出力内に非難/偏見のある言葉がないかチェックしました。