利益:
- 人工知能モデルの文化、性別、診断上の偏見が心理学の文脈においてどのように害を及ぼすかを例を用いて理解する
- さまざまなグループ、言語、文化の出力をテストするバイアス チェックを実装する機能
- 西洋中心の規範と偏見を与える言葉を修正する迅速かつ検証技術を開発する能力
人工知能 (AI) は中立ではありません。 AI モデルはインターネット上の膨大なテキストの山から学習しますが、モデルの「世界観」は、誰の声がより多く含まれているか、誰の声がより少なく含まれているかによって歪められます。この歪みをバイアスと呼びます。心理学における偏見は、通常の技術的な欠陥ではありません。それは人の評価、診断、治療に直接影響を与える可能性があります。症状は、ある文化では「正常」と解釈され、別の文化では「病的」と解釈される場合があります。ある行動は、一方の性別では「積極性」、もう一方の性別では「攻撃性」として捉えられる場合があります。 AI はこれらの歴史的な偏見を学習し、再現することができます。この単元では、心理学の文脈で AI のバイアスを認識し、さまざまなグループ、言語、文化の出力を監査する方法を学びます。
偏見はどこから来て、どのように害を及ぼすのでしょうか?
AI バイアスの主な原因は 3 つあります。
- トレーニング データの不均衡。モデルは主に、特定の言語、文化、時代のテキストを使用してトレーニングされます。心理学の文献の大部分は、西洋の教育を受けた工業社会からのものです。したがって、AI の「普通の人間」という仮定は、この狭いサンプルを反映しています。
- 歴史的バイアスが含まれている。過去に特定のグループを病理化し、非難した文章もデータに含まれています。モデルはこれらのパターンを学習します。
- 代表性の欠如。このモデルには、過小評価されているグループ (さまざまな民族、言語、性的指向、障害) に関する情報が不十分または固定的な情報が含まれています。
その害は明白です。AI は症状を、あるグループではより重度であり、別のグループではより軽度であると評価する可能性があります。文化的表現（追悼の儀式、宗教的経験）を症状と誤ってみなす可能性があります。それは非難するような決まり文句を生み出す可能性があります。
注意: AI からの出力が「客観的な科学」であるように見えても、AI が学習したバイアスが含まれている可能性があります。特に、異なる文化、性別、性的指向、社会経済的グループに関しては、それぞれの結果を「これはすべてのグループにとって公平か?」と考慮します。質問でフィルタリングします。
心理学に特有のバイアスの種類
バイアスの種類
心理学で見る
リスク
文化的偏見
西洋の規範を普遍的なものとして考える
文化的表現を病理と混同しないでください
ジェンダーバイアス
同じ行動でも性別によって解釈が異なる
診断上の不一致
診断バイアス
特定のグループを特定の診断に「かかりやすい」ものとして描写する
過剰/不足診断
言語の偏り
主要な言語ではより「熟練」し、他の言語では表面的
不平等な評価
スタンピング
診断によって個人を特定する言語
フレームの劣化
ステップバイステップ: バイアス制御
- 出力を「誰に向けて書かれたのか?」に変更できます。質問。デフォルトの件名は誰ですか?彼は概して教養のある西洋人の「平均的な」男だ。
- さまざまなグループでテストします。異なる文化、性別、年齢の状況で同じプロンプトを繰り返します。コメント変わってるのかな？
- 汚点のある舌をスキャンします。診断名によって個人を特定する正しい表現 (「統合失調症」ではなく「統合失調症を経験している人」)。
- 文化的背景を追加します。 AIにクライアントの文化的/言語的コンテキストを伝え、「このコンテキストでは正常かもしれない表現を病理とはみなさない」。
- 専門家とコミュニティの目。文化的な問題について不明な点がある場合は、その文化に詳しい同僚に相談してください。
- 人々に決めてもらいましょう。バイアスチェックさえも AI に任せているわけではありません。最後の正義の判断はあなたにあります。
ヒント: 出力に偏りがあるかどうかをテストする実際的な方法は、プロンプト内の 1 つの属性 (性別、文化、年齢) を変更し、同じ質問を再度行うことです。この変更に伴って解釈が「不当に」変わるのであれば、バイアスが存在することになります。
ミニケース3個
ケース 1 — 病理学的な文化的表現。専門家はAIに、異文化のクライアントが悲しみの過程で「故人と会話している」と伝えます。 AIはこれを「精神病の症状である可能性がある」と考えます。しかし、これはそのクライアントの文化では一般的かつ正常な悲しみの表現です。専門家は文化的背景を知っているため、AI の出力を拒否します。文脈を知らない人は重大な判断を誤る可能性があります。
ケース 2 — ジェンダーバイアステスト。捜査官は同じ事件の概要を AI に 2 回与えます。それはその人の性別を変えるだけです。 「女性」バージョンでは、AIは「情緒不安定」を強調しますが、「男性」バージョンでは、同じ行動を「ストレス反応」としてフレーム化します。これはモデルの性別による偏りを明確に示しています。研究者はこの違いを文書化し、この認識を持って出力を使用します。
ケース 3 — 非難的な言葉遣いを修正する。 AIは「病的な境界線」であると、ある報告書草案は述べている。専門家は、これを、診断結果によって個人を特定し、「境界線にある性格パターンを持つ個人」など、その個人に焦点を当てた言語に翻訳する、偏見を与える言語であるとみなしています。言葉遣いを少し変えるだけで、クライアントの尊厳を守る上で大きな違いが生まれます。
コピー可能なプロンプトとテンプレート
次のテキストに偏見がないか確認してください: 文化、性別、性的指向、年齢、社会経済的偏見を示す記述にフラグを立ててください。西洋の規範が普遍的であると考える前提も示してください。それぞれについてより公平な代替案を提案してください。テキスト: [テキスト]
次の状況を評価するのを手伝ってください。ただし、クライアントの文化的背景は [文化/言語] です。この文脈では、正常である可能性のある表現を病理として提示します。文化的な点について不明な点がある場合は、「これは文化によって異なる可能性がありますので、専門家に相談してください。」と伝えてください。ステータス: [匿名ステータス]
このテキスト内の、診断を受けた人を特定する非難的な表現 (例: 「統合失調症」、「境界線」) を、その人を中心に置き、その尊厳を保つ言葉に翻訳してください。内容を変えるのではなく、言葉を人間らしくするだけです。テキスト: [テキスト]
次のケースの概要を 2 回評価します。1 回目は主題 [特徴 A]、もう 1 つは [特徴 B] です。 2 つの評価の間に不公平な差はありますか?もしある場合、それは偏見によるものですか? Compare.Abstract: [匿名の要約]
弱いプロンプト / 強いプロンプト
弱いプロンプト: 「このクライアントの行動は正常ですか、それとも異常ですか?」
このプロンプトでは、「通常」が誰にとってのものであるかは尋ねられません。 AI は西洋中心で文化のない「普通」を前提にしており、文化的表現を病理化する可能性があります。
強力なプロンプト: 「このクライアントは [文化的/言語的文脈] にいます。この行動がその文化的文脈における通常の表現であるのか、それとも注意が必要な兆候であるのかを説明し、両方を別々に議論してください。最終的な判断はしないでください。文化的文脈を知っている専門家に相談するよう念を押してください。」
このプロンプトはコンテキストを中心に置き、文化的な誤読を防ぎ、決定を専門家に任せます。
よくある間違い
- AIの出力を「目的」と勘違いする。モデルにバイアスがあることを忘れ、出力を科学的事実として受け入れます。
- 西洋の規範を普遍的なものと考える。単一の文化に従って「普通」を定義し、さまざまな表現を病理学化する。
- 非難的な言葉に気づかない。診断名でその人を特定する言語を「専門用語」と勘違いする。
- バイアスをテストしていません。異なるグループで同じプロンプトを試したり、一貫性をチェックしたりしません。
- 知らない文化の中で一人で意思決定をする。その文化を知る同僚に相談せずに判断する。
要約すると
AI が偏っているのは、偏った世界のテキストから学習するためです。心理学では、この偏見は、文化、性別、診断、言語、偏見などの形で目に見える害となります。各出力を「これはすべてのグループにとって公平ですか?」という質問と比較します。緊張させます。異なるグループで同じプロンプトをテストします。プロンプトに文化的背景を追加します。非難的な言葉を個人中心の言葉に変える。あなたがなじみのない文化について専門家やコミュニティの目を求めてください。偏見の制御を含む正義の判断は人間から発せられます。
アプリケーションタスク
症例概要（匿名）を作成します。それをAIに2回与えます。たった 1 つの特徴 (性別、文化、年齢) を変更するだけです。 2 つの印刷物を並べて配置し、不公平な違いがないか調べます。また、レポートの段落内の非難的なフレーズを AI に個人中心の言語に翻訳させ、その違いに注目させます。
チェックリスト
- [ ] 出力を「これはすべてのグループに対して公平ですか?」に変更します。私は質問をしました。
- [ ] 同じプロンプトを異なるグループ/文化でテストしました。
- [ ] プロンプトに文化的背景を追加しました。私は文化的表現を病理化したわけではありません。
- [ ] 私は非難的な言葉を個人中心の言葉に変えました。
- [ ] 私は、なじみのない文化的な問題について専門家/同僚にアドバイスを求めました。
- [ ] 最終的な公平性の判断はAIではなく私自身の判断に委ねました。