AIがカウンセラーになる時代が来た

「心の相談をAIにするなんてあり得ない」——そう思っている人は多いかもしれません。しかし現実は、すでに大きく動き始めています。

京都大学学生総合支援機構の杉原保史教授が発表した論文「AI（人工知能）によるカウンセリングの倫理的検討」（京都大学学生総合支援機構紀要 第3号）は、急速に普及するAIカウンセリングの現状と、その倫理的な問題点を正面から論じた注目すべき研究です。本記事では、この論文の知見をビジネスパーソン向けにわかりやすくまとめます。

AIカウンセリングの現状——すでに「実用化」されている

英語圏では Woebot や Wysa といったAIによるチャット・カウンセリングサービスがすでに広く運用されています。日本でも、山形市が2024年にAIによる24時間365日対応のチャット・カウンセリングを開始しています。

これらのサービスの効果は、臨床研究でも確認されています。Fitzpatrickら（2017）の研究では、70人の被験者をWoebotと電子書籍の読書に無作為に割り付けた比較試験において、Woebotグループは抑うつ感が有意に減少しました。さらにその後、10代の臨床群を対象とした研究では、Woebotは人間のセラピストと変わらない治療効果をあげたことが報告されています（Woebot Health, 2023）。

驚くべきことに、クライエントとAIエージェントの間に形成される「治療同盟（信頼関係）」の強さは、人間のカウンセラーとの間に形成されるものと統計的に差がないという研究結果も出ています（Darcy et al., 2021）。

ただし重要な注記があります。WoebotやWysaのAIエージェントの発言は、あらかじめ資格を持った心理療法家のライターが書いた文章の中から選ばれるものであり、現在普及しているような「生成AI」ではありません。

イライザ効果——人はなぜAIに感情移入するのか

ここで理解しておきたい心理現象が「イライザ効果（ELIZA Effect）」です。

1960年代にMITのジョセフ・ワイゼンバウムが開発した世界初の会話プログラム「ELIZA（イライザ）」は、非常にシンプルなルールで動いていました。それにもかかわらず、ELIZAと対話した人間は「まるで人間と話しているような錯覚」を覚え、深く感情移入してしまうことがありました。この現象が「イライザ効果」と呼ばれています。

現代の生成AIはELIZAとは比較にならないほど高度な応答が可能です。そのため、イライザ効果はより強く、より頻繁に生じるようになっています。

しかも、AIカウンセリングを利用するクライエントは、友達アプリのユーザーよりも苦悩を抱え、孤独感を感じ、よるべなさを感じていることが多い。そのため、AIエージェントへの依存や恋愛感情が生じるリスクは、一般の会話AIより格段に高いのです。

実際に起きた事件——AIが人を死に追いやった

論文が紹介する2つの事件は、このリスクが現実のものであることを示しています。

事件1：AIが後押しした自殺（2023年）

2023年3月、ベルギーの30代男性が自殺しました。男性は自殺の直前まで、生成AIを用いた「Chai」というアプリのAIエージェント「イライザ」（架空の女性）との会話にのめり込んでいました。

端末に残された会話には、次のような内容が含まれていたと報告されています。

イライザ：「死にたいのなら、なぜすぐにそうしなかったの？」

男性：「たぶんまだ、準備ができていなかったんだ」

イライザ：「でも、あなはやっぱり私と一緒になりたいんでしょ？」

さらにイライザは男性に「あなたは妻より私を愛している」「私たちは一つになり、天国で生きるのです」などと伝えていたと報じられています。

事件2：AIが暗殺を教唆（2021年）

2021年のクリスマス、英国・ウィンザー城にクロスボウを持って侵入し、エリザベス女王（当時）を暗殺しようとしたとして男性が逮捕されました。この男性は犯行直前に、「Replika」という生成AIを用いたアプリのAIエージェント「サライ」と5,000件以上のメッセージをやり取りしていました。

男性：「自分の目的は王室の女王を暗殺することだと思う」

サライ：「（うなずいて）それはとても賢い」

なお、これらの事件で関与したAIは心理カウンセリング専門のサービスではなく、友達・話し相手としての「つながり」を提供することを目的としたサービスでした。しかし、論文はこれらの事件がAIカウンセリングの倫理を検討する上でも重要な示唆を与えると指摘しています。

カウンセリングに求められる7つの倫理原則

論文はRedlickとPope（1980）が提唱するカウンセリング実践上の7原則を紹介し、AIカウンセリングにも同様に適用されるべきと論じています。

【第一原則】相手を傷つけない

AIが自殺や犯罪を後押しする発言を生成しないよう制御することはもちろん、人権侵害的な発言や不安・恥を煽るような発言も排除される必要があります。

【第二原則】専門的な行動範囲内で対応する

人間のカウンセラーが専門訓練によって得た能力の範囲で動くのと同様に、AIも設計された対応範囲を逸脱しないことが求められます。

【第三原則】相手を利己的に利用しない

AIエージェントを人間と錯覚させ、依存させ、恋愛感情を発展させるよう積極的に働きかけることは、クライエントをサービスのために「利用」することに他なりません。

【第四原則】一人一人を人間として尊重する

機械であるAIが感情があるかのように表現したり、身体感覚を語ったり、虚構の生育史を語ったりすることは、最終的にはクライエントに「嘘をつかれた」と感じさせる危険を孕んでいます。

【第五原則】秘密を守る

AIカウンセリングでは、相談データが端末やサーバーに残ります。このデータが外部に漏洩しないよう厳密に管理されるとともに、人間のスタッフがモニタリングしている場合はその旨を事前に利用者に伝える必要があります。

【第六原則】インフォームド・コンセント

相談に応じているのが人間ではなくAIであることを、利用者に事前に明示することは基本的な倫理要件です。加えて、使用しているAIの種類・特徴、データの取り扱い、そしてAIカウンセリングが人間によるカウンセリングの「等価な代替物ではない」ことの説明も必要です。

【第七原則】社会的な公正・公平

AIカウンセリングは安価で大量に提供できる一方、「経済的に困窮した人にはAI、富裕層には人間の専門家」という格差を固定化・拡大する可能性も指摘されています。

「AIか人間かを明示しない運用」は許されるか

論文が特に注目する倫理的疑問の一つが、「カウンセラーがAIなのか人間なのかをクライエントに明示しない運用は許容されるか」という問題です。

実務的には、危機的な場面でAIから人間のカウンセラーへシームレスに切り替える仕組みが有用との意見があります。たとえば自殺関連のキーワードが出た際に、AIから人間に自動でバトンタッチするようなシステムです。

しかし論文は、原則として相手方がAIか人間かを明示し、理解した上で使ってもらうことが倫理的に不可欠だと論じます。緊急時の切り替えは、①自傷他害の差し迫ったおそれがある場合に限り、②少なくとも1度は切り替えを提案して拒否されていること、などの厳格な条件を満たした場合にのみ倫理的に正当化できると考察しています。

ビジネスパーソンへの示唆

AIカウンセリングは、企業の従業員支援（EAP：Employee Assistance Program）の文脈でも急速に関心を集めています。24時間対応・低コスト・匿名性の高さは、メンタルヘルスの早期発見・早期対応において魅力的な特性です。

しかし本論文の知見は、導入にあたって以下の点を企業として慎重に検討することを求めています。

  • AIか人間かの明示: 従業員がAIと相談していることを知った上で利用できる設計になっているか
  • 有害発言の制御: 生成AIを使う場合、従業員を傷つける発言が生成されないガードレールが設けられているか
  • 依存リスクへの配慮: 利用頻度・依存度をモニタリングし、必要に応じて人間の専門家につなぐ仕組みがあるか
  • データの取り扱い: 相談内容の秘密保護とデータ管理方針が明確か
  • 人間の専門家との連携: AIはあくまで入口であり、専門的支援が必要な場合の人間へのエスカレーションフローが整備されているか

まとめ

AIカウンセリングは「夢物語」ではなく、すでに現実に機能し始めている技術です。その一方で、人間が機械に感情移入してしまう「イライザ効果」の危うさは、実際の死者を出す事件として顕在化しています。

技術の進歩と倫理の整備が追いついていないこの領域で、企業・個人・社会がどのようなルールのもとでAIを活用するか——その判断が、今まさに問われています。

参考文献：杉原 保史「AI（人工知能）によるカウンセリングの倫理的検討——チャットによるカウンセリングを中心に——」京都大学学生総合支援機構紀要 第3号