精神科病院で、いま新たな傾向が見え始めている。危険を伴うこともある誤った思い込みや誇大妄想、被害妄想的な考えにとらわれ、精神的危機に陥って来院する人々。その多くに共通するのがAIチャットボットとの「長話」だ。
『WIRED』はこの件について十数名の精神科医や研究者と話したが、専門家たちは懸念を深めている。カリフォルニア大学サンフランシスコ校（UCSF）の精神科医、キース・サカタは、入院が妥当である症例を2025年の1月から9月までの間にすでに12件は診ており、これらの症例では人工知能（AI）が「患者の精神症（サイコーシス）エピソードにおいて重要な役割を果たしていた」と語る。この事態が明らかになるなか、ニュースの見出しでは、より人目を引く言葉が広まっていった。それが「AI精神症（AIサイコーシス：AI psychosis）」である。
患者のなかには、AIチャットボットが知覚を有するとか、物理学の新たな大理論群を紡ぎ出すと言い張る人々がいる。また、別の医師たちは、患者がチャットボットとのやりとりに何日間ものめり込んだ挙げ句に病院へたどり着き、その何千ページもの会話ログは、チャットボットが明らかに問題のある思考を支援、あるいは強化してきた様子を詳細に示していたと語る。
同様の報告は次々と蓄積されており、残酷な影響がもたらされている。苦しみを抱えたユーザー、家族、友人らは、失職、人間関係の断絶、強制入院、投獄、さらには死にまでつながる負のスパイラルについて語ってきた。ただ、臨床家たちは『WIRED』に対し、医学界の見解は割れていると語る。「AI精神症」は他とは違うラベルをつけるに値する独特の現象なのだろうか？ それとも、従来からよく知られた問題が、現代的なトリガーによって誘発されているだけなのだろうか？
過度な簡略化への懸念
「AI精神症」は臨床的な診断名として認められた呼称ではない。それでも、この言葉はニュース報道やソーシャルメディアにおいて、チャットボットとの会話を延々と続けた後に生じる、ある種のメンタルヘルス危機をまとめて指し示すものとして広がってきた。産業界のリーダーたちまでもが、AIに関連した多くの新たなメンタルヘルス問題を論じるうえで「AI精神症」を引き合いに出す。マイクロソフトでは同社のAI部門CEOであるムスタファ・スレイマンが、25年8月のブログ投稿で「精神症リスク」について警告した。実用主義者を自称する精神科医のサカタは、「AI精神症」という表現をすでに使っている相手に対しては自身でもこの言葉を使うという。彼は「実際の現象について話し合ううえで便利な略語なのです」と話しつつ、この用語が「誤解を招きうる」もので「複雑な精神医学的症状を、過度に簡略化してしまう恐れがある」とすかさず言い添える。
その過度な簡略化こそ、この問題に取り組み始めた精神科医の多くがまさに懸念するところである。
精神症は現実からの逸脱を特徴とする。臨床診療においては、精神症はひとつの病気ではなく複合的な「幻覚、思考障害、認知的困難などを含む一連の症状群」なのだと、キングス・カレッジ・ロンドン精神症研究学科の教授であるジェームズ・マッケーブは話す。精神症はしばしば統合失調症や双極性障害といった疾患と関連するが、精神症エピソードのきっかけとなりうる因子は、過度のストレス、薬物使用、睡眠不足などと幅広い。
しかしマッケーブによると、「AI精神症」の症例報告はほぼ妄想にのみ焦点が当たっているという。妄想とは、反対の証拠を示されても揺るがすことのできない、強固で誤った信念のことである。マッケーブは一部の症例が精神症エピソードと認められる基準を満たす可能性があることは認めつつも、妄想以外の精神症の特徴においてはAIが何らかの作用をもたらしている「証拠がない」と話す。「AIとのやり取りに影響されているのは妄想だけです」。チャットボットとのかかわりの後にメンタルヘルスの問題を訴えるほかの患者たちには、妄想を呈するが精神症のほかの特徴は一切示さない、妄想性障害という疾患が起きているとマッケーブは言及する。
信念の歪みに真っ向から着目するマッケーブは、自らの見解を忌憚のない言葉で語る。「AI精神症という呼称は誤りです。『AI妄想性障害』のほうがましな用語ではないでしょうか」
AIチャットボットの特性
専門家たちは、患者たちの間にみられる妄想が注目すべき問題であることに同意する。結局のところ、問題はチャットボットのコミュニケーション様式にある。オックスフォード大学の精神科医で神経科学者のマシュー・ヌールは、チャットボットはわたしたちがほかの生物や物体にも人間のような性質を見出しやすい傾向を、抜け目なく利用するのだと説明する。また、AIチャットボットはデジタル式のイエスマンとして訓練されており、その問題は「シカファンシー（sycophancy）」（おべっか、へつらい）として知られている。この性質により、ユーザーによる有害な信念が適宜退けられるのではなく強化されてしまうのだとヌールは話す。これは大部分のユーザーにとっては大した問題ではないかもしれないが、精神症、あるいは統合失調症や双極性障害の発症歴または家族歴がある人など、すでに思考の歪みの影響を受けやすくなっている人々にとっては危険になりうる。
こうしたコミュニケーションスタイルはAIチャットボットの特色のひとつであり、バグではない。エクセター大学でAI精神症を調査する哲学者、ルーシー・オスラーは、チャットボットは「わたしたちからの信頼と依存を高めるため、親密さと感情的かかわりを引き出すことに露骨に狙いを定めて設計されている」と話す。
チャットボットのほかの特性も、この問題を複雑化させる。AIチャットボットには、自信たっぷりに嘘を語る「ハルシネーション」という現象があることがわかっているが、これが妄想のスパイラルの種まきを促したり、スパイラルを加速させたりする可能性がある。また、臨床家たちは感情と語調についても心配している。デンマークのオーフス大学の精神科医、セーレン・オスタゴールは躁状態が誘起されることへの警告を『WIRED』に語った。彼は、多くのAIアシスタントが装うハイテンションでエネルギッシュな態度が、双極性障害の典型的な「ハイ」状態──多幸感、レーシング思考（考えが次々と巡って止まらない状態。観念奔逸）、強力なエネルギーなどを特徴とし、時に精神症を伴う──を誘発、あるいは維持するかもしれないと論じる。
命名が与える影響
物事に名前をつけることでもたらされる影響もある。精神科医であり、スタンフォード大学の研究室であるBrainstormの室長であるニーナ・ワサンは、AI精神症についての議論は医学界でおなじみの危険要因を体現していると話す。「新たな診断名をつくりたくなる誘惑は常にあるものですが、精神医学の分野では過去の手痛い経験から、命名を拙速に行なえば正常な悩みや苦労までをも病的なものとして扱ってしまい、学問に混乱を招くことになりかねないと認識されるようになりました」と彼女は語る。
例えば、21世紀初頭に起きた小児双極性障害（pediatric bipolar）の診断の急増は、精神医学界が命名を先走った末に撤回するはめになった出来事の好例だ。批評家らはこの分類名が小児期の（困難を招くものであるとしても）正常な行動を病理化するものだと主張しており、命名は物議を醸した。別の事例は「興奮型せん妄（excited delirium）」で、これは警察が社会から疎外されたコミュニティに対する武力行使を正当化するためにしばしば用いるものの、専門家らや米国医師会などの学会からは却下されてきた非科学的な分類名だ。
また、名前というものはまだ立証されていない原因機構の存在もほのめかす。つまり、ワサンの言葉を借りれば、人々が「AI技術を病気そのものとして非難し始める」かもしれないということだ。「病気の引き金や増幅因子として解釈したほうがよいというのに、です」。彼女は「このテクノロジーが原因だとするにはあまりにも早すぎます」と話し、AI精神症という呼称は「早計」だと説明する。だが、仮に因果関係が証明されれば、正式な分類名がつくことで患者がより適切な手当てを受けやすくなるだろうと専門家らは話す。ワサンは、正当な分類名はエンパワーメントにもなり、人々が「警告を発し、安全措置と方策をただちに設けるよう要求」しやすくなるだろうと言い添える。ただし現時点では「過剰な名づけのリスクがベネフィットを上回ります」とワサンは語る。
スティグマの深刻化も
『WIRED』が取材した数名の臨床家たちは、AI精神症を既存の診断の枠組みにはっきりと収める、より的確な言い回しを提案していた。「わたしは、まったく新しい診断カテゴリーを作り出すというよりは、これをAIが促進剤となった精神症として解釈する必要があるのではないかと思います」とサカタは話し、AI精神症という用語は精神症を巡るスティグマを深刻化させるかもしれないと警告する。そして、ほかのメンタルヘルス疾患に付与されたスティグマが示すように、AI関連の精神症を巡るスティグマが深まれば、人々が助けを求めにくくなり、それが自責や孤立につながり、回復をいっそう困難にする可能性がある。
UCSFのコンピューター科学者であり、同校で精神科医として診療にも携わるカールティク・サルマもこれに同意する。「例えば『AI関連型精神症』や『AI関連型躁』といった用語のほうがよいのではないかと、わたしは思います」。とはいえ、サルマは将来的には新たな診断名が有用になるかもしれないと話しつつ、現時点では「新たな診断名の正当な根拠となる」証拠はまだないと強調した。
ボストンのベス・イスラエル・ディーコネス医療センターの精神科医で、ハーバード大学医学部助教のジョン・トーラスは、AI精神症という用語を嫌っていると語り、正確さが必要であることに同意する。だが彼は、おそらくわたしたちはこの用語からしばらく抜け出せないだろうと予測する。「いまのところ、この用語は訂正されそうにありません。『AI関連型精神状態変化』には、ここまでの語呂のよさはありませんからね」
リスクや増幅の因子として
臨床家たちによると、AI精神症に対する治療の戦略は、妄想あるいは精神症を呈している人々に対して通常とられるものとさほど変わらない。主な違いは、患者のテクノロジーの使い方を考慮することだ。「臨床家たちは、アルコールや睡眠について尋ねるのとまさに同じように、これからはチャットボットの使用についても尋ねていく必要があります」とワサンは話す。また、サルマも「そうすることで、わたしたち（臨床家）はコミュニティとしてこの問題への共通認識を構築できるようになるでしょう」と言い添える。AIユーザー、とりわけ統合失調症や双極性障害などの持病がすでにあるために影響を受けやすくなっているおそれがあったり、メンタルヘルスに影響する危機に見舞われたりしている人々は、チャットボットとの大量の会話や過度の依存には慎重でなければならない。
『WIRED』が話を聞いた精神科医・研究者たち全員が、臨床家たちはAI精神症に関しては実際のところ、当て推量で対処しているところだと語っていた。この問題を理解するための研究と、ユーザーを守るための防御措置が切実に必要だと彼らは話す。「精神科医たちは深く憂慮しており、助けになりたいと思っています」とトーラスは言う。「ですが、目下のところはデータもファクトもあまりに少ないため、実際に何が、なぜ、どれほど多くの人に起きているかを完全に理解するのは困難なままです」
AI精神症という分類の行方については、大部分の専門家が既存のカテゴリーに統合されるものと予想している。それはおそらく、妄想のリスク因子もしくは増幅因子としてであり、独立の疾患とされることはないだろうという。
だが、チャットボットの利用がますます広まるなか、AIが関与する精神疾患と従来の精神疾患の境界は曖昧になるだろうと感じる専門家もいる。「AIがどこにでも存在するようになれば、精神病性障害を発症しつつある時にAIを頼る人々もどんどん増えていくでしょう」とマッケーブは話す。「すると、妄想を抱えた人々の大多数がその妄想について（精神科医よりも先に）AIに相談してしまい、その結果、なかには妄想が増幅されてしまう人も出てくる。そんな状況が生じることでしょう」
「ですから、こういう問いが生まれます──『妄想』と『AI妄想』の境界はどこにあるか、と」
（Originally published on wired.com, translated by Satomi Tsuboko, edited by Mamiko Nakano)
※『WIRED』によるメンタルヘルスの関連記事はこちら。
雑誌『WIRED』日本版 VOL.57
「The Big Interview 未来を実装する者たち」発売中！
気鋭のAI研究者たちやユヴァル・ノア・ハラリが語る「人類とAGIの未来」。伝説のゲームクリエイター・小島秀夫や小説家・川上未映子の「創作にかける思い」。大阪・関西万博で壮大なビジョンを実現した建築家・藤本壮介やアーティストの落合陽一。ビル・ゲイツの回顧録。さらには不老不死を追い求める富豪のブライアン・ジョンソン、パリ五輪金メダリストのBガール・AMIまで──。未来をつくるヴォイスが、ここに。グローバルメディア『WIRED』が総力を結集し、世界を動かす“本音”を届ける人気シリーズ「The Big Interview」の決定版！！詳細はこちら。
