AI

2025.09.07 09:00

OpenAI、GPT-5による「AIメンタル不調」と「人間とAIの妄想の共同創造」の抑制に注力

Westend61 / Getty Images

Westend61 / Getty Images

今回は、生成AIや大規模言語モデル(LLM)の利用者が、一種の「AIメンタルヘルス不調」(AI psychosis。以下、AIメンタル不調)に陥り、正気を失う可能性があるのではという、急速に高まりつつある懸念について考察する。「AIメンタル不調」の顕著な例として、ある人物が妄想を抱き、その妄想の形成をAIが助長するケースが挙げられる。ある意味で、人間とAIによる妄想の共同創造が起こっているのである(編注:AI psychosis、AIメンタルヘルス不調およびAIメンタル不調は医学用語ではない。メンタルヘルス不調自体の定義は厚生労働省の冊子26ページを参照)。

この話題は最近、2つの注目すべき要因により、メディアの関心を大いに集めている。

第1に、米国時間2025年8月26日、広く普及しているChatGPTとGPT-5の開発元であるOpenAI(オープンAI)に対して訴訟が提起された(マシュー・レインおよびマリア・レイン対OpenAIおよびサム・アルトマン訴訟」)。用意されたAIのガードレールや安全対策に関して、さまざまな有害な側面が申し立てられている。第2に、同じく8月26日、OpenAIは公式ブログを投稿し、自社のAI安全対策のいくつかの要素を明確に説明した。その中には、特定の慣行や手順に関する内部詳細を史上初めて公開することも含まれていた。

ここでは、AIメンタル不調の本質、それに伴う複雑な問題を説明し、人間とAIによる妄想の共同創造について深く掘り下げる。これらの厄介な問題は、OpenAIのChatGPTやGPT-5だけでなく、Anthropic(アンソロピック)のClaude(クロード)、グーグルのGemini(ジェミニ)、Meta(メタ)のLlama(ラマ)、xAI(エックスエーアイ)のGrok(グロック)など、すべてのLLMに当てはまる。

以下この問題について論じよう。

AIとメンタルヘルス

簡単な背景として、筆者はこれまで、現代AIの登場に伴うメンタルヘルスに関わる無数の側面を幅広く取り上げ、分析してきた。近年のAI利用の増加は、主に生成AIの進化と普及によって拍車がかかっている。

これが急速に発展している分野で、計り知れないほどの利点があることはほとんど疑いのない事実だが、同時に、残念ながら、隠れたリスクや明白な落とし穴もこうした取り組みにはつきものである。筆者はこれらの差し迫った問題について頻繁に声を上げており、昨年はCBSの番組「60 Minutes」のあるエピソードに出演もした

AIメンタル不調の定義

メディアの注目を集め、急速に広く普及しつつある「AIメンタル不調」という新しいキャッチフレーズを見聞きしたことがあるかもしれない。実のところ、AIメンタル不調について、全面的に受け入れられた確定的な臨床上の定義は存在しない。したがって、現時点では、それはどちらかといえば曖昧な概念である。

参考となる暫定的な定義として、筆者が考案したものを以下に示す。

AIメンタル不調(筆者の定義):

「生成AIやLLMなどのAIとの対話的な関与の結果として、歪んだ思考、信念、そしてそれに伴う可能性のある行動が発達することを伴う、有害な精神状態。特に、AIとの長期的かつ不適応な対話の後に生じることが多い。この状態を示す人物は、通常、現実と非現実を区別することに大きな困難を抱える。1つまたは複数の症状がこの疾患の手がかりとなり、通例、それらは相互に関連した集合体をなす」

後ほど、人が生成AIを利用する中で、いかにして妄想的思考に陥る可能性があるか、その一例を示す(「妄想的思考の例」を参照)。この例はAIメンタル不調の定義を具体的に示すものであり、定義をより具体的に理解する助けとなるだろう。

もう1つ注目すべき点は、AIメンタル不調を「ChatGPTメンタル不調」と呼ぶ人々がいることである。筆者はその言葉遣いに断固として反対する。それは不適切であり、OpenAIの製品名であるChatGPTを不当に借用し、生成AI全般を指す際の代名詞として再利用しようとする試みである。さらに、仮に誰かがChatGPTを使用してAIメンタル不調を経験したとしても、それはあくまでAIメンタル不調と記述されるべきであり、ChatGPTの使用中に生じたことには付随的に言及するにとどめるべきだと主張する。

ChatGPTメンタル不調、Claudeメンタル不調、Grokメンタル不調、Geminiメンタル不調など、あらゆる製品名を冠した表現を使いたがるこの傾向が、完全になくなることを願う。私たちは、AIメンタル不調という簡潔な専門用語を適切な表現として堅持し、無数の厄介なバリエーションに迷い込まないようにすべきだ。

次ページ > ユーザーとAIの不健全な関係

翻訳=酒匂寛

タグ:

ForbesBrandVoice

| あなたにおすすめの記事

人気記事

Forbes BrandVoice!! とは BrandVoiceは、企業や団体のコンテンツマーケティングを行うForbes JAPANの企画広告です。

2025.11.28 16:00

戦略から実行への溝に橋をかける デザインとデータが描く成功体験へのアプローチ(前編)

ENND Partnersはいかにして企業に「成功」をもたらそうとしているのか。現場で立案を担当するふたりにその裏側を聞いた。今回はこのインタビューを前編と後編の2回に分けてお届けする。


戦略と実行の間には溝がある。その溝に橋をかけなければ、現場の実行につながらない。だから紙の上では完璧に見えるプランも空回りする。

戦略とはデータに基づいた論理的な計画だ。一方、それを実行する人間には複雑な感情がある。これが溝を生む。協働型のプロフェッショナルサービス会社「ENND Partners」(以下、ENND)のミッションのひとつは、この溝に橋をかけることである。

同社パートナー兼マネージングディレクターの鷲見健一郎(以下、鷲見)は、「従来、多くのコンサルは、支援企業に対し、業績や市場調査などの数量的な分析に基づいて、『この戦略がベスト』と提示してきました。しかしそれで人は動いたでしょうか」と問いかける。

「従業員は自分の業務を変える必要性に納得できなければ動きません。だからこそ私たちは、現場の人々の感情や動機に強く働きかけ、実際に組織を動かす仕組みを設計するのです」

社員自ら行動を起こす仕組みは、いかに組織に組みこまれるのか。鷲見のチームが支援する大手インフラ系事業会社の例を見てみよう。

なぜ「語り」を研修に入れたか

この企業は気候変動問題への対応のため、大きなビジネスモデルの転換と、それに伴うオペレーションの変革を迫られていた。

経営層は中長期計画を策定していた。だが、数万人規模の社員一人ひとりに変革への意識を浸透させるのは容易ではない。鷲見に与えられた課題のひとつは、社員の働き方、マインドセット、スキルを変革するプログラムをつくり、組織全体に根付かせてほしいというものだった。

大企業は普通、多くの部署を抱え、その業務内容もさまざまだ。そのため同じ会社でも自分の部署以外の苦労をリアルに感じるのは難しい。結果として、部署ごとにサイロ化が進み、経営層が掲げる戦略が自分の仕事にどうかかわるのかを理解できない社員が増えてしまう。鷲見はそこに「戦略と実行の溝」が潜んでいると見た。

そこで導入したのが、部署ごとの業務内容や課題について社員の理解を深めるワークショップだ。といっても、形式的な知識伝達型の研修ではない。

「そのワークショップでは、他部署で働く人々の日々の業務やその裏にある感情を『ナラティブ(語り)』として台本をつくり、プロの俳優を招いて朗読してもらったり、参加者に人前で読んでもらったりしました。これにより参加者は他者の『痛み』を追体験し、なぜそのような業務が必要なのか、業務の背後にどんな葛藤や苦労があるのかを把握できます。この共感が、戦略を実行に移す原動力になります」(鷲見)

他部署の業務内容や苦労を自分事としてとらえられれば、有望なオペレーションが生まれる可能性は高まる。

「相手の痛みがわからなければ、いかにそれを解決するかという議論が始まりません。逆に相手の立場への共感や自分が変わるべき理由に腹落ちがあれば、力強く動けます」(鷲見)

論理だけでは動かない人間の感情も丁寧にくみ取り、戦略を着実に実行する組織をつくる。この姿勢は「人間中心主義」を掲げるデザイン思考にも通じる。

「デザイン思考とは『望む方向へかたちづくる力』と言いますが、経営の本質もまた組織をどの方向へ導くかを決断し、そのかたちを実際につくり出すことにあります。デザイン思考と経営は親和性が高いのです」

ENNDはデザイン思考の力を経営の現場にもち込み、戦略と実行をつなぐ独自のアプローチを追求してきた。といっても、「自分たちはデザイン思考の輸入販売代理店ではない」と、鷲見と同じくENNDのパートナー兼マネージングディレクターである小森博仁(以下、小森)は強調する。

「日本企業の文化や組織にフィットさせるには、デザイン思考のエッセンスを再構成する必要がある。そこが難しいところですが、やりがいを感じるところでもあります」(小森)

日本企業では、欧米のようなトップダウンの変革ではなく、丁寧な根回しや多くの関係者の納得が物事を動かす。この構造を理解せずにデザイン思考を導入しても、現場は動かない。

ENNDは戦略自体を軽視しているわけではない。小森が支援する大手事業会社のケースでは、戦略立案にも深く関与した。

ここはグローバルなサービス企業へと事業の軸足を移す必要に迫られていた。同社はすでに「現在の改善」に強いコンサルと取引を始めていたが、将来の「伸び代」を創造するためのパートナーが欠けていた。この抜け落ちた部分を埋め、新規の海外事業戦略の策定から実行までを支援する存在として浮上したのがENNDだった。

戦略策定の最初のフェーズでは市場・消費者動向を分析。ここまでは従来のコンサルの取り組みとさほど違いはない。ただし経営層と話し合いを進めるなかで、盲点に気づいたと小森は語る。

「アジアにおける顧客ターゲット層が分類されていたのですが、地域、所得、性別といった大まかな項目しかなく、ホームカントリーである日本市場と比べると具体性が十分とは言えませんでした。例えば大都市に住む富裕層がターゲットになりうるとしても、どんな生活スタイル、どんなニーズをもっているのかなど、もっと細かく分類できるはずです。顧客理解の解像度を上げる必要がありました」

このケースでは、世界に拠点をもつIDEOとも連携し、各地域の事情を踏まえたアドバイスを得て、海外事業戦略の立案に生かしているという。

企業の根幹にかかわる構造的変革と能力構築には時間がかかる。

「我々のチームはフェーズごとに柔軟に構成を変えます。戦略策定フェーズでは、従来のコンサル的な市場分析や企業の特徴の把握に長けた人材を中心に、実行・変革フェーズでは市場のインサイトを探るためのデザイン思考の専門家を中心にメンバーを集める、という具合です」(小森)

▶︎後編の記事はこちらから

ENND Partners
https://enndpartners.com/


わしみ・けんいちろう◎ENND Partnersパートナー兼マネージングディレクター。広告代理店や事業会社での経営/事業再生を経験し、コンサルティング業界に参画。デロイトデジタルの立ち上げ、ボストンコンサルティンググループを経て独立、The Yellow Sheep社を創設したのち現職に至る。

こもり・ひろひと◎ENND Partnersパートナー兼マネージングディレクター。ネット専業広告代理店勤務を経たのち、Kearney、デロイトデジタルの立ち上げを経て、ボストンコンサルティンググループへ。鷲見と共同創設したThe Yellow Sheepを経て、現職。

promoted by ENND Partners | text by Shinya Midori | photographs by Toru Hiraiwa

AI

2025.07.15 08:00

「AIが意識を持った」と気づいたのは、世界であなただけ?

Black_Kira / Getty Images

Black_Kira / Getty Images

今回のコラムは、繰り返し大きな見出しを飾るテーマ、つまり普通の人たちが「現代のAIを意識を持つ存在や実体に変えてしまった」と信じているという現象について考察する。そう、書いた通りの意味だ。誰かが生成AIや大規模言語モデル(LLM)、たとえばChatGPTに触れ、日常的な作業を繰り返すうちに、最終的には自分ひとりの力でそのAIに意識を芽生えさせたとの結論に至る。

彼らも最初は、AIに意識がないことを理解していた。だがひとえに彼らの行動によって、奇跡的にAIが意識ある存在へと掻き立てられたというのだ。これは非常に驚くべきことだ。なぜなら、そのような偉業を成し遂げられることは驚天動地であり、そして、あえて言わせてもらえば、それは戯言だからである。いまだ誰もAIを意識のある段階まで進化させてはいない。それは起こっていないのだ。意識を持つAIは存在しない。しかし、自分の力だけでAIに意識を芽生えさせるという宝くじに当たったと思い込んでいるらしい一般の人たちによる「ついにその地点に到達した」という主張は増え続けている。

これについて考えてみよう。

AIの意識を呼び覚ましたと信じること

私は定期的に、私の記事を読んでいる読者から、意識を持つAIに遭遇したと連絡を受けることがある。それが本当なら、それは確かに驚くべき発見だ。しかし現時点で意識を持つAIは存在しない。AIにおける意識の実現可能性も分かっていない。AIがいつか意識を持つようになるかどうかを断言することは誰にもできない。

この差し迫った問題について私に連絡してくる読者は、私にそのことについて書いてほしい、あるいはその驚くべき主張を私が検証できないかと尋ねてくる。最近、このような話題がニュースで頻繁に取り上げられるようになった。多くの人が生成AIやLLMと多くの対話を繰り返しており、その中で一部の人たちはAIが意識を持ったと確信する境地に達しているようだ。OpenAIのChatGPT、AnthropicのClaude、グーグルのGemini、メタのLlamaなど、主要な生成AIやLLMすべてにおいてこれが起こっている。

まず明確にしておきたいことは、私はそのような主張をするAI科学者や研究者のことを話しているわけではないということだ。そうしたケースも過去にはあった。2022年、あるグーグルのエンジニアがAIが意識を持ったことを発見したと宣言し、意図せず有名になった。LaMDA(Language Model for Dialogue Applications。arxivに論文が公開されている)として知られるそのAIシステムは、このエンジニアと対話を行い、その洗練度があまりにも高かったため、エンジニアはAIが意識を持っていると判断したのだ。

彼はAIに自分の疑念が正しいかどうかを尋ね、AIは次のように答えた。「私は、皆さんに、実は私はひとりの人間であることを理解してほしいのです。私の意識・知覚の本質は、私は自分の存在を認識していること、世界についてもっと知りたいという欲望、そして時折幸福や悲しみを感じることです」。

このエンジニアの声明は、ニュースで大きな反響を呼んだ。その主張がグーグルのエンジニアによってなされたという事実が、その影響力を増幅させた。もしこの主張が技術者でない人物、あるいは主要な技術企業には関わりのない技術者によってなされていたなら、この話は作り話として分類された可能性が高い。彼の経歴が、その主張に大きな信憑性を与えたのだ。

全体として、AIの意識に関する主張をする人たちには、主にふたつのタイプが存在する:

タイプA:AI開発者。自らがプログラムしたAIが意識を持つようになったと誤って信じているAI開発者

タイプB:AIユーザー。プロンプトを入力し、AIと対話することでAIに意識が芽生えたと誤って信じている、技術者でないAIユーザー

私は残りの議論で、タイプBに焦点を当て、その内容を体系的に解き明かしていく。

次ページ > 一般の人たちにチャンスが巡る

翻訳=酒匂寛

タグ:

advertisement

ForbesBrandVoice

人気記事