SF作家テッド・チャンと神経科学者アニル・セスの対話：ChatGPTに意識はあるんですか？

人工生命学とはありうる生命を研究する学問です――スーザン・ステップニー

スーザン・ステップニー　みなさん、ようこそお越しくださいました。私はイギリスのヨーク大学教授のスーザン・ステップニーです。コンピュータ・サイエンスが専門で、人工生命に関するさまざまな問題を研究しています。ついでに、熱心なSFファンでもあります。

さっそく本題に入りましょう。みなさんの中には、人工生命とは何なのか知りたいと思っている方もいるかもしれません。生物学とは、地球上に存在する生命、いわば「天然」の生命を研究する学問であり、人工生命学とはありうる生命、つまり、地球上の進化はさまざまな偶然の歴史を辿ってきたわけですが、そのような流れから自由になって生命を研究する学問であると言えます。別の惑星にいる違ったかたちの生命かもしれません。あるいは、研究所で生化学的に合成された生命の可能性もあります。ロボット生命体だってありえます。コンピュータ内で実装された生命体というのも考えられますね。さらに、まったく別の何かだって良いわけです。

研究者が人工生命を研究する理由はさまざまです。たとえば、生命という概念や生命の特徴、進化全体をより良く理解することなどです。ですので、人工知能に対するアプローチとして、周囲から隔絶した高度な知性を作り上げることをめざすのは得策とは言えません。代わりに、もっと控えめな対象、身体を持って生きているシステムから始めて、どうすれば良いかはまだわかりませんが、そこになんらかの知性が生まれるような方針を採りましょう。

さて、知性について考えていくと、たいていは、意識について考えることになります。講演者のお二人は意識について興味深い考えをお持ちのようです。一人目の講演者はイギリス、サセックス大学の認知・コンピュータ神経科学教授のアニル・セスです。アニル氏は『なぜ私は私であるのか』（岸本寛史訳、青土社、2022年）という素晴らしい本を書かれています。日本語版もありますし、英語版もありますし、他にもたくさんの言語に訳されています。アニルさんが意識をどのように理解してモデル化しているのか、研究しているのかがわかる素晴らしい本で、意識とは、知的であることよりも、生きていることの結果だという見通しが示されています。アニル氏がこの分野の科学者に苦言を呈しているのは――哲学者も例外ではありませんが、証拠として持ち出されている事柄が、実のところ想像力の欠如によって支えられているにすぎないということです。他の説明を想像することができないから証拠に見えてしまうのですね。

二人目の講演者、テッド・チャンについてはもちろん、想像力が欠けているなんてありえません。テッドさんは有名なSF作家で、何冊も本を出しています。たとえば作品集に『息吹』（大森望訳、ハヤカワ文庫SF、2023年）があります。別の本に収録された中編小説『あなたの人生の物語』（浅倉久志訳、早川書房、2012年）は、『メッセージ』（ドゥニ・ヴィルヌーヴ監督、2017年公開）という大ヒット映画になりました。この映画は、私たちとはまったく異なる意識のあり方をした異星人との意思疎通手段を見つけ出していく過程を描き出しています。

先ほど挙げた『息吹』には、『ソフトウェア・オブジェクトのライフサイクル』という――読んだことのある方もいらっしゃるかもしれませんが、今日の対談にとりわけ関連が深い中編が収録されています。

人工生命学会は、毎年異なるテーマで開催されています。今年のテーマは「GHOST IN THE MACHINE　機械の中の幽霊」です。まずは登壇者に、もう少し詳しく自己紹介をしていただき、「機械の中の幽霊」というテーマに関するお考えを説明してもらいましょう。

意識という対象への理解を深めるのが難しいのは、意識が非物質的なもの、またはプロセスであるかのように感じられるからです――アニル・セス

アニル・セス　スーザンさん、ご紹介ありがとうございます。会場のみなさん、オンライン参加のみなさん、ようこそお集まりいただきました。「機械の中の幽霊」という言葉は、もちろん哲学者のギルバート・ライルから来ています。この言葉が捉えようとしているのは、心は身体や脳とはまったく無関係な、非物質的な対象であるという考え方に潜んでいるある種の奇妙さです。ライルが標的にしている観念は、デカルトはもちろん、はるかそれ以前から存在するものです。ですから、「機械の中の幽霊」というのは、今年（2023）の人工生命学会のテーマとしてまさにふさわしいものだと言えます。私に声がかかったのも、このようなテーマだからだと思います。

私が研究を始めたのは、もう何年も前のことですが、サセックス大学で人工生命や人工進化といった分野に携わっていました。しかしながらその後、科学におけるある核心的問題へと関心が移っていきました。これは科学的問題であるとともに哲学的問題でもありますし、おそらくは文学的問題でもあります。それは次のようなものです。意識とは何か。それはどうやって生じるのか。この世界には多くの自己やさまざまな対象が存在します。その中で、一つの自己であるというのはどういうことなのでしょうか。

意識という対象への理解を深めるのが難しいのは、実際に意識がほとんど非物質的なもの、またはプロセスであるかのように感じられるからです。意識が脳や肉体で起きていることから生まれるなどと想像することはとても難しいのです。意識については、科学的に解明する方法がわかっていないというだけでなく、それがどのようなものとなるのか見当すらついていない、とよく言われます。

自分自身の経験を振り返ってみても、たいていの場合、意識には「機械の中の幽霊」的な性質があるように感じられるという点では頷ける部分もあります。ですが、それが実態をうまく反映しているとは思えません。私の長年の研究テーマの一つは物事の見え方を超えて、その背後に潜む実際のあり方を明らかにすることだと言えます。意識の科学では、これはとても実りのある戦略です。

例を挙げましょう。この現実世界には、色というものが存在するように見えます。もちろん、実際には存在しないこともわかっていますよね。ご存知のように実在するのはさまざまな波長の電磁波だけです。同じように、自己が「私の本質」であり、それが頭の中で知覚を行っているように感じられます。しかし、ひょっとすると、実態はまったく別なのかもしれません。

私の見立てでは「機械の中の幽霊」とはまさに、感覚信号の原因について脳が行う予測の集積を裏返したことで現れる現象学的な側面であり、それは結局のところ、身体を調整し、生かし続けるという脳の役割に根差しています。したがって、意識と心と生命は密接につながっているのです。

最後になりますが、誰もがその名を聞いたことのある哲学者、ルートヴィヒ・ウィトゲンシュタイン[★01]★01もこの認識と実態の区別について浩瀚な議論を行っていることを申し添えておきます。もし私たちの意識経験が、いろいろな物事について脳が予測したことを寄せ集めただけのものだとしたら、物事はどのように見えるだろうかと自問してみましょう。物事の経験はまったく別のものになるかもしれませんし、現状とそっくり同じかもしれません。両方の可能性があると思います。

意識と脳の関係といった問題を、ソフトウェアとハードウェア、もしくは魂と肉体という宗教的な概念に頼らずに語ることはほぼ不可能です――テッド・チャン

テッド・チャン　みなさん、お集まりいただきありがとうございます。ご紹介いただいたように、私はSF作家です。ちなみにコンピュータ科学についても、ある程度専門的に勉強したことがあります。とはいえ私がお話しするのは、何よりもSF作家としての見解です。

私は思考する機械という長い伝統を持つ主題を探求することを通じて、意識という問題にたどり着きました。この伝統はSFの世界に留まらず、より以前から、それこそ何世紀も続いてきたものです。思考能力を持つ機械というアイデアは、これまで何度も現れてきました。人々が長きにわたって格闘してきた問題だと言えます。多くのSF作品のテーマにもなっています。

思考は魂という宗教的な概念、特に、肉体からはっきりと切り離された魂と結びつけられており、おおむね似たようなものだと考えられてきました。しかし、魂は肉体から切り離されたものだというこの古い考えは、コンピュータの出現によって、新しい形を取るようになりました。というのもいまでは別の考え方もできるようになったからです。「たしかに、魂は単なるソフトウェアで、肉体はハードウェアなのかもしれないね」と、いまではごく普通に言っています。そうなると、ハードウェアとソフトウェアの区別はすっかりお馴染みですから、これこそが魂と肉体の関係なのだと考えたくなるのももっともな話です。そう考えたくなる気持ちはよくわかるのですが、だからといって、正しい考え方だという保証はありません。ですが、私たちが生きるこの時代では隅々まで科学技術が行き渡っているために、このような問題について考える際にも慣れ親しんだ科学技術の枠組みから逃れることができないのです。

こうして現代では、意識とか意識と脳の関係といったような問題を、ソフトウェアとハードウェアというモデル、もしくは魂と肉体という宗教的な概念のどちらにも頼らずに語ることはほぼ不可能だと言えます。どちらの言葉づかいも私たちに深く染みついているものですが、問題は――課題と言ってもよいですが、これらが本当に的確な用語法なのかということです。私たちには新しい言葉が必要なのではないかと思います。しかし、どうすればよいのでしょうか。ソフトウェアとハードウェアの区別は、考えてみれば、魂と肉体という区別の装いを変えただけのものでした。このように、すでにある言葉と置き換えることはできない新しい言葉が必要なのです。

意識はたまたま生じるようなものではないと思います――テッド・チャン

スーザン　ソフトウェアというのは良い切り口ですね。近頃はChatGPTのような大規模言語モデル（LLM）がよくニュースになっています。ChatGPTに意識はあるのでしょうか。

テッドとアニル　ありません（笑）

アニル　ニュースでもよく取り上げられていますし、さまざまな意味で大きな衝撃を与えていると思うので、この話はもう少し掘り下げたほうが良さそうですね。GPT-4をはじめとした大規模言語モデルには、本当に多くの人々が驚きました。大規模言語モデルを専門としている人たちでさえですね。それ自体がたいへんな驚きです。そして、言語モデルが物事を理解しているのかどうか、しばしば言語モデルに見出されるもろもろの心的性質、メタ認知や心の理論のようなものが本当に存在しているかどうかについては、とても興味深い議論が行われています。

現状の言語モデルはこうしたものを備えていると言ってよいのでしょうか、それとも実際には、肉体を得て周囲の環境との関わりを積み重ねていく必要があるのでしょうか。私自身は後者が正解に近いと思っています。そうなった場合に、どういうことが起こるかを考えてみることもできるでしょう。物事と関わり続けることを通じて、理解を獲得したと言えるようなモデルを作り出すことだって不可能とは言えません。

しかしですね、そのようなことは全部、言語モデルに何らかの経験が生じているかどうかという論点とは噛み合わないというか、全然別のことなのです。心の理論や理解といった特性に経験は必ずしも必要ないのだと思います。大規模言語モデルがより賢くなれば、意識もそれに付随して生じてくるなどということにはなりません。いずれにしても、現行の大規模言語モデルに意識が存在すると考える根拠はまったくないと思います。

テッド　ほぼ同意見です。意識はたまたま生じるようなものではないと思います。何かの副産物として意識が生まれるなんてほとんど考えられませんし、まして、何テラバイトものテキストを統計分析したらついでに意識が生じるなんてありえません。

生物をお手本とした枠組みを採用して、生命活動を再現するソフトウェアをめざしていけば、意識が生まれることもあるかもしれません。ChatGPTにはそのような性質はまったく備わっていませんね。私たちがChatGPTにだまされるのは、とても流暢に文字列を操っているからであり、私たちはその印象に引きずられやすいのです。ChatGPTが携帯電話の予測変換機能の強化版にすぎないというのはかなり大ざっぱな言い方ですが、予測変換が本当に良い候補を出すことがあっても、実際に意識があるというのとはまったく違うということには気をつけておかないといけません。

（2023.7.28 北海道大学 クラーク会館にて）

(#２につづく）

SF作家テッド・チャン神経科学者アニル・セスの対話

#1 GHOST IN THE MACHINE：ChatGPTに意識はあるんですか？
#2 GHOST IN THE MACHINE：意識は身体がなければ生じないのか？
#3 GHOST IN THE MACHINE：ソフトウェアを苦しみから救う方法はあるか？
#4 GHOST IN THE MACHINE：私たちは同じ現実を見ているか？

★01 ルートヴィヒ・ウィトゲンシュタイン（1889–1951）。オーストリア出身、ケンブリッジ大学教授。20世紀を代表する哲学者の一人。その哲学は大きく前期と後期に分けられるが、「言語が現実をどのように描写し、また誤解するか」という問題が一貫したテーマの一つだった。アニルはここで、ウィトゲンシュタインが後期の主著『哲学探究』や遺稿『確実性の問題』などで展開したいくつかの議論を念頭に置いていると思われる。