SF作家テッド・チャンと神経科学者アニル・セスの対話：意識は身体がなければ生じないのか？

意識のある機械を構築するために何が必要なのかはわからないし、何が必要でないかもわかりません――アニル・セス

アニル・セス

アニル　いくつかコメントしても良いでしょうか。事前の打ち合わせからははずれてしまうかもしれませんが、少し考えが違う点があるかもしれないので、確認しておきたいと思いました。

人間がさまざまな活動をする際、そこには意識が働いているわけですが、人工的なシステムが同じような挙動を示す場合、私たちはどうしてもそこに意識を見出してしまいがちです。私たちにはこのように、人間を特別視する強い傾向があります。意識の存在を、知能や言語といった人間特有の性質と結びつけて考えたくなるのです。ですから、淀みなく応答してくれるシステムと接すると、このようなやりとりが成り立っているのだから相手にも意識があるのだろうと、いとも簡単に信じ込んでしまいます。そして実際、そのようなやりとりはすでに成立していますから、言語モデルにも意識があるということになってしまうわけです。しかし、言うまでもないことですが、これは間違った考え方です。背後にある仕組みは全然別物なのですから。

このようにして言語モデルに意識があると考えてしまった例は枚挙に暇がありません。意識のような対象は、どうも人間に引きつけて捉えがちなので、十分に用心する必要があるというわけです。

先ほど、私たちが知らないうちに意識を作り出すなんてありえないというお話がありましたが、少し怪しいのではないかと思います。お考えの通りだと言い切れれば良いのですが、どうも根っこのところで、もやもやしたものが残ってしまうのです。というのも、意識を生み出す必要かつ十分な仕組みについて、まだコンセンサスが得られていないからです。

私は意識は生命と非常に密接に結びついていると考えています。こうした考えが正しければ、大規模言語モデルに意識は宿っていないし、他のAIもすべて意識を持っていないことになります。これが本当に正しいかどうかはまだわかりません。私が間違っている可能性も十分あると思います。誰が正しいかなんて誰にもわからないでしょう。このような状況では、意識を持つ機械を作り上げるためにどのようなものが必要で、どのようなものが不要なのか、誰にも正確な判断はできません。ですから、偶然意識が生まれているなんてことも、ありえないとは言い切れないのです。

近年ではさまざまな領域で技術革新が進んでおり、たとえば、ヒト胚性幹細胞から作られる大脳オルガノイド［★01］★01は、実際にニューロンを備えているため、いままで判断を保留するしかなかった問題の多くが解消されます。人間との材質の違いを考慮する必要がなくなるということです。テッドさんの発言に完全には同意できなかったのは、つまり、オルガノイド技術がディープラーニングと同じように加速していけば、そのまま意識が生まれてしまうということもあるのではないかと思うからです。さらにその場合、私たちは自分が何を成し遂げたのか全然気づかないかもしれません。オルガノイドがシャーレの中で大きくなっても、ChatGPTとは違って、私たちに話しかけてきたり、おすすめの映画を教えてくれたりすることはありませんからね。

テッド　その点については私もそう思います。「意識はたまたま生じるようなものではない」というのは、ソフトウェアを念頭に置いた話でした。オルガノイドということなら、意識が生じたとしてもおかしくないと思います。

身体や脳のすべての細胞をモデル化することができたとすれば、そこには意識と言いうるものが生まれているのだろうと思います――テッド・チャン

スーザン　いまのやりとりを伺っていて、少し別の問題についても考えてみたくなりました。ここにいる三人は大規模言語モデルには意識がないと考えているわけですが、それは、意識はソフトウェアをただ組み上げるだけで生み出せるものではないからでしょうか。別の言い方をすると、意識には実際の生物のように肉体が必要なのでしょうか。この点について掘り下げると、いろいろと面白いお話が出てくるのではないかと思います。いかがでしょう。意識は具体的な肉体がなければ生じないとお考えですか？

スーザン・ステップニー

テッド　おそらくそうではないと思います。ソフトウェアに意識を持たせることも不可能ではないでしょう。どういうことかというと、現状ではまだ不可能ですが、炭素分子、酸素分子、水素分子など、分子についての非常に詳細な物理モデルを作り出すことができたとすれば、細胞の仕組みがすべて備わった、精巧な細胞モデルを手に入れられることになります。そして、すべての原子を同じようにモデル化していくとすれば……これはもちろん途方もない課題です。なので、現状ではあくまで思考実験ということですね。

もし、細胞内のすべての原子をモデル化し、それを土台にして、身体や脳のすべての細胞をモデル化することができたとすれば、そこには意識と言いうるものが生まれているのだろうと思います。このように考えられるのは、実際、私たちは隅々まで原子だけで構成されているわけですが、不思議なことに、そこには意識が生じてもいるからです。そうすると、原子のレベルまでモデル化できたとして、ソフトウェアだから意識は生じていないと考えるのは無理があるのではないでしょうか。

このようなモデル化にはもちろん、法外な計算コストが必要だという問題があります。何か良い抜け道を考えなければなりません。一つひとつの細胞を水素原子のレベルまでモデル化していく必要が本当にあるのでしょうか。そこまで精巧なモデルでなくても十分かもしれません。同じように、生体組織を端からすべて細胞レベルまでモデル化しなければならないでしょうか。そこまでの必要はないかもしれません。とはいえ一方で、何でもかんでも単純化してしまうことはできません。やりすぎると、結局は従来のソフトウェアとあまり変わらないものになってしまいますから。なので、単純化をどこまで推し進めて良いかはよくわかりませんし、そもそもまったく不可能だということになるかもしれません。

ソフトウェアに意識を持たせるためには結局、原子のレベルまでモデル化しないといけないという可能性もあります。その場合には、単純に原子の数が多すぎて、どうやっても不可能でしょうね。とはいえ理屈の上では、そのようなものであれば意識が宿っていても良いと思います。

意識をソフトウェアで表すことができるかどうかは結局わからない――アニル・セス

対談会場は北海道大学の学生会館「クラーク会館」講堂。国立大学には珍しいドイツ製の古いパイプオルガンがあり、ポプラ並木やクラーク像と並んで北大名物の一つとなっている。

アニル　意識にとってどの水準が重要なのかは確かに難しい問題ですね。ここでもやはり先程の問題がついて回るということを考えなければいけません。どうしても、ハードウェアとソフトウェアの区別という枠組みで考えたくなってしまうという問題です。

重要なのは原子なのか、分子なのか、神経伝達物質なのか、ニューロンなのかと考えていくと、現代の標準的なコンピュータではハードウェアとソフトウェアがはっきり分かれていますが、脳や肉体におけるマインドウェアとウェットウェアの関係はそういうものではないとわかってくるかと思います。人工生命コミュニティは近年も進歩を続けていますが、真に本質的なのは、この点に気づいたことではないでしょうか。それぞれの水準はよく見れば繋がっているかもしれないのです。

しかしこだわるようですが、それで問題が解決したわけではありません。率直に言えば、意識をソフトウェアで表すことができるかどうかは結局わからないというところです。必要な基盤が何なのか、完全にわかっているわけではありませんから。テッドさんのお話のとおりなのかもしれませんが、反論の余地も残されているかと思います。そちらが正しかった場合、話はある意味単純です。適切な詳細度でシミュレーションすれば良いということであれば、問題はどこまで細かく再現するかということだけですからね。

しかし、こういうのはどうですか。気象現象、たとえば台風の完全に詳細なシミュレーションが可能だと仮定しましょう。気流の全体像をシミュレートすることもできますし、台風の分子一つひとつをシミュレートすることだって可能です。では、風が生じたのはこの点だというように、どこかの水準をはっきり指摘できるものだと思いますか。

テッド　これは、かなり昔からある議論で、おそらくはホフスタッターまで遡れるものだと思うのですが、気象シミュレーションがどんなに詳細になったとしても、コンピュータの内側が湿ってくることはありません。コンピュータ内で雨粒が落下しているのを見ることはできないのです。ですので、ご質問に対する私なりの答えは、どれだけ詳細に気象をシミュレートした場合であっても、シミュレーションの外から見て雨が降っているかどうかを考えるのは的はずれだというものになります。

重要なのは、シミュレーションの中で雨が降っているかどうかでしょう。つまり、木造家屋を原子レベルでシミュレートしたとして、風雨によって屋根板が反り返り、やがて屋根から滑り落ちるようなことがあれば、その家屋にとっては、その天候は現実だということです。この暴風雨の影響を受ける家屋はいったいどこに存在するものでしょうか。暴風雨がソフトウェアで作ったものなのですから、答えは明らかでしょう。重要なのは物理的対象としての家屋ではなく、シミュレーションにおける家屋です。この点についてどうお考えですか。

アニル　どうなのでしょう。ちょっと違うのではないかと思います。お答えは常識的なものではありますが、この場合には成り立っていないのではないでしょうか。ソフトウェア上の家が風で吹き飛ばされた場合に、風はその家にとっては実在するという話を意識の存在に当てはめるためには、詳細なモデル化によって意識を生み出すことが可能だということを前提にする必要があります。これでは循環論法になってしまいそうです。

自分でもはっきりしていない部分もあるのですが、ともあれ、意識がなんらかのソフトウェアや情報処理の産物であるはずがないとまで言うつもりはありません。ただ、必然的に意識が生まれてくるはずだというような主張には疑問があるということです。すべての原子をシミュレートするというお話がありましたが、そのあたりが特に気になります。正直なところ、どう考えたら良いものかわからない部分もありますが、やはり循環してしまっているのではないでしょうか。

話は少し変わりますが、意識が物質的基質に依存していると考えることには積極的な理由もあります。私たち人間の脳が行っている仕事の本質は何なのでしょうか。脳は肉体を制御し、調整するために存在している器官だと言えます。そしてこの制御と調節が必要となるのは、脳の各領域やニューロン、臓器のレベルにとどまりません。それは、生命活動の基礎となる、個々の細胞にまでも及んでいるのです。

このような問題については、ウンベルト・マトゥラーナとフランシスコ・バレラ［★02］★02が昔から議論を重ねてきています。人間の意識が基質に依存していると考える理由は他にも挙げられそうですが、それは「意識は基質なしには成立し得ない」ということとはあくまで別の話です。とはいえ、私はここまでお話ししてきたことを踏まえて、意識が基質に依存していないとは言い切れないという立場を支持しています。

（2023.7.28 北海道大学 クラーク会館にて）

（#３へつづく）

SF作家テッド・チャンと神経科学者アニル・セスの対話

#1 GHOST IN THE MACHINE：ChatGPTに意識はあるんですか？
#2 GHOST IN THE MACHINE：意識は身体がなければ生じないのか？
#3 GHOST IN THE MACHINE：ソフトウェアを苦しみから救う方法はあるか？
#4 GHOST IN THE MACHINE：私たちは同じ現実を見ているか？

★01 オルガノイド（organoid）とは、臓器や器官を模倣した3次元構造体のこと。オルガノイド技術は、ヒトの組織細胞を体外で培養し、立体的な組織構造を形成させる技術。★02 ウンベルト・マトゥラーナ（Humberto Maturana, 1928–2021）とフランシスコ・バレラ（Francisco Varela, 1946–2001） ともにチリ出身の生物学者で、生物を自己参照的かつ自己生成的なシステムとして捉える「オートポイエーシス」理論の創始者。認知を脳内に閉じた現象ではなく、身体や環境との相互作用の中で生じる「身体化された行為」として捉えた。