真説・人工知能に関する12の誤解（8）：人はなぜ「人工知能に自我が芽生える」と思ってしまうのか (1/4)

進化した人工知能が自我を持つ――。人工知能にまつわるよくある議論の1つですが、実際に開発しているエンジニアからすれば、全く現実的な話ではありません。それでも、なぜ人は、人工知能に自我が芽生えると思ってしまうのでしょうか。

　人工知能（AI）に関してよくある議論の1つに「人工知能は自我を持つのか」といったテーマがあります。人工知能の性能が上がり続けることで、「いずれは人間のように、心（自我）を持つのではないか？」と思う人は少なくありません。

　この話は「自我を持った人工知能が人間に反旗を翻して、戦争を起こすのではないか？」という脅威論のベースにもなっています。こうした心配が広がるのは、「心を持つロボット」というモチーフの物語が世に数多くあるためかとも思うのですが、実際に人工知能を開発しているエンジニアからすると、「そんなバカな……」と失笑するレベルで非現実的な話なのです。

　しかし、実際にPepperやチャットボットとの会話を経験し、こうした疑問を投げかけてくる人の目は真剣そのものです。私も次のように問い詰められた経験があります。

　「会話が通じており、コミュニケーションがちゃんとできている。まるで心があるように感じた」「このまま人工知能が進化したら、完全な会話もできるようになるだろう。そのとき、本当に自我を持たないと言い切れるのか？」

Pepperやチャットボットとの会話を経験し、人工知能に自我が芽生える可能性を感じる人は少なくありません

　可能性が無いことを完璧に証明するのは、不可能に近いため（消極的事実の証明という意味で「悪魔の証明」という言葉もあります）、どう説明したものかと頭を抱えてしまうのですが、その姿を見て「ほら見たことか」と勝ち誇った顔をする人工知能批判論者が意外と多いのです。

　今回は、なぜ「人工知能に自我が誕生する」と思う（誤解する）のか、その理由を考えていきます。

そもそも「コミュニケーション」とは何か？

　自我について考える前に、まず人工知能に自我（心）が芽生えるという理由に挙がる「コミュニケーション」について考えようと思います。Pepperやチャットボットとの会話を経験した人が、できたと感じている「コミュニケーション」とは、一体何なのでしょうか。経営学の大家であるピーター・F・ドラッカーは、次のように定義しています。

　「無人の山中で木が突然倒れたとき音はするか」との問いがある。今日われわれは、答えが「否」であることを知っている。音波は発生する。だが音を感じる者がいなければ、音はしない。音波は知覚されることによって音となる。ここにいう音波の知覚こそコミュニケーションである。（中略）

　コミュニケーションを成立させるのは受け手である。コミュニケーションの内容を発する者ではない。（「マネジメント（中）」より）

　ドラッカーの言葉を借りれば、Pepperやチャットボットはあくまで“音波”を出すだけの存在といえるでしょう。彼らは、ユーザーが発した文章に対して、あらかじめ用意された解答群の中から最適な答えを選び出し、それを言っているにすぎません。まさに単なる音波です。

　このケースでは、コミュニケーションを成立させるのは受け手である、われわれ人間です。つまり、Pepperやチャットボットとのやりとりを通じて「自分の意図が伝わった」「対話ができた」「交流できた」と受け手である、私たちがそう感じればコミュニケーションは成功。誤解を恐れず言えば、機械と会話できていると錯覚しているわけです。