「よいAI」とは何か？

　先ごろ「全脳アーキテクチャ・イニシアティブ」（WBAI: Whole Brain Architecture initiative）の主催で開催された「第3回全脳アーキテクチャ・シンポジウム」。「脳型AIを良き形で実装するために」というテーマが掲げられたセッションでは、AGIが社会に与えるインパクトを踏まえつつ、その自律性が社会にもたらす影響や、倫理的規範との関係などについて、活発な意見交換が行われた。


　パネルディスカッションで司会を務めた理化学研究所の高橋恒一氏は、討論に入る前提として「よいAI（AGIが生む価値）とは？」について、パネリストの三者に確認した。

　口火を切った山川宏氏は「WBAIでよく議論されていることですが、我々に害悪を与えず、幸せに暮らしていけることに貢献するAIです」と述べた。これは、WBAIが提唱する「人類との調和」という基本理念をベースにしたものだ。

　一方、慶應義塾大学の栗原聡氏は、よいAIとは“孫悟空”の“お釈迦様”のような存在であると言う。「直接的ではなく客観的に見守られている、という表現になるかと思います。環境のあらゆるところに遍在し，実体を気づかせることなく、我々に寄り添う存在。我々にはAIに見守られているという意識はなく、自由意志に基づき、当たり前のように日常生活を営んでいるのだと思う」と述べた。

　また理化学研究所の中川裕志氏は「世間ではAIが仕事を奪うという話が出ていますが、そうならない仕事もあります。それは、AIを投入しても経済（コスト）的なメリットがないものです。一品生産品や、人によって異なる対応が求められる介護などがAIで安く供給できると、人間に役立つ。こういうAIがよいものでしょう」との見解を示した。

AGIの自律性とコントロールのサジ加減

　オックスフォード大学の哲学者ニック・ボストロム氏は著書「Superintelligence」の中で、「AI自身が人間の役に立つ振りをしなくなったときがシンギュラリティである」と主張している。

　これを踏まえ高橋氏は、「AIの自律性」について話題を向けた。「AIの自律性が生む価値とは何か？」との問いだ。

　栗原氏は、「我々は精神的な安定状態を維持するために、そのバランスが崩れると、それを修正するための行動を選択する。『精神的な安定状態の維持』は、テクニカルな表現では“メタ目的”と呼ばれ、AIに対しては、メタ目的を人が最初に定義する必要があります。つまり、もし、人間が設定したメタ目的自体をAI自身が書き換えることが可能になると、想定とは異なった行動をとるようになるかもしれない。状況によってはマズイ状況になると思います」と危機感を示した。

　一方、中川氏は「ボストロム氏の話はSF的なので、心配しても仕方がないように感じる」としたうえで以下のように指摘する。

　「群知能が動き出した時はコントロールが難しいでしょう。AIの中に“ロボット3原則”を入れても抜け穴が多すぎる。そこで外部から鳥瞰し、（人間にとって害のある行動をするAIを）止められるようなAIをペアで開発し、自律性を制御することが大切だと思います」と提案した。

これに対して山川氏は「コントロールするということはある種のインタラクションが発生するので全体としては別のシステムになってしまいます。そうすると外から制御していたつもりが、ミイラ取りがミイラになるようなことが起きるのではないでしょうか」と問題提起した。

【次ページ】AIが“権利”を持つと社会はどう変わる？