NHK 解説委員室

この「Ponanza」も人工知能の一種です。「Ponanza」は先日、将棋の現役名人である佐藤名人に勝利することができました。将棋という、以前の人工知能にとって難しい問題も、現在の人工知能は解決できるようになってきたのです。

こうした状況の中で、現場の人工知能の科学者やエンジニアはどのような努力をしているのか？　今日は、その一端を皆さんと共有できればと思います。
私が「Ponanza」を始めて作ったのは、今から10年前、私が大学2年の時でした。



その時の「Ponanza」は、まだとても弱い将棋プログラムでした。
アマ5段の私が8枚落ちという、ほぼ最大の戦力差をつけて戦ってみると、私が勝ってしまうくらい弱かったのです。こんなに将棋に勝ちたくないと思ったのは初めてでした。
しかし、その後、様々な改良と新しい技術を導入し、わずか10年で、「Ponanza」は名人に勝つまでに成長したのです。
このように、現在、人工知能の開発は飛躍的に進んでいるのですが、実は同時に科学者やエンジニア達は今、少し困った状況になっています。
それは、人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなっているのです。人工知能という現代科学の最前線で、なぜそんなことが起きているのでしょうか？
突然ですが、皆さんは「黒魔術」という言葉をご存知でしょうか。



おとぎ話やファンタジーの世界で、魔女が不思議な薬を作るときに使われるような魔法のことですね。ぐつぐつと煮えたつ大鍋の前に立ち、呪文とともに材料を投げ入れると、目的の妙薬ができる……そんなシーンをアニメ作品で観たことがある人も多いと思います。
驚かれるかもしれませんが、この「黒魔術」は人工知能の世界でもスラングとして定着しており、どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称となっているのです。
当然ながら、人工知能を研究する学問分野である情報科学は、もともと論理や数学が支配する世界でした。理論や理屈がすべてを説明できる世界だったということですね。しかし、現代の情報科学、とりわけ人工知能の分野では、だんだんと黒魔術の影響力が強くなってきています。
黒魔術の影響は、当然人工知能の一種であるPonanzaにも及んでいます。Ponanzaは私が開発したプログラムなので、細部まで私が考えて作っています。しかも私は、将棋プログラムという狭い領域のことなら、世界でもトップレベルによく理解しています。それでも、Ponanzaはすでに理論や理屈だけではわからない部分が沢山でてきています。
「プログラムの理論や理屈がわからない」とは、たとえばプログラムに埋め込まれている数値がどうしてその数値でいいのか、あるいはどうしてその組み合わせが有効なのか、そういったことを真の意味で理解していないということです。
せいぜい経験的あるいは実験的に有効だったとわかっている程度です。現在のPonanzaの改良作業は、実は真っ暗闇のなか、勘を頼りに作業しているのとほとんど変わりがありません。これは絶対うまくいく、と思った改良が成功しないことは日常茶飯事で、たまたまうまくいった改良をかき集めている、というのが実情です。たまたまうまくいった改良を集める結果から、私から見るとPonanzaはますます黒魔術化しているようにみえるのです。

私たちが普段の教育で触れる科学は、
基本的に還元主義という考え方でできています。還元主義は「物事を分解し、細部の構造を理解していけば、全体を理解できる」という考え方です。
科学者でなくても、この考え方に賛同する方は多いと思います。
たとえばあなたが時計というものを完全に理解しなければならないとしたら、まずすべての部品を分解して、歯車やゼンマイのしくみを知り、それぞれの動作を把握するはずです。
そして今度はそれらの部品を再度組み立てます。そうした作業をへて、時計という機構は理解できるようになるのです。熟練の時計職人であれば、時計がどのようなしくみで動き、どうすれば性能を上げることができるのかを明確に説明することもできるでしょう。
しかし知能を理解するには、この還元主義的な考えではうまくいきません。
Ponanzaについて言えば、私は世界でいちばんPonanzaのことをわかっています。
でも、なぜPonanzaが強いのかについて、私は１００％説明することはできません。今のPonanzaは実験的・経験的にしか強くすることができませんし、どれだけ詳細にプログラムの細部を調べていっても、Ponanzaの知能というものを理解することはできません。
また多くの人工知能の黒魔術はまだ技術的に安定しておらず、結果を出すのに職人芸的なノウハウが必要です。
別分野の科学者にそうした状況を解説したところ、「人工知能は科学ではない」と言われたことがあります。もちろん、その人は人工知能のことを批判する意味で言ったわけではありません。要素を切り分けて個別に理解していくという、還元主義という伝統的な科学の思想とは相容れないことを指摘したのです。結局、知能というのは隠された方程式があって、それを解き明かすのではなく、どこまで行ってもモヤモヤしたよくわからないものであることを受け入れるしかない —— それが今の人工知能の研究者たち・エンジニア達の実感なのです。

以上が人工知能やPonanzaと黒魔術のお話でしたが、ここではっきりとお伝えしておきたいのは、私が黒魔術を嫌っていたり、Ponanzaが黒魔術化することを恐れているわけではないということです。なぜならPonanzaは、私よりもはるかに強い将棋のプロ棋士たちを相手に戦うために設計されているからです。今の人工知能というものはプログラマーの直感や予想された性能を逸脱することが求められています。だからPonanzaは私の理解の及ばない範囲にいてくれなければならないのです。
たまたま将棋や囲碁といったある意味、情報科学の世界にとって、とても派手な分野で勝利したためでしょうか。人間にしかできないと思われていた知性の部分が人工知能におびやかされると感じるのか、仕事が奪われるなどの人工知能悲観論がたくさん出てきますよね。
しかし本来、人工知能は人間の生活を裏側から、改善し・楽にするために開発されています。また人類には、解決しなければいけない沢山の問題があります。例えば地球温暖化問題。それから、戦争、病気、極度の貧困など、これらも解決しなければならない問題ですが、今の人間には手にあまるのか、その解決の糸口はなかなか見つかりません。でも、あまりに巨大で、沢山あるこうした解決困難な問題も、人工知能なら一気に解決してくれると私は確信しています。
たしかに人工知能の圧倒的な性能の向上は時に暴力的にすら感じることがあります。
しかし、私は、ネガティブな要素をうまくコントロールすれば、社会はきっとよい方向に向かうと願い、信じています。