shi3zの長文日記

■AIと脳科学 08:26

　AIに対するアプローチは大きく２つある。

　ひとつは、「知性とはこういうものである」とまず定義し、知性を直接プログラムとして実装しようとする試み。これは知識ベース処理と呼ばれる。

　もうひとつは、「知性とはなんなのかハッキリはしないが、とりあえず神経細胞や脳の形から模倣していこう」というアプローチ、これはニューラルネットワーク型のアプローチである。

　池上高志先生という方がいて、僕はこの先生のお弟子さんたちや本に大変影響を受けたのだけど、池上先生がメインに扱っているのは人工生命、いわゆるA-Lifeである。

　特にこの「動きが生命をつくる」という本には影響を受けていて、生命とは何か、意識とはなにか、ということを考えさせる示唆に富んでいる。

　生命が生命らしく見えるのは、動きがあるからだ、という感覚は理解できる。

　僕は祖父が脳溢血で寝たきり状態になったのを経験しているが、ほとんど反応を見せない祖父が時折不意に涙を流したり、微かに目玉を動かしたりするところに生命の拠り所を感じていた。もっといえば、握った祖父の手が温かいというのは、彼の心臓が動きをとめていない証である。

　動きそのものが生命であり、生命であるかどうかを決めるのは動きであるとすれば、自律機械は生命の原始的な形態と呼べなくもないはずだ。有機物だけが生命であると決定づけられる証拠はほとんどない。

　唯一の違いは、有機的生命は生存本能という、無機物が決して自然には持ち得ない機構を持っていて、たとえば光を追いかけるといった単純な生存本能を持っているようにふるまう機械であっても、外敵から逃げたり、反撃してきたりはしない。

　機械が生存本能を持つためにはなにが必要なのか。もっと言えば、哺乳類のような複雑な生物ではなくて、ミトコンドリアやゾウリムシのような単純な生物とでさえ、機械が異なるようにみえるのはなぜか。もちろん有機物は細胞分裂という必殺技でもって自己増殖する。それが生命性の本質なのかもしれないが、機械とて自己増殖が可能なことは数学的にわかっている。有機物に比べると随分手間はかかるけれども。

　ひょんなことから池上先生と知り合った僕は、池上先生の講義を聴講しにいくことになった。

　キャンパスの中の九龍城というか、魔窟めいていた駒場寮のあったあたりはすっかり綺麗な建物に取って代わられていて、時代の流れを感じた。駒場寮の出入り口をぐるりと警備員が囲んでいた情景を思い出して、少しさみしい気分になる。

　脳科学者として高名な茂木健一郎さんがゲスト講師として参加されるということだったので、購買部の書店で脳科学の本を手にとって見て、その場でKindle版を購入した。なんとなく、学生に良書が渡る機会を奪いたくなかったのだ。

　本書は、理華科学研究所の脳科学総合研究センター (BSI;Brain Science Institute)のそれぞれのセクションの活動分野をまとめたものである。

　昨年末に発売された本で、まだ新しい。

　本書は、記憶、感情、時空間、認識などさまざまな脳機能を最新の脳科学がどのように把握し、どこまでわかっていてどこからわかっていないのかが手軽に分かるガイドブックになっている。

　ニューラルネットワーク型のアプローチにも何種類かあって、A)ニューラルネットで性能がでればいいよ派 と、 B)あくまで人間の脳をモデル化するよ派 に別れる。

　筆者は基本的に実用的にニューラルネットワークを使うことに興味の中心があるので、Aの派閥ではあるが、そのヒントは人間や哺乳類の脳にあるからそれも積極的に取り入れるべしというスタンスである。

　そうすると、たとえばニューロンには活性化したときにプラスの信号を送るニューロンと、マイナスの信号を送る抑制ニューロンの二種類があるらしい、というのを読んで、「え、それってアソシアトロンでいう三状態じゃん」と思った。

　アソシアトロンが研究されていた頃はニューロンは活性状態と非活性状態の二種類しかないんだからアソシアトロンのニューロンがプラス・ゼロ・マイナスの三状態を持つのは間違いだ、と言われていたことを思い出した。別に間違ってはなかったのだ。

　今の人工ニューラルネットワークにはマイナスの入力やマイナスのバイアスはあっても抑制性の刺激はあまりない。

　深層学習でよく使われるReLU関数はマイナスの値をまるごとカットしてしまう。多少はマイナスの余韻を残すLeakyReLUもマイナスの刺激(つまり抑制刺激)を発するがそれほど強くない。

　このあたり、要するにまだテキトウなのである。

　

　ただ、僕は父が脳溢血になったときに右腕が一晩中ランダムに動き続けて、それから全く動かない状態になった現象を見ているので、強い抑制性の刺激というのがメカニズムはともかく確実に存在することはなんとなく予期していた。

　たぶん壊れた瞬間はランダムな信号が発され、ランダムな信号が生命維持上不都合であると判断した何らかのダメージコントロールが働き、この動きを抑制するために脳の別の部分から右腕の運動神経系に強い抑制信号を流すようになったのだろう。だからこの強い抑制を解除するためには、ボトックスやリハビリなどの手段が必要とされる。

　ニューロンが、なんでもかんでも活性化するだけだとしたら、それはそれで気持ちの悪い話だから、興奮したときに抑制性の刺激を発するニューロンがあるというのはむしろ健全な気がするが、LeakyReLUにしても、マイナスの入力が一定数に達した時にようやっと弱いマイナスの信号を発するだけなので、抑制性ニューロンとは異なる動きをしている気がする。

　抑制性細胞は、僕の全くの想像だが、プラスの刺激を受けて興奮すると抑制信号を送るようなものであるべきである。要は異常感知して発せられる緊急ブレーキ信号のようなものだろうと思う。そうでなければおかしい。

　今のニューラルネットワークで抑制ニューロンが表現されるとすれば、ほとんど全ての重み(ウェイト)が負の値であれば意図通りの動きになるだろうが、学習によって自動的に抑制ニューロンが獲得されるのかは調べてみないとわからない。畳込みになるとさらに状況が複雑だが、たとえば畳込みフィルタがマイナスの値を持っていたら抑制ニューロンとみなせなくもない。

　ReLUがマイナス方向の刺激、すなわち抑制ニューロンの働きを完全に封じ込めるとすると、ReLUのみによって造られたニューラルネットワークには抑制ニューロンはないことになる。まあウェイトが負値ならば限定的ではあるが抑制には一役買うかもしれないけど。

　抑制ニューロンは脳細胞の20%もあるらしい。

　ちなみにKerasのLeakyReLUのデフォルトのalphaは0.3

keras.layers.advanced_activations.LeakyReLU(alpha=0.3)

　つまり抑制方向への刺激は30%に減らされることになる。この30%という数値が、脳細胞の中の抑制細胞の割合に由来するのかはわからない(由来するとすれば10%もの開きは解せないが)。

　ただひょっとするとなんとなく、leakyReLUがうまくいくのは抑制ニューロンの存在を擬似的に表現できている可能性がないわけではない。

　そんなことをぼんやり考えながら、茂木健一郎さんの講義を聞きにいくと、普段テレビでは見れない知的な示唆に富んだ内容で非常に刺激になった。

　やはりたまには脳科学の本を読まないと、AIを作っている数式の美しさに心を奪われて、軸を見失いそうになる。脳の本は読んでるとなんとなく怖いんだけど、我々のような仕事をする人間にとっては沢山のヒントにあふれている。

ツイートする