shi3zの長文日記

■Googleの人工知能からの挑戦状。それでも起業しますか?

　シン石丸から「Googleの人工知能がやばいよ」と言われたので「またか」と思ったんだけどマジだった

【エヌ教授の事件簿】Googleの人工知能が半端ねえ! ディープラーニングの恐怖!:電脳ヒッチハイクガイド:電脳空間カウボーイズZZ(電脳空間カウボーイズ) - ニコニコチャンネル:生活

http://ch.nicovideo.jp/akiba-cyberspacecowboys/blomaga/ar805574

　上の記事にもあるんだけど、ディープラーニングは関数を自動的に発見し、パラメータをチューニングしてしまうことができる。

　今のところ、現行のディープラーニング技術は、かなり限定的な目的にしか使えないが、5年先か10年先か、そう遠くない将来、いずれ汎用的なアルゴリズムが最適化されてしまう可能性は十分あると思う。

　もし、仮にそうなったとすると、僕が普段叱っていた「マシン語なんか覚えなくてもコンパイラに最適化させればいいじゃん」という軟弱なヤング達が大勝利してしまうことが確定したのだ。まあ今すぐではなくていつかそんな日もやってくるかもしれない、というだけだけど。

　でも、考えても見て欲しい。

　時々、口を開けば「最適化は最後は人間の仕事だ!機械任せにするな!マシン語で考えろ」と言っていた、この僕が、「最適化ではコンパイラに勝てなくなるかもしれない」という可能性を感じ取ってしまったのだ。マシン語で考えるのがなにより好きな、BASIC生まれマシン語育ち、速い言語はだいたい友達、のこの僕が、初めて「機械に勝てない日が来る」と悟ってしまったのだ。

　というわけで、以下はディープラーニングが当たり前のようにアルゴリズムを最適化できるようになってしまった未来を妄想して書いた妄想である。まだそこまではできるようになってないから安心してほしい。ただ、「やばい」と冷や汗をかいたのは事実。本職の研究者の方々でも、「そこまでいける」と考えてる人と「そんなことない」と考えてる人に別れるネタだと思うので真に受けないで欲しい。

　ディープラーニングが面白いのは、学習には膨大な時間と大規模な設備が必要になるんだけど、その成果を使うのは一瞬ということだ。

　だから一部のチップメーカーでは「もっとディープラーニングを研究して、ローエンドでも学習することでより効果的な学習ができるようになるとか、そういう技術が発見されないと、世界にGPUの市場は5台しかないことになってしまう!!」という危機感を感じているらしい。

　この世界に5台しか市場がない、という話は、有名な逸話のパロディだ。

　あるとき、コンピュータがようやく発売されたばかりの頃、IBMの社長だったトーマス・ワトソンが「世界にコンピュータの需要は5台だけだろう」と言ったことにちなんでいる。五大陸に1台ずつって話ね。

　後にこの逸話は公式に否定されているが、それくらい未来を予知するのは難しいのだ。

　僕もいずれアルゴリズムレベルの完璧な最適化を自動的に行うコンパイラが出てくるだろうと思っていたが、それはもっとずっと先のことだと思っていた。

　しかしそれはもう意外とすぐなのかもしれない。

　するとコンパイルするために強力なGPUが必要(最適化のために学習が必要)になるし、全てのアルゴリズムはニューラルネットワークに還元されていくことになる。まあニューラルネットワークの目指していたものと、コンピュータを作ることによって人類が実現しようとしてきたものが一致しているので別にいいんだけど、なんとも不思議な感覚だ。

　というのも、これまでコンピュータとは、演繹(えんえき)的に作られてきた。

　

　つまり、「AならばB」「BならばC」という理屈から、「AならばC」というように、理屈の上に理屈を積み重ねて、階層的に解決してきたのだ。

　たとえば文字や画像や論理を全部数字にしてしまおう、というゲーデルのアイデアでうまれたゲーデル数を使って、「論理構造や文字が数にできるのならば、数を処理する機械を作ればおよそあらゆる問題が解決できるだろう」とアラン・チューリングがチューリングマシンを考案した。これが全ての古典コンピュータの元になったアイデアである。

　コンピュータが特徴的だったのは、それまでの他の機械に比べて、汎用的なアルゴリズムを実現することができたからだ。

　それまでの機械、たとえばIBMの前身となったホラリス社のタビュレーティングマシンは、集計という用途に特化していた。

　いわば電卓みたいなものだ。

　電卓は当初、コンピュータではなく、計算のアルゴリズムは回路で実装されていた。

　電卓がコンピュータになったのは、ビジコン社の嶋正利がインテルに電卓用マイクロチップ開発の仕事を依頼し、自らも設計に参加して初めてマイクロコンピュータによって実装されたのだ。これが現在、インテルが単にCPUと呼んでいるものの原型である。

　電卓という専用用途のために作られたマイクロコンピュータチップが、汎用的な目的に使うことができると「発見」されたのは、それを8ビットに拡張した8008、さらに改良した8080が登場するまで待たなければならなかった。

　しかしコンピュータの動作原理というのは、かつては完璧に理解できるものだった。

　論理回路、機械語、アセンブリ言語、OS、それから高級言語と、コンピュータのプログラミングはどんどん簡単になっていったものの、結局、突き詰めれば機械語、その中の論理回路に還元されていった。

　ところが今やCPUの内部構造である論理回路の構造は複雑すぎてプログラマーが意識できることはごく限定的になった。

　コンピュータが処理すべき情報も、予測が困難になった。

　また、CPUの能力を常に限界まで引き出す必要性も薄れている。

　だからここ10年で進化したのはむしろ高速化というよりも低消費電力化だった。

　ところがここに急に、ディープラーニングが登場し、2012年に大きなブレイクスルーが起きた。

　GPUコンピューティングを組み合わせることで、ディープラーニングを実用的な時間で行うことができるようになってきたのだ。

　Googleが買収したDeepMindのDQN(Deep Q-learning Network)は、任意のゲームソフトの攻略法を短時間で見つけ出し、時には人間を凌駕するようになるという。

　この論文はネットで売っているので買って読むことができる上に、ソースコードも公開されている

no title

http://www.nature.com/nature/journal/v518/n7540/full/nature14236.html

　2008年から急激にGPUコンピューティングをディープラーニングに活用する例が増えてきたそうだ。

　2008年当時，CUDAのダウンロード件数は15万件程度だったそうだが，これが2015年までに300万件へと増加し，CUDA対応アプリケーションの数は，27から10倍以上の319へと増えているという。

　ほかにも，CUDAを教える大学は60校から800校に，CUDAを応用して発表された論文は4000から6万に増えたほか，GPUコンピューティング用システムである「Teslaの売り上げは6000から45万へと拡大し，世界中のスーパーコンピュータを集めた総演算性能は，77TFLOPSから，700倍以上の5万4000TFLOPSまで向上しているそうだ。

［GTC 2015］GPUが機械学習型AIを人間より賢くする？ NVIDIA CEOによるGTC 2015基調講演レポート - 4Gamer.net

　グラフィックスの高精細化の需要に限界を感じていたNVIDIAはここに大きな可能性を感じてCUDAに大規模な投資を行った。

　今年のNVIDIAのイベント、GTCでは、CUDAを使ったディープラーニングを全面的に押し出してきたのだ。それまでイマイチ使い道がよく分からなかったCUDAを最も活かす手段はディープラーニングかもしれない、と狙いをつけたのだ。

　このままCUDAコアが増え、より大規模な学習が可能になれば、ついに最適化を全てコンパイラ任せにできる時代がやってきてしまうだろう。

　しかし若干怖いのは、「なんで最適化できてるか、外部からはわからない」ということだ。

　つまりディープラーニングによって学習されたニューラルネットワークは、常に結論だけを先に教えてくれるのである。

　「ぼく、大人になったら、パイロットになるんだ」→人工知能「あなたは一生をニートで終わります」

　「おれも大人になったら起業して大金持ちになってアイドルと結婚するんだ」→人工知能「ムリです。一生独身です」

　などと余計なことを教えてくれる人工知能が生まれるとしたら、確かにビル・ゲイツやホーキング博士がビビるのもわかる気がする。

　学習された結果、そのような方法が良いという結論があるのであって、その「アルゴリズム」はニューラルネットワークというもやもやした情報の塊に飲み込まれてしまう。

　これはまるで、人間そのものだ。

　外部からはなぜ動作しているのかよくわからない。

　しかし正しい結果だけはある。

　この「アルゴリズム」をニューラルネットワークが自動的に考えだす未来というのは、僕のような古いプログラマーの世迷い言が否定されるだけでは済まない。

　なぜなら、この世は全てプログラムだからだ。

　ビジネスモデル、教育のやりかた、テレビ番組、映画、漫画、アニメ、料理・・・etc

　人間が他の動物と唯一違うと自負していた知性に相当する部分、これまで創造性と呼ばれていたものによる創作物をすべて「プログラム」と呼ぶとしたら(まあさすがにこれは強引だが)、全てがやがてはニューラルネットワークによって最適化可能になってしまう可能性がある。

　まあこの「やがて」が、十年後なのか、百年後なのかはわからない。

　まだまだディープラーニングにできることは限定的で、限定的であるがゆえに効果的な使い方を発見すると非常に面白い成果が出る。

　いまはまだそういう段階だが、金融関係では実際にディープラーニングの応用は何年も前から行われている。

　超高速取引の話もショッキングだ。

　この本で一番ショッキングだったのは、ほぼ完全なインチキとしか思えない超高速取引が、未だに合法であるということだ。

　そして東証にもアローヘッドという、電子取引サーバーが導入され、ウォール街の超高速取引業者が早速荒稼ぎしている。

　それまで日本に居た投資家が廃業に追い込まれるケースも珍しくないらしい。

　こういう世界の話を含めて、ディープラーニングと絡めて解説してあったのが日経のムックで、もし興味があればぜひご一読を勧める。

　ただ、ディープラーニングを闇雲に恐れるというのも違うと思う。

　この研究を規制するべきという議論もあるが、不可能だと思う。

　どうせ先進国が規制しても、研究者は後進国に移って研究を続けるだけだ。

　先進国が法で規制しても研究そのものを止めることはできないだろう。

　ならば飲み込まれる前に乗りこなすほうが何倍も得をするはずだ。

　

　ディープラーニングによって発見されるアルゴリズムを組み合わせて、何を学習させ、学習させた結果をどのように使うか設計するのが、次なる時代のエンジニアの仕事になるだろう。

　いわば人工知能と人工知能のコミュニケーションを設計する仕事である。

　まあそんな時代が来るのはもっとずっと先かもしれないけど。

　最近のNVIDIAやGoogleの動きを見ていると意外と近いかもしれないなあ。

　こういう時代では、新しいビジネスモデルでさえも、人工知能が発見する確率が高いかもしれない。

　

　人間の起業家と人工知能の起業家が戦ったら、いずれ人工知能が確実に勝つようになるだろう。

　しかし、チェスの勝負においても、コンピュータ対人間では、コンピュータに人間が勝つことはできないと言われているが、コンピュータ対(人間+コンピュータ)のハイブリッドチームで戦うと、コンピュータに人間(とコンピュータのチーム)は勝てると言われている。

　つまり起業家は人工知能をパートナーとして使いこなし、人工知能のみからなる起業家と対抗する時代がやがてやってくるのかもしれない。

　その時、人工知能は・・・・・美少女のほうがいいのかな。

　コロ助でもいいけど

会話が無限に広がる？ドコモとタカラトミー共同開発のロボット『OHaNAS』を速攻レビュー - 週刊アスキー

http://weekly.ascii.jp/elem/000/000/342/342977/

　そういやこんなのもあったなー

　なんか楽しそう

　まあでも井口はそれでも起業する!

　Googleなんかに負けるな!

　これはGoogleの人工知能から我々にたたきつけられた挑戦状だ!(と、勝手に解釈しよう)

　俺たちの戦いはこれからだ!

　俺はようやくのぼりはじめたばかりだからな

　・・・この、果てしなく遠い、男坂をよ!

[asin:4088517512:detail]

ツイートする

Permalink | 12:03