イーロン・マスクの『恐怖症』は異常？ AI暴走防止会社を設立 - 土方細秩子

映画「ターミネーター」はスカイネットという人工知能(AI)に支配された近未来からやってきた人類が、未来を変えようと戦うストーリー。ちなみにこの近未来は2029年に設定されている。

AI化時代をはっきりと「恐れている」と公言する

　現実社会でも今、AIは開発競争が最も進む分野だ。グーグルがはじめた車の自動運転システムは、中心がAI。この技術はグーグルだけではなくアップル、フェイスブック、マイクロソフトなどのIT大手、さらに自動運転を推進する自動車メーカーも開発に参加する。トヨタがマサチューセッツ州に研究施設を設け、MITやハーバードの研究者と自動運転システムの共同開発に従事する、と発表したのも記憶に新しい。

　しかし、人間よりもはるかに演算処理能力が高いコンピュータに、「ディープ・シンキング」という考える力を与えるAIは、ターミネーターの世界のようにいつか人類を凌駕し、機械に支配された世界を実現する危険性を秘めている。

　このAI化時代をはっきりと「恐れている」と公言するのが、テスラCEOイーロン・マスク氏だ。テスラ自身がグーグルのような自動運転システムをモデルSに搭載しており、AIから多くの利益を得ているのだが、「人間が技術を使いこなすうちは良いが、いつか機械に支配される時代が来るのでは」と、行きすぎたAIの発達に懸念を表明する。

　その懸念の表れとして、同氏は昨年12月、「Open AI」という非営利企業を設立した。パートナーとなったのは数々のITの起業家を支えてきた投資家、Yコンビネーターのサム・アルトマン氏。両氏は数十億ドルずつを負担して「AIの能力を最大限に引き出し、それを誰とでも共有する」企業を生み出した。

　なぜオープンソースでAI技術を共有することがAIによる世界支配を防ぐことになるのか？　答えはズバリ「1社がAI技術を独占し、その方向性が外側から決定できない事態を防ぐ」ことにある。例えばAI技術で現在最先端なのは間違いなくグーグルだが、グーグルにすべての技術が集中することをオープンソースによって阻止する、いわば「AI界のウォッチドッグ」のような役目をOpen AIは果たすことになる。

　一方でオープンソースにすることで、マスク氏らに利益ももたらされる。誰もが参加できる技術フォーラムにより、これまで自社だけの発想ではたどり着けなかった考え方に触れる可能性がある。世界中のすぐれた頭脳をサイト上で集めることができる。

　「ディープ・シンキング」を推進する上で大切なのはビッグ・データの存在だ。コンピュータが人の思考を学ぶためには膨大なデータの注入が必要となるが、オープンソースにすることでデータ獲得も容易になる。

独裁国家が悪用する可能性

　だが、この考え方はあくまで「性善説」に基づいたものだ。オープンソースのAI技術を、例えばどこかの独裁国家が悪用する可能性もある。これについてマスク氏らは「数の勝負になる。世界のほとんどの人は技術の悪用を考えていない。一握りの悪があっても、数の上で善が圧倒するため、技術の悪用は大きなリスクにはならない」と楽天的だ。つまりどこかで悪用があっても、オープンソース上の技術者たちがこの悪用を阻止するプログラムを生み出す。もともとソースが同じ技術だけに、悪玉潰しはそう困難ではない、という。

　AIはビッグ・データを必要とするため、現在開発途上の各社もある程度のオープンソースは行っている。グーグルは昨年11月、AIサービスを行うソフトウェアエンジン、「テンサーフロー」の一部を公開した。フェイスブックも12月にコンピュータサーバー「ビッグサー」のデザインの一部を公開している。公開することにより他者に利益をもたらす反面、他者がそれを改善して自社の利益に反映する期待が込められている。こうした情報公開により、AI全体がさらに精度の高いものへと推進される。

　オープンソースのもうひとつの利点は、優れたアイデアを持つ研究者を世界中からリクルートできる、というものだ。研究者にとっては自分のアイデアを広く公開するチャンスであり、そこからシリコンバレーの一流企業にスカウトされる可能性もあるのだから、オープンソースへの参加は彼らにとっても利点となり得る。

フェイスブックCEOマーク・ザッカーバーグの揶揄

　ただしグーグルやフェイスブックが行っているのはあくまで「一部」の公開であり、Open AIのようにすべてを公開するものではない。両社にとってOpen AIはある意味でプレッシャーになるが、フェイスブックCEOマーク・ザッカーバーグ氏は今年3月、これについて「マスク氏のAI『恐怖症』はちょっと異常」と軽く揶揄する発言を行った。

　ザッカーバーグ氏とマスク氏は「シリコンバレーの仲良し企業家」として知られ、ザッカーバーグ氏としても真っ向からマスク氏を非難しているわけではない。しかし「スカイネットのような、人類をはるかに凌駕するネットワークシステムができるのはまだまだ先の話。自動運転ですら実用化にこの先何年もかかる状況で、そこまで怯える必要があるのか」と疑問を呈する。

　ただし、マスク氏は英国の「ディープ・マインド」という「AIのアポロ計画」と評された企業に投資した経験がある。ディープ・マインドはその後グーグルによって買収されたが、この時の経験がマスク氏の中に何らかの警鐘を鳴らしたのかもしれない。

　オープンソースのAI開発は、AIをスカイネットに成長させるほどのインパクトを持つものなのか。それともネット業界にさらなる犯罪を蔓延らせる結果となるのか。テスラのEV技術、高速移動装置「ハイパーループ」など、自らのアイデアをオープンソースにするのが好きなマスク氏だが、AIは吉と出るか凶と出るかが不透明な分野でもある。