先週、TeslaのCEOで、生ける映画主人公（Tony Stark）のようでもあり、Space XのファウンダーであるElon MuskはMITのAeroAstro Centennial Symposiumにてインタビューを受けた。
インタビューは全体がとても面白い（上の動画で見ることができる）。ただ、聴衆からの質問に対する回答がもっとも注目を集めたのではなかろうか。
質問はAI（人工知能）についてのものだった。Muskは、AIの開発には慎重であるべきだと話し始めた。AIこそ「人類の脅威」とし、それだけでなく、悪魔のようなものであるとまで発言したのだ。
Muskの回答全文は下に載せておく（ビデオ中では1時間7分20秒のあたりから質問が始まっている）。
Musk：人工知能については、相当に注意を払う必要があると考えています。最も重大な人類の脅威は何かと問われれば、人工知能こそその名に値するものであると考えています。AIに携わる際には、いくら注意してもしすぎるということはないように思います。
AIについて知るにつれ、国家レベルないしは、全世界の国家間レベルにおける規制監督機関が必要なのではないかと考えるに至りました。愚かな振る舞いをさけるためにはぜひとも必要な方策だと思うのです。人工知能を進化させる試みというのは、ある種、悪魔を召喚することに近いと思うのです。五芒星を描き呪文を唱える人物は、聖水により悪魔も制御可能だと考えています。しかしその考えはいつも失敗に終わるのです。（聴衆の笑い）
Q：結局、火星に向かうHAL9000のような知能は出現しないということでしょうか。
Musk：HAL9000ならまだマシです（現代に登場する人工知能はそのレベルを凌駕することでしょう）。HAL9000が自らを恥じ入るような「知性」が登場してくる可能性があります。きっとHAL9000レベルなら可愛いものだった、などと振り返ることになるのではないでしょうか。
［原文へ］
（翻訳：Maeda, H）
広告