殺人AIなどナンセンス--マイクロソフト研究者が憂う「別の問題」とは

　人類が「ターミネーター」のスカイネットのような殺人人工知能（AI）を作ろうとしているという警告は「ナンセンス」であり、そんな事態は少なくとも数十年は起こらない――。マイクロソフトの研究責任者が語った。

Microsoft Research Cambridgeの研究ディレクター、Chris Bishop氏：「殺人ロボットはナンセンス」
提供：Ed Miller / Microsoft

　Microsoft Research Cambridgeで研究ディレクターを務めるChris Bishop氏は、人類は自らに優るAIを開発しようとしているという主張は馬鹿げていると述べ、現在のAIシステムが抱えている多くの限界について説明した。

　同氏は英国の科学学会である王立協会が開催した公開討論で、「これは実態を確認するいいタイミングだ」と語った。

　最近の機械学習の分野におけるブレークスルーによって、コンピュータは平均的な人間と同水準の精度で人の顔や物体を認識できるようになり、音声認識などの分野も大きく進歩した。しかしBishop氏は、機械があらゆる分野で人間を上回りつつあるという考え方は間違っていると述べた。

　「確かに、深層学習によって物体認識の能力は人間レベルになったが、これは、機械が人間と同程度の頻度で間違いを犯すことを意味している」と同氏は言う。

　「機械が人間と同じ能力を持つと言えるようになったのは、157種類のキノコを見分けたりする能力を備えたからだ。しかし同時に、人間はしないような愚かな間違いを数多く犯す」（Bishop氏）

　複雑なゲームとして有名な囲碁で、Googleの「DeepMind」が世界有数の棋士を破ったような最も成功した例でさえ、そのシステムを構築するのにかかった時間や手間などの背景を理解する必要がある、と同氏は言う。

　同氏は「たとえば囲碁であれば、機械は最高の人間よりも少し優れているというレベルだ。しかしDeepMindは、少なくとも人間の1万倍の棋譜を読んでいる。人間の能力は、多くの分野でまだ機械よりもはるかに優れている」と話し、ロボットにものを拾わせたり、歩かせたりするのに苦労している研究者の例を説明した。

　もう1つのよくある誤解は、機械学習システムが車の運転や写真へのラベル付けなど、人間が行うことができる個別のタスクを行えるようになったことから、より一般的な人間の能力も身につけつつあると考えてしまうことだ。

　1950年代や60年代の初期には、AI研究の中心は一般的な人間と同水準の知能を追求することであり、この研究は1980年代にも再燃したが、その後放棄され、1つまたは少数のタスクのやり方を学ぶ、より限定的なAIの研究に取って代わられた。感情および行動に関するコンピューティングを専門とするインペリアルカレッジロンドンのMaja Pantic教授は、汎用のAIが開発されなくなったのには、それなりの理由があると述べている。

　「当時は、あらゆる問題を解くことができる一般的なシステムの構築を目指していた。しかし、それはまったく不可能であることがわかった」と同氏は述べている。

　MicrosoftのBishop氏もそれに同意し、汎用のAIが開発できるのは遠い未来であり、そのような能力を持った機械が人間を排除するという心配は見当外れだと述べた。

　「ターミネーターや、機械の反乱などといった心配は、完全なナンセンスだ。そのような議論ができるまでには、早くても数十年はかかる」