【追補編】真説・人工知能に関する12の誤解（19）：人工知能が絶対にできないこと――AI研究の難問「フレーム問題」を考える (2/3)

　私が人工知能の“弱点”を取り上げるなら、「ないものをないと認識できない」という点を主張したいです。データ項目を明示し、かつ“0”と記載しないことには「ない」と認識できません。

人工知能の大半は、ないものを「ない」と認識できない

　例えば、会社の歓迎会で花見を開催したとしましょう。ブルーシートに並べられた缶ビールを見て「どうしてキリンビールはないの？」「私はよなよなエールが好きなのに」と文句を言われた経験はありませんか？　一見、自然な会話に見えますが、人工知能にこれを言わせようとすると非常に大変です。

飲み会の席で「このビールがないじゃない」――そんな文句を言われた経験はありませんか？（写真はイメージです）

　まず、日本で販売されている全ての缶ビールを学習させた（覚えさせた）上で、目の前に置かれた缶ビールのラベルを1つ1つ認識させれば、どのビールがあって、どのビールがないかが分かります。しかし、重み付けなどを行って1つだけを選ばせるといった制御をしない限り、「キリンビールがない」とは言わずに、そこにないビールを全て列挙することになるでしょう。

　その人工知能が「花見で買ってきていないビールすぐ認識する君」のような超特化型のAIならよいですが、人間のような汎用的思考を持った、いわゆる「汎用人工知能」が認識しようとすると、実現性は一気に低くなります。日々新たな商品が生まれる、全ての缶ビールを学習させるなど事実上不可能だからです。これがもし、ハイボールや缶酎ハイも加えることになったら……と考えればキリがありません。

　人間の脳が日常的に行っている処理というのは、非常に高度かつ複雑です。私たちは目の前にあるビールを見て、すぐに「何がないか」に気付けるはず。それは、知らず知らずのうちにビールの種類を学習しているからです。しかし、ほとんどの人工知能に「知らず知らず」はありません。懇切丁寧に、決まった枠で学習させなければ、ないという状態が分からないのです。

　これは「フレーム問題」と呼ばれており、人工知能研究における重要な難問の1つだといわれています。将棋や囲碁などの人工知能は「知っていることだけが世界の全てである」という前提に立ち、明確なルールがあるからこそ人間に勝てるのであって、法律と宗教以外は、曖昧な倫理観と価値観で成り立つこの世界において、人工知能が人間に勝る能力を発揮するのは、まだまだ先でしょう。

　それが分からない限り、人工知能のアウトプットに不満を抱くケースは多いでしょう。その例として分かりやすいのが、連載でも取り上げた、エイブラハム・ウォルドというハンガリー出身の数学者の経験です。

　彼は第二次世界大戦当時、爆撃機を強化する装甲の箇所を考える任務に就くことになりました。爆撃機の損傷には明確なパターンがあり、その多くは翼も胴体も蜂の巣のように穴が開いていましたが、コックピットと尾翼にはその傾向がありませんでした。このデータを見たウォルドは、今手元にあるデータが「帰還した爆撃機のデータ」のみであり、「帰還しなかった爆撃機のデータ」が含まれていないことに気付いたそうです。