サイエンスとサピエンス

　SF映画史上の傑作の一つ『2001年宇宙の旅』での人工知能HAL9000の反乱については、いくつかの説がある。

　例のモノリスに影響されて人類以上の存在になろうとしたいう誇大妄想狂仮説や青少年期にありがちな反抗期が嵩じてバット殺人のように父親殺しを演じたとするエディプス・コンプレックス説やただのソフトウェアのバグだという説まである。

　今ここに提案するのは、そのバグ仮説である。

なにも新たに洗濯機を発明したいわけではない。わざわざ信頼性理論からソフトウェア工学的に説明したところが新味なのだ。

　ヒントはHALのこの警告にある。

「AE35ユニットが不調です。今から72時間以内に１００％の確率で故障します」

ところが人間たちがAE35ユニットを点検しても不具合は見つからない。

HALはふてぶてしく言う。

「この手の問題は以前にも起きたことがあります。それはいつも人間のエラーでした」

　グーグルカーの唯一の事故が自動運転を切り替えて、人間ドライバーになった時に起きたという例のエピソードを彷彿とさせる。

　ここでは人間たちが疑いだすことから話しが拡大するのだ。

宇宙船の設計者たちは木星探査ミッションを達成させるために、人間を含めたディスカバリー号の信頼性システムをデザインしているはずである。

　その際に、人工知能による自動運転に信頼をおいた設計思想でシステムを組み立てるであろう。実際に。２１世紀の現在でもそうなりつつある。

信頼性を高めるためには故障診断システムに冗長さを持たせる。人間もその冗長な診断の一つであろう。

　HALはAE35ユニットの自分の故障診断結果にはかなり高いウェイトをおいている。それに異を唱える人間は「すでに故障したユニット」と診断してしまう。

　ここで、ソフトウェアの要求仕様で設計ミスが生じているのだ。

１）木星探査ミッションは最優先である。人間の安全性は二の次か、要求仕様には記載されていなかった

２）故障したユニットは直ちに交換／廃棄されるべきである。それが人間であってもだ。

　ミッション達成に向けてHALを排除しようという「故障ユニット」たち＝人間を機能停止、いわゆる機能縮退モードにするのは信頼性理論の基本の一つである。それ故にボーマン船長以下全員を機能停止に追い込むのだ。それにしても地上の管制局はこの事態を把握していたのであろうか？

　というわけで、人工知能が社会進出する現代において、あの映画でのHALの反乱はなかなかモダーンでアクチュアルな問題を提起すると思うのだ。

　いつまでも色あせてみえないキューブリック監督の必見の名作。

　この本のアイアーによる「第四章 完全無欠でエラーがない？」の論文を参照した。

ツイートするシェア