シンギュラリティ論においては、ひとたび人間を超える人工知能が作られると、その人工知能は自身の知能を再帰的に指数関数的に成長させるのみならず、物質的貧困や紛争といった社会のさまざまな問題までもたちどころに解決できると主張されています。
この種の根拠のない信念、すなわち、「知能の高さや思考の量のみが進歩におけるボトルネックである」という「思考主義」の考え方について、前回のエントリで検討し批判しました。
もちろん、純粋な思考力のみによっては科学研究や技術開発を進歩させることは不可能です。それだけではなく、開発されたテクノロジーを社会に展開し、テクノロジーが社会を変化させるためにも、やはり長い時間を要します。物理的な物体を置き換えるには時間とエネルギーを要し、現に存在する過去の進歩の結果が、未来の進歩への障壁となるからです。
先進的なIT企業においては、1年や1ヶ月といった単位ではなく、1週間、1日、あるいは1時間単位で新たなコードがデプロイされることが一般的になっています。たとえば、Amazon.comでは、多いときには一時間に1000回以上ものデプロイが行なわれたと公表されています。
このようなソフトウェア産業界の高速の発展が、他の産業においても同じように適用でき、同様の高速の進歩が発生することが期待されているようです。けれども、ソフトウェアにおける高速の進歩は、ソフトウェアの限界費用がほぼゼロであることから生じる、ごく特殊な事例に過ぎません。
対称的に、ハードウェアは、比較的大きな限界費用を必要とし、長期間に渡って利用されるため、進歩の速度はごく低速です。たとえば、現在普通に販売されている自動車の大多数は、自動運転車ではなくソフトウェア制御もされていないものです。どれほど自動運転車の開発と普及が高速に進んだとしても、同種の自動車はおそらく今後10年以上に渡って販売が続くでしょう。そして、現在の自動車の耐用年数(10〜15年)を考慮すれば、2045年になっても相当の数の非自動運転車が走行しているはずです。この在来型自動車の存在によって、将来の自動運転車の普及速度は本質的な限界を定められます。
同様に、今年建設された家屋やビル、道路や鉄道、上下水道といったインフラは、(巨大災害でも無い限り) 半世紀後にも変わらず建っていることは確実です。(私が今住んでいる借家は築40年以上経過しています。階段が急であるなどの構造上の古さはあるものの、リフォームされているため内装や機能上の問題はありません) それゆえ、私たちの暮らしの根本的な部分は、50年後、100年後も変化していないでしょう。
物理的な物体に対する資本コストが、テクノロジーの展開速度に対する根本的な限界を定めます。そして、これは私たちの日常生活のみならず、企業、国家や軍事の分野でも同様に適用されます。
MIT人工知能研究所の元所長であるロドニー・ブルックス氏は、爆撃機や核ミサイル発射装置といった国家の存続に関わる兵器でさえ、旧式のテクノロジーを使用していると指摘しています。
アメリカ空軍は、未だにB-52の派生型であるB-52H型爆撃機を飛行させている。このバージョンは1961年に導入され、既に56年間運用されている。最新版は1963年に生産され、たった54年間使用されている。現在のところ、これらの爆撃機は2040年、あるいは更に先までの運用が予定されており、100歳に達するのではないかと言われている 。
地上発射型の大陸間弾道ミサイル (ICBM) はミニットマンIIIの派生型を利用しており、1970年に導入された。現在450基が存在する。発射システムは8インチフロッピードライブに頼っており、発射手順のデジタル通信はアナログの有線電話回線を使用するものも存在している。
[FoR&AI] The Seven Deadly Sins of Predicting the Future of AI
シンギュラリティの提唱者たちが信じている世界の中では、既に世間はデジタル化・ソフトウェア化されており、あとは超知能を持った人工知能が作られさえすれば、ソフトウェアアップデートのみでAIをデプロイすることができ、そのAIが社会の指数関数的な変化をもたらすと考えられているようです。
もちろん、それは誤りです。どんな超テクノロジーが存在しようと、あるいはどのような超知能であろうとも、社会には固有の慣性が存在するため、物理世界への働きかけには時間とエネルギーを要し、現に存在する資本の更新は政治・経済・社会的な要因によって制限を受けます。その進歩の速度は爆発的で不連続なものではなく、連続的で比較的低速の、現在の進歩の速度とさほど変わらないものになるでしょう。
ゆえに、知能爆発説のシンギュラリティ論の根本的な仮定、超知能の出現により不連続な爆発的な進歩が起こるという仮定は、完全な誤りです。