今そこにある世界の終焉。近い将来直面する可能性が高い10の脅威

　アースガーディアンズというチームがある。存亡リスク研究センター（Centre for the Study of Existential Risk/CSER）と知性の未来のためのレバーヒュームセンター（Leverhulme Centre for the Future of Intelligence）に所属する専門家、弁護士、学者、哲学者で構成されたこのチームの目的は、今存在する脅威から地球を守ることだ。

　世界に危険が迫ったとき、彼らは地球が直面する最大の脅威を評価し、文明を破滅から救うために何ができるのか検討する。

　人類にとっての脅威は何なのか？アースガーディアンズが、近い将来起こりうる可能性が高いであろう10の脅威を公開した。

1. 人工知能の暴走

推定発生時期：2075年　優先度：非常に高い

　人間より優れた知能を持ち、かつ人間から独立して作動する機械は、最大の脅威の1つだ。

　オックスフォード大学フューチャー・オブ・ヒューマニティ研究所（Future of Humanity Institute/FHI）のニック・ボストロムは、AI列車の加速はとどまることを知らず、2075年までに人類の知能を追い越すと予測している。またフューチャー・オブ・ライフ研究所（Future of Life Institute）の共同設立者ジャーン・タリンは、AIのリスクが他のいかなるリスクよりも増大していると指摘する。つまり知性を持つロボットが世界で暴走したり、核の冬をもたらす恐れがあるということだ。

　しかし、こうしたSFシナリオは、特定のリスクを想像できれば、その多くがリスクではなくなる。予防措置を講じることができるからだ。問題は我々が想像できないことや対処できないことを想像できるかということだ。

　この分野の研究は、哲学的なもの（AIの道徳観を人間の道徳観に合わせるべきかなど）から実務的なもの（自律型マシンを具体的にどう制御するのかなど）まで行われている。議論は様々であり、AIが脅威になることはないという見解もある。しかし我々は万が一に備えなければならない。

2. 合成生物工学によるパンデミック

推定発生時期：現在　対策優先度：非常に高い

　AIと並び、合成生物学は世界を滅亡させるリスクとして最も研究されているものだ。現在、”機能獲得”実験によって新たな緊急性が生まれている。こうした実験では、鳥インフルエンザにフェレットへの感染能力を獲得させるなど、病原菌に新しい機能を付与する。本来の目的は、ウイルスが自然環境でどのように感染能力を発達させるのか理解することなのだが、それが実験室から逃げ出してしまうリスクは否定できない。

　ウイルスには自己複製能力があるために、核のように僻地に隔離しておけばいいというものではない。かつてペストのような病原菌が大流行し、社会全体に及ぶ影響を与えたが、それが治癒不能なバイオテクノロジーの産物であったら？

　考えられるリスクとして、不満を抱えた研究員などがウイルスを持ち出し、それを拡散させてしまうという状況がある。

　人類を破滅させる動機について研究したアンダーズ・サンドバーグは、そうした動機を持つ人間がほとんどいないこと、ウイルスの入手可能性が非常に低いことから、実現性は低いと評している。しかし別の研究からは、バイオテクノロジーの研究所には従業員の精神状態に関連する明文規定が存在しないことも明らかになっている。

3. AI兵器を所有する民兵組織

推定発生時期：いつ何時でも　対策優先度：低

　北朝鮮と国境を接する韓国は、サムスン製ロボット歩哨を配備している。つまり自律式兵器はすでに存在すると言っていいだろう。顔認証技術がターゲットを打ち倒し、テロリストなどが3Dプリンターで兵器を作成する未来は簡単に想像できる。

　冷戦の軍拡競争では、命中精度の低さから広範囲を爆撃する巨大な爆弾が作られ、苦痛を感じる生身の兵士が使われた。一方、ロボット兵器は精密な照準が可能で、ロボット兵士が苦しむこともない。
　
　しかし小ささと安さは、国家でなくても軍を所有できるようにもしてしまう。ディストピア的未来では、「たった5人の男が小型自律兵器を満載したトラック2台で一都市を制圧」するようなことも可能なのだ。

　コンピューター学者のスチュアート・ラッセルは、現在議論されている自律型兵器の禁止に関するコンセンサスが国連の場で結ばれる前に、軍拡思想が蔓延してしまう可能性を懸念している。それだけでも恐ろしいが、新たなる軍拡競争はリスキーなAI開発もまた加速させるだろう。

4. 核戦争の勃発

推定発生時期：いつ何時でも　対策優先度：低〜中程度

　冷戦期ほど問題にされなくなったが、無数の核兵器が今もなお存在し、カシミール、台湾、ウクライナなど、核戦争が勃発しうる地域の緊張は高まっている。
　
　ロシアとアメリカは世界の核兵器の90パーセントを保有する。想定できる事態として、何らかのアクシデントで核攻撃警報が発せられ、それに対して実際の核攻撃で報復するという、事故から核戦争に発展する状況が考えられる。

　世界カタストロフィックリスク研究所（Global Catastrophic Risk Institute/GCRI）が90パーセントの事例を研究した結果、そうしたアクシデントに起因する核戦争の年間発生確率は0.07〜0.00001と推定された。0.07とはすなわち、14年に1度は事故から核戦争に発展することを意味している。

　核兵器の放射線は必ずしも人類全体の脅威とはならない。しかし十分な都市（およそ100都市）に核攻撃が加えられれば、そこから捲き上る煤煙が日光を遮断し、核の冬が到来する。それによる気温の低下は農業の生産高を直撃。万が一、アメリカ、ロシア、ヨーロッパでこれが発生すれば、世界の他の地域も崩壊させてしまうだろう。

5. 極端な気候変動によるインフラの荒廃

推定発生時期：いつ何時でも　対策優先度：低〜中程度

　気候変動を差し迫った問題として取り扱わないシンクタンクもある。その部分的な理由は、数多くの研究がすでにあり、気候変動の危険性が十分に認知されていることだ。

　だが、逆説的ではあるが、不明な点があまりにも多すぎることも原因だ。サンドバーグによると、今世紀中に気候変動を解決する技術が開発される可能性はある。一方で問題をさらに悪化させる技術が登場する可能性もある。

　人為的な活動によって何度気温が上昇するのかははっきりとは分からず、正確に予測することは非常に難しい。

　しかし熱中症で大量の犠牲者が出るような可能性は非常に低いと思われる。おそらく最大のリスクは生態系や自然インフラへの影響だろう。

　つまり入手可能な資源が激減することで、疫病の蔓延や核戦争の引き金が引かれるという可能性だ。こうしたドミノ効果をシステミックリスクといい、現在GCRIが研究を進めている分野だ。

6. 小惑星の衝突

推定発生時期：5,000万〜1億年に1度　対策優先度：低（2017年現在）

　大気がなければ、地球には小惑星が頻繁に衝突しているだろう。10メートル未満の隕石でさえ、広島型原爆に匹敵する運動エネルギーを持つのだから、これを燃やしてしまう大気の存在は実にありがたい。それでも1,000年に1、2度はそうした隕石が衝突し、100万年に1度は気候に大きな影響を与える1キロ級の小惑星が衝突する。

　さらに6,6000万年前に恐竜を滅ぼした180キロ級の衝突なら5,000万〜1億年に1度の割合で起きる。天文学者、数学者、地球物理学者のコミュニティが協力して、そうした衝突する可能性がある小惑星を常に監視している。

　有事の際には、小惑星を白く塗り太陽風で軌道をそらす、重力トラクター宇宙船で押しのける、宇宙船を突っ込ませる、レーザーや熱核爆弾の使用する、といった選択肢が考えられる。

7. 世界がシミュレーションであると証明される

推定発生時期：不明　対策優先度：非常に低い

　複雑なリスクを推定する上で、我々の知識は限られている。中でも最も深遠な可能性は、この世界がコンピューターの中のシミュレーションに過ぎないかもしれないということだ。

　シミュレーション仮説とは、人間の歴史や文化が高度な生命体による実験や遊びでしかないと説く説である。ボストロムによると、これが考慮されるのは、それが「未来や世界における我々の立場ついて信じることを制約するから」だ。

　この仮説に似たものとしてボルツマン脳問題がある。これは、人間のような自意識ある存在が、多次元宇宙の中でランダムなゆらぎのために生じた、と考えるものだ。量子論は、最小量のエネルギーが時折分子を発生させることがあると示唆する。すなわち無限の時間があれば、自意識を持つ脳を発生させることもあるということだ。

　シミュレーション仮説の支持者の中には、宇宙が驚くほど秩序立っていることの理由として援用する者もいる。一方でボルツマン脳が存在するはずがない理由を証明しようとする学者もいる。しかし人類の存亡リスクとして掘り下げられることはあまりない。真実であることが明らかになったとしても、我々にはどうしようもないことだからだ。

8. 食料不足による世界的な飢饉

推定発生時期：2050年　対策優先度：高

　世界の人口は2050年までに96億人に達すると予測されている。世界的な飢饉を避けるには、30年かそこらで食料生産を70パーセント増加させなければならない。食料生産技術の革新が急務であるが、土壌の浸食によって耕作地が減少しているという問題が追い打ちをかける。

　仮に農耕に向かない土地での耕作が可能になったとしても、それは病気への脆弱性を増加させる。穀物として第3位の生産量である小麦なら真菌感染によって全滅する可能性がある。合成ウイルスが登場すれば、大災害のリスクはいやが上にも増大するしかない。

　専門家によると、その影響は2020年頃から価格の上昇という形で実感されるという。そして今世紀半ばまでには途上国で致命的な状況になる。食糧不足は暴動や政治的な不安定を引き起こすが、それによる社会崩壊については驚くほどほとんど研究されていない。

9. 真の真空が光速で宇宙を飲み込む

推定発生時期：技術的には現在　対策優先度：非常に低い

　粒子加速器による終末のシナリオもある。これは複雑な領域だ。

　ここ10年ほど、加速器による粒子の衝突によって、全物質の構成と物理法則を変化させる反応が引き起こされる可能性があると推測されてきた。

　最近の議論によると、従来考えられてきたものは実は粒子を含む真空であり、それとは別に宇宙には完全な無である”真の真空”が存在している。真の真空は、真空崩壊というプロセスを通じて、宇宙を光の速さで吸い込む潜在能力を有している。現在そうなっていないのは、真の真空がメタ安定状態にあるからであるが、粒子加速器がそれを崩してしまうかもしれないのだという。

　この説に対しては、地球は加速器よりも高エネルギーな宇宙線を常に浴びているが現在も存在している、という反論がある。つまり十分安定しているのだ、と。

　しかしFHIによると、我々の存在は真空崩壊がありえないことの証明にはならないという。なぜなら過去には無数の地球が吸い込まれてきた可能性があるからだ。

　論文では、さらに他の科学論文が間違っているリスクを検証した。結果、計算やモデルのミスにより撤回されるべきものが1パーセント存在することが明らかとなった。つまりリスクなどないとする研究論文ならあなたは99パーセント安心していいが、残り1パーセントは分からないということだ。

10. 暴君によって世界が不安定化

推定発生時期：現在　対策優先度：中

　アメリカでドナルド・トランプが当選した翌日の朝、CSERは会議を開き、その脅威について議論した。またイギリスで行われた欧州連合離脱是非を問う国民投票の後でも同様の会議を開いている。

　こうした出来事は人類に重要な意味を持つ。特に気候変動など、国際的な問題に世界が協力して取り組む能力に対する意味合いという点で重要だ。しかしより重要なのは、こうした出来事が政治的意思決定に与える影響だ。

　それは”ポスト事実絶対主義”の台頭と言うべきもので、CSERのあるメンバーは、トランプの登場によって議論において科学的証拠が考慮される世界から離れ始めたと述べている。それはあらゆる種類の脅威に対応する能力を弱体化させてしまう。

　ヒラリー・クリントンが一般投票で勝利したことを考えれば、アメリカが世界の安定にとって脅威であるという意見は過剰反応かもしれない、という見解もある。

　世界の存亡リスクに含めるメリットはほとんどない可能性すらある。それでも多くの人々にとって、トランプが登場した状況は、現実味を帯びた深刻なリスクと映っている。

via:Apocalypse, now?/ translated hiroching / edited by parumo
▼あわせて読みたい
明日世界を終わらせるかもしれない。人類滅亡10のシナリオ


もし世界が終わるなら？2016年最新版、人類終焉10のシナリオ


世界の終り：地球滅亡の現実的な5つのシナリオ


話は聞かせてもらった。人類が太陽系を破壊する11のシナリオ


この宇宙が仮想現実である10の根拠