わたしの義父母は、海辺に建つベッドルームふたつのバンガローを所有している。分譲開発された一角であり、50年ほどほとんど何も変わっていない。建物の間はレンガの小径で結ばれ、その小径がヤシの木や南国風のあずまやの間を縫うように海岸まで伸びている。
周辺ではデベロッパーが大型ホテルや分譲タワーマンションを建て始めており、バンガロー群はいつ建て替えられてもおかしくなかった。そうならなかったのは、組合の定款に従って、所有者の80％以上が物件の売却に合意する必要があるからだろう。何事につけても、80％の合意を得られることは、そうそうあるものではない。
ところが、最近になってあるデベロッパーに動きがあった。いくつかの建物に対して、高額と思える提示額で買い取りの申し出があったのだ。何人かの所有者が関心を示した結果、これまで予想されなかったほど広い地所一帯が買い取りの範囲になった。大規模な売買に関して前向きになる人が一定数を超えたため、その買い取り案はにわかに現実味を帯びてきた。悪くない話なのだろうか。交渉はどう進むのだろうか。物件の所有者たちは、疑問を抱えながら話し合いを始めた。
実用レベルの世間知をもったAI
義母のために、わたしはOpenAIのChatGPT 4.5にこの状況を詳しく相談してみた。4.5は、同社の「Plus」および「Pro」版で使える人工知能（AI）モデルで、タスクによっては無料版よりかなり性能が高い。Pro版は月額200ドル（約30,000円）かかるが、これに「Deep research」という機能も含まれている。長時間、時には30分ほども費やしてオンライン検索を実行し、結果を分析してくれる機能だ。このAIに、問題の買い取り案を評価させてみたところ、3分後に長文のレポートが返ってきた。そこから数時間、さらに質問を重ねて答えを反映させながら、何度かレポートを書き直させた。
この買い取り案は安すぎる、というのがAIの結論だった。近隣の物件がそれより高い額で売買されていることが調査で判明したのだ。なかには、売却後の所有者によって「再開発」され、建設できる建物の数が増えた地域まである。つまり、同じ不動産が、取引された額の何倍もの価値をもつようになったということだ。ただし、交渉は難航しそうだという。
わたしは、デベロッパーが建物の半分以上を買い取り、管理組合の過半数を押さえた場合のシナリオを予想させた。そうなった場合、デベロッパーは煩わしい新たな規則や不動産評価査定を導入する可能性があり、売却に傾く所有者は増えるらしい。
だがAIによると、それでもデベロッパーにとっては難しい状況が続くようだ。「分譲物件のうち、半分は再開発できない部分を抱えることになるため、投資が無に帰してしまう。買い取りの資金源となる銀行も過敏になるだろう」とAIは説明した。ぎりぎり21％の所有者が売却に応じなければ、デベロッパーは「資金を失い」続け、所有者は売却額を吊り上げ続けていく。
わたしは満足して、このレポートを義母に転送した。不動産に強い弁護士なら、もっと的確な分析をしてくれたかもしれないが、3分では無理だし、200ドルでは済まなかったはずだ（AIの分析には間違いもあった。例えば、最初は物件の規模を過剰に見積もったりしたのだが、それを指摘するとすぐに修正してきた）。
このとき、わたしはChatGPTにいくつか別の質問をしてみた。当時執筆を計画していた科学分野について、また、6歳になるわが子がロボットのプログラミングに使えるように古いコンピューターのセットアップの仕方について、さらに「AIのゴッドファーザー」として知られるジェフリー・ヒントンについてわたしが少し前に書いた記事に基づくファンフィクションを書かせる実験も試みた（生成されたのは、こんな文章だった。「レポーターのJoshは、その日朝早く家を出て、出発する船から手を振った……」）。
だが、分譲地についての回答は、それらの問いへの答えとは違っていた。仮定の話ではなく、現実的に金銭のからむ面倒な問題について手がかりを示したのだ。ひょっとするとAI自身への報酬も含んだ金額まで計算した可能性もある。それは一定以上の、世間知と考えられるレベルの実用性だった。そういう知恵は人間の直接体験から得られるものとわたしは思っていたのだが、浅はかだったかもしれない。
わたしは、長年AIをテーマに追いかけ続けている。不動産に関する調査をはるかに超える機能があることもよくわかっている。それでも、AIには依然として「すごいな」と思うときもあれば、「だめだ、こりゃ」と思うときもある。
最初に自動化されるのはAI研究者!?
AIの答えをどのくらい本気で受け取るか、わかっていない人は多い。把握が難しいのは、技術として新しいからでもあり、流行が邪魔をしているからでもある。未来は予測しがたいというだけの理由でセールストークに耳を貸さないのは賢明だ。けれども、流行に抵抗するのは、過剰な人気に対する一種の免疫反応にすぎず、事態を明らかにする足しになるとは限らない。
1879年、『The New York Times』は電球について、1面で多段の特集記事を組んだ。「エジソンの電球──その実用性をめぐり割れる議論」という見出しだった。「科学的見解」というセクションでは、スティーブンス工科大学の初代学長の言葉が引用されている。「エジソンによる電球の実験を『すばらしい成功』と喧伝することに抵抗を感じる」という発言だ。これは決して、理性を欠いた発言だったわけではない。これ以前の何十年間も、発明家たちが実用的な電球を製造できずにいたからだ。つまり、エジソン以前の状況については、学長の流行批判は妥当だったのである。
AIの流行に対する抵抗は、ふたつの傾向に分けられる。そのひとつは、AIの進化が遠からず停滞期に入るという考え方だ。AIはこれからも、事前に計画を立てるのが苦手で、直感的にではなく明確な論理に沿って思考することも不得手だろうと予測する。この理屈に従えば、いわゆる汎用人工知能（AGI）、つまりおおよそ人間に等しい知的能力と自律性を獲得した段階に達するには、いま以上のブレイクスルーが必要になる。
もうひとつは、この世界を変えるのはとにかく難しいとする立場だ。至って賢いAIの力によって電力網の設計を改善できるとしても、実際の建設に動くには説得力が必要になる。この考え方に沿うなら、進歩は必ずボトルネックによる制約を受ける。そのため、一部の人にとっては安堵する要因になるだろうが、AIが社会に組み込まれるには時間がかかる。
確かに、このような考え方は説得力がありそうで、その静観姿勢は人々の安心感を誘う。だが、『The Scaling Era: An Oral History of AI, 2019-2025（スケーリングの時代：AIをめぐるオーラルヒストリー、2019～2025年）』［今夏発売予定：未邦訳］に、こうした意見はほとんど見当たらない。ポッドキャスターのドワーケシュ・パテルがAIの内部関係者から話を聞いたインタビューの抜粋集だ。
インタビュアーのパテルは24歳の鬼才で、誰も思いつかなかった、あるいは尋ね方すら知らなかった詳細な疑問をAI研究者にぶつけ、ポッドキャストで多くのファンを獲得している（去る3月には、DeepMindのショルト・ダグラスにこう質問している。「思考連鎖（Chain-of-Thought）をファインチューニングすると、キーと値の重みが変わり、KV（キー/値）キャッシュで、隠された情報の埋め込みが可能になるという主張でしょうか？」）。
同書のなかで、パテルはいくつものインタビューを自在に編集して、AIが歩んできた軌跡の全体像を紡ぎ出している（タイトルは「スケーリング仮説」に由来する。AIを大きくしていけば急速に賢くなるという考え方であり、これはいまも通用しているように思われる）。
同書でインタビューに応じた人のほとんどは、AIの進化が停滞期に入るとは答えていない。マーク・ザッカーバーグのような大物から、現場のエンジニアリングやアナリストに至るまで、その点は同じだ。それどころか、ほとんど全員、AIは驚異的な速度で進化していると指摘しており、AGIが2030年までに、あるいはそれ以前に到来すると語る人も多い。
そして、文明の複雑さがその勢いに歯止めをかける気配はない。研究者の多くは、今年の後半か来年には登場するとされる次世代のAIシステムが決定打になると確信しているようだ。そうなると、知的労働の自動化が広く普及し、テクノロジーが加速する時期が始まって、経済的にも地政学的にも大きな影響が生じることになるだろう。
AIチャットボットは言語ベースという特性があるため、著述業や弁護士業、教育、カスタマーサービスなど言語中心の業務にそのシステムを利用できる未来は想像しやすい。しかし、AIの開発者が力を注いでいる分野はそこだけではない。
「最初に自動化される職業のひとつは、AIの研究者あるいはエンジニアでしょう」。OpenAIでかつてアラインメントの研究者だったレオポルド・アッシェンブレナーは、パテルにこう応じている。
アッシェンブレナーは、19歳だった2021年にコロンビア大学の卒業生総代を務めたという人物だが──自身のウェブサイトには、“前世で”経済成長を研究したと記している──もし、テック企業がAI化された「研究者」の大群を集め、そうした研究者AIがAIをさらに賢くする方法を見つけたら、その結果はインテリジェンスのフィードバックループということになると言う。「事態は一気に進む可能性があります」。
AI化された研究者は、ロボット工学などの分野に分化していくかもしれない。ある国が、そうした取り組みで他国より先行すれば、「軍事競争などの行方を決定的に左右しかねない」というのだ。そうなったら、最終的には政府がデータセンターを狙ったミサイル攻撃を検討するようになるかもしれない。「スーパーインテリジェンス」、すなわち人間の知性をはるかに超えた存在をいまにもつくり出しそうだという根拠からだ。
「要するに、わたしたちは核による報復という脅威でデータセンターを守るような立場に追い込まれます。妄想のように聞こえるかもしれませんが」とアッシェンブレナーは締めくくった。
以上は最も極端なシナリオだが、これほどではないシナリオでも影響はやはり甚大だ。経済学者のタイラー・コーエンは、どちらかというと段階的な進歩を唱える立場をとる。「人生は複雑だ」という姿勢で、コンピューターの知性がいかに進化しようと、世界は解決できない多くの問題を抱えているものだと説く。
コーエンによると、世界的に見て研究者の数は以前から増加しつつある。「中国、インド、韓国は、最近科学分野の人材を世界経済に投入した」が、それにもかかわらず、SF的なレベルで大幅にテクノロジーが加速したりはしていない。むしろ、AIはおおむね20世紀半ばに起こった変化に似たイノベーションの時代をもたらすのではないか、とコーエンは考えている。
当時の世界は、パテルが説明しているように、「V-2ロケットから月着陸までが20数年」だった。期待がしぼむような見方に聞こえるかもしれない。アッシェンブレナーの意見と比べれば確かにそうだ。だが、その20数年間が人類にもたらしたものを考えてみるといい。核爆弾、人工衛星、ジェット旅客機、緑の革命、コンピューター、心臓切開手術、DNAの発見などがあったではないか。
イリヤ・サツケバーは、OpenAIを共同創設したチーフサイエンティストで、『The Scaling Era』のなかではおそらく最も発言が控えめだ。AGIの到来はいつだと思うかとパテルに問われたときも、「具体的な数字は挙げられません」と返している。
そこでパテルは作戦を変え、AIが「経済的に極めて大きな、例えば航空機並みの価値をもち」、経済の大部分を自動化するようになるまでどのくらいかかると考えるか、と訊き直す。サツケバーは、コーエンとアッシェンブレナーの中間あたりの立場をとっており、AIが航空機のような段階をたどる過渡期には「たっぷり何年もかかります」と答える。ところが、あとから振り返れば、それが「わずか1、2年としか感じられないかもしれない」
つまり、「iPhone」が発売された07年から、10億人がスマートフォンを持つようになった13年頃までの期間に近いということだろう。ただし今回は、新しく普及しつつあるテクノロジーが、さらに新しいテクノロジーの発明を支援するほど賢くなるという点が違っている。
AIがAIを自動化してしまう前に
これらの考え方を、遠い世界の話として放置するのは容易だ。自分ではたぶん観ない映画の予告編を観ているようなものだ。なにしろ、どんなことが起こるか本当には誰も知らないのだから。
いや、本当はわたしたちもいろいろなことを知っている。いまでさえ、AIは多くのテーマについて博士課程レベルの議論や説明を展開できる。タンパク質の立体構造を予測する、コンピューターをプログラミングする、ミームコインの価値を意図的に高騰させる、といったことも可能だ。今後の数年間で大幅に進化すると断言もできる。
そして、人の生き方や働き方、ものの見つけ方、つくり方、創作の仕方を変えるようなAIの用途を人が考え出すことも間違いない。AI技術がどこまで進むのか、概念としてAIは本当に「思考」しているのか、創造的なのかといった疑問はいまも残っている。それでも、今後10年、20年に及ぶ人のメンタルモデルで、AIが一顧だにされないという未来はもはやありえないと理解することは重要だ。問題は、技術の加速がどの程度か、その点に尽きる。
「技術の加速がどの程度か」というのは、科学者が頭を悩ます問題に聞こえるかもしれないが、実際には政治上の問題だ。Open Philanthropyでシニアアドバイザーを務めるアジェーヤ・コトラが表明しているのは、AIの加速がもっとゆっくり進む「夢の世界」のシナリオだ。
その世界では、「科学というものの性質から、知能の階層を急激に突き進んでいくのは容易なことではありません」とコトラはパテルに答えている。「AIがAIを自動化するループ」の開発が遅れているなら、人工知能の応用を「社会が形式的にも文化的にも規制するチャンスは十分にあります」。コトラはそう説明する。
言うまでもなく、そうはならない場合もあることをコトラは承知している。「わたしが懸念しているのは、影響力の大きいことが次々と、あまりにも急速に起こる未来です」とコトラは言う。最も厄介なシナリオが現実味を帯びてきたため、AIの研究者たちは微妙な立場に立たされている。
AIの可能性を確信しており、その価値を低く見積もりたくはない。その一方で、なんらかのかたちでAIがもたらす終末に自分たちが加担するという不安も当然ある。しかも、想像をかき立てられる可能性にも強く惹かれている。
こうした相反する心境から、AIをめぐる議論は極端に走ってしまう（例えば、「Asianometry」というYouTubeチャンネルを運営しているジョン・Yは、パテルにこう応じている。「ChatGPT-5が世間の度肝を抜くようなものでなかったら、わたしたちは、たんにラリってただけってことになる」）。このメッセージからは、コンピューター科学者ならぬわたしたち一般人が口を挟む必要はないということが伝わってくる。
AIは、失敗に終わるか世界をつくり変えるかのどちらかだ。その結果、AIが現実になりつつあるにもかかわらず、その意味を想像しているのはほとんどが技術関係者だけになっている。AIはわたしたち全員に影響するが、AIによる政治が実現するのはまだ先のことだ。
無理もないだろう。市民社会はいま、ドナルド・トランプを中心とする政治的・社会的な危機に完全に呑み込まれており、世界を覆い尽くそうとしている技術革新に目を向ける余裕はほとんどなさそうに見えるからだ。だが、わたしたちがいま意識的にならなければ、AIがわたしたちの社会を変えていく方向性は、AIをつくり出している人々の手に一方的に委ねられてしまう。
AIをつくっているのは、優秀な人材だ。それは間違いない。それでも、失礼にならない程度に言うが、その人たちが世間一般でないことは見逃せない。一定以上の技術とそれに対する強い関心を、そして特有の価値観をもつ人々なのだ。
『The Scaling Era』のなかでも特に重要な箇所で、パテルはAGIが出現してからはどうするつもりか、とサツケバーに尋ねている。何ひとつ不自由のない「老人ホーム」で暮らすことに、不満は感じないのか。「AGIの到来以降にわたしが何をするか、ほかの人が何をするかというのは、なかなか厄介な問題です。人は、どんなことに意味を見いだすのでしょうか？」と答えたうえで、サツケバーはこう続ける。
「でも、それはAIで答えられる疑問です。わたしたちはいま以上に啓蒙される、とわたしは考えています。AGIと向き合うようになるからです。AGIの力で、わたしたちは世界を正しく捉えられるようになり、AGIと向き合うことで内面が向上していきます。瞑想における最高の指導者を想像してください。きっと助けになるはずです」
AIの世界にいない人間の責任
人は──コンピューター科学者でもなく、AIの開発に生涯をかけてきたわけでもない一般の人々は、AIとの対話を通じて人生の意味を見いだしうると考えるものだろうか。機械が自分たちの「内面を向上させる」と考えるものだろうか。確かに、途方もない発想ではない（最終的にそれが正しかったということも、ひょっとすると、ありえなくはない）。だが、だからといって、その発想の背後にある世界観が、新たな技術時代に向かおうとするとき、わたしたちにとって目指して進むべき道標になるとは限らない。
難しいのは、その対極にある見解──わたしたちがAIに何を望み、何を望まないかを的確に語れる見解──を述べるためには、人間性をめぐる真摯で知的な作業が必要になることだ。対象は多岐にわたり、政治、経済、心理、芸術、宗教などにまで及ぶ。そして、その作業に費やせる残り時間は限られている。
いまこの瞬間に、AIをめぐる対話に自分たちの意見を挟むのは、わたしたちの、AIの世界にいない人間の責任だ。人間について、そして社会について、わたしたちが価値を置くものは何なのか。どんなところでAIの力を借りたいのか、どんなときに介在して欲しくないのか。
学校がコンピューター画面に置き換わったとき、わたしたちはそれをAIの失敗とみなすのか、それとも成功とみなすのか。長く続いてきた制度、例えば大学、行政、職業などがAIに置き換わった場合はどうか。AIが友人に、親友に、恋人になったとしたら、それは限度を超えていることになるのか。だとしたら、それはなぜなのか。
AIが成功したかどうかは、AIが政治とのバランスをいかに取り戻せるかという尺度で、あるいは、ともすれば損ないかねない制度をAIがどのくらい増強するかという尺度で測られることになるだろう。逆にAIの失敗は、人間の知性と自由がもつ価値をどれほど侵食したかによって決まるだろう。
いずれにしても、AIをコントロールするには、これまで意識してこなかった人間の新しい価値観を議論し、訴えていく必要がある。そうしない限り、わたしたちは未来をひと握りの人間に手に委ねることになる。テクノロジーの仕組みや、その発展の速度に興味のほとんどが向いているような人間の手に。
（Originally published on The New Yorker, translated by Akira Takahashi/LIBER, edited by Nobuko Igari)
※『WIRED』による汎用人工知能（AGI）の関連記事はこちら。
雑誌『WIRED』日本版 VOL.56
「Quantumpedia：その先の量子コンピューター」好評発売中！
従来の古典コンピューターが、「人間が設計した論理と回路」によって【計算を定義する】ものだとすれば、量子コンピューターは、「自然そのものがもつ情報処理のリズム」──複数の可能性がゆらぐように共存し、それらが干渉し、もつれ合いながら、最適な解へと収束していく流れ──に乗ることで、【計算を引き出す】アプローチと捉えることができる。言い換えるなら、自然の深層に刻まれた無数の可能態と、われら人類との“結び目”になりうる存在。それが、量子コンピューターだ。そんな量子コンピューターは、これからの社会に、文化に、産業に、いかなる変革をもたらすのだろうか？ 来たるべき「2030年代（クオンタム・エイジ）」に向けた必読の「量子技術百科（クオンタムペディア）」！詳細はこちら。
