Post

Conversation

d
@rom13856511
Anthropic社のCEOが書いたエッセイは、AIの未来について極めて重要な考えを提示しています。私自身、このエッセイに深く魅了され、何度も繰り返し読んできました。以下にその要点を簡潔にまとめましたので、ぜひご確認ください。👇 --- 【圧縮された21世紀】 ・⭐️ほとんどの人は、AI のプラス面がどれほど劇的なものになり得るかを過小評価している ・⭐️同様に、ほとんどの人はリスクがどれほどひどいものになり得るかを過小評価している ・⭐️強力なAI（powerful AI。≒AGI）は2026年という早い時期に登場しうる ・ただしそれよりもずっと時間がかかる可能性もある ・AGIという用語はSF的な要素や誇張を含んだ不正確な表現なので、「強力なAI」や「エキスパートレベルの科学と工学」という表現を好む ・⭐️強力なAIはノーベル賞受賞者よりも賢くなる ・未解決の数学定理を証明する ・難しいコードベースをゼロから作成する ・人間が利用できるあらゆるインタフェースを備える（テキスト、音声、ビデオ、マウス、キーボードの制御、インターネットアクセス） ・人間から指示を受け取り、材料の発注、実験の指示、ビデオの視聴、ビデオの作成等が可能。これらの作業はすべて、世界で最も有能な人間を上回る能力で実行される ・⭐️受動的に質問に答えるだけではなく、数週間にわたる作業を指示することもでき、必要に応じて説明を求めながら、それらの作業を自律的に実行する ・⭐️理論的には、ロボットや装置を自分で設計して使用することもできる ・人間のおよそ10倍から100倍の速度で情報を吸収し、行動を起こす ・AI同士が協力して作業する ・⭐️これらを「データセンター内の天才たちの国（a country of geniuses in a datacenter）」と要約することができる ・⭐️今後50～100年かかると思われていた進歩を、強力なAIによってわずか5～10年で達成できると考えており、この現象を『圧縮された21世紀』と呼ぶことにする 【シンギュラリティ】 ・⭐️シンギュラリティ（優れた知性が自らを強化し、科学、工学、運用上のあらゆる課題をほぼ瞬時に解決することで、世界が数秒、数日の単位で一変する）の考えには問題がある ・ハードウェアの製造や生物学的実験等には現実的な物理的限界があり、こうした限界にぶつかる ・一方でデータや社会的要因により技術の進歩が飽和し、人間を超える知性が生まれないという考えも、ありえないように思える ・⭐️実際には、この2つの極端な考え方の混ざり合った、ややこしいものになる可能性が高い 【1. 生物学とフィジカルヘルス】 ・多くの生物学者は生物学におけるAIの価値について懐疑的な見方をしているが、それは誤った考え ・⭐️AIはデータ分析ツールではなく、生物学者が行うすべてのタスクを実行する仮想生物学者として捉えるべき ・これにより研究プロセス全体を高速化できる ・⭐️生物学において知性が果たす役割は大きいため、生物学における進歩の速度を少なくとも10倍にできる ・100倍は可能か？実験等の物理的な「待ち時間」が律速になるため、1年で100倍は難しいかも 圧縮された21世紀に実現されるであろうこと ・ほぼすべての自然感染症の確実な予防と治療 ・ほぼすべてのがんの撲滅 ・遺伝性疾患に対する非常に効果的な予防と効果的な治療 ・アルツハイマー病の予防 ・ほとんどの疾患の治療改善（糖尿病、肥満、心臓病、自己免疫疾患等） ・⭐️生物学的自由（体重、外見、生殖、その他の生物学的プロセスが完全に人々のコントロール下に置かれるようになる。誰もが、自分がどうなりたいかを選択し、最も魅力的に感じる方法で人生を送る力を与えられる） ・2倍の寿命（150歳まで生きられる） ・⭐️さらに150歳まで生きられるようになると、「寿命脱出速度」に到達し、現在生きているほとんどの人が望むだけ生きられるようになる可能性もある ・それは想像を絶する人道的勝利であり、何千年もの間人類を悩ませてきた災厄のほとんどを一挙に根絶することになる ・⭐️強力なAIを予想していた少数派のコミュニティを除いて、これらの変化はすべての人にとって驚くべきものになる 【2. 神経科学とメンタルヘルス】 ・⭐️ほとんどの精神疾患はおそらく治る（PTSD、うつ病、統合失調症、中毒等） ・⭐️大人の脳を可塑的な状態に戻して、形を変えることができる可能性がある ・精神疾患の効果的な遺伝的予防は可能だと思われる ・⭐️精神疾患とはみなされない日常的な問題（怒りやすい、集中力が続かない、不安を抱きやすい等）も解決される ・解釈可能性（ニューラルネットワークの推論過程の解明）は神経科学の理解を深めるためのツールとなる可能性が高い ・マインドアップロードは原理的にはほぼ確実に可能だが、5~10年では実現されず、もっと時間がかかるだろう 【3. 経済発展と貧困】 ・⭐️強力なAIにアクセスできるかどうかで格差が生まれる可能性がある ・すべての人が強力なAIから恩恵を受けられるようにする必要がある ・強力なAIは、先進国に革命をもたらしながらも、発展途上国が先進国に追いつくのを助けるべき ・AIが不平等や経済成長に対処できるという自信は、AIが基礎技術を発明できるという自信ほどはない ・目指すべきゴールは、発展途上国の年間GDP成長率20％ ・AI主導の農業革命による食料安全保障が期待される ・気候変動の緩和が期待される ・国内における不平等の解消が期待される。先進国における国内格差については楽観的 ・⭐️適切な意思決定が苦手な人々が、意思決定能力を向上させるテクノロジーそのものをオプトアウトし、格差がますます拡大し、ディストピア的な下層階級が形成されるといった、悪いフィードバック・サイクルが発生する可能性がある（オプトアウト問題） ・全体として、AIの進歩を発展途上国の人々に迅速にもたらすことに楽観的 【4. 平和とガバナンス】 ・⭐️残念ながら、AIが民主主義と平和を促進すると信じる強い理由は見当たらない ・⭐️AIは、独裁者の主要な道具であるプロパガンダや監視をより効果的に行える ・⭐️自由民主主義と政治的安定の勝利は保証されておらず 、おそらく可能性も低く、大きな犠牲とコミットメントが必要になる ・⭐️強力なAIが誕生したときに、世界の舞台で民主主義国家が優位に立つことが非常に重要（アメリカ vs 中国を想定していると思われる） ・AIを利用した権威主義を考えるのはあまりに恐ろしい ・民主主義諸国の連合が、チップや半導体装置等の主要なリソースへの敵対者のアクセスをブロックまたは遅延させることによって、強力なAIに対して明らかな優位性を獲得すべき（敵対者はたぶん中国を想定している） ・アメ（強力なAIによる強固な軍事的優位性）とムチ（強力なAIによる利益）を利用して、敵対国に競争を諦めさせる ・もしこれらの目標が達成されれば、民主主義国は世界で主導的な立場を確立し、独裁国家からの弱体化や攻撃、妨害を回避できるだけの経済力と軍事力を手に入れる。さらに、AIの技術的優位性を維持し、それを永続的なものに変えることが可能となる ・ただしこれを実現するのは非常に難しく、特に民間のAI企業と民主的な政府との緊密な協力や、アメとムチのバランスに関する極めて賢明な判断が必要となる ・⭐️生物学や神経科学、貧困削減の進歩ほどその実現性に自信はない。もしかしたら非現実的なユートピアかもしれない。 【5. 仕事と意味】 ・⭐️AIがすべてを行うようになったら、人間はどうやって意味を持つのだろうか？ ・明確な答えはない ・⭐️十分に進んだAI主導の経済において、ほとんどの人間が意味のある貢献ができないかもしれない 短期目線 ・⭐️短期的には比較優位が引き続き人間の重要性を維持し、実際に生産性を高め、ある意味では人間同士の競争条件を平等にする可能性がある ・⭐AIが特定の仕事の90%しか得意としていない限り、残りの10%によって人間のレバレッジが大きく高まり、報酬が増加し、実際に AI が得意とするものを補完および増幅する新しい人間の仕事が多数生み出され、「10%」が拡大してほぼすべての人を雇用し続けることになる ・⭐️特に物理的な世界では人間の優位性が相当の期間維持される可能性が高い 長期目線 ・⭐️しかし、長期的にはAIが広範囲に効果を発揮し、安価になるため、この考えは当てはまらなくなる ・⭐️その時点で、現在の経済体制はもはや意味をなさなくなり、経済をどう組織すべきかについて、より広範な社会的対話が必要になる ・⭐️ベーシックインカムは一つの解決策かもしれないが、それだけではこの大規模な経済的転換に十分に対応できない可能性がある ・⭐️大きな経済的転換になるため、何か新しくて奇妙なものが必要になるだろう ・⭐️搾取的またはディストピア的な方向性も明らかにあり得る 【まとめ】 ・⭐️もしこれらすべてが5年から10年の間に本当に実現すれば、長年抱いてきた理想が私たちの目の前で一気に実現するのを見るという経験になる。多くの人が、文字通り感動して涙すると思う ・これは、次の10年間に起こるとほとんど誰もが予想しているものではなく、多くの人にとっては不条理な空想に映るだろう
120.3K
Views