Pinned
3本目投稿しました！
今回はAGIの早期実現とその影響について解説しました。2030年までにAGIが実現する可能性が高まっており、もしかしたら今後数年以内に世界が本当の意味で"変わる"可能性があります。
youtu.be/tEWFotYMkjM?si
プロイカ【ゆっくり解説】
プロイカ【ゆっくり解説】
372 posts
プロイカ【ゆっくり解説】’s posts
AIによって日に日に「知能の値段」は下がり続けている。理3に余裕で受かるAIが月3000円で使えるのは異常事態。これまで一般人は何をしても東大卒が解ける問題を解くことはできなかったけど、今では適当にo3使ったら一瞬で解ける。今後もこの傾向が続けば今のヒエラルキー構造が激変するかもしれない。
「AGIによって頭脳労働は代替されるからホワイトカラーはオワコン。これからは肉体労働の時代」って言う人よくいるけど、結局ブルーカラーも代替されて全員失業しそう。最近のロボティクスの発展だけじゃなくて、AGIがあれば研究も自動化できるから汎用ロボットも作れる。そうなれば結局全員失業。
今後AIによって労働を自動化できるようになった場合、非正規と新卒から大量失業が進行する。今の失業保険は「次の仕事がある前提」で設計されてるから、AGI時代には焼け石に水。非正規は全体の37%もあり、ベーシックインカムのような恒久的な所得保障がなければほぼ確実に大規模な社会不安につながる。
今後"頭の良い人"の役割はAIにどんどん代替されていく。サム・アルトマンが言ったように「今の子供たちがAIより賢くなることは絶対にあり得ない。」そんな時代にいまだに詰め込み型の偏差値教育を続けるのは流石に時代遅れ。よりAI時代に適したことを学ぶべきだと思うけど、そのためには大改革が必要。
「今のAIはただのLLMで次の単語を予測してるだけ」と軽視する声が多いけど、そもそも人間の脳も次の感覚入力を当て続ける予測符号化機械では？しかも最新のAnthropicの研究でLLM内部に〈ゴール→サブゴール→手順〉の階層的な計画が自発的に形成されてると分かった。舐めてると絶対に置いてかれる。
AIが実用的になったとき最初に吹き飛ぶのは“新卒雇用”だと思う。日本は解雇規制があるから、AIで自動化できても既存の正社員を解雇するのは難しい。でも新卒雇用は簡単に切れる。なぜなら取らなかったらいいだけだから。経営陣がこれに気づいたら終わり。"29卒"は虚構のまま終わるかも。
一時期は「Stop AI」系に共感しそうになったけど、最近はもう「人間はこのまま放っておいたら必ずﾀﾋぬのだから、それならユートピアか滅亡かの2択に賭けるのも悪くはないな」と思い始めてる。
超知能の賭け。賭け金は全人類の命。
(1/9)
『AI・人類・技術的特異点』
amazon.co.jp/dp/B0D2MK8KY4
- 4つの媒体にて無料配信
- 以下のスレッドにて全文公開
■目次
ー前文
ー第一章 最も重要な５つの論題
1.AGI
2.超知能
3 AIアライメント
4 AIガバナンス
5.存亡リスク
ー第二章 各国政府への政策提言
2本目投稿しました！
今回は以下4つの点から「人間がAIに絶対勝てない理由」を解説しました。
1.肉体的限界がないこと
2.再帰的自己改善
3.ソフトウェア面における5つの利点
4.ハードウェア面における5つの利点
youtu.be/oyTvlQ4Tt6w
素人ながら"AGI"や"超知能"を扱った本や記事を色々と読んできたが、そこから出た結論が「誰1人として何が起こるかは分からない」ことだということに驚愕している。
生成AIはこれから始まるAI革命の黎明期にすぎません。
来年からは本格的にAI革命が始まります。AIエージェント、汎用人工知能(AGI)、そして超知能(Superintelligence)へと至る革命が始まります。
衝撃に備えましょう
近日中に本気でAGI/シンギュラリティ系YouTuber始めます。
並行して「ポストAGI政策提言」もやっていくつもりです。
応援のほどよろしくお願いいたします
「AI」の検索に関する全世界のデータでも一貫して右肩上がりに増加してるから、世間も徐々に気づき始めているように思える。
シンギュラリティ界隈では「世間はまだまだAIに気づいていない」と言われがちだけど、実は急速に浸透しつつあるのでは。
Quote
プロイカ【ゆっくり解説】
@proica1
日本のGoogle検索で「AI」が急に増え始めたのは2023年1月。
面白いのは同時期にChatGPTがユーザー数1億人を突破して、検索数が急上昇したこと。
日本人のAIへの関心は主にChatGPTによって喚起された模様。
今月に出るカーツワイル氏の新作でもシンギュラリティは2045年のままなのだろうか。
AGIとその後の知能爆発が2030年前後に起こるとして、そこからシンギュラリティまでに15年かかると考えるのは少し無理があるのではないだろうか…
私的には、AIの発展は最終的にはポジティブな結果になる可能性の方が高いように感じますね。
AGI/ASIと発展すればその先のシンギュラリティは必至だし、そうなった場合結構な確率でユートピア的世界になるかもしれない。全世界のパイがあまりにも増加しすぎて、もはや誰も独占できないかもしれない。
Quote
元カゲキ派の霊夢
@motok_saikai
もはや、AIという生産手段を労働者階級が奪取するか資本家が保持し続けるかという問題は重要ではない。
そのどちらにおいても歴史は変わらないだろう。
歴史も文明も一旦終了する。
正直、人類が絶滅しない未来を考えることの方が難しい。
シンギュラリティを新しい格差（いわゆる"ホモ・デウス"）と結びつけて語る人も多いが、実はそのようなリスクはほとんどないのではないか。むしろその逆のリスク、つまり「極めて強力なテクノロジーが世界中に普及することで発生するリスク」こそが現実的にありうるのではないだろうか。
超知能を仮定して未来予測を行う場合、超知能後の技術発展のスピードを人間の時間感覚で記述するのは致命的に間違っている可能性がある。
「〇〇までは△年かかる」
「□□までは×ヶ月かかる」
という予測は、その全てが人間の時間感覚に基づいているという点で致命的に間違っているのだろう。
日本のGoogle検索で「AI」が急に増え始めたのは2023年1月。
面白いのは同時期にChatGPTがユーザー数1億人を突破して、検索数が急上昇したこと。
日本人のAIへの関心は主にChatGPTによって喚起された模様。
ヴァーナー・ヴィンジ：「シンギュラリティとは何か？」(1993)/和訳
要約
我々は今後30年以内に、超知能を創造するための技術的手段を手にするだろう。その直後、人類の時代は終焉を迎える。このような進歩は避けられないのだろうか?
Replying to
だからおそらく実行不可能。それに「何を教えるべきか」と言われると、あまり思い浮かばないのも事実。そして暗記系ではない問題は往々にして採点が難しいし、結局詰め込み型教育の方が良いことになる。詰め込み型でも最低限の記憶力と情報処理能力はつくから、教育システムはほとんど変わらない可能性
MicrosoftとOpenAIの巨大スーパーコンピュータ「Stargate」は2028年に稼働予定...
その時に私は何をやっていたいか、何の心配事もなく人類文明の行末を見物したい。よし、モラトリアムをあと4年延長しに行くかー
ありがとうございます！！
元カゲキ派さんの動画は以前から大変面白く拝見させていただいています！
そう言っていただき本当に光栄です！
Quote
元カゲキ派の霊夢
@motok_saikai
正しい。
今一番伸びてほしいチャンネル。
【ゆっくり解説】AGIが近い-数年後までに世界が本当に変わるかもしれないことについて youtu.be/tEWFotYMkjM?si @YouTubeより
"知能爆発"や"超知能"を本気で仮定して未来予測を行うと、タイムラインが急速に縮まるのは当然に思われる。「超知能」が実現して人間の代わりに研究開発を実施すると仮定すれば、物事が進む速度は超知能の時間軸に基づくと思われるので、人間にとっては理解できない速度で物事が進んでもおかしくない。
レオポルド氏も指摘していましたが、「AI研究を高度に自動化できるAI」が出てきた時点で、変化の速度は急速に加速するように思われます。物事が進む速度が人間の時間軸からAIの時間軸に変われば、世界もAIの時間軸に合わせて急進的に変化し始めるのではないでしょうか。
Quote
Tsubame
@Tsubame33785667
シンギュラリタリアンの中でも急進派というか、すぐにでも世界が変わるみたいなことを言う人々もいますけれど。
彼らの素性は様々でしょうが、社会的弱者の立場に置かれている人が特異点の可能性に救いを求めているような場合、20年という時間は待つには長すぎるのだろうなあと思ったりもします。
完全に同感です。人口減少が問題とされるのはそれによって社会機能や経済活動に悪影響が出るから。しかし高度なAIやロボティクスが実用化されれば、もはや社会を維持するのに人間は必要なくなる。その場合には、人口が少ない方が社会全体に利益を分配しやすいなど色々とメリットが多いと考えられます。
Quote
五十嵐勉
火水風
火水風@TsutomuIkarashi
ブラックロックCEOラリー・フィンク氏
「先進国で大きな勝利を収めるのは人口減少国だ。
ロボット工学やAIが急速に発展し、
生産性が変わり、
生活水準が向上し、
人間が機械に取って代わられるだろう」
ターミネーターみたいな世界に
ならなければ良いが...
とりあえず中期的にみて
Show moreThe media could not be played.
約2ヶ月前に出版した『AI・人類・技術的特異点』の発行部数が200冊を突破しました！Kindle Unlimitedでは無料ですので是非ともお読みください！AGI、超知能、AIアライメント等の解説から、政策提言やポスト・シンギュラリティの社会像など内容は多岐にわたります！
amazon.co.jp/dp/B0D2MK8KY4
OpenAIやDeepmindにいるような人達は本当にこのメンタリティに近いのだろうか…しかし、もし近かったとしても彼らを責めることはできない。
未知への好奇心こそが人類を進歩させてきたものだし、それがなかったら永遠と木の実を探し回っていたはずだ。これはもはや全人類強制参加型の賭けだと思う。
Quote
bioshok（INFJ）
@bioshok3
どうしても見たかった。超知能が存在する世界を。どうしても作りたかった。制約のない世界を。人類が絶滅するかどうかなんて知ったこっちゃない。俺はどうしても、そんな美しい世界を見たかったんだ。
Show more
プレ・シンギュラリティとして予測される未来像。この状態も長期的に見たら一時的だろうけど、その間には今以上に「見た目」が重視されそう。
Quote
コスメティック田中
@csmtc_tnk
AIとロボットの発達で本当に働かなくてよい時代が来た場合
・個性、向上心、思いやりで人が判断される
・お金のために倫理観を欠く頂き女子、強盗、迷惑系YouTuberが消滅する
・生きがいとして創造性や仲間が重視される
現代社会からすると温厚すぎる世界が来るんジャマイカ？
Show more
AIの知能爆発が本当に起こったら人間社会における過渡期云々はどうでもよくなると思う。超知能後の世界では科学研究を今の数千倍の速さで進められるようになるから、過渡期が発生する暇もない。
でも超知能が人類に非友好的だったら…実態としては過渡期ではなく存亡リスクだけが存在するように思う。 x.com/EH3rJ4zkAevKu6
This Post is from an account that no longer exists. Learn more
4日前に出版した『AI・人類・技術的特異点』の発行部数が100冊を突破いたしました。日本語圏におけるシンギュラリティとそれに伴う諸概念の普及に1ナノメートルでも貢献できて幸いです！本書はKindle等で全文無料ですのでお気軽にお読みください！
Quote
プロイカ【ゆっくり解説】
@proica1
(1/9)
『AI・人類・技術的特異点』
amazon.co.jp/dp/B0D2MK8KY4
- 4つの媒体にて無料配信
- 以下のスレッドにて全文公開
■目次
ー前文
ー第一章 最も重要な５つの論題
1.AGI
2.超知能
3 AIアライメント
4 AIガバナンス
5.存亡リスク
ー第二章 各国政府への政策提言
AGIが2027〜2029年までに実現する可能性が高いとされる現代において、これ以上ない最高の都知事になりそう。微力ながら応援させていただきます
Quote
安野貴博 @ 新刊『はじめる力』『1％の革命』発売中！
@takahiroanno
本日、都庁にて #東京都知事選 への出馬を表明しました。AIエンジニア、起業家、作家の経験を活かし、未来の東京のビジョンを皆さんと一緒に描いていきたいと考えています。
継続して情報を発信していくので、ぜひXのフォローをお願いします～！
#TOKYOAI
Show more
確かに！world IDに基づいた分配はworldcoinに限定される必要はないのか。worldcoin以外の分配方法もあるはずで、4月末の記事でもAlex Blania氏がそのことを仄めかしているような
Quote
hokosugi.icp
@mugeimunou
Replying to @mugeimunou
ただしワールドコインは見せ金。分配方法は何でも構わない、IDさえ取れれば。マネーゲーム付きマーケティングであるクリプトの本領発揮だと思うわ。その間にスケールするのを待つことも出来るし。
もしかして自民党/日本政府ってバチバチの加速主義？AIの社会実装に関しては日本が世界で1番強いかもしれない x.com/EH3rJ4zkAevKu6
This Post is from an account that no longer exists. Learn more
AI版冷戦が確実に始まってきた。
この図の青と赤はもう2度と交わらないかもしれない。
日本もアメリカの同盟国として「対中国」に本格的に舵を切りつつある。
Quote
ありゃりゃ
@aryarya
トヨタや三菱重工、ディープシーク利用禁止
nordot.app/12622850279660
ヴァーナー・ヴィンジ：「シンギュラリティとは何か？」(1993)/和訳
note版です
note.com/proica_/n/nde2
Quote
プロイカ【ゆっくり解説】
@proica1
ヴァーナー・ヴィンジ：「シンギュラリティとは何か？」(1993)/和訳
要約
我々は今後30年以内に、超知能を創造するための技術的手段を手にするだろう。その直後、人類の時代は終焉を迎える。このような進歩は避けられないのだろうか?
Show more