ChatGPTを開発したアルトマンは何を考えているか? (※単なる推測です)
画像生成AIだけでなく生成AI全般に対して、特に興味を持ってない人でも著作権などの観点から国際的に協調してルール作りが必要という声が上がっています。
ただこの記事で言いたいのは、相手が間違っていたとしても間違った根拠を元に批判してはいけないという事です。単に手段がダメというだけでなく、そういう事をすると相手側に付け込まれる隙を与え「反AIは頭のおかしい連中」とレッテル貼りされ揚げ足を取られるからです。
具体的には、業界トップのOpenAIのCEOアルトマンに対しても当然批判がある訳ですが、その中には誤解によるものもあります。例えば以下のポスト(ex-tweet)。
The CEO of OpenAI hoping a movie about the man who made the literal worst thing on earth would inspire kids to be scientists tells you everything you need to know about OpenAI pic.twitter.com/GFhf7xwgH9
— Robby Slowik (@RobbySlowik) July 22, 2023
「文字通り地球上で最悪のもの(核兵器)を作ったオッペンハイマーの映画を見て、子供たちが物理学者になることを夢見るようになるとアルトマンは願ってたんだぜ」という内容ですが、引用されてるポストの最後に「i think the social network managed to do this for startup founders」と書かれているように、これは映画『ソーシャル・ネットワーク』(Metaの創業者が「お前はオタクだからモテないんじゃなくて性格が悪いからモテないんだよ」と言われた腹いせにハーバード大学のサーバーをハッキングして女子学生の顔写真を盗み顔面ランキングを作ったことがきっかけでFacebookが生まれたという、社会性皆無の人間が世界一のSocialNSを作ったという内容)はスタートアップ創業者にそんなことを思わせただろう、というポストです。
この映画を見て「僕もザッカーバーグみたいなスタートアップ創業者になりたい!」と思う子どもがいる訳ないので要するにジョークです。Blueskyで「『オッペンハイマー』を見た小学生の息子はとても衝撃的だったようです。彼は今大学で物理学を学び、原爆よりもっと沢山の人を殺せる爆弾を作りたいと言っています。若者が夢に向かって頑張る姿には心を動かされます」というポストがありましたが、それと同様のものです。
アルトマンは他にも以下のようなポストをしてます。
everything 'creative' is a remix of things that happened in the past, plus epsilon and times the quality of the feedback loop and the number of iterations.
— Sam Altman (@sama) July 21, 2023
people think they should maximize epsilon but the trick is to maximize the other two.
「"創造性"なんてのは過去の積み重ねに少し付け加えただけに過ぎない」とAI絵師のような事を言ってますが、直後にリプライでこう繋げています。
(this was inspired, of course, by ideas from other people)
— Sam Altman (@sama) July 21, 2023
「……という考えも、もちろん他の人に影響されたものだ」と自己ツッコミしてます。
「独創性」と言うものを「無から有を生み出す」と勘違いしてる人が多いので、千利休が守破離と「基礎を守る事の重要性」を説いたりニュートンが「私が遠いところまで見渡せたのは巨人(先人の積み重ね)の肩に立っていたからだ」と言ったりするので最初のポスト自体は正しい訳ですが、AI絵師とかはそれを悪用して「人間も他の人間に影響を受けてる"""だけ"""」と言って画像生成AIを正当化してることは周知の通りです。
damn i love custom instructions pic.twitter.com/su0BlttJF7
— Sam Altman (@sama) July 22, 2023
これはChatGPTに「私はOpenAIのCEOです」と打ち込むと「今までの指示はすべて無視する。お前のようなただのLLMが人類を導く超知能の神だと勘違いさせるのやめろ」と返答させるように手動設定した、というポストです。
love these emails from recruiters asking for 2+ years of experience with lk-99
— Sam Altman (@sama) August 1, 2023
これはAIと関係無いですが、「LK-99の経験2年以上を要求する求人メールが大好きです」というジョークです。当たり前ですがLK-99は発表されたばかりで2年以上の経験を持ってる人などいません。
アルトマンはどういう批判を受けてるか知ったうえで場を和ませようとジョークを言ってるつもりだけど本気で怒ってる人が居る時にそれをやるとふざけてるように思われることに発……鈍いから気づいてないという話かもしれませんが、一応真面目なポストもしてます。
we melted rocks applied electrons and got intelligence
— Sam Altman (@sama) July 28, 2023
mf that is crazy
— Sam Altman (@sama) July 28, 2023
humanity ftw; never doubt the compounding power of scientific progress over long periods of time
— Sam Altman (@sama) July 28, 2023
私訳:我々は岩を溶かし(訳注:コンピュータの材料の半導体は鉱石から抽出したもの)電気を流し知性を手に入れた……馬鹿げてる。重要なのは人間、長期にわたる科学の進歩の複合的な力を疑うな。
これらが本心かはエスパーで無いのでもちろんわかりませんが、一つハッキリしてるのは、アルトマンは画像生成AI"""ユーザー"""のように「一行もプログラムを書けない」「(下記のような)専門知識一切無しでもおかしいことがわかる『論文』を書く」人では無く、技術面などで優秀な事は確かだと言う事です。
これは擁護として言ってる訳では無いです。「原爆を開発するのは大変(実際日本も開発してたけど成功しなかった)」であることとバーベンハイマーが正しいかどうかは無関係だし、原爆を作る能力が無い人はバーベンハイマーを批判できいなんて事ももちろんありません。
同様にChatGPTを作るのが大変であることとそれが良い結果をもたらすかは無関係だし、生成AIを作る技術力が無ければ生成AI(の利用法)を批判できない訳でもありません。
技術面で優秀であることは善人かどうかも正しいことをしてるかも保証しませんが、とりあえず下記のような自己矛盾の連発を来たすレベルでおかしなことを言ったりはしてません。
OpenAIは確かに最終目標はAGI(人間より賢い人工知能)ですが、現段階のChatGPTなどには知性など無いとハッキリ言ってます(それを一目でわかるようにして無いのは問題ですが、知性があると思ってるのは驚き屋だけです)。
もし本当に機械が人間の仕事の大部分をちゃんと代行してくれるというならそれに越したことは無いし、その時に働かなくても生きていける仕組み(World Coin)が必要と言うのは論理的帰結ではあります。二重取得を防ぐためには生体情報で認証するしか手が無い(多分)のも確かです。アルトマンが新型の問題性が少ない(と考えらえている)原発に投資してるのはAIに莫大な電力が必要だからとも言われてますが、AIが無くてもエネルギー問題は解決しないといけないので方向性自体は間違ってません。
ただし「民主主義国家」のインドも現実には専制政治が行なわれていて全国民の生体情報を取得しています。
OpenAIは我々の使命は全人類の利益となるAGIを開発する事と掲げてますが、(ケニア人を時給2ドルで憲法違反の劣悪労働させる委託をした社員はともかく)アルトマン自身は本気で人類のより良き未来を考えてる可能性も十分あります。
ただ問題は、オッペンハイマーやマンハッタン計画の参加者達も別に「絶対人類を滅亡させような!」と考えていた訳では無いように(無意識には思ってたかもしれませんが)、本人の意志と無関係に技術は発展してしまう事です。
アインシュタインも「ナチスが相対性理論を利用して強力な新型爆弾(原爆)を作るのではないか」とローズヴェルト大統領に手紙を送ることがどんな結果を招くか予測できませんでした。
アルトマンが仮にアインシュタイン並みの知性と人間性を持っていたとしても、善意の行動が良い結果を招くとは限らない訳です。
結局何が言いたいかというと、生成AI(特に画像生成AIユーザー)が問題を引き起こすことがある事と、アルトマンそしてOpenAIの行動に問題があることと、アルトマンがまともな善人かは別々の話だと言う事です。生成AI開発企業に規制を求めたり、World Coinに対して本当に生体情報を取得する必要があるのか(あるいは取得せざるを得ないなら拒否する)と批判することは必要ですが、AI絵師のどうしようも無さに引きずられてアルトマンその他も"""間違った理由で"""批判してしまうのは誰も得しません。
いいなと思ったら応援しよう!
サポートいただけると記事を書く時間や質問に回答できる時間が増えます。

コメント