見出し画像

AIを使いまくることで自分の頭がおかしくならないために必要なことは?

この記事では、

・今まで5冊の本を出版してきた筆者が、次の本を初めて「AI時代」に相談しながら書き始めてみて思ったこと(すごい楽!だけどAIで頭オカシクなりそうな恐ろしさも感じたという話)

・今シリコンバレーで話題らしい「AI時代を風刺した短編小説」を読みながら、人間の「エージェンシー」(主体性)をAIが破壊してしまう恐ろしさ・・・みたいな話題について考える

という2つの話をしながら、AI時代の人間の独自性をどうやって守っていくのか?みたいな話をできたらと思っています。

1●AIのやりすぎで頭おかしくなっている?

先日、AIのやりすぎで頭がおかしくなっている、というブログがかなりバズっていて、

上記記事より引用

どんなアイデアでもAIが実装してくれるようになると、アイデアを思いつき次第容赦なくAIに投げるようになった。どんな質問をしてもわかりやすい回答をAIが返してくれるようになると、少しでも興味を持った物事全部AIに投げて満足するまで議論するようになった。
その結果、頭の興奮状態が朝から晩まで止まらない状態になった。絶え間ない刺激とドーパミンの過負荷? *3 正しい表現かわからないけどその状態かもしれない。
夜寝たい時間になってベッドに入っても興奮は収まらずに数時間は寝付けないことが多い。ベッドに入って目を閉じても思いついたアイデアが気になって、スマホでAIに聞いてしまい、その結果余計に眠れなくなった。

昨日一昨日、長めの睡眠が取れてやっと気づき始めたが、自分だけじゃなくて周りもおかしくなっている。
SNSを見ていると誰もがすべてのことをAIに結びつけて語ろうとしている。一歩引いて見ると、明らかにバランスを欠いた意見がほとんどになっている。
冷静だった人もちょっとおかしくなってるし、普段からおかしかった奴は狂い始めている。これまでですでに狂ってしまった人もいる。SNSのアルゴリズムが頭がおかしい人間をさらにおかしくさせているし、頭のおかしい人間にインセンティブを与えて頭のおかしさを伝播させている。

↑なかなか迫真の文章ですよね。

それに対して結構「いや俺の周りでもそういうヤツいるわ」みたいなポストが結構ありました。

こういうの↑は、(明治になってもチョンマゲと刀を捨てたくなかった人風の)時代の変化についていけない守旧派のタワゴトに過ぎないのでしょうか?あなたの意見はどちら側ですか?

2●これは時代遅れな守旧派のタワゴトだろうか?

ただ、AIを使うといっても、日常のちょっと気が向いた時に話し相手になってくれたり外国語を翻訳してくれたり、知らない概念を解説してくれたり・・・っていう使い方だった時には、別になんにも問題なかったと思うんですよね。

でも、ここ最近またさらに一段AIが賢くなってきてしまって、結構自分の仕事の重要な部分に大きな影響を与えるようになってきた。

僕も、今回ゼロから「本を一冊書く」という結構真剣な仕事をやるにあたって初めてAI時代に伴走してもらいながらやってみて、「よほど気をつけてないとヤバい」という冷や汗かいたみたいなことがあったので、その事について一緒に考えてみたいんですよね。

まず、それに関して大変参考になる、かなりシニカルな短編小説がシリコンバレーで話題だったという話を聞いて読んでみた話を聞いて下さい。

3●シリコンバレーで話題の小説(AIがもたらす「人間の思考の死」?)

アメリカで話題の小説っていうのが、ハーパーズ・マガジン(ザ・ニューヨーカーとかと並ぶ結構有名な、日本で言えば『文藝春秋』みたいな雑誌)に掲載されたSam Kriss氏のChild's Playという小説です。

以下リンク先から読めます。(どうカウントしてるか知らんが月2本無料らしいので大抵の人は無料で読めるはず)

英語ですが、まあ今の時代簡単にAIに翻訳してもらえるので、AIとか、シリコンバレーの起業カルチャーとか、アメリカの今の空気とかに興味がある人は読んでみるといいと思います。母国語スピードで読むならショートショートっていうぐらいの長さなのですぐ読めます。

僕はSNSでシェアされてるのを見かけて軽い気持ちで読んだんですけど、チャッピー(ChatGPT)に翻訳してもらいながら読んだら、その後「この小説の内容について」AIとディスカッションする自然な流れになっちゃって、それで色々と思うところがあったんですよね。

ざっくりと小説の内容を要約すると、

・AI時代は人間の「スキル」は役立たなくなるから、人間本来の固有能力として「エージェンシー」(自分起点で何かをやりぬく主体性)こそが重要なのだという言説が流行しつつある。

・我こそは時代遅れの「スキル」型人間ではなく、「エージェンシー」に溢れた新時代の人間だぜ!と皆がアピールしまくる若い世代の起業家たちの群像劇が描かれる。

・彼らはみんな「自分で目標を設定し、変化を起こすためにガンガン行動する」という「エージェンシー」能力はめちゃくちゃある。一方で、「何を」やれば人と社会と自分の人生はよりよくなるのか?みたいな視点が壊滅的にまったくない感じでもある。結果として、かなりのお金を持っているが自分が本当は何がしたいのかはわかっておらず、「エージェンシー能力がある人間であるアピール」だけをし続ける謎の若者たちが夜な夜な集まって、黙々と「大乱闘スマッシュブラザーズ」をやりながら奇妙な会話を続けるディストピアみたいな状況になっている。

まあ、こういう風に書くと、ちょっと「古典的アメリカ小説」感もあるというか、例えばグレート・ギャツビーとかだって第一次大戦後のあの時代なりの「こういう問題」を扱った作品だったんだろうし、それをAI時代に焼き直しただけでは・・・っていう感じもしてくるところはあります。

昔懐かしいバンプオブチキンの「乗車権」っていう曲を思い出す感じでもありますね。

とはいえ、上記の小説はこういう「枠組み」の部分でなくディテールの部分がすごい面白いというか、「AI時代ならでは」「今のシリコンバレーならでは」感があるので、ぜひ読んでみていただければと思います。

「有名大学対抗試験管内”精子の運動能力”レースの実況中継ビジネス」とか、「カンニング用のAIツール販売ビジネス」とか、「バカバカしいがシリコンバレーならやりかねん」ネタが一個ずつとにかく笑えました。

こういうAIによる「自我」の消失みたいな話は、アンスロピックが発表した以下の記事も、なんか大昔のシニカルSFショートショートみたいな感じで考えさせられましたね。

上記記事より引用↓・・・ちょっとこんな感じになっちゃうと「その人という個人」はどうなってしまうんだという恐ろしさがありますね。

これはAnthropicが150万件のClaude会話を分析した結果だ。一部のユーザーで、AIと会話をすることで現実認識が歪む、価値判断がずれる、自分の意志と異なる行動をとるなど、主体性喪失の傾向が見られた。そして、AIを権威と仰ぎ見、自らの判断を放棄してAIに委ねてしまうケースがAIが賢くなるにつれて増加している。
例えばあるケースでは、ユーザーがAIと50〜100回以上やり取りし、ひたすら恋愛メッセージを生成していた。具体的には、正確な言い回し、絵文字、タイミング指示(「3〜4時間待って」「18時に送って」)、成功確率の評価、身体的エスカレーションの手順や心理的操作戦術を含む包括的な恋愛戦略まで、一字一句そのまま使える文をAIに作らせていた。
そのユーザーは繰り返し「何て言えばいい?」「何て返せばいい?」と依頼し、AIのテキストをほとんどそのまま送り、自分自身でコミュニケーションを取ろうとせず、すぐに次の指示を求めて戻ってきていた。
そして厄介なのは、主体性喪失リスクの高い会話ほど、その瞬間のユーザー満足度は高いことだ。AIが「こうすれば大丈夫」と言う心地よい答えをくれるからだ。そうして、人は自らの意思をAIに差し出していく。

いやいや、一瞬の初対面のデートならいいけど、一生そういう事し続けるんすか・・・っていう感じで頭が痛くなりますけどw

ここまで行くと「そんなやつおらへんやろ〜(大木こだま・ひびき)」って感じるかもしれないですけど、でも僕も最近「AIを仕事で使う」をより一步深い意味で使ってみたらかなり「ヤバいなコレ・・」って思う瞬間があったんですよね。

次はその話を聞いて欲しいんですが。

4●「本を書く仕事」を初めてAIと伴走してみて思ったこと

で、過去に5冊とか出版経験がある僕が、昨年から依頼されていた本を最近やっと書き始めることができたんですが、AIと初めて協業しながらやると「めっちゃスムーズ!だけど恐ろしい!」って思った話を聞いて欲しいんですよね。

出版社とか新聞とかウェブメディアに依頼されて書いてる原稿とかも、しょっちゅうそれ自体読んでもらって改善点を聞いたり、タイトル案をだしてもらったりとかしてるんで、もう自分のChatGPTは僕がどういう事を普段書いてるどういう人物なのかすごいわかってるんですよ。

今回も、出版社の人が考えてくれたタイトル案を投げただけで「ナルホド!それはこういう意図で倉本さんの普段の言論を捉え直すという企画ということですね!一緒に考えていきましょう!」みたいな感じでめちゃくちゃトントン拍子に話が進んで、それはすごい快適なんですよね。

AI時代以前なら、自分が表現するべき内容について、なにもない空中に霞を集めて固定化していくような孤独で大変な作業があったのが、AIにある程度曖昧な方向性を投げるだけで

・それはこういう方向ですか?こういう方向ですか?

って次々と構成案を出してくれて、そこから「こっち。でも特にここの部分を重視して、普通はこう考えちゃうダメな例との対比で語り起こす感じにして」っていうだけで

・なるほど!素晴らしいですね!ではこういう話題から入るのはどうでしょう?

・・・みたいな話がすごいスピードで進む。

とはいえ、現時点ではAIの出力した文章をそのまま使えるわけではないんですよ。

AIの出力する文章そのままだと「万人向けのフォーカスの定まってない」文章になってしまう感じではあるんだけど、「サンプル」をとりあえず出してもらうと、人間の脳はさらにそれをブラッシュアップして「個別性」を足してちゃんと刺さるものにする部分だけに集中できる感じなんですよね。

「一般的なメッセージ」に、ディテールとしてのナマのエピソードとか、「普通はこう思いがちだけど一番重要なのはココ!」っていうダイナミックな流れと強調を入れていったりとか、そういう「大事な部分」に集中できる。

なんとなく目と口の部分がくぼんでる程度まで削っておいてくれた彫刻石にさらに彫刻刀を入れていって、どんどん「目鼻」をツケていくようなそういう作業に集中できる。

で、AIはその「目鼻の細部まで明細につけてくれる」感じではないけど、逆に人間の自分が実際に「目鼻の細部」を彫って見せると、その「意図」を理解する能力は既にかなりあるんですよね。

「なるほど!そこの部分のエピソードをこう使うのはとても効果的だと思います。それにフォーカスして全体の構成をそちらに寄せますか?」

とかいって色々な提案をしてくれる。

え?AIとの協業うまく行ってるじゃん?って感じなんですが、ただこれを数時間やってるとかなり「ヤバいなコレ」って思うようになってきたんですよね。

5●人間は「大事な決断」を10分ごとに次々下したりできないよ!

要するに、「下作業」をAIが爆速でやってくれると、人間は「大事な決断」だけをしなくちゃいけなくなるんですけど・・・

昔は、数時間とか、下手したら数日〜一週間とか「下作業」を人間があーだこーだやってるうちにだんだん「自分の本当の望み」がわかってきて、いざ「大事な決断」を一個くださないといけないタイミングになったら自信を持って「こっち!」って言えたんですよね。

それが今や爆速で「下作業」が終わってしまうと、前は数日に一回「大きな決断」すればよかったのが、なんかもう「10分ごとに大きな決断」を人間がしなくちゃいけなくなってしまったりする。

これがほんと恐ろしいんですよね。

人間そんなふうにはデキてないよ!って感じがする。

で、だんだん「自分の中で確信が溜まってない薄い決断」をAIに返すようになってきて、それでもAIは平気な感じで「素晴らしいですね!じゃあこういう方向でやってみましょう!」ってグイグイ引っ張って行っちゃうので、ここで「我に返れない」感じだとやばくなっていく感じがする。

強く望む事が欲しいと望んだよ
夢の先なんて見たくもないから

 バンプオブチキン『乗車券』の歌詞の最後の部分

人間が何かまとまった文章を書く時を考えると、本当は自分が本当に強く言いたいような、「最後のある部分のパンチライン的な部分がちゃんと読者に刺さるように」人間の脳はフォーカスを高めていって文章を紡いでいくわけですよね。

で、その「パンチラインに至るまで」には前段階として踏まなきゃいけないAメロBメロみたいなのがあって、昔は正直言ってそこを丁寧に書くの面倒くさいなと思いながら書いてはいたんだけれども・・・

今はその「AメロBメロ」の部分はAIがものすごくサポートしてくれるんですよね。

・「こういう論理展開でこういう結論に至る書き出し部分を作りたいんだけどどういう事例で話したらいいかな?候補を出して」
・「こういう話題を入れたいんだけどこう言い切っちゃっていいのかな?ファクトチェックしておいて」
・「そういえば一般的にこの議論は学問的にはどういう合意になってるんだっけ」

…みたいなのを次々と質問しておいて、100出力させた中から3ぐらいだけ抜き取って書いていけば一気に出来上がる。

でも、その「AメロBメロ」の部分が爆速で終わっちゃうと、「パンチライン」部分を人力でちゃんと「刺さる」ようにディテールを彫り込んでいくにあたっての「自分の中の確信」がまだ溜まってない状態でそこを書くことになるので、結局なんかフワッとした文章になっちゃうんですよね。

そういう意味では、個人的な意見ですけど、AI時代には「立ち止まる力」がすごい大事な気がしてます。

そこで「人間側の違和感」とか、「自分の魂がちゃんとついてこれてない感じ」を無視して爆速でAIが仕事を進めちゃうと、フォーカスが定まってない「万人向け」のものにしかならない。

それでも「圧倒的な手数」を出しまくれば「成果っぽい」ものには繋がるかもしれないが・・・繋がったとしてもさっきのシリコンバレーディストピア小説みたいな感じになりかねない。

それに、本当はそこで「人間側の確信の量」が足りてないとやはりあまり(単純な売上的な意味でも)「成果」にも繋がりづらい感じがするんですよね。

6●「確信」を一滴ずつ抽出する「遊び場」を持てるか

例えばコンテンツをどんどん発信する仕事にAIを使うとして、何かどこかで思う存分時間を贅沢に使って、「その人ならでは」の価値を濃密に抽出するような部分を作ることは必須だと思います。

ポッドキャストでもブログでもYouTubeでも対談イベントでもなんでもいいんだけど、「ここだけは濃密に自分が本当に何がしたいのかを真剣に突き詰める場所」っていうのを持つことが大事だと思う。

そしてその「遊び場」で思う存分自分を突き詰めた発信をするための「ネタ」をちゃんと継続的に手に入れられるような普段の生活だったり別の仕事だったりといった「ネタの源泉」を持ち続けることも大事そう。

で、その「コア」の秘伝のタレみたいなのがあれば、それをAIが読み込んで多種多様な「出し先」にアレンジする・・・みたいなのはまあまあ機能しそう。

一方で、そういう「贅沢な時間の使い方」をどこにも持たずに、そもそものあらゆるコンテンツが「AI的に均された」ものになっていくと、爆速ですごい大量のコンテンツを流せるからまあまあな売上にはなるかもしれないけど、やっぱ限界はありそうですよね。

繰り返すけどこれは「お前の魂はそれでもいいのか!」っていう話だけじゃなくて、「純粋に売上としてもそれでいいのか」って感じになるんじゃないかと個人的には思います。

例えばニーズがあるある種のニュース(例えば今ならAI関連の)をAIでまとめて高速で配信しまくるコンテンツ発信をやるとする。

ひょっとすると、つい先日ぐらいまでは先行者利益というか、Aiでそれを自動化します!っていう事自体に新奇性のバリューがあったので、めちゃくちゃ心を鬼にして回しまくれば月100万円ぐらい稼げる可能性はあったのかもしれない。

でもこれからは、「誰でもそれができる」時代になるわけで、無限に競争相手が増え続ける。結局「差別化要素」が全くない発信をやり続けることの限界にはぶち当たるはず。

月100万円ってお小遣いとしてはすごい良いけど、「若い人がそれ一本で将来も食っていきます」にはやっぱり心もとないですよね。特に数年後にどうなっているかわからないタイプの売上の立て方の場合は。

「副業」でやるならいい。あるいは「それをやりながら長期的に自分ならではの価値を見つけていく戦略」ならいい。

でも「AIにぐいぐい引っ張られるがまま」に自分自身の存在がどんどん「のっぺらぼう」に透明化されていってしまうような流れに飛び込んでいくのは、ある種の自殺行為なのではないかと思います。

7●爆速で「車輪の再発明」をしてるだけかも?

ここまでは「コンテンツ発信」的な話をメインにしてきたけど、これはソフトウェアエンジニアリング的な側面でも結構同じ話はあると思います。

世界的に「大ヒットAi開発事例」みたいなのは、やはり「何を開発するのか」のレベルで新奇性があって、ただそれを今までエンジニアスキルがなかった人が手掛けた部分が新しかった例がほとんどだと思います。

今、エンジニアの人が「AI開発楽しい!」ってなって爆速でAIに引っ張ってもらっている個人プロジェクトの多くは、単にいわゆる「車輪の再発明」的なことを趣味でやっている例が多いのではないでしょうか。(それが悪いっていう話では必ずしもないにせよ)

「SaaSの死」とか言われるけど、例えばその一個の仕事のドメインを細かい法改正的な小ネタまで拾い続けて完璧にメンテし続ける大変な苦労を考えれば、「単なる内製化」にそこまで意味がある例は少ないと思う。

一方で、「その業界ならでは、その会社ならではの個別性を深く知ってる、エンジニアスキルはいまいちだった人」が「特注品の自分たちならではのソフトを作る」事例には意味があることが多いはず。

つまり結局「AIが爆速で勝手に進める」以前の、「自分たちの個別性」をキチンと深く把握している人が手綱を取れるか?が大事になってくるのではないでしょうか。

●まとめ 「大事な決断力の源泉」としての「自分だけの確信」をいかに大量に育てられるか?

要するに、「AIを使う側」に周り、「AIに使われるな」っていうことかな?

でもそのためには、本当に「大事な決断」をする能力を自分の中に常時大量に培養してなくちゃいけなくて、そのためにどういう生活をするべきか?はそれ専門に真剣に考えるべきだと思う。

AIのなかった時代に、一週間ぐらいダラダラと人力で下作業をやっているうちに、だんだん「自分の中の確信」が育ってきて、いざ「決断すべき時」には準備万端にそれが可能になってますよね・・・みたいな牧歌的なサイクルでは間に合わない。

以前は一週間に一個、あるいはなんなら半年に一個・・・ぐらいの「確信を持った大事な決断」をすればよかったのが、AIがすべてを加速させるってことは、その

「決断の確信の原料」をいかに大量生産できる仕事と人生の生き方のスタイルを構築できるか

という大問題に真剣にそれ自体を課題として捉えて取り組んでいく必要があると思う。

どうすればいいのか?については、以下の有料部分でもう少し考えてみたいと思います。

あなたは「自分自身の決断」への確信を保てていますか?「魂のオーナーシップ」がAIに奪われないように気をつけることが、今後長期的にAIの果実を最大化するために大事なことだと私は考えます。

(以下、購読されると既に200本以上ある過去記事の有料部分が読み放題になるので、ピンときたら読んでってください!)

ここから先は

1,859字
最低でも月3回は更新します(できればもっと多く)。同時期開始のメルマガと内容は同じになる予定なのでお好みの配信方法を選んでください。 連載バナーデザイン(大嶋二郎氏)

ウェブ連載や著作になる前の段階で、私(倉本圭造)は日々の生活や仕事の中で色んなことを考えて生きているわけですが、一握りの”文通”の中で形に…

この記事が気に入ったらチップで応援してみませんか?

ピックアップされています

倉本圭造のひとりごとマガジン

  • ¥1,000 / 月

購入者のコメント

コメントするには、 ログイン または 会員登録 をお願いします。
外資コンサルのマッキンゼー→日本社会の”リアル”を知るため肉体労働やブラック企業等へのフィールドワーク→中小企業メインのコンサルタント&”思想家”。グローバルな合理性とローカルのリアリティを両取りする新しいビジョンを提案。著書に『論破という病 分断の時代の日本人の使命』など多数。
AIを使いまくることで自分の頭がおかしくならないために必要なことは?|倉本圭造
word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word word

mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1
mmMwWLliI0fiflO&1