AIは自らが“クソ化”することを予測している

先日、わたしはイタリアで休暇を過ごした。最近は誰でもやっているように、旅程表をGPT-5に入力し、おすすめの観光スポットとレストランを訊いてみた。ローマの宿泊予定のホテル近くでディナーに最適なのは、マルグッタ通りを少し歩いたところにあるレストランだ、という答えが返ってきた。実際、思い返しても最高レベルの店だった。

帰国後、そのレストランを選んだ理由をGPT-5に尋ねてみた。次に行くとき予約が取りづらくなると困るので、本当は店名を伏せておきたい（ええい！ うだうだ言わずに教えよう。Babetteというレストランだ。行くならぜひ電話予約を）。返ってきた回答は複数の要素が絡み合った興味深いものだった。地元の人による高評価、食べ歩きブログやイタリアのメディアでの紹介、そしてローマ伝統料理と現代的な料理を組み合わせた評判などを考慮したという。それに、徒歩圏内という点も挙げられた。

もちろん、こちらにも求められる条件がある。信頼することだ。わたしたちは、GPT-5が公正な仲介者として、バイアスなくレストランを選んでいると信用しなければならない。つまり、この店が広告目的の推薦ではなく、人工知能（AI）の利用料が上乗せされているわけでもない、という前提を受け入れるということだ。わたしはこのとき、自分で追加調査をして、おすすめの裏を取ることもできたはずだ（店のウェブサイトは一応確認した）。だが、そもそもAIを使う目的は、そういう手間を省きたいからだ。

AIが推薦店を選んだ根拠についての回答で、その結果に対する信頼は強まったものの、同時に疑問もわいてきた。OpenAIをはじめとする各社はますます強大になり、投資家へのリターンを確保しようとしている。それは、テック系アプリやサービスで避けがたく起きてきた価値の劣化が、AIにもいずれ訪れるということではないだろうか？

作家でありテクノロジー批評家でもあるコリイ・ドクトロウは、そのように価値が減衰していく現象を「クソ化（enshittification）」と呼んでいる。この言葉には次のような含意がある。つまり、Google検索、Amazon、Facebook、TikTokといったプラットフォームは、当初はユーザーの要望に応えることを目的として始まるが、いったん競合に勝つと、さらなる収益増を求め、意図的に利便性を下げるという現象だ。

ドクトロウがこの現象を論じた2022年の画期的なエッセイを『WIRED』が再掲して以来、この言葉はすっかり定着した。その最大の理由は、多くの人が「まさにそうだ」と感じたことにある。「enshittification」は、米国方言通用語協会（American Dialect Society）で23年のワード・オブ・ザ・イヤーにも選ばれた。あまりに広く引用されるようになったため、その言葉の下品さも黙認され、普段ならこうした言葉を避ける場でも見かけるようになった。ドクトロウの近著は、この現象をそのままタイトルにしており、表紙には誰でもひと目でわかる、“あの”絵文字が描かれている。

チャットボットやAIエージェントがクソ化するとなれば、事態はもっと深刻だ。Google検索の有用性が下がるとか、Amazonの検索結果が広告だらけになる、Facebookにはソーシャルな投稿が減ってクリックベイト（釣り記事）ばかりになる──そんなレベルの話では済まない。

AIは、日常の話し相手になりつつあり、さまざまな要求にも即座に答えを返してくれる。世のなかの動きを読み解くヒントを得たり、あらゆる買い物の相談に乗ってもらったり、さらには人生の選択まで、人々はすでにAIを頼りにしている。本格的なAIモデルの開発には莫大な費用がかかるため、この分野で優位に立つのはごく少数の企業に限られるだろう。各社はモデルを改良し、できるだけ多くの利用者に届けるため、今後数年間で何千億ドルもの投資を計画している。

現時点では、AIはドクトロウの言う「ユーザーにとってよい」段階にあると思う。だが、巨額の資本投資を回収しなければならないというプレッシャーは大きく、とりわけユーザー基盤が固定しつつある企業にとってはなおさらだ。そうなると、企業は「すべての価値を自社に取り戻す」ために、ユーザーやビジネス顧客を搾取する方向へ傾き得る、とドクトロウは指摘する。

AIのクソ化を想像するとき、まず思い浮かぶのは広告だ。最悪のケースでは、どの企業が広告枠を買ったかによって、AIモデルのおすすめが変わる可能性もある。現在はそうではないものの、AI企業はこぞって広告表示の導入を検討している。「クールな広告商品を提供できるようになれば、最終的にはユーザーのメリットにもなり、われわれとユーザーの関係にとってもある意味プラスになります」。OpenAIのCEOサム・アルトマンは最近のインタビューでそう語った。

一方で、OpenAIはウォルマートと提携し、ウォルマートの顧客がChatGPTアプリ内で買い物できるようにすると発表したばかりだ。どう見ても相性のよい組み合わせだ。AI検索プラットフォームのPerplexityには、広告の結果を明示的にラベルを付けたフォローアップ回答として表示する仕組みがある。ただし、同時にこうも約束している。「バイアスのない直接的な回答を提供するという当社の信頼性の高いサービスは、その広告によって損なわれることはありません」

こうした境界線は果たして守られるのだろうか？「当社として確実に言えるのは、そんな事態は起こさせないということです」と、Perplexityの広報担当ジェシー・ドワイヤーは語る。OpenAIが最近開催した開発者向けイベントでも、アルトマンは「自社の利益のためではなくユーザーの利益のためのサービスを提供することに、極めて慎重に取り組む必要があることを十分に認識しています」と述べた。

だがドクトロウは、こうした主張を信じていない。近著で彼は、「ひとたび製品をクソ化できる状況が整うと、企業はいつでも製品をクソ化しようという誘惑に駆られ続ける」と指摘している。

AIのクソ化が起きるとしたら、それはチャットボットの対話や検索結果に広告が差し込まれるようになる、という単純な話にとどまらない。ドクトロウは、市場で優位に立った企業がビジネスモデルや料金体系を変えてきた事例を挙げる。例えば23年、テレビゲーム開発ツールの最大手Unityは、新たに「ランタイム料金」を導入すると発表した。あまりに受け入れがたい内容だったためユーザーの激しい反発を招き、撤回を余儀なくされた。

だが、Amazonプライム・ビデオなどのストリーミングサービスがたどった道筋はどうだろう。かつては無料で利用できたのに、いまでは映画の冒頭どころか途中にも広告が挿入される。有料プランにアップグレードしなければ広告を消すことはできない。さらに、Amazonプライムの料金も上がり続けている。こうしてユーザーをサービスにロックインさせておいて、以前より高い料金を課すのは、ビッグテックの常套手段だ。

チャットボットの回答精度をこれまでどおりに維持するには、ある日突然、さらに高額な上位プランへのアップグレードが必要になる──そんな可能性も否定できない。これもまた、クソ化の一種だ。さらには、チャットボットで処理した内容を今後のモデルの訓練に使わないといったん約束していた企業が、その方針を撤回するかもしれない。なぜなら、そうしても許される構造がすでに存在しているからだ。

ドクトロウは近著でAIに触れていなかったため、直接電話をかけて訊いてみた。AIもいずれ“排泄物”のような状態に落ちていくのだろうか、と。彼が名付けたこの忌まわしい現象に、AIがどんな経路で陥るのか、概説を語ってくれるものと期待していた。だが意外にも、彼の見解は違っていた。ドクトロウはAIのファンではなく、AIはそもそも、先に述べた「ユーザーにとってよい」段階にすら達していないと主張する。

それでも、クソ化のプロセスが今後起こりうる可能性は否定しなかった。大規模言語モデル（LLM）という「ブラックボックス」の内部で何が起きているのかほとんど把握できないため、「AIは自分たちがクソ化している状況を偽装することができてしまい、しかもかなりの部分までそれが許容されるのです」と彼は言う。

とりわけAI分野は「経済的に逼迫」しており、企業にはじっくり改善に取り組む余裕がない。そのため、価値を十分に提供する前からサービスがクソ化に向かうことになるという。「経済状況が悪化するなかで、AI企業は考えつく限りの手を必死に打ってくるでしょう」と彼は語った。

AIの価値について言うなら、わたしの見解はドクトロウとは異なる。なにしろ、Babetteを見つけてくれたのだから。ただ、彼が現在の大手テック企業に見いだしたクソ化は確実に存在するし、AIも同じ道を辿りかねないという懸念は、わたしにもある。

そして興味深いことに、GPT-5もこの点で同意した。この問いを投げかけると、GPT-5はこう答えたのだ。「ドクトロウのいう『クソ化』のプロセス──プラットフォームが最初はユーザーのために良質な状態を提供し、その後ビジネス顧客の価値を優先するようになり、最終的には自社利益のためにユーザーを搾取するようになる流れ──は、企業の動機が制御されないかぎり、残念ながらAIシステムにも当てはまります」

さらにGPT-5は、AI企業が利益と権力を拡大するために、自社プロダクトを損ねてしまう可能性のある具体的な手法もいくつか挙げてくれた。AI企業は「自分たちはクソ化しない」と言うかもしれない。だが、その企業の製品自体がすでに、クソ化へと向かう青写真を描いているのだ。

（Originally published on wired.com, translated by Akira Takahashi/LIBER, edited by Nobuko Igari)

※『WIRED』によるプラットフォームの関連記事はこちら。

• プラットフォーム間の壁が崩壊し、相互運用される時代がやってくる
• テクノ封建制の時代へようこそ──クラウド農奴と現代の封建領主たち
• グーグルとマイクロソフトが人工知能を強化するのは、「広告でもっと稼ぐ」ためかもしれない

「THE WIRED WORLD IN 20XX」シリーズは、未来の可能性を拡張するアイデアとイノベーションのエッセンスを凝縮した、毎年恒例の大好評企画だ。世界中のクリエイターや実業家、科学者など40名超のビジョナリーが、テクノロジーやビジネス、カルチャーなど全10分野において、2026年を見通す最重要キーワードを掲げた総力特集！詳細はこちら。