最近、「AIがこう言ってるんですけど、違うんですか？」という相談が増えている。賢いはずのAIが、なぜかプロを疲弊させている。
AIが生んだ“それっぽい誤り”を、現場のプロが直す──。
そんなおかしな時代に、私たちは足を踏み入れてしまったのかもしれない。

■プロへの後始末丸投げ問題

最近下記Xのポストを見かけたのですが、最近「素人が生成AIで安易につくった低品質のものに、プロが時間を取られて全体の生産性が下がる」という話をあちこちで聞くようになりました。

別の事例では、とある学者に対して「AIがこう言ってる、嘘をついているのではないか」と噛みついた人がAIが出してきたエビデンス（文献、記述等）は全てAIのハルシネーションで、存在しない文献、記述、不可能な出版年のものだった、という事もあったようです。

創作・開発・教育・研究など知的労働領域で、素人が生成AIをつかって大量のそれらしいアウトプットをしてくるがために、それらのチェックコスト、それが存在しないことの証明（反証）や、それではだめな理由の説明、修正にかかるコストが大きいことの説明などで、プロフェッショナルの時間が奪われる現象が起きています。

今回はその点について深堀りをしてみたいと思います。

このブログが良いなと思ったら、noteやXをフォローしてくれると嬉しいです。

■AI民主化の裏で進む、品質価値のディスカウント

生成AIの普及によって「スキルの壁を下げる」一方で、「品質管理のコスト」をプロに押しつけているのです。一方で生成AIが出してくるものはそれらしいものが出てくるため、素人目には「ある程度のところまでは出来ているので、あとの仕上げはプロにおまかせすれば安く済むだろう」という誤解です。

この現象は業界を問わず発生しています

1. クリエイティブ領域：生成画像・動画の低品質修正依頼

2. ITエンジニアリング領域：AI生成コードのレビュー地獄

3. 教育・研究領域：AI作文の真偽確認・剽窃チェック

さらに受託の領域では下記のようなこともよく聞きます

• 他社がAIで作った低品質成果物の修正依頼

• AIがこうすればできると言ってることへの出来ない理由の説明

• AIが作ったものの修正コストは安くないことの説明

なぜこういったことが起きるのでしょうか？
たとえば、最近の現場ではこんな会話が増えていないでしょうか？

「AIがこう言ってるんですが、違うんですか？」
「AIの設計通りに作ってもらえますか？」

どの業界のプロも、こんな【AI上司】の指示を受けているような気分になっているはずです。

■プロの時間を奪う擬似効率の罠

ここまで書いてきたことが起きる構造は下記のとおりです。

• 1️⃣ AIの特性：【AIは“それっぽい正論”を言う】

  • 素人目にそれっぽく見える出力が極めて得意（説得力のある虚構）

  • 大量の情報を短時間にアウトプットできる（一般論ベース）

  • ためらいのない言い切り型のアウトプット（素人に自信を与える）

• 2️⃣ 素人の行動：【素人は「やっぱりAIが正しい」と信じる】

  • ちょっとだけ気に入らない部分をプロに直してもらおう

  • AIのアドバイス・設計通りにプロに作ってもらおう

  • ある程度出来てるから安くできるだろう

• 3️⃣ プロの立場：【プロは「違う」と説明するのに数時間かかる】

  • カジュアルな依頼が増えるのでチェック工数が取られる

  • 部分的に直すのが無理、直せるようにも作られてない

  • AIの提案はコストやトレードオフといった現実的な視点が欠けている

  • それを素人に説明するのにも非常にコストがかかる

• 4️⃣ 結果：【そして、また翌日も同じ質問が来る。──これが現場の地獄】

  • 全部やり直し、再構築でゼロベースより時間・コストがかかる

  • 説明に追われる

  • 全体の生産性が下がる

イラストなどクリエイティブの領域で言えば、生成AIが出力したものはレイヤー分けされていないので部分的修正が難しかったり、遠近法がずれて描かれていたり、それっぽいのだけど構図自体が駄目など、全て再構築する必要があったりします。

もちろん生成AIが全く使えないというわけではなく、プロでもワークフローの中に上手く組込んでいけば生産性は上がります。しかし素人の人がポン出しでつくったクリエイティブを修正するのは調整したり修正することを考えられていないワークフロー、構造となっており、それを修正するのは非常にコストがかかります。

また厄介なのは、素人目にはプロのアウトプットに見える【それらしい】ものを量産できる点と、生成AIは得てして【自信満々に言い切り型】で回答をしてくるため、素人は権威的な専門家にお墨付きをもらったような気持ちになってしまう点です。

膨大な知識を持った生成AIが出した回答のほうが、人間より信頼できるのではないか？と感じやすい点もこの問題を複雑にしています。

つまり、AIはプロの仕事を奪っているのではなく、プロの時間を浪費させているのです。

■ケーススタディ：「各業界で起きている現象」

• 🎨 クリエイティブ領域：

  1. AIで安く作れる業者に頼んだら【超低品質】のものが上がってきた

  2. ある程度は出来てるから安く直してくれないかと依頼される

  3. 「全部作り直さないと無理」と説明するのにも時間がかかる
     説明もただではない

• 💻 ITエンジニア領域：

  1. ジュニアエンジニアがAIで低品質コードを量産

  2. シニアがレビュー地獄

• 💻 設計領域：

  1. 顧客がシステム改善方法をAIに聞いてフローチャートまでついた詳細な内容を送ってくる

  2. それらしいがコスト、トレードオフ、リソースが考慮されていない

  3. 確認や駄目なことの説明で疲弊

• 🏫 教育領域：

  1. 学生がAI作文

  2. 教員が剽窃確認で疲弊

• 📊 ビジネス領域：

  1. 生成AIで作られた提案書・レポート

  2. 上司が全部修正

■AIは説得力と、誤りを量産する地獄絵図

ケーススタディで挙げた内容について、パターンとしては下記３つに集約されそうですが、どれも地獄です。

• ①大量生産→チェック・修正で疲弊

• ②AIで計画・設計の検討→内容の確認とだめな理由の説明で疲弊

• ③AIで途中までやったのであとは簡単→簡単じゃない理由の説明で疲弊

生成AIは、眼の前にある個別性の高い解決すべき問題に対して、「現実的で、コスト、トレードオフ、リソースを考慮した現実解」ではなく「一貫してそれらしい一般論」を自信満々に生成します。素人はAIの回答に強い説得力と権威性を感じ、誤った方向に強いバイアスがかかります。

それに対してプロフェッショナルが「現実的でない理由を説明する」「AIの言うことが誤っていることを説明する」コストを払う構造が、あらゆる現場で発生しています。

また知識量が多い生成AIによって助言を受け【自信をもった素人】に、なぜ眼の前にある問題にはその助言は有効でないか、プロフェッショナルである自分の言い分のほうが正しいと考えるかの説得コストを払う必要が発生しています。

これは誰がハッピーになる展開のでしょう？　多分誰もハッピーにはならず、プロの貴重な時間を奪い、社会全体の生産性を下げ、損失を増やすだけの地獄絵図に見えます。

つまりAIの民主化とは、非常に博識で、眼の前にある個別具体の現実を無視した、正論ばかりを次々と自信満々に返してくる疲れ知らずのモンスター（生成AI＋素人）と、現実に即した解決法を考える専門家の、終わりのない消耗戦の幕開けなのかもしれません。

■どうしていくべきなのか

これらの課題に対して、まだ明確な解はありませんが、今後プロフェッショナルは、知識よりも判断とその妥当性の説明に重き置かれる流れは止められないでしょう。

一般論ではなく、テキストには起こされていない（AIが学習していない）、生の経験から得たもの（実際に製品を市場に出した反応や、個別具体の詳細な事例、暗黙的な文化や現場感覚の情報等）がプロフェッショナルにはより求められるようになると考えられます。

また、依頼者側は、生成AIが出してきたものをプロに丸投げするのではなく、中身を理解し、自分の言葉で説明できる状態まで持っていってからプロと話をするといったプロセスも重要になると思われます。そうでなければ生成AIによって社会全体に無駄なコストを生み出すだけになってしまいます。

■まとめ

生成AIは能力のブースターです。有能のブースターにもなれば、無能のブースターにもなるのです。あなたの現場では、AIによる【疑似効率化の地獄絵図】がどんな形で現れていますか？

ぜひコメント欄で教えてください。実例が集まれば、次の記事で続きを書きたいと思います。

最後までお読みいただきありがとうございました。この記事が良いなと思ったら、ぜひnoteやXをフォローしてください。

ちなみに、paizaはIT・AIエンジニア向け国内最大の転職・就職・学習プラットフォームです（paiza.jp）。生成AI講座も無料で学べるので、よかったら使ってみてください。

関連記事